Гендиректор Anthropic Дарио Амодеи призвал контролируемо замедлить развитие ИИ. По данным The Decoder, он предупредил, что рекурсивное самоулучшение систем ИИ в течение шести—двенадцати месяцев способно поставить под угрозу весь интернет.
Амодеи предложил внедрять в компании разработчиков ИИ независимых аудиторов, согласовать общие стандарты безопасности и заключить глобальные соглашения по аналогии с договорами SALT о разоружении.
Заявление прозвучало накануне возможного крупнейшего в истории первичного публичного размещения акций. Источник не уточняет, о какой компании или размещении идет речь.
комментарий редакции
Что это значит
Вероятное последствие — усиление дискуссии о внешнем аудите и международных ограничениях для разработчиков ИИ. Следующим наблюдаемым сигналом станет публикация полного выступления, уточнение предложенного механизма контроля или реакция других компаний и государств. Существенная неопределенность сохраняется из-за отсутствия первичного источника и независимого подтверждения.