Генеральный директор Anthropic Dario Amodei выступил за замедление разработки ИИ. По данным TechCrunch AI и The Verge AI, он описал трехэтапный план, который должен дать компаниям время для создания защитных мер, а регуляторам — для оценки моделей.
Первым шагом Anthropic назвала предоставление внешним оценщикам, включая METR, широкого доступа к моделям для проверки соблюдения практик и обязательств в области безопасности. В доступном описании говорится, что этот шаг компания предпринимает самостоятельно.
В материалах также отмечается, что Sam Altman и Amodei, по-видимому, сходятся в идее «сбавить темп». Однако полное содержание плана, его сроки и возможные обязательства других разработчиков из предоставленных данных не ясны.
комментарий редакции
Что это значит
Вероятное последствие — усиление роли внешних оценщиков и появление более формальных процедур перед выпуском новых моделей. Следующим наблюдаемым сигналом станет публикация деталей трехэтапного плана или подтверждение конкретных обязательств со стороны других разработчиков. Существенная неопределенность сохраняется из-за ограниченного объема доступных материалов и отсутствия первичного заявления.