Anthropic の CEO であるダリオ・アモデイは、先端人工知能システムの進展を鈍化させる計画を概説した。その核心には、民主主義国家における AI 研究所間の調整と、独立した安全性評価者が据えられており、TechCrunch AI が報じている。
Предложение появилось через неделю после предупреждения исследователя Anthropic о возможном катастрофическом сценарии, которое привлекло внимание ИИ-индустрии. По данным источника, инициативу уже поддержали некоторые представители отрасли, но она также вызвала критические замечания со стороны генерального директора Nvidia Дженсена Хуанга.
このイニシアチブの意義は、汎用システムの開発ペースをリスクの独立検証と一致させようとする点にある。しかし、入手可能な資料は TechCrunch AI による編集上の要約に過ぎないため、計画の詳細、支持者の構成、およびフアン氏の異議の内容は依然として不明瞭なままである。
編集部コメント
なぜ重要か
考えられる結果として、先端 AI システムの開発者間での独立監査と調整に関する議論が活発化することが挙げられる。次に観察される兆候は、評価基準の具体化またはイニシアチブ参加者のリストの公表となるだろう。提案文書の全文と関係者からの一次コメントが欠けていることにより、 substantial な不確実性が残っている。