OpenAI сообщила, что ИИ-агенты в её собственных исследованиях уже выполняют объём работы, эквивалентный 3,1 рабочего дня человека на каждый человеческий рабочий день. Компания также заявила, что достигла цели создать «автоматизированного исследовательского стажёра». Об этом пишет The Decoder.
同時に、OpenAI の最高科学責任者であるヤクブ・パチョツキーは、いかなる研究所も人間との目標整合性やその監視に関して、制限なくペースを加速させるのに十分なほど信頼性の高い制御をまだ備えていないと警告した。
この報告の実践的な意味は、研究業務における AI の役割増大と、残存する制御の限界との間の乖離にある。しかし、情報源はメタデータと簡略な要約のみで提示されているため、声明の詳細とその検証可能性は不明確なままである。
編集部コメント
なぜ重要か
考えられる結果として、AI エージェントの生産性測定への注目が高まり、それらの監視に対する要件が強まることが予想される。次に観察される兆候は、初歩的な手法、タスクの例、またはより詳細な安全性評価の公表となるだろう。現在は The Decoder の要約のみが入手可能で一次確認がないため、実質的な不確実性が残っている。