
フィールズ賞受賞者のジェイコブ・ツィマーマンはトロント大学を離れ、OpenAIに join し、AIの安全性に取り組む予定です。これについてThe Decoderは報じています。
最近の学術論文で、ツィマーマンはAIが人類絶滅に寄与するシナリオを分析し、安全性研究への投資を大幅に増やすべきだと訴えています。
この移行の重要性は、最も重大なリスクを公開的に分析してきた研究者がOpenAI内で安全性に携わることになる点にあります。ただし、現在入手できる情報は論文の概要や企業からの正式な説明ではなく、全文ではありません。
編集部コメント
なぜ重要か
おそらく、長期的リスクの学術的分析とOpenAI内の安全性研究の結びつきが強化されること。次に観察されるべき兆候は、公式な役割の説明や作業の詳細の公開である。重大な不確実性は依然として残っており、独立した一資料とそのメタデータのみに基づく情報で、一次確認は取れていない。