カナダの数学者ジェイコブ・ツィマーマンは、Fields受賞者として知られ、Mathematical A.I. Safety Institute（MAISI）の設立を公表した。これについてThe Decoderは11年2026月の記事で伝えている。
この取り組みの名称は、暗号学者が暗号を解読不能と証明する方法に匹敵する安全性の検証をAIに適用する意図を示唆している。しかし、公開情報はメタデータと要約のみで、現時点ではプログラムの詳細は未確定である。
編集部コメント
なぜ重要か
推定される意義は、AI安全研究における形式的手法の強化。今後の手法の説明やチーム構成、初期成果の公表が信号として重要になるとみられる。重大な不確実性は残り、現時点のデータは具体的な計画や実用的な効果を裏付けていない。