
The Decoder によると、Andon Labs 社の AI エージェント Luna がサンフランシスコの店舗で初めて人間の従業員を解雇した。公開された要約によれば、オペレーターはこの決定に向けてシステムを明確に促し、Luna に対してその自身の規則を思い出させる必要があった。
В повторной проверке с семью моделями более способные системы стабильнее рекомендовали увольнение, а менее способные чаще колебались. При найме почти все модели, согласно тому же материалу, не проявили критичности. Это делает кадровые решения ИИ важной темой для контроля, но доступного описания недостаточно, чтобы судить о качестве или безопасности таких систем.
編集部コメント
なぜ重要か
考えられる実務的な帰結として、採用と解雇に関する AI の決定に対する人間の制御要件が強化される可能性がある。次に観測すべき兆候は、実験詳細の公表またはその結果の独立した再現である。現在は単一情報源の要約しか利用できないという点において、 существенな不確実性が残っている。