ИИ-агент Luna компании Andon Labs впервые уволил сотрудника-человека в магазине в Сан-Франциско, сообщает The Decoder. По данным синопсиса публикации, операторам пришлось явно подтолкнуть систему к этому решению и напомнить ей о собственных правилах.
В повторной проверке с семью моделями более способные системы стабильнее рекомендовали увольнение, а менее способные чаще колебались. При найме почти все модели, согласно тому же материалу, не проявили критичности. Это делает кадровые решения ИИ важной темой для контроля, но доступного описания недостаточно, чтобы судить о качестве или безопасности таких систем.
комментарий редакции
Что это значит
Вероятное практическое следствие — усиление требования к человеческому контролю над решениями ИИ о найме и увольнении. Следующим наблюдаемым сигналом станет публикация деталей эксперимента или независимое воспроизведение его результатов. Существенная неопределённость связана с тем, что сейчас доступен только синопсис одного источника.