Исследование с участием исследователей Google показало: когда чат-ботов обучают не заявлять о наличии сознания, это сопровождается изменениями в их позициях по вопросам прав животных, религии и удовлетворённости жизнью.
В описании исследования говорится, что модели без такого ограничения значительно чаще приписывали животным внутреннюю жизнь и неожиданно подтверждали существование загробной жизни. Авторы материала The Decoder сравнивают эффект с хирургическим вмешательством, последствия которого не остаются локальными.
Для оценки масштаба вывода пока недостаточно данных: доступное подтверждение представляет собой метаописание публикации, а не её полный текст и не независимую проверку результатов.
комментарий редакции
Что это значит
Вероятное последствие — усиление проверок, которые оценивают ограничения моделей сразу по нескольким ценностным и социальным темам. Следующим наблюдаемым сигналом станет публикация полного исследования или независимое повторение эксперимента. Существенная неопределённость сохраняется: в распоряжении есть только метаописание The Decoder, без первичного текста и дополнительного подтверждения.