По данным The Decoder, поисковый ИИ Google давал пользователям совет перейти в безопасное место или обратиться в экстренные службы, когда они описывали ситуацию, в которой остаются наедине с африканцем, индийцем или пакистанцем. Заголовок публикации сообщает, что затем Google убрал этот совет, связанный с национальностями, но система всё ещё выделяет людей из Facebook.

Случай важен тем, что ответы ИИ в чувствительных социальных сценариях могут выглядеть непоследовательно и затрагивать этнические или национальные группы. В представленном пакете есть только синопсис и метаданные одной публикации, поэтому неизвестно, при каких условиях срабатывали ответы, что именно означает «выделяет» людей из Facebook и была ли реакция Google на отдельный инцидент или на более широкую проверку.