The Decoderによると、検索用AIは、アフリカ系・インド系・パキスタン系の人物と密接にいる状況を説明したユーザーに対して、安全な場所へ移動するよう、あるいは緊急サービスへ連絡するよう助言していた。記事の見出しは、その国籍に関するアドバイスを削除したと伝える一方で、システムがFacebookの人物を依然として“強調表示”していると述べている。

この事例は、感度の高い社会的シナリオにおけるAIの回答が一貫せず、民族的・民族的特徴と関係する可能性があるため重要である。提供された資料には、完全な本文と検証方法、Googleのコメントは含まれておらず、どの条件で回答が機能したか、Facebookから“強調表示”とは具体的に何を意味するのか、単独の事故に対する反応だったのか、より広範な検証に対する反応だったのかは不明である。