Según The Decoder, el buscador IA de Google daba a los usuarios el consejo de dirigirse a un lugar seguro o llamar a los servicios de emergencia cuando describían una situación en la que quedaban a solas con un africano, un indio o un paquistaní. El titular de la publicación informa que luego Google eliminó ese consejo, vinculado a la nacionalidad, pero el sistema sigue destacando a personas de Facebook.

Este caso es importante porque las respuestas de IA en escenarios sociales sensibles pueden parecer poco consistentes y afectar a grupos étnicos o nacionales. En el paquete proporcionado hay solo el synopsis y metadatos de una publicación, por lo que no se sabe bajo qué condiciones se activaban las respuestas, qué significa exactamente 'destaca a gente de Facebook' y si hubo una respuesta de Google a un incidente aislado o a una revisión más amplia.