Os pesquisadores da Wharton School estudaram o funcionamento dos sistemas de IA para compras e constataram uma instabilidade significativa em suas escolhas. Segundo The Decoder, a inclusão de uma única fonte externa, como a Wirecutter, alterou a parcela de produtos escolhidos em até 99 pontos percentuais.

A ordem da mesma informação também influenciou o resultado. Em outras palavras, as mesmas informações, apresentadas em uma sequência diferente, poderiam levar o sistema a uma escolha diferente.

Isso é importante para os compradores que desejam delegar ao IA a busca de um produto ou o melhor preço: a recomendação pode depender não apenas das características do produto, mas também da estrutura dos dados de entrada. No entanto, o material disponível compreende apenas metadados e o resumo do The Decoder, portanto os detalhes da metodologia e a escala do estudo permanecem obscuros.