Исследователи Wharton School изучили работу систем ИИ для покупок и обнаружили заметную нестабильность их выбора. По данным The Decoder, добавление одного внешнего источника, например Wirecutter, меняло долю выбранных товаров максимум на 99 процентных пунктов.
На результат также влияло изменение порядка одной и той же информации. Иными словами, одинаковые сведения, представленные в другой последовательности, могли привести систему к иному выбору.
Это важно для покупателей, которые хотят поручить ИИ поиск товара или лучшей цены: рекомендация может зависеть не только от характеристик продукта, но и от структуры входных данных. Однако доступный материал представляет собой лишь метаданные и пересказ The Decoder, поэтому детали методики и масштабы исследования остаются неясными.
комментарий редакции
Что это значит
Если результат подтвердится в полном исследовании и независимых проверках, сервисам ИИ для покупок потребуется показывать устойчивость рекомендаций и чувствительность к источникам. Ближайший проверяемый сигнал — публикация методики и повторение эксперимента на других категориях товаров. Существенная неопределенность связана с тем, что сейчас доступен только метаданный пересказ The Decoder.