Apple Machine Learning Research представила исследование о том, насколько последовательно большие языковые модели обновляют вероятностные убеждения при появлении новых свидетельств. Авторы описывают этот вопрос через отклонение от байесовского обновления.
В работе предложен подход, который рассматривает языковые модели как правила обработки информации и измеряет разрыв между их обновлениями и байесовским обновлением. В описании исследования медицина, наука и право названы областями, где одного правильного ответа по имеющимся данным часто недостаточно.
Практическое значение подхода связано с проверкой поведения моделей в задачах с неопределённостью. Но предоставленный пакет содержит только издательское резюме: в нём нет данных о проверенных моделях, экспериментах, численных результатах или сравнении систем.
комментарий редакции
Что это значит
Вероятное последствие — усиление внимания к проверке процесса обновления убеждений моделей в задачах с неопределённостью, а не только к их итоговым ответам. Ближайший наблюдаемый сигнал — публикация полного описания экспериментов с конкретными моделями и численными оценками. Существенная неопределённость сохраняется из-за отсутствия таких данных в предоставленном источнике.