Google Cloud AI Blog a publié du matériel sur les méthodes d’audit des évaluateurs basés sur LLM. Dans le synopsis, il est affirmé que de tels systèmes ne sont pas entièrement objectifs et peuvent reproduire des biais similaires à ceux observés dans l’évaluation humaine.
Dans la publication sont nommés deux exemples. Le premier — la tendance des évaluateurs à préférer des réponses plus longues et plus assurées, même si les faits qu’elles contiennent sont faux. Le deuxième — la dépendance de la décision à l’ordre des options: lors de leur permutation, le verdict, selon le synopsis, changeait dans plus de 75% cas.
La signification pratique du matériel est de vérifier non seulement l’évaluation finale, mais aussi la robustesse même de l’évaluateur face à la forme de la réponse et à l’emplacement des options. Les détails des méthodes proposées et la vérification des indicateurs mentionnés ne sont pas disponibles dans le paquet de sources accessible.
commentaire éditorial
Pourquoi c’est important
Si les effets décrits se reproduisent, les développeurs de systèmes d’évaluation devront vérifier la robustesse des verdicts face à la longueur de la réponse et à la permutation des options. Le signal observé le plus proche est la publication d’une description complète des méthodes et des résultats indépendants de tests répétés. L’incertitude significative réside dans le fait qu’on ne dispose que d’un seul synopsis d’une source.