
Dans l'expérience LangChain, ne changer que l'enveloppe du cycle de travail a déplacé le même système de rédaction de code d'environ la 30e place vers le premier quintile de Terminal-Bench, selon MarkTechPost. Le modèle est resté inchangé.
Sur cette base, la publication invite à regarder non seulement le choix du modèle, mais aussi la manière dont le cycle d'exécution des tâches est structuré. C'est important pour les équipes qui comparent les fournisseurs sur la base uniquement de la qualité du modèle de base.
Les matériaux disponibles ne révèlent pas le dispositif de l'enveloppe modifiée, le nombre d'essais ou les critères de comparaison. Par conséquent, le résultat doit être perçu comme un exemple décrit dans une source indépendante, et non comme une preuve d'un avantage universel de cette approche.
commentaire éditorial
Pourquoi c’est important
Conséquence probable : les équipes compareront plus attentivement non seulement les modèles, mais aussi les façons d'organiser leur cycle de travail. Le prochain signal mesurable sera l'apparition de comparaisons reproductibles sur d'autres tâches et avec une description détaillée de la méthodologie. Une incertitude majeure réside dans le fait qu'un seul synopsis d'une source est actuellement disponible.