Исследователь Anthropic представил результаты, в которых автоматизированные системы улучшили показатели по всем 10 тестам, предназначенным для выявления конкретных несогласованных форм поведения. При этом, согласно опубликованному описанию, общая производительность не ухудшилась.

Источник не уточняет, какие именно системы участвовали в проверке, как были устроены тесты и насколько значимым было улучшение. Доступные сведения основаны на метаданных и кратком синопсисе TechCrunch AI, а не на полном тексте исследования.

Практический интерес связан с тем, что автоматическая оптимизация поведения затрагивает одновременно специальные тесты безопасности и общий результат работы системы. Но без подробностей нельзя оценить воспроизводимость эксперимента или его применимость к реальным продуктам.