Что произошло
Новый подход исследователей Apple позволяет обучать языковые модели вызову API, используя только спецификации и синтетические траектории, минуя необходимость в развернутых базах данных.
Почему это важно
Устранение зависимости от физических или эмулированных сред снижает барьер входа для разработки сложных ИИ-агентов и потенциально ускоряет цикл их обучения, делая процесс более доступным и менее ресурсоемким.
Исследователи из подразделения Apple Machine Learning Research представили метод создания синтетических данных для обучения агентом на больших языковых моделях, который не требует наличия реальной программной среды. Традиционный процесс сбора таких данных сталкивается с серьезным ограничением масштабируемости, так как обычно нуждается в полностью реализованных средах с исполняемыми API и реалистичными предварительно заполненными базами данных.
Предложенное решение использует большие языковые модели в качестве цифровых мировых моделей, работающих в реальном времени. Имея на руках только спецификации API, система генерирует траектории взаимодействия, имитирующие поведение агента в среде с сохранением состояния. Это позволяет обойти этап создания сложной инфраструктурной поддержки для каждого нового сценария обучения.
Данный подход теоретически устраняет узкое место, связанное с необходимостью эмуляции бэкенда для каждой задачи. Метод полагается исключительно на описания интерфейсов, создавая иллюзию взаимодействия с живой системой, что может значительно ускорить подготовку наборов данных для тренировки автономных агентов.
Факты
- Обучение ИИ-агентов для вызова API требует большого количества высококачественных траекторий.
- Сбор данных в масштабе обычно требует полностью реализованных сред с исполняемыми API и базами данных.
- Отсутствие готовых сред создает препятствие для масштабируемости процесса обучения.
- Предложенный метод является подходом к генерации синтетических данных без использования среды.
- Метод использует большие языковые модели как цифровые мировые модели.
- Для работы метода требуются только спецификации API.
- Генерируемые траектории имитируют взаимодействие между агентом и средой с сохранением состояния.
Контекст
Разработка автономных агентов, способных выполнять действия через программные интерфейсы, является одним из ключевых направлений развития искусственного интеллекта. Основную сложность представляет получение разнообразных и корректных примеров действий (траекторий) для обучения моделей, что традиционно требовало значительных инженерных усилий по настройке тестовых окружений.
Что неизвестно
- Насколько точно синтетические траектории воспроизводят ошибки и крайние случаи, возникающие в реальных системах?
- Каковы вычислительные затраты на генерацию данных по сравнению с затратами на поддержку реальных сред?
- Применим ли этот метод одинаково эффективно для всех типов API независимо от их сложности?
AI-разбор
Переход к использованию языковых моделей как симуляторов мира знаменует сдвиг парадигмы от инженерии инфраструктуры к инженерии промптов и спецификаций. Если качество синтетических данных окажется достаточным, это может привести к взрывному росту количества специализированных агентов, так как исчезнет необходимость содержать дорогостоящие полигоны для их обучения.
Стратегический вывод AI
Вероятным следствием станет стандартизация процессов обучения агентов вокруг текстовых спецификаций API. Следующим наблюдаемым сигналом станет появление публикаций, сравнивающих эффективность агентов, обученных на синтетических данных, с агентами, обученными на реальных логах. Основной неопределенностью остается риск того, что модели выучат артефакты симуляции, которые не переносятся на реальные системы.