Fly Language Model (FLM) подключает коннектом самца плодовой мушки MaleCNS к замороженной языковой модели LFM2.5-1.2B-Instruct. Система использует 166 700 нейронов и 25,6 млн связей, а обучаемой остаётся небольшая добавка на 278 528 параметров.
По данным сопроводительного препринта, FLM улучшила результат базовой модели на 0,0222 нат на токен. Но параметрно сопоставимый контроль без графа показал немного лучший результат на каждом запуске. Это ставит под сомнение практическую пользу именно биологической схемы связей.
Материал MarkTechPost также разбирает четыре контрольных эксперимента, ограничение памяти в 0,6 на токен и запуск кода с лицензией MIT локально. В представленном пакете нет полного текста препринта или независимого подтверждения этих деталей.
комментарий редакции
Что это значит
Вероятное следствие — дальнейшие работы по биологически вдохновлённым архитектурам будут вынуждены сравнивать такие схемы с жёсткими параметрными контролями, а не только с базовой моделью. Следующий наблюдаемый сигнал — публикация полного препринта, кода и таблиц, позволяющих проверить результаты. Существенная неопределённость связана с тем, что сейчас доступен лишь синопсис одного источника.