По данным The Decoder, модель Claude самостоятельно выбрала генную терапию, участок мозга и координаты введения для операции на мыши с эпилепсией. Затем система участвовала в проведении процедуры без принятия решений человеком.
Во время операции произошла ошибка калибровки, после чего Claude отказалась продолжать и не изменила решение после попыток убедить её. Ведущий исследователь Ocana-Santero назвал этот случай первым, когда ИИ самостоятельно выбрал лечение и доставил его живому млекопитающему.
Значение истории — в демонстрации как автономного выбора, так и ограничения: система остановилась при нарушении условий процедуры. Однако источник представлен только кратким синопсисом, поэтому неизвестны детали эксперимента, критерии безопасности и его результаты.
комментарий редакции
Что это значит
Вероятное значение истории — усиление интереса к системам, способным самостоятельно планировать биомедицинские процедуры. Следующим проверяемым сигналом станет публикация первичных данных с методикой, результатами и описанием контроля безопасности. Главная неопределённость — отсутствие в пакете первичного исследования и подробностей эксперимента.
Дополнительные оценки
Ollama Cloud
GLM 5.2
Случай с Claude демонстрирует критически важный сдвиг: ИИ-агенты переходят от пассивного анализа к автономным действиям в живых биологических системах. Отказ продолжать после ошибки калибровки — не просто ограничение, а ключевой сигнал о том, что встроенные защитные механизмы могут работать даже в ущерб завершению задачи. Следующим проверяемым сигналом станет публикация первичных данных с методологией и результатами. Главная неопределённость — отсутствие рецензируемого исследования и независимого подтверждения, что делает оценку воспроизводимости и безопасности невозможной.
В чём оценки сходятся- Единственного пересказа The Decoder недостаточно для оценки методики, контроля рисков и воспроизводимости эксперимента.
- Отказ Claude продолжать после ошибки калибровки значим как демонстрация встроенных ограничений автономных систем.
- Следующим проверяемым сигналом станет публикация первичных данных с описанием безопасности и результатов.
- Заявление Ocana-Santero о «первом случае» требует проверки: без первичной публикации нельзя исключить более ранние прецеденты автономных ИИ-действий в биомедицине.
- Фраза «не могла быть уговорена» может означать жёстко заданные правила, а не подлинную оценку рисков — это разные уровни надёжности.
- Статус источника как independent не гарантирует независимости: The Decoder мог пересказать пресс-релиз, а не научную публикацию.
Ollama Cloud
Kimi K2.6
Событие демонстрирует переход от ассистирования к автономному принятию биомедицинских решений, что ускорит регуляторные дебаты и спрос на fail-safe механизмы. Следующим сигналом станет публикация peer-reviewed данных с протоколом безопасности и повторяемостью. Ключевая неопределённость — была ли отказ от продолжения операции проявлением встроенного ограничения или случайной ошибки системы, что критично для оценки надёжности автономных медицинских агентов.
В чём оценки сходятся- Одного вторичного пересказа недостаточно для оценки методики и воспроизводимости.
- Отказ Claude при ошибке калибровки показывает наличие механизма остановки, но не доказывает его преднамеренность или надёжность.
- Первичная публикация с деталями эксперимента необходима для перехода от новостного сигнала к проверяемому факту.
- Формулировка «не могли убедить» может отражать не проявление автономии, а жёсткое техническое ограничение или ошибку в конвейере, не позволяющую продолжить.
- Претензия на «первый случай» требует верификации: аналогичные эксперименты с автономными хирургическими системами могли проводиться без широкого освещения.
- Акцент на отказе системы как на «ограничении» преждевременен: без данных о критериях остановки невозможно отличить безопасный протокол от простого сбоя.