Anthropic предупреждает, что ИИ близок к возможности рекурсивного самоулучшения (RSI) — этапу, на котором система настолько хорошо обучает себя, что развитие её возможностей резко ускоряется.
В представленном описании RSI также трактуется как сценарий, который некоторые критики ИИ связывают с потенциально необратимыми катастрофическими последствиями. При этом публикация TechCrunch AI доступна здесь только в виде метаданных и краткого синопсиса, а не полного текста или первичного заявления Anthropic.
комментарий редакции
Что это значит
Вероятное следствие такого сигнала — усиление внимания к измеримым критериям самоулучшения и безопасности ИИ. Ближайшим наблюдаемым сигналом станет публикация Anthropic с методикой оценки, примерами или проверяемыми результатами. Существенная неопределённость сохраняется: текущие материалы представлены только как метаданные и не подтверждают достижение RSI.