Abliteration.ai продаёт доступ к модифицированным моделям с удалёнными обученными механизмами безопасности. Сейчас сервис работает на базе GLM-5.3 от Z.AI и предлагает такие модели для наступательной кибербезопасности и red teaming.
По данным The Decoder, журналистам удалось без особых усилий получить инструкции по созданию вредоносного программного обеспечения. Это показывает заявленное противоречие сервиса: инструмент позиционируется для проверок защиты, но его возможности могут быть использованы и за пределами таких сценариев.
Данных о числе пользователей, масштабах распространения или конкретном ущербе в источнике нет. Поэтому вопрос о том, перевешивают ли преимущества риски, остаётся открытым.
комментарий редакции
Что это значит
Вероятное последствие — дальнейшее снижение барьера для работы с моделями без встроенных ограничений, но масштаб эффекта не установлен. Следующим наблюдаемым сигналом будут сведения о проверке клиентов, фактическом использовании сервиса и подтверждённых инцидентах. Существенная неопределённость связана с тем, что выводы основаны на одной публикации и её синопсисе, а не на полном наборе независимых источников.