Anthropic запускает API, с помощью которого регуляторы, СМИ и исследователи смогут проверять, содержит ли текст цифровую маркировку Claude. Об этом сообщает The Decoder.
Изменение происходит на фоне требований Закона ЕС об искусственном интеллекте, предусматривающих невидимые маркировки для текста, созданного ИИ. Технология затрагивает не только разработчиков моделей, но и организации, которым нужно оценивать происхождение материалов.
Критики предупреждают, что такая маркировка способна ухудшать качество текста. Отдельный вопрос связан с прозрачностью в ситуациях, когда договоры запрещают использование ИИ: источник не уточняет, как именно будет разрешаться этот конфликт.
комментарий редакции
Что это значит
Вероятное следствие — рост внешнего контроля за происхождением ИИ-текста и новые требования к редакциям, исследователям и регуляторам. Следующим наблюдаемым сигналом станет публикация условий доступа, технических показателей и независимых оценок точности API. Существенная неопределенность сохраняется вокруг влияния маркировки на качество текста и договорных ограничений на использование ИИ.