Anthropic и OpenAI хотят разместить независимых оценщиков безопасности внутри своих лабораторий ИИ. Исследователи приветствуют беспрецедентный доступ, о котором сообщает TechCrunch AI.
Главный вопрос — смогут ли такие оценщики действовать независимо. Для содержательного надзора, по данным источника, нужны прозрачность и самостоятельность проверяющих.
В качестве дальнейшего условия источник указывает регулирование. В представленном материале нет подробностей о составе оценщиков, их полномочиях, сроках работы или механизмах публикации результатов.
комментарий редакции
Что это значит
Вероятное последствие — усиление внимания к внутреннему надзору за разработкой ИИ и к требованиям прозрачности. Ближайший наблюдаемый сигнал — публикация конкретных правил работы оценщиков или результатов проверок. Существенная неопределённость сохраняется: источник не раскрывает устройство модели надзора и не содержит первичных заявлений компаний.