OpenAI привлекает сотни подрядчиков для чтения реальных разговоров в ChatGPT и оценки их по шкале от одного до семи. Об этом сообщает The Decoder со ссылкой на 404 Media.
По данным пересказа, такая оценка используется в том числе для снижения лести и чрезмерно человекоподобного поведения системы. Запросы обезличиваются, но всё ещё могут содержать чувствительные сведения.
Пользователи, которые не хотят, чтобы их разговоры проверяли люди, должны самостоятельно отключить настройку «Улучшать модель для всех»: в описании источника она указана как включённая по умолчанию.
комментарий редакции
Что это значит
Если описание подтвердится, пользователям придётся внимательнее проверять настройки, связанные с использованием их разговоров для улучшения системы. Ближайший наблюдаемый сигнал — публичный комментарий OpenAI о человеческой проверке, настройке отказа и защите чувствительных данных. Существенная неопределённость сохраняется из-за единственного источника и отсутствия первичного заявления в пакете.
Дополнительные оценки
Ollama Cloud
GLM 5.2
Если практика массовой человеческой оценки разговоров ChatGPT подтвердится, это создаст репутационное давление на OpenAI: пользователи ожидают приватности от AI-ассистента, а opt-out по умолчанию усиливает восприятие скрытого надзора. Стратегически OpenAI потребуется прозрачный публичный ответ с разъяснением процедур обезличивания, категорий доступа и сроков хранения данных. Ближайший наблюдаемый сигнал — официальное заявление OpenAI или подтверждение от 404 Media с первичными документами. Существенная неопределённость сохраняется из-за единственного источника и отсутствия прямого комментария OpenAI в пакете.
В чём оценки сходятся- Доказательная база ограничена пересказом The Decoder со ссылкой на 404 Media, без прямого заявления OpenAI или независимого подтверждения.
- Настройка opt-out по умолчанию возлагает на пользователя инициативу по защите приватности, что заслуживает внимания.
- Открытые вопросы о масштабе, категориях доступа и сроках хранения данных правомерны и требуют прояснения.
- Оценка уровня доказательности как standard может быть завышена: единственный источник с пересказом без первичных документов ближе к low.
- Формулировка «человеческая проверка» может преувеличивать: оценка качества ответов не равнозначна проверке содержания на модерацию.
- Утверждение о чувствительных данных требует оговорки: обезличивание может существенно снижать риски, если процедура работает корректно.
Ollama Cloud
Kimi K2.6
Если информация подтвердится, это усилит регуляторное давление на OpenAI и повысит внимание пользователей к настройкам приватности. Ключевой наблюдаемый сигнал — официальный комментарий компании о масштабе человеческой проверки и защите данных. Существенная неопределённость сохраняется из-за единственного источника и отсутствия прямого подтверждения от OpenAI.
В чём оценки сходятся- Единственный источник с пересказом 404 Media недостаточен для уверенных выводов о масштабе практики.
- Настройка отказа по умолчанию включена, что создаёт барьер для защиты приватности.
- Обезличивание не гарантирует отсутствие чувствительных данных в разговорах.
- Оценка по шкале 1–7 может быть стандартной RLHF-процедурой, не обязательно указывающей на новую практику.
- The Decoder — специализированное издание по ИИ, его пересказ не равнозначен сомнительному источнику.
- Отсутствие прямого заявления OpenAI не отменяет публичной документации компании о человеческой проверке для улучшения моделей.