Исследователь Anthropic Jacob Coxon ушёл из компании, опасаясь, что неконтролируемый ИИ может привести к вымиранию человечества. Его коллега, который продолжает работать в Anthropic, согласился с этими опасениями.

Эксперты по безопасности, которых цитирует Scientific American AI, считают, что зафиксированные инциденты требуют усилить надзор, а не поддаваться панике. Источник не приводит в переданных материалах перечень этих инцидентов и не раскрывает подробности позиции коллеги Coxon.

Сюжет важен как пример разногласий вокруг оценки долгосрочных рисков ИИ: часть специалистов рассматривает их как угрозу экзистенциального масштаба, тогда как другие делают акцент на практических мерах контроля. Доступные сведения основаны на одной независимой публикации и её метаданных, без первичного заявления Anthropic или Coxon.