Медалист Филдса Jacob Tsimerman покидает University of Toronto и присоединяется к OpenAI, где будет работать над безопасностью искусственного интеллекта. Об этом сообщает The Decoder.
В недавней научной работе Tsimerman рассматривает сценарии, в которых ИИ способен способствовать вымиранию человечества, и призывает значительно увеличить инвестиции в исследования безопасности.
Значимость перехода связана с тем, что исследователь, публично анализировавший наиболее тяжелые риски ИИ, теперь будет заниматься безопасностью внутри OpenAI. При этом имеющиеся данные представлены в виде краткого синопсиса публикации, а не полного текста статьи или подтверждения от компании.
комментарий редакции
Что это значит
Вероятное следствие — усиление связи между академическим анализом долгосрочных рисков и практическими исследованиями безопасности в OpenAI. Следующим наблюдаемым сигналом станет официальное описание его роли или публикация подробностей о работе. Существенная неопределенность сохраняется: сведения основаны на одном независимом материале и его метаданных, без первичного подтверждения.