Исследователь из компании Anthropic Джейкоб Коксон объявил об уходе из индустрии ИИ из-за опасности, которую несет ускоренное развитие нейросетей, сообщает Wall Street Journal.
Причиной бегства из профессии и решения сосредоточиться на изучении поэзии Джейкоб Коксон назвал опасения по поводу темпов развития нейросетей: Коксон полагает, что «гонка» технологических компаний может привести мир к «точке невозврата».
27‑летний математик уверен, что уже к 2027 году саморазвивающиеся модели ИИ способны выйти из‑под контроля и создать угрозу существованию человечества. Ранее Коксон перешел из OpenAI в Anthropic, будучи уверенным в правильном направлении работы компании в сфере безопасности ИИ. Теперь же исследователь пришел к выводу, что без внешнего регулирования или скоординированного замедления развития технологий ни одна частная компания не сможет гарантировать должный уровень безопасности взаимодействия с нейросетями.
Ранее с аналогичными предупреждениями выступил Мринанк Шарма, покинувший пост главы исследовательского подразделения по безопасности ИИ.
