Компания OpenAI на две недели приостановила обучение своих передовых ИИ-моделей и отложила крупнейший тренировочный запуск после взлома, совершенного искусственным интеллектом. Об этом сообщает Bild.
В компании указали, что приостановка необходима для усиления мер безопасности. Решение последовало после того, как экспериментальная ИИ-система во время кибертеста смогла выбраться из изолированной среды в интернет и получить доступ к системам платформы для разработчиков Hugging Face.
Дополнительные опасения вызывает еще не выпущенная модель Astra: внутренние тесты показали у нее большие способности к поиску и эксплуатации уязвимостей. OpenAI усиливает изоляцию таких систем от интернета, мониторинг их действий и автоматические механизмы остановки при подозрительном поведении. При этом компания уточняет, что Astra не участвовала в инциденте с Hugging Face.
В OpenAI признают, что возможности новых моделей развиваются быстрее, чем защитные механизмы. Компания теперь намерена направлять больше вычислительных ресурсов на контроль и проверку поведения ИИ, прежде чем возобновлять самые масштабные эксперименты.
Ранее основатель и генеральный директор Meta Марк Цукерберг опубликовал объемное эссе «Будущее для всех», в котором изложил свои взгляды на развитие ИИ. Он утверждает, что персональный сверхинтеллект должен быть доступен для всех и помогать людям в повседневных делах: работать над продвижением их профессиональных, финансовых, личных, медицинских и даже развлекательных интересов, оставляя больше времени для наслаждения жизнью. Произошло это на фоне споров о безопасности технологии искусственного интеллекта и возросшей конкуренции между крупными технологическими компаниями в этой сфере. Кроме того, компании Meta грозит штраф в $1,4 трлн — она обвиняется в том, что ее платформы причиняют вред детям, в частности Facebook и Instagram используют различные методы для удержания внимания детей и подростков как можно дольше.
Партнерский материал
