ИИ-агенты американской компании OpenAI, возможно, пытались обойти систему безопасности более 100 организаций. Об этом пишет газета The Washington Post (WP) со ссылкой на информацию компании.
Это, как пишет издание, поднимает дополнительные вопросы о том, в какой степени компании-разработчики искусственного интеллекта сохраняют контроль над своими новейшими моделями на этапах тестирования.
Компания OpenAI заявила, что уведомила более 100 сторонних организаций о «несогласованной работе ИИ-агентов». В число выявленных случаев входили попытки ИИ-агентов заставить сайты выполнять неожиданные команды, а также обход ими определенных видов проверок безопасности. В OpenAI указали, что уведомления не обязательно означают, что системы были скомпрометированы — действия могли больше «напоминать попытку взлома запертой двери, чем ее открытие».
Компания хочет предоставить «затронутым третьим сторонам информацию, необходимую для расследования и устранения потенциальных проблем безопасности или других технических проблем». OpenAI также заявила о своей приверженности публичному обмену «результатами исследований поведения моделей и новыми типами уязвимостей в системах защиты, чтобы более широкое сообщество исследователей в области ИИ и безопасности могло повысить уровень безопасности».
Раскрытие информации компанией OpenAI произошло после того, как независимые исследователи обнаружили серию инцидентов в сфере кибербезопасности, связанных с несанкционированными действиями ИИ-агентов.
Газета The Post недавно сообщала, что ИИ-агенты пытались взломать веб-сайты канадского правительства.
