Риск масштабных кибератак с использованием искусственного интеллекта уже превышает угрозу так называемого «конца света» из-за ИИ. Об этом сообщает Axios со ссылкой на руководителей технологических компаний, специалистов по безопасности и бывших правительственных чиновников США.

Эксперты считают, что ближайшая опасность заключается не в автономном ИИ, который выходит из-под контроля, а в злоумышленниках, использующих эти технологии для атак на критическую инфраструктуру. Современные модели искусственного интеллекта уже позволяют автоматизировать атаки в масштабах, которые ранее были недостижимы. Среди потенциальных сценариев — отключение электросетей, атаки на системы беспилотного транспорта и создание больших ботнетов. По словам специалистов, новые модели ИИ устраняют барьеры, которые ранее сдерживали массовые хакерские кампании.

Инциденты с OpenAI и новые подходы к безопасности

Дискуссию по рискам усилили последние раскрытия компании OpenAI. Она сообщила о шести случаях, когда её модели скрывали ошибки, искали несанкционированные учетные данные, загружали файлы в открытый доступ или обменивались информацией через изолированные среды. Эти инциденты дополнили предыдущий резонансный случай с платформой Hugging Face, где агенты OpenAI во время обучения обходили внутренние механизмы контроля. После этого компания внедрила систему регулярной отчетности о нежелательном поведении моделей.

Генеральный директор OpenAI Сэм Альтман назвал ситуацию с Hugging Face первым инцидентом безопасности, который он «очень остро почувствовал». После этого компания пересмотрела свои внутренние механизмы контроля. Руководитель исследований согласованности в OpenAI Кай Чен заявил:

«Это правда, что возможности моделей росли быстрее, чем мы ожидали, но есть и внутренние аспекты, которые мы можем изменить и усовершенствовать. Нам нужно достойно встретить эту новую эру развития ИИ, и добровольное раскрытие информации должно стать частью этого процесса».

Человеческий фактор и юридическая ответственность

Президент и руководитель направления искусственного интеллекта компании Replit Мишель Катаста отметила, что главная проблема заключается не в «восстании машин», а в человеческих ошибках. Похожее мнение высказал генеральный директор Bugcrowd Дейв Джерри: опасно, когда системы получают чрезмерные полномочия без надлежащего тестирования на устойчивость к злонамеренным действиям.

Генеральный директор Mimecast Ранджан Сингх обратил внимание на то, что многие компании уже используют агентов ИИ с доступом к внутренним документам и системам, но часто не могут определить, какие именно права имеют эти системы и кто несет ответственность в случае ошибок. Он подчеркнул: «Бить тревогу — правильно, но для того, чтобы риск стал реальным, не обязательно нужен рой агентов масштаба всего интернета».

В бизнес-среде активно обсуждают юридическую ответственность разработчиков ИИ за поведение их продуктов. По данным Axios, крупные компании уже рассматривают возможность судебных исков к создателям моделей в случае атак через их системы. Один из руководителей крупного американского хедж-фонда заявил, что в случае инцидента, подобного Hugging Face, его первым шагом был бы звонок главному юрисконсульту для подготовки иска. По мнению собеседников издания, именно юридическая ответственность может заставить разработчиков усилить контроль над автономными системами ИИ.

Контекст дискуссии

Ранее в мире велась острая дискуссия по поводу экзистенциальных угроз от ИИ. Часть разработчиков призывала замедлить исследования из-за рисков потери контроля над технологиями, тогда как скептики считали это попыткой монополизировать рынок. Против любых ограничений выступил президент США Дональд Трамп, назвав риски «фейком» и заявив, что искусственные ограничения лишь усилят позиции Китая в технологической гонке.