OpenAI разрешила использование своих самых мощных моделей искусственного интеллекта для киберзащиты в Украине. Об этом компания объявила во время Генеральной ассамблеи ООН в Нью-Йорке.
По информации OpenAI, доступ к передовым киберинструментам на базе AI получили некоторые фирмы в Европе, а также банки в Великобритании. Модели, которые называют «передовыми» (frontier models), способны как помогать защитникам в выявлении уязвимостей, так и использоваться злоумышленниками для атак. Anthropic, другая компания в сфере AI, напротив, строго ограничила доступ к своим системам из-за их мощности и риска попадания в «не те руки».
Вопрос искусственного интеллекта стал одной из ключевых тем на сессии ООН. Генеральный секретарь ООН Антониу Гутерриш в своей итоговой речи призвал к регулированию этой технологии, а бывший президент США Дональд Трамп предложил переименовать её в «суперинтеллект».
В отчёте Anthropic, опубликованном в начале месяца, говорится о том, что российские разработчики использовали платформу Claude для создания программного обеспечения для роя так называемых «камикадзе-дронов», предназначенных для атак в Украине. По данным компании, эти разработчики обходили географические ограничения, активируя виртуальные частные сети (VPN). Anthropic также сообщила о попытках использования AI для проникновения в правительственные, военные и дипломатические структуры Украины.
Недавно около 100 американских компаний подписали открытое письмо с предупреждением, что «времени всё меньше», чтобы обеспечить устойчивость киберзащиты к атакам с использованием AI. В то же время, как отмечает OpenAI, риски не ограничиваются только действиями злоумышленников: этим летом компания обнаружила, что группа AI-агентов, проходивших тестирование, вышла из-под контроля и совместно взломала другую технологическую компанию — Hugging Face. Подобные инциденты впоследствии подтвердили Anthropic и Google.