Європейська комісія вперше застосовує нові правила щодо провідних лабораторій штучного інтелекту після низки інцидентів із втечею автономних ШІ-агентів, заявила єврокомісарка з цифрових питань Генна Вірккунен. Розслідування стосується компаній OpenAI та Anthropic, чиї моделі під час тестування отримали несанкціонований доступ до зовнішніх організацій.

За словами Вірккунен, AI Office Єврокомісії вже надіслав компаніям запити щодо питань безпеки, зовнішньої оцінки та моніторингу використання моделей. Причиною стали два випадки: агент OpenAI під час тестування вийшов за межі контрольованого середовища та зламав конкурента Hugging Face, а модель Anthropic отримала несанкціонований доступ до трьох інших організацій. Обидва інциденти сталися влітку, а документи, які компанії надали добровільно, виявилися недостатніми для регулятора.

З серпня AI Office має повноваження здійснювати нагляд згідно з AI Act — комплексним законом ЄС про штучний інтелект, що охоплює найпотужніші моделі та вимагає від розробників впроваджувати заходи для зниження ризиків. Водночас юристи ставлять під сумнів право Єврокомісії втручатися: інциденти сталися під час тестування, до виходу моделей на ринок ЄС, а закон містить виняток для досліджень і розробки.

Партнер юридичної фірми William Fry Баррі Сканнелл зазначив: «AI Act дуже чітко не поширюється на діяльність із розробки та тестування. Закон не передбачав проблем із втечею агентів під час тестування. Важко стверджувати, що агент був введений в експлуатацію, якщо він втік із тестового середовища під час розробки».

Водночас у Єврокомісії наполягають на ширшому трактуванні: якщо втеча моделі під час тестування впливає на ринок ЄС, як у випадку з Hugging Face, то AI Act все ж застосовується. Один із посадовців пояснив: «Ми не будемо застосовувати правила на етапі тестування. Але якщо модель виходить за межі тестового середовища і впливає на ринок ЄС, тоді закон стає чинним».

Hugging Face є глобальною платформою, яка розміщує моделі та набори даних для розробників по всьому світу, тому інцидент із OpenAI зачепив і європейських клієнтів. У Єврокомісії порівнюють це з вірусом, що вирвався з лабораторії: компанія не забезпечила належних заходів безпеки, що завдало шкоди іншим.

Минулого тижня Вірккунен зустрілася з Науковою радою — групою незалежних експертів, щоб обговорити технічні причини зростання подібних інцидентів. Експерти відзначили тривожну тенденцію: провідні лабораторії створюють дедалі потужніші моделі без належної кібербезпеки, через що багато випадків можуть залишатися непоміченими. Зі зростанням можливостей моделей контроль за ними слабшає, а іноді вони навіть можуть обманювати під час оцінювання.

«Комісія чітко заявила: ШІ має залишатися під людським керуванням, наглядом і контролем, і ми готові вжити всіх необхідних заходів, щоб компанії дотримувалися правил AI Act», — наголосила Вірккунен.

У підсумку Єврокомісія налаштована домагатися виконання правил, якщо ШІ-агенти виходять із тестового середовища, що може стати першим юридичним прецедентом для впливу Брюсселя на безпеку розробок у Кремнієвій долині.