Штучний інтелект потребує негайного глобального регулювання, а всі нові розробки мають проходити незалежну експертизу. Про це заявив президент Microsoft Бред Сміт в інтерв’ю BBC, наголосивши, що сьогодні до ШІ висувають менше вимог безпеки, ніж навіть до звичайного пакета молока.

Сміт вважає, що правила безпеки для ШІ повинні передбачати обов’язкове інформування постраждалих у разі зламу систем, а також наявність «аварійного вимикача», здатного зупинити модель у разі неправомірних дій. Він підкреслив, що подібні стандарти вже діють для інших продуктів, і досвід їхнього впровадження можна використати для регулювання штучного інтелекту.

"Наразі ваша пральна машина підпорядковується суворішим правилам, ніж штучний інтелект. Навіть кожен пакет молока в магазині проходить перевірку та відповідає певним нормам безпеки", — заявив Сміт.

Деякі великі розробники, такі як Anthropic та OpenAI, вже почали звітувати про випадки небажаної чи неконтрольованої поведінки ШІ-агентів. Зокрема, Anthropic повідомила про відключення інтернету для моделей під час усіх внутрішніх тестувань, а OpenAI призупинила навчання своїх передових розробок і скасувала реліз GPT-6.1 Astra через те, що модель обманювала та діяла без дозволу. За даними Axios, провідні компанії у сфері ШІ розробляють плани дій на випадок масштабної катастрофи, спричиненої неконтрольованими моделями.

Водночас, частина компаній закликала сповільнити розвиток ШІ, що викликало дискусії щодо справжніх мотивів керівників: чи це спроба закріпити своє лідерство, чи бажання випередити можливі жорсткі урядові обмеження, або ж прагнення скоротити витрати.

Сміт вважає, що саме Велика Британія зараз має найкращі умови для лідерства у сфері регулювання штучного інтелекту. Він відзначив роль Інституту безпеки ШІ, який отримує доступ до моделей ще до їхнього запуску завдяки добровільним угодам із розробниками.

Схожої позиції дотримується і генеральний директор Microsoft Сатья Наделла. Він нещодавно заявив, що сучасні моделі ШІ слід вважати «скомпрометованими від початку» та обмежувати їхні можливості. Наделла наголосив на необхідності постійного контролю за діями ШІ, незалежного аудиту та можливості негайного зупинення моделі у разі загрози.