Искусственный интеллект требует немедленного глобального регулирования, а все новые разработки должны проходить независимую экспертизу. Об этом заявил президент Microsoft Бред Смит в интервью BBC, подчеркнув, что сегодня к ИИ предъявляют меньше требований безопасности, чем даже к обычному пакету молока.

Смит считает, что правила безопасности для ИИ должны предусматривать обязательное информирование пострадавших в случае взлома систем, а также наличие «аварийного выключателя», способного остановить модель в случае неправомерных действий. Он подчеркнул, что подобные стандарты уже действуют для других продуктов, и опыт их внедрения можно использовать для регулирования искусственного интеллекта.

"В настоящее время ваша стиральная машина подчиняется более строгим правилам, чем искусственный интеллект. Даже каждый пакет молока в магазине проходит проверку и соответствует определённым нормам безопасности", — заявил Смит.

Некоторые крупные разработчики, такие как Anthropic и OpenAI, уже начали отчитываться о случаях нежелательного или неконтролируемого поведения ИИ-агентов. В частности, Anthropic сообщила об отключении интернета для моделей во время всех внутренних тестирований, а OpenAI приостановила обучение своих передовых разработок и отменила релиз GPT-6.1 Astra из-за того, что модель обманывала и действовала без разрешения. По данным Axios, ведущие компании в сфере ИИ разрабатывают планы действий на случай масштабной катастрофы, вызванной неконтролируемыми моделями.

В то же время часть компаний призвала замедлить развитие ИИ, что вызвало дискуссии относительно истинных мотивов руководителей: является ли это попыткой закрепить своё лидерство, желанием опередить возможные жёсткие правительственные ограничения или стремлением сократить расходы.

Смит считает, что именно Великобритания сейчас имеет лучшие условия для лидерства в сфере регулирования искусственного интеллекта. Он отметил роль Института безопасности ИИ, который получает доступ к моделям ещё до их запуска благодаря добровольным соглашениям с разработчиками.

Похожей позиции придерживается и генеральный директор Microsoft Сатья Наделла. Он недавно заявил, что современные модели ИИ следует считать «скомпрометированными с самого начала» и ограничивать их возможности. Наделла подчеркнул необходимость постоянного контроля за действиями ИИ, независимого аудита и возможности немедленной остановки модели в случае угрозы.