Компания Microsoft опубликовала новый кодекс поведения для искусственного интеллекта, который должен предотвратить опасное использование ИИ-моделей. Об этом сообщает TechCrunch.

В документе определены основные ценности и «красные линии», которыми руководствуется Microsoft при разработке и обучении своих моделей искусственного интеллекта. Также в кодексе описаны подходы компании к обеспечению безопасности ИИ и способы внедрения этих принципов в практическую деятельность.

Microsoft прогнозирует, что в течение следующего десятилетия сверхразумные системы искусственного интеллекта могут превзойти человека в большинстве задач, и контроль над ними станет одним из самых сложных вызовов для человечества. В компании подчеркивают, что разработчики должны чётко осознавать цель создания таких систем и принципы их управления.

Среди ключевых принципов, которых должны придерживаться ИИ-модели Microsoft, — поддержка человека, а не его замена, а также содействие человеческому развитию. К категории «абсолютных ограничений» компания отнесла:

  • использование ИИ для кибератак,
  • создание ядерного оружия,
  • производство дипфейков.

В кодексе подчёркивается, что модели Microsoft не будут применять адаптивные, обманные или самоподдерживающиеся механизмы, которые позволяли бы обходить человеческий контроль. Это должно гарантировать, что уполномоченные лица или системы всегда смогут надёжно управлять ИИ и изменять его поведение.

Появление нового кодекса совпало с повышенным вниманием к безопасности искусственного интеллекта после ряда инцидентов с неконтролируемыми ИИ-агентами и увольнения сотрудника Anthropic, который предупреждал о рисках быстрого развития ИИ для человечества. После этого руководители Anthropic Дарио Амодей, OpenAI Сэм Альтман и основатель SpaceXAI Илон Маск призвали замедлить разработку передовых моделей из-за потенциальных угроз.

Они также выступили за привлечение независимых экспертов к оценке работы лабораторий ИИ. Генеральный директор Microsoft Сатья Наделла поддержал эту идею в своём посте на платформе X, призвав к более широким усилиям по созданию механизмов, обеспечивающих реальные действия в сфере безопасности ИИ.

«Контроль над сверхразумными ИИ-системами станет одним из самых сложных вызовов для человечества», — говорится в кодексе Microsoft.

Напомним, бывший президент США Дональд Трамп отреагировал на призывы замедлить развитие искусственного интеллекта, заявив, что считает предупреждения по ИИ преувеличенными, а заявления о угрозах — такими, что «никогда не осуществятся».