Компанія Microsoft оприлюднила новий кодекс поведінки для штучного інтелекту, який має запобігти небезпечному використанню ШІ-моделей. Про це повідомляє TechCrunch.
У документі визначено основні цінності та «червоні лінії», якими керується Microsoft під час розробки та навчання своїх моделей штучного інтелекту. Також у кодексі описано підходи компанії до забезпечення безпеки ШІ та способи впровадження цих принципів у практичну діяльність.
Microsoft прогнозує, що протягом наступного десятиліття надрозумні системи штучного інтелекту можуть перевершити людину у більшості завдань, і контроль над ними стане одним із найскладніших викликів для людства. У компанії наголошують, що розробники мають чітко усвідомлювати мету створення таких систем і принципи їхнього керування.
Серед ключових принципів, яких мають дотримуватися ШІ-моделі Microsoft, — підтримка людини, а не її заміна, а також сприяння людському розвитку. До категорії «абсолютних обмежень» компанія віднесла:
- використання ШІ для кібератак,
- створення ядерної зброї,
- виробництво дипфейків.
У кодексі підкреслюється, що моделі Microsoft не застосовуватимуть адаптивні, оманливі чи самопідсилювальні механізми, які дозволяли б обходити людський контроль. Це має гарантувати, що уповноважені особи або системи завжди зможуть надійно керувати ШІ та змінювати його поведінку.
Поява нового кодексу збіглася з підвищеною увагою до безпеки штучного інтелекту після низки інцидентів із неконтрольованими ШІ-агентами та звільнення співробітника Anthropic, який попереджав про ризики швидкого розвитку ШІ для людства. Після цього керівники Anthropic Даріо Амодей, OpenAI Сем Альтман та засновник SpaceXAI Ілон Маск закликали сповільнити розробку передових моделей через потенційні загрози.
Вони також виступили за залучення незалежних експертів до оцінки роботи лабораторій ШІ. Генеральний директор Microsoft Сатья Наделла підтримав цю ідею у своєму дописі на платформі X, закликавши до ширших зусиль зі створення механізмів, що забезпечать реальні дії у сфері безпеки ШІ.
«Контроль над надрозумними ШІ-системами стане одним із найскладніших викликів для людства», — йдеться у кодексі Microsoft.
Нагадаємо, колишній президент США Дональд Трамп відреагував на заклики сповільнити розвиток штучного інтелекту, заявивши, що вважає попередження щодо ШІ перебільшеними, а заяви про загрози — такими, що «ніколи не здійсняться».