Провідні науковці та керівники компаній, що стоять за розробкою ChatGPT та Claude, звернулися з відкритою заявою з проханням уповільнити розвиток штучного інтелекту. Ініціатива під назвою "Pacing the Frontier" була підписана наприкінці 2023 року провідними фахівцями OpenAI, Anthropic, Google та Meta AI.
У заяві йдеться про серйозну загрозу, пов’язану з автоматизацією досліджень у сфері ШІ. За словами підписантів, мовні моделі, які спочатку були розважальними чат-ботами, сьогодні здатні знаходити критичні вразливості в кібербезпеці та навіть здійснювати хакерські атаки. Це наближає індустрію до моменту, коли системи почнуть самостійно автоматизувати розробки, що може призвести до вибухового прискорення, контроль над яким буде неможливим.
Серед підписантів — головний науковий співробітник OpenAI Якуб Пачоцький, керівник досліджень OpenAI Марк Чен, генеральний директор Anthropic Даріо Амодеї та головний науковий спеціаліст Meta AI Шенгцзя Чжао. Вони наголошують, що жорстка конкуренція на ринку змушує компанії ігнорувати необхідність додаткових перевірок і посилення нагляду, оскільки уповільнення розробок означатиме втрату позицій на ринку.
Ініціатори звернулися до уряду США з проханням підтримати міжнародні зусилля зі створення технічних і управлінських інструментів для синхронного регулювання темпів розвитку автоматизованого штучного інтелекту. Ця ініціатива організована приватними особами, а підтримку їй надали незалежні некомерційні організації Guidelight AI Standards та Encode AI. OpenAI вже публічно висловила підтримку цьому руху, підтверджуючи серйозність намірів змінити підхід до безпеки майбутнього, повідомляє Neowin.