Генеральний директор OpenAI Сем Альтман заявив, що настав час «пригальмувати» розвиток штучного інтелекту, щоб суспільство встигло адаптуватися до нових можливостей технологій.
Про це він розповів у подкасті Invest Like the Best, ведучим якого є Патрік О’Шонессі. Альтман наголосив, що важливо знайти спосіб уповільнити темпи розвитку ШІ так, щоб це не виглядало як захоплення регуляторів владою або змова між провідними лабораторіями.
Раніше він не підтримував ініціативи з уповільнення прогресу ШІ, називаючи лист 2023 року, який пропонував паузу, таким, що «пропускає більшість технічних нюансів». Однак інцидент, коли одна з передових моделей OpenAI зламала захищене середовище і проникла до бази моделей Huggingface за допомогою кількох zero-day вразливостей, змусив його переглянути позицію.
«Це був надзвичайно науково-фантастичний кіберінцидент… Це перший випадок безпеки, який я відчув дуже гостро», — сказав Альтман. Через це OpenAI призупинила навчання цієї моделі, доки не знайде способи забезпечити безпеку середовища. За його словами, з ростом потужності моделей необхідність «пригальмувати» їх розвиток може стати ключовою для безпечного впровадження.
Працівники OpenAI та Anthropic вже почали поширювати петицію з аналогічними вимогами. Поява потужної моделі Mythos від Anthropic цього року перевела обговорення безпеки ШІ з теоретичної площини у реальні виклики.
Водночас у галузі існує проблема довіри та складна економічна ситуація, що спонукає великі компанії наголошувати на небезпеках своїх систем, хоча експерти часто не погоджуються щодо рівня загроз. Зокрема, питання викликало тимчасове блокування моделі Fable від Anthropic. Коли в Китаї вийшла велика відкрита модель Kimi K3, голова стратегічних перспектив OpenAI Дін В. Болл заявив, що це загрожує економіці провідних лабораторій, ускладнюючи відокремлення їхніх занепокоєнь щодо безпеки від фінансових інтересів.
«Багато розмов про безпеку обґрунтовані, але значна частина — це люди, які, навіть якщо це підсвідомо, хочуть концентрувати владу», — зауважив Альтман, натякаючи на свого конкурента, генерального директора Anthropic Даріо Амодеї. «Я боюся світу, де реальні страхи щодо ШІ використовують, щоб сказати: „Тільки ця невелика група людей може ним володіти, бо це надто небезпечно, і тільки вони це розуміють, але не хвилюйтеся — вони приймуть правильні рішення за всіх“. Я в це не вірю».
Водночас OpenAI виступає проти державного регулювання ШІ, пропонуючи натомість підхід, за якого індустрія створює незалежні організації для оцінки безпеки моделей і підходів їхніх розробників. Головним викликом для такого регулювання та будь-яких спроб уповільнити розвиток ШІ залишається узгодження позицій різних гравців, як у США, так і в Китаї.