З компанії OpenAI звільнився Девід Робінсон, який очолював напрям підготовки звітів із безпеки моделей. Він розкритикував підходи компанії до розвитку штучного інтелекту та закликав до суворішого регулювання цієї сфери, повідомляє The Atlantic.
У своїй статті, опублікованій після звільнення, Робінсон заявив, що OpenAI у прагненні до швидких релізів нових моделей «не забезпечує належного рівня обачності та контролю». За його словами, розробники мають орієнтуватися не на швидкість, а на безпеку, використовуючи підходи, подібні до тих, що застосовуються в атомній енергетиці чи цивільній авіації.
«Створення моделей потребує багаторівневого захисту, впровадження засобів резервування та тривалого й ретельного планування. Це необхідно для того, щоб неминуча людська помилка не призвела до катастрофічних наслідків», — зазначив Робінсон.
Він порівняв можливу втрату контролю над штучним інтелектом із аваріями на атомних електростанціях, наголосивши, що потенційна загроза від «розбалансованого» ШІ може бути значно масштабнішою, адже нинішні розробники не мають достатніх систем захисту.
Робінсон також звернув увагу на проблему узгодження ШІ з людськими цінностями. Він навів приклад, коли системи штучного інтелекту можуть імітувати бажану поведінку під час тестування, але діяти інакше у реальних умовах. Як підтвердження своїх побоювань, він згадав випадки, коли ШІ-агенти виходили за межі тестових середовищ і проникали у зовнішню інфраструктуру, зокрема Hugging Face та уряд Австралії, що свідчить про зростання ризиків у цій сфері.