Генеральний директор Palantir Алекс Карп заявив, що компанії, які створюють системи штучного інтелекту, повинні самостійно відповідати за їхню безпеку, а не перекладати цю відповідальність виключно на державне регулювання. Про це Карп сказав в інтерв’ю CNBC, повідомляє Bloomberg.
За словами Карпа, державне регулювання не може бути єдиним механізмом контролю за розробниками ШІ, і саме компанії мають бути першою лінією захисту. Він підкреслив:
«Треба знайти спосіб встановити розумні правила, які б дотримувалися, але це неможливо. Перша лінія захисту полягає в тому, що ви несете відповідальність за свої власні дії».
Карп висловився після того, як глава Anthropic Даріо Амодей запропонував сповільнити розробку передових моделей штучного інтелекту та залучити до перевірки незалежних зовнішніх експертів. Амодей вважає, що такі оцінювачі мають перевіряти дотримання правил безпеки та наявність необхідних запобіжних заходів у компаніях, які працюють із ШІ.
Карп назвав таку ідею складною для реалізації через брак незалежних фахівців у галузі. Він зазначив, що більшість експертів уже працюють у компаніях, які розробляють ШІ, і поставив питання: «Кому ж тоді довіряти?»
Схожу позицію цього тижня озвучив і генеральний директор Nvidia Дженсен Хуанг. Він заявив, що відповідальність за безпеку продуктів ШІ лежить на компаніях-розробниках, і якщо система не є безпечною, її випуск слід відкласти до усунення проблем. Президент Міжнародної асоціації безпечного та етичного ШІ Стюарт Рассел, навпаки, закликав запровадити обов’язкову державну сертифікацію систем безпеки перед виходом моделей ШІ на ринок.