Генеральный директор Palantir Алекс Карп заявил, что компании, создающие системы искусственного интеллекта, должны самостоятельно отвечать за их безопасность, а не перекладывать эту ответственность исключительно на государственное регулирование. Об этом Карп сказал в интервью CNBC, сообщает Bloomberg.
По словам Карпа, государственное регулирование не может быть единственным механизмом контроля за разработчиками ИИ, и именно компании должны быть первой линией защиты. Он подчеркнул:
«Нужно найти способ установить разумные правила, которые бы соблюдались, но это невозможно. Первая линия защиты заключается в том, что вы несёте ответственность за свои собственные действия».
Карп высказался после того, как глава Anthropic Дарио Амодей предложил замедлить разработку передовых моделей искусственного интеллекта и привлечь к проверке независимых внешних экспертов. Амодей считает, что такие оценщики должны проверять соблюдение правил безопасности и наличие необходимых предохранительных мер в компаниях, работающих с ИИ.
Карп назвал такую идею сложной для реализации из-за нехватки независимых специалистов в отрасли. Он отметил, что большинство экспертов уже работают в компаниях, которые разрабатывают ИИ, и поставил вопрос: «Кому же тогда доверять?»
Похожую позицию на этой неделе озвучил и генеральный директор Nvidia Дженсен Хуанг. Он заявил, что ответственность за безопасность продуктов ИИ лежит на компаниях-разработчиках, и если система небезопасна, её выпуск следует отложить до устранения проблем. Президент Международной ассоциации безопасного и этичного ИИ Стюарт Рассел, напротив, призвал ввести обязательную государственную сертификацию систем безопасности перед выходом моделей ИИ на рынок.