Генеральный директор NVIDIA Дженсен Хуанг сообщил, что компания может прекратить поставки чипов клиентам, занимающимся разработкой опасного программного обеспечения на основе искусственного интеллекта. Об этом он заявил в интервью Bloomberg.
Отвечая на вопрос журналистки Эмили Чанг, Хуанг уточнил, что такая ситуация пока является гипотетической, но компания готова к подобным шагам. При этом он подчеркнул, что перед этим должен состояться диалог с клиентами, поскольку NVIDIA не управляет другими компаниями и имеет ограниченные возможности оценивать использование своих технологий сторонними организациями.
NVIDIA остается ведущим поставщиком чипов для обучения и запуска моделей искусственного интеллекта, что ставит компанию в центр дебатов по безопасности ИИ и рискам потери контроля над сверхмощными системами. Ранее руководители ведущих компаний в сфере искусственного интеллекта, в частности Дарио Амодеи из Anthropic, предлагали замедлить развитие отрасли для решения этих вопросов.
Хуанг считает, что многие опасения по поводу ИИ преувеличены, а отрасль недостаточно хорошо объясняет преимущества новой технологии. Он подчеркнул, что сам искусственный интеллект может стать инструментом для мониторинга и контроля других ИИ-систем. По его словам:
"Нам следует ускорить интеграцию механизмов контроля в системы ИИ. Нужно активизировать разработку технологий мониторинга, а сам искусственный интеллект и есть этим инструментом – так что нам следует ускорить его развитие".
В конце сентября NVIDIA представила собственное программное обеспечение для безопасной работы ИИ-агентов, которое, по словам компании, могло бы предотвратить инцидент со взломом Hugging Face. Кроме того, NVIDIA планирует инвестировать в безопасность ИИ: в течение следующих пяти лет компания предоставит вычислительные ресурсы стоимостью $250 млн для исследований в британских учреждениях.
Отдельно Хуанг прокомментировал ситуацию на рынке, заявив, что разговоры о "пузыре ИИ" преувеличены. Это прозвучало на фоне падения акций NVIDIA и других производителей чипов на американском фондовом рынке. Он отметил, что спрос на инфраструктуру для ИИ еще многие годы будет превышать предложение.
В предыдущих заявлениях Хуанг призывал компании, которые не могут обеспечить безопасность своих моделей, прекратить деятельность, а вероятность гибели человечества от ИИ к 2030 году оценил в 0%.