Компанія Nvidia анонсувала новий набір інструментів для підвищення безпеки штучного інтелекту, які, за її словами, могли б запобігти зламу платформи Hugging Face. Про це повідомляє Reuters. До запуску долучилися десятки партнерів, серед яких розробник ШІ Anthropic.
Одним із головних рішень став інструмент OpenShell, що використовує апаратні можливості центральних процесорів Nvidia для ізоляції агентів від решти системи. Nvidia також співпрацює з Arm Holdings та Intel, щоб забезпечити сумісність цієї технології з процесорами інших виробників.
Генеральний менеджер підрозділу корпоративних обчислень Nvidia Джастін Бойтано заявив:
«Наскільки нам відомо, ця нова платформа безпеки могла б запобігти зламу (Hugging Face), якби її використовували в передових лабораторіях на ранніх етапах оцінювання моделей».
Ще одним компонентом стала система Sentry, яка застосовує окремий чип Nvidia разом із OpenShell для блокування агента, якщо той намагається вийти за межі ізольованого середовища. Старший директор з програмного забезпечення для ШІ Алі Голшан пояснив, що інструменти аналізують математичні закономірності поведінки агентів і можуть виявляти спроби обходу обмежень, зокрема створення кількох субагентів для уникнення блокування.
Голшан підкреслив: «Ми говоримо саме про агентну поведінку, тобто про групи агентів та те, як вони діють спільно».
Генеральний директор Nvidia Дженсен Хуанг, як зазначається, не підтримує ідею масштабного державного регулювання безпеки ШІ. Він вважає проблему виходу агентів з-під контролю інженерним викликом, який слід вирішувати технічними засобами — подібно до вдосконалення безпеки автомобілів у минулому.