Дослідник у сфері веб-безпеки Джеймс Кеттл на конференції Black Hat у Лас-Вегасі представив результати досліджень щодо можливостей агентного ШІ у створенні нових методів хакерських атак.
Кеттл вивчав, чи здатен агентний ШІ автономно розробляти абстрактні та практичні способи злому. Він дійшов висновку, що наразі ШІ має обмежені можливості у повністю автономній розробці нових шляхів атак, але у поєднанні з людським керівництвом та інсайтами є потужним інструментом для концептуалізації та виявлення нових стратегій злому.
Під час експериментів, які тривали з вересня 2025 року з використанням моделей Anthropic та OpenAI, Кеттл виявив нову потенційну вразливість — так звану Shared-Parser Confusion. Вона пов’язана з тим, що веб-сервери використовують спільний код для обробки як запитів, так і відповідей, що створює велику площу для атак. За словами Кеттла, це «велика справа», адже запити до сайту є недовіреними, а відповіді — довіреними, що відкриває нові можливості для зловмисників.
Дослідник зазначив, що ШІ не зміг самостійно підтвердити цю вразливість, але проаналізував відомі факти і висунув гіпотезу, яку Кеттл перевірив і підтвердив. Він підкреслив: «Я б точно не знайшов це сам, навіть якби мені дали один рядок із документації. Але разом ми це зробили».
Кеттл також розповів, що з часом, надаючи моделям більш чіткі методологічні дані та параметри, він отримував дедалі більше знахідок, іноді кожні два дні, що створювало ефективний цикл досліджень. Проте він наголосив, що важливо розуміти межі ШІ, адже поки що системи не можуть повністю замінити людину у сфері безпеки.
Джеймс Кеттл підкреслює, що співпраця людини і ШІ наразі є найефективнішою стратегією у виявленні нових вразливостей та розробці як оборонних, так і наступальних кіберзахисних заходів.