Кілька відомих хедж-фондів, серед яких Citadel і Two Sigma, стали мішенню нових атак із застосуванням штучного інтелекту для голосового фішингу, або «вішингу». Про це повідомляє Bloomberg, наголошуючи на швидкому розвитку кіберзлочинності з використанням AI та недостатній готовності до неї.
За даними Bloomberg, у цих атаках кіберзлочинці застосовували штучний інтелект для імітації голосів реальних людей, щоб обійти системи безпеки. Крім хедж-фондів, також постраждали кілька приватних інвестиційних компаній. Представники Two Sigma заявили, що змогли вчасно виявити атаку і запобігти компрометації внутрішніх систем. Citadel і Point72, які також були серед цілей, наразі не надали коментарів.
Експерти з інформаційних технологій давно попереджали, що доступність і простота використання AI-інструментів, здатних імітувати людську мову або створювати інші види дипфейків, призведуть до зростання масштабів і складності шахрайських схем. У 2024 році вже був зафіксований випадок, коли співробітниця гілки міжнародної компанії в Гонконзі перевела понад 25,5 мільйона доларів шахраям, які використовували AI-генеровані голоси керівників, зокрема фінансового директора.
Крім фінансових махінацій, AI-злочини застосовуються і для політичних маніпуляцій. Минулого літа за допомогою штучного інтелекту було відтворено голос держсекретаря Марко Рубіо, після чого зловмисники надсилали голосові повідомлення дипломатам і федеральним чиновникам. У червневому звіті OpenAI також повідомлялося про групу шахраїв, ймовірно пов’язаних із китайським урядом, які використовували ChatGPT для створення провокаційного контенту у соцмережах з метою посилення антипатії до дата-центрів у США.
Ринок штучного інтелекту, за відсутності федерального регулювання, стимулює розробників створювати дедалі досконаліші моделі, зокрема для імітації людської мови. Остання голосова модель OpenAI, GPT-Live-1, розроблена для відтворення тонких нюансів мови, щоб зробити спілкування з AI більш природним. Водночас компанія заявляє, що ця модель не здатна імітувати голоси реальних людей, враховуючи негативний досвід із попередніми розробками.
Загалом, зростання «вішинг»-атак із використанням штучного інтелекту є закономірним явищем, що відображає давню історію технологічно підсилених шахрайств. Водночас залишається відкритим питання, чому не впроваджують ефективніші заходи безпеки для запобігання таким атакам на ранніх етапах.