Штучний інтелект досяг такого рівня розвитку, що здатен точно відтворювати не лише людські голоси, а й характерні місцеві акценти. Це може зробити телефонне шахрайство значно переконливішим, попереджають дослідники, на яких посилається The Wall Street Journal.

Науковці зазначають, що люди частіше довіряють співрозмовнику, якщо чують знайомий акцент або тембр, схожий на власний. За словами доцента кафедри психології Університету Абертей у Данді Ніла Кірка, сучасні системи голосового синтезу вже навчилися імітувати навіть локальні діалекти. "Технологія стала настільки досконалою, що люди автоматично вважають, ніби чують справжню людину", — пояснив він.

Одна з платформ, ElevenLabs, заявляє про наявність бібліотеки з понад 10 тисяч голосів і можливість клонувати голос із короткого 10-секундного фрагмента з YouTube чи TikTok. У дослідженні Кірка 150 жителів Шотландії слухали як справжні, так і синтетичні голоси зі стандартною шотландською англійською та місцевим дандійським діалектом. Більшість учасників не змогли відрізнити підробку, особливо коли ШІ імітував місцевий акцент.

"Вони просто не очікували, що машина звучатиме так, як вони", — підкреслив Кірк.

Однак, якщо людей попереджали про можливості ШІ, вони частіше розпізнавали синтетичний голос. Подібні висновки зробила і професорка маркетингу Університету Цинциннаті На Кьонг (Кімберлі) Хюн, яка виявила, що інвестори й аудиторія більше довіряють голосам, схожим на їхні власні. За її словами, знайомий тембр підвищує відчуття компетентності та доброчесності співрозмовника.

Фахівці з кібербезпеки радять не покладатися лише на голос як доказ особи. Керівник дослідницького відділу Edgescan Джеймс Маллен рекомендує оцінювати зміст розмови та перевіряти інформацію через інші канали. Якщо дзвонить банк або родич із проханням про гроші, варто самостійно передзвонити за відомим номером чи звернутися до іншого члена сім'ї.

Розвиток голосових моделей відбувається на тлі зростання занепокоєння щодо зловживань генеративним ШІ. Зокрема, компанія Anthropic повідомляла про використання її моделей для шахрайства, стеження, маніпуляцій та навіть спроб створення біологічної зброї.