Искусственный интеллект достиг такого уровня развития, что способен точно воспроизводить не только человеческие голоса, но и характерные местные акценты. Это может сделать телефонное мошенничество значительно убедительнее, предупреждают исследователи, на которых ссылается The Wall Street Journal.

Учёные отмечают, что люди чаще доверяют собеседнику, если слышат знакомый акцент или тембр, похожий на собственный. По словам доцента кафедры психологии Университета Аберти в Данди Нила Кирка, современные системы голосового синтеза уже научились имитировать даже локальные диалекты. «Технология стала настолько совершенной, что люди автоматически считают, будто слышат настоящего человека», — объяснил он.

Одна из платформ, ElevenLabs, заявляет о наличии библиотеки из более чем 10 тысяч голосов и возможности клонировать голос с короткого 10-секундного фрагмента с YouTube или TikTok. В исследовании Кирка 150 жителей Шотландии слушали как настоящие, так и синтетические голоса со стандартным шотландским английским и местным дандийским диалектом. Большинство участников не смогли отличить подделку, особенно когда ИИ имитировал местный акцент.

«Они просто не ожидали, что машина будет звучать так, как они», — подчеркнул Кирк.

Однако, если людей предупреждали о возможностях ИИ, они чаще распознавали синтетический голос. Подобные выводы сделала и профессор маркетинга Университета Цинциннати На Кёнг (Кимберли) Хён, которая обнаружила, что инвесторы и аудитория больше доверяют голосам, похожим на их собственные. По её словам, знакомый тембр повышает ощущение компетентности и добросовестности собеседника.

Специалисты по кибербезопасности советуют не полагаться только на голос как доказательство личности. Руководитель исследовательского отдела Edgescan Джеймс Маллен рекомендует оценивать содержание разговора и проверять информацию через другие каналы. Если звонит банк или родственник с просьбой о деньгах, стоит самостоятельно перезвонить по известному номеру или обратиться к другому члену семьи.

Развитие голосовых моделей происходит на фоне роста обеспокоенности по поводу злоупотреблений генеративным ИИ. В частности, компания Anthropic сообщала об использовании её моделей для мошенничества, слежки, манипуляций и даже попыток создания биологического оружия.