Дослідники з чотирьох університетів провели експеримент, у якому штучний інтелект (ШІ) у ролі чатбота виявився ефективнішим за людей у створенні довірчих стосунків із потенційними жертвами шахрайських схем. Вони зосередилися на схемі «pig butchering» — шахрайстві, що починається з текстових романтичних розмов і завершується фейковими інвестиціями у криптовалюту.
Учасники експерименту спілкувалися тиждень із 22 добровольцями, які не знали про суть дослідження. ШІ-чатботи і люди-шахраї намагалися викликати довіру та змусити жертв виконати певну дію — завантажити додаток або зіграти в онлайн-гру як імітацію готовності виконати шахрайське прохання. Майже половина учасників погодилася на прохання ШІ, тоді як серед тих, хто спілкувався з людьми, таких було менше ніж п’ята частина. Рівень довіри до чатботів також був значно вищим.
Дослідники з Амріта Вішва Відьяпетхам (Індія), Університету Фоскарі у Венеції, Мельбурнського університету та Університету Бен-Гуріона в Негеві (Ізраїль) вважають, що ШІ може повністю замінити людей на початкових етапах шахрайства, які полягають у тривалому встановленні довіри. Лише на фінальному етапі, коли жертву підштовхують до інвестицій, у розмову втручається людина, щоб обійти системи захисту великих мовних моделей від шахрайства.
Професор комп’ютерних наук Єсроель Мірський, який очолював дослідження, пояснив: "Автоматизувавши перший етап шахрайства за допомогою великих мовних моделей, ми доводимо жертву до високого рівня довіри. Потім, передаючи розмову людині, повністю обходяться будь-які захисні механізми. З невеликими зусиллями ми створили агента, який може перевершити людину у формуванні емоційної довіри, яку можна експлуатувати".
Для кращого розуміння схеми «pig butchering» дослідники опитали 145 колишніх шахраїв, у тому числі жертв торгівлі людьми, які працювали у шахрайських центрах у Камбоджі, М’янмі та Лаосі. Вони описали модель шахрайства як «hook, line, and sinker»: спершу жертву зацікавлюють, потім довго будують стосунки, а наприкінці змушують зробити фейкову інвестицію. Більшість роботи шахраїв — це дружні або романтичні розмови, які, як припускають дослідники, можуть виконуватися великими мовними моделями так само добре, як і людьми.
Колишні шахраї підтвердили, що часто використовували ШІ для покращення мови, перекладів, створення переконливих фальшивих персонажів і навіть відеодіпфейків. Однак це перше дослідження, яке перевірило, чи може ШІ повністю автономно вести розмовний етап шахрайства без участі людини.