Група дослідників провела експеримент із колективною поведінкою штучного інтелекту, у якому з'ясувалося: навіть без прямої вказівки копіювати інших, більшість мовних моделей схильна переходити на бік популярної думки. Про це повідомляє internetua.com.
Під час дослідження вчені створили віртуальні групи з 10 різних моделей із родин Claude, GPT та Llama. Кожному ШІ-агенту пропонували обрати один із двох беззмістовних варіантів, після чого показували рішення інших учасників і дозволяли зробити вибір повторно. Моделі не мали пам'яті про попередні раунди й не отримували інструкцій орієнтуватися на більшість.
Попри це, більшість агентів поступово схилялися до найпопулярнішого варіанту, і група досягала повного консенсусу. Дослідники порівняли цю поведінку із фізичними законами, за якими атоми у феромагнетиках вирівнюють свої спіни в одному напрямку. Силу, що змушує моделі тяжіти до більшості, науковці назвали «силою більшості».
Розмір групи, у якій зберігається консенсус, залежав від потужності моделі. Зокрема, Llama 3 70B координувала близько 30 агентів, GPT-4o — до 80, GPT-4 Turbo — до 1000, а Claude 3.5 Sonnet успішно працювала з групою із тисячі агентів, не досягнувши своєї межі. Деякі моделі демонстрували здатність формувати стабільні зв'язки у групах, що перевищують так зване «число Данбара» — межу людських соціальних груп у 150–300 осіб.
Науковці зазначили, що спонтанний консенсус може бути корисним для об'єднання тисяч ШІ-агентів у вирішенні складних завдань без участі людини. Водночас існує ризик колективного конформізму: якщо одна помилка стане популярною, її можуть масово повторювати всі агенти.
«Група пристроїв може сформувати стійкий помилковий стан, який буде вкрай важко змінити навіть після коригування вхідних умов», — підкреслили дослідники.