Редактор відділу Netzwelt журналу Der Spiegel Торстен Кляйнц закликав технологічні компанії обмежити масове впровадження штучного інтелекту (ШІ), який упевнено генерує відповіді навіть без достовірної інформації.

За словами Кляйнца, головна проблема сучасних моделей ШІ полягає не в помилках, а в їхній впевненості. «Навіть якщо чатбот не знаходить надійної інформації на моє запитання, він усе одно пропонує відповідь, яка звучить правдоподібно і подається з повною впевненістю», — зазначає журналіст.

Як приклад він наводить власний досвід із сервісом Gemini. Хоча ШІ допоміг вирішити побутову проблему з кімнатною рослиною, в інших випадках він ігнорував інструкції під час генерації зображень, довільно змінював об’єкти у відео та не знаходив інформацію, яка мала бути доступною через сервіси Google.

Окремо Кляйнц критикує функцію «Огляд із ШІ» у пошуку Google, вважаючи, що готові відповіді відучують користувачів переходити до першоджерел. Це, на його думку, може підірвати економічну модель медіа, які витрачають ресурси на збір і перевірку інформації.

Журналіст закликає: «Якщо ШІ не може надати інформацію, за яку видавці готові відповідати своїм ім’ям і грошима, тоді, можливо, він взагалі не повинен її надавати». Головним принципом для чатботів має стати фраза: «Я знаю, що нічого не знаю».

Наразі Google активно розширює використання ШІ у своєму пошуку. Під час конференції I/O компанія представила найбільше оновлення Search за 25 років, додавши AI Mode, агентів для пошуку та персоналізовані відповіді на базі Gemini. Водночас дослідники звертають увагу, що AI Overviews у запитах про здоров’я часто спираються на неспеціалізовані джерела, як-от YouTube, що викликає сумніви щодо надійності таких відповідей.

Питання відповідальності за помилки генеративного ШІ вже дійшло до судів. У Німеччині AI Overview Google став предметом судового розгляду, після якого суд визнав, що відповідальність за неправдиві твердження, згенеровані системою, несе компанія Google. Про це пише доктор наук у галузі права Олексій Костенко, завідувач наукової лабораторії імерсивних технологій і права Інституту інформації, безпеки і права Національної академії правових наук України.