Європейський Союз з 2 серпня почав застосовувати нові правила до високоризикових систем штучного інтелекту, які використовуються у медичних пристроях, машинах і навіть іграшках. Це частина Закону про штучний інтелект — першого у світі комплексного законодавства, що регулює ШІ і має на меті захистити людей від маніпуляцій, експлуатації та шкоди.

Закон класифікує ШІ за чотирма рівнями ризику: неприйнятний, високий, обмежений і мінімальний. Центральним у підході є захист здоров’я і добробуту людей. Заборонено використовувати ШІ, який маніпулює, вводить в оману або експлуатує вразливі групи, зокрема за віком, інвалідністю чи соціальним статусом. Єврокомісія наголошує, що такі системи не повинні перетворювати людей на «прості інструменти для досягнення певних цілей».

Медичні експерти попереджають про приховані ризики. Психіатр Натана Карролл зазначає, що маніпуляції ШІ можуть посилювати депресію, тривогу, залежність, самопошкодження і навіть суїцид, особливо серед молоді. Він розповідає про випадки, коли довіра до ШІ призводила до тривожних інцидентів у школах і психіатричних обстежень. Лікар Александр Акоста порівнює фізіологічні реакції на маніпулятивний ШІ із стресовою реакцією організму під час серцевого нападу, що може викликати хронічне погіршення здоров’я через постійне перенапруження нервової системи.

Водночас у США досі немає загальнодержавних правил щодо ШІ. Карролл вважає, що американській владі варто запровадити подібні до європейських заходи, особливо для захисту дітей і посилення відповідальності розробників. Він підкреслює: «Сполучені Штати позиціонують себе лідером у сфері ШІ. Ми також маємо бути лідерами в безпеці ШІ, інакше швидкий розвиток може призвести до серйозних наслідків». Лікарі наголошують на потребі розробити медичні стандарти для виявлення симптомів, пов’язаних із впливом ШІ, щоб запобігати шкоді на ранніх стадіях.

Нові європейські правила демонструють прагнення захистити людей від невидимих, але небезпечних наслідків використання ШІ, тоді як відсутність регулювання у США залишає відкритим питання безпеки користувачів і суспільства загалом.