Провідні розробники та дослідники штучного інтелекту дедалі частіше вказують на ризик використання ШІ для створення небезпечних біологічних патогенів. За даними Axios, саме цей сценарій є найбільшим страхом фахівців галузі, хоча вони вважають його малоймовірним, але достатньо реалістичним, щоб посилити заходи безпеки.

За словами співрозмовників видання, розвиток штучного інтелекту може випередити можливості держав і компаній із виявлення та запобігання біологічним загрозам. Хоч цей сценарій не є найбільш імовірним, він вважається достатньо правдоподібним, щоб приділяти йому особливу увагу.

Минулого місяця керівники провідних компаній у сфері ШІ — Сем Альтман (OpenAI), Даріо Амодей (Anthropic), Деміс Хассабіс (Google DeepMind), Мустафа Сулейман (Microsoft AI) та Александр Ван (Meta Superintelligence Labs) — підписали відкритий лист. У ньому вони попередили про ризик використання ШІ для створення біологічної зброї та закликали посилити механізми захисту.

Нові дослідження MIT FutureTech та Університету Квінсленда підтверджують ці побоювання. Аналіз 272 дослідників 24 основних ризиків, пов’язаних зі ШІ, показав 12% імовірність катастрофічних наслідків через небезпечні можливості ШІ до 2030 року, а також 12% ризик застосування зброї зі ШІ або інших технологій масового ураження. Ці оцінки враховують уже запроваджені заходи безпеки. Без них імовірність катастрофи перевищувала б 20%. Під катастрофою розуміють події з понад мільйоном смертей або економічними збитками понад 100 мільярдів доларів.

Axios також відзначає, що ці ризики активно впливають на дискусії між урядами та технологічними компаніями щодо перевірки нових моделей ШІ перед публічним запуском. Розробники прагнуть створити механізми, які блокуватимуть використання моделей для небезпечних цілей і допомагатимуть швидше виявляти потенційні біологічні загрози.

Водночас експерти звертають увагу на складність контролю моделей із відкритим кодом, які можна вільно модифікувати та використовувати поза регуляторними механізмами. Це ускладнює запобігання можливим зловживанням.

За оцінками фахівців, створення принципово нового патогену наразі потребує високої кваліфікації, дорогого обладнання та багаторічних досліджень. Однак розвиток ШІ може суттєво прискорити окремі етапи цього процесу — від аналізу біологічних даних до пошуку перспективних варіантів, що викликає найбільше занепокоєння серед розробників.

“Це серйозні й лячні речі. Але ігнорування їх не вирішить проблеми. А от обізнаність і запобігання — вирішать”, — підсумовує Axios.

Водночас історик і футуролог Ювал Ной Харарі заявив, що головна загроза ШІ полягає в поступовому захопленні бюрократичних систем. За його словами, алгоритми природно інтегруються в державні установи, банки та корпорації, контролюючи інформаційні потоки й ухвалення рішень без збройної революції. Харарі застеріг, що через руйнування довіри між людьми та пряму взаємодію ШІ-систем людство ризикує опинитися всередині алгоритмічної економіки, принципи якої перестануть бути зрозумілими навіть для її творців.