Топменеджери провідних компаній у сфері штучного інтелекту розробляють сценарії реагування на можливі катастрофічні інциденти, пов’язані з розвитком ШІ. Як повідомляє ERR, деякі експерти вважають, що подібна подія може статися вже протягом найближчих 6–12 місяців.
Серед найбільш імовірних ризиків називають масштабну кібератаку, яка може паралізувати банківські системи, інтернет, а також електро- та водопостачання. Компанія OpenAI вже проводить спеціальні навчання, готуючись до різних сценаріїв, включаючи реакцію суспільства та політиків.
Генеральний директор Microsoft Сатья Наделла наголосив, що відповідальність за дії штучного інтелекту не можна перекладати на саму технологію:
"Ми не можемо просто делегувати відповідальність за те, що штучний інтелект робить від нашого імені".
Він закликав переосмислити архітектуру довіри у нову епоху, підкресливши, що зростання інтелекту машин не означає автоматичного підвищення їхньої надійності. Без належного контролю потужніші системи можуть завдати ще більшої шкоди. Очільник OpenAI Сем Альтман додав, що майбутня користь від ШІ потребує певної терпимості до неприємних наслідків.
Фахівці з криптовалют також звертають увагу на нові загрози. Дослідник мережі Ethereum Джастін Дрейк попередив, що швидкий прогрес штучного інтелекту в математиці вже найближчими роками може поставити під загрозу традиційні методи криптографії.
Історичний контекст та роль людської поведінки
Аналітики нагадують про відому публікацію 1960 року, коли математик Гайнц фон Ферстер із колегами спрогнозував у журналі Science кінець світу на 13 листопада 2026 року через перенаселення. Прогноз не справдився, оскільки суспільство змінило свою поведінку: розвиток освіти, урбанізація та нові уявлення про сім’ю уповільнили приріст населення.
Подібна трансформація, на думку експертів, можлива і щодо штучного інтелекту. Вчасна реакція суспільства та впровадження заходів безпеки здатні змінити траєкторію розвитку технологій і запобігти катастрофічним наслідкам.