Топ-менеджеры ведущих компаний в сфере искусственного интеллекта разрабатывают сценарии реагирования на возможные катастрофические инциденты, связанные с развитием ИИ. Как сообщает ERR, некоторые эксперты считают, что подобное событие может произойти уже в ближайшие 6–12 месяцев.

Среди наиболее вероятных рисков называют масштабную кибератаку, которая может парализовать банковские системы, интернет, а также электро- и водоснабжение. Компания OpenAI уже проводит специальные тренировки, готовясь к разным сценариям, включая реакцию общества и политиков.

Генеральный директор Microsoft Сатья Наделла подчеркнул, что ответственность за действия искусственного интеллекта нельзя перекладывать на саму технологию:

"Мы не можем просто делегировать ответственность за то, что искусственный интеллект делает от нашего имени".

Он призвал переосмыслить архитектуру доверия в новую эпоху, отметив, что рост интеллекта машин не означает автоматического повышения их надежности. Без должного контроля более мощные системы могут нанести ещё больший вред. Глава OpenAI Сэм Альтман добавил, что будущая польза от ИИ требует определённой терпимости к неприятным последствиям.

Специалисты по криптовалютам также обращают внимание на новые угрозы. Исследователь сети Ethereum Джастин Дрейк предупредил, что быстрый прогресс искусственного интеллекта в математике уже в ближайшие годы может поставить под угрозу традиционные методы криптографии.

Исторический контекст и роль человеческого поведения

Аналитики напоминают о известной публикации 1960 года, когда математик Гайнц фон Ферстер с коллегами спрогнозировал в журнале Science конец света на 13 ноября 2026 года из-за перенаселения. Прогноз не оправдался, поскольку общество изменило своё поведение: развитие образования, урбанизация и новые представления о семье замедлили прирост населения.

Подобная трансформация, по мнению экспертов, возможна и в отношении искусственного интеллекта. Своевременная реакция общества и внедрение мер безопасности способны изменить траекторию развития технологий и предотвратить катастрофические последствия.