Руководители ведущих компаний в сфере искусственного интеллекта Anthropic, OpenAI и SpaceX AI выступили с призывом временно замедлить темпы развития ИИ. Об этом сообщает генеральный директор Anthropic Дарио Амодеи в своем эссе, опубликованном накануне.
По словам Амодеи, в последнее время искусственный интеллект начал развиваться значительно быстрее, что связано с явлением рекурсивного самосовершенствования — когда ИИ участвует в создании новых, ещё более мощных версий подобных систем. Он подчеркнул, что без должного контроля этот процесс может выйти из-под человеческого влияния, и люди потеряют способность понимать и управлять такими технологиями.
Дарио Амодеи предупредил, что при нынешних темпах неконтролируемые агенты искусственного интеллекта потенциально могут стать угрозой. Он отметил:
«Если этот процесс не контролировать, он может опередить способность людей понимать и управлять ИИ».
К инициативе присоединились и руководители OpenAI и SpaceX AI, которые поддержали идею временного торможения развития ИИ. Они считают, что необходимо разработать механизмы контроля и регулирования, чтобы избежать неконтролируемых последствий от внедрения новых технологий.