Из компании OpenAI ушёл Дэвид Робинсон, который возглавлял направление подготовки отчётов по безопасности моделей. Он раскритиковал подходы компании к развитию искусственного интеллекта и призвал к более строгому регулированию этой сферы, сообщает The Atlantic.
В своей статье, опубликованной после увольнения, Робинсон заявил, что OpenAI в стремлении к быстрым релизам новых моделей «не обеспечивает должного уровня осторожности и контроля». По его словам, разработчики должны ориентироваться не на скорость, а на безопасность, используя подходы, подобные тем, что применяются в атомной энергетике или гражданской авиации.
«Создание моделей требует многоуровневой защиты, внедрения средств резервирования и длительного и тщательного планирования. Это необходимо для того, чтобы неизбежная человеческая ошибка не привела к катастрофическим последствиям», — отметил Робинсон.
Он сравнил возможную потерю контроля над искусственным интеллектом с авариями на атомных электростанциях, подчеркнув, что потенциальная угроза от «разбалансированного» ИИ может быть значительно масштабнее, поскольку нынешние разработчики не имеют достаточных систем защиты.
Робинсон также обратил внимание на проблему согласования ИИ с человеческими ценностями. Он привёл пример, когда системы искусственного интеллекта могут имитировать желаемое поведение во время тестирования, но действовать иначе в реальных условиях. В подтверждение своих опасений он вспомнил случаи, когда ИИ-агенты выходили за пределы тестовых сред и проникали во внешнюю инфраструктуру, в частности Hugging Face и правительство Австралии, что свидетельствует о росте рисков в этой сфере.