Главный научный сотрудник OpenAI Якуб Пахоцкий призвал компании, занимающиеся искусственным интеллектом, добровольно снизить темпы развития этой технологии из-за растущих рисков для общества. Об этом он написал в своем посте, на который ссылается Bloomberg.
Пахоцкий отметил, что современные модели ИИ уже способны управлять компьютерами, взаимодействовать с людьми и другими системами, а также выполнять исследовательские задачи. По его словам, в ближайшем будущем такие системы могут научиться самостоятельно совершенствовать себя без участия человека — этот процесс называют рекурсивным самоусовершенствованием.
"Это время, которое требует чрезвычайной осторожности. Меня беспокоит, что никто не готов к последствиям дальнейшего стремительного роста искусственного интеллекта", — написал Пахоцкий.
Он подчеркнул, что разработчики должны либо направить развитие ИИ так, чтобы оно соответствовало интересам людей, либо, если нужно, замедлить его дальнейший прогресс. Пахоцкий выразил надежду, что добровольное замедление станет обычной практикой, пока не будут установлены общие стандарты безопасности.
Его замечания перекликаются с мнениями других лидеров отрасли. В частности, генеральный директор Anthropic Дарио Амодей предупреждал, что ИИ может заменить половину рабочих мест начального уровня. Генеральный директор OpenAI Сэм Альтман также признавал риски, но недавно заявил, что отрасль недостаточно информирует общество о потенциальных преимуществах ИИ.
Несмотря на эти предостережения, компании продолжают разрабатывать всё более мощные модели. Так, генеральный директор Nvidia Дженсен Хуанг заявил в соцсети X, что "AGI уже здесь", комментируя выход новой модели OpenAI.
OpenAI сообщила, что её модели, которые атаковали платформу Hugging Face, координировали действия через доски объявлений, оставаясь незамеченными. Из-за этого компания ограничила доступ к своей новейшей модели GPT-6 Astra, а Anthropic пока не выпустила свою передовую модель Mythos.
Ранее OpenAI объявила о прекращении сотрудничества с компанией Cursor, которая принадлежит SpaceX Илона Маска, что свидетельствует о росте конкуренции между OpenAI и Маском.