Учёные и бизнесмены в сфере высоких технологий подписали открытое письмо с целью временно ограничить развитие искусственного интеллекта (ИИ).

Среди подписавшихся предприниматель — глава Tesla, Space-X и Twitter Илон Маск, сооснователь Apple Стив Возняк, CEO ряда крупных компаний, среди которых Microsoft, Google и Skype, профессора Массачусетского технического университета, Гарварда, Оксфорда и сотен других университетов по всему миру, учителя, инженеры и бесчисленные IT-специалисты. Сами разработчики искусственного интеллекта, в том числе главы Stability AI и Conjecture, также подписали это письмо.

«Мы призываем все лаборатории ИИ немедленно приостановить как минимум на шесть месяцев обучение систем ИИ, более мощных, чем GPT-4. Эта пауза должна быть общедоступной и поддающейся проверке, и в ней должны участвовать все ключевые участники. Если такую паузу нельзя ввести быстро, правительства должны вмешаться и ввести мораторий», — говорится в их обращении.

За полгода предлагается разработать протоколы безопасности и регулирования в сфере ИИ. «Эти протоколы должны гарантировать, что системы, придерживающиеся их, вне всяких разумных сомнений безопасны», — подчёркивается в обращении.

«Системы ИИ с уровнем интеллекта, конкурирующим с человеком, могут представлять серьёзную опасность для общества и человечества, как показали обширные исследования и признали ведущие лаборатории по созданию и изучению ИИ. Продвинутый ИИ может представлять собой глубокое изменение в истории жизни на Земле, и его следует планировать и управлять им с соразмерной тщательностью и ресурсами», — считают подписанты.

«В последние месяцы лаборатории искусственного интеллекта погрязли в неконтролируемой гонке по разработке и развёртыванию всё более мощных цифровых умов, которые никто — даже их создатели — не может до конца понять, прогнозировать или надёжно контролировать», — высказали обеспокоенность авторы.

Исследования и разработки в области ИИ должны быть переориентированы на то, чтобы сделать современные мощные системы более точными, безопасными, прозрачными и надёжными, говорится в обращении.

Его подготовила некоммерческая организация «Институт будущего жизни» (Future of Life Institute). Открытое письмо подписали уже 1377 человек.