Технолидеры призывают остановить обучение ИИ

Ключевые фигуры в области искусственного интеллекта хотят, чтобы обучение мощных систем искусственного интеллекта было приостановлено из-за опасений по поводу угрозы для человечества. Они подписали открытое письмо с предупреждением о потенциальных рисках и заявили, что гонка по разработке систем искусственного интеллекта вышла из-под контроля.

Глава Twitter Илон Маск — один из тех, кто хочет, чтобы обучение ИИ выше определенного уровня было остановлено как минимум на шесть месяцев. Соучредитель Apple Стив Возняк и некоторые исследователи из DeepMind также подписали соглашение.

OpenAI, компания, стоящая за ChatGPT, недавно выпустила GPT-4 — современную технологию, которая впечатлила наблюдателей своей способностью выполнять такие задачи, как ответы на вопросы об объектах на изображениях.

В письме от Института Будущего Жизни, подписанном светилами, говорится, что разработка должна быть временно остановлена ​​на этом уровне, и в письме содержится предупреждение о рисках, которые могут представлять более совершенные системы в будущем.

«Системы искусственного интеллекта с интеллектом, конкурирующим с человеком, могут представлять серьезную опасность для общества и человечества», — говорится в письме. Институт будущего жизни — это некоммерческая организация, которая заявляет, что ее миссия состоит в том, чтобы «направить преобразующие технологии от экстремальных крупномасштабных рисков к улучшению жизни».

Илон Маск, владелец Twitter и исполнительный директор автомобильной компании Tesla, указан в качестве внешнего советника организации. В письме говорится, что передовые ИИ необходимо разрабатывать с осторожностью, но вместо этого «в последние месяцы лаборатории ИИ оказались втянутыми в неконтролируемую гонку по разработке и развертыванию все более мощных цифровых умов, которые никто — даже их создатели – не сможет понять, предсказать или надежно контролировать».

В письме предупреждается, что искусственный интеллект может наводнить информационные каналы дезинформацией и заменить рабочие места автоматизацией. В письме лабораториям искусственного интеллекта предлагается «немедленно приостановить как минимум на шесть месяцев обучение систем искусственного интеллекта, более мощных, чем GPT-4». Если такая отсрочка не может быть принята быстро, правительства должны вмешаться и ввести мораторий, говорится в нем. Также потребуются «новые и дееспособные регулирующие органы, занимающиеся ИИ».