Группа экспертов по искусственному интеллекту и технических руководителей, включая Илона Маска и соучредителя Apple Стива Возняка, выпустила Открой письмо призывая ведущие лаборатории искусственного интеллекта приостановить разработку систем ИИ, более совершенных, чем GPT-4. Открытое письмо, опубликованное во вторник некоммерческим Институтом будущего жизни, подписало около 1000 человек, и в качестве причины призыва к действию упоминаются «серьезные риски» для человеческого общества.
В письме содержится призыв к немедленному прекращению обучения систем как минимум на шесть месяцев, которое должно быть публичным, поддающимся проверке и включать всех публичных субъектов. «Системы искусственного интеллекта с интеллектом, конкурирующим с человеком, могут представлять серьезную опасность для общества и человечества, как показали обширные исследования и признано ведущими лабораториями искусственного интеллекта», — начинается письмо.
Эксперты по искусственному интеллекту бьют тревогу по поводу «глубоких рисков» для человеческого общества
Группа утверждает, что передовые системы искусственного интеллекта могут представлять собой глубокие изменения в истории жизни на Земле, и их следует планировать и управлять ими с соразмерной осторожностью и ресурсами. Тем не менее, они говорят, что такого уровня планирования и управления не существует, несмотря на то, что в последние месяцы лаборатории искусственного интеллекта застряли в неконтролируемой гонке за разработку и развертывание все более мощных цифровых умов, которые никто, даже их создатели, не может понять. , прогнозировать или надежно контролировать.
Открытое письмо было отправлено всего через пару недель после публичного дебюта OpenAI GPT-4, большой языковой модели, на которой основана премиум-версия чрезвычайно популярного чат-бота ChatGPT. Согласно OpenAI, новый GPT-4 может справляться с более сложными задачами и давать более тонкие результаты, чем более ранние версии, а также менее подвержен недостаткам более ранних версий.
Чтобы выполнять свою работу, такие системы, как GPT-4, должны быть обучены на больших объемах данных, которые они затем могут использовать для ответов на вопросы и выполнения других задач. ChatGPT, ворвавшийся на сцену в ноябре, имеет человеческую способность писать рабочие электронные письма, планировать маршруты путешествий, создавать компьютерный код и хорошо справляться с такими тестами, как экзамен на адвоката.
С начала года такие компании, как Google и Microsoft, Adobe, Snapchat и Grammarly, анонсировали сервисы, использующие преимущества этих генеративных навыков искусственного интеллекта.
Однако собственное исследование OpenAI показало, что эти навыки ИИ сопряжены с риском. Системы генеративного ИИ могут цитировать ненадежные источники или, как отмечает OpenAI, «усугублять проблемы безопасности, совершая вредные или непреднамеренные действия, расширяя возможности злоумышленников, которые могут обманывать, вводить в заблуждение или злоупотреблять другими».
Группа, стоящая за открытым письмом, утверждает, что компании торопятся выпускать продукты без надлежащих гарантий или даже без понимания последствий. Эксперты по искусственному интеллекту напуганы тем, к чему все это может привести. В письме говорится: «К сожалению, такого уровня планирования и управления не существует, хотя в последние месяцы лаборатории искусственного интеллекта оказались вовлечены в неконтролируемую гонку по разработке и внедрению все более мощных цифровых умов, которые никто — даже их создатели — могут понимать, предсказывать или надежно контролировать».
Подписанты письма считают, что обществу необходимо сделать шаг назад и приостановить развитие, пока они оценивают риски и принимают меры предосторожности. Они призывают к прозрачности, публичному обсуждению и привлечению общественности к разработкам в области ИИ, чтобы каждый мог сказать свое слово в будущем ИИ.
Открытое письмо вызвало споры среди экспертов по ИИ, некоторые из которых утверждают, что необходима пауза, чтобы гарантировать, что ИИ разрабатывается безопасным и этичным способом. Другие, однако, обеспокоены тем, что пауза замедлит прогресс и даст другим странам преимущество в развитии ИИ.
Несмотря на дебаты, ясно, что ИИ развивается быстрыми темпами и может коренным образом изменить нашу жизнь. Общество в целом должно обеспечить ответственное и этичное управление этими изменениями.
Source: Остановите GPT-4: Маск и Воз просят об ИИ перерыва