Группа учёных и руководителей IT-компаний подписала открытое письмо, адресованное разработчикам искусственного интеллекта. Оно призывает остановить развитие ИИ-систем мощнее GPT-4, а также предлагают рассмотреть методы работы в этом направлении, не несущие риска для человечества.

Письмо было опубликовано на сайте некоммерческой организации Future of Life Institute. Оно призывает к остановке разработки ИИ-алгоритмов, которые по своим возможностям будут превосходить GPT-4, на полгода. В нём отмечается, что программные решения с интеллектом, конкурирующим с человеческим, могут представлять глубокую угрозу — на это указывают многочисленные исследования.

Документ призывает участников рынка и правительства стран взять паузу, чтобы внедрить протоколы безопасности, которыми должны руководствоваться разработчики при совершенствовании ИИ. Кроме того, инициатива подразумевает создание государственных систем управления и регулирования ИИ. В числе людей, подписавших письмо, отметились Илон Маск, соучредитель Apple Стив Возняк, профессора американских университетов и даже разработчики ИИ-сервисов.

Впрочем, через некоторое после публикации выяснилось, что не все подписи принадлежат их настоящим обладателям. Так, профессор Нью-Йоркского университета Ян ЛеКан заявил, что не подписывал письмо, хотя его фамилия фигурирует в списке. Сейчас сайт не принимает новые подписи — возможно, как раз из-за таких инцидентов. Прямой реакции крупных компаний, связанных с разработкой ИИ, пока не последовало.

Источник: 4PDA.