Компания OpenAI, известная благодаря созданию популярных нейросетей ChatGPT и DALL-E, выступила с официальным сообщением, суть которого сводится к призыву быть осторожными и дальновидными в обращении с ИИ. По их мнению, от современного искусственного интеллекта исходят серьёзные экзистенциальные риски для всего человечества.

В сообщении описаны некоторые потенциальные преимущества ОИИ (общего искусственного интеллекта), вроде решения глобальных проблем, борьбы с бедностью, а также некоторые потенциальные риски, такие как несоответствие человеческим ценностям и целям, злонамеренное использование злоумышленниками и экзистенциальные угрозы.

По мнению компании-разработчика, необходимо скрупулёзное планирование и координация между различными заинтересованными сторонами, включая исследователей, политиков, лидеров отрасли, группы гражданского общества и широкой общественности. Также необходимо приобщить ОИИ к человеческим ценностям и биоэтике. Кроме того, OpenAI выступает за большую прозрачность и подотчётность в разработке и развёртывании ИИ.

И, наконец, OpenAI очень рассчитывает на международный консилиум по трём фундаментальным вопросам: как управлять ОИИ, как рентабельно распределять продукты, которые они генерируют, и как справедливо делиться доступом с обычными людьми.

Источник: 4PDA.