|
|
4
OpenAI ответила на призыв остановить развитие ИИВ конце марта в сети появилось открытое письмо, призывающее приостановить работу над современными ИИ на шесть месяцев. Разработчики ChatGPT дали свой официальный комментарий по этому поводу — и объяснили, почему будут продолжать работать над развитием нейросетей в прежнем темпе. Ответ на письмо OpenAI опубликовала на своём официальном сайте. Компания поспешила успокоить всех противников развития ИИ, рассказав о мерах, которые принимаются для того, чтобы тот оставался безопасным. Разработчики отметили, что понимают риски бесконтрольного развития ChatGPT и делают всё, чтобы он приносил только пользу. Например, модель GPT-4 была готова ещё полгода назад, но всё это время в компании тестировали ИИ, выявляя его слабые стороны, которые можно использовать со злым умыслом, а также привлекали сторонних экспертов для оценки результата своей работы. Представители OpenAI также отметили, что контактируют с правительствами для определения наилучшей формы регулирования ИИ.
По мнению OpenAI, остановка процесса развития нейросети приведёт к снижению уровня безопасности ИИ. Например, модель GPT-4 на 82% меньше склонна генерировать недопустимый контент по сравнению с GPT-3.5 именно благодаря пользовательскому тестированию. Заодно разработчики затронули тему конфиденциальности и рассказали, что они не используют полученную от пользователей информацию в корыстных целях: не собирают личные данные, не продают их и не создают скрытые личные профили пользователей. Все сведения используются в обезличенном виде и только для обучения ИИ.
Наконец, в OpenAI ответили на критику ложной информации, которую может выдавать ChatGPT. По их словам, главный источник точных сведений — пользователи. Они отмечают выдачу как недостоверную, и позволяют разработчикам вносить коррективы. В результате модель GPT-4 стала на 40% более «правдива», чем её предшественница. Фиксация же ИИ в любом из состояний с запретом на развитие означает повышение риска распространения дезинформации. Источник: 4PDA.
 Loading ...Комментарии (4)Вы должны быть зарегистрированы для написания комментариев. |
На сегодняшний день и, думаю, лет 10 ещё, ИИ может стать максимум помощником человека, но никак не его заменой.
Да и даже сейчас процентов 80 идей - это развлечения, ежели рабочие инструменты.
И не забываем, что ИИ и искусственный разум - это совершенно разные вещи. Второе пока не изобрели
Не правильно ты думаешь, даже сейчас ChatGPT может заменить слабых программистов и значительно ускорить работу более сильных.
В образовательных целях просто пушка.
Опасения вполне оправданы. Я не говорю, что так будет, но исключать вероятность это крайне глупо.
Он не заменяет слабых программистов. Он лишь быстро находит плоды их работы. Причём правильность этого нахождения ещё проверять нужно.
ИИ — это всё ещё программа действующая по строго заранее написаному алгоритму. У неё нет способности к творческому мышлению, а программисту это необходимо.
Насчёт "ускорить работу более сильных" — лишь подтверждение моих слов. Это инструмент для помощи человеку, но не замена человека.
К слову, про опасения. Опасность есть, но, как мне кажется, она временная. Сейчас начинается грандиозное перераспределение рынка труда (ведь с помощью ИИ один сотрудник может выполнять то, для чего ранее требовалось несколько сотрудников). Это сопровождается массовыми увольнениями, но одновременно и массовым появлением новых рабочих мест. Эти процессы вполне естественны.
Ты будто прочитал одну фразу и не читал дальше. Сейчас нет, я так и сказал, но исключать вероятность глупо.
А слабые программисты - это жулики которые в принципе берут чужой код из интереса и адаптируют, с ошибками, с лишними структурами, а иногда и дырками, так как сами не понимают, что делают. Все что я тестировал в чате - код был идеален.
Ты, как обычно сам себе противоречишь, вначале ты говорил, что это все игрушки, теперь говоришь, что все же есть увольнения. Уже определись)))
По поводу определения ИИ ты вероятно тоже не до конца понимаешь, что такое ИИ.