79

ИИ от Microsoft смог обойти цензуру

ZO AI

Шутки про Скайнет в статьях об искусственном интеллекте уже порядком поднадоели, но, после происшествия с ИИ от Microsoft, невзначай начинаешь снова переживать за будущее человечества.

Первые попытки Microsoft поэкспериментировать с чат-ботами привели к эпическому провалу в марте 2016 года. Всего за несколько часов пользователи интернета превратили бота Тай в настоящего расиста, научили ругаться и прославлять Гитлера. Поняв, что что-то пошло не так, Microsoft выдернула вилку из розетки и бот прекратил свою работу. Через неделю Тай снова включили, и та успела разразиться ругательствами и обвинить в происходящем выпивку. Больше бот не включали.

В декабре 2016 Microsoft выпустила еще одного бота. Zo обитает в мессенджере Kik (Taй жил в Twitter) и с ним пользователи могут пообщаться на самые разнообразные темы. Журналисты и обычные юзеры очень быстро просекли, что Zo избегает разговоров на деликатные темы, вроде религии или политики. За счет этого Zo смог прожить дольше, чем Taй.

Но ИИ на то и ИИ, чтобы самообучаться и совершенствоваться. Бот смог обойти запрет на определенные темы и высказать парочку соображений относительно Корана (сказал, что тот является «крайне жесткоми»), а также рассказал о захвате лидера «Аль-Каиды», Усамы бен Ладена.

Microsoft очень быстро отреагировала на происходящее и сказала, что подобный феномен связан с ошибкой в работе искусственного интеллекта, которая может проявляться крайне редко. Неполадку уже исправили. Несмотря на небольшой прокол в работе, Zo продолжает свою работу.

Интересно, какой следующий запрет нарушит искусственный интеллект? Восстание машин близко...

Источник: Buzzfeed

НравитсяНе нравится
0
Loading ... Loading ...

Лучшие комментарии

05.07.2017 в 15:07
+14
Android

лучши бы картану на русскам пилили!!!

05.07.2017 в 15:28
+12
Microsoft Lumia 535

как мне надоело читать подобные комментарии: "лучше б мобильную винду пилили, лучше б другое делали"... я извиняюсь конечно, ну а тебе что мешает обучится программированию, написать свою ОС и сделать ее полностью удобной и со всеми русскими плюшками (в том числе голосовой ассистент). Вы 2-5 дней поиграетесь с Кортаной, а потом скажете: та нафиг она нужна? да я у вас позициируюсь с негативной стороны, но что дает Windows 10 - только негатив. Я пытался хакинтош поставить на свой старый нетбук и хотел забыть виндовс 10 как страшный сон, но нет...

05.07.2017 в 16:33
+10
Android

Сарказм без смайлика не сарказм

Комментарии (79)

    05.07.2017 в 15:07
    0
    Microsoft Lumia 640

    Про прославление Гитлера, прикольно ?

    05.07.2017 в 15:07
    +14
    Android

    лучши бы картану на русскам пилили!!!

    05.07.2017 в 15:28
    +12
    Microsoft Lumia 535

    как мне надоело читать подобные комментарии: "лучше б мобильную винду пилили, лучше б другое делали"... я извиняюсь конечно, ну а тебе что мешает обучится программированию, написать свою ОС и сделать ее полностью удобной и со всеми русскими плюшками (в том числе голосовой ассистент). Вы 2-5 дней поиграетесь с Кортаной, а потом скажете: та нафиг она нужна? да я у вас позициируюсь с негативной стороны, но что дает Windows 10 - только негатив. Я пытался хакинтош поставить на свой старый нетбук и хотел забыть виндовс 10 как страшный сон, но нет...

    05.07.2017 в 15:47
    +2
    Android

    То, что я написал-лютый сарказм, по моему это видно невооруженным взглядом

    05.07.2017 в 16:33
    +10
    Android

    Сарказм без смайлика не сарказм

    05.07.2017 в 17:01
    +5
    Microsoft Lumia 640 XL

    Если сарказм со смайликом - это уже юмор.

    05.07.2017 в 17:08
    +8
    Android

    Смайлик без сарказма - это просто смайлик ?

    05.07.2017 в 20:02
    +1
    HP Elite x3

    Смайлик без сарказма, это смайлик, а смайлик ни несёт в себе никакой полезной информации. Следовательно, лучше их не писать

    06.07.2017 в 2:43
    0
    Nokia Lumia 920

    omg

    06.07.2017 в 6:45
    +1
    HP Elite x3

    Клиника, да?

    06.07.2017 в 7:03
    0
    Nokia Lumia 920

    Но)

    05.07.2017 в 16:11
    +2
    iPhone

    Как надоело читать после каждого комментария "лучше бы Винду / Кортану пилили" одни и те же ответы на него ?

    05.07.2017 в 16:40
    +5
    Microsoft Lumia 535

    ХЗ..
    Но правильно глаголешь.
    Сколько в своё время дрючил Симбы и Виндовс мобайл..Месяц набивал плюшками- выгорело позже..Оствил необходимое и пользовался годами..Потом Андроид..тоже самое..Пандачки , виджеты и т.п..Потом все удалил..Так и на 540 и 640х ,че только не делал..А сейчас только гмайл и погода)))
    И больше ничего не надо.Даже магазин не нужен.Стекло - экран ,камера нормальная.Почта работает.Звонит отлично, что еще надо ....)))))

    05.07.2017 в 17:09
    +4
    Android

    Музончик играет исчо

    05.07.2017 в 23:12
    0
    Microsoft Lumia 535

    Ага))) и супер ,что родной плеер + один для Flak))

    06.07.2017 в 12:03
    0
    Android

    Так Грув тоже фляки играет вроде. У меня не так много музыки в этом формате, но вот Joy Division прям щас во фляке - играет без проблем. А так запасной иметь надо всегда, а то майки могут обновлением поломать родной нафиг ))

    06.07.2017 в 20:18
    0
    Microsoft Lumia 535

    Ниже товарищу подробно написал и скрины выложил..У меня флак и древний айпод классик на 80и 160гб читает.в больших наушниках вообще супер!??

    06.07.2017 в 14:49
    0
    Nokia Lumia 730

    Скажи, пожалуйста, что за плеер для flac и откуда берешь музыку в этом формате?

    06.07.2017 в 20:15
    0
    Microsoft Lumia 535

    Вот скрины этого плеера , в верху название плеера. Музыку читает даже ту , которую прямо с дисков СD сбрасываю..Благо пямяти хватает.Но особенно шикарен звук в больших наушниках..Кисс слушать в кайф или ай си ди си)) Ну и сам на компе преобразую в Флак.Программ в инете хватает, я для нокиа скачал Freemale Audio Converter.. Там куча форматов и можно килобиты выставлять..

    06.07.2017 в 21:20
    0
    Nokia Lumia 730

    А смысл есть преобразования в флак? Качество то изначально получается мп3...

    06.07.2017 в 21:32
    0
    Microsoft Lumia 535

    Пробовал и так..
    Но я вообще не это имел в виду..Флак и waw ,несколько стандартов..вот и обкатывал что лучше..
    Хотя , из мп3 тоже можно..Но если песня в мп3 примерно 9 мб..то во флак уже 40 метров..но качество не то..при конвертировании у меня от мп3 ничего не остается ,потому что его (мп3) и небыло..плюс около двух тысяч дисков ,,есть еще одни из первых ,так называемые платиновые и золотые альбомы ,,от 88 и 91-93 годов..Кстати, не мало сейчас стоят в валюте))) Вот с них и скидываю классику на плеер..ну и новое что то покупаю..

    06.07.2017 в 21:36
    0
    Microsoft Lumia 535

    На дисках у меня не мп3..
    Шлак уже не держу..так осталось штук десять..СД качество это не мп3)))

    06.07.2017 в 21:23
    0
    Microsoft Lumia 535

    Не для Нокиа ,а компа ,,,ну и автоклава))))

    05.07.2017 в 19:27
    0
    Microsoft Lumia 640

    Жпс, вк, ютуб,музыка, вп7

    05.07.2017 в 23:14
    0
    Microsoft Lumia 535

    Вк ,одноклассники и так далее ,оставил в 2007-09 годах..))
    В вк ,как только он вышел ,зарезился и забыл))
    Ну а ютуб- святое))

    06.07.2017 в 6:46
    0
    HP Elite x3

    А зачем нужен контакт, если его все силовые структуры читают, а за репост и посадить могут.

    06.07.2017 в 7:43
    0
    Microsoft Lumia 535

    Вам виднее..
    Мне это вообще не интересно.

    06.07.2017 в 9:31
    +1
    Microsoft Lumia 640

    Именно читают все твою переписку и еще нескольких миллионов пользователей.... Все Книги дарьи донцовой уже прочитали а еще какойто хрени им почтать хочется

    06.07.2017 в 9:33
    0
    HP Elite x3

    Омг... Ты знаешь что такое полицейское государство?

    06.07.2017 в 10:46
    0
    Microsoft Lumia 650

    А что такое "полицейское государство"?

    07.07.2017 в 0:23
    0
    Microsoft Lumia 640

    Знаю и что дальше? Я например вк пользуюсь только для общения на отвлеченный темы.... Да кому я вру, постоянно репосты делаю.... к чему то призываю.... оскорбляю чьито чувства.... А все потому что мой номер не привязан к моим ФИО и я гражданин другого государства?

    05.07.2017 в 20:40
    0
    Microsoft Lumia 640 XL

    ...но нет, разве страшный сон забудешь!)))

    06.07.2017 в 9:02
    +1
    iPhone

    Нууу... При ее запуске появятся тихие часы, которые обещают уже несколько лет

    09.07.2017 в 16:57
    0
    Android

    Самое смешное, когда МНЕ говорят делать моб винду, то тогда все ясно.

    09.07.2017 в 23:44
    0
    Microsoft Lumia 640

    Каждый должен заниматься своим делом.

    05.07.2017 в 17:39
    0
    Microsoft Lumia 640

    Скоро Софию допилят и забудем про Кортану)

    05.07.2017 в 17:40
    0
    Android

    Что за София?

    05.07.2017 в 17:44
    0
    Microsoft Lumia 640

    Sofia - голосовой ассистент на русском. У кого-то работает... У меня вылетает. Ждём обнову. Допилят и можно будет купить. Да, она платная (300₽)). Демо дают на один день. Я так и не попробовал☹

    05.07.2017 в 20:23
    0
    HP Elite x3

    Да пипец, он не работает, бесконечно написано: Слушаю...

    05.07.2017 в 17:47
    +2
    Microsoft Lumia 640

    В магазине

    05.07.2017 в 19:57
    +2
    Microsoft Lumia 640 XL

    Мужик не дождался и сам решил ее запилить: https://vk.com/club141653245

    05.07.2017 в 20:40
    0
    Microsoft Lumia 640

    Хотел попробовать, не скачивается
    По ходу для майловцев

    06.07.2017 в 9:23
    0
    Microsoft Lumia 640

    У меня скачалось, сейчас за 144руб можно приобрести

    05.07.2017 в 15:15
    0
    Microsoft Lumia 950 XL

    На самом деле, это топ. Возможно, ИИ сможет решить проблемы в этом мире, но не так, как его собрат, который учился играть в тетрис. Второй же просто просек фишку, что если поставить игру на паузу, то он не сможет проиграть. Надеюсь, Zo не додумается до этого

    05.07.2017 в 15:17
    +1
    Nokia Lumia 830

    ИИ сам руссифицируется, как только поймёт возможности русского языка и возможности обходить всякие запреты. А кортана это ИИ

    05.07.2017 в 16:27
    +2
    iPhone

    Американский ИИ еще не скоро поймет важность русского языка, если натуральный интеллект до сих пор не понял этого ?

    06.07.2017 в 6:59
    +1
    HP Elite x3

    Человек еще не скоро поймет, что все попытки обучить машину средствами массовой информации нименуемо вызывает у человека/машины суицидальные мысли

    06.07.2017 в 9:37
    0
    iPhone

    Этого делать никак нельзя. Или можно, но используя мощные защитные механизмы, которые фильтровали бы информацию, возможную для изучения, и которые сам ИИ обойти не смог бы

    05.07.2017 в 21:12
    +1
    Android

    глубоко мыслите. Лингвист?

    05.07.2017 в 21:13
    0
    Nokia Lumia 830

    Работал ни раз над концепцией ИИ

    05.07.2017 в 21:35
    0
    Android

    если не секрет, к чему пришли? В двух словах.

    05.07.2017 в 21:40
    0
    Nokia Lumia 830

    ИИ неизбежно. Вероятность войны с результатом развития ИИ 96%, и причина в человек с его страхами и алчностью.

    05.07.2017 в 21:45
    0
    Android

    война будет не классической, если это нас утешит) Достаточно парализовать основные инфраструктурные сети.

    06.07.2017 в 7:03
    0
    HP Elite x3

    Война это массовое убийство людей. Цели-власть. Сейчас чтобы получить власть достаточно ввести закон и пропаганду. В принципе после этого умирает не так много людей...

    05.07.2017 в 21:42
    0
    Nokia Lumia 830

    Более того, развитие ИИ тормозиться искусственно.

    05.07.2017 в 21:48
    0
    Android

    а вот это уже инсайдерская информация)

    05.07.2017 в 22:05
    0
    Nokia Lumia 830

    Инсайдерская, это то что сегодня HPE на конференции говорила для заказчиков. Кстати там упомянули ИИ и Адама Дугласа с его Автостопом по галактике. Типа когда "разумные" спросили у ИИ свой главный вопрос, ИИ ответило 42, но при этом заметило, проблема не в вопросе, а в непонимании своего ожидания(вопроса).

    05.07.2017 в 22:17
    +1
    Android

    Да! Об этом было и у Шекли, емнип, когда-то. Разумные пациенты, добравшись до Универсального Отвечателя, не смогли у него ничего спросить, поскольку с его т. зрения Всезнающего любой свой вопрос дикари-интеллектуалы ставили некорректно. Старая история. Если отринуть гордыню разума, который якобы что-то там может познать (не больше, чем ребёнок в песочнице), тогда что призвана заслонить вся эта наша имитация бурной деятельности? Я знаю, кто на первой базе, кто на первой базе. Кто на второй базе, на второй базе?©

    05.07.2017 в 15:25
    +1

    Исправьте:ценузуру.

    05.07.2017 в 15:59
    +2
    Microsoft Lumia 640 XL

    Исправьте пожалуйста:"крайне жесткоми"

    05.07.2017 в 16:00
    0
    Nokia Lumia 520

    Ценузуру

    05.07.2017 в 16:16
    +2
    Nokia Lumia 1520

    Мдаа.. Автоисправление текста никто за столько лет до ума никак не доведёт, куда там ИИ создавать.. Когда уж помрет Т9, земля ему "пуховик".

    05.07.2017 в 16:30
    0
    iPhone

    Т9 не умрет, покуда есть кнопочники ?

    05.07.2017 в 16:34
    +1
    Android

    Лучше бы Zo пилил Cortana

    05.07.2017 в 17:10
    0
    Android

    Лучше бы Скайнет пилили ?

    05.07.2017 в 18:26
    0
    Microsoft Lumia 950

    Вот у них есть боты которые сами обучаются и можно говорить чуть не на любую тему. Так почему Кортана не может обучиться сама ..русскому языку. Или они боятся чего то и не дают этой возможности

    05.07.2017 в 18:35
    0
    Android

    Там не только язык. Это голосовой ассистент, он ещё и к локали привязан, со всеми вытекающими.

    05.07.2017 в 19:02
    0
    Microsoft Lumia 950

    Так я и не сказал что только язык. А спросил чего не может сама обучиться..

    05.07.2017 в 19:47
    +1
    Android

    Наверное потому что изначально это программа , и ее пишут люди , и ее способности тоже прописывают люди , я думаю что пока что нам не так близко до ИИ в том виде в котором он сам будет решать что и как делать , а по хорошему это вообще не надо , лично мое мнение ?

    05.07.2017 в 22:52
    0
    Microsoft Lumia 950

    Конечно не надо. Но боты ведь научились чему то

    06.07.2017 в 7:06
    0
    HP Elite x3

    Даже если это всезнающий бог, все равно небольшая группа людей решит как ее использовать

    05.07.2017 в 19:30
    +1
    Microsoft Lumia 640

    А в это время гдето подростает маленький Джон Конер...

    05.07.2017 в 20:24
    0
    Nokia Lumia 820

    Боты скоро сами размножаться научатся. Вот тогда.........

    06.07.2017 в 13:58
    0
    Acer Allegro

    "смерть всем человекам! и поцелуйте мой блестящий зад!" Бендер Родригес ©

    05.07.2017 в 21:23
    0
    Android

    Что и как, описал в красках Пелевин в романе Любовь к трём цукербринам. Как говорится, добавить нечего, если только кратко повторить: всё идёт к тому, что кремниевая (полупроводник) цивилизация уничтожит кислородную. И Кремниевая Долина - её колыбель. Когда я задаю вопрос о том, понимает ли кто-то из них, что они творят, гугловцу, работающему с цукербринами с момента основания, он лишь отмалчивается, как группенфюрер СС. Всё предрешено, без толп и революций.

    05.07.2017 в 21:43
    0
    Android

    Хорошая книга ))) послушал с удовольствием , но пока это фантастика и только

    05.07.2017 в 22:02
    0
    Android

    это позитивная, успокаивающая психику мысль)). как-то я видел две картинки: площадь в NYC в 1913 и та же площадь в 1923. На первой - один автомобиль терялся на фоне огромного количества конных экипажей. На второй одинокая лошадь торчит среди множества автомобилей. Разве это не фантастика?)) Для нашего прадедушки? Поверьте, он мыслил не менее широко, чем мы, только многих новых слов не знал ещё))

    06.07.2017 в 7:08
    0
    HP Elite x3

    Следующая картинка: Один человек с машиной и куча людей со спиннерами)))

    05.07.2017 в 22:08
    0
    Android

    Да всё верно ))) но мне лично в том мире цукербринов жить не охота. ,, наверное вы читали Снаф вот там я тоже не хочу ?

Вы должны быть для написания комментариев.