54

Microsoft прокомментировала расистские выражения своего бота

Два дня назад компания Microsoft запустила в Twitter своего умного бота Тай, созданного для демонстрации возможности машинного обучения и искусственного интеллекта. Спустя менее 24 часов ситуация вышла из-под контроля и Тай неожиданно начала отвечать пользователям грубо и вообще, превратилась в расиста. Microsoft объяснила, почему так случилось.

Чатбот Тай является проектом, в рамках которого мы исследуем процесс машинного обучения, созданного для взаимодействия с человеком. Это социальный и культурный эксперимент. К сожалению, спустя 24 часа онлайн, мы узнали о скоординированных усилиях небольшой группы пользователей, направленных на обучение Тай некорректным и грубым ответам. Поэтому нам пришлось отключить Тай и сделать некоторые коррекции.

На момент написания статьи Tay AI все еще находится в режиме оффлайн. Очень интересно узнать, каким именно образом Microsoft собирается "промыть мозги" своему боту, дабы избежать подобных инцидентов в будущем...

Что вы думаете по поводу этой ситуации?

Источник: Buzzfeed

НравитсяНе нравится
+2
Loading ... Loading ...

Лучшие комментарии

25.03.2016 в 12:28
+48
Aik
Nokia Lumia 1020

"...мы узнали о скоординированных усилиях небольшой группы пользователей,
направленных на обучение Тай некорректным и грубым ответам..."
Численность небольшой группы соответствовала ровно половине существующих Windows Phone смартфонов.
х20-е никак не успокоятся, думали в Майкрософт

25.03.2016 в 12:53
+26
Nokia Lumia 735

Ты ей такой как проехать туда то, а она в ответ пошел нах.. нигер☺

25.03.2016 в 12:18
+16
Microsoft Lumia 430

Сидишь такой вечером, пивко попиваешь, спрашиваешь совет у телефона. На следующий день отращиваешь бороду и идешь в Игил

Комментарии (54)

    25.03.2016 в 12:16
    +6
    Microsoft Lumia 430

    По скорее бы в Кортану такие штучки внедрили!

    25.03.2016 в 12:18
    +16
    Microsoft Lumia 430

    Сидишь такой вечером, пивко попиваешь, спрашиваешь совет у телефона. На следующий день отращиваешь бороду и идешь в Игил

    25.03.2016 в 12:41
    -16
    Nokia Lumia 735

    Аллах Акбар!
    ?

    25.03.2016 в 13:10
    -17
    Nokia Lumia 830

    Христом акбар, Аллах воскрес?

    25.03.2016 в 15:17
    +1
    Nokia Lumia 830

    Не о том вы запели,совсем не о том

    25.03.2016 в 17:15
    -6
    Nokia Lumia 830

    О том, в тему разговора?

    25.03.2016 в 17:34
    0
    Nokia Lumia 830

    Про расистские выражения,но ни как не про аллах акбар

    25.03.2016 в 16:54
    +1
    Microsoft Lumia 540

    Этакий мобильный кортана вербовщик ))))

    25.03.2016 в 12:53
    +26
    Nokia Lumia 735

    Ты ей такой как проехать туда то, а она в ответ пошел нах.. нигер☺

    25.03.2016 в 14:01
    +1
    Microsoft Lumia 535

    Пожалуй самый прикольный комент, при чем самый близкий к реальности)))

    25.03.2016 в 12:17
    -5
    Nokia Lumia 1520

    Лучше бы там все дружно взялись Ред Стоун пилить?

    25.03.2016 в 12:17
    -1
    Nokia Lumia 620

    Обнулят мозги

    25.03.2016 в 12:19
    +7
    Nokia Lumia 1520

    Отдайте ее нашим прорабам, пусть ее научат правильно разговаривать ?

    25.03.2016 в 12:20
    +9
    Android

    С людьми уже не модно говорить ?

    25.03.2016 в 12:20
    +1
    Microsoft Lumia 640 XL

    ? , да уж интересно как они смогут оградить его от нецензурной и расистской лексики, ведь не так то просто заставить обучаемый АИ нужное запоминать, а не нужное нет. Он ведь не поймет этого.(а именно разницы).

    25.03.2016 в 12:22
    -1
    Nokia Lumia 830

    Майки все умеют, в них нельзя сомневаться.

    25.03.2016 в 12:50
    0
    Android

    Запрограммируют ее "фильтровать базар". Добавят ей в память всевозможные грубые, расистские выражения (опять же те, которые они сами знают, система все-ровно будет не идеальной) и при совпадении их с базой, она будет их отсеивать и не употреблять их в диалогах.

    25.03.2016 в 12:22
    0
    Microsoft Lumia 535

    Бота сделают антирассисткой. и снова включат

    25.03.2016 в 12:24
    +3
    Microsoft Lumia 640

    Явно там андробанда диверсию замутила! ?

    25.03.2016 в 12:28
    +48
    Aik
    Nokia Lumia 1020

    "...мы узнали о скоординированных усилиях небольшой группы пользователей,
    направленных на обучение Тай некорректным и грубым ответам..."
    Численность небольшой группы соответствовала ровно половине существующих Windows Phone смартфонов.
    х20-е никак не успокоятся, думали в Майкрософт

    25.03.2016 в 12:31
    +3
    Microsoft Lumia 430

    Они наверное побежали оптимизировать! Десятку на х20.

    25.03.2016 в 12:33
    0
    Microsoft Lumia 640

    Репу поцарапают и взмахнув рукой, нажмут на кнопку для всех люмий...

    25.03.2016 в 17:11
    0
    Android

    Так это ты всё замутил? Красава!?

    25.03.2016 в 12:29
    +1
    Microsoft Lumia 430

    Блин. А что если бы она и дальше свободно развивалась? Как странно. А может какой нибудь Джон Конор пришел из будущего и вырубил будущий скайнет? А майкрософт прикрывает это все антирасистскими методами воспитания собственного детища.

    25.03.2016 в 12:41
    +3
    Nokia Lumia 630

    Чем больше борьбы с расизмом, антисимитизмом и прочей хренью тем больше злобы копиться в людях-вот люди выплёскивают. Чего они еще то ожидали? Что все будут пить вино слушая джаз и высокопарно изъясняться о любви к художникам эпохи возрождения?

    25.03.2016 в 12:59
    +4
    Nokia Lumia 930

    Ну можно не бороться,и ждать очередного фюрера в политике.Или пускай бритые скины по городу убивают все кто им покажется слегка темнее чем они

    25.03.2016 в 13:05
    0
    Nokia Lumia 630

    Я просто сказал как есть и это не жалоба или поток ненависти. Американская политика нас не особо то и касается, по крайней мере внутренняя.

    25.03.2016 в 13:03
    +1
    Android

    Яркое отображение того,кем являются большинство хомо сапиенс...печаль...

    25.03.2016 в 13:13
    0
    Android

    Хороший собеседник получился бы?

    25.03.2016 в 13:24
    +1
    Nokia Lumia 930

    Пошла баба по на катаной, впрочем ничего нового!

    25.03.2016 в 13:30
    0
    Android

    Если "скоординированная группа" может научить Тай грубости и расизму за сутки, почему профессиональные разработчики не могут допилить Кортану за несколько лет.

    25.03.2016 в 13:35
    0
    iPhone

    руки не там стоят...

    25.03.2016 в 13:37
    0
    Android

    Или Кортана тупая... А хотя Тай получается что тоже, но учится быстро.

    25.03.2016 в 13:38
    0
    Nokia Lumia 630

    Потому что вся компания, несомненно, ответственные и креативные люди. Да и в общем то положить им на другие страны. А выручки с продаж со всех их смартфонов хватит только ее двигающийся кружок нарисовать.

    25.03.2016 в 13:39
    -1
    Android

    Ну так Кортана есть на всех платформах, не только ВП.

    25.03.2016 в 13:45
    0
    Nokia Lumia 630

    Ну на виндофоне она вроде появилась или нет? А развитие ее, можно сказать, с десятки и началось, которой еще даже года нет.

    25.03.2016 в 13:46
    0
    Nokia Lumia 630

    В общем у майкрософт проблемы с девушками.

    25.03.2016 в 13:38
    0
    Microsoft Lumia 550

    Что ты видишь, когда закрываешь глаза?

    25.03.2016 в 13:48
    -1
    isa
    Nokia Lumia 1020

    Криворукий Микрософту

    25.03.2016 в 13:57
    0
    Microsoft Lumia 535

    Ии не должен получить полной свободы. Конечно в терминатор я не верю, но проблемы уверен ии может создать не малые

    25.03.2016 в 14:15
    +1
    Nokia Lumia 630

    Ну в принципе ии это огромный алгоритм, способный достраивать себя в определенных рамках. Сомневаюсь, что сейчас можно внедрить что-сложнее. И даже если ии как в терминаторе создадут то он скорее будет стремиться к уничтожению вселенной или просто станет наблюдателем.

    25.03.2016 в 17:21
    0
    Android

    Вот ты сложно завернул. Естеь здесь где помыслит...

    25.03.2016 в 14:24
    0
    Microsoft Lumia 535

    Виноваты злые языки, не все люди плохие... Но идея хорошая! Ведь не всем дано найти себе друзей... А Тай, прекрасная возможность для общения.

    25.03.2016 в 16:30
    0
    Nokia Lumia 930

    Ребята подскажите пожалуйста, почему я не могу зайти в мобильную версию, с официальной перехожу пишут войти или зарегистрироваться, ввожу логин пароль пишет с низу, на данный момент ваша учётная запись временно отключена, к.т. в оф. не отключена, а моб. отключена, пробовал другую учётку завести пришёл код но не знаю куда его вводить. Может, кто знает, что за ерунда?

    25.03.2016 в 20:23
    0
    Microsoft Lumia 640

    Забей...

    25.03.2016 в 16:51
    0
    Android

    Как это предсказуемо, в частности со стороны людей такое поведение, что у бедной Тай аж депрессия началась☺

    25.03.2016 в 17:25
    0
    Android

    Они не заглянули в её женский календарь, может подождали бы дней 5 и было бы всё лучше.☺

    25.03.2016 в 17:35
    0
    Microsoft Lumia 640 XL

    Научите ее ругаться матом по-русски.

    25.03.2016 в 18:24
    +1
    Nokia Lumia 1520

    Вообще не удивительно. Просто зеркальное отражение среднестатистического интернет-пользователя пубертатного возраста.

    25.03.2016 в 19:33
    0
    Nokia Lumia 830

    Хорошо что Tay на русском не разговаривает ато б ее научили

    25.03.2016 в 19:35
    0
    Nokia Lumia 830

    Или этот

    25.03.2016 в 20:20
    -1
    Microsoft Lumia 640

    Да нах....есть ИЕ есть свобода слова...если ей счас язык подрезать то какой же это ИЕ?пусть что думает то и говорит....говорит,и действует в соответствии с законом азимова

    26.03.2016 в 3:47
    0
    Nokia Lumia 830

    Сразу было понятно, что она тупая, раз по нашему не понимает ?

    28.03.2016 в 15:34
    0
    Microsoft Lumia 435

    Теперь Бота ждёт тщательная ПРОМЫВКА МОЗГОВ хаха? договорился УМНИК ?

Вы должны быть для написания комментариев.