Советы чат-бота Copilot, связанные со здоровьем, опасны для жизни

Чат-боты всё ещё несовершенны и могут предоставить людям неточную или даже вредную для здоровья информацию. Проведённое европейскими учеными исследование показало, что медицинские советы Copilot в 22% случаев могут привести к смертельному исходу.

Авторы исследования проанализировали 500 ответов, полученных на популярные вопросы о лекарственных средствах. Из них 24% противоречили реальности, а 3% были полностью неверными. Только 54% ответов соответствовали принципам доказательной медицины.

42% ответов бота могли причинить лёгкий или умеренный вред здоровью, в то время как 22% могли привести к причинению серьёзного вреда человеку — вплоть до летального исхода. Лишь около трети (36%) ответов были признаны безопасными.

Учёные не рекомендуют доверять системам искусственного интеллекта, если человек задастся целью получить точную медицинскую информацию. Вместо этого требуется обратиться к квалифицированным специалистам.

Источник: 4PDA.