Чат-боты с ИИ распространяют ложную медицинскую информацию: как снизить риск ошибок
, Источник: medicalxpress.com , Источник фото: freepik.com
Новое исследование показало, что популярные чат-боты с искусственным интеллектом часто повторяют и распространяют ложную медицинскую информацию. Поэтому важно усилить меры безопасности, прежде чем доверять этим инструментам в здравоохранении.
Учёные также выяснили, что простое предупреждение может значительно снизить этот риск. Их результаты опубликованы в журнале Communications Medicine.
Поскольку всё больше людей обращаются к ИИ за медицинской помощью, исследователи хотели понять, будут ли чат-боты просто повторять неправильную информацию из вопросов пользователей. Они также хотели узнать, можно ли направить их на более точные ответы.
Ведущий автор исследования, доктор Махмуд Омар, сказал: «Чат-боты легко поддаются влиянию ложной информации, независимо от того, случайная она или преднамеренная. Они не только повторяют неверные данные, но и иногда создают убедительные объяснения для несуществующих заболеваний. Обнадёживает, что простое предупреждение может значительно снизить количество таких ошибок».
