Медицинские приложения с ИИ могут давать неточные рекомендации

Исследователи из Университета Макгилла провели анализ двух популярных приложений, используя данные о симптомах, извлечённые из известных медицинских случаев. Хотя иногда приложения ставили правильные диагнозы, они также нередко пропускали серьёзные заболевания, что могло привести к задержке в лечении.

Основные проблемы, с которыми сталкиваются приложения, связаны с необъективностью данных и отсутствием должного регулирования. Приложения обучаются на искажённых и недостаточно разнообразных данных, не включая информацию о людях с низким уровнем дохода и о разнообразии расовых и этнических групп. Это приводит к предвзятым результатам и неточным рекомендациям.

Кроме того, пользователи часто не осознают, что приложения не могут заменить медицинские консультации.