Nature Medicine: способности чат-ботов в области медицины оказались под сомнением

Медицинские чат-боты, обученные на основе искусственного интеллекта, ставят поспешные диагнозы и не придерживаются рекомендаций, что может подвергнуть риску жизни пациентов. Ученые пришли к такому выводу в исследовании, опубликованном в журнале Nature Medicine.

Несмотря на недостатки, исследователи видят потенциал использования этой технологии. Они разработали метод, который можно использовать для проверки надежности медицинских чат-ботов.

Исследователи использовали данные о пациентах из американской клиники, чтобы протестировать возможности этих сложных алгоритмов. Они выбрали 2400 случаев с болями в животе и сравнили диагнозы ИИ с диагнозами четырех врачей.

В то время как врачи были правы в 89% случаев, лучшая языковая модель показала только 73% верных описаний проблемы.