Ошибки больших языковых моделей в медицинских рекомендациях из-за немедицинской информации

Учёные из Массачусетского технологического института выяснили, что большие языковые модели (LLM), которые помогают врачам составлять рекомендации по лечению, могут ошибаться из-за немедицинской информации в сообщениях пациентов. Это могут быть опечатки, лишние пробелы, использование неформальных выражений или отсутствие информации о поле пациента.

Оказалось, что если изменить стиль или грамматику сообщения, модель с большей вероятностью посоветует пациенту самостоятельно следить за своим здоровьем, а не идти к врачу. Особенно это касается женщин: из-за таких ошибок модель может чаще рекомендовать им не обращаться за медицинской помощью, что может быть опасно.

Марзие Гассеми, одна из авторов исследования, считает, что перед тем, как использовать такие модели в здравоохранении, их нужно тщательно проверять. Учёные отмечают, что LLM учитывают немедицинскую информацию при принятии решений, и это нужно изучить подробнее, прежде чем доверять им важные задачи.