Ученые выяснили, что у генеративного искусственного интеллекта нет целостного понимания мира

Большие языковые модели способны впечатлять, создавая стихи или компьютерные программы. Это может создать впечатление, что они усваивают общие истины о мире. Но новое исследование показало, что это не так.

Исследователи обнаружили, что генеративная модель ИИ может точно указывать маршрут с поворотами в Нью-Йорке, не формируя точную карту города. Однако, когда они перекрыли некоторые улицы и добавили объездные пути, производительность модели упала.

Они обнаружили, что модель создавала множество несуществующих улиц, соединяющих далекие перекрестки. Это может иметь серьезные последствия для моделей ИИ, используемых в реальном мире, поскольку они могут не справиться с изменениями в задаче или среде.