Уязвимость ИИ моделей для удалённого обнаружения объектов может быть вызвана внешними атаками

Технологии дистанционного зондирования обладают высокой эффективностью, однако до сих пор не проводилось исследований, которые бы оценивали общую надёжность и уязвимость моделей, основанных на глубоких нейронных сетях, для обнаружения объектов и классификации изображений.

Учёные провели обзор существующих исследований и разработали эталонную модель для оценки детекторов глубокого обучения. Их анализ выявил потенциальные уязвимости алгоритмов, которые могут быть использованы злоумышленниками. Результаты исследования были опубликованы в Журнале дистанционного зондирования.

Исследователи выявили, что естественный шум и различные виды атак влияют на производительность модели. Они использовали «соляной» и случайный шум, а также дождь, снег и туман различной интенсивности.