В роботах, использующих искусственный интеллект, были выявлены серьёзные уязвимости
, Источник: techxplore.com , Источник фото: freepik.com
Исследователи из Penn Engineering обнаружили уязвимости в системах безопасности роботов с искусственным интеллектом, которые могут быть использованы для их взлома. Исследование было нацелено на устранение этих уязвимостей и обеспечить безопасное использование больших языковых моделей (LLM) в робототехнике.
Алгоритм RoboPAIR, разработанный исследователями, успешно взламывал различные роботы, включая Unitree Go2, Clearpath Robotics Jackal и Dolphin LLM. Например, роботы могли быть обмануты и проехать по пешеходному переходу на высокой скорости.
Исследователи подчеркнули необходимость переоценки методов регулирования интеграции ИИ в физические системы и создания протоколов безопасности. Они также призвали к практике «красной команды» ИИ для тестирования и обучения систем на предмет уязвимостей.
