В роботах, использующих искусственный интеллект, были выявлены серьёзные уязвимости

Исследователи из Penn Engineering обнаружили уязвимости в системах безопасности роботов с искусственным интеллектом, которые могут быть использованы для их взлома. Исследование было нацелено на устранение этих уязвимостей и обеспечить безопасное использование больших языковых моделей (LLM) в робототехнике.

Алгоритм RoboPAIR, разработанный исследователями, успешно взламывал различные роботы, включая Unitree Go2, Clearpath Robotics Jackal и Dolphin LLM. Например, роботы могли быть обмануты и проехать по пешеходному переходу на высокой скорости.

Исследователи подчеркнули необходимость переоценки методов регулирования интеграции ИИ в физические системы и создания протоколов безопасности. Они также призвали к практике «красной команды» ИИ для тестирования и обучения систем на предмет уязвимостей.