Гонка за создание мощных систем ИИ может привести к негативным последствиям

Ведущий исследователь Йошуа Бенжио высказал свои опасения по поводу негативных последствий гонки за создание мощных систем искусственного интеллекта (ИИ). Он обратил внимание на риски, связанные с использованием ИИ для создания поддельного контента, а также с потенциальными биологическими и кибер-атак.

Бенжио также выразил беспокойство о возможной потере контроля над ИИ, который может быть мотивирован стремлением к выживанию. Появление китайской модели DeepSeek, по его мнению, ускорило эту гонку, что не способствует повышению безопасности.

Учёный призвал к международному регулированию и увеличению инвестиций в исследования в области безопасности ИИ, так как текущие вложения в эту сферу недостаточны.