Борьба за безопасность: как предотвратить использование ИИ во вред

На этой неделе ФБР США заявило, что двое мужчин использовали искусственный интеллект (ИИ) для создания бомбы, которая взорвалась в клинике репродуктивной медицины в Калифорнии. ФБР не рассказало, какую именно программу ИИ они использовали.

Это показывает, как важно сделать ИИ более безопасным. Сейчас мы живём в период, когда компании активно конкурируют в разработке ИИ. Они стремятся создать самые быстрые и интересные системы, но иногда это приводит к тому, что безопасность отходит на второй план.

Примерно в то же время Йошуа Бенджио, один из создателей ИИ, основал новую некоммерческую организацию. Она будет работать над созданием более безопасной модели ИИ, которая поможет бороться с теми, кто использует ИИ для причинения вреда обществу.