Эксперты предупредили об опасности искусственного интеллекта

Распространение технологии искусственного интеллекта (AI) может привести к росту киберпреступности и появлению ее новых форм, манипулированию общественным мнением и повреждению физической инфраструктуры уже в течение ближайших пяти лет. Как пишет «Коммерсант», такой прогноз делают авторы доклада «Преступное использование AI: прогноз, профилактика и предотвращение».

Авторами 100-страничного доклада являются 26 экспертов в области кибербезопасности, среди которых ученые из Оксфордского, Кембриджского и Стэнфордского университетов, аналитики некоммерческих организаций Electronic Frontier Foundation и OpenAI и представители других авторитетных организаций.

По мнению авторов доклада, существуют три основных направления угроз. Первая — искусственный интеллект поможет в проведении хакерских атак, облегчит обнаружение уязвимостей ПО или выбор потенциальных жертв преступлений. Также искусственный интеллект позволит использовать уязвимости человека. Например использовать синтез речи или создавать «контекстное» вредоносное ПО.

Недобросовестное применение искусственного интеллекта в политической сфере также весьма вероятно. С его помощью власти создадут более мощные системы наблюдения за инакомыслящими.

Третье направление угроз — возможность атак на физические объекты. Речь идет, например, о массовом управлении беспилотниками и автоматизированными боевыми комплексами.