[논문 리뷰] The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation

Miles Brundage, Shahar Avin외 24명|arXiv (Cornell University)|2018. 02. 20.

Network Security and Intrusion Detection인용 수 489

한 줄 요약

이 보고서는 악의적 AI 사용으로 인한 잠재적 보안 위협을 조사하고 예측, 예방 및 완화 전략과 추가 연구 영역을 제시합니다.

ABSTRACT

This report surveys the landscape of potential security threats from malicious uses of AI, and proposes ways to better forecast, prevent, and mitigate these threats. After analyzing the ways in which AI may influence the threat landscape in the digital, physical, and political domains, we make four high-level recommendations for AI researchers and other stakeholders. We also suggest several promising areas for further research that could expand the portfolio of defenses, or make attacks less effective or harder to execute. Finally, we discuss, but do not conclusively resolve, the long-term equilibrium of attackers and defenders.

연구 동기 및 목표

• AI가 디지털, 물리적 및 정치적 영역에서 위협에 어떤 영향을 미칠 수 있는지 평가합니다.
• 악의적 AI 능력과 공격자 모델의 예측을 개발합니다.
• 연구자와 이해관계자가 해를 예방하고 완화하기 위한 실용적 권고를 제시합니다.
• 방어를 확대하고 공격을 저지하기 위한 유망한 연구 방향을 식별합니다.

제안 방법

• 디지털, 물리적 및 정치적 영역에 걸친 기존 및 잠재적 위협 구도를 조사합니다.
• 위협의 흐름과 공격자-수비자 역학을 예측합니다.
• 연구자와 이해관계자가 위험을 줄이기 위한 고수준의 조치를 권고합니다.
• 결론적인 해답 없이 공격자와 수비자 간의 장기적 균형에 대해 논의합니다.

실험 결과

연구 질문

• RQ1 AI가 디지털, 물리적 및 정치적 맥락에서 보안 위협에 어떤 영향을 미칠 수 있습니까?
• RQ2 예측 기반 및 선제적 조치가 악의적 AI 사용의 예방과 완화를 어떻게 개선할 수 있습니까?
• RQ3 방어를 강화하고 공격자의 효과를 줄일 수 있는 권고사항은 무엇입니까?
• RQ4 AI 지원 위협에 대한 방어 능력을 확장할 수 있는 연구 의제는 무엇입니까?

주요 결과

• 본 논문은 다중 영역에 걸친 잠재적인 AI 기반 위협의 흐름을 개관합니다.
• 그것은 악의적 AI 사용을 다루기 위한 핵심 전략으로 예측, 예방 및 완화를 제안합니다.
• 보고서는 연구자 및 기타 이해관계자를 위한 고수준의 권고안을 제공합니다.
• 방어를 확장하거나 공격 효율성을 감소시키기 위한 몇 가지 향후 연구 영역을 제시합니다.
• 장기적인 공격자–방어자 역학에 대해 논의되지만 결정적으로 해결되지는 않습니다.