Ai RMF(Risk Management Framework)란

인공지능(Ai)이 많은 영역에서 디지털 변혁(Digital Transformation)의 가장 핵심적인 기술로 적용이 되고 있고 있으나, 반대로 이를 악용하는 적대 세력과 공정, 윤리 등의 사회적 위험에 대한 경고의 목소리가 높습니다. (몇 년 전에는 구글의 직원들이 미 국방성이 추진하는 인공지능 프로젝트인 Maven이라는 프로젝트에 불참할 것을 선언하였다는 기사를 접한 적을 기억하실 것이라 생각합니다.)

 

이러한 이슈를 고려하여 미국의 NIST(National Institute of Standards and Technology)에서는 Ai로 야기되는 위험을 관리하여 Responsible Ai를 실현하기 위한 Ai RMF(위험관리 프레임워크)를 2023년 1월에 발간하였습니다. 본 섹션에서는 NIST Ai RMF를 중심으로 Ai의 위험관리(이를 약어로 ARM이라 지칭)에 대한 내용을 소개하고자 합니다. 

 

2023년 1월에 발간된 NIST Ai RMF

 

인공 지능(Ai) 기술은 산업 영역과 건강 영역에서 교통과 사이버 보안 영역, 환경과 지구에 이르기까지 사회와 사람들의 삶을 변화시킬 수 있는 상당한 잠재력을 가지고 있습니다.  AI 기술은 포괄적인 경제 성장을 주도하고 세상의 여건을 개선하는 과학적 발전을 지원할 수 있습니다.  그러나 반대로 AI 기술은 개인, 그룹, 조직, 커뮤니티, 사회, 환경 및 지구에 부정적인 영향을 미칠 수 있는 위험도 내포하고 있습니다.  다른 유형의 기술에 대한 위험과 마찬가지로 AI 위험은 다양한 방식으로 나타날 수 있으며 장기 또는 단기, 높거나 낮은 확률, 체계적 또는 국지적, 높거나 낮은 영향으로 특징 지을 수 있습니다.

 

전통적인 소프트웨어나 정보 기반 시스템의 위험을 완화하기 위해 다양한 표준과 모범 사례가 있음에도 불구하고, Ai 시스템이 제공하는 위험은 여러 가지 측면에서 독특합니다.  예를 들어, Ai 시스템은 시간이 지남에 따라 데이터로 학습되는데, 때로는 상당히 예상치 못하게 변경되어 시스템의 기능과 신뢰성에 영향을 미칩니다. 이러한 영향은 이해하기 어려운 방식으로 나타납니다. Ai 시스템과 그들이 배치되는 환경은 자주 복잡하며, 이러한 시스템의 결함을 감지하고 대응하는 것이 어렵습니다. Ai 시스템은 사회적 기술적인 측면을 내재하고 있으며, 즉 사회적인 역학과 인간의 행동에 영향을 받습니다. AI의 위험과 이익은 기술적 측면과 함께 시스템의 사용 방법, 다른 Ai 시스템과의 상호작용, 운영 주체, 그리고 사회적 이용에 따른 사회와의 상호작용에서 나타날 수 있습니다.

 

Ai RMF는 본 권과 위험관리 세부 활동을 소개한 Ai Playbook으로 발간되었으며, 본 권은 크게 두 파트로 나뉩니다.  파트 1에서는 조직이 AI와 관련된 위험을 구성할 수 있는 방법에 대해 설명하고 대상 독자에 대해 설명합니다.  다음으로 AI 위험과 신뢰성을 분석하여 유효하고 신뢰할 수 있고, 안전하고, 안전하고 탄력적이며, 책임 있고 투명하고, 설명 가능하고 해석 가능하고, 개인 정보 보호가 강화되고, 유해한 편향이 관리되는 공정을 포함하는 신뢰할 수 있는 AI 시스템의 특성을 간략하게 설명합니다. 파트 2는 프레임워크의 "핵심(Core)"으로 조직이 실제로 AI 시스템의 위험을 해결하는 데 도움이 되는 네 가지 주요 기능으로 GOVERN, MAP, MEASURE 및 MANAGE을 정의하고 각각에 세부적인 활동들을 정의하고 있습니다. 

 

GOVERN, MAP, MEASURE  및  MANAGE 기능의 개요