Trustworthy Ai와 Responsible Ai의 의미

Trustworthiness를 한국어로 번역하면 신뢰성이라고 번역합니다. 그러나 일반적으로 신뢰성은 Reliability를 번역할 때 많이 사용하고 있습니다. 두 단어가 사실 품질, 성능이라는 기술적 관점에서는 거의 유사한 용어로 사용되지만 Trustworthiness가 좀 더 큰 개념의 신뢰성을 의미합니다.  ISO/IEC TS 5723:2022를 참조로 한 Ai RMF에서는 Reliability 로서의 신뢰성을  "주어진 시간 간격과 조건에서 아이템이 요구사항에 따라 오류 없이 수행하는 능력" 이라고 정의하고 있습니다.

 

Trustworthiness로서의 신뢰성을 ISO/IEC TS 5723:2022에서는 다양한 품질 속성으로 표현하고 있으며, Ai RMF에서는 Trustworthy Ai 시스템의 특성을 아래와 같은 속성의 집합으로 설명하고 있습니다. 

 

Trustworthy Ai 시스템의 특성

 

Ai RMF에서는 이 품질 속성을 ISO/IEC TS 5723:2022에서 정의한 용어를 사용하여 설명하고 있습니다. 그러나 시스템이라는 관점에서  시스템 및 소프트웨어의 품질모델을 제시한 ISO 25000 에서 정의하는 품질속성을 참조하여 정의하는 것이 좋을 듯합니다. 특히 현재 ISO 25000에는 25059에서 Ai를 포함한 품질지표를 정의하고 있습니다.

 

Reliability로서의 신뢰성은 Trutstwaorthiness에 포함되는 중요한 품질속성으로 소개하고 있습니다. 따라서 Trustworthy Ai 시스템은 그림에서의 특성으로 볼 때 안전성, 보안성, 공정성, 투명성 등 Realiability를 포함하여 다양한 속성을 포괄적으로 포함하는 개념이라고 할 수 있습니다.

 

Ai RMF에서 위험관리의 목표 중에 또 하나는 Responsible Ai 를 개발하고 사용하는 것이라 할 수 있습니다. Responsible Ai 의 핵심 개념은 인간 중심, 사회적 책임 및 지속 가능성을 강조합니다. Responsible Ai는 Ai 위험관리가 Ai를 설계, 개발 및 배포하는 조직 및 내부 팀이 상황과 잠재적 또는 예상치 못한 부정적 및 긍정적 영향에 대해 보다 비판적으로 생각하도록 유도하여 책임 있는 사용 및 관행을 촉진하는 것임을 강조하는 용어라고 할 수 있습니다.

 

결론적으로 Resposible Ai는 Ai 자체가 특정 시스템이나 좀 더 포괄적인 요구사항을 만족하는 수준인 Trustworthy Ai를 넘어서 인류와 환경에 대한 궁극적인 위험을 늘 고려하여 개발해야 한다는 사회적 책임( (Social responsibility)및 지속가능성 (Sustainability)을 고려해야 한다는 매우 넓은 의미의 포괄적인 특성을 설명한다고 할 수 있습니다.