Douglas' Space

Ai RMF의 코어라고 부르는 핵심은 4가지의 기능으로 구성되어 있으며, 이 기능들은 세부적으로 하위의 2단계로 세분화되어 있습니다. 이 4가지 기능은 아래와 같으며 각 핵심기능은 2단계의 번호로 ID를 부여하여 세분화되어 식별되어 있습니다. 이 글에서는 1레벨의 기능을 소개하고 2레벨의 기능은 참조를 위해 ID만을 비고에 기술하였습니다. Govern 기능은 Ai 위험관리 전반적으로 적용되고 다른 기능을 활성화하는 교차기능으로서, Ai 시스템을 설게, 개발, 배포, 평가 또는 획득하는 조직 내에서 위험관리 문화를 육성하고 구현하는 기능을 수행합니다. MAP기능은 Ai시스템과 관련된 위험을 구성하는 컨텍스트를 분석 설정하는 기능으로서, Ai 시스템의 외부 및 내부의 구성요소와 그 특징을 정의합니다. MEA..

Trustworthiness를 한국어로 번역하면 신뢰성이라고 번역합니다. 그러나 일반적으로 신뢰성은 Reliability를 번역할 때 많이 사용하고 있습니다. 두 단어가 사실 품질, 성능이라는 기술적 관점에서는 거의 유사한 용어로 사용되지만 Trustworthiness가 좀 더 큰 개념의 신뢰성을 의미합니다. ISO/IEC TS 5723:2022를 참조로 한 Ai RMF에서는 Reliability 로서의 신뢰성을 "주어진 시간 간격과 조건에서 아이템이 요구사항에 따라 오류 없이 수행하는 능력" 이라고 정의하고 있습니다. Trustworthiness로서의 신뢰성을 ISO/IEC TS 5723:2022에서는 다양한 품질 속성으로 표현하고 있으며, Ai RMF에서는 Trustworthy Ai 시스템의 특성을 ..

위험은 사건의 발생 확률과 해당 사건 결과의 크기 또는 정도에 대한 복합적인 척도를 의미합니다. Ai 시스템의 영향 또는 결과는 긍정적이거나 부정적이거나 둘 다일 수 있으며 기회 또는 위협을 초래할 수 있습니다. 잠재적인 사건의 부정적인 영향을 고려할 때 위험은 상황이 나 사건이 발생할 경우 발생할 수 있는 부정적인 영향 또는 피해의 크기 및 발생 가능성의 함수입니다. 부정적인 영향이나 피해는 개인, 그룹, 커뮤니티, 조직, 사회, 환경 및 지구에서 경험할 수 있습니다. 1. 위험로 인한 피해 Ai RMF는 새로운 위험이 발생할 때 이를 해결하도록 설계되었습니다. 이러한 유연성은 영향을 쉽게 예측할 수 없고 애플리케이션이 진화하는 경우에 특히 중요합니다. 일부 AI 위험과 이점은 잘 알려져 있지만 부정적..

Ai가 무엇이기에 특별히 그 위험을 관리해야 할까요? 이를 위해서는 사실 Ai에 대한 이해가 필요합니다. Ai에 대해서는 Ai에 대한 다른 글을 참조해 주시기 바랍니다. 요약을 하면 정보를 처리하는 일반적인 소프트웨어와 같으나 Neuro Ai의 딥뉴럴넷은 예측이 어려운 확률분포를 기반으로 한다는 것이 이러한 위험을 내포한다고 할 수 있습니다. 따라서 제3세대의 Ai인 Neuro-Symbolic Ai가 신뢰성있게(Trustworthy) 개발이 된다면 일반적인 소프트웨어가 갖는 위험 정도로 제어가 가능하다고 생각합니다. 그러나 현재 시점에서는 아직 설명 가능하며 신뢰성 있는 Ai의 개발이 필요하며, 따라서 Ai가 야기할 수 있는 위험의 특성을 이해하는 것은 중요하다고 생각합니다. Ai가 일반적인 소프트웨어로..

인공지능(Ai)이 많은 영역에서 디지털 변혁(Digital Transformation)의 가장 핵심적인 기술로 적용이 되고 있고 있으나, 반대로 이를 악용하는 적대 세력과 공정, 윤리 등의 사회적 위험에 대한 경고의 목소리가 높습니다. (몇 년 전에는 구글의 직원들이 미 국방성이 추진하는 인공지능 프로젝트인 Maven이라는 프로젝트에 불참할 것을 선언하였다는 기사를 접한 적을 기억하실 것이라 생각합니다.) 이러한 이슈를 고려하여 미국의 NIST(National Institute of Standards and Technology)에서는 Ai로 야기되는 위험을 관리하여 Responsible Ai를 실현하기 위한 Ai RMF(위험관리 프레임워크)를 2023년 1월에 발간하였습니다. 본 섹션에서는 NIST Ai..

이제는 너무나도 잘아는 chatGPT(Generatie Pre-trained Transformer)이지만 워낙 화두가 되다보니 이에 대해 글을 정리할 필요가 있어서 본 글을 작성해 보았습니다. chatGPT를 이용하거나 사용하는 관점이라기 보다 어떻게 chatGPT가 만들어졌는지의 관점에서 기존의 이 섹션에서 소개한 인공지능 기술들을 기준으로 설명을 드리고자 합니다. (사실 GPT의 마지막단어가 Transformer라는 것을 생각하면 지난번 소개한 구글의 Transformer모델이 등장하면서 언어모델 뿐만 아니라 다른 인공지능 모델에 많은 영향을 주었습니다. GPT3 등과 같은 초거대언어모델 및 멀티모달 인공지능 모델, 자기주도학습모델 들이 예견되었다고 해도 과언이 아닐 정도로 Transformer기술이..

산출물의 형상관리 목적으로 변경을 통제하기 위해 버전번호를 부여합니다. 버전번호를 붙이는 것은 큰 변화가 있다는 것을 의미합니다. 그런데 어느 때인가 우리는 어떤 기술 및 개념에 대해 버전번호를 붙이기 시작했습니다. 기술 및 개념의 발전이 기존보다 매우 다르게 변화되었음을 구분하기 위한 것입니다. 따라서 Web 3.0도 역시 Web 2.0보다 매우 발전된 미래의 기술을 의미할 것이라 기대할 것입니다. 그러나 이에 대해 매우 다양한 의견들이 있는 것 같습니다. 일론머스크의 경우만해도 NFT와 Web 3.0을 조롱했다가 트위터를 인수하면서 web 3.0기반의 SNS를 만들겠다고 하였습니다. 허구이던 마케팅용어이던 새로운 기술의 집합체로서 Web 3.0의 중요한 특징을 살펴보도록 하겠습니다. 1. 탈중앙화 발..

NFT(Non-Fungible Token)은 블록체인기술을 이용한 서비스중에 하나입니다. 따라서 블록체인플랫폼을 기반으로 합니다. 주로 이더리움이라는 퍼블릭 블록체인플랫폼에서 동작합니다. 이더리움은 다양한 토큰을 발행할 수 있는 플랫폼으로 활용되어 암호화폐와 같이 fungible token을 새롭게 만들 수 있습니다. 이것은 ERC-20 (Etherium Request for Comment)이라는 이더리움 토큰에 대한 공통규칙에 따라 만들어집니다. 1. 크립토펑크와 ERC-721 그 이후 암호화폐와 달리 특정 디지털자산 하나 하나에 고유하게 부여된 토큰을 만들어 이 디지털자산의 고유성을 부여하게 되었습니다. 이의 시초가 크립토펑크(Cryptopunks)이며, 이후 ERC-721이라는 표준으로 발전하게 됩..

DARPA는 신뢰성, 안전성, 보안성, 생존성 등을 요구하는 defense system과 같은 dependable system에는 학습데이타에 양과 질에 의존적인 딥러닝 기반의 data-driven Ai는 한계가 존재한다고 인식하고 있습니다. 또한 ANI(artificial narrow intelligence)를 넘어 AGI(artificial general intelligence)로 발전하기 위해서는 새로운 인공지능 기술이 필요함을 인식하고 이를 위해서는 사람이 갖고 있는 상식이나 기본적인 배경지식을 포함하는 contextual model을 구축하는 것을 목표로 하고 있습니다. 이러한 새로운 Ai의 접근을 contextual adaptation이라고 지칭하며 이를 위한 알고리즘과 구조를 개발하기 위한 ..

블록체인(Blockchain)은 모두 다 잘 알고 있는 용어이자 개념이라 생각합니다. 비트코인이라는 암호화폐가 등장하면서 누구나 다 아는 용어가 되었습니다. 블록체인의 가장 핵심적인 개념은 분산원장(distributed ledger)과 합의알고리즘(consensus algorithm)이라는 2가지 개념입니다. 추가로 한가지 중요한 개념을 더 이야기하자면 이더리움이라는 암호화폐에서 등장한 스마트콘트랙트(smart contract)이라는 개념일 것입니다. 1. 블록체인 = 분산 컴퓨팅 플랫폼 블록체인의 가장 큰 특징은 탈중앙화라는 개념입니다. 암호화폐에서의 거래내역인 원장을 은행과 같은 특정 관리자의 통제하에 중앙에 저장하지 않고 블록체인을 이용하는 익명의 사용자들이 모두 공유하여 저장한다는 것입니다. 그리..