미래의 지능형 시스템 개발 고려사항

1. 들어가면서

 

미래의 시스템은 Ai기반의 시스템으로 발전할 것으로 예상됩니다. 왜냐 하면 앨런튜닝이 최초의 컴퓨터라는 튜링머신을 고안할 때 생각하는 컴퓨터를 상상하고 있었고 우리의 기술 개발은 계속적으로 사람이 수행하는 일을 대체하기 위해 발전시키고 있기 때문입니다.  다시 말해 인간이 수행하는 다양한 작업 뿐만 아니라 인간의 사고까지 흉내내는 기계를 생각한 것 같습니다. (이러한 미래의 시스템을 특별히 지능형 소프트웨어 시스템이라고 정의하겠습니다).

 

이러한 지능형 시스템이 기존의 시스템과 구별되는 것은 자동화(Automation)와 자율화(Autonomy)를 구별하는 것과 같다고 할 수 있습니다.  자동화는 반복적으로 수행하는 다양한 작업을 컴퓨터시스템 또는 기계적 시스템으로 대체하는 것을 의미하고, 자율화는 인간의 사고를 포함하여 다양한 의사결정을 스스로 수행하는 지금의 인공지능을 탑재한 것을 의미한다고 할 수 있습니다. (이는 저의 개인적인 관점에서의 자동화와 자율화의 개념입니다.) 

 

2. DARPA가 생각하는 인공지능

 

전 세계의 과학기술 연구개발의 메카라고 하는 미국의 DARPA에서는 인공지능을 크게 4개의 영역으로 나누어 소개하고 있습니다. 이 4가지 영역은 Perceiving, Learning, Abstracting, Reasoning입니다. 다시말해 사물과 현상을 이해하고(Perceiving), 이로 부터 학습을 하며(Learning), 주어진 사실로 부터 새로운 의미를 생성하며(Abstracting), 스스로 계획하고 결정하는 것(Reasoning)이라고 하였습니다. 그렇지만 한다미로는 "정보를 처리하는 프로그램화된 능력" 이라고 정의하였으며 이는 컴퓨터시스템의 발전된 기술, 그 이하도 그 이상도 아니라는 것을 의미한다고 할 수 있습니다.

 

따라서 기존의 시스템 개발의 행위와 크게 다를 것이 없으며, 딥러닝이라는 신경망모델의 등장으로 놀라운 발전도 있지만 많은 문제점도 내포하고 있음을 지적하고 있습니다. 특히 이러한 극복하는 것이 향후 인공지능의 과제이며, 인공지능을 적용하는 가장 중요한 목표는 사람과 기계가 공존하는 시대에 하나의 유기체처럼 동작하도록 신뢰할 수 있는 Ai기반 시스템을 개발하는 것이라고 언급하고 있습니다. 

 

DARPA가 생각하는 인공지능의 세대별 발전 모습

 

지금의 2세대를 신경망모델을 기반으로 한 statistical learning의 세대로서 규정하고 블랙박스로서 설명가능하지 않은 모델을 설명가능한 모델로 발전하고, 1세대와 같은  인간 및 자연의 지식과 같은 배경지식을 포함하는 contextual adaption이 가능한 제3세대 인공지능으로 발전하는 것을 목표로 하고 있습니다.

 

3. System-of-systems로서의 지능형 시스템

 

결국 미래의 시스템은 기존의 시스템에 DARPA에서 정의하는 3세대의 contextual knowledge model을 탑재한 다양한 시스템의 모양을 갖추어 발전하게 될 것입니다. 따라서 앞으로의 시스템을 개발한다는 것은 기존의 시스템 개발방법과 더불어 늘 Ai 모델을 개발하고 이를 탑재하는 것을 고려하여 개발해야 한다는 것을 의미합니다.

 

지능형 System-of-Systems의 일반적인 구조

 

일반적으로 시스템의 구성요소는 크게 사람, 하드웨어, 소프트웨어로 구성됩니다. 지능형 시스템일 수록 소프트웨어가 그 기능을 거의 대부분 담당하며, 이중에서 Ai 모델로 그 기능이 구현되는 것이 증가될 것으로 생각할 수 있습니다. 특히 이러한 미래의 시스템을 다른 말로는 유무인 복합시스템이라고 부를 수 있을 것 같습니다. (DARPA에서는 이러한 사람과 Ai기반의 시스템이 협업하는 개념을 MUM-T(Manned Unmanned Teating)라고 하며, 이것이 인공지능의 개발의 목표라고 생각하고 있습니다.)

 

4. 자율성의 수준

 

Ai기반시스템을 개발할 때는 특히 윤리적인 문제 등이 많이 거론되고 있습니다. 이러한 차원에서 자율성의 수준을 어떻게 설계할 것인가가 설계에서 매우 중요한 고려사항이 되고 있습니다. 다시말해 사람이 통제해야 할 요소는 어떤 부분인가를 잘 정의해야 합니다.

 

자율성의 수준과 이를 결정하는 3가지 차원

 

일반적으로 자율성을 사람의 통제 여부에 따라 크게 3가지로 구분할 수 있다. 가장 통제 높은 man-in-the-loop 시스템, 사람의 통제가 거의 없는 man-off-the-loop 시스템, 그리고 이 두 시스템 사이에 존재하여 최종의 통제 만을 수행하는 man-on-the-loop 시스템입니다. 이러한 통제의 수준은 상기 그림의 오른쪽처럼 Ai시스템의 지능화, 타 체계와의 협업 및 독립성에 따라 다양한 수준으로 존재하게 됩니다. 

 

5. ANN (Artificial Neural Net) 모델이 개발 절차

 

일반적으로는 Ai기반 시스템의 개발절차도 일반 시스템 개발 절차와 동일하게 정의될 수 있으며  인공신경망 모델의 관점에서도 아래 그램과 같이 분석, 설계, 개발 , 평가의 개발절차를 동일하게 적용할 수 있습니다.

 

인공신경망 개발 절차

분석 및 설계는 시스템 분석 및 설계 단계에 맞추어 동시에 진행되는 것으로 되며, 기능 모델과 품질모델, 데이타모델에 필요한 곳에 확장하여 정의될 것입니다. 특히 개발 및 시험평가 단계에서는 ANN의 경우는 모델 개발을 위한 학습데이터의 구분이 중요하며 아래와 같이 3가지의 관점에서 데이터셋을 구분하고 이를 데이터모델링을 반영하여 정의할 수 있습니다.

개발 및 평가를 위한 데이타셋의 구분