인공지능이 강하고 약한 것이 있다고 하는데 ...

AI라는 영화가 2001년에 나왔죠. 거장 스필버그가 제작하는 영화라 개봉 전 부터 엄청난 관심을 모았던 것으로 기억됩니다. 제가 보기에는 전반적으로 AI에 대한 휴머니즘을 다룬 영화로 기억이 됩니다. 그때 당시 주인공이었던 어린아이의 눈빛이 생각이 납니다. (지금은 완전 살이 찐 모습이던데..) 특히 이 영화에서는 Bio technology와 결합하여 인공지능을 넘어서 “인공생명”을 묘사했다고 할 수 있습니다. 

그럼 최초의 AI관련 영화는 무엇일까요? 아무래도 이 영화 아닐까요? “2001: 스페이스 오디세이” . 이 영화가 언제 나온 줄 아시나요? 1968년 입니다. 그 외에도 많은 영화들이 소개되었습니다. 그런데 보통 AI관련 영화에서 소개되는 AI를 “강한 AI”라고 합니다. 강한 AI는 사람처럼 범용적인 일들을 모두 할 수 있다는 의미로 범용인공지능, AGI(Artificial General Intelligence)를 지향하는 것을 의미합니다.

인간의 지능을 컴퓨터가 넘어서는 시점을 과학적 용어를 빌려서 특이점(singularity)이라고 하는 데, 이는 AGI보다 강한AI,  즉 Super Intelligence라고 하죠. 영화 트랜센던스에 등장했던 AI가 연상됩니다. 이 정도면 “강한 강한 AI”라고 할 수 있을 것 같습니다. 그럼 “약한 AI”도 있겠죠. 약한 AI가 인간보다 약하다는 뜻이라기 보다 인간이 갖고 있는 지적인 일 중에 특정 하나에 특화된 AI를 의미합니다. 알파고가 이세돌을 이겼다고 해서 강한AI라고 하지는 않습니다. 알파고도 게임이라는 영역에서 특화된 약한AI입니다.  

무기체계의 경우 AI를 적용했을 때 우려를 나타내는 분야가 LAWS(Lethal Autonomous Weapon System)입니다. 스스로 판단하여 치명적인 피해를 줄 수 있는 시스템. 물론 LAWS의 범주에는 주로 Killer Bots들을 의미하지만, 정신적 피해, 환경적 피해 등도 모두 포함할 수 있지 않나 생각합니다. 특히 중국의 대대적인 안면인식 응용, 미국의 Maven 프로젝트와 같이 프라이버시 문제 등 윤리적인 문제로 AI의 적용을 우려하고 있습니다. 

따라서 강한AI는 경계해야 하고 약한AI는 경계할 필요가 없다고 말하는 것은 잘못된 이야기라 할 수 있습니다. 우리가 경계해야 하거나 통제해야 할 것은 강한AI와 약한AI의 개념이 아니라 스스로 결정하여 큰 피해를 주는 시스템의 개발을 경계해야 합니다. 이것은 인공지능과 무관하게 지금의 기술로 개발하는 일반적인 시스템으로도 가능한 일이기 때문입니다. 따라서 인공지능때문에 큰 재앙이 온다는 것을 우려하는 것은 기우 아닌 가 싶습니다.  지금 작동하는 프로그램에도 이러한 오류가 있으면 큰 재앙을 줄 수 있기 때문입니다.