Douglas' Space

DARPA가 목표로 하는 미국의 전투 개념을 Mosaic Warfare로 정의하고 있습니다. 이 개념이 무엇이고 어떠한 효과가 있는 가를 미국의 Center for Strategic and Budgetary Assessments에서 발간한 White Paper를 기반으로 소개하고자 합니다. 새로운 전략 필요성의 배경 미국은 중국 및 러시아와 점점 더 장기적인 경쟁을 벌이고 있습니다. 이 경쟁에서 국방 지도자와 전문가들은 미군이 기술적으로나 작전적으로 뒤처지고 있다고 생각합니다. 이로 인해 국방부(DoD)는 방어 태세를 재조정하고 공중, 육지, 바다, 우주 및 사이버 공간 영역 간의 행동을 보다 효과적으로 통합함으로써 미국의 군사 능력을 향상시키기 위해 고안된 새로운 방어 전략 및 작전 개념을 추구하고 있..

Ai가 무엇이기에 특별히 그 위험을 관리해야 할까요? 이를 위해서는 사실 Ai에 대한 이해가 필요합니다. Ai에 대해서는 Ai에 대한 다른 글을 참조해 주시기 바랍니다. 요약을 하면 정보를 처리하는 일반적인 소프트웨어와 같으나 Neuro Ai의 딥뉴럴넷은 예측이 어려운 확률분포를 기반으로 한다는 것이 이러한 위험을 내포한다고 할 수 있습니다. 따라서 제3세대의 Ai인 Neuro-Symbolic Ai가 신뢰성있게(Trustworthy) 개발이 된다면 일반적인 소프트웨어가 갖는 위험 정도로 제어가 가능하다고 생각합니다. 그러나 현재 시점에서는 아직 설명 가능하며 신뢰성 있는 Ai의 개발이 필요하며, 따라서 Ai가 야기할 수 있는 위험의 특성을 이해하는 것은 중요하다고 생각합니다. Ai가 일반적인 소프트웨어로..

인공지능(Ai)이 많은 영역에서 디지털 변혁(Digital Transformation)의 가장 핵심적인 기술로 적용이 되고 있고 있으나, 반대로 이를 악용하는 적대 세력과 공정, 윤리 등의 사회적 위험에 대한 경고의 목소리가 높습니다. (몇 년 전에는 구글의 직원들이 미 국방성이 추진하는 인공지능 프로젝트인 Maven이라는 프로젝트에 불참할 것을 선언하였다는 기사를 접한 적을 기억하실 것이라 생각합니다.) 이러한 이슈를 고려하여 미국의 NIST(National Institute of Standards and Technology)에서는 Ai로 야기되는 위험을 관리하여 Responsible Ai를 실현하기 위한 Ai RMF(위험관리 프레임워크)를 2023년 1월에 발간하였습니다. 본 섹션에서는 NIST Ai..

1. 들어가면서 미래의 시스템은 Ai기반의 시스템으로 발전할 것으로 예상됩니다. 왜냐 하면 앨런튜닝이 최초의 컴퓨터라는 튜링머신을 고안할 때 생각하는 컴퓨터를 상상하고 있었고 우리의 기술 개발은 계속적으로 사람이 수행하는 일을 대체하기 위해 발전시키고 있기 때문입니다. 다시 말해 인간이 수행하는 다양한 작업 뿐만 아니라 인간의 사고까지 흉내내는 기계를 생각한 것 같습니다. (이러한 미래의 시스템을 특별히 지능형 소프트웨어 시스템이라고 정의하겠습니다). 이러한 지능형 시스템이 기존의 시스템과 구별되는 것은 자동화(Automation)와 자율화(Autonomy)를 구별하는 것과 같다고 할 수 있습니다. 자동화는 반복적으로 수행하는 다양한 작업을 컴퓨터시스템 또는 기계적 시스템으로 대체하는 것을 의미하고, 자..

1. 들어가면서 컴퓨터를 개발하면서 인간의 지능을 닮은 기계를 만들려고 하였습니다. 따라서 인공지능은 컴퓨팅기술의 계속적인 연구과제였습니다. 인공지능의 연구는 크게 2가지의 분야로 나누어져 개발되었습니다. 한 분야는 지식을 표현하고 이 지식으로 부터 새로운 사실을 추론하는 기호주의 (Symbolism)이고, 다른 하나는 인간의 뇌를 모방한 인공신경망을 구성하여 학습하고 추론하고자 하는 연결주의(Connectionism)였습니다.1956년 다트머스대학에서 인지과학자, 수학자, 컴퓨터과학자들이 모여 인공지능이라는 용어를 처음 사용하면서 초창기에는 기호주의 인공지능이 전문가시스템(Expert System)으로 큰 성과를 거두었습니다. 그러나 인공지능이 곧 인간을 대체할 것이라고 많은 기대를 걸었지만 크게 발전..

주요 인사들의 강연과 트랙별 주제 발표가 있었습니다. 컨펀런스와 각 발표, 그리고 그곳에서 만났던 사람 들로 부터 느꼇던 몇가지 주요 시사점을 종합적으로 공유하고자 합니다. 1. 지정학(地政學)보다 기술이 중시되는 기정학(技政學)이 안보에 큰 영향을 주고 있다. KAIST이광형총장님이 방송에서도 언급한 내용입니다. D=AI++ 에서도 언급한 우-러전쟁을 통해 얻은 기술적 교훈과도 일맥 상통한다고 할 수 있습니다. 미국-중국의 패권 싸움이 군비경쟁이라기 보다, 반도체와 AI와 같은 과학기술의 싸움입니다. 특히 이중에서 Hybrid Warfare 관점에서는 AI로 대변되는 소프트웨어 파워가 중요하다는 것이 다시한번 강조되었습니다. 인공지능이 왜 중요한가를 다른 글에서 강조한 바가 있습니다. 국방부장관님까지 ..

DARPA는 2018년에 “AI Next” 캠페인을 발표하고 AI 분야에 많은 투자를 진행하고 있습니다. 이 캠페인을 시작하면서 DARPA는 50년간의 오랜 기간 동안 인공지능에 투자를 한 성과를 기반으로, 인공지능의 1, 2세대를 지나 새롭게 인공지능의 제3세대를 개척하겠다는 목표로 “Artificial Intelligence Exploration(AIE)” 라는 프로그램을 런칭하였습니다. 현재 AIE라는 프로그램 내에서 많은 AI관련 프로젝트가 진행되고 있습니다. DARPA는 3세대의 인공지능은 기계가 인간이 프로그래밍한 규칙을 실행하거나 인간이 선별한 데이터 세트를 일반화하는 단순한 도구를 넘어서 인간의 동료가 될 것이라고 기대하고 있습니다. DARPA는 맥락을 이해하고 추론하는 기계를 제공하는 제..

Anduril의 세번째 기술적 키워드는 “Autonomous System 개발 전문가”, 즉 AI, 로봇 등의 전문가들과 예비역으로 구성된 전문가 집단이라는 것입니다. 미래의 전쟁양상으로서 Hybrid Warfare를 고려한다면 무기체계는 AI를 기반으로 하는 자율형 무기체계로 발전하리라는 것은 부인하기 어려운 사실이 되었습니다. 따라서 이러한 관점에서 조직과 개인의 전문성과 모든 개발환경이 이를 기반으로 변화가 필요하다고 할 수 있습니다. 특히 소프웨어중심의 자율형 무기체계의 개발은 많은 조직에게 전문성, 자율성, 민첩성 및 협업이라는 시대적 요구를 강요하고 있다고 해도 과언이 아닐 것입니다. 시장을 개척해가는 Product Management Product Management의 역할을 하는 사람을 P..

튜링어워드(Turing Award) 를 아시나요? 컴퓨터과학 분야의 학회들의 연합체인 ACM(Assoication for Computing Machinery)에서 컴퓨터과학 분야에 업적을 남긴 사람에게 1966년 부터 매년 시상하는 상입니다. “컴퓨터과학의 노벨상”이라고 부릅니다. 딥러닝의 대가라는 몬트리얼대학의 요슈하벤지오(Yoshua Bengio), 토론토대학의 제프리힌턴(Geoffrey Hinton), 뉴욕대의 얀레쿤(Yann LeCun)이 2018년 딥러닝에 기여한 공로로 이 상을 받았습니다. 상의 이름에서 짐작할 수 있듯이 튜링은 엄청난 과학자였습니다. 일명 컴퓨터과학계의 아인슈타인이라고나 할까요. 여러분들이 많이 보신 “이미테이션게임”이라는 영화 속 주인공이기도 합니다. 배우 베네딕트 컴버배치..

컴퓨터를 중국어로 電腦라고 합니다. 뭔가 감이 오지 않으신가요? 사실 사람이 하던 일을 효율적으로 수행하기 위해 컴퓨터을 고안했습니다. 오래전부터 많은 과학자들이 이러한 계산하는 기계를 생각하면서(인공지능이라는 말은 안했지만) 인간을 닮은 기계를 만들기 시작했습니다. (파스칼이 파스칼린이라는 기계를 고안한 것처럼) 이때 부터가 인공지능의 시작이 아닐까요? 저는 그렇게 생각합니다. 물론 그 어원은 1956년 컴퓨터와 인지과학자들이 다트머스대학에 모여서 컨퍼런스를 하면서 인공지능 용어를 처음 사용하기는 했지만요. 따라서 인공지능은 별개 아니라 기계를 이용하여 자동화를 넘어서 자율화로 가는 시점에서 특별히 붙여진 이름인 거죠. (이렇게 이름을 붙여서 조금 새로운 개념을 넣고 해서 발전이 되는 거겠죠) 이 당시..