Symbolic AI vs. Neuro AI

Symbolic AI

 

"생각이 있다면 사람이다. X는 생각한다. 고로 X는 사람이다."

이를 rule 이라고 하고, X는 fact라고 합니다. 이러한 rule과 fact를 Knowledge Base(KB)라고 합니다. (이를 표현하는 것을 Knowledge Representation이라고 함) 규칙을 풀어서 "X가 사람이다"라고 추론하는 도구를 추론엔진이라고 합니다.

 

KB를 어떻게 표현할 것인가 에 따라 graph, table, predicate logic, list processing 등 다양하게 구성하는 것이죠. 이러한 방식을 통들어 Symbolic AI라고 합니다. 사람의 지식을 한땀 한땀 녹여서 KB를 구축하기 때문에 DARPA에서는 이를 Handcrafted Knowledge라고 부르는 것 같습니다.

 

Neuro AI

 

뉴런의 구조는 입력을 받아서 뭔가 처리하고, 출력정보를 내보냅니다. 그리고  뉴런의 출력을 다시 다른 뉴런들이 입력으로 받습니다.  그런데 이 뉴런의 연결을 위해 링크가 존재가 하게되는데 이 링크에 가중치 값을 부여합니다. 이 가중치를 뉴럴넷의 파라미터라고 합니다. 이는 마치 아래 함수와 같습니다. 

n개를 입력받아 하나의 y출력하는 함수,  f함수는 아래와 같이 구성됩니다. 

여기서 w들이 가중치이죠. 따라서 뉴럴넷은 이러한 함수의 연결, 즉 합성함수의 집합체입니다. 딥뉴럴넷은 바로 연결된 함수가 많아서 붙여진 이름인데 이것을 모델이라고 하며, 결국 가중치 파라미터의 갯수가 얼마나 많은가에 따라 크기와 학습시간이 결정됩니다. 보통 이런 계산이 Matrix연산이 많아 GPU가 뜨고 있는 것이죠. DARPA에서는 이를 statistical learning이라고 하는데, 학습이 회귀분석과 같은 방법에 의해서 이루어 지기 때문입니다.