Douglas' Space

인공뉴런(이제부터는 이를 AN이라고 부르겠습니다.) 하나를 보면 함수와 같다고 하였습니다. 정확하게는 AN 하나는 2개의 합성함수로 되어 있습니다. 다음과 같이 생겼습니다. y = z(f(x1,x2,...,xn)) = z(x1*w1+x2*w2+....+xn*xn+b) ANN은 이런 AN들이 층을 구성하여 연결된 것이므로 합성함수들의 집합과 같다고 할 수 있습니다. 여기서 xi는 입력값입니다. 입력계층에 존재하는 AN의 xi는 최초의 학습데이타가 될 것입니다. 그러나 은닉계층과 출력계층의 AN의 xi는 그 전 AN들의 출력값인 y들이 됩니다. wi는 가중치로서 AN의 학습의 목적인 학습 파라미터라고 할 수 있습니다. b는 bias로서 각 AN마다의 특성이 반영되는 조정 값입니다. wi와 b 모두 입력 데이..

Perceptron은 1957년 Frank Rosenblatt가 고안한 간단한 네트워크로 하나의 인공뉴런에 해당하는 단순한 분류기입니다. 이를 소개한 뉴욕타임즈의 기사는 조만간 인간과 같은 기계가 탄생할 것이라고 예견하기도 했습니다. 그러나 하나의 Perceptron으로 제한이 많아 다양한 문제를 풀기위해서는 Multi layer perceptron(MLP)으로 확장이 필요하다고 Marvin Minsky교수가 주장했지만 MLP를 이용하여 학습은 불가능하다고 주장하여 오랜기간 암흑기에 있었습니다. MLP는 다음과 같이 여러층에 다수의 뉴런이 네트워크로 구성된 뉴럴넷입니다. 이 구조는 모든 뉴럴넷 구조의 가장 기본이 되는 구조입니다. 입력데이타 Xi와 연결되는 뉴런으로 구성된 계층을 입력층(input lay..