목록인공신경망 (3)
Douglas' Space
Perceptron은 1957년 Frank Rosenblatt가 고안한 간단한 네트워크로 하나의 인공뉴런에 해당하는 단순한 분류기입니다. 이를 소개한 뉴욕타임즈의 기사는 조만간 인간과 같은 기계가 탄생할 것이라고 예견하기도 했습니다. 그러나 하나의 Perceptron으로 제한이 많아 다양한 문제를 풀기위해서는 Multi layer perceptron(MLP)으로 확장이 필요하다고 Marvin Minsky교수가 주장했지만 MLP를 이용하여 학습은 불가능하다고 주장하여 오랜기간 암흑기에 있었습니다. MLP는 다음과 같이 여러층에 다수의 뉴런이 네트워크로 구성된 뉴럴넷입니다. 이 구조는 모든 뉴럴넷 구조의 가장 기본이 되는 구조입니다. 입력데이타 Xi와 연결되는 뉴런으로 구성된 계층을 입력층(input lay..
일단 우리가 다루는 시스템(계)은 오픈시스템(open system)입니다. 오픈시스템은 외부와 상호작용하여 어떤 정보, 에너지, 물질을 주고 받습니다. 오픈시스템은 또 다른 작은 오픈시스템으로 분할될 수 있습니다. 인간은 최하위 세포로 구성되어 있습니다. 인간도 오픈시스템이고, 세포도 오픈시스템인 셈입니다. 프로그램은 function으로 구성됩니다. 프로그램도 오픈시스템이고 function도 오픈시스템입니다. 이러한 오픈시스템을 형상화 한 것을 모델(model)이라고 하고, 이 형상화 작업을 모델링(modeling)이라고 합니다. 따라서 모델링은 시스템을 분석하고 설계하는 행위를 의미합니다. 오픈시스템을 형상화하면 외부환경으로 부터 다수의 입력을 받고, 무엇인가를 처리하고, 출력을 내보내는 것으로 표현됩..
기억이란 무엇인가? 철학적인 질문같네요. 기억은 어디에 존재하나요?라고 다시 물어볼 수 있을 것 같습니다. 뇌과학자들의 지금까지의 결론은 우리의 뇌에 존재한다고 이야기하고 있습니다. 기억은 순서에 의해 사진을 찍어 놓는 것과 유사하다고 합니다. 그리고 기억은 언어로 표현되죠. 뇌세포의 기본단위를 뉴런(neuron)이라는 것은 모두 아실겁니다. 대뇌피질에 140억개의 뉴런(neuron)으로 구성되고, 이중의 40%가 시각에 관계가 되어 있다고 합니다. 그 만큼은 시각은 우리의 학습과 기억에 가장 많은 영향을 준다고 합니다. 그래서 시각화가 학습에 매우 중요한 이유가 됩니다. (제가 소프트웨어 모델링을 강조하는 이유이기도 합니다.) 지금까지 밝혀진 기억의 실체를 조금 딱딱한 과학적 설명으로 이야기하면 뉴런과..