스승 고지마 켄시로 선생님은 “사는 것은 표현하는 것이다”라고 했다. 1) 어리석은 제자는 “무엇”을 “어떻게” “표현해야” “산다”는 것인지, 스승의 의도를 이해하지 못하고 여전히 어리둥절한 상태이다. 그저 이런 형태로밖에 할 수 없는 표현이 있다고 생각했다. 그런데 작가인 쓰치야 츠카사 선생님으로부터 본서의 힌트를 얻었다. 방과 후만이라도 마술사가 되기를 바랐는데 그 부족한 노력의 결실이 바로 이 책이다.
본서에서는 이 분야 최고의 콘퍼런스 중 하나인 NIPS(Neural Information Pro\-cessing System) 2007의 강연 중에서 보토(I. Bottou, 확률적 기울기 하강법의 지지자, 본서에서 다루었다)의 “컴퓨터 사회의 비유”를 소개하려고 한다.
사회에는 두 종류의 컴퓨터(계산자)가 존재한다. 생산자(작성기, 제조자)는 일을 하고 소득을 얻는다. 생산자의 활동에 따라 데이터가 생겨난다. 한편, 사고가(사고기, 사상가)는 수익을 증대시키기 위해 데이터를 분석함으로써 경쟁 우위를 도출한다. 아무리 컴퓨터의 수가 많아져도 생산자/사상가의 비율은 일정하다. 데이터는 생산자의 수에 비례하여 증가하지만, 사상가의 수는 데이터의 증가 속도 이상으로 늘어나지 않는다. 즉,
1. 학습에 이용할 수 있는 컴퓨터 자원은 데이터의 증가 속도 이상으로 빨라지지 않는다.
2. 데이터 마이닝의 비용은 수익을 초과할 수 없다.
3. 지적 생명은 데이터를 통해 학습한다.
4. 기계학습 알고리즘의 대부분은 데이터의 증가 속도 이상의 처리 용량을 필요로 한다.
이 책은 지적인 기계 또는 사고가를 만드는 데 필요한 사고를 위한 도구를 제공하는 것이 목적이다. 생산자로서 현재 보유하고 있는 재료를 통해 경쟁 우위를 확보하는 것을 꾀하고 있다. 재료 중에는 다른 사고가가 어떻게 사고하고 있는지도 포함된다. 사고가가 필요하다고 판단한 경우, 그 사고가의 사고 과정을 재현하고자 시도했다.
저자 소개
지바현 조시 시립 조시고등학교 졸업
와세다대학 제1문학부 심리학 전공 졸업
와세다대학 대학원 박사 전기과정 수료(심리학 전공)
와세다대학 대학원 박사 후기과정 학점취득 만기퇴학(심리학 전공)
도쿄여자대학 정보처리센터 조수
~현재
박사(문학)(와세다대학)
목 차
1. 개요
2. Python
3. 뉴럴 네트워크의 기본 개념
4. 심층학습 이론
5. 심층학습의 현재
6. 심층학습의 전개
7. 마무리하며
부록
