1. 소개

컴퓨터가 ㄱ념들의 계통구조를 이용해서 경험으로부터 배우고 이해하게 만드는 것, 개념 계통구조에서 각 개념은 자신보다 더 간단한 개념들과의 관계를 통해서 정의된다. 경험으로부터 지식을 수집하기 때문에, 필요한 모든 지식을 인간 운영자가 형식적으로 일일이 지정할 필요가 없다. 이러한 접근 방식을 심층 학습이라고 부른다.

인공지능의 핵심 난제 중 하나는, 비형식적 지식을 컴퓨터에 제공하는 것이다. 

AI 시스템에는 원본 자료에서 패턴을 추출해서 스스로 지식을 획득하는 능력이 필요하고, 그러한 능력을 기계 학습 이라고 부른다. 

이런 기계 학습 알고리즘들의 성과는 주어진 자료의 표현에 크게 의존한다. 

실세계 인공지능 응용의 주된 난제는 관측 가능한 자료에 영향을 주는 변동인자가 너무 많다는 것이다. 대부분의 인공지능 응용에는 변동 인자들을 풀어헤쳐서 주어진 과제와 무관한 변동 인자들을 골라내는 능력이 필요하다.

고수준의 추상적인 특징들을 원본 자료로부터 추출하는 것이 어려울 수 있다. 

심층 학습은 자료를 좀 더 간단한 표현들을 이용해서 표현함으로써 표현 학습의 이러한 중심 문제를 해결한다. 

심층 학습 모형의 대표적인 예는 순방향 심층 신경망, 다층 퍼셉트론이다. 

자료의 적절한 표현을 배운다는 착안은 심층 학습에 대한 하나의 완점이다. 또 다른 관점은 학습이 깊게 이뤄지는 덕분에 컴퓨터가 다단계 컴퓨터 프로그램을 배울 수 있게 된다는 것이다. 

신경망이 깊을수록 더 많은 명령이 순차적으로 실행된다. 이러한 층별 순차 명령 실행 방식은 다음 층의 명령들이 이전 층의 명령들의 결과를 참조할 수 있으므로 강력하다. 

한 층에서 활성화된 정보 중에는 변동 인자들을 부호화하지는 않는 것들도 있을 수 있다. 또한, 표현은 입력을 제대로 설명하고 이해하는 프로그램을 실행하는 데 도움이 되는 상태 정보도 저장한다. 상태 정보는 입력의 구체적인 내용 자체와는 무관한 것으로 학습 모형이 입력의 처리를 조직화하는 데 도움이 된다.

심층 학습 모형의 깊이를 측저앟는 방법은 크게 두 가지,

구조를 평가하기 위해 반드시 실행해야 하는 순차 명령들의 수에 기초한 것, 그러한 명령 개수를, 주어진 입력들에 대해 모형의 각 출력을 계산하는 방법을 서술한 흘므도에서 가장 긴 경로의 길이,

개념들의 관계를 나타낸 그래프의 깊이를 모형의 깊이로 간주하는 것으로, 심층 확률 모형들이 주로 사용한다.

 

심층 학습은 인공지능에 대한 접근 방식 중 하나. 심층 학습은 기계 학습의 일종으로 컴퓨터 시스템이 경험과 자료를 통해서 자신을 스스로 개선하게 하는 기법,