인공지능의 시작
- "어떤 입력값 x에 대해 특정 w값을 곱하고 이 곱들의 합이 특정 수준을 넘었을때 이를 출력하면 될 것이다."라는 이론을 바탕으로 AND,OR만으로 컴퓨터를 학습시킬 수 있을 것이라고 생각하였다.
하지만, XOR의 문제 발생
- AND, OR은 linear로 학습시킬 수 있었지만 XOR은 학습시킬 수 없게 되는 문제가 발생하였다.
- 이후 한 동안 머신러닝에 대한 침체기가 지속 되었다.
Backpropagation, Convolutional Neural Networks와 직면한 문제
- Backpropagation : 값을 판단한뒤 틀린 경우 틀린 정보에 대해서 뒤로 전달하면서 학습시키는 방법.
- Convolutional Neural Networks : 고양이가 물체를 판단할 때 시신경의 전부를 사용해서 판단하는 것이 아니라 일부만을 이용하여 판단한다는 점을 발견하여 정보를 판단할 때 전부를 이용하여 판단하는 것이 아니라 쪼개서 판단한뒤 합치는 방식으로 학습시키는 방법.
-> 좋은 성능을 보였으나 문제 발생
- 하지만 많은 Layers를 거치게 되면 Backpropagation에서 틀린 정보에 대한 전달이 미미해 지는 문제가 발생하였다.
- 이 문제로 인해 다시금 인공지능에 대한 연구가 정체되었다.
문제의 해결과 현재
- 수차례의 연구를 통해 많은 Layers에서 생긴 문제는 적절한 weight을 주게 된다면 해결이 가능 하다는 결론을 내리게 되었다.
- 이 시점에서 기존에 쓰던 Neural Networks이름 대신 Deep Learning / Deep Nets을 쓰게 되었다.
- 현재는 Deep Learning을 이용해 다양한 분야에 활용되고 쓰여지고 있다.
- 예 : 유튜브에서 언어를 듣고 자동 번역, 페이스북에서 사용자가 좋아할 만한 피드 보여주기 등...
'IT > 머신러닝' 카테고리의 다른 글
[section_9] Neural Network 1: XOR 문제와 학습방법, Backpropagation(1) (0) | 2018.06.01 |
---|---|
[section_8_lab] Tensor Manipulation (0) | 2018.06.01 |
[section_7_lab] epoch, batch, iterations (0) | 2018.06.01 |
[section_7] ML의 실용과 몇가지 팁 (0) | 2018.06.01 |
[section_6] Softmax Regression (Multinomial Logistic Regression) (0) | 2018.06.01 |