본문 바로가기

전체 글265

[section_7_lab] Meet MNIST Data 구현 코드MNIST 다운 과정에서 문제 발생 시[머신 러닝/에러 슈팅] - Tensorflow MNIST 설치 오류_proxy server 설정 (ssl.SSLError)import tensorflow as tf import random import numpy as np import os os.environ['TF_CPP_MIN_LOG_LEVEL'] = '2' from tensorflow.examples.tutorials.mnist import input_data # Check out https://www.tensorflow.org/get_started/mnist/beginners for # more information about the mnist dataset mnist = input_data.rea.. 2018. 6. 1.
[section_12] RNN(Recurrent Neural Networks) RNN(Recurrent Neural Networks)우선 쉽게 개념을 이해하기 위해서 예시를 보면 "나는 밥을 먹으러 간다."라는 문장은 각 단어들이 서로 연결되어 하나의 문장이 된다. 이 문장의 한 단어만(예를 들어 '밥을')으로 전체 문맥을 이해하는 것은 어렵다.문맥(최종 결과물)과 같이 각 데이터들의 연관 관계에 의해 최종 결과물이 나오는 경우 RNN이 사용된다.RNN에서 연관 관계를 표시해주기 위해서 상태(state)값을 가지고 이는 다음 데이터에 영향을 준다. 상태(state)는 hidden layer의 첫 영문을 따서 h라 표시한다.상태 h(t)는 이전 상태h(t-1)에 영향을 받아 만들어진다.또한 상태를 만들기 위해서 tanh그래프를 사용하게 된다.결과물 y를 얻기 위해서 세 개의 W가 필.. 2018. 6. 1.
[section_11] CNN(Convolutional Neural Networks) CNN(Convolutional Neural Networks)Covolution이란? 복잡함이란 의미이다.결론 부터 말을 한다면 CNN이란 CONV, ReLU, POOL, Drop-out을 번갈아 적용하여 하나의 Fully Connected Network를 만드는 것을 말한다. Conv Layer란?이미지에서 필터와 Activation Funtion(ReLU)를 사용하여 하나의 값을 추출하여 하나의 Layer을 만드는 것이다. 하나의 예시를 들면, 어떤 색이 있다면 R,G,B필터를 사용하여 3개의 layer로 만들 수 있다. 이를 Conv layer라고한다.이제 필터에 대해서 잠깐 알아보면 N은 이미지 크기(7*7)를 말하고, F는 필터의 크기(3*3)를 말한다, 여기서 stride라는 개념이 나오는데 .. 2018. 6. 1.
[section_9] ReLU and 초기값 정하기(1) (2006/2007 breakthrough) Sigmoid 보다 좋은 ReLU쉽게 이해하기에 앞서 머신러닝의 지나온 과정에서 가장 큰 2가지 문제가 있었다. - 첫 번째 : XOR 문제 - > Neural Network - 두 번째 : Backprogation의 문제 -> ReLU관련 내용 : [section_8] 딥러닝의 기본 개념과, 문제, 그리고 해결Backprogation을 할때 많은 Layer에 거치게 되면 좋지 않은 결과가 나오게 된다. 이유는 간단하다 Backprogation의 경우 나온 결과 값으로 이전 레이어의 w, b를 조절 해 줘야하는데 sigmoid의경우 0~1사이의 값만을 가지므로 곱하면 곱할 수록 0에 가까워지게 된다.따라서 많은 레이어를 거칠수록 w, b에 주는 영향은 줄어 들게된다.이를 해결 해주는 방법은 생각 보다 간.. 2018. 6. 1.