2. 배워야 할 게 뭐지?
딥러닝의 특징
딥러닝 아키텍쳐
딥러닝에서의 CNN
딥러닝의 활용 사례
딥러닝의 미래
3. 딥러닝의 특징
층을 깊게 한 심층 신경망
층을 깊게 하는 이유 :
1) 신경망의 매개변수 수가 줄어든다. (ex : 5x5 | 2x3x3 )
2) 학습데이터의 처리를 층별로 분담처리하여 학습속도 빠름
3) 정보를 계층적으로 전달 가능
층이 깊어질때의 문제점
1) 오버피팅이 발생할 확률이 증가
2) 높아지는 시간 복잡도
5. 딥러닝에서의 CNN
✓ 3x3의 작은 필터를 사용한 합성곱 계층
✓ 활성화 함수는 ReLU
✓ 완전연결 계층 뒤에 드롭아웃 계층 사용
✓ Adam을 사용해 최적화
✓ 가중치 초기값은 He의 초기값
6. 합성곱 계층과 풀링 계층으로 구성되는 기본적인 CNN.
3 x 3의 작은 필터를 사용한 합성곱 계층을 연속으로 거침.
구성이 간단하여 응용하기 좋음.
딥러닝에서의 CNN - VGG
7. 인셉션 구조 : 크기가 다른 필터를 여러 개 적용하여 그 결과를 결합(빨간원)
1 x 1의 작은 필터 사용 : 차원을 줄여 심층망의 연산량이 늘어나는 문제 해결
효과적으로 차원을 줄이면서 망을 깊게 할 수 있는 방법
딥러닝에서의 CNN - GoogLeNet
8. 스킵연결 : 입력 데이터를 합성곱 계층을 건너뛰어 출력에 바로 더하는 구조
bottleneck : 더 많은 맵 수를 유지하면서도 내부 파라메터의 수는 더 작음
딥러닝에서의 CNN - ResNet
9. 딥러닝의 활용
사물 검출 및 캡션 생성
이미지 분할
이미지 스타일(화풍) 변환
이미지 생성 (자율학습)
강화학습을 통한 게임 플레이
이 외의 활용 사례
10. 사물검출 R-CNN 활용
입력 - 후보영역추출 -
CNN 특징계산 - 영역분류
캡션생성 NIC 활용
CNN(사진특성)
+
RNN(텍스트 생성)
사물 검출 및 캡션 생성
11. 이미지 분할
SegNet 이라는 CNN 기반 신경망 이용
자율 주행 : 이미지 분할을 통해 도로, 차, 건물, 인도 등을 정확하게 인식
12. CNN 활용 - 그림의 내용 학습 + 스타일 학습 -> 재조합
https://deepart.io/
이미지 스타일(화풍) 변환
13. 사물 이미지 생성 (자율학습)
자율학습을 통해 입력 이미지 없이 새로운 이미지 생성
DCGAN (Deep Convolutional Generative Adversarial Network)
- 생성자와 식별자로 불리는 2개의 신경망을 이용
- 생성자 : 진짜와 똑같은 이미지를 생성
- 식별자 : 생성자가 생성한 이미지인지 실제 촬영 이미지인지 판별
자율학습 모델은 DBN, DBM 이 대표적
앞으로의 딥러닝은 GAN의 개념에 주목하라!!!
14. 강화학습을 통한 게임 플레이
강화학습 : 더 좋은 보상을 받기 위해 스스로 학습
- Deep Q-Network, DQN : value-based
- Policy Gradient, PG : policy-based
인공신경망으로 ‘퐁’ 게임을 학습하기 (바로가기)
나보다 잘하는 쿠키런 AI 구현하기 (바로가기)
스타크래프트 유닛 콘트롤 학습 (바로가기)
15. 이 외의 활용 사례
실시간 음성 대화 번역 (바로가기)
얼굴 인식 시스템 고도화 (바로가기)
음악, 영화 등 추천 (바로가기)
사기 금융 거래 탐지 (바로가기)
주식 동적 패턴 대응 (바로가기)
음악 생성 (바로가기)
댄스 생성 (바로가기)
필기체 생성 (바로가기)
16. 스터디를 마무리 하며...
신경망 학습 :
전제 - 미니배치 - 기울기산출 - 매개변수갱신 - 반복
딥러닝은 4차 산업혁명을 이끌어 갈 핵심 기술이다
ch08 - awesome_net을 완성해보자.
![Deep Learning
[ 딥러닝 : 심층신경망 ]
‘밑바닥부터 시작하는 딥러닝 8장’. slipp. 홍광필](https://image.slidesharecdn.com/deeplearning-170510105119/85/Deep-learning-1-320.jpg)
