2016 F/W 시즌 디프만 세미나에서 활용된 자료입니다.

1. Designer programmer meet
Seminar
2016/11/19
_Lee ji-yun
수학을 1도 몰라도 알 수 있는
구글 번역과 알파고의 비밀
1

2. Designer programmer meet
Seminar
2016/11/19
_Lee ji-yun
2
*주의 : 발표자는 기계학습과 수학을 1도 모릅니다.
전적으로 디자이너의 관점에서 쓰였으니 프로그래머 분들의
양해를 미리 구합니다

3. Designer programmer meet
Seminar
2016/11/19
_Lee ji-yun
3

4. Designer programmer meet
Seminar
2016/11/19
_Lee ji-yun
4

5. Designer programmer meet
Seminar
2016/11/19
_Lee ji-yun
5

6. Designer programmer meet
Seminar
2016/11/19
_Lee ji-yun
6
사람은 복잡한 문제를 어떻게 그렇게 빠르고
효율적으로 처리할 수 있는가?

7. Designer programmer meet
Seminar
2016/11/19
_Lee ji-yun
7
인공신경망 : 사람의 신경망을 본딴 방법론

8. Designer programmer meet
Seminar
2016/11/19
_Lee ji-yun
8
기본 요소 : 뉴런, 시냅스

9. Designer programmer meet
Seminar
2016/11/19
_Lee ji-yun
9
신경 전달 물질의 양에 따라서 다른 신호가 전달

10. Designer programmer meet
Seminar
2016/11/19
_Lee ji-yun
10
신경 전달 물질의 양에 따라서 다른 신호가 전달
(1958)
Frank
Rosenblatt

11. Designer programmer meet
Seminar
2016/11/19
_Lee ji-yun
11

12. Designer programmer meet
Seminar
2016/11/19
_Lee ji-yun
12
단층 퍼셉트론 모델
X
X
X
input layer output layer
Y0
1
2
S
w0
w1
w2
활성화 함수
(Activation
function)

13. Designer programmer meet
Seminar
2016/11/19
_Lee ji-yun
13
단층 퍼셉트론 모델
X
X
X
input layer output layer
Y0
1
2
S
w0
w1
w2
활성화 함수
(Activation
function)
But…

14. Designer programmer meet
Seminar
2016/11/19
_Lee ji-yun
14
XOR Problem
OR Problem
O.O
O. I
I . I
I .O
O
I
XOR Problem
O.O
O. I
I . I
I .O
O
I
O
둘 중 하나만 참이어도 참 둘 중 하나라도 다르면 거짓
I

15. Designer programmer meet
Seminar
2016/11/19
_Lee ji-yun
15
x
y
X
X
x
y
X
X
linear model
???
다층 퍼셉트론 모델

16. Designer programmer meet
Seminar
2016/11/19
_Lee ji-yun
16
x
y
X
X
Non-linear model
_아무리 선을 잘 그어도 구분할 수가 없다.
_비 선형 분류 방법의 필요성 대두
_은닉층이 포함된 다층 퍼셉트론 모델의 등장
다층 퍼셉트론 모델

17. Designer programmer meet
Seminar
2016/11/19
_Lee ji-yun
17
다층 퍼셉트론 모델
input layer output layer
w
hidden layer
w
S
S
S
Σ
Σ
Σ
back propagation

18. Designer programmer meet
Seminar
2016/11/19
_Lee ji-yun
18
1.은닉층은 몇 개, 몇 층으로 구성되어야 하는가?
_답은 없다. 계속 해보는 수밖에
_층이 많아지고 노드가 많아져도 성능이 증가하는 것이 아니다.(딥러닝의 시발점)
2.초기값 가중치는 어떻게 정하는가?
_초기값에 따라서 결과가 달라질 수 있음.(지역 최적화 문제)
3.인과관계가 불분명 하다.
_결과가 어떻게 나오는지 중간 과정이 명확하지 않다.
다층 퍼셉트론 모델의 문제

19. Designer programmer meet
Seminar
2016/11/19
_Lee ji-yun
What is Support vector machine?
19

20. Designer programmer meet
Seminar
2016/11/19
_Lee ji-yun
20
두개의 클래스를 가진 점들을 어떻게 ‘잘’ 구분할 수 있을까?
x
y

21. Designer programmer meet
Seminar
2016/11/19
_Lee ji-yun
21
점들은 무수히 많은 선들로 분류할 수 있다.
x
y

22. Designer programmer meet
Seminar
2016/11/19
_Lee ji-yun
22
그렇다면 가장 좋은 선은 무엇일까?
x
y

23. Designer programmer meet
Seminar
2016/11/19
_Lee ji-yun
23
두 클래스간 여유공간이 가장 많은 면(Maximum margin)
x
y
support vector
margin
hyperplane

24. Designer programmer meet
Seminar
2016/11/19
_Lee ji-yun
24
1차원 문제라면…?

25. Designer programmer meet
Seminar
2016/11/19
_Lee ji-yun
25
1차원 문제라면…?
구분 불가
(?)

26. Designer programmer meet
Seminar
2016/11/19
_Lee ji-yun
26
1차원 문제라면…?
???

27. Designer programmer meet
Seminar
2016/11/19
_Lee ji-yun
27
어떻게 하면 좋을까?

28. Designer programmer meet
Seminar
2016/11/19
_Lee ji-yun
28
차원을 늘려본다면…?

29. Designer programmer meet
Seminar
2016/11/19
_Lee ji-yun
29
보이지 않던 경계면이 보일 수도 있다!

30. Designer programmer meet
Seminar
2016/11/19
_Lee ji-yun
30
보이지 않던 경계면 : line, plane이 아닌
hyperplane(초평면)

31. Designer programmer meet
Seminar
2016/11/19
_Lee ji-yun
31
kernal trick

32. Designer programmer meet
Seminar
2016/11/19
_Lee ji-yun
32
분류상에서 최적의 분류선을 보장
ANN vs SVM

33. Designer programmer meet
Seminar
2016/11/19
_Lee ji-yun
33
1.커널 선택의 어려움
_데이터의 속성에 따라 적합한 커널이 달라짐
2.차원의 저주
_차원이 높은 데이터의 최적 분류 평면을 찾기 위한 시간이 매우 오래 걸림
SVM의 문제

34. Designer programmer meet
Seminar
2016/11/19
_Lee ji-yun
34
1.양질의 데이터
2.전처리
->좋은 데이터를 많이 넣어서 학습시키자! - 구글이 잘할수 밖에 없는 이유
Deep learning

35. Designer programmer meet
Seminar
2016/11/19
_Lee ji-yun
Thank you for your listening!
35