Video (Korean): https://www.youtube.com/watch?v=r64_PeoZvao
기계학습은 최근의 연구 성과 및 기술의 발전에 힘입어 다양한 분야에 본격적으로 적용되기 시작했습니다. 2017년은 응용분야의 확장에 힘입어 기계학습 응용이 대중화되는 한 해가 될 것입니다. 이 발표에서는 기계학습이 해결한 기술적인 문제와, 현재 해결하려고 하는 난제들을 다룹니다. 또한 2017년 현재 기계학습이 응용되고 있는 분야들과 응용 방법 및, 이후 기계학습 적용을 통해 발전할 수 있는 분야들과 적용 아이디어를 이야기합니다.
Machine learning has been applied to various areas in earnest owing to recent research results and technological advancements. In 2017, machine learning application will be popular with the expansion of the application area. This talk covers technical issues solved by machine learning, and difficult problems that should be solved now. It also covers the areas that apply machine learning in 2017, application methods, area that can develop by application machine learning, and application ideas.
17. 기계학습 Machine Learning
▪기계학습
▪”Field of study that gives computers the ability to learn without being
explicitly programmed” Arthur Samuel (1959)
▪"A computer program is said to learn from experience E with respect to
some class of tasks T and performance measure P, if its performance at
tasks in T, as measured by P, improves with experience E.” Tom Michel
(1999)
▪기계학습의 종류
▪지도학습 Supervised learning
▪비지도학습 Unsupervised learning
▪강화학습 Reinforcement learning
▪추천시스템 Recommender system
47. 딥 러닝: 황금시대의 꽃
▪만약 시간과 계산이 충분히 있으면
어떻게 되는가? 예를 들면
▪연산 자원 걱정 없이 히든 레이어의 수를
막 늘려도 된다거나
▪무한정에 가까운 데이터를 부어
넣는다거나
▪딥러닝의 돌파구
▪Geoffrey Hinton (2005)
▪Andrew Ng (2012)
▪Convolution Neural Network
▪Pooling layer + weight
▪Recurrent Neural Network
▪Feedforward routine with (long/short) term
memory
▪Deep disbelief Network
▪Multipartite neural network with generative
model
▪Deep Q-Network
▪Using deep learning for reinforcement
learning
69. CNN+RNN / CNN으로 RNN
▪2016년 말~
▪DeepText (Facebook)
▪2017년 5월 7일
▪CNN으로 번역 문제 풀기
▪응용: 영상의 컨텍스트 분석
▪Frame analysis: CNN
▪Temporal context: RNN over
CNN result
77. 이미지 → 동영상 → 실시간 환경 대응
시퀀스 → 문장 → 맥락 이해
추론 → 자율행동 → 자동작업처리
78. API 기반의 딥러닝 서비스
▪자체적으로 만든 모델을 API 형태로 서비스함
▪실시간성이 필요하지 않은 분야 중심
▪예) Cognitive service on Microsoft Azure
79. API 기반의 개인화된 딥러닝 서비스
▪미리학습된 인공신경망 + 개인화 데이터 = 개인화된 인공신경망
▪쉬운 개인화: 서버리스 딥러닝 구현
+ =
80. 일반 사용자 대상의 딥러닝 서비스
▪훈련이 끝난 기계학습 모델의 추론 기능 기반
▪많은 자원이 필요하지 않음
▪예) ~512MB / 1GB의 ARMv7에서 실행 가능
▪오작동에 부담이 없는 분야
▪키덜트를 위한 스마트 토이: 자율주행 R/C 및 드론
▪가전제품 중심 또는 가전제품 제어기
▪IoT + ML
▪지역성이 강한 분야: 가정내 (방 단위), 자가용, 사무공간 등
▪예) 스마트 가정 자원 관리 시스템
81. 일반 사용자 대상의 딥러닝 서비스
▪디지털 어시스턴트 대전
▪디지털 어시스턴트: 딥러닝 기반 서비스들의 게이트웨이
▪컨텍스트 추출 + 추론 + 기능 연동
▪Echo (Amazon) / Google Home (Google)
▪Microsoft / Apple 의 접근
84. 서버사이드 기계학습
▪기계학습 워크로드의 특징
▪훈련시
▪무지무지 거대한 계산 자원을 필요로 함
▪크고 인덱스가 붙은 데이터를 공급해야 함
▪또는, (강화학습의 경우) 피드백을 주기 위한 모델이나 훈련 환경을 필요로 함
▪제공시
▪(상대적으로) 적은 자원을 필요로 함:
▪ 적은 CPU 코스트
▪ (신경망을 불러오기 위한) 적당한 크기의 메모리 공간
85. 서버리스 환경에서의 기계학습: 왜?
▪Apple의 접근 (iOS 10)
▪Differential Privacy: 사용자
프라이버시 보호를 위한 방법
▪익명화된 사용자 데이터 수집
▪개인화된 기계학습 모델 훈련: 스마트폰
안에만 저장
▪예)
▪ 사진에서 얼굴 탐색
▪ 음성 인식
▪ 스마트 키보드
▪GPU + Metal + 전용 딥러닝 프레임워크
86. 서버리스 환경에서의 기계학습: 왜?
▪실시간 모델 / 앱에서 해결할 문제들
▪자율주행
▪ 안전과 직결되는 문제
▪ 100Km/h 로 주행중인 쇳덩이 / 350ms.
▪사진 / 비디오의 실시간 효과
▪ 끊기지 않는 효과 처리
▪ 밀림 없는 미리 보기
▪음성 인식
▪ 실시간 딕테이션
▪ 멀티 유저 보이스 구분 인식
▪자동화 도구
▪ 루틴한 작업의 자동화
▪ 개인적인 작업들
87. 서버리스 환경에서의 기계학습: 어떻게?
▪서버에서 훈련하고, 스마트폰에서 제공
▪훈련: 계산 코스트가 많이 듦
▪추론: 스마트폰에도 미리 학습된 모델을 제공할 충분한 성능이 있음
▪스마트폰에서 훈련 및 제공을 모두 처리
▪프라이버시 보호 / 트래픽 감소 / 개인화
▪최신 스마트폰들에서의 GPU 사용
▪지연된 훈련 처리
▪개인화
▪계산 비용이 많이 드는 작업을 유휴시간에 처리
88. 서버리스 환경에서의 기계학습: 어떻게?
▪TensorFlow
▪안드로이드와 iOS 를 모두 지원
▪TensorFlow Lite / XLA Compiler framework
▪Caffe 2 (Facebook)
▪모바일에서 1080p@60fps로 deepdream 처리 가능
(진짜?)