Make & Use AI Models with Meta Learner for Automatic Deep Learning

Meta Learner는 비전문가들도 분야에 관계없이 원하는 작업에 대한 데이터를 입력하는 것만으로도 "맞춤형 인공지능 솔루션"을 쉽게 얻을 수 있도록 해 주는 시스템입니다.주어진 데이터 혹은 환경에서 스스로 학습할 수 있습니다.이 강의에서는 Meta Learner의 개발 배경과 기본 구조를 설명하고, 이러한 자동화를 구현하기 위한 핵심 알고리즘인 hyperparameter optimization (HPO)과 neural architecture search (NAS)에 대하여 살펴봅니다. 또한 실생활의 여러 분야에서 Meta Learner가 어떻게 사용될 수 있는지 알아 보고, 전문가가 개발한 모델과의 성능 비교를 통하여 그 우수성을 검증해 봅니다.
- SKT T3K Innovation 그룹 Vision AI Labs 조동연 리더님

 

# Deep learning 자동화 도구, Meta Learner

insufficient data, complicated modeling

데이터와 모델링 간의 상관관계 측면에서 많은 어려움 존재

어떤 모델을 쓰는 것이 적합한지 판단하는 것도 어려움

하이퍼 파라미터 조합 세팅이 제대로 되어야 학습도 제대로 됨

-> 결국엔 trial & error를 사람이 하지 않고 기계가 자동으로 해주는 meta learner가 필요

 

# Meta Learner Key Features

active learning for autodata

- leverage few labeled data

- algorithm can choose the data from which it queries and learns

- query strategies: margin, entropy, BALD, and more

- label a small amount of seed dataset manually with CVAT

autotrainer

- data processing

- search space adjustment

- learning methods

- pareto-optimal solutions

 

# Real-world Problems

- time-series prediction

- object detection

- machine vision

- video surveillance

 

# Benefits of meta learner

- performance improvements

- lightweight networks

- insights of networks working on target domains

 

# future direction

- extend application range and depth with developed new meta learner

- autodata and auto learner