| 일 | 월 | 화 | 수 | 목 | 금 | 토 |
|---|---|---|---|---|---|---|
| 1 | 2 | 3 | 4 | |||
| 5 | 6 | 7 | 8 | 9 | 10 | 11 |
| 12 | 13 | 14 | 15 | 16 | 17 | 18 |
| 19 | 20 | 21 | 22 | 23 | 24 | 25 |
| 26 | 27 | 28 | 29 | 30 |
Tags
- GAN
- cv
- deep learning
- 오블완
- dl
- RNN
- Font Generation
- Generative Model
- CNN
- Unreal Engine
- BERT
- 모션매칭
- 생성모델
- WBP
- userwidget
- ddpm
- NLP
- multimodal
- animation retargeting
- 언리얼엔진
- Stat110
- WinAPI
- 디퓨전모델
- Few-shot generation
- Diffusion
- UE5
- motion matching
- ue5.4
- 폰트생성
- 딥러닝
Archives
- Today
- Total
목록Semi-supervised learning (1)
Deeper Learning
Knowledge Distillation
Knowledge Distillation Knowledge distillation은 2014 NIPS 2014 workshop에서 Geoffrey Hinton, Oriol Vinyals, Jeff Dean이 발표한 논문 "Distilling the Knowledge in a Neural Network"에서 소개된 개념이다. Knowledge distillation은 Pre-trained 된 대용량의 Teacher Network의 정보를 비교적 작은 크기의 Student Network로 전이시키는 것이다. Teacher-Student Network Student 모델은 Teacher Model을 더 적은 parameter를 가지고 모방하도록 학습된다. unlabeled data만을 사용하여 student ..
AI/Deep Learning
2021. 3. 11. 12:13