| 일 | 월 | 화 | 수 | 목 | 금 | 토 |
|---|---|---|---|---|---|---|
| 1 | ||||||
| 2 | 3 | 4 | 5 | 6 | 7 | 8 |
| 9 | 10 | 11 | 12 | 13 | 14 | 15 |
| 16 | 17 | 18 | 19 | 20 | 21 | 22 |
| 23 | 24 | 25 | 26 | 27 | 28 |
Tags
- deep learning
- 딥러닝
- cv
- animation retargeting
- Diffusion
- Unreal Engine
- Generative Model
- 디퓨전모델
- userwidget
- Font Generation
- Stat110
- WBP
- GAN
- 생성모델
- UE5
- NLP
- Few-shot generation
- dl
- 폰트생성
- 모션매칭
- RNN
- 언리얼엔진
- BERT
- WinAPI
- ue5.4
- multimodal
- 오블완
- motion matching
- CNN
- ddpm
Archives
- Today
- Total
목록DeBERTa (1)
Deeper Learning
DeBERTa: Decoding-enhanced BERT with Disentangled Attention
Pengcheng He, Xiaodong Liu, Jianfeng Gao, Weizhu Chen, [Microsoft Research, Microsoft Dynamics 365 AI] (2020.06) Abstract 두 새로운 테크닉으로 BERT, RoBERTa를 향상한 새로운 모델 아키텍처 **DeBERTa(Decoding-enhanced BERT with disentangled attention)**을 제시 첫 번째 테크닉은 disentangled attention mechanism 각 단어는 content와 position을 각각 encode하는 2개의 벡터로 표현 단어끼리의 attention weight 또한 content, relative position 각각에 disentangled matr..
AI/Deep Learning
2022. 7. 2. 16:17