Notice
Recent Posts
Recent Comments
Link
일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | 5 | 6 | 7 |
8 | 9 | 10 | 11 | 12 | 13 | 14 |
15 | 16 | 17 | 18 | 19 | 20 | 21 |
22 | 23 | 24 | 25 | 26 | 27 | 28 |
29 | 30 |
Tags
- deeplearning
- 알렉스넷
- 논문구현
- 딥러닝
- 백준
- 클린코드
- 1916
- 디미터법칙
- 자바
- MachineLearning
- GPT
- 백준 1339 자바
- 백준 1339
- 짝지어제거하기
- Java
- 백준 1916 자바
- 머신러닝
- NLP
- cs231n
- 다익스트라
- 논문
- dijkstra
- 논문리뷰
- 1261
- 알고리즘
- 백준9095
- 1107번
- 관심사분리
- Alexnet
- 3745
Archives
- Today
- Total
목록자연어처리 (1)
산 넘어 산 개발일지

Abstract Natural language understanding은 두 문장간의 추론 문제, 두 문장의 의미적 동일성, QA, 문서 분류 등 다방면으로 구성된다. 그러나 unlabeled 된 텍스트 데이터는 많은 반면, labeled된 텍스트 데이터는 적기 때문에 모델 훈련에 어려움이 있다. 따라서 본 논문에서는 다양한 unlabeled 텍스트를 사용한 generative pre-training 인 language model을 제시하며, 이는 discriminative fine-tuning을 사용하여 각 특수한 작업에 사용될 수 있다. 이를 통해 완성한 모델은 기존 특수한 작업을 위해 만들어진 모델들보다 뛰어난 성능을 보였으며, 12개의 작업 중 9개의 작업에서 그 성능이 우수했다는 결과가 이를 증..
논문 리뷰/NLP
2022. 3. 6. 22:05