[국내특허]
[ 1차년도
]
사전 학습된 Transformer 언어 모델의 이종 언어 간 전이 학습
게재 : 특허청
등록일2020.12.31
조회 804
사전 학습된 트랜스포머 언어 모델의 이종 언어 간 전이 학습 방법이 개시된 다. 상기 이종 언어 간 전이 학습 방법은 사전 학습된 트랜스포머 언어 모델의 이 종 언어 간 전이 학습 방법은, 전이를 위한 파라미터 선택 단계, 적응 계층의 추가 를 통한 모델 구조 변형 단계, 전이 학습의 제1 단계, 및 전이 학습의 제2 단계를 포함한다.