귀하는 로그인되어 있지 않습니다. 이대로 편집하면 귀하의 IP 주소가 편집 기록에 남게 됩니다.스팸 방지 검사입니다. 이것을 입력하지 마세요!=== 기술적 혁신 === ==== 전이 학습의 성공적 적용 ==== GPT-1은 [[컴퓨터 비전]] 분야에서 성공했던 '''전이 학습(Transfer Learning)''' 개념을 [[자연어처리]]에 성공적으로 적용한 첫 번째 사례 중 하나다.<ref>[[ELMo]]도 있었지만, GPT-1이 더 일반화된 접근법을 제시했다.</ref> ==== 최소한의 작업별 구조 ==== 기존 모델들과 달리, GPT-1은 작업마다 별도의 네트워크 구조를 만들 필요가 없었다. 단지 '''입력 형식만 바꿔주면''' 다양한 작업을 수행할 수 있었다. ==== 스케일링의 가능성 제시 ==== 더 많은 데이터와 더 큰 모델로 성능을 향상시킬 수 있다는 '''스케일링 법칙'''의 가능성을 보여줬다.<ref>이후 [[GPT-2]], [[GPT-3]], [[GPT-4]]로 이어지는 발전의 토대가 되었다.</ref> 편집 요약 가온 위키에서의 모든 기여는 크리에이티브 커먼즈 저작자표시-동일조건변경허락 라이선스로 배포된다는 점을 유의해 주세요(자세한 내용에 대해서는 가온 위키:저작권 문서를 읽어주세요). 만약 여기에 동의하지 않는다면 문서를 저장하지 말아 주세요. 또한, 직접 작성했거나 퍼블릭 도메인과 같은 자유 문서에서 가져왔다는 것을 보증해야 합니다. 저작권이 있는 내용을 허가 없이 저장하지 마세요! 취소 편집 도움말 (새 창에서 열림)