귀하는 로그인되어 있지 않습니다. 이대로 편집하면 귀하의 IP 주소가 편집 기록에 남게 됩니다.스팸 방지 검사입니다. 이것을 입력하지 마세요!=== 한계 === ==== 작은 모델 크기 ==== 1억 1700만 개의 파라미터는 현재 기준으로는 '''매우 작은''' 모델이다. ~~[[GPT-4]]한테는 새발의 피~~ ==== 제한된 컨텍스트 ==== 512 토큰의 컨텍스트 길이는 긴 문서를 처리하기에는 부족했다.<ref>현재는 수십만 토큰도 처리할 수 있다.</ref> ==== 단방향 어텐션 ==== [[BERT]]와 달리 단방향 어텐션만 사용해서, 양방향 문맥을 활용하지 못했다. ==== 미세 조정 필요 ==== 모든 작업에 대해 '''미세 조정'''이 필요했다. ~~지금처럼 "그냥 물어보면 알아서 해줘"가 아니었다~~ 편집 요약 가온 위키에서의 모든 기여는 크리에이티브 커먼즈 저작자표시-동일조건변경허락 라이선스로 배포된다는 점을 유의해 주세요(자세한 내용에 대해서는 가온 위키:저작권 문서를 읽어주세요). 만약 여기에 동의하지 않는다면 문서를 저장하지 말아 주세요. 또한, 직접 작성했거나 퍼블릭 도메인과 같은 자유 문서에서 가져왔다는 것을 보증해야 합니다. 저작권이 있는 내용을 허가 없이 저장하지 마세요! 취소 편집 도움말 (새 창에서 열림)