Transformers documentation

Trainer

You are viewing main version, which requires installation from source. If you'd like regular pip install, checkout the latest stable version (v5.23.0).
Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

Trainer

Trainer는 Transformers 모델에 대한 완전한 학습 및 평가 루프입니다. 시작하려면 모델과 데이터셋만 있으면 됩니다.

내부적으로 Trainer는 데이터셋을 텐서로 배치, 셔플, 패딩하는 작업을 처리합니다. 학습 루프는 포워드 패스를 실행하고 손실을 계산한 뒤, 그래디언트 역전파를 수행하여 가중치를 업데이트합니다. TrainingArguments를 통해 배치 크기, 학습 기간, 분산 전략, 컴파일 등 학습 실행의 모든 항목을 설정할 수 있습니다.

다음 단계

  • fine-tuning 튜토리얼로 시작하여 Trainer를 사용한 대규모 언어 모델 학습에 대한 소개를 확인해 보세요.
  • Subclassing Trainer methods 가이드에서 Trainer 메서드를 서브클래스로 만드는 예시를 확인하세요.
  • 커스텀 배치 조립을 위한 데이터 콜레이터를 만드는 방법을 배우려면 Data collators 가이드를 참조하세요.
  • 학습 이벤트에 연결하는 방법을 배우려면 Callbacks 가이드를 참조하세요.
Update on GitHub