Transformers

Transformers는 텍스트, 컴퓨터 비전, 오디오, 비디오 및 멀티모달 모델에 대한 최첨단 기계 학습 모델의 모델 정의 프레임워크로, 추론과 학습 모두에 사용됩니다.

모델 정의를 중앙화하여 생태계 전반에서 이 정의에 대한 합의가 이루어지도록 합니다. transformers는 프레임워크 간의 핵심 축입니다. 모델 정의가 지원되는 경우, transformers의 모델 정의를 활용하는 대부분의 학습 프레임워크(Axolotl, Unsloth, DeepSpeed, FSDP, PyTorch-Lightning, …), 추론 엔진(vLLM, SGLang, TGI, …), 인접 모델링 라이브러리(llama.cpp, mlx, …)와 호환됩니다.

최신 최첨단 모델의 개발을 지원하고, 모델 정의를 단순하고 사용자 정의 가능하며 효율적으로 만들어 그 활용을 대중화하는 것을 목표로 합니다.

Hugging Face Hub에는 사용할 수 있는 Transformers 모델 체크포인트가 100만 개 이상 있습니다.

오늘 Hub를 탐색하여 모델을 찾고 Transformers를 사용해 바로 시작해 보세요.

Transformers에서 최신 텍스트, 비전, 오디오 및 멀티모달 모델 아키텍처를 발견하려면 모델 타임라인을 탐색해 보세요.

기능

Transformers는 최첨단 사전 학습 모델을 활용한 추론 또는 학습에 필요한 모든 것을 제공합니다. 주요 기능 중 일부는 다음과 같습니다:

• Pipeline: 텍스트 생성, 이미지 분할, 자동 음성 인식, 문서 질의응답 등 다양한 기계 학습 작업을 위한 단순하고 최적화된 추론 클래스.
• Trainer: PyTorch 모델의 학습 및 분산 학습을 위해 혼합 정밀도, torch.compile, FlashAttention 등의 기능을 지원하는 포괄적인 트레이너입니다.
• generate: 스트리밍 및 다양한 디코딩 전략을 지원하는 대규모 언어 모델(LLM) 및 비전 언어 모델(VLM)을 활용한 빠른 텍스트 생성.

디자인

Transformers의 설계 원칙에 대해 자세히 알아보려면 Philosophy를 읽어보세요.

Transformers는 개발자 및 머신러닝 엔지니어와 연구자를 위해 설계되었습니다. 주요 설계 원칙은 다음과 같습니다:

1. 빠르고 사용하기 쉽습니다: 모든 모델은 세 가지 주요 클래스(설정, 모델, 전처리자)만으로 구현되어 있으며 Pipeline 또는 Trainer를 통해 추론이나 학습에 빠르게 사용할 수 있습니다.
2. Pretrained models: 완전히 새로운 모델을 학습시키는 대신 사전 학습된 모델을 사용하면 탄소 발자국, 계산 비용 및 시간을 줄일 수 있습니다. 각 사전 학습된 모델은 원래 모델에 가깝게 재현되며 최첨단 성능을 제공합니다.

학습

Transformers에 처음 접하시거나 transformer 모델에 대해 더 알고 싶으시다면 LLM course로 시작하는 것을 권장합니다. 이 종합적인 과정은 transformer 모델의 작동 원리라는 기본 개념부터 다양한 작업에 걸친 실용적인 적용까지 모든 내용을 다룹니다. 고품질 데이터셋 큐레이션부터 대규모 언어 모델의 fine-tuning 및 추론 기능 구현에 이르기까지 전체 워크플로우를 학습하게 됩니다. 학습하면서 transformer 모델에 대한 탄탄한 기초 지식을 쌓을 수 있도록 이론과 실습 연습이 모두 포함되어 있습니다.