Transformers

Transformers, metin, bilgisayarlı görü, ses, video ve çok modlu modeller için hem çıkarım hem de eğitimde en ileri düzey makine öğrenimi modellerinin model tanımı çerçevesi olarak görev yapar.

Model tanımını merkezi hale getirir ve bu tanımın ekosistem genelinde üzerinde uzlaşılmış olmasını sağlar. transformers, çerçeveler arasındaki dönüm noktasıdır: bir model tanımı destekleniyorsa, eğitim çerçevelerinin (Axolotl, Unsloth, DeepSpeed, FSDP, PyTorch-Lightning, …), çıkarım motorlarının (vLLM, SGLang, TGI, …) ve transformers'ten model tanımını kullanan komşu modelleme kütüphanelerinin (llama.cpp, mlx, …) çoğuyla uyumlu olacaktır.

Yeni son teknoloji modelleri desteklemeye ve model tanımlarını basit, özelleştirilebilir ve verimli tutarak kullanımını demokratikleştirmeye söz veriyoruz.

Hugging Face Hub'da kullanabileceğiniz 1M+ model checkpoint bulunmaktadır.

Bugün Hub'u keşfederek bir model bulun ve hemen başlamanıza yardımcı olması için Transformers'ı kullanın.

Transformers'taki en son metin, görü, ses ve çok modlu model mimarilerini keşfetmek için Modeller Zaman Çizelgesi'ni inceleyin.

Özellikler

Transformers, en son önceden eğitilmiş modellerle çıkarım veya eğitim için ihtiyacınız olan her şeyi sunar. Başlıca özelliklerden bazıları şunlardır:

Pipeline: Metin üretimi, görüntü segmentasyonu, otomatik konuşma tanıma, belge soru-cevap gibi birçok makine öğrenme görevi için basit ve optimize edilmiş çıkarım sınıfı.
Trainer: PyTorch modelleri için eğitim ve dağıtık eğitimde karma hassasiyet, torch.compile ve FlashAttention gibi özellikleri destekleyen kapsamlı bir eğitimci.
generate: Büyük dil modelleri (LLM) ve görme-dil modelleri (VLM) ile hızlı metin üretimi; akış (streaming) ve çoklu çözümleme (decoding) stratejileri desteği içerir.

Tasarım

Transformers' tasarım ilkeleri hakkında daha fazla bilgi edinmek için Felsefemiz sayfasını okuyun.

Transformers, geliştiriciler ile makine öğrenimi mühendisleri ve araştırmacıları için tasarlanmıştır. Temel tasarım ilkeleri şunlardır:

Hızlı ve kullanımı kolay: Her model yalnızca üç ana sınıftan (yapılandırma, model ve ön işleyici) oluşturulur ve Pipeline veya Trainer ile hızlı bir şekilde çıkarım veya eğitim için kullanılabilir.
Önceden eğitilmiş modeller: Tamamen yeni bir model eğitmek yerine önceden eğitilmiş bir model kullanarak karbon ayak izinizi, hesaplama maliyetinizi ve sürenizi azaltın. Her önceden eğitilmiş model, orijinal modele mümkün olan en yakın şekilde yeniden üretilir ve son derece yüksek performans sunar.

Öğren

Transformers'a yeniyseniz veya transformer modelleri hakkında daha fazla bilgi edinmek istiyorsanız, LLM kursu ile başlamanızı öneririz. Bu kapsamlı kurs, transformer modellerinin çalışma prensiplerinin temellerinden çeşitli görevlerdeki pratik uygulamalara kadar her şeyi kapsamaktadır. Yüksek kaliteli veri setleri oluşturmaktan büyük dil modellerini ince ayar yapmaya ve akıl yürütme yeteneklerini uygulamaya kadar tam iş akışını öğreneceksiniz. Kurs, transformer modelleri hakkında sağlam bir temel bilgi birikimi oluşturmanızı sağlayacak hem teorik hem de uygulamalı egzersizler içermektedir.

Update on GitHub