Öğren
Transformer
Transformer için sade dilli açıklama, ilgili katalog sayfalarıyla.
Tanım
Transformer, çoğu modern dil ve çok kipli modelin arkasındaki sinir mimarisidir. Bir dizideki token'ları ilişkilendirmek için attention kullanır.
Nasıl çalışır
Her token diğerlerine dikkat eder ve yığılmış katmanlarda bağlamsal temsiller oluşturur. Varyantlar derinlik, genişlik ve attention tasarımını maliyet ve kalite için takas eder.