Latest in AI

Öğren

Çıkarım

Çıkarım için sade dilli açıklama, ilgili katalog sayfalarıyla.

Tanım

Çıkarım (inference), eğitilmiş bir modeli çalıştırarak çıktı üretmektir — sohbet yanıtları, embedding'ler, görüntüler veya araç çağrıları.

Nasıl çalışır

Gecikme, maliyet, yığınlama, donanım ve nicemleme (quantization) hepsi çıkarım yığınındadır. Eğitim bir kez olur; çıkarım sürekli faturadır.