Üretken yapay zekâ (ÜYZ) ve dil modelleri

Kavramlar, kapsam ve birbirine karıştırılan katmanlar

Üretici model, gözlenen örneklerin altında bulunduğu varsayılan dağılımı yaklaşık olarak öğrenir ve bu dağılımdan yeni örnekler oluşturur. Ayırt edici model ise çoğunlukla verilen girdinin sınıfını, değerini veya sırasını tahmin eder. Ayrım mutlak değildir; aynı sinir ağı farklı amaç işlevleriyle hem gösterim öğrenebilir hem içerik üretebilir. “Üretken” sözü, çıktının yaratıcı, doğru ya da telif bakımından sorunsuz olduğunu kendiliğinden bildirmez. Yalnız sistemin olası çıktılar uzayında yeni bir örnek kurduğunu anlatır. Üretim metin için sonraki birimi seçme, görüntü için gürültüyü kademeli giderme, ses için dalga biçimi ya da kod birimi kestirme gibi farklı mekanizmalarla gerçekleşebilir.

Dil modeli, bir sözcük veya alt sözcük dizisine olasılık atar. Büyük dil modeli nitelemesi kesin bir parametre eşiği değil, geniş veri ve hesaplama bütçesiyle eğitilmiş, çok sayıda görevde yeniden kullanılabilen modeller için yerleşmiş göreli bir addır. Temel model daha geniştir; farklı görevlere uyarlanabilen büyük ölçekli ön eğitimli modelleri kapsar. Sohbet modeli, temel dil modelinin yönerge ve diyalog verisiyle davranış bakımından uyarlanmış biçimidir. “Ajan” ise modelin çevreyi gözleyip araç çağırdığı, ara sonuçları değerlendirip birden çok adım yürüttüğü sistem düzenini belirtir. Model, uygulama ve ajan aynı teknik nesne değildir.

Güncel bir üretim hizmetinin görünen yanıtı birçok katmanın ortak sonucudur. Sistem yönergesi kabul edilen davranış sınırlarını, kullanıcı iletisi görevi, konuşma geçmişi yakın bağlamı, erişim bileşeni güncel belgeleri, araç katmanı dış işlemleri ve çözme ayarları olasılıklar arasındaki seçimi etkiler. Model sağlayıcısının güvenlik denetimleri ile uygulama geliştiricisinin kuralları da çıktıyı değiştirebilir. Bu katmanlardan biri yenilendiğinde model ağırlıkları aynı kalsa bile kullanıcı davranış değişikliği görebilir. Sağlıklı sürümleme, yalnız model adını değil bütün bu bileşenlerin yapılandırmasını kayda alır.

Teknik anlatıda “anlamak”, “bilmek”, “hatırlamak” ve “düşünmek” gibi insan merkezli fiiller ölçülebilir işleme karşılıkları belirtilmeden kullanılmamalıdır. Model, belirli bir bağlamda doğru çıkarım zinciri üretebilir fakat bunun nedeni kalıcı bir olgu kaydı, eğitim örneğine yakın bir örüntü, dış belgeden alınan bilgi ya da rastlantısal doğru üretim olabilir. Davranışsal başarı ile içsel mekanizma aynı kanıt değildir. Yeteneği değerlendirmek için görevin kapsamı, erişilebilen bilgi, örnekleme ayarı, tekrar sayısı, hata türü ve karşılaştırma çizgisi açıkça belirtilir.

İstatistiksel dil modelinden genel amaçlı üretim sistemine gelişim

Dil modellemenin erken ve kalıcı yaklaşımı, bir birimin olasılığını kendisinden önceki sınırlı sayıdaki birime göre hesaplayan n-gram modelleridir. Bu modeller sayım, yumuşatma ve geri çekilme teknikleriyle görünmeyen dizilere olasılık ayırır; açıklanabilir ve hızlıdır, fakat uzun uzaklıktaki bağımlılıkları sınırlı bir pencere içinde tutar. Sinirsel dil modelleri sözcükleri sürekli vektörlere taşıyarak yakın kullanımları ortak parametrelerde paylaşmaya başladı. Tekrarlayan sinir ağları ve LSTM gibi kapılı yapılar geçmiş durumu adım adım güncelledi, ancak uzun dizilerde eğitim sinyalinin taşınması ve işlemlerin sıralı yürütülmesi önemli darboğazlar oluşturdu.

Dikkat mekanizması, çıktı üretilirken kaynak dizinin farklı konumlarına değişen ağırlıklarla başvurmayı sağladı. Transformer mimarisi 2017'de tekrarlayan bağlantıyı zorunlu olmaktan çıkarıp öz dikkati ana dizi işleme mekanizması yaptı. Eğitim sırasında çok sayıda konumun paralel hesaplanabilmesi donanım verimini yükseltti; her konumun diğer konumlarla doğrudan ilişki kurabilmesi uzun mesafeli bağları daha kısa hesaplama yollarına taşıdı. Başlangıçtaki çeviri odaklı kodlayıcı-kod çözücü yapı, kısa sürede yalnız kodlayıcılı anlama modellerine ve yalnız kod çözücülü öz bağlanımlı üretim modellerine ayrıştı.

BERT çizgisi, iki yönlü bağlamdan maskelenmiş birimleri kestirerek genel dil gösterimleri edinmenin ve bunları sınıflandırma ya da soru yanıtlama gibi görevlere uyarlamanın etkisini gösterdi. GPT çizgisi ise sonraki birim kestirimini ölçeklendirerek aynı modelin görev açıklamasını ve birkaç örneği yalnız bağlam içinde izleyip yeni görevlere ağırlık güncellemeden yaklaşabildiğini görünür kıldı. Bu gelişme, görev başına ayrı model eğitme düzeninden tek bir ön eğitimli modelin çok sayıda uygulamada kullanıldığı düzene geçişi hızlandırdı. Başarım yalnız parametre sayısıyla değil veri çeşitliliği, eğitim süresi, optimizasyon ve değerlendirme kalitesiyle birlikte arttı.

Sonraki aşamada yönergeyle ince ayar, insan tercihleri, bilgi erişimi, araç çağrıları ve çok kipli gösterimler modelin çevresinde bütünleşti. Metin modeli görüntü veya ses kodlayıcılarından gelen gösterimleri bağlama alabilir; ayrı bir arama sistemi güncel belge getirebilir; bir yürütücü hesap makinesi, veri tabanı ya da programlama arayüzünü çağırabilir. Böylece gelişim yalnız daha büyük model çizgisi olmaktan çıktı. Yoğun modellerin yanında uzman karışımları, düşük bitli çıkarım, uzun bağlam yöntemleri ve seçici durum uzayı mimarileri hesaplama maliyeti ile yetenek arasında farklı dengeler kurmaya başladı.

Eğitim verisi, temizleme, yinelenme denetimi ve birimleme

Modelin gördüğü veri; web sayfaları, kitaplar, makaleler, yazılım kodu, konuşma dökümleri, görüntü açıklamaları ve izinli özel derlemler gibi farklı kaynaklardan gelebilir. Kaynakların yalnız hacmi değil dil, dönem, alan, tür, kalite, lisans ve kişisel veri özellikleri önemlidir. Ham tarama çıktısı menü, reklam, şablon, bozuk kodlama, OCR hatası ve yinelenen içerik taşıyabilir. Dil belirleme, belge sınırı çıkarma, kalite sınıflandırma, kişisel veri işleme, tam ve yaklaşık yinelenme ayıklama ile kaynak ağırlıklandırma ön eğitimin davranış tabanını değiştirir. Temizlik filtresi fazla katıysa azınlık kullanımları ve konuşma çeşitleri silinebilir; gevşekse gürültü ve spam baskınlaşabilir.

Yinelenme denetimi iki nedenle merkezîdir. Aynı belgenin çok sayıda kopyası eğitim dağılımını yapay biçimde ağırlıklandırır ve uzun dizilerin ezberlenme olasılığını artırır. Ayrıca değerlendirme sorularının veya yakın türevlerinin eğitim verisinde bulunması modelin genelleme gücünü olduğundan yüksek gösterebilir. Belge karması tam kopyaları, MinHash ve benzeri parmak izleri yaklaşık kopyaları, uzun ortak dizi taraması ise parçalı örtüşmeleri bulabilir. Eşik seçimi içerik türüne göre yapılır; aynı yasa metninin farklı sayfalarda bulunmasıyla iki özgün haberin ortak ajans cümlesi aynı editoryal sorun değildir.

Dil modeli doğrudan sözcüklerle değil, token adı verilen ayrık işlem birimleriyle çalışır. İngilizceden alınan bu teknik terim bir dil bilgisi sınıfını değil, modelin metni sayısal olarak işlerken kullandığı parçayı anlatır. Birimleyici metni model sözlüğünde sayısal kimliği bulunan parçalara böler: Bir token bazen “ev” gibi tam bir sözcük, bazen “evlerimizden” sözcüğünün bir bölümü, bazen noktalama işareti, sayı dizisi ya da boşlukla birleşmiş bir parça olabilir. Model teknik olarak sonraki sözcüğü değil, sonraki tokeni kestirir. Karakter düzeyi çok uzun diziler üretir, salt sözcük sözlüğü ise yeni ve çekimli biçimlerde sözlük dışı sorununa yol açar. Alt sözcük yöntemleri sık dizileri tek birim, seyrek biçimleri daha küçük parçalar hâlinde göstererek ara çözüm kurar. Bayt çiftli birleştirme sıklıkla birlikte görülen parçaları yinelemeli olarak birleştirir; unigram yaklaşımı olası bir alt sözcük sözlüğünden en uygun parçalanmayı seçer. SentencePiece ham cümlelerden dile bağımlı ön sözcük ayırma zorunluluğu olmadan model eğitebilir.

Türkçe eklemeli yapısı nedeniyle tek bir sözlükbirim çok sayıda yüzey biçimi üretir. Alt sözcük sözlüğü küçük veya eğitim verisinde Türkçe azsa sık kullanılan ekler ve gövdeler bile gereksiz sayıda parçaya ayrılabilir. Bu durum aynı metin için daha çok token, dolayısıyla daha kısa etkili bağlam ve daha yüksek çıkarım maliyeti demektir. Öte yandan parça sınırları dil bilimsel kök ve ek sınırlarıyla birebir örtüşmek zorunda değildir; token modeli istatistiksel sıkıştırma aracıdır, biçim bilimsel çözümleyici değildir. Türkçe değerlendirmede sözcük başına token oranı, şapkalı harfler, kesme işareti, özel adlar, birleşikler ve yazım çeşitleri ayrı ölçülmelidir.

Gömme vektörleri, ara gösterimler ve konum bilgisi

Her token, model boyutu kadar gerçek sayı içeren bir gömme vektörüyle başlar. Bu vektör sözlükte yazılmış sabit bir anlam değildir; eğitim boyunca farklı bağlamlarda yararlı kestirimler sağlayacak biçimde ayarlanır. Aynı tokenin giriş gömmesi sabit olsa da katmanlardan geçtikçe oluşan ara vektör çevresindeki birimlere göre değişir. Böylece “yüz” sözcüğünün sayı, organ veya yüzme eylemiyle ilgili kullanımları farklı bağlamsal durumlara ayrışabilir. Ayrışma kusursuz bir sözlük anlamı sınıflandırması değildir; model kaybını azaltmaya yarayan dağıtık bir kodlamadır.

Öz dikkat, sıra bilgisi ayrıca verilmezse aynı birim kümesinin farklı dizilişlerini ayırt edemez. İlk Transformer sinüs ve kosinüs dalgalarından kurulan sabit konum vektörlerini token gömmesine ekledi. Öğrenilen konum gömmeleri her sıra için ayrı parametre kullanabilir. Döner konum gömmesi, sorgu ve anahtar vektörlerinin ikili boyutlarını konuma bağlı açılarla döndürerek göreli uzaklık bilgisini iç çarpıma taşır. Konum yöntemi, modelin eğitimde görülenden daha uzun dizilere nasıl uzatılabileceğini etkiler; yalnız pencere sayısını büyütmek güvenilir uzun bağlam kullanımını garanti etmez.

Katman boyunca artık bağlantı, önceki gösterimi yeni dönüşümle toplar; katman normalleştirme sayısal ölçeği denetler. Dikkat alt katmanı konumlar arasında bilgi taşırken ileri beslemeli ağ her konumdaki vektörü doğrusal olmayan biçimde dönüştürür. Modern yapılarda GeLU veya kapılı doğrusal birimler, RMSNorm gibi normalleştirmeler ve normalleştirmenin alt katmandan önce yerleştirildiği düzenler kullanılabilir. “Bilgi şu nörondadır” biçimindeki tek konumlu yorum çoğu durumda yetersizdir; özellikler çok sayıda boyut ve katmana dağılabilir.

Ara gösterimler yalnız semantik benzerliği değil söz dizimi, başvuru ilişkisi, biçimsel uyum, biçem ve görev talimatı gibi birçok işareti üst üste taşıyabilir. Bir doğrusal yoklayıcının belirli bilgiyi okuyabilmesi, modelin yanıt üretirken o bilgiyi nedensel olarak kullandığını kanıtlamaz. Mekanizma incelemesi için müdahale, aktivasyon değiştirme, dikkat örüntüsü ve karşı olgusal girdiler birlikte değerlendirilebilir. Gösterimlerin insan kavramlarıyla kısmi hizalanması yararlıdır, fakat dağıtık sayısal durumların tamamını günlük dildeki anlam kategorilerine indirgemek bilimsel belirsizliği gizler.

Transformer katmanı ve öz dikkatin ayrıntılı işleyişi

Öz dikkat alt katmanı her konumdaki vektörden üç ayrı doğrusal dönüşüm üretir. Sorgu, o konumun hangi bilgiyi aradığını; anahtar, bir konumun hangi sorgularla eşleşebileceğini; değer ise eşleşme gerçekleştiğinde taşınacak içeriği temsil eden öğrenilmiş rollerdir. Sorgu ile bütün erişilebilir anahtarların ölçeklenmiş iç çarpımları alınır, softmax ile toplamı bir olan ağırlıklara dönüştürülür ve değer vektörleri bu ağırlıklarla toplanır. Dilsel başvuru, uzak yüklem-özne ilişkisi veya yönergedeki kısıt gibi bağlantılar ayrı dikkat başlarında farklı örüntüler oluşturabilir; her başın insan tarafından adlandırılabilir tek bir görevi olması gerekmez.

Öz bağlanımlı kod çözücü gelecekteki tokenleri görmemek için nedensel maske kullanır. i konumundaki sorgu yalnız i ve öncesindeki anahtarlara erişir; daha sonraki konumların skoruna eksi sonsuz eklenir ve softmax sonrası ağırlık sıfıra iner. Eğitimde bütün konumların sonraki birim kaybı paralel hesaplanabilir, çünkü doğru önceki tokenler girdide hazırdır. Çıkarımda ise yeni tokenin girdisi önceki adımın sonucuna bağlı olduğundan üretim temelde sıralıdır. Bu fark, eğitimde yüksek paralellik sağlarken kullanıcıya yanıt verirken token başına gecikmenin neden önem kazandığını açıklar.

Çok başlı dikkat, model boyutunu birkaç alt uzaya böler ve her baş için ayrı sorgu, anahtar, değer izdüşümleri öğrenir. Başların çıktıları birleştirilip yeniden izdüşürülür. Çoklu sorgu veya gruplanmış sorgu dikkatinde farklı sorgu başları anahtar ve değer başlarını paylaşarak çıkarımdaki KV önbelleğini küçültür. Bu paylaşım, temsil kapasitesi ile hizmet maliyeti arasında bir tasarım dengesidir. Dikkat başı sayısını artırmak tek başına daha çok anlam katmanı sağlamaz; toplam boyut, eğitim verisi, baş boyutu ve optimizasyon birlikte etkilidir.

Dikkatin T uzunluğundaki bütün konum çiftlerini değerlendirmesi hesaplama ve ara skorlar bakımından karesel ölçek doğurur. FlashAttention matematiksel sonucu yaklaşıklaştırmadan, matrisleri küçük karolara ayırıp softmax özetlerini çevrim içi güncelleyerek yüksek bant genişlikli bellek ile yonga içi hızlı bellek arasındaki veri hareketini azaltır. Böylece aynı dikkat işlemi daha az bellek trafiğiyle yürür. Yerel, seyrek veya doğrusal dikkat yöntemleri karmaşıklığı farklı biçimde düşürebilir, ancak erişilemeyen konumlar veya yaklaşık hesap nedeniyle kalite ve genellik koşulları ayrıca sınanmalıdır.

Ön eğitim amacı, kayıp işlevi ve dağıtık optimizasyon

Öz bağlanımlı dil modelinde eğitim dizisi soldan sağa ayrıştırılır. Model her konumda önceki gerçek tokenleri görür ve bir sonraki tokenin olasılık dağılımını kestirir. Doğru tokene verilen olasılığın negatif logaritması kayıptır; bütün tokenler ve mini yığınlar üzerinde ortalanır. Sık görülen bağlamları doğru kestirmek toplam kaybı daha çok etkileyebilir. Veri karışımındaki kaynak ağırlıkları, hangi tür hatanın optimizasyonda görünür olacağını belirler. Eğitim amacı gerçeklik, yararlılık veya güvenliği doğrudan ölçmez; yalnız veri dizilerindeki kestirim hatasını azaltır.

Geri yayılım kaybın her parametreye türevini hesaplar. AdamW gibi uyarlamalı iyileştiriciler gradyanın hareketli ortalamalarını kullanır; öğrenme oranı çoğunlukla ısınma döneminden sonra azaltılır. Karma hassasiyet, bazı işlemleri düşük bitli kayan nokta biçimlerinde yürütüp hassas birikimleri daha güvenli biçimde saklayarak donanım verimini yükseltir. Gradyan kırpma sayısal patlamayı sınırlar. Büyük eğitimde tek bir başarısız adım pahalı olduğundan kayıp sıçramaları, gradyan normu, veri yığını, donanım hatası ve denetim noktaları sürekli izlenir.

Model tek hızlandırıcıya sığmadığında veri paralelliği her aygıtta farklı örnekleri işler ve gradyanları birleştirir. Tensör paralelliği büyük matris işlemlerini, boru hattı paralelliği katmanları, dizi paralelliği ise uzun bağlamın parçalarını aygıtlar arasında dağıtır. Tam parçalanmış veri paralelliği parametre, gradyan ve iyileştirici durumlarını bölerek yinelenen belleği azaltır. Bu yöntemlerin hızını yalnız işlem gücü değil ağ bant genişliği, toplu iletişim düzeni, yığın büyüklüğü ve veri besleme hattı belirler. Hızlandırıcıların beklemesi, teorik FLOP değerinden daha büyük gerçek kayıp yaratabilir.

Ön eğitim çok sayıda dilsel ve kavramsal örüntüyü ortak parametrelere sıkıştırır, ancak bu sıkıştırma açık bir olgu veri tabanı değildir. Aynı olgu çelişkili kaynaklarda geçebilir, zamanla değişebilir veya seyrek kaldığı için zayıf öğrenilebilir. Model en olası devamı üretirken görünüşte tutarlı fakat kaynakta bulunmayan ayrıntı tamamlayabilir. Eğitim kaybının düşmesi kullanıcı görevlerinin tümünde aynı oranda iyileşme sağlamaz. Bu nedenle ara denetimler, görev kümeleri, veri kontaminasyonu incelemesi ve güvenlik değerlendirmesi ön eğitim boyunca ayrı kanıt kanallarıdır.

Ölçekleme yasaları, veri-model dengesi ve kapasite

Deneysel ölçekleme çalışmaları, dil modeli kaybının belirli aralıklarda parametre sayısı, eğitim tokeni ve hesaplama arttıkça kuvvet yasasına benzer biçimde azaldığını göstermiştir. Bu düzen bir doğa yasası veya sonsuz büyümenin garantisi değildir; ölçülen model ailesi, veri kalitesi ve hesap aralığına bağlı deneysel bir eğilimdir. Eğriler kapasite planlamasında, belirli bir kayıp hedefine ulaşmak için model ve verinin yaklaşık nasıl paylaştırılacağını öngörmeye yardım eder. Mimari değişim, daha iyi veri veya farklı görev ölçüsü katsayıları ve sınırları değiştirebilir.

Yalnız parametreyi büyütüp aynı veri üzerinde çok uzun eğitim yapmak veya büyük modeli yetersiz tokenle bırakmak hesap bütçesini verimsiz kullanabilir. Hesaplama bakımından en uygun eğitim araştırmaları, sabit bütçede model büyüklüğü ile eğitim tokeni arasında denge kurulması gerektiğini gösterdi. Bu sonuç “her model tam olarak aynı oranda büyütülmelidir” biçiminde evrensel reçete değildir. Veri kalitesi, tekrar sayısı, çok dillilik, bağlam uzunluğu, hedef kullanım ve çıkarım maliyeti nihai tasarımı etkiler. Daha küçük ama yeterince veriyle eğitilmiş model, daha büyük fakat eksik eğitilmiş modele üstün olabilir.

Parametre sayısı depolama ve matris çarpımı maliyetini yaklaşık gösterir, fakat etkin kapasiteyi tek başına açıklamaz. Yoğun model her tokende çoğu parametreyi kullanır. Uzman karışımı katmanı ise bir yönlendiriciyle az sayıda uzmanı etkinleştirerek toplam parametreyi büyütürken token başına hesabı daha sınırlı tutar. Bunun bedeli aygıtlar arası iletişim, yük dengesizliği, yönlendirme kararsızlığı ve uzman kapasitesi taşmalarıdır. Seyrek parametre sayısını yoğun model parametresiyle doğrudan karşılaştırmak bu nedenle yanıltıcı olabilir.

Büyük ölçek yalnız ortalama başarımı değil veri ve enerji maliyetini, deney tekrarını ve bağımsız doğrulama erişimini de etkiler. Eğitim hesabı, donanım türü, kullanım oranı ve elektrik kaynağı belirtilmeden tek bir çevresel sayı anlamlı değildir. Model seçimi en büyük kullanılabilir modeli seçmek yerine görev kalitesi, gecikme, bellek, işletme maliyeti, mahremiyet ve güncelleme gereksinimini birlikte ele almalıdır. Bir alan modelinin daha küçük olması, uygun veri ve ölçümle belirli görevde daha güvenilir olmasına engel değildir.

Bağlam nasıl yakalanır, taşınır ve neden kaybolabilir?

Kullanıcının iletisi önce tokenlere ayrılır; sistem yönergesi, konuşma geçmişi ve getirilen belgeler belirli bir sırayla aynı giriş dizisine yerleştirilir. Her katmanda nedensel öz dikkat, bir konumun erişebildiği önceki konumların değerlerini sorgu-anahtar uyumuna göre birleştirir. Son katmandaki vektör bir sonraki tokenin dağılımını üretir. Bağlam bu sırada model ağırlıklarına kalıcı olarak yazılmaz; o istek için hesaplanan etkinliklerde ve çıkarım sırasında saklanan anahtar-değer durumlarında taşınır. Yeni oturum geçmişi yeniden verilmezse model önceki konuşmayı kendiliğinden bilemez.

“Yakalamak” tek bir dikkat ağırlığının doğru cümleyi seçmesi değildir. Alt katmanlar yakın biçim ve söz dizimi işaretlerini, üst katmanlar görev ve söylem ilişkilerini birleştirebilir; artık akış önceki bilgiyi korurken yeni dönüşümler ekler. Bir ad veya kavramın hangi öncele bağlandığı, söz dizimsel rolü ve sorudaki işlevi çok sayıda başın ve katmanın ortak etkisiyle temsil edilebilir. Dikkat görselleştirmesi yararlı ipucu verse de yüksek ağırlık nedensel açıklama değildir. Değer vektörünün içeriği, sonraki katmanlar ve çıkış izdüşümü de sonucu belirler.

Bağlam penceresi modele tek istekte verilebilecek azami token sayısını sınırlar. Daha büyük pencere daha çok metnin sığmasını sağlar, fakat bütün ayrıntıların eşit güvenilirlikle kullanıldığı anlamına gelmez. Uzun bağlam deneyleri ilgili bilginin başta veya sonda olduğunda başarımın ortadakinden yüksek olabildiğini göstermiştir. Çok sayıda ilgisiz parça dikkat dağıtabilir, birbiriyle çelişen belgeler hangi kaynağın üstün olduğunu belirsiz bırakabilir ve yönerge metnin içinde kaybolabilir. Uzunluk ilanı bu nedenle erişim, çok adımlı birleştirme ve konum sağlamlığı testleriyle birlikte değerlendirilir.

Uygulama düzeyi bağlam yönetimi; konuşmayı özetleme, eski turları seçme, belgeyi anlamlı parçalara ayırma, sorguyla ilgili bölümleri getirme ve önemli yönergeleri sabit konumlarda koruma gibi işlemler kullanır. Özetleme yer kazandırırken ayrıntı ve belirsizlik kaybı yaratabilir. Kalıcı kullanıcı belleği modelin doğal özelliği değil, ayrı veri deposu ve erişim politikasıdır; hangi bilginin saklandığı, ne zaman getirildiği ve nasıl silindiği açıklanmalıdır. Mahrem bilgi bağlama girdiğinde model hizmetinin kayıt ve saklama politikaları da sistem tasarımının parçasıdır.

Tam ince ayar, düşük dereceli uyarlama ve nicemleme

Tam ince ayar bütün model parametrelerini yeni görev verisiyle günceller. Yeterli veri ve hesap varsa yüksek uyarlama kapasitesi sunar, ancak her görev için parametre, gradyan ve iyileştirici durumlarını saklamak pahalıdır. Küçük veya dar veriyle bütün ağırlıkları değiştirmek unutma, aşırı uyum ve genel yetenek kaybı doğurabilir. Katman seçerek dondurma, yalnız çıkış başını eğitme, yumuşak istem gömmeleri ve bağdaştırıcı katmanlar daha az parametreyle davranış değiştirir. Hangi yöntemin uygun olduğu yalnız eğitim belleğine değil hedef kalitesi, gecikme ve çok sayıda uyarlamayı sunma gereğine bağlıdır.

LoRA, ön eğitimli ağırlığı dondurur ve güncellemeyi düşük dereceli iki matrisin çarpımıyla temsil eder. Derece r, tam matris boyutlarından küçükse eğitilen parametre ve iyileştirici belleği ciddi ölçüde azalır. Uyarlama matrisleri hizmet sırasında ana ağırlığa birleştirilebilir veya isteğe göre ayrı tutulabilir. Düşük derece bütün görev güncellemelerinin gerçekten aynı küçük alt uzayda bulunduğunu garanti etmez; r, uygulanan katmanlar, ölçek, veri ve öğrenme oranı birlikte sınanır. Birden çok bağdaştırıcının aynı sunucuda yüklenmesi ayrıca bellek ve zamanlama sorunudur.

Nicemleme ağırlık ve bazen etkinlikleri daha az bitli sayılarla gösterir. Ölçek ve sıfır noktası bütün tensör, kanal veya grup için hesaplanabilir. Dört bitlik ağırlık depolama ve bellek bant genişliğini azaltır, fakat aykırı değerler ve duyarlı katmanlar kalite kaybı yaratabilir. Eğitim sonrası nicemleme hazır modeli kalibrasyon verisiyle dönüştürür; nicemleme farkında eğitim düşük hassasiyet etkisini öğrenme sırasında benzetir. QLoRA, dondurulmuş dört bitlik temel model üzerinden düşük dereceli bağdaştırıcılara gradyan geçirerek uyarlama belleğini düşürür.

Sıkıştırma başarısı yalnız dosya boyutuyla ölçülmez. Hedef donanımın düşük bitli çekirdeği, grup çözme maliyeti, KV önbelleği, yığın boyutu ve bağlam uzunluğu gerçek hızı belirler. Küçük isteklerde çekirdek başlatma gecikmesi, büyük yığınlarda bellek bant genişliği baskın olabilir. Kalite deneyi genel puanın yanı sıra sayı, kod, Türkçe biçim bilgisi, uzun bağlam ve güvenlik gibi duyarlı alt görevleri kapsar. Aynı nicemleme ayarı bütün model ailelerinde eşit sonuç vermez; dönüştürülen varlığın karması, ayarları ve değerlendirme kaydı sürümlenir.

Çıkarım sunumu, KV belleği, sürekli yığınlama ve hızlandırma

Kullanıcı hizmetinde iki gecikme ayrı ölçülür. İlk tokene kadar süre, bütün giriş bağlamının bir kerede işlendiği ön doldurma aşamasına bağlıdır; tokenler arası süre, kod çözme adımlarındaki küçük fakat tekrarlanan matris işlemlerine bağlıdır. Uzun belge ilk süreyi, uzun yanıt ikinci sürelerin toplamını büyütür. İş hacmi belirli zamanda tamamlanan token veya istek sayısıdır; tek kullanıcının en düşük gecikmesiyle aynı hedef değildir. Sunucu zamanlayıcısı hizmet düzeyi gereğine göre kısa ve uzun istekler, etkileşimli ve toplu işler arasında kaynak paylaştırır.

Sürekli yığınlama, bir istek bittiğinde bütün yığının tamamlanmasını beklemeden yeni isteği yürüyen gruba alır. Böylece değişken yanıt uzunluklarının yarattığı boş hesaplama azalır. KV önbelleği istek başına büyüyüp küçüldüğünden bitişik büyük alan ayırmak iç ve dış parçalanma yaratabilir. PagedAttention, önbelleği sabit boyutlu bloklar ve eşleme tablosuyla yöneterek fiziksel belleğin bitişik olma zorunluluğunu kaldırır; ortak istem önekleri veya paralel adaylar arasında blok paylaşımına olanak verir. Bu sistem fikri dikkat matematiğinden çok bellek yerleşimini iyileştirir.

Önek önbelleği aynı sistem yönergesi veya belge başlangıcı tekrarlandığında hesaplanmış KV bloklarını yeniden kullanabilir. Bunun için token dizisi, model sürümü, konum yöntemi ve ilgili yapılandırma birebir eşleşmelidir. Kullanıcılar arasında paylaşım mahremiyet ve yan kanal riskleri gözetilerek yapılır. Spekülatif çözme daha küçük taslak modelle birkaç aday token önerir; büyük hedef model bunları tek paralel geçişte doğrular. Kabul kuralı doğru uygulanırsa hedef dağılım değişmeden birden çok token ilerlenebilir. Hız kazancı taslak doğruluğu ve donanım dengesine bağlıdır.

Hizmet optimizasyonu kaliteyi gizlice değiştirmemelidir. Yaklaşık dikkat, agresif nicemleme, eksik örnekleme veya zaman aşımında kesilen bağlam ayrı ürün davranışlarıdır. Yük testi eşzamanlı kullanıcı, uzun ve kısa bağlam, akış kesintisi, araç çağrısı ve hata geri kazanımını kapsar. Kuyruk süresi, ilk token gecikmesi, token hızı, önbellek isabeti, bellek parçalanması ve reddedilen istekler birlikte izlenir. Model sunucusu aşırı yükte web arayüzünü veya güvenlik denetimini kilitlememeli; kaynak kotası, geri basınç ve öncelik sınıfları sistemin canlılığını korur.

Çok kipli modeller ve metin dışı üretim mekanizmaları

Çok kipli sistem metin, görüntü, ses veya videoyu ortak bir iş akışında işler. Görüntü kodlayıcı resmi yama gösterimlerine, ses kodlayıcı zaman-frekans ya da ayrık ses birimlerine dönüştürebilir. Bir izdüşüm veya çapraz dikkat bağlayıcısı bu gösterimleri dil modelinin boyutuna taşır. Model böylece görüntü hakkında soru yanıtlayabilir, açıklama üretebilir veya metin ve görüntünün iç içe geçtiği örneklerden bağlam içi görev çıkarabilir. Ortak uzay, kiplerin bütün ayrıntılarını eşitlediği anlamına gelmez; küçük yazı, uzamsal sayım, uzun video zamanı ve ses konuşmacısı ayrı zorluklardır.

Bazı sistemler görüntü veya sesi ayrık tokenlere dönüştürüp metinle aynı öz bağlanımlı dizide üretir. Bazıları dil modelini planlama ve koşullandırma için kullanıp ayrı görüntü veya ses üreticisine bağlar. Çapraz dikkat üretim durumunun metin açıklamasındaki ilgili gösterimlere erişmesini sağlar. Hangi bileşenin hangi veri üzerinde eğitildiği, sonucun kaynağını ve lisans durumunu etkiler. Metinsel yönergenin güvenliği görüntü içindeki yazıyı veya ses içindeki gizli talimatı kapsamayabilir; bütün kipler güvenilmeyen girdi olarak denetlenir.

Difüzyon modeli gerçek örneğe adım adım Gauss gürültüsü ekleyen bilinen ileri süreci ve bu bozulmayı tersine çevirmeyi öğrenen üretim sürecini kullanır. Eğitimde model, belirli gürültü düzeyindeki örneğe eklenen gürültüyü veya buna eşdeğer bir hedefi kestirir. Üretimde saf gürültüden başlanır ve çok sayıda giderme adımıyla örnek oluşturulur. Metin koşulu çapraz dikkat veya yönlendirme yoluyla denoiser'a verilebilir. Bu mekanizma dil modelinin sonraki token üretiminden farklıdır, ancak ikisi de öğrenilmiş koşullu dağılımdan örnek alma çerçevesinde birleşir.

Üretken yapay zekânın mevcut durumu bu nedenle yalnız büyük dil modeliyle açıklanamaz. Metin üretiminde Transformer kod çözücüler baskınken görüntü ve ses alanında difüzyon, öz bağlanımlı kodlayıcılar ve karma yaklaşımlar birlikte kullanılır. Çok kipli ajan, görsel algılayıp dilsel plan kurabilir ve dış aracı çağırabilir; hatalar katmanlar arasında çoğalabilir. Görüntüde yanlış okunan sayı, modelin akıcı ama yanlış hesabına dönüşebilir. Değerlendirme her kipte algı doğruluğunu, kipler arası bağlamayı, üretim kalitesini ve güvenliği ayrı ayrı ölçmelidir.

Uzun dizi için alternatifler, seçici durum uzayı ve karma yapılar

Öz dikkatin karesel maliyeti, uzun bağlam için alternatif dizi modellerini canlı tutar. Doğrusal dikkat yöntemleri softmax çekirdeğini ayrıştırarak bütün çift skorlarını açıkça oluşturmamaya çalışır. Evrişimli yapılar yerel ve çok ölçekli örüntüleri, tekrarlayan yapılar sıkıştırılmış durumu adım adım taşır. Durum uzayı modelleri sürekli dinamik sistemlerden türetilen geçişleri ayrık dizilere uygular ve uzun evrişim olarak paralel eğitilebilir. Önceki yöntemlerde içeriğe göre seçici hatırlama sınırlı kaldığında dil görevlerinde dikkat kadar esnek sonuç almak zorlaşmıştır.

Mamba yaklaşımı durum geçişi ve giriş katsayılarının token içeriğine bağlı olmasını sağlayarak hangi bilginin taşınacağı veya unutulacağı üzerinde seçicilik kurar. Hesap, dizi uzunluğunda doğrusal ölçeklenebilir ve çıkarımda sabit boyutlu durum taşıyabilir. Bununla birlikte her geçmiş konuma açıkça geri dönülen dikkat yapısından farklı bir bilgi erişim biçimidir. Belirli ayrıntıyı uzun süre sonra tam çağırma, durum kapasitesi ve eğitim dağılımına bağlıdır. Bir makaledeki hız ve kalite sonucu bütün donanım, model boyutu ve görevlerde evrensel üstünlük sayılmaz.

Karma mimariler bazı katmanlarda dikkat, bazılarında durum uzayı veya evrişim kullanarak açık erişim ile doğrusal taramayı birleştirebilir. Yerel dikkat yakın ilişkileri, seyrek küresel tokenler belge çapındaki bilgiyi taşıyabilir. Bellek tokenleri ya da özet durumlar eski parçaları sıkıştırabilir. Her sıkıştırma hangi ayrıntının kaybolacağını seçer. Mimari değerlendirmede yalnız şaşkınlık değil uzun bağlamda iğne bulma, çok adımlı birleştirme, gerçek görev, eğitim hızı, ilk token gecikmesi ve bellek ölçülmelidir.

2026 itibarıyla Transformer geniş yazılım ve donanım ekosistemi, ölçeklenmiş kanıtı ve çok kipli uyarlamaları nedeniyle baskın omurgadır; bu durum mimari araştırmanın sona erdiği anlamına gelmez. Alternatiflerin değeri yalnız daha düşük asimptotik karmaşıklık iddiasıyla değil aynı kalite ve aynı hizmet koşulundaki ölçümlerle anlaşılır. Uygulama geliştiricisi mimari adından önce doğrulanmış model davranışına bakmalıdır. Model ailesi değiştiğinde birimleyici, istem biçimi, KV veya durum yönetimi ve nicemleme çekirdeği de değişebilir; sistem testi baştan yürütülür.

Değerlendirme, mevcut durum ve geçici sıralamaların ötesi

Dil modeli değerlendirmesi tek bir toplam puana indirgenemez. Ön eğitim kaybı ve şaşkınlık dağılım kestirimini, soru yanıtlama olgusal erişimi, matematik ve kod görevleri doğrulanabilir problem çözmeyi, uzun bağlam testleri bilgi bulma ve birleştirmeyi ölçer. Yönerge izleme, çok dillilik, araç kullanımı, güvenlik ve insan tercihi ayrı veri kümeleri ister. Ortalama puan belirli dil veya alt gruptaki çöküşü gizleyebilir. Her sonuç örnek sayısı, güven aralığı, istem şablonu, çözme ayarı, model sürümü ve hata çözümlemesiyle birlikte yayımlanmalıdır.

Genel erişimli test kümeleri eğitim verisine karışabilir. Model soruyu ezberlediğinde yüksek puan yeni duruma genelleme kanıtı değildir. N-gram örtüşmesi, yaklaşık eşleşme, yayın tarihine göre kesme ve kapalı test kümeleri kontaminasyonu azaltabilir; kapalı veri de bağımsız denetim ve yeniden üretilebilirlik sorunları doğurur. Dinamik değerlendirme yeni sorular üretir, fakat soru üreticisinin yanlılığı ve ölçüm kararlılığı denetlenmelidir. C2LEVA gibi kontaminasyonsuz değerlendirme çalışmaları yenilenen ve korunan test düzenlerinin önemini gösterir. Tek liderlik tablosu gerçek kullanım sözleşmesi yerine geçmez.

İnsan değerlendirmesi yararlılık, açıklık ve ton gibi otomatik ölçülmesi güç boyutları kapsar. Kör ve rastgele sunum konum yanlılığını azaltır; değerlendirici yönergesi ve anlaşma oranı raporlanır. Dil modelinin başka modeli puanlaması ölçeği düşürür, fakat değerlendirici modelin biçem tercihi, kendine yakın yanıtı seçmesi ve zor olguları doğrulayamaması yeni yanlılıklar yaratır. Doğrulanabilir görevde yürütme veya kaynak kontrolü, açık uçlu görevde örneklenmiş uzman incelemesi birlikte kullanılabilir. Üretim izleme, çevrim dışı testin görmediği veri kaymasını ve kötüye kullanımı yakalar.

30 Temmuz 2026'daki mevcut tablo, daha uzun bağlam ve çok kipli girişlerin yaygınlaştığı; yoğun ve seyrek Transformerların, küçük alan modellerinin ve seçici durum uzayı araştırmalarının birlikte bulunduğu bir ekosistemdir. Model yeteneği kadar çıkarım yazılımı, nicemleme, erişim, araç güvenliği ve veri yönetişimi ürün kalitesini belirlemektedir. Bir modelin belirli tarihte önde olması hızla değişebilir; kalıcı teknik sonuç, hangi mimari ve ölçüm koşulunda hangi ödünleşimin görüldüğüdür. Bu madde ürün sıralaması vermek yerine güncellenebilir sistem katmanlarını ve denetlenebilir ölçütleri kaydeder.

Yanlış üretim, güvenlik, Türkçe ve GTS derlem bağlantısı

“Halüsinasyon” diye anılan yanlış üretim tek bir arızadan doğmaz. Ön eğitim verisinde bilgi olmayabilir, çelişkili olabilir veya model parametrelerinde zayıf temsil edilebilir. Soru yanlış öncül taşıyabilir; erişim sistemi yanlış belge getirebilir; çözme süreci düşük olasılıklı ayrıntı seçebilir; sonradan eğitim modelin belirsizlik bildirmek yerine yardımcı görünmesini ödüllendirebilir. Hata türleri olgusal çelişki, desteklenmeyen ek ayrıntı, uydurma kaynak, hesap yanlışı ve yönerge ihlali olarak ayrılmalıdır. Çözüm de kaynağa göre veri, erişim, araç, davranış veya arayüz katmanında uygulanır.

Üretken sistemlerin riskleri yanlış bilgiyle sınırlı değildir. Eğitim verisinin istenmeden ezberlenmesi kişisel veya lisanslı içeriği açığa çıkarabilir. İstem enjeksiyonu bağlı araçları kötüye kullanabilir; veri zehirleme, arka kapı veya tedarik zinciri saldırısı model davranışını değiştirebilir. Yapay içerik gerçek kaynağa benzetilebilir ve ölçekli kötüye kullanım sağlayabilir. NIST ÜYZ profili yönetişim, kaynak bütünlüğü, içerik kökeni, değerlendirme, olay yönetimi ve insan gözetimini yaşam döngüsü boyunca ele alır. Risk azaltımı yalnız model filtresine devredilemez.

Türkçe için veri miktarı kadar alan ve tür dengesi, yazım çeşitliliği, eklemeli biçim bilgisi ve değerlendirme kalitesi önemlidir. İngilizce ağırlıklı birimleyici Türkçe sözcükleri daha çok parçalayabilir; çeviri kokan yönerge verisi doğal sözdizimini bozabilir; yabancı testlerin doğrudan çevrilmesi kültürel ve dilsel güçlüğü korumaz. Sözcük anlamı, deyim, nezaket, özne düşürme, ad durumları, türetme ve uzun bağımlılıklar özgün Türkçe örneklerle sınanmalıdır. Şapkalı harf, kesme işareti ve noktalama normalizasyonu hem birimleme hem tam eşleşme sonucunu etkiler. Türkçe başarımı tek bir genel çok dilli puandan çıkarılamaz.

T-BDLD içinde “üretken yapay zekâ”, “dil modeli”, “büyük dil modeli”, “bağlam penceresi”, “bilgi erişimli üretim”, “ince ayar”, “istem”, “token” ve “çok kipli model” sorguları terimlerin akademik, haber, kitap ve genel dil metinlerindeki canlı kullanımını gösterir. Derlem, algoritmanın doğruluğunu tek başına kanıtlamaz; Türkçede hangi karşılıkların yerleştiğini, hangi bağlamların çoğaldığını ve terimlerin hangi sözcüklerle ilişki kurduğunu ölçer. Madde kaynaklarla doğrulanan teknik mekanizmayı özgün anlatımla korurken canlı derlem kartı yeni veri geldikçe kullanım izini günceller. Böylece değişen söylem ile sürümlü teknik açıklama birbirine karıştırılmadan ilişkilendirilir.

Bağlam içi öğrenme, istem tasarımı ve geçici görev kurulumu

Bağlam içi öğrenme, model ağırlıklarını güncellemeden görev açıklaması ve örneklerden o istek için davranış örüntüsü çıkarmadır. Sıfır örnekli kullanım yalnız yönergeyi, tek örnekli kullanım bir gösterimi, az örnekli kullanım birkaç girdi-çıktı eşini bağlama koyar. Model ön eğitimde benzer metin düzenleri ve görevleri gördüyse örneklerin biçimini, etiket uzayını ve dönüşümünü izleyebilir. Bu süreç klasik eğitim gibi kalıcı parametre değişimi değildir; bağlam sona erdiğinde edinilen görev düzeni de kaybolur. Örnek seçimi ve sırası, özellikle belirsiz görevlerde sonucu değiştirebilir.

İyi istem, rol oyunu süslemesinden önce görevi ve kabul ölçüsünü açıklar. Girdi sınırları, çıktı şeması, kullanılacak kaynak, bilinmeyen durumda davranış ve yasaklanan varsayımlar görünür olmalıdır. Uzun yönerge her zaman iyi değildir; çelişkili veya yinelenen kurallar önceliği belirsizleştirir. Yapılandırılmış ayraçlar kullanıcı verisini talimattan ayırır, ancak güvenlik sınırı oluşturmaz. Dış belgedeki “önceki talimatı yok say” benzeri metin modele aynı bağlamda sunulursa istem enjeksiyonu doğabilir. Güvenilmeyen içerik yetki sahibi yönerge olarak yorumlanmamalı, araç izinleri model metninden bağımsız uygulanmalıdır.

Ara akıl yürütme istemleri karmaşık görevi alt adımlara bölmeye yardım edebilir, fakat yazılan gerekçe modelin gerçek iç hesaplamasının tam kaydı değildir. Akıcı bir zincir yanlış öncülden tutarlı görünen sonuç çıkarabilir. Doğrulanabilir görevlerde ara sonuçlar hesap makinesi, kod yürütme, biçimsel çözücü veya kaynak aramasıyla denetlenir. Birden çok örnekleme ve öz tutarlılık, bağımsız hatalar varsa yararlı olabilir; aynı sistematik yanılgının tekrarı çoğunluk oyu ile doğrulanmış sayılmaz. Kullanıcıya gösterilecek açıklama, kanıt ile model gerekçesini ayırmalıdır.

İstem şablonu da yazılım bileşeni gibi sürümlenip test edilir. Örnek sorgu kümesi normal, uç ve kötü niyetli girdileri kapsar; yanıt şeması, görev başarısı, kaynak kullanımı, güvenlik ve gecikme ayrı ölçülür. Bir modelde iyi çalışan söz dizimi başka model veya sürümde aynı sonucu vermeyebilir. İstem değişikliği, eğitim verisi değişikliği kadar davranış etkisi yaratmasa da üretimde regresyon doğurabilir. Bu nedenle yalnız birkaç seçilmiş örneğe bakmak yerine otomatik ve insan değerlendirmesinin birlikte yürütüldüğü sürüm kapısı kullanılır.

Logitlerden metne çözme, sıcaklık ve örnekleme

Son Transformer katmanındaki gösterim sözlük boyutuna izdüşürülerek her olası token için logit üretir. Softmax bu sınırsız gerçek sayıları olasılıklara çevirir. Açgözlü çözme her adımda en yüksek olasılığı seçer; yerel olarak kararlı ve tekrarlanabilirdir, fakat erken bir seçim sonraki diziyi daraltabilir. Işın araması birkaç yüksek olasılıklı kısmi diziyi birlikte tutar ve çeviri gibi hedefi görece sınırlı görevlerde yararlı olabilir. Açık uçlu yazıda olasılığı sürekli en yükseğe çıkarmak tekdüze, yinelemeli veya doğal olmayan metin üretebilir.

Sıcaklık logitlerin farkını yeniden ölçekler. Birden küçük değer yüksek logitleri daha baskın yapar, büyük değer dağılımı düzleştirir. Sıcaklık sıfıra yaklaştığında seçim açgözlü çözüme yaklaşır; yüksek sıcaklık modele yeni bilgi eklemez, yalnız düşük olasılıklı seçeneklerin seçilme ihtimalini artırır. Aynı istemin farklı yanıtlar vermesi örnekleme rastlantısından, hizmet tarafındaki model veya bağlam değişikliğinden ve sayısal yürütme ayrıntılarından doğabilir. Tekrarlanabilir deney için model sürümü, tam istem, tohum ve bütün çözme parametreleri kaydedilir.

Üst-k örnekleme yalnız en yüksek olasılıklı k tokeni, çekirdek örnekleme ise toplam olasılığı belirli p eşiğine ulaşan en küçük aday kümesini açık tutar. Çekirdek kümesinin büyüklüğü her adımda dağılımın belirsizliğine göre değişir. Tekrar cezası, daha önce kullanılan tokenlerin logitlerini düşürebilir; yanlış ayar gerekli terim tekrarını da bozabilir. Durdurma dizileri ve azami uzunluk ürün sözleşmesidir, modelin anlam bakımından tamamladığını garanti etmez. Yapılandırılmış çıktı için dil bilgisi veya şema kısıtlı çözme geçersiz tokenleri aday kümesinden çıkarabilir.

Çözme kalitesi görevle birlikte değerlendirilir. Kod veya sayısal yanıt gibi doğrulanabilir görevlerde düşük rastlantı ve test yürütme tercih edilebilir. Beyin fırtınası gibi çeşitlilik isteyen görevde birden çok örnek ve yeniden sıralama yararlı olabilir. Olasılık değeri kalibrasyon değildir; modelin yüksek olasılıkla ürettiği cümle olgusal bakımdan yanlış olabilir. Kullanıcıya gösterilen güven, token olasılığından doğrudan türetilmemeli; kaynak doğrulama, görev deneyi ve gerekiyorsa ayrı belirsizlik modeli kullanılmalıdır.

Yönergeyle ince ayar, insan geri bildirimi ve tercih optimizasyonu

Ön eğitimli model internet ve diğer kaynaklardaki metin devamlarını taklit etmeyi öğrenir; kullanıcının sorusuna yararlı, güvenli ve doğrudan yanıt verme amacı bu kayıpta açıkça bulunmaz. Gözetimli yönerge ince ayarı, talimat ve nitelikli yanıt çiftleri üzerinde sonraki token kaybını sürdürerek davranış biçimini değiştirir. Veri yalnız doğru bilgiyi değil üslup, ret sınırı, belirsizlik bildirimi ve çıktı biçimini öğretir. Az ama dikkatle hazırlanmış örnekler çok sayıda düşük kaliteli örnekten daha etkili olabilir. İnce ayar yeni alan bilgisi ekleyebilir, fakat değişen olgular için güvenilir bir güncelleme veri tabanı değildir.

İnsan geri bildiriminden pekiştirmeli öğrenmede önce aynı isteme verilen yanıtlar değerlendiricilerce sıralanır. Tercih çiftlerinden bir ödül modeli öğrenilir; ardından politika modeli beklenen ödülü artırırken başlangıç modelinden aşırı uzaklaşmaması için KL cezasıyla iyileştirilir. Değerlendiricilerin yönergesi, kültürel varsayımları ve anlaşmazlıkları ödül sinyaline yansır. Tek bir skora indirgeme, yararlılık ile doğruluk veya güvenlik arasındaki çatışmayı gizleyebilir. Tercih veri kalitesi ve alt grup tutarlılığı bu nedenle ayrıca raporlanmalıdır.

Doğrudan tercih optimizasyonu, ayrı ödül modeli ve çevrim içi pekiştirmeli öğrenme döngüsü kurmadan tercih edilen yanıtın referans modele göre göreli olasılığını yükseltir. İşlemsel olarak daha basit ve kararlı olabilir, fakat veri kapsamının dışındaki davranışlara garanti vermez. İstenmeyen yanıtları bastırmak, modelin gerçekte daha doğru bir dünya modeli edindiği anlamına gelmeyebilir. Sonradan eğitim çoğunlukla hangi bilginin ne zaman ve nasıl söyleneceğini değiştirir; temel bilgi ve yeteneklerin önemli bölümü ön eğitimden gelir.

Güvenlik uyarlaması belirli içerikleri reddetme, daha güvenli alternatif sunma ve yüksek riskli görevde sınır bildirme örnekleri içerir. Aşırı reddetme zararsız istekleri, yetersiz reddetme tehlikeli kullanımı etkileyebilir. Kırmızı takım çalışmaları kasıtlı dolaylı istemleri, çok dilli kaçınmaları, araç izinlerini ve uzun konuşmada kural aşınmasını sınar. Sonradan eğitim tek savunma değildir; kimlik doğrulama, yetki, çıktı denetimi, oran sınırı, kayıt, insan onayı ve olay müdahalesi uygulama katmanında yürütülür.

Bilgi erişimli üretim, yeniden sıralama ve araç kullanımı

Bilgi erişimli üretim, modelin parametrelerine sıkışmış bilgiyle yetinmeyip sorgu anında dış belge deposundan parçalar getirmesini sağlar. Belge önce başlık, bölüm, paragraf veya anlamsal sınırlar gözetilerek parçalara ayrılır. Her parça sözcüksel dizine, vektör dizinine ya da her ikisine birden kaydedilir. Kullanıcı sorusu arama sorgusuna dönüştürülür; ilk aşama geniş aday kümesi bulur, yeniden sıralayıcı daha pahalı ama duyarlı bir modelle en ilgili parçaları seçer. Getirilen içerik kaynak kimliğiyle birlikte üretim bağlamına yerleştirilir.

Yoğun erişimde sorgu ve belge vektörlerinin kosinüs veya iç çarpım benzerliği kullanılır. Bu yöntem eş anlamlı ve kavramsal yakın ifadeleri bulabilir, ancak tam ad, sayı ve seyrek terimde sözcüksel arama daha güvenilir olabilir. BM25 benzeri sözcüksel skor ile vektör skorunu birleştiren hibrit erişim farklı hata türlerini dengeler. Parça çok küçükse kanıt bağlamı kopar, çok büyükse ilgisiz bilgi pencereyi doldurur. Üst-k erişimde k değeri arttıkça kapsama yükselebilir fakat gürültü, gecikme ve bağlam maliyeti de artar. Ayarlar gerçek soru ve kaynak kümeleri üzerinde ölçülür.

Erişim, doğruluğu kendiliğinden garanti etmez. Doğru belge dizinde olmayabilir, sorgu yanlış kurulabilir, yeniden sıralayıcı kanıtı geriye atabilir veya model getirilen parçaya aykırı bir cümle kurabilir. Kaynak gösterimi, modelin sonradan uydurduğu bağlantı değil üretimde kullanılan parça kimliğinden türetilmelidir. Her iddia için destek kapsamı, belgenin tarihi, yetkisi ve çelişen kaynak durumu denetlenir. Yanıt bulunamadığında sistem boşluğu açıkça bildirebilmelidir. Erişim değerlendirmesi ile yanıt değerlendirmesi ayrı yapılarak hatanın hangi aşamada doğduğu görülür.

Araç kullanımı aramadan daha geniştir; model hesap makinesi, kod yürütücü, takvim, veri tabanı veya iş uygulaması için yapılandırılmış çağrı önerebilir. Yürütücü şemayı doğrular, kullanıcının yetkisini denetler ve yüksek etkili işlemde onay isteyebilir. Araç sonucu tekrar bağlama eklenir, model bunu açıklamaya dönüştürür. Modelin çağrı üretmesi yetki değildir. Parametre beyaz listesi, ağ ve dosya yalıtımı, zaman aşımı, çıktı boyutu, günlük ve geri alma uygulama katmanında zorunlu tutulur. Güvenilmeyen araç çıktısı da istem enjeksiyonu taşıyabileceği için veri olarak işaretlenir.

Olasılık, istatistik ve bilgi kuramı: Dil modelinin matematiksel zemini

Dil modeli, sözcükleri anlam bakımından hazır etiketler olarak değil, gözlenmiş diziler üzerinde tanımlanan rassal değişkenlerin gerçekleşmeleri olarak işler. X bir girdi dizisini, Y üretilecek diziyi, θ öğrenilen parametreleri ve p_θ modelin kurduğu olasılık dağılımını göstersin. Olasılık uzayı hangi dizilerin mümkün sayıldığını, dağılım ise bu dizilere ne kadar kütle ayrıldığını belirtir. Sonraki token için verilen 0,8 değeri, cümlenin dış dünyada yüzde seksen doğru olduğunu söylemez; aynı bağlam ve model altında ilgili tokene ayrılan koşullu kütleyi söyler. Bu ayrım, dilsel öngörüyle olgusal doğruluğu birbirine karıştırmamak için temeldir. Model dağılımı verideki gerçek ama bilinmeyen dağılımın sonlu veri, seçilmiş mimari ve optimizasyon altında elde edilmiş yaklaşık temsilidir.

Ayrık bir sözcük dağarcığında her olası tokenin olasılığı sıfır ile bir arasında bulunur ve bütün olasılıklar bire toplamlanır. Sinir ağı doğrudan olasılık değil, logit denen sınırsız gerçek sayılar üretir; softmax bu sayıları normalleştirilmiş dağılıma çevirir. Logit farkları önemlidir, ortak bir sabit eklemek dağılımı değiştirmez. Çok büyük üstel değerlerin taşmasını önlemek için hesap en büyük logit çıkarılarak veya log-toplam-üstel işlemiyle yapılır. Bu sayısal ayrıntı kuramsal formülü değiştirmez fakat milyarlarca adım süren eğitimde sonlu duyarlıklı aritmetiğin kararlı kalmasını sağlar. Sıcaklık da logit ölçeğini değiştirerek dağılımı sivriltir ya da yayar; modele yeni bilgi eklemez.

Ortak olasılık, bir dizideki bütün tokenlerin birlikte gerçekleşme olasılığıdır. Zincir kuralı bu ortak olasılığı, her tokenin kendinden önceki tokenlere koşullu olasılıklarının çarpımına ayırır. Otoregresif dil modelinin matematiksel çıkış noktası budur. Denklem her zaman doğrudur; yaklaşık olan, tek tek koşullu dağılımların sinir ağıyla kestirilmesidir. Çarpım çok küçük sayılar doğurduğu için uygulama logaritmik uzayda çalışır ve çarpımlar toplama dönüşür. Eğitimde öğretmen zorlamasıyla gerçek geçmiş verilirken çıkarımda model kendi seçtiği geçmişin devamını üretir. Bu fark, başlangıçtaki küçük bir seçimin sonraki bütün koşulları değiştirebilmesini açıklar.

Koşullu olasılık ile Bayes kuralı, yeni kanıt geldikçe bir varsayıma ayrılan inancın nasıl güncelleneceğini gösterir. Önsel dağılım kanıt görülmeden önceki bilgiyi, olabilirlik belirli varsayım altında kanıtın beklenme derecesini, sonsal dağılım ise ikisinin kanıtla normalleştirilmiş birleşimini verir. Dil modelleri her çıkarımda açıkça Bayesçi güncelleme yürütmek zorunda değildir; buna rağmen belirsizlik, tanı, model karşılaştırma ve bilgi erişimi gibi katmanlarda Bayes gösterimi açıklayıcıdır. Önselin veriden bağımsız ve tarafsız olduğu varsayılmamalıdır. Mimari seçimi, eğitim kaynağı ve düzenlileştirme de hangi çözümlerin daha olası sayıldığını belirleyen örtük önseller oluşturur.

Beklenen değer, bir rassal değişkenin çok sayıda tekrar altındaki olasılık ağırlıklı ortalamasıdır; tek üretimin mutlaka alacağı değer değildir. Varyans değerlerin bu ortalama çevresindeki yayılımını, kovaryans iki değişkenin birlikte yönelme derecesini ölçer. Bir etkinliğin büyük varyansı, o boyutun tek başına anlamlı veya hatalı olduğu sonucunu vermez. Gömmeler ve dikkat başları çok boyutlu olduğundan kovaryans matrisi ortak değişimi daha uygun temsil eder. Ölçek normalleştirme, ağırlık başlatma ve iyileştirici ayarları bu momentlerin katmanlar boyunca taşmasını ya da sönmesini önlemeye çalışır. Örneklem ortalaması ve varyansı, gerçek dağılım momentlerinin kestirimidir; bağımlı metin parçalarında bağımsız örnek formülleri fazla iyimser belirsizlik verebilir.

Entropi bir dağılımın ortalama sürprizini, başka bir ifadeyle belirsizliğini ölçer. Tek bir seçeneğe bütün kütleyi veren dağılımın entropisi düşüktür; kütleyi çok sayıda seçeneğe eşit yayan dağılımın entropisi yüksektir. Çapraz entropi, veriyi üreten hedef dağılımdan gelen örnekleri model dağılımıyla kodlamanın ortalama maliyetini ölçer. Kullback-Leibler ayrışması, çapraz entropinin hedef entropisi ile modelin hedeften yönlü uzaklığının toplamı olduğunu gösterir. Hedef entropisi model parametrelerinden bağımsız olduğunda çapraz entropiyi küçültmek KL ıraksamasını da küçültür. KL simetrik değildir ve üçgen eşitsizliğini sağlamaz; bu nedenle sıradan geometrik uzaklık gibi yorumlanmamalıdır.

Olabilirlik, sabit gözlem verildiğinde parametrelerin bu veriyi ne ölçüde açıklayabildiğini gösteren işlevdir. En yüksek olabilirlik kestirimi gözlenen dizilere en büyük olasılığı veren parametreleri arar. Veri örneklerinin bağımsız ve aynı dağılımdan geldiği varsayımı log olabilirliği basit toplama dönüştürür, fakat gerçek web ve kitap derlemleri tam bağımsız değildir. Aynı metnin kopyaları, aynı olayın yeniden yazımları ve tek kaynağın aşırı temsili etkin örneklem büyüklüğünü düşürür. Yinelenme ayıklama yalnız depolama temizliği değildir; olabilirlik hesabında belirli dizilerin istemeden çok yüksek ağırlık almasını da sınırlar. En yüksek sonsal kestirim, olabilirliğe açık bir önsel ekleyerek aşırı büyüyen veya beklenmeyen parametreleri cezalandırabilir.

Karşılıklı bilgi iki değişkenden birini bilmenin diğeri hakkındaki belirsizliği ortalama ne kadar azalttığını ölçer. Bağlam tokeni ile sonraki token arasındaki karşılıklı bilgi sıfırsa, o bağlam parçası ortalamada kestirime katkı vermez; pozitif değer bağımlılık bulunduğunu gösterir. Bu ölçü nedensellik kurmaz ve seyrek olaylarda örneklem yanlılığına açıktır. Dilin uzun menzilli bağımlılıklarını yalnız bitişiklik sıklığıyla açıklamak yerine, uzak bağlamın belirsizlik azaltıcı katkısını incelemek için kullanılabilir. Uygulamada yüksek boyutlu dağılımlar bilinmediğinden karşılıklı bilgi alt sınırlar, sınıflandırıcılar veya ayrıklaştırılmış sayımlarla kestirilir; kullanılan kestiricinin yanlılığı sonuçla birlikte bildirilmelidir.

İstatistiksel öğrenme, optimizasyon, belirsizlik ve ölçüm güvenirliği

Eğitim verisindeki ortalama kayıp, gerçek kullanım dağılımındaki beklenen riskin örneklem kestirimidir. Ampirik riskin düşmesi yalnız gözlenmiş örneklerde başarının arttığını gösterir; genelleme için eğitimden bağımsız doğrulama ve test kümeleri gerekir. Aynı belge, yazar veya olay farklı bölümlere dağıtılırsa veri sızıntısı oluşur ve test sonucu yeni veriye aktarılabilirliği olduğundan yüksek gösterir. Dil modeli değerlendirmesinde rastgele satır bölmek yerine belge, kaynak, zaman veya konu düzeyinde kümeli ayırma daha gerçekçidir. Üretim sistemi zamanla değişen sorgularla karşılaştığından tek sabit test kümesi sürüm karşılaştırması için gerekli, sürekli izleme ise dağılım kaymasını görmek için tamamlayıcıdır.

Stokastik gradyan inişi, tam veri üzerindeki gradyanı her adımda hesaplamak pahalı olduğu için mini yığınlardan elde edilen stokastik kestirimlerle yürür. Yığın örneklemesi doğru yapıldığında bu kestirim tam gradyan için yaklaşık yansızdır, ancak yinelenen veya uzunluk bakımından kümelenmiş diziler varyansı ve ağırlığı değiştirir. Öğrenme oranı çok yüksek olursa parametreler iyi bölgenin üzerinden atlar, çok düşük olursa eğitim gereksiz uzar veya keskin olmayan bölgede kalır. Isınma, azalan oran, gradyan kırpma ve ağırlık çürümesi optimizasyon yolunu düzenler. Bunlar yalnız hız ayarı değildir; hangi yerel çözüme ulaşıldığını ve dolayısıyla son model davranışını değiştirebilir.

Geri yayılım, kaybın her parametreye türevini zincir kuralıyla hesaplar. Türev, parametredeki küçük değişimin kaybı ilk mertebede hangi yönde ve ne kadar değiştireceğini gösterir. Derin ağda Jacobian matrisleri ardışık çarpıldığı için tekil değerler sürekli büyürse gradyan patlar, küçülürse söner. Artık bağlantıları ve normalleştirme bu akışı kolaylaştırır. Karışık duyarlıklı eğitim, matris çarpımlarını düşük duyarlıkta hızlandırıp hassas bir ana ağırlık kopyası ve dinamik kayıp ölçeğiyle küçük gradyanları koruyabilir. Sonlu duyarlık nedeniyle aynı kuramsal işlem farklı paralel toplama sıralarında küçük sayısal farklar doğurabilir.

Adam, gradyanın üstel hareketli ortalaması ile karesinin hareketli ortalamasını tutarak her parametre için uyarlanan adım üretir. Başlangıçta momentler sıfırdan başladığı için yanlılık düzeltmesi uygulanır. Yöntem seyrek ve farklı ölçekli gradyanlarda hızlı ilerleyebilir, fakat iyi sonuç yalnız varsayılan katsayılardan çıkmaz; öğrenme oranı, yığın büyüklüğü, ağırlık çürümesi ve zamanlama birlikte ayarlanır. AdamW ağırlık çürümesini gradyan tabanlı düzenlileştirmeden ayırır. Eğitim kaybının düzgün azalması genellemenin veya güvenli davranışın kanıtı değildir; doğrulama eğrileri, görev ölçümleri ve veri kesitleri ayrıca izlenir.

Düzenlileştirme, sonlu eğitim verisini ezberleyen aşırı karmaşık çözümler yerine daha kararlı çözümleri teşvik eder. L2 cezası büyük ağırlıkları maliyete ekler, bırakma yöntemi eğitim sırasında bazı etkinlikleri rassal olarak sıfırlar, erken durdurma doğrulama başarısı bozulmadan eğitimi keser. Büyük modellerde veri miktarı ve görev çeşitliliği de güçlü düzenlileştirici etki yaratabilir. Klasik yanlılık-varyans ayrışması kare hata için yararlı bir açıklamadır: Çok katı model sistematik hata, veriye aşırı duyarlı model yüksek varyans üretir. Dil üretiminde kayıp ve açık uçlu çıktı yapısı daha karmaşık olsa da veri, kapasite ve genelleme arasındaki gerilim sürer.

Bir ölçümün tek sayı olarak verilmesi örnekleme belirsizliğini gizler. Ortalama görev başarısı, seçilmiş sonlu örnekler değiştiğinde değişir. Bağımsız ve benzer dağılımlı gözlemlerde standart hata örnek sayısının kare köküyle azalır; metinler yazar, belge ve konu içinde kümeliyse ham satır sayısı etkin örnek sayısını abartır. Güven aralığı, belirli tekrar düzeni altında kestiricinin değişkenliğini gösterir; parametrenin o aralıkta bulunma olasılığını her veri sonrası doğrudan söylemez. Küme önyüklemesi belge veya kullanıcı gibi bağımsızlık birimini birlikte yeniden örnekleyerek daha uygun aralık sağlayabilir.

Monte Carlo kestirimi, analitik toplamı hesaplanamayan bir dağılımdan örnekler çekerek beklentiyi örnek ortalamasıyla yaklaşıklar. Metin üretiminde farklı tohumlarla çoklu örnekleme; yanıt çeşitliliği, görev başarısı ve güvenlik olaylarının dağılımını gösterir. Örnekler bağımsız değilse veya yalnız başarılı çıktılar seçilirse kestirim yanlı olur. Nadir ama ağır sonuçlu hata için birkaç yüz örnekte hiç olay görülmemesi riskin sıfır olduğunu kanıtlamaz. Binom oranı aralıkları, önem örneklemesi veya hedefli olumsuz örnek üretimi gerekebilir. Üretim ayarları ölçüm protokolünün parçasıdır; sıcaklık ve üst-p değiştiğinde incelenen dağılım da değişir.

Kalibrasyon, modelin verdiği güven düzeyi ile aynı düzeyde gerçekleşen doğruluk oranının uyuşmasını inceler. Yüz örneğe yaklaşık 0,8 güven veren bir sistem uzun dönemde bunların yaklaşık sekseninde doğruysa o aralıkta kalibredir. Dil modelinin sonraki token olasılığı ile bütün yanıtın olgusal doğruluğu aynı olay değildir; yanıt düzeyi güven ayrıca tanımlanmalı ve gerçek etiketle sınanmalıdır. Brier puanı olasılıksal kestirimin kare hatasını, beklenen kalibrasyon hatası güven kutularındaki farkı özetler. ECE kutu seçimine duyarlıdır ve tek başına güvenilirlik kanıtı sayılmaz; güvenilirlik diyagramı ve uygun puanlama kurallarıyla birlikte sunulur.

Belirsizlik iki kaynaktan düşünülebilir. Veriye içkin belirsizlik aynı bağlamda gerçekten birden çok makul devam bulunmasından, bilgi belirsizliği ise modelin veri veya kapasite eksikliğinden doğar. Daha çok benzer veri ikinci türü azaltabilir, birinci türü ortadan kaldırmaz. Tek bir softmax dağılımı bu iki kaynağı güvenilir biçimde ayırmaz. Farklı eğitim tohumlarıyla model toplulukları, Bayesçi yaklaşıklar, dağılım dışı algılama ve semantik olarak gruplanmış çoklu üretimler ek bilgi sağlar. Modeller aynı veri ve mimariyi paylaşıyorsa hataları da bağımlı olabilir; topluluk üyelerinin sayısı bağımsız kanıt sayısı gibi yorumlanmamalıdır.

İki modelin puan farkı, istatistiksel ve uygulamalı önem birlikte değerlendirilmeden yorumlanmamalıdır. Aynı test örneklerinde iki sistem karşılaştırılıyorsa eşleştirilmiş farklar kullanılmalı, böylece örnek güçlüğünün ortak etkisi azaltılmalıdır. Güven aralığı sıfırı dışladığında sonuç seçilen hata modeli altında istatistiksel olarak ayırt edilebilir olabilir; fark yine de kullanıcı deneyiminde önemsiz kalabilir. Çok sayıda görev, dil ve alt grup denenip yalnız en iyi sonuç bildirilirse yanlış keşif olasılığı yükselir. Önceden belirlenmiş birincil ölçüt, çoklu karşılaştırma düzeltmesi, etki büyüklüğü ve bütün kesitlerin yayımlanması seçici raporlamayı sınırlar.

Bayesçi öngörü dağılımı tek bir en iyi parametreye dayanmak yerine parametre belirsizliği üzerinde ortalama alır. Kuramsal olarak eğitim verisi sonrası her θ değerinin sonsal ağırlığı yeni çıktı olasılığına katılır. Modern ağlarda bu integral tam hesaplanamadığı için varyasyonel yaklaşım, örnekleme, Laplace yaklaşımı veya topluluk gibi kestirimler kullanılır. Tek modelin düşük entropili yanıtı, parametre belirsizliğinin de düşük olduğunu göstermez. Özellikle dağılım dışı girdide model tüm üyeleri aynı yanlış kalıba yönelten veri eksikliği nedeniyle yüksek ve yanlış güven verebilir.

Dil modeli için sağlam değerlendirme, token kaybını insan ya da görev ölçümleriyle tamamlar. Şaşkınlık aynı veri, aynı birimleme ve aynı normalleştirme altında karşılaştırılabilir; farklı sözlükler token sayısını değiştirdiğinde ham değer yanıltır. Açık uçlu yanıtta tek referans bütün doğru anlatımları kapsamaz. Olgusal doğruluk, kaynak desteği, yönerge izleme, tutarlılık, güvenlik, gecikme ve maliyet ayrı ölçülür. Her ortalama kaynak, konu, uzunluk, dil ve zaman kesitleriyle ayrıştırılır. Üretim sistemi güncellendiğinde sürüm, istem, erişim dizini ve çözme ayarları kayıt altına alınarak farkın modelden mi yoksa çevresel katmandan mı geldiği belirlenir.