Bir teknoloji haberi viral olduğunda, çoğu zaman onu bir "başlangıç" sanırız. Kumru da öyle oldu: pek çok kişi için Türkçe yapay zekânın miladı gibi göründü. Oysa Kumru bir başlangıç değil, uzun bir yolculuğun en görünür halkalarından biriydi.
Bu yazıda o yolculuğu baştan alıyoruz. Türkçe için model geliştirmek neden ayrı bir uğraş? İlk ciddi adımlar kimlerden geldi? Ve bugün elimizde tam olarak ne var? Amacımız bir model reklamı yapmak değil, sahayı olduğu gibi, güçlü ve zayıf yanlarıyla göstermek.
Neden "Türkçe model" ayrı bir mesele?
Küresel modeller (GPT, Gemini, Llama) Türkçeyi bir dereceye kadar biliyor. O hâlde neden ayrıca Türkçe modeller geliştiriyoruz? İki temel sebep var.
Birincisi: Dilin yapısı. Türkçe, eklerle uzayan (sondan eklemeli) bir dil. "Ev-ler-imiz-den" gibi tek bir kelime, başka dillerde bütün bir cümleye denk gelebilir. Çok dilli modeller Türkçe metni parçalara (token) bölerken israf eder: aynı cümleyi ifade etmek için daha çok token harcar, bu da daha yavaş ve pahalı yapay zeka demek.
İkincisi: Kanıtlanmış üstünlük. Türkçe NLP tarihinin en önemli derslerinden biri şu: bir dile özel eğitilmiş model, o dili "yan görev" olarak öğrenen dev çok dilli modeli çoğu anlama görevinde geçer. Yani ithal zekâ, yerli zekânın yerini her zaman tutmuyor.
Anahtar fikir: Türkçe model geliştirmek "milliyetçilik" değil, mühendisliktir. Dilin kendine has yapısı, ona özel çözümleri hem daha verimli hem de daha isabetli kılar.
Kısa bir tarih: 2020'den 2026'ya
Türkçe dil modellerinin hikâyesi tek bir sıçrama değil, üst üste binen dört dönem olarak okunabilir:
İki felsefe: uyarlamak mı, sıfırdan kurmak mı?
Bugünkü Türkçe modelleri anlamak için tek bir ayrımı bilmek yeter. Bir Türkçe model üretmenin iki yolu var ve sahadaki tüm modeller bu iki felsefeden birine düşüyor:
Uyarlama (fine-tuning)
Hazır bir küresel modeli (Llama, Qwen) alıp Türkçe veriyle ince ayar yapmak.
Artı: Hızlı, ucuz, güçlü bir temelden başlar.
Eksi: Temeldeki modele bağımlıdır; tam "yerli" sayılmaz.
Örnek: Cosmos (YTÜ), Trendyol-LLM
Sıfırdan eğitim (from scratch)
Modeli sıfırdan, ağırlıklı olarak Türkçe veriyle eğitmek.
Artı: Gerçekten yerli; dile en baştan uyarlı.
Eksi: Çok pahalı, çok veri ve hesap gücü ister.
Örnek: Kumru (VNGRS)
Neden önemli? Bu ayrım, "hangi model daha iyi?" sorusunun cevabının neden karmaşık olduğunu açıklıyor. Uyarlanmış bir 8B model, sıfırdan eğitilmiş bir modelden bazı işlerde daha iyi olabilir, çünkü arkasında devasa bir küresel modelin gücü var. Sıfırdan model ise bağımsızlık ve dile tam uyum sunar. İkisi farklı hedeflere hizmet eder.
Sahadaki modeller
Türkçe NLP'nin dönüm noktası. Anlama (understanding) odaklı, encoder tabanlı bir model. Wikipedia, OSCAR ve OPUS gibi kaynaklardan derlenen ~35 GB / 44 milyar token'lık bir veriyle eğitildi. Asıl önemi: bir dile özel eğitimin, çok dilli modelden aktarmaya kıyasla belirgin biçimde daha iyi olduğunu kanıtladı. Bugünkü her Türkçe modelin atası sayılır.
Türkçe için hem anlayan hem üreten (encoder-decoder) ilk birleşik model. UL2 çerçevesi ve "Mixture-of-Denoisers" hedefiyle, 43 milyar token'lık özenle derlenmiş bir korpus üzerinde eğitildi. Anlama görevlerinde tek dilli modellerle yarışıyor, çok dilli modellerin çoğunu geçiyor. Akademinin Türkçe modele güçlü bir katkısı.
Meta'nın Llama-3 8B modelinin ~30 GB Türkçe metinle uyarlanmış (fine-tune) hâli. Base, Instruct ve DPO gibi farklı sürümleri, ayrıca verimli çalışması için GGUF nicelenmiş versiyonları Hugging Face'te açık. "Uyarlama" felsefesinin Türkiye'deki güçlü akademik örneği.
Bir şirketin, kendi ihtiyacı için ürettiği Türkçe model. Son sürümü (8B) küresel bir temel model üzerine, büyük ölçekli Türkçe e-ticaret verisiyle kuruldu; "düşün / kısa yanıt" gibi modları ve geniş bağlam penceresi var. Türkçe modellerin sadece akademiden değil, sanayiden de geldiğinin göstergesi. Apache-2.0 lisansıyla ticari kullanıma açık.
Türkçe için sıfırdan eğitilen, öne çıkan ilk büyük örnek. 7.4 milyar parametreli, Llama-3 mimarisini temel alan ama ağırlıkları boştan başlayıp 500 GB Türkçe korpusla eğitilen bir model; ardından 1 milyon örnekle ince ayar yapıldı. Türkçe morfolojisine göre tasarlanmış tokenizer'ı sayesinde aynı cümle için daha az token harcıyor. 16 GB'lık mütevazı bir GPU'da çalışabiliyor. Daha hafif, açık kaynak Kumru-2B sürümü de var.
Kumru meselesi: neden hem önemli hem tartışmalı?
Kumru'yu özel kılan, en iyi model olması değil, felsefesi. Bir küresel modeli uyarlamak yerine, sıfırdan Türkçe için kurulmuş olması onu bir "bağımsızlık" sembolü hâline getirdi. Bu, teknik olduğu kadar duygusal bir kilometre taşı.
Ama Kumru viral olduğunda beraberinde bir tartışma da getirdi: bazı kullanıcılar modelin, dev küresel modeller (GPT gibi) kadar iyi olmadığını söyledi. Bu eleştiri bir bakıma haklı ama yanlış beklentiden doğuyor.
Adil bir bakış: Yüz milyonlarca dolarla, devasa hesap gücüyle eğitilen bir modelle; çok daha küçük kaynakla, sıfırdan, tek bir dil için eğitilen bir modeli aynı terazide tartmak adil değil. Kumru'yu "Türkiye'nin GPT'si" diye görmek yanlış çerçeve. Doğru çerçeve şu: sınırlı kaynakla, belirli işlerde verimli çalışan, yerli ve üzerine inşa edilebilir bir temel.
Bu tam da bu blogda döne döne vurguladığımız fikre bağlanıyor: her işin doğru aracı dev bir model değildir. Küçük, yerli, belirli bir işte iyi bir model; çoğu senaryoda hem daha ucuz hem daha pratiktir. Kumru'yu bu gözle okumak, ona hakkını vermenin de yolu.
Peki bu tablo bize ne söylüyor?
İki şey. Birincisi: Türkçe artık "modeli olmayan dil" değil. Elimizde anlama modelleri, üretim modelleri, uyarlanmış modeller ve sıfırdan modeller var, üstelik çoğu açık kaynak ve denemeye hazır.
İkincisi ve belki daha önemlisi: bu modeller dağınık. Farklı ekipler, farklı felsefeler, farklı ölçüler. "Hangisi benim işim için doğru?" sorusunun net bir cevabı yok. İşte lleaderboard tam da bu yüzden var: bu dağınık modelleri tek bir yerde, aynı ölçütlerle, karşılaştırılabilir biçimde görebilmek için. Yukarıdaki kartlar bir başlangıç; onları şeffaf bir tabloya dönüştürmek ise asıl iş.
Özet: Türkçe dil modelleri 2020'de anlamayla başladı, bugün sıfırdan üretime ulaştı. Yol açık, topluluk büyüyor. Sıradaki soru artık "modelimiz var mı?" değil, "hangi model, hangi iş için?"
Bir dilin kendi modellerine kavuşması, o dili konuşan topluluğun ortak eseridir. BERTurk'ten Kumru'ya uzanan bu hikâyenin bundan sonraki bölümlerini, belki de bu yazıyı okuyanlar yazacak.
Kaynaklar
- Kumru LLM — Melikşah Türker, VNGRS (Medium)
- vngrs-ai/Kumru-2B — Hugging Face
- Türkiye's new homegrown AI model 'Kumru' sparks viral debate — Türkiye Today
- TURNA: A Turkish Encoder-Decoder Language Model — ACL Anthology (2024)
- boun-tabi-LMG/TURNA — GitHub (Boğaziçi TABILAB)
- ytu-ce-cosmos/Turkish-Llama-8b-v0.1 — Hugging Face
- Trendyol/Trendyol-LLM-8B-T1 — Hugging Face
- BERTurk (turkish-bert) — GitHub (dbmdz / stefan-it)