B\u00fcy\u00fck Dil Modelleri (LLM’ler) hayat\u0131m\u0131z\u0131n vazge\u00e7ilmez bir par\u00e7as\u0131 haline gelirken, bu g\u00fc\u00e7l\u00fc ara\u00e7lar\u0131 kullanman\u0131n maliyeti de her ge\u00e7en g\u00fcn daha fazla g\u00fcndeme geliyor. \u00d6zellikle token bazl\u0131 \u00fccretlendirme modelleri, uzun veya karma\u015f\u0131k prompt’lar olu\u015ftururken b\u00fct\u00e7eleri zorlayabiliyor. Peki ya karma\u015f\u0131k bilgileri metin yerine g\u00f6rsellerle sunarak token tasarrufu sa\u011flamak m\u00fcmk\u00fcn olsayd\u0131? Bu makalede, g\u00f6rsel i\u00e7eriklerin LLM’lerle nas\u0131l etkile\u015fime girdi\u011fini, potansiyel tasarruf yollar\u0131n\u0131 ve bu yakla\u015f\u0131m\u0131n avantajlar\u0131 ile zorluklar\u0131n\u0131 detayl\u0131 bir \u015fekilde inceleyece\u011fiz.<\/p>\n
B\u00fcy\u00fck Dil Modelleri, metinleri i\u015flerken “token” ad\u0131 verilen k\u00fc\u00e7\u00fck par\u00e7alara b\u00f6ler. Bu tokenlar, kelimelerden, kelime par\u00e7ac\u0131klar\u0131ndan veya \u00f6zel karakterlerden olu\u015fabilir. \u00d6rne\u011fin, “tokenizasyon” kelimesi “token”, “iza”, “sy”, “on” gibi farkl\u0131 tokenlara ayr\u0131labilir. LLM’lerin \u00e7al\u0131\u015fma prensibi, bu tokenlar aras\u0131ndaki ili\u015fkileri anlamak ve bir sonraki token\u0131 tahmin etmektir. \u0130\u015fte bu tokenlar, LLM sa\u011flay\u0131c\u0131lar\u0131 taraf\u0131ndan belirlenen maliyetlendirme modellerinin temelini olu\u015fturur.<\/p>\n
Model sa\u011flay\u0131c\u0131lar\u0131 genellikle hem girdi (prompt) hem de \u00e7\u0131kt\u0131 (cevap) tokenlar\u0131 i\u00e7in ayr\u0131 ayr\u0131 \u00fccretlendirme yapar. Prompt’unuz ne kadar uzunsa, o kadar \u00e7ok token kullan\u0131rs\u0131n\u0131z ve dolay\u0131s\u0131yla maliyetiniz artar. Benzer \u015fekilde, modelin \u00fcretti\u011fi cevap ne kadar uzun olursa, \u00e7\u0131k\u0131\u015f token maliyeti de o denli y\u00fckselir. Bu durum, \u00f6zellikle y\u00fcksek hacimli uygulamalarda veya uzun metinlerin \u00f6zetlenmesi, analiz edilmesi gibi g\u00f6revlerde \u00f6nemli maliyet farklar\u0131 yaratabilir.<\/p>\n
Uzun metinlerin LLM’lere do\u011frudan sunulmas\u0131n\u0131n birka\u00e7 dezavantaj\u0131 bulunmaktad\u0131r. \u0130lk olarak, bahsetti\u011fimiz gibi maliyeti art\u0131r\u0131r. \u0130kinci olarak, her LLM’in belirli bir “ba\u011flam penceresi” (context window) limiti vard\u0131r. Bu limit, modelin ayn\u0131 anda i\u015fleyebilece\u011fi token say\u0131s\u0131n\u0131 belirler. \u00c7ok uzun metinler, ba\u011flam penceresini doldurabilir ve modelin \u00f6nceki k\u0131s\u0131mlar\u0131 “unutmas\u0131na” veya daha az dikkate almas\u0131na neden olabilir. Bu da, modelin cevap kalitesini d\u00fc\u015f\u00fcrebilir. Son olarak, insan zihni gibi, LLM’ler de \u00e7ok uzun ve karma\u015f\u0131k metinleri i\u015flerken bazen “hallucination” (hal\u00fcsinasyon) yapma veya kritik detaylar\u0131 atlama e\u011filiminde olabilir. \u0130\u015fte bu noktada, g\u00f6rsellerin devreye girme potansiyeli ortaya \u00e7\u0131karak, hem maliyetleri optimize etme hem de bilginin daha verimli aktar\u0131lmas\u0131n\u0131 sa\u011flama konusunda umut vadediyor.<\/p>\n
Geleneksel LLM’ler sadece metin verilerini i\u015fleyebilirken, g\u00fcn\u00fcm\u00fczdeki geli\u015fmeler “multimodal LLM” ad\u0131 verilen, metnin yan\u0131 s\u0131ra g\u00f6rselleri, sesleri ve di\u011fer veri t\u00fcrlerini de anlayabilen modellere kap\u0131 aralad\u0131. GPT-4V (Vision), Gemini Pro Vision gibi modeller, bu yeteneklerin en bilinen \u00f6rnekleridir. Bu modeller, sadece metin okumakla kalmaz, ayn\u0131 zamanda bir g\u00f6rseldeki nesneleri tan\u0131yabilir, grafikleri yorumlayabilir, kullan\u0131c\u0131 aray\u00fczlerini analiz edebilir ve hatta iki g\u00f6rsel aras\u0131ndaki farklar\u0131 bulabilir.<\/p>\n
Multimodal LLM’ler i\u00e7in g\u00f6rsel veri, \u00f6zel bir \u00f6n i\u015flemden ge\u00e7irilerek modele sunulur. Bu i\u015flem genellikle g\u00f6rsellerin “embedding” ad\u0131 verilen say\u0131sal vekt\u00f6rlere d\u00f6n\u00fc\u015ft\u00fcr\u00fclmesiyle ger\u00e7ekle\u015fir. Bu vekt\u00f6rler, g\u00f6rselin anlamsal i\u00e7eri\u011fini \u00f6zetler ve modelin metin embedding’leri ile birlikte i\u015flenebilecek bir formata d\u00f6n\u00fc\u015ft\u00fcr\u00fcl\u00fcr. G\u00f6rsellerin en b\u00fcy\u00fck avantajlar\u0131ndan biri, bir bak\u0131\u015fta binlerce kelimeyle ifade edilebilecek karma\u015f\u0131k bilgileri yo\u011fun bir \u015fekilde aktarabilmesidir. Bir finansal raporun y\u0131llar i\u00e7indeki gelir grafi\u011fi, bir sistem mimarisinin ak\u0131\u015f \u015femas\u0131 veya bir \u00fcr\u00fcn\u00fcn kullan\u0131m k\u0131lavuzundaki ad\u0131m ad\u0131m g\u00f6rseller; bunlar\u0131n her biri, sadece birka\u00e7 karede geni\u015f bir bilgi yelpazesi sunar. Metinle bu kadar detay\u0131 anlatmaya \u00e7al\u0131\u015fmak hem \u00e7ok uzun s\u00fcrebilir hem de modelin ba\u011flam penceresini h\u0131zla t\u00fcketebilir.<\/p>\n
Multimodal LLM’ler, g\u00f6rselleri do\u011frudan ‘metin token\u0131’ olarak i\u015flememekle birlikte, g\u00f6rsellerin i\u015flenmesi de bir maliyete tabidir. Bu maliyet, genellikle g\u00f6rselin \u00e7\u00f6z\u00fcn\u00fcrl\u00fc\u011f\u00fcne ve modelin onu i\u015fleme bi\u00e7imine g\u00f6re de\u011fi\u015fir. \u00d6rne\u011fin, GPT-4V modelinde, g\u00f6rseller “patch” ad\u0131 verilen k\u00fc\u00e7\u00fck karelere b\u00f6l\u00fcnerek i\u015flenir. Y\u00fcksek \u00e7\u00f6z\u00fcn\u00fcrl\u00fckl\u00fc veya detayl\u0131 g\u00f6rseller, daha fazla patch gerektirir ve dolay\u0131s\u0131yla daha pahal\u0131ya mal olur. Her bir patch’in i\u015flenmesi belirli bir token maliyetine e\u015fde\u011fer tutulabilir.<\/p>\n
\u00d6zellikle OpenAI’nin GPT-4V modeli i\u00e7in konu\u015facak olursak, g\u00f6rsellerin maliyeti \u015fu \u015fekilde hesaplanmaktad\u0131r:<\/p>\n
Her iki modda da, model \u00f6nce g\u00f6rselin tamam\u0131n\u0131 analiz etmek i\u00e7in belirli bir say\u0131da ‘temel patch’ kullan\u0131r ve ard\u0131ndan y\u00fcksek \u00e7\u00f6z\u00fcn\u00fcrl\u00fckl\u00fc modda ek patch’ler eklenir. Bir g\u00f6rselin token e\u015fde\u011feri, modelin dahili olarak bu patch’leri nas\u0131l sayd\u0131\u011f\u0131na ve her bir patch i\u00e7in belirlenen birim fiyata ba\u011fl\u0131d\u0131r. \u00d6nemli olan nokta, bir g\u00f6rselin sundu\u011fu bilgi yo\u011funlu\u011funu metinle ifade etmeye \u00e7al\u0131\u015ft\u0131\u011f\u0131n\u0131zda harcayaca\u011f\u0131n\u0131z token say\u0131s\u0131na k\u0131yasla, g\u00f6rselin i\u015fleme maliyetinin \u00e7ok daha d\u00fc\u015f\u00fck olabilece\u011fidir. Yani, bazen bir grafik veya \u015fema, y\u00fczlerce kelimelik bir a\u00e7\u0131klamadan daha az maliyetle (token e\u015fde\u011feri olarak) daha fazla ve daha do\u011fru bilgi iletebilir.<\/p>\n
G\u00f6rsellerin LLM’lerle entegrasyonu, \u00f6zellikle karma\u015f\u0131k veya yo\u011fun bilgi i\u00e7eren senaryolarda \u00f6nemli token tasarrufu sa\u011flayabilir. \u0130\u015fte baz\u0131 ger\u00e7ek d\u00fcnya senaryolar\u0131n\u0131 temel alan vaka analizleri:<\/p>\n
Bir i\u015f analisti oldu\u011funuzu ve ayl\u0131k sat\u0131\u015f performans\u0131n\u0131 \u00f6zetleyen bir dashboard’unuz oldu\u011funu d\u00fc\u015f\u00fcn\u00fcn. Bu dashboard, birden fazla grafik (\u00e7ubuk grafikler, \u00e7izgi grafikler, pasta dilimleri), anahtar performans g\u00f6stergeleri (KPI’lar) ve tablo verileri i\u00e7eriyor. Normalde, bu dashboard’daki t\u00fcm bilgileri metinle \u00f6zetlemek istedi\u011finizde, y\u00fczlerce hatta binlerce token harcaman\u0131z gerekebilir. Her bir grafi\u011fin neyi g\u00f6sterdi\u011fini, e\u011filimleri, en y\u00fcksek ve en d\u00fc\u015f\u00fck de\u011ferleri, farkl\u0131 metrikler aras\u0131ndaki ili\u015fkileri tek tek a\u00e7\u0131klamak uzun ve maliyetli bir s\u00fcre\u00e7tir.<\/p>\n
Oysa multimodal bir LLM kullanarak, dashboard’un ekran g\u00f6r\u00fcnt\u00fcs\u00fcn\u00fc do\u011frudan modele y\u00fckleyip “Bu dashboard’daki sat\u0131\u015f e\u011filimlerini \u00f6zetle, en ba\u015far\u0131l\u0131 ve en ba\u015far\u0131s\u0131z \u00fcr\u00fcnleri belirle ve gelecek ay i\u00e7in \u00fc\u00e7 \u00f6nemli \u00f6neride bulun” gibi k\u0131sa bir prompt ile \u00e7ok daha h\u0131zl\u0131 ve etkili bir \u015fekilde analiz alabilirsiniz. LLM, g\u00f6rseldeki grafikleri, say\u0131lar\u0131 ve metinleri alg\u0131layarak size derli toplu bir \u00f6zet sunacakt\u0131r. Bu senaryoda, g\u00f6rselin LLM’e maliyeti, ayn\u0131 bilgiyi metinle aktarman\u0131n token maliyetinden \u00e7ok daha d\u00fc\u015f\u00fck olacakt\u0131r. \u00d6zellikle tekrarlayan raporlama s\u00fcre\u00e7lerinde bu yakla\u015f\u0131m, hem zamandan hem de maliyetten ciddi tasarruf anlam\u0131na gelir.<\/p>\n
Bir yaz\u0131l\u0131m geli\u015ftirme ekibinde \u00e7al\u0131\u015ft\u0131\u011f\u0131n\u0131z\u0131 ve yeni bir uygulama \u00fczerinde hata tespiti yapt\u0131\u011f\u0131n\u0131z\u0131 hayal edin. Bir hata buldunuz ve bu hatay\u0131 ekibe raporlaman\u0131z gerekiyor. Normalde, hatay\u0131 ad\u0131m ad\u0131m metinle a\u00e7\u0131klars\u0131n\u0131z: “Giri\u015f ekran\u0131nda, e-posta alan\u0131na ge\u00e7erli bir e-posta adresi girdi\u011fimde, \u015fifre alan\u0131 k\u0131rm\u0131z\u0131 \u00e7er\u00e7eveyle vurgulan\u0131yor ve ‘Ge\u00e7ersiz \u015fifre’ uyar\u0131s\u0131 \u00e7\u0131k\u0131yor. Ancak ben \u015fifre alan\u0131na hen\u00fcz hi\u00e7bir \u015fey girmedim.” Bu a\u00e7\u0131klama, hata ekran\u0131n\u0131n g\u00f6r\u00fcnt\u00fcs\u00fcn\u00fc ve olu\u015fan durumu anlatmak i\u00e7in bile en az 50-100 token harcayabilir.<\/p>\n
Multimodal bir LLM ile ise, hata an\u0131ndaki ekran g\u00f6r\u00fcnt\u00fcs\u00fcn\u00fc al\u0131p do\u011frudan modele y\u00fckleyerek “Bu ekran g\u00f6r\u00fcnt\u00fcs\u00fcndeki hata nedir? Nas\u0131l tekrarlanabilir ve olas\u0131 bir d\u00fczeltme \u00f6nerin var m\u0131?” diye sorabilirsiniz. LLM, g\u00f6rseldeki kullan\u0131c\u0131 aray\u00fcz\u00fc elemanlar\u0131n\u0131, hata mesajlar\u0131n\u0131 ve genel d\u00fczeni alg\u0131layarak hatay\u0131 te\u015fhis edebilir, hatta size olas\u0131 kod d\u00fczeltmeleri \u00f6nerebilir. Bu, hem hata raporlama s\u00fcrecini h\u0131zland\u0131r\u0131r hem de hatan\u0131n g\u00f6rsel kan\u0131t\u0131n\u0131 do\u011frudan sunarak yanl\u0131\u015f anla\u015f\u0131lmalar\u0131 engeller. Metinsel token maliyeti, bir ekran g\u00f6r\u00fcnt\u00fcs\u00fcn\u00fcn i\u015fleme maliyetine k\u0131yasla kat kat fazla olabilir ve bu da b\u00fcy\u00fck \u00f6l\u00e7ekli yaz\u0131l\u0131m projelerinde \u00f6nemli bir optimizasyon sa\u011flar.<\/p>\n
Yeni bir geli\u015ftiricinin ekibinize kat\u0131ld\u0131\u011f\u0131n\u0131 ve mevcut bir mikroservis mimarisini anlamas\u0131 gerekti\u011fini varsayal\u0131m. Bu mimari, birden fazla servis, veritaban\u0131, API ge\u00e7idi ve mesaj kuyru\u011fu i\u00e7eriyor. Bu sistemi metinle a\u00e7\u0131klamak, her bir bile\u015fenin i\u015flevini, di\u011ferleriyle etkile\u015fimini, veri ak\u0131\u015f\u0131n\u0131 ve ba\u011f\u0131ml\u0131l\u0131klar\u0131n\u0131 detayl\u0131 bir \u015fekilde anlatmak anlam\u0131na gelir. Bu, y\u00fczlerce veya binlerce kelimelik bir belge gerektirebilir ve modelin ba\u011flam penceresini a\u015fabilir.<\/p>\n
Alternatif olarak, sistemin mevcut mimari diyagram\u0131n\u0131 veya bir ak\u0131\u015f \u015femas\u0131n\u0131 multimodal LLM’e y\u00fckleyip “Bu mimari diyagram\u0131 yeni bir geli\u015ftiriciye \u00f6zetle. En kritik servisleri ve veri ak\u0131\u015f\u0131n\u0131 vurgula. Sistemdeki potansiyel performans darbo\u011fazlar\u0131n\u0131 belirle” \u015feklinde bir prompt verebilirsiniz. LLM, diyagramdaki bile\u015fenleri (kutular, oklar, etiketler) yorumlayarak size sistemin genel bir \u00f6zetini, ana i\u015flevselli\u011fini ve hatta olas\u0131 iyile\u015ftirme alanlar\u0131n\u0131 sunabilir. Bu, hem e\u011fitim s\u00fcrecini h\u0131zland\u0131r\u0131r hem de metinle ifade etmeye k\u0131yasla \u00e7ok daha az token maliyetiyle daha zengin ve g\u00f6rsel olarak desteklenmi\u015f bir a\u00e7\u0131klama sunar. Karma\u015f\u0131k teknik dok\u00fcmantasyonun \u00f6zetlenmesi veya anla\u015f\u0131lmas\u0131 gereken durumlarda g\u00f6rseller, adeta bir anahtar g\u00f6revi g\u00f6r\u00fcr.<\/p>\n
Bu vaka analizleri, g\u00f6rsellerin LLM’lere bilgi aktar\u0131m\u0131nda ne kadar g\u00fc\u00e7l\u00fc ve maliyet etkin bir ara\u00e7 olabilece\u011fini a\u00e7\u0131k\u00e7a g\u00f6stermektedir. Do\u011fru strateji ve model se\u00e7imiyle, \u00f6nemli token tasarruflar\u0131 elde etmek ve LLM’lerden daha verimli yan\u0131tlar almak m\u00fcmk\u00fcnd\u00fcr.<\/p>\n
LLM’lerle g\u00f6rsel kullan\u0131m\u0131n\u0131n bir\u00e7ok avantaj\u0131 olsa da, beraberinde getirdi\u011fi baz\u0131 zorluklar da bulunmaktad\u0131r. Dengeli bir yakla\u015f\u0131m benimsemek i\u00e7in her iki taraf\u0131 da anlamak \u00f6nemlidir.<\/p>\n
Bu avantaj ve zorluklar\u0131 g\u00f6z \u00f6n\u00fcnde bulundurarak, g\u00f6rsellerin LLM prompt’lar\u0131nda kullan\u0131m\u0131 i\u00e7in ak\u0131ll\u0131ca stratejiler geli\u015ftirmek, projelerinizin ba\u015far\u0131s\u0131 i\u00e7in kritik \u00f6neme sahiptir.<\/p>\n
G\u00f6rsel i\u00e7erikleri LLM prompt’lar\u0131n\u0131za entegre etmek, do\u011fru stratejilerle \u00e7ok daha verimli hale getirilebilir. \u0130\u015fte ad\u0131m ad\u0131m yakla\u015f\u0131m ve \u00f6nemli ipu\u00e7lar\u0131:<\/p>\n
LLM’lere g\u00f6nderece\u011finiz g\u00f6rsellerin kalitesi ve boyutu, hem modelin performans\u0131n\u0131 hem de maliyeti do\u011frudan etkiler. Bu nedenle g\u00f6rselleri dikkatlice haz\u0131rlamak \u00f6nemlidir:<\/p>\n
Mobil uyumlu uygulamalarda veya web sitelerinde g\u00f6rselleri kullan\u0131rken, farkl\u0131 ekran boyutlar\u0131na uygun olarak responsive tasar\u0131mlar yapman\u0131z \u00f6nemlidir. \u0130\u015fte CSS media query’leri ile basit bir \u00f6rnek:<\/p>\n