B\u00fcy\u00fck dil modellerinin g\u00fcncel bilgi eksikli\u011fi ve hal\u00fcsinasyon sorunlar\u0131na RAG sistemleriyle veda edin! Kendi Retrieval-Augmented Generation sisteminizi ad\u0131m ad\u0131m kurarak bilginin g\u00fcc\u00fcn\u00fc ke\u015ffedin ve yapay zeka uygulamalar\u0131n\u0131z\u0131n do\u011frulu\u011funu art\u0131r\u0131n. Bu makale, RAG’\u0131n temel prensiplerinden ba\u015flayarak, kendi sisteminizi nas\u0131l olu\u015fturaca\u011f\u0131n\u0131z\u0131, performans\u0131n\u0131 nas\u0131l optimize edece\u011finizi ve ger\u00e7ek d\u00fcnyada nas\u0131l kullanabilece\u011finizi kapsaml\u0131 bir \u015fekilde ele alacakt\u0131r.<\/p>\n
Son y\u0131llarda B\u00fcy\u00fck Dil Modelleri (LLM’ler), do\u011fal dil i\u015fleme alan\u0131nda inan\u0131lmaz bir devrim yaratt\u0131. Sohbet botlar\u0131ndan i\u00e7erik \u00fcretimine, kod yaz\u0131m\u0131ndan \u00f6zetlemeye kadar pek \u00e7ok alanda hayat\u0131m\u0131z\u0131 kolayla\u015ft\u0131ran bu modeller, ne yaz\u0131k ki baz\u0131 temel k\u0131s\u0131tlamalara sahip. En bilinen sorunlardan biri, modellerin e\u011fitildikleri veri setinin g\u00fcncelli\u011fiyle s\u0131n\u0131rl\u0131 olmalar\u0131d\u0131r. Yani, en son \u00e7\u0131kan haberler, \u00fcr\u00fcn bilgileri veya \u015firket i\u00e7i dok\u00fcmanlar hakk\u0131nda bilgi sahibi olmayabilirler. Ayr\u0131ca, bazen “hal\u00fcsinasyon” olarak adland\u0131r\u0131lan, asl\u0131nda do\u011fru olmayan ama kendinden emin bir \u015fekilde sunulan yanl\u0131\u015f bilgiler \u00fcretme e\u011filimleri de bulunmaktad\u0131r.<\/p>\n
\u0130\u015fte tam bu noktada, Retrieval-Augmented Generation (RAG) sistemleri devreye giriyor ve bu k\u0131s\u0131tlamalar\u0131 a\u015fmak i\u00e7in g\u00fc\u00e7l\u00fc bir \u00e7\u00f6z\u00fcm sunuyor. RAG, bir dil modelinin kendi i\u00e7 bilgisine ek olarak, d\u0131\u015f kaynaklardan (\u00f6rne\u011fin, belgeleriniz, web sayfalar\u0131, veritabanlar\u0131) ilgili bilgileri \u00e7ekip kullanarak daha do\u011fru, g\u00fcncel ve ba\u011flamla zenginle\u015ftirilmi\u015f cevaplar \u00fcretmesini sa\u011flayan bir mimaridir. Bu sayede, LLM’ler art\u0131k sadece ezberledikleriyle de\u011fil, anl\u0131k olarak ara\u015ft\u0131rma yaparak cevap verebilen ak\u0131ll\u0131 asistanlara d\u00f6n\u00fc\u015f\u00fcrler. T\u0131pk\u0131 bir \u00f6\u011frencinin sadece ders kitaplar\u0131ndan \u00f6\u011frenmek yerine, bir ara\u015ft\u0131rma makalesi yazarken k\u00fct\u00fcphane kaynaklar\u0131n\u0131 kullanmas\u0131 gibi d\u00fc\u015f\u00fcnebilirsiniz. Bu yakla\u015f\u0131m, sadece do\u011frulu\u011fu art\u0131rmakla kalmaz, ayn\u0131 zamanda \u00fcretilen bilginin nereden geldi\u011fini de takip edilebilir k\u0131lar, bu da \u015feffafl\u0131k a\u00e7\u0131s\u0131ndan kritik bir \u00f6neme sahiptir.<\/p>\n
Bu makalede, RAG sistemlerinin kalbindeki mekanizmalar\u0131 ke\u015ffedecek, kendi ilk RAG sisteminizi ad\u0131m ad\u0131m nas\u0131l kuraca\u011f\u0131n\u0131z\u0131 \u00f6\u011frenecek ve bu teknolojiyi ger\u00e7ek d\u00fcnya senaryolar\u0131nda nas\u0131l verimli bir \u015fekilde kullanabilece\u011finizi g\u00f6receksiniz. Haz\u0131rsan\u0131z, yapay zeka uygulamalar\u0131n\u0131z\u0131 bir sonraki seviyeye ta\u015f\u0131yacak bu heyecan verici yolculu\u011fa ba\u015flayal\u0131m!<\/p>\n
RAG, ad\u0131ndan da anla\u015f\u0131laca\u011f\u0131 gibi, “Retrieval” (geri getirme\/\u00e7ekme) ve “Augmented Generation” (zenginle\u015ftirilmi\u015f \u00fcretim) kelimelerinin birle\u015fimiyle olu\u015fur. Temel fikir, bir B\u00fcy\u00fck Dil Modeli’ne (LLM) bir soru sordu\u011funuzda, modelin do\u011frudan kendi i\u00e7 bilgisine g\u00fcvenmek yerine, \u00f6ncelikle ilgili harici bilgi kaynaklar\u0131ndan (kendi belgeleriniz, bir web sitesi, bir veritaban\u0131 vb.) en uygun bilgileri \u00e7ekmesi ve ard\u0131ndan bu \u00e7ekilen bilgilerle zenginle\u015ftirilmi\u015f bir cevap \u00fcretmesidir. Bu s\u00fcre\u00e7 iki ana a\u015famada ger\u00e7ekle\u015fir: Bilgi \u00c7ekme (Retrieval) ve Cevap \u00dcretme (Generation).<\/p>\n
Peki, RAG sistemleri neden bu kadar \u00f6nemli hale geldi? Bunun birka\u00e7 temel nedeni var:<\/p>\n
Sonu\u00e7 olarak, RAG sistemleri, LLM’lerin sadece genel birer bilgi ansiklopedisi olmaktan \u00e7\u0131k\u0131p, dinamik, g\u00fcncel ve ba\u011flama duyarl\u0131 bilgi i\u015flem platformlar\u0131na d\u00f6n\u00fc\u015fmesini sa\u011fl\u0131yor. Bu sayede, yapay zeka destekli uygulamalar\u0131m\u0131z \u00e7ok daha ak\u0131ll\u0131, g\u00fcvenilir ve i\u015flevsel hale geliyor.<\/p>\n
Bir RAG sistemi, belirli i\u015flevleri yerine getiren bir dizi bile\u015fenin entegrasyonuyla \u00e7al\u0131\u015f\u0131r. Bu bile\u015fenleri anlamak, kendi sisteminizi kurarken veya mevcut bir sistemi optimize ederken kritik \u00f6neme sahiptir. \u0130\u015fte RAG mimarisinin temel katmanlar\u0131:<\/p>\n
Her RAG sisteminin ilk ad\u0131m\u0131, d\u0131\u015f bilgi kaynaklar\u0131n\u0131z\u0131 modele sunulabilir bir formata getirmektir. Bu, PDF belgeleri, web sayfalar\u0131, veritabanlar\u0131, metin dosyalar\u0131 veya hatta e-postalar olabilir. Veri y\u00fcklendikten sonra, en kritik ad\u0131mlardan biri b\u00f6l\u00fcmleme (chunking)<\/strong> i\u015flemidir. LLM’lerin genellikle girdi olarak alabilece\u011fi belirli bir “ba\u011flam penceresi” (context window) s\u0131n\u0131r\u0131 vard\u0131r. E\u011fer bir belge \u00e7ok uzunsa, oldu\u011fu gibi modele g\u00f6nderilemez. B\u00f6l\u00fcmleme, bu uzun belgeleri daha k\u00fc\u00e7\u00fck, y\u00f6netilebilir ve anlaml\u0131 par\u00e7alara ay\u0131rmay\u0131 i\u00e7erir. \u00d6rne\u011fin, 1000 kelimelik bir belgeyi, her biri 200 kelime olan 5 par\u00e7aya b\u00f6lebilirsiniz. B\u00f6l\u00fcmlerin aras\u0131nda belirli bir “\u00f6rt\u00fc\u015fme” (overlap) olmas\u0131, bir b\u00f6l\u00fcm\u00fcn sonundaki bilginin bir sonraki b\u00f6l\u00fcm\u00fcn ba\u015f\u0131yla ba\u011flant\u0131 kurmas\u0131n\u0131 sa\u011flayarak ba\u011flam kayb\u0131n\u0131 \u00f6nleyebilir. Bu ad\u0131m\u0131 do\u011fru yapmak, sonraki a\u015famalarda \u00e7ekilecek bilginin kalitesini do\u011frudan etkiler.<\/p>\n B\u00f6l\u00fcmlenmi\u015f metin par\u00e7alar\u0131, LLM’in anlayabilece\u011fi bir formata d\u00f6n\u00fc\u015ft\u00fcr\u00fclmelidir. \u0130\u015fte burada g\u00f6mme (embedding)<\/strong> devreye girer. Bir g\u00f6mme modeli, metin par\u00e7alar\u0131n\u0131 y\u00fcksek boyutlu say\u0131sal vekt\u00f6rlere d\u00f6n\u00fc\u015ft\u00fcr\u00fcr. Bu vekt\u00f6rler, metnin semantik (anlamsal) i\u00e7eri\u011fini temsil eder. Anlam olarak birbirine yak\u0131n metin par\u00e7alar\u0131, vekt\u00f6r uzay\u0131nda da birbirine yak\u0131n konumlan\u0131r. \u00d6rne\u011fin, “kedi” kelimesinin vekt\u00f6r\u00fc ile “yavru kedi” kelimesinin vekt\u00f6r\u00fc, “araba” kelimesinin vekt\u00f6r\u00fcnden daha yak\u0131n olacakt\u0131r. Bu vekt\u00f6rler, daha sonra h\u0131zl\u0131 ve etkili benzerlik aramalar\u0131 yapmak \u00fczere \u00f6zel bir veritaban\u0131na, yani vekt\u00f6r veritaban\u0131na<\/strong> kaydedilir.<\/p>\n Vekt\u00f6r veritabanlar\u0131 (\u00f6rne\u011fin FAISS, Chroma, Pinecone, Milvus), milyarlarca vekt\u00f6r\u00fc depolayabilir ve verilen bir sorgu vekt\u00f6r\u00fcne en benzer vekt\u00f6rleri milisaniyeler i\u00e7inde bulabilir. Bu, RAG sisteminin “Retrieval” a\u015famas\u0131n\u0131n temelini olu\u015fturur. Sorgunuz da bir vekt\u00f6re d\u00f6n\u00fc\u015ft\u00fcr\u00fcld\u00fc\u011f\u00fcnde, veritaban\u0131 sizin sorgunuza en benzer metin par\u00e7alar\u0131n\u0131 h\u0131zla bulup geri getirir.<\/p>\n Kullan\u0131c\u0131 bir soru sordu\u011funda, bu soru da bir g\u00f6mme modeli arac\u0131l\u0131\u011f\u0131yla vekt\u00f6re d\u00f6n\u00fc\u015ft\u00fcr\u00fcl\u00fcr. Ard\u0131ndan, bu sorgu vekt\u00f6r\u00fc vekt\u00f6r veritaban\u0131na g\u00f6nderilir ve sorguya en \u00e7ok benzeyen (semantik olarak en alakal\u0131) metin par\u00e7alar\u0131 (chunks) geri \u00e7ekilir. Bu \u00e7ekilen metin par\u00e7alar\u0131 art\u0131k LLM i\u00e7in “ba\u011flam” veya “referans materyal” olarak g\u00f6rev yapar.<\/p>\n \u00c7ekilen ba\u011flam, kullan\u0131c\u0131 sorgusuyla birlikte bir prompt (y\u00f6nlendirme) olarak B\u00fcy\u00fck Dil Modeli’ne (LLM) g\u00f6nderilir. LLM, bu ba\u011flam\u0131 kullanarak ve kendi dil yeteneklerini kullanarak, kullan\u0131c\u0131 sorgusunu cevaplar. Modelin g\u00f6revi art\u0131k sadece ezberledi\u011fi bilgiyi tekrar etmek de\u011fil, kendisine sunulan harici bilgilere dayanarak mant\u0131kl\u0131, do\u011fru ve ba\u011flama uygun bir cevap olu\u015fturmakt\u0131r. Bu sayede, hem g\u00fcncel hem de kaynaklar\u0131 g\u00f6sterilebilir cevaplar elde edilir. Bu iki a\u015fama, RAG sistemlerinin temel \u00e7al\u0131\u015fma mant\u0131\u011f\u0131n\u0131 olu\u015fturur ve birbirini tamamlayarak g\u00fc\u00e7l\u00fc bir sinerji yarat\u0131r.<\/p>\n Kendi RAG sisteminizi kurmak, ba\u015flang\u0131\u00e7ta karma\u015f\u0131k g\u00f6r\u00fcnebilir ancak modern k\u00fct\u00fcphaneler (\u00f6zellikle LangChain gibi) sayesinde bu s\u00fcre\u00e7 olduk\u00e7a basitle\u015fmi\u015ftir. A\u015fa\u011f\u0131daki ad\u0131mlar, temel bir RAG sistemi olu\u015fturman\u0131z i\u00e7in size yol g\u00f6sterecektir. Bu \u00f6rnekte, Python ve OpenAI’nin modellerini kullanaca\u011f\u0131z. \u0130lk olarak, bir metin dosyas\u0131ndaki bilgileri al\u0131p bir sorguya cevap veren bir sistem in\u015fa edece\u011fiz.<\/p>\n \u0130lk olarak, projeniz i\u00e7in gerekli Python k\u00fct\u00fcphanelerini y\u00fcklemeniz gerekiyor. LangChain, farkl\u0131 LLM’leri ve bile\u015fenleri bir araya getirmek i\u00e7in harika bir \u00e7er\u00e7eve sunar. FAISS, h\u0131zl\u0131 benzerlik aramalar\u0131 i\u00e7in yerel bir vekt\u00f6r veritaban\u0131d\u0131r ve OpenAI’nin g\u00f6mme modellerini ve sohbet modellerini kullanaca\u011f\u0131z.<\/p>\n <\/code><\/p>\n \u015eimdi, RAG sistemimizin bilgi alaca\u011f\u0131 bir metin belgesini y\u00fckleyip b\u00f6l\u00fcmlere ay\u0131ral\u0131m. \"bilgi_kaynagim.txt\" ad\u0131nda \u00f6rnek bir dosya olu\u015fturdu\u011funuzu varsayal\u0131m. Bu dosyan\u0131n i\u00e7eri\u011fi \u015firketinizin s\u0131k\u00e7a sorulan sorular\u0131, \u00fcr\u00fcn bilgileri veya herhangi bir metin tabanl\u0131 bilgi olabilir.<\/p>\n \u00d6rnek <\/code><\/p>\n \u015eimdi Python kodunu yazal\u0131m:<\/p>\n <\/code><\/p>\n Burada \u015eimdi olu\u015fturdu\u011fumuz metin par\u00e7alar\u0131n\u0131 say\u0131sal vekt\u00f6rlere d\u00f6n\u00fc\u015ft\u00fcr\u00fcp bir vekt\u00f6r veritaban\u0131nda depolayaca\u011f\u0131z. Bunun i\u00e7in OpenAI'nin g\u00f6mme modelini ve FAISS vekt\u00f6r veritaban\u0131n\u0131 kullanaca\u011f\u0131z.<\/p>\n <\/code><\/p>\n Art\u0131k bir sorguyu al\u0131p vekt\u00f6r veritaban\u0131ndan ilgili bilgileri \u00e7ekip bir LLM'e g\u00f6nderecek bir zincir olu\u015fturabiliriz. LangChain'in <\/code><\/p>\n Son olarak, RAG sisteminize bir soru sorup cevab\u0131n\u0131 alabiliriz.<\/p>\n <\/code><\/p>\n Bu kod par\u00e7as\u0131, Bir e-ticaret \u015firketi d\u00fc\u015f\u00fcn\u00fcn. M\u00fc\u015fteri temsilcileri her g\u00fcn y\u00fczlerce farkl\u0131 \u00fcr\u00fcn ve politika hakk\u0131nda sorularla kar\u015f\u0131la\u015f\u0131yor. \u00dcr\u00fcn \u00f6zellikleri s\u00fcrekli de\u011fi\u015fiyor, iade politikalar\u0131 g\u00fcncelleniyor. M\u00fc\u015fteri temsilcilerinin g\u00fcncel bilgiye an\u0131nda eri\u015fimi olmazsa, yanl\u0131\u015f veya tutars\u0131z cevaplar vermeleri ka\u00e7\u0131n\u0131lmazd\u0131r. Bu durum m\u00fc\u015fteri memnuniyetini d\u00fc\u015f\u00fcr\u00fcr ve operasyonel maliyetleri art\u0131r\u0131r.<\/p>\n \u00c7\u00f6z\u00fcm:<\/strong> \u015eirket, t\u00fcm \u00fcr\u00fcn dok\u00fcmanlar\u0131n\u0131 (PDF), SSS sayfalar\u0131n\u0131, iade politikalar\u0131n\u0131 ve kullan\u0131m k\u0131lavuzlar\u0131n\u0131 bir RAG sistemine entegre eder. M\u00fc\u015fteri temsilcisi bir soru ald\u0131\u011f\u0131nda, bu soruyu RAG destekli bir aray\u00fcze girer. RAG sistemi, an\u0131nda ilgili belgelerden en do\u011fru ve g\u00fcncel bilgiyi \u00e7eker ve LLM arac\u0131l\u0131\u011f\u0131yla temsilciye sunar. Hatta baz\u0131 ileri sistemler, bu cevab\u0131 do\u011frudan m\u00fc\u015fteriye sunar.<\/p>\n Fayda:<\/strong><\/p>\n Bu \u00f6rnek, RAG sistemlerinin kurumsal bilgi y\u00f6netiminde ve m\u00fc\u015fteri hizmetlerinde nas\u0131l devrim yaratabilece\u011fini a\u00e7\u0131k\u00e7a g\u00f6stermektedir.<\/p>\n Temel bir RAG sistemi kurmak sadece ba\u015flang\u0131\u00e7t\u0131r. Ger\u00e7ek d\u00fcnya uygulamalar\u0131nda en iyi performans\u0131 elde etmek i\u00e7in \u00e7e\u015fitli optimizasyon teknikleri ve ileri d\u00fczey stratejiler kullanmak gerekebilir. \u0130\u015fte RAG sistemlerinizi daha verimli ve do\u011fru hale getirmek i\u00e7in ipu\u00e7lar\u0131:<\/p>\n Basit OpenAI'nin Sadece vekt\u00f6r benzerli\u011fi aramas\u0131, bazen anahtar kelime e\u015fle\u015fmesi kadar etkili olmayabilir. Hibrit arama, hem vekt\u00f6r benzerli\u011fi (semantik arama) hem de anahtar kelime tabanl\u0131 arama (sparse retrieval, \u00f6rne\u011fin BM25) kullanarak en iyi sonu\u00e7lar\u0131 birle\u015ftirir. Bu, \u00f6zellikle spesifik terimlerin \u00f6nemli oldu\u011fu durumlarda performans\u0131 art\u0131r\u0131r.<\/p>\n Reranking (Yeniden S\u0131ralama):<\/strong> Vekt\u00f6r veritaban\u0131ndan \u00e7ekilen en iyi N adet belgeyi do\u011frudan LLM'e g\u00f6ndermek yerine, bu belgeleri daha k\u00fc\u00e7\u00fck, daha g\u00fc\u00e7l\u00fc bir s\u0131ralama modelinden (reranker) ge\u00e7irerek en alakal\u0131 olanlar\u0131 belirleyebilirsiniz. Bu, \u00f6zellikle ilk \u00e7ekilen belgeler aras\u0131nda g\u00fcr\u00fclt\u00fc varsa veya \u00e7ok say\u0131da belge \u00e7ekiliyorsa LLM'in i\u015fini kolayla\u015ft\u0131r\u0131r ve daha odaklanm\u0131\u015f bir ba\u011flam sunar.<\/p>\n Bazen \u00e7ekilen belgeler \u00e7ok uzun olabilir veya gereksiz bilgiler i\u00e7erebilir. Ba\u011flam s\u0131k\u0131\u015ft\u0131rma, \u00e7ekilen belgelerden yaln\u0131zca sorguyla en alakal\u0131 k\u0131s\u0131mlar\u0131 ay\u0131klayarak LLM'e g\u00f6nderilen ba\u011flam\u0131 optimize eder. Bu, hem LLM'in daha iyi odaklanmas\u0131n\u0131 sa\u011flar hem de maliyetleri d\u00fc\u015f\u00fcr\u00fcr (daha az token kullan\u0131m\u0131).<\/p>\n Prompt m\u00fchendisli\u011fi, RAG'\u0131n \"Generation\" a\u015famas\u0131nda \u00e7ok \u00f6nemlidir. LLM'e verilen talimatlar\u0131n (prompt) netli\u011fi, \u00e7ekilen bilgilerle birlikte daha kaliteli cevaplar \u00fcretilmesini sa\u011flar. \u00d6rne\u011fin, \"A\u015fa\u011f\u0131daki ba\u011flam\u0131 kullanarak soruyu cevapla. E\u011fer ba\u011flamda bilgi yoksa, 'Bilgi bulunamad\u0131' de ve ba\u015fka bir \u015fey ekleme.\" gibi y\u00f6nlendirmeler, istenmeyen hal\u00fcsinasyonlar\u0131 \u00f6nleyebilir.<\/p>\n Uygulaman\u0131z\u0131n \u00f6l\u00e7e\u011fine ve gereksinimlerine g\u00f6re do\u011fru vekt\u00f6r veritaban\u0131n\u0131 se\u00e7mek \u00f6nemlidir. FAISS k\u00fc\u00e7\u00fck projeler i\u00e7in harika olsa da, b\u00fcy\u00fck \u00f6l\u00e7ekli ve y\u00fcksek performansl\u0131 uygulamalar i\u00e7in Pinecone, Chroma, Milvus veya Weaviate gibi bulut tabanl\u0131 veya da\u011f\u0131t\u0131k vekt\u00f6r veritabanlar\u0131 daha uygun olabilir. Bu veritabanlar\u0131, indeksleme stratejileri ve sorgu optimizasyonlar\u0131 sunarak performans\u0131 art\u0131rabilir.<\/p>\n Bir hukuk firmas\u0131 d\u00fc\u015f\u00fcn\u00fcn. Her g\u00fcn y\u00fczlerce sayfal\u0131k dava dosyalar\u0131, kanun maddeleri, emsal kararlar ve s\u00f6zle\u015fmelerle u\u011fra\u015f\u0131yorlar. Belirli bir dava i\u00e7in ilgili kanun maddelerini veya daha \u00f6nceki benzer kararlar\u0131 manuel olarak bulmak saatler alabilir ve insan hatas\u0131na a\u00e7\u0131kt\u0131r.<\/p>\n \u00c7\u00f6z\u00fcm:<\/strong> Hukuk firmas\u0131, t\u00fcm yasal dok\u00fcmanlar\u0131n\u0131 (kanunlar, mahkeme kararlar\u0131, makaleler) bir RAG sistemine y\u00fckler. Hukuk\u00e7ular, belirli bir dava konusu hakk\u0131nda soru sordu\u011funda (\u00f6rne\u011fin, \"X davas\u0131nda Y maddesinin uygulanabilirli\u011fi nedir?\"), RAG sistemi an\u0131nda ilgili kanun maddelerini, emsal kararlar\u0131 ve hukuki yorumlar\u0131 \u00e7ekerek LLM arac\u0131l\u0131\u011f\u0131yla \u00f6zetler ve hukuk\u00e7uya sunar.<\/p>\n Fayda:<\/strong><\/p>\n Bu gibi senaryolar, RAG'\u0131n sadece bir teknoloji olman\u0131n \u00f6tesinde, bilgi yo\u011fun sekt\u00f6rlerde nas\u0131l bir i\u015f d\u00f6n\u00fc\u015f\u00fcm\u00fc arac\u0131 olabilece\u011fini g\u00f6sterir.<\/p>\n RAG sistemleri ne kadar g\u00fc\u00e7l\u00fc olursa olsun, baz\u0131 zorluklar\u0131 da beraberinde getirir. Bunlardan en \u00f6nemlileri, veri kalitesi ve g\u00fcncelli\u011fidir. \u00c7ekilen bilginin do\u011fru olmas\u0131 i\u00e7in, kaynak verinin de do\u011fru ve temiz olmas\u0131 gerekir. Ayr\u0131ca, verinin s\u00fcrekli g\u00fcncellenmesi gereken durumlarda (\u00f6rne\u011fin, hisse senedi verileri veya haber ak\u0131\u015flar\u0131), RAG indeksinin de d\u00fczenli olarak yeniden olu\u015fturulmas\u0131 veya g\u00fcncellenmesi gerekir. Bu da ek bir m\u00fchendislik y\u00fck\u00fc getirir.<\/p>\n Bir di\u011fer zorluk, \u00f6zellikle b\u00fcy\u00fck veri setleriyle \u00e7al\u0131\u015f\u0131rken ortaya \u00e7\u0131kan gecikme (latency) sorunudur. \u00c7ok say\u0131da belge aras\u0131nda arama yapmak ve ard\u0131ndan LLM'i \u00e7al\u0131\u015ft\u0131rmak zaman alabilir. Bunu a\u015fmak i\u00e7in, daha h\u0131zl\u0131 vekt\u00f6r veritabanlar\u0131, optimize edilmi\u015f arama algoritmalar\u0131 ve \u00f6nbellekleme stratejileri kullan\u0131labilir. Ayr\u0131ca, maliyet de \u00f6nemli bir fakt\u00f6rd\u00fcr; hem g\u00f6mme modellerinin hem de LLM'lerin API \u00e7a\u011fr\u0131lar\u0131 belirli bir maliyetle gelir, bu nedenle token kullan\u0131m\u0131n\u0131 optimize etmek \u00f6nemlidir. Uygun chunking ve reranking gibi teknikler, LLM'e g\u00f6nderilen token say\u0131s\u0131n\u0131 azaltarak maliyetleri d\u00fc\u015f\u00fcrebilir.<\/p>\n Retrieval-Augmented Generation (RAG) sistemleri, B\u00fcy\u00fck Dil Modellerinin (LLM) temel k\u0131s\u0131tlamalar\u0131n\u0131 a\u015farak onlar\u0131 daha ak\u0131ll\u0131, daha do\u011fru ve daha g\u00fcvenilir hale getiren devrim niteli\u011finde bir yakla\u015f\u0131md\u0131r. Hal\u00fcsinasyonlar\u0131 azaltma, g\u00fcncel bilgi sa\u011flama, kaynak g\u00f6sterebilirlik sunma ve alan spesifik bilgileri kullanma yetenekleri sayesinde, RAG, yapay zeka uygulamalar\u0131n\u0131 bir sonraki seviyeye ta\u015f\u0131maktad\u0131r. M\u00fc\u015fteri hizmetlerinden hukuka, finansal analizden sa\u011fl\u0131k sekt\u00f6r\u00fcne kadar geni\u015f bir yelpazede, RAG sistemleri kurumsal bilgi y\u00f6netimi ve ki\u015fiselle\u015ftirilmi\u015f asistanl\u0131k konusunda \u00e7\u0131\u011f\u0131r a\u00e7ma potansiyeli ta\u015f\u0131maktad\u0131r.<\/p>\n Bu makalede ad\u0131m ad\u0131m g\u00f6rd\u00fc\u011f\u00fcn\u00fcz gibi, kendi temel RAG sisteminizi kurmak art\u0131k herkes i\u00e7in eri\u015filebilir durumda. \u0130leri d\u00fczey optimizasyon teknikleri ve stratejileri uygulayarak, sistemlerinizin performans\u0131n\u0131 ve verimlili\u011fini daha da art\u0131rabilirsiniz. Gelecekte, RAG tabanl\u0131 \u00e7\u00f6z\u00fcmlerin hayat\u0131m\u0131z\u0131n daha bir\u00e7ok alan\u0131na entegre oldu\u011funu ve bilgiye eri\u015fim \u015feklimizi k\u00f6kten de\u011fi\u015ftirdi\u011fini g\u00f6rece\u011fiz. Kendi sisteminizi kurarak ve geli\u015ftirerek, bu heyecan verici gelece\u011fin bir par\u00e7as\u0131 olmaya ba\u015flayabilirsiniz. Unutmay\u0131n, en iyi \u00f6\u011frenme yolu denemek ve uygulamakt\u0131r. \u015eimdi s\u0131ra sizde!<\/p>\n Cevap:<\/strong> RAG, LLM'lerin hal\u00fcsinasyon riskini azalt\u0131r, g\u00fcncel bilgiye eri\u015fim sa\u011flar, \u00fcretilen cevab\u0131n kaynaklar\u0131n\u0131 g\u00f6stererek \u015feffafl\u0131k sunar ve modele \u00f6zel (alan spesifik) bilgi taban\u0131 entegre etme imkan\u0131 tan\u0131r. Bu sayede, daha do\u011fru, g\u00fcvenilir ve ba\u011flama uygun cevaplar elde edilir.<\/p>\n<\/li>\n Cevap:<\/strong> Evet, RAG sistemleri temelde metin tabanl\u0131 veriler (PDF'ler, web sayfalar\u0131, dok\u00fcmanlar, veritabanlar\u0131, e-postalar) \u00fczerinde en iyi performans\u0131 g\u00f6sterir. Ancak uygun \u00f6n i\u015fleme ve d\u00f6n\u00fc\u015ft\u00fcrme ad\u0131mlar\u0131yla g\u00f6rsellerden veya yap\u0131land\u0131r\u0131lm\u0131\u015f verilerden \u00e7\u0131kar\u0131lan metinler de (\u00f6rne\u011fin, resimdeki metinler veya veritaban\u0131 kay\u0131tlar\u0131n\u0131n a\u00e7\u0131klamalar\u0131) RAG sistemlerine dahil edilebilir.<\/p>\n<\/li>\n Cevap:<\/strong> RAG sistemlerinin performans\u0131 bir\u00e7ok fakt\u00f6re ba\u011fl\u0131d\u0131r: kaynak verinin kalitesi ve g\u00fcncelli\u011fi, metin b\u00f6l\u00fcmleme (chunking) stratejisinin etkinli\u011fi, kullan\u0131lan g\u00f6mme (embedding) modelinin g\u00fcc\u00fc, vekt\u00f6r veritaban\u0131n\u0131n arama verimlili\u011fi, LLM'e g\u00f6nderilen prompt'un kalitesi ve LLM'in kendisinin yetenekleri.<\/p>\n<\/li>\n Cevap:<\/strong> G\u00fcvenlik, RAG sisteminin nas\u0131l uyguland\u0131\u011f\u0131na ba\u011fl\u0131d\u0131r. Veri i\u015fleme, depolama ve LLM API'leri kullan\u0131l\u0131rken standart g\u00fcvenlik protokollerine uyulmal\u0131d\u0131r. Hassas verilerle \u00e7al\u0131\u015f\u0131l\u0131yorsa, veri \u015fifreleme, eri\u015fim kontrol\u00fc ve uygun denetim mekanizmalar\u0131 gibi ek g\u00fcvenlik \u00f6nlemleri al\u0131nmal\u0131d\u0131r. Do\u011fru tasar\u0131mla RAG, bilgi g\u00fcvenli\u011fi a\u00e7\u0131s\u0131ndan \u00f6nemli avantajlar sunabilir (\u00f6rne\u011fin, LLM'in sadece yetkili bilgilere eri\u015fimi).<\/p>\n<\/li>\n Cevap:<\/strong> Hay\u0131r, RAG sistemleri LLM'lerin yerini almak yerine onlar\u0131n yeteneklerini tamamlayan ve art\u0131ran bir teknolojidir. LLM'lerin temel dil anlama, \u00fcretim ve ak\u0131l y\u00fcr\u00fctme becerilerini kullanarak, RAG onlara harici bilgi eri\u015fim yetene\u011fi kazand\u0131r\u0131r. Bu iki teknoloji birlikte \u00e7al\u0131\u015farak \u00e7ok daha g\u00fc\u00e7l\u00fc ve g\u00fcvenilir yapay zeka uygulamalar\u0131 olu\u015fturur.<\/p>\n<\/li>\n<\/ul>\n Bu makaledeki HTML yap\u0131s\u0131 temel olarak mobil uyumludur, \u00e7\u00fcnk\u00fc d\u00fcz metin ve standart HTML etiketleri kullan\u0131lm\u0131\u015ft\u0131r. Ancak ger\u00e7ek bir mobil uyumlu web sayfas\u0131 i\u00e7in baz\u0131 ek ad\u0131mlar gereklidir:<\/p>\n <\/code>\n <\/li>\n <\/code><\/p>\n Yukar\u0131daki \u00f6rnekte, ekran geni\u015fli\u011fi 600 pikselin alt\u0131nda oldu\u011funda ( <\/body><\/p>\n","protected":false},"excerpt":{"rendered":"B\u00fcy\u00fck dil modellerinin g\u00fcncel bilgi eksikli\u011fi ve hal\u00fcsinasyon sorunlar\u0131na RAG sistemleriyle veda edin! Kendi Retrieval-Augmented Generation sisteminizi ad\u0131m…","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"csco_page_header_type":"","csco_page_load_nextpost":"","csco_page_subscribe_form":"","csco_page_contact_form":"","footnotes":""},"categories":[1],"tags":[],"class_list":{"0":"post-31747","1":"post","2":"type-post","3":"status-publish","4":"format-standard","6":"category-genel","7":"cs-entry","8":"cs-video-wrap"},"yoast_head":"\nG\u00f6mme (Embedding) ve Vekt\u00f6r Veritaban\u0131 (Vector Database) Nas\u0131l \u00c7al\u0131\u015f\u0131r?<\/h3>\n
Bilgi \u00c7ekme (Retrieval) ve Cevap \u00dcretme (Generation) S\u00fcre\u00e7leri<\/h3>\n
\u0130lk RAG Sisteminizi Ad\u0131m Ad\u0131m Nas\u0131l Kurars\u0131n\u0131z? Kendi RAG Sisteminizi Kurmak \u0130\u00e7in Hangi Ad\u0131mlar\u0131 \u0130zlemelisiniz?<\/h2>\n
Ad\u0131m 1: Gerekli K\u00fct\u00fcphaneleri Y\u00fckleme<\/h3>\n
\npip install langchain openai faiss-cpu tiktoken\n <\/pre>\nAd\u0131m 2: Veri Y\u00fckleme ve B\u00f6l\u00fcmleme<\/h3>\n
bilgi_kaynagim.txt<\/code> i\u00e7eri\u011fi:<\/p>\n\nRAG sistemleri, B\u00fcy\u00fck Dil Modellerinin (LLM) s\u0131n\u0131rl\u0131 bilgi setini geni\u015fletmek i\u00e7in harici kaynaklardan bilgi \u00e7ekmeyi sa\u011flayan g\u00fc\u00e7l\u00fc bir yapay zeka mimarisidir. Bu sayede, LLM'ler daha g\u00fcncel, do\u011fru ve ba\u011flama uygun cevaplar \u00fcretebilir. \u00d6zellikle hal\u00fcsinasyon riskini azaltmas\u0131 ve kaynak g\u00f6sterilebilirlik sunmas\u0131 b\u00fcy\u00fck avantajd\u0131r.\n\nBir RAG sistemi genellikle \u015fu bile\u015fenlerden olu\u015fur: Veri Y\u00fckleyici, Metin B\u00f6l\u00fcc\u00fc, G\u00f6mme Modeli, Vekt\u00f6r Veritaban\u0131 ve Son olarak LLM tabanl\u0131 bir cevap \u00fcretici. Veri y\u00fckleyici, farkl\u0131 formatlardaki belgeleri (PDF, TXT, DOCX vb.) sisteme entegre eder. Metin b\u00f6l\u00fcc\u00fc, uzun belgeleri LLM'lerin ba\u011flam penceresine s\u0131\u011facak daha k\u00fc\u00e7\u00fck, anlaml\u0131 par\u00e7alara ay\u0131r\u0131r. G\u00f6mme modeli, bu metin par\u00e7alar\u0131n\u0131 say\u0131sal vekt\u00f6rlere d\u00f6n\u00fc\u015ft\u00fcr\u00fcr. Vekt\u00f6r veritaban\u0131, bu vekt\u00f6rleri depolayarak h\u0131zl\u0131 ve verimli benzerlik aramalar\u0131na olanak tan\u0131r.\n <\/pre>\n\nfrom langchain.document_loaders import TextLoader\nfrom langchain.text_splitter import RecursiveCharacterTextSplitter\n\n# 1. Metin dosyas\u0131n\u0131 y\u00fckle\nloader = TextLoader(\"bilgi_kaynagim.txt\", encoding=\"utf-8\")\ndocuments = loader.load()\n\n# 2. Metni par\u00e7alara ay\u0131r (chunking)\ntext_splitter = RecursiveCharacterTextSplitter(chunk_size=500, chunk_overlap=100)\nchunks = text_splitter.split_documents(documents)\n\nprint(f\"Toplam {len(chunks)} adet metin par\u00e7as\u0131 olu\u015fturuldu.\")\n# \u00d6rne\u011fin, ilk par\u00e7ay\u0131 yazd\u0131ral\u0131m:\n# print(chunks[0].page_content)\n <\/pre>\nchunk_size<\/code>, her bir par\u00e7an\u0131n maksimum karakter say\u0131s\u0131n\u0131, chunk_overlap<\/code> ise par\u00e7alar aras\u0131ndaki \u00f6rt\u00fc\u015fmeyi belirler. \u00d6rt\u00fc\u015fme, bir par\u00e7an\u0131n sonundaki bilginin bir sonraki par\u00e7an\u0131n ba\u015f\u0131na da dahil olmas\u0131n\u0131 sa\u011flayarak ba\u011flam kayb\u0131n\u0131 azalt\u0131r.<\/p>\nAd\u0131m 3: G\u00f6mme ve Vekt\u00f6r Veritaban\u0131 Olu\u015fturma<\/h3>\n
\nfrom langchain.embeddings.openai import OpenAIEmbeddings\nfrom langchain.vectorstores import FAISS\nimport os\n\n# OpenAI API anahtar\u0131n\u0131z\u0131 ortam de\u011fi\u015fkeni olarak ayarlay\u0131n\n# Veya do\u011frudan koda yazabilirsiniz (g\u00fcvenli de\u011fil, sadece test i\u00e7in):\n# os.environ[\"OPENAI_API_KEY\"] = \"sk-...\"\n\n# 3. G\u00f6mme modelini ba\u015flat\nembeddings = OpenAIEmbeddings()\n\n# 4. Metin par\u00e7alar\u0131n\u0131 g\u00f6merek vekt\u00f6r veritaban\u0131 olu\u015ftur\nvectorstore = FAISS.from_documents(chunks, embeddings)\n\nprint(\"Vekt\u00f6r veritaban\u0131 ba\u015far\u0131yla olu\u015fturuldu.\")\n <\/pre>\nOpenAIEmbeddings()<\/code> \u00e7a\u011fr\u0131s\u0131 i\u00e7in OpenAI API anahtar\u0131n\u0131z\u0131n ayarlanm\u0131\u015f olmas\u0131 gerekmektedir. En g\u00fcvenli yol, anahtar\u0131n\u0131z\u0131 bir ortam de\u011fi\u015fkeni olarak ayarlamakt\u0131r (OPENAI_API_KEY<\/code>).<\/p>\nAd\u0131m 4: Retriever ve LLM Zinciri Olu\u015fturma<\/h3>\n
RetrievalQA<\/code> zinciri bu i\u015flemi bizim i\u00e7in basitle\u015ftirir.<\/p>\n\nfrom langchain.chains import RetrievalQA\nfrom langchain.chat_models import ChatOpenAI\n\n# 5. B\u00fcy\u00fck Dil Modelini (LLM) ba\u015flat\n# temperature=0, modelin daha az yarat\u0131c\u0131 ve daha do\u011frudan cevaplar vermesini sa\u011flar.\nllm = ChatOpenAI(temperature=0, model_name=\"gpt-3.5-turbo\") # Ya da \"gpt-4\"\n\n# 6. Retriever'\u0131 ve LLM'i bir zincirde birle\u015ftir\nqa_chain = RetrievalQA.from_chain_type(llm=llm,\n chain_type=\"stuff\", # \"stuff\" t\u00fcm \u00e7ekilen belgeleri tek bir prompt'a s\u0131k\u0131\u015ft\u0131r\u0131r\n retriever=vectorstore.as_retriever())\n\nprint(\"RAG zinciri ba\u015far\u0131yla olu\u015fturuldu.\")\n <\/pre>\nchain_type=\"stuff\"<\/code>, \u00e7ekilen t\u00fcm belgeleri tek bir prompt i\u00e7inde LLM'e g\u00f6nderir. Di\u011fer se\u00e7enekler aras\u0131nda map_reduce<\/code>, refine<\/code> ve map_rerank<\/code> bulunur, ancak \"stuff\" basit ba\u015flang\u0131\u00e7lar i\u00e7in iyidir.<\/p>\nAd\u0131m 5: Sorgulama ve Cevap Alma<\/h3>\n
\nquery = \"RAG sisteminin temel bile\u015fenleri nelerdir?\"\nresponse = qa_chain.run(query)\nprint(\"\\nSoru:\", query)\nprint(\"Cevap:\", response)\n\nquery_2 = \"RAG neden \u00f6nemlidir?\"\nresponse_2 = qa_chain.run(query_2)\nprint(\"\\nSoru:\", query_2)\nprint(\"Cevap:\", response_2)\n <\/pre>\nbilgi_kaynagim.txt<\/code> dosyas\u0131ndaki bilgiler \u0131\u015f\u0131\u011f\u0131nda sorgular\u0131n\u0131za cevap verecektir. E\u011fer dosyadaki bilgiyle \u00e7eli\u015fen veya olmayan bir soru sorarsan\u0131z, LLM ya do\u011fru cevab\u0131 bulamayacak ya da \u00e7ekilen ba\u011flama g\u00f6re en iyi tahmini yapmaya \u00e7al\u0131\u015facakt\u0131r.<\/p>\nVaka Analizi: M\u00fc\u015fteri Hizmetlerinde RAG<\/h3>\n
\n
RAG Performans\u0131n\u0131z\u0131 Nas\u0131l En \u00dcst D\u00fczeye \u00c7\u0131karabilirsiniz?<\/h2>\n
Geli\u015fmi\u015f B\u00f6l\u00fcmleme Stratejileri<\/h3>\n
RecursiveCharacterTextSplitter<\/code> iyi bir ba\u015flang\u0131\u00e7 olsa da, daha karma\u015f\u0131k belgeler i\u00e7in daha ak\u0131ll\u0131 b\u00f6l\u00fcmleme y\u00f6ntemleri gerekebilir. \u00d6rne\u011fin:<\/p>\n\n
chunk_size<\/code> yerine, i\u00e7erik yo\u011funlu\u011funa g\u00f6re de\u011fi\u015fen b\u00f6l\u00fcm boyutlar\u0131 kullanmak, hem gereksiz bilgi y\u00fck\u00fcn\u00fc azalt\u0131r hem de ba\u011flam\u0131 daha iyi korur.<\/li>\n<\/ul>\nDaha \u0130yi G\u00f6mme Modelleri<\/h3>\n
text-embedding-ada-002<\/code> modeli iyi bir genel ama\u00e7l\u0131 model olsa da, \u00f6zel kullan\u0131m durumlar\u0131n\u0131z i\u00e7in daha iyi performans g\u00f6steren modeller olabilir. Hugging Face gibi platformlarda bir\u00e7ok a\u00e7\u0131k kaynakl\u0131 g\u00f6mme modeli (\u00f6rne\u011fin, Sentence Transformers k\u00fct\u00fcphanesi) bulunmaktad\u0131r. Alan\u0131n\u0131za \u00f6zel olarak e\u011fitilmi\u015f modeller veya daha b\u00fcy\u00fck boyutlu (daha zengin anlam yakalayan) modeller kullanmak, \u00e7ekme i\u015fleminin do\u011frulu\u011funu art\u0131rabilir.<\/p>\nHibrit Arama (Hybrid Search) ve Reranking<\/h3>\n
Ba\u011flam S\u0131k\u0131\u015ft\u0131rma (Context Compression) ve Prompt M\u00fchendisli\u011fi<\/h3>\n
Vekt\u00f6r Veritaban\u0131 Se\u00e7imi ve Optimizasyonu<\/h3>\n
Vaka Analizi: Hukuk Alan\u0131nda Otomatik Belge Analizi<\/h3>\n
\n
RAG Sistemlerinde Kar\u015f\u0131la\u015f\u0131lan Zorluklar ve \u00c7\u00f6z\u00fcmleri<\/h3>\n
Gelece\u011fin Bilgi Eri\u015fim Y\u00f6ntemi: RAG<\/h2>\n
RAG Sistemleri Hakk\u0131nda Merak Edilenler<\/h3>\n
\n
Mobil Uyumlu HTML Nas\u0131l Yap\u0131l\u0131r? (Kavramsal A\u00e7\u0131klama)<\/h3>\n
\n
<\/code> b\u00f6l\u00fcm\u00fcne a\u015fa\u011f\u0131daki etiket eklenerek sayfan\u0131n cihaz geni\u015fli\u011fine uygun \u00f6l\u00e7eklenmesi sa\u011flan\u0131r:\n\n\n <\/pre>\n%<\/code> ile ayarlamak veya farkl\u0131 ekran boyutlar\u0131 i\u00e7in farkl\u0131 stiller tan\u0131mlayan medya sorgular\u0131 (media queries) kullanmak. \u0130\u015fte kavramsal bir medya sorgusu \u00f6rne\u011fi (ger\u00e7ek CSS kodu de\u011fildir):\n\n\/* K\u00fc\u00e7\u00fck ekranlar i\u00e7in (telefonlar) *\/\n@media screen and (max-width: 600px) {\n .container {\n width: 100%;\n padding: 10px;\n }\n h2 {\n font-size: 1.5em;\n }\n}\n\n\/* Orta ekranlar i\u00e7in (tabletler) *\/\n@media screen and (min-width: 601px) and (max-width: 1024px) {\n .container {\n width: 80%;\n margin: auto;\n }\n h2 {\n font-size: 2em;\n }\n}\n <\/pre>\n.container<\/code> elementinin geni\u015fli\u011fi %100 olacakken, 601 ile 1024 piksel aras\u0131nda %80 olacak \u015fekilde ayarlanm\u0131\u015ft\u0131r. Benzer \u015fekilde ba\u015fl\u0131k boyutlar\u0131 da de\u011fi\u015febilir. Bu, i\u00e7eri\u011fin farkl\u0131 cihazlarda okunabilirli\u011fini ve kullan\u0131c\u0131 deneyimini art\u0131r\u0131r.<\/p>\n<\/li>\n<\/ol>\n