DigitalOcean \u00dczerinde \u00dcretim Ortam\u0131 RAG Asistan\u0131 Olu\u015fturma Rehberi<\/p>\n
G\u00fcn\u00fcm\u00fcz\u00fcn h\u0131zla geli\u015fen yapay zeka d\u00fcnyas\u0131nda, b\u00fcy\u00fck dil modelleri (LLM’ler) hayat\u0131m\u0131z\u0131n bir\u00e7ok alan\u0131na entegre olmaya devam ediyor. Ancak, bu modellerin baz\u0131 temel s\u0131n\u0131rl\u0131l\u0131klar\u0131 bulunmaktad\u0131r: g\u00fcncel olmayan bilgilerle e\u011fitilmeleri, “hal\u00fcsinasyon” olarak adland\u0131r\u0131lan yanl\u0131\u015f veya uydurma bilgiler \u00fcretme e\u011filimleri ve belirli bir alana \u00f6zg\u00fc, derinlemesine bilgiye eri\u015fim eksikli\u011fi. \u0130\u015fte tam bu noktada, \u00dcretim Ortam\u0131nda Geri \u00c7a\u011f\u0131rma Destekli \u00dcretim (Retrieval Augmented Generation – RAG) asistanlar\u0131 devreye giriyor. RAG, bir LLM’in yan\u0131t \u00fcretmeden \u00f6nce harici, g\u00fcvenilir bir bilgi kayna\u011f\u0131ndan ilgili verileri dinamik olarak almas\u0131n\u0131 sa\u011flayan g\u00fc\u00e7l\u00fc bir mimaridir.<\/p>\n
Peki, bir RAG asistan\u0131 neden \u00fcretim ortamlar\u0131 i\u00e7in bu kadar kritik? \u0130lk olarak, RAG, LLM’lerin en b\u00fcy\u00fck zay\u0131fl\u0131klar\u0131ndan biri olan bilgi g\u00fcncelli\u011fi sorununu \u00e7\u00f6zer. Modeli yeniden e\u011fitmeye gerek kalmadan, en son verilerle g\u00fcncellenmi\u015f bir bilgi taban\u0131ndan an\u0131nda bilgi \u00e7ekebilir. Bu, \u00f6zellikle h\u0131zla de\u011fi\u015fen sekt\u00f6rlerde, \u00f6rne\u011fin finans, sa\u011fl\u0131k veya teknoloji gibi alanlarda paha bi\u00e7ilmezdir. \u0130kincisi, RAG, LLM’lerin hal\u00fcsinasyon yapma olas\u0131l\u0131\u011f\u0131n\u0131 \u00f6nemli \u00f6l\u00e7\u00fcde azalt\u0131r. Yan\u0131tlar do\u011frudan belirli, do\u011frulanabilir kaynaklara dayand\u0131r\u0131ld\u0131\u011f\u0131 i\u00e7in, modelin uydurma bilgiler \u00fcretmesi engellenir. Bu, g\u00fcvenilirli\u011fin hayati \u00f6nem ta\u015f\u0131d\u0131\u011f\u0131 kurumsal uygulamalar i\u00e7in vazge\u00e7ilmez bir \u00f6zelliktir. \u00dc\u00e7\u00fcnc\u00fcs\u00fc, RAG, maliyet etkinli\u011fi a\u00e7\u0131s\u0131ndan da avantajlar sunar. Kendi \u00f6zel verilerinizle bir LLM’i ba\u015ftan sona yeniden e\u011fitmek (fine-tuning) yerine, RAG yakla\u015f\u0131m\u0131yla mevcut LLM’leri kullanarak \u00e7ok daha az maliyetle \u00f6zelle\u015ftirilmi\u015f ve do\u011fru yan\u0131tlar elde edebilirsiniz.<\/p>\n
RAG asistanlar\u0131n\u0131n tipik kullan\u0131m senaryolar\u0131 olduk\u00e7a geni\u015ftir. M\u00fc\u015fteri hizmetleri botlar\u0131, \u015firket i\u00e7i bilgi taban\u0131 asistanlar\u0131, yasal belge analizi ara\u00e7lar\u0131, teknik destek sistemleri ve hatta ki\u015fiselle\u015ftirilmi\u015f \u00f6\u011frenme platformlar\u0131 gibi bir\u00e7ok alanda RAG, devrim niteli\u011finde \u00e7\u00f6z\u00fcmler sunar. \u00d6rne\u011fin, bir e-ticaret \u015firketinin \u00fcr\u00fcn iade politikalar\u0131 hakk\u0131nda y\u00fczlerce sayfal\u0131k belgesi olabilir. RAG asistan\u0131, m\u00fc\u015fterinin spesifik sorusunu bu belgeler i\u00e7inde arayarak, saniyeler i\u00e7inde do\u011fru ve ba\u011flama uygun bir yan\u0131t verebilir. Bu, hem m\u00fc\u015fteri memnuniyetini art\u0131r\u0131r hem de operasyonel verimlili\u011fi y\u00fckseltir.<\/p>\n
Ancak, RAG asistanlar\u0131n\u0131 \u00fcretim ortam\u0131na ta\u015f\u0131mak baz\u0131 zorluklar\u0131 da beraberinde getirir. \u00d6l\u00e7eklenebilirlik, d\u00fc\u015f\u00fck gecikme s\u00fcresiyle yan\u0131t verme yetene\u011fi, veri tazeli\u011finin sa\u011flanmas\u0131 ve g\u00fcvenlik, bu zorluklar\u0131n ba\u015f\u0131nda gelir. DigitalOcean gibi bulut platformlar\u0131, bu zorluklar\u0131n \u00fcstesinden gelmek i\u00e7in gereken altyap\u0131y\u0131 basit, uygun maliyetli ve geli\u015ftirici dostu bir \u015fekilde sunar. DigitalOcean’\u0131n Droplet’leri (sanal sunucular), y\u00f6netilen veritabanlar\u0131 ve a\u011f hizmetleri, bir RAG asistan\u0131n\u0131 da\u011f\u0131tmak ve y\u00f6netmek i\u00e7in sa\u011flam bir temel sa\u011flar. Bu makalede, DigitalOcean \u00fczerinde \u00fcretim d\u00fczeyinde bir RAG asistan\u0131n\u0131 ad\u0131m ad\u0131m nas\u0131l in\u015fa edece\u011fimizi detayl\u0131 bir \u015fekilde inceleyece\u011fiz.<\/p>\n
Bir RAG asistan\u0131n\u0131n kalbinde, birden fazla bile\u015fenin uyumlu bir \u015fekilde \u00e7al\u0131\u015fmas\u0131 yatar. Bu bile\u015fenler, ham veriyi almaktan, onu i\u015fleyip depolamaya, ilgili bilgiyi geri \u00e7a\u011f\u0131rmaya ve son olarak bir LLM arac\u0131l\u0131\u011f\u0131yla anlaml\u0131 bir yan\u0131t \u00fcretmeye kadar t\u00fcm s\u00fcreci kapsar. Bu karma\u015f\u0131k yap\u0131y\u0131 anlamak, sa\u011flam ve verimli bir RAG sistemi kurman\u0131n ilk ad\u0131m\u0131d\u0131r. A\u015fa\u011f\u0131da, RAG mimarisinin ana bile\u015fenlerini ve her birinin sistemdeki rol\u00fcn\u00fc detayl\u0131ca inceleyece\u011fiz.<\/p>\n
Her RAG asistan\u0131n\u0131n ba\u015flang\u0131\u00e7 noktas\u0131, beslenece\u011fi veridir. Bu veriler, PDF belgelerinden web sayfalar\u0131na, veritaban\u0131 kay\u0131tlar\u0131ndan \u015firket i\u00e7i wiki sayfalar\u0131na kadar \u00e7e\u015fitli formatlarda olabilir. \u00d6nemli olan, bu heterojen veri kaynaklar\u0131ndan anlaml\u0131 bilgiyi \u00e7\u0131kar\u0131p, LLM’in anlayabilece\u011fi bir formata d\u00f6n\u00fc\u015ft\u00fcrmektir. Bu s\u00fcre\u00e7 genellikle \u015fu ad\u0131mlar\u0131 i\u00e7erir:<\/p>\n
text-embedding-ada-002<\/code>) veya a\u00e7\u0131k kaynakl\u0131 Sentence Transformers gibi modeller bu ama\u00e7la yayg\u0131n olarak kullan\u0131l\u0131r. Bu ad\u0131m, metin tabanl\u0131 bilgiyi bilgisayar\u0131n i\u015fleyebilece\u011fi bir formata d\u00f6n\u00fc\u015ft\u00fcrmenin temelidir.<\/li>\n<\/ul>\nVekt\u00f6r Veritabanlar\u0131 ve Geri \u00c7a\u011f\u0131rma Mekanizmalar\u0131<\/h3>\n
Metin par\u00e7alar\u0131 vekt\u00f6rlere d\u00f6n\u00fc\u015ft\u00fcr\u00fcld\u00fckten sonra, bu vekt\u00f6rlerin h\u0131zl\u0131 ve verimli bir \u015fekilde aranabilmesi i\u00e7in \u00f6zel bir depolama \u00e7\u00f6z\u00fcm\u00fcne ihtiya\u00e7 duyulur: vekt\u00f6r veritabanlar\u0131. Bu veritabanlar\u0131, milyarlarca vekt\u00f6r aras\u0131nda saniyeler i\u00e7inde en benzer olanlar\u0131 bulma yetene\u011fine sahiptir. \u00dcretim ortam\u0131nda pop\u00fcler vekt\u00f6r veritabanlar\u0131 \u015funlard\u0131r:<\/p>\n
\n- Pinecone:<\/strong> Tamamen y\u00f6netilen, bulut tabanl\u0131 bir vekt\u00f6r veritaban\u0131d\u0131r. Y\u00fcksek performans ve \u00f6l\u00e7eklenebilirlik sunar, ancak maliyetli olabilir.<\/li>\n
- Weaviate, Milvus, Qdrant, ChromaDB:<\/strong> Kendi kendine bar\u0131nd\u0131r\u0131labilen (self-hosted) veya y\u00f6netilen se\u00e7enekleri olan a\u00e7\u0131k kaynakl\u0131 vekt\u00f6r veritabanlar\u0131d\u0131r. DigitalOcean Droplet’leri \u00fczerinde Docker veya Kubernetes ile kolayca da\u011f\u0131t\u0131labilirler. \u00d6zellikle ba\u015flang\u0131\u00e7 ve orta \u00f6l\u00e7ekli projeler i\u00e7in maliyet etkin \u00e7\u00f6z\u00fcmler sunarlar. Bu makalede, DigitalOcean \u00fczerinde kolayca da\u011f\u0131t\u0131labilecek bir se\u00e7enek olarak ChromaDB veya Qdrant’\u0131 tercih edebiliriz.<\/li>\n<\/ul>\n
Geri \u00e7a\u011f\u0131rma mekanizmas\u0131, kullan\u0131c\u0131n\u0131n sorgusunu al\u0131r, bu sorguyu bir vekt\u00f6re d\u00f6n\u00fc\u015ft\u00fcr\u00fcr ve ard\u0131ndan bu vekt\u00f6r\u00fc vekt\u00f6r veritaban\u0131nda arayarak en benzer (semantik olarak en alakal\u0131) metin par\u00e7alar\u0131n\u0131 bulur. Bu s\u00fcre\u00e7 genellikle “yak\u0131n kom\u015fu arama” (nearest neighbor search) algoritmalar\u0131 ile ger\u00e7ekle\u015ftirilir. Geri \u00e7a\u011fr\u0131lan bu par\u00e7alar, LLM’e sunulacak ba\u011flam\u0131 olu\u015fturur.<\/p>\n
B\u00fcy\u00fck Dil Modelleri (LLM) ve \u00dcretim<\/h3>\n
RAG mimarisinin \u00fcretim (generation) k\u0131sm\u0131n\u0131 olu\u015fturan B\u00fcy\u00fck Dil Modelleri (LLM’ler), geri \u00e7a\u011fr\u0131lan ba\u011flam\u0131 kullanarak kullan\u0131c\u0131n\u0131n sorusuna anlaml\u0131 ve ba\u011flama uygun bir yan\u0131t \u00fcretir. \u00dcretim ortam\u0131nda kullan\u0131labilecek LLM se\u00e7enekleri \u015funlard\u0131r:<\/p>\n
\n- API Tabanl\u0131 LLM’ler:<\/strong> OpenAI API (GPT-3.5, GPT-4), Anthropic Claude, Google Gemini gibi hizmetler, y\u00fcksek kaliteli yan\u0131tlar sunar ve altyap\u0131 y\u00f6netimi y\u00fck\u00fcn\u00fc ortadan kald\u0131r\u0131r. Ancak, kullan\u0131m ba\u015f\u0131na maliyetleri ve veri gizlili\u011fi endi\u015feleri olabilir.<\/li>\n
- Kendi Kendine Bar\u0131nd\u0131r\u0131lan (Self-Hosted) LLM’ler:<\/strong> Llama 2, Mistral, Falcon gibi a\u00e7\u0131k kaynakl\u0131 modeller, DigitalOcean Droplet’leri veya Kubernetes k\u00fcmeleri \u00fczerinde bar\u0131nd\u0131r\u0131labilir. Bu yakla\u015f\u0131m, veri gizlili\u011fi \u00fczerinde daha fazla kontrol sa\u011flar ve uzun vadede maliyetleri d\u00fc\u015f\u00fcrebilir, ancak altyap\u0131 y\u00f6netimi ve modelin performans\u0131n\u0131 optimize etme sorumlulu\u011funu beraberinde getirir.<\/li>\n<\/ul>\n
LLM’e g\u00f6nderilen istem (prompt), genellikle kullan\u0131c\u0131n\u0131n sorusu ile birlikte geri \u00e7a\u011fr\u0131lan metin par\u00e7alar\u0131n\u0131 i\u00e7erir. Bu, LLM’in “bu bilgiler \u0131\u015f\u0131\u011f\u0131nda \u015fu soruyu yan\u0131tla” \u015feklinde y\u00f6nlendirilmesini sa\u011flar.<\/p>\n
Orkestrasyon ve API Katman\u0131<\/h3>\n
RAG sisteminin t\u00fcm bu bile\u015fenlerini bir araya getiren ve aralar\u0131ndaki ileti\u015fimi y\u00f6neten katman, orkestrasyon katman\u0131d\u0131r. Bu katman, kullan\u0131c\u0131n\u0131n sorgusunu al\u0131r, embedding ve geri \u00e7a\u011f\u0131rma s\u00fcre\u00e7lerini tetikler, LLM’e uygun istemi olu\u015fturur ve son olarak LLM’den gelen yan\u0131t\u0131 kullan\u0131c\u0131ya geri d\u00f6nd\u00fcr\u00fcr.<\/p>\n
\n- Orkestrasyon \u00c7er\u00e7eveleri:<\/strong> LangChain ve LlamaIndex gibi k\u00fct\u00fcphaneler, RAG pipeline’lar\u0131n\u0131 olu\u015fturmak i\u00e7in g\u00fc\u00e7l\u00fc ve esnek ara\u00e7lar sunar. Bu \u00e7er\u00e7eveler, farkl\u0131 LLM’ler, vekt\u00f6r veritabanlar\u0131 ve veri y\u00fckleyicileri aras\u0131nda kolay entegrasyon sa\u011flar.<\/li>\n
- API Katman\u0131:<\/strong> RAG asistan\u0131n\u0131n d\u0131\u015f d\u00fcnya ile etkile\u015fim kurmas\u0131n\u0131 sa\u011flayan bir REST API katman\u0131 gereklidir. FastAPI veya Flask gibi Python web \u00e7er\u00e7eveleri, h\u0131zl\u0131 ve \u00f6l\u00e7eklenebilir API’ler olu\u015fturmak i\u00e7in idealdir. Bu API, mobil uygulamalardan web aray\u00fczlerine kadar \u00e7e\u015fitli istemcilerin asistanla ileti\u015fim kurmas\u0131n\u0131 sa\u011flar.<\/li>\n<\/ul>\n
Bu bile\u015fenlerin her biri, bir RAG asistan\u0131n\u0131n ba\u015far\u0131s\u0131 i\u00e7in kritik \u00f6neme sahiptir. Do\u011fru bile\u015fenleri se\u00e7mek ve bunlar\u0131 DigitalOcean’\u0131n sundu\u011fu esnek altyap\u0131 \u00fczerinde verimli bir \u015fekilde entegre etmek, g\u00fc\u00e7l\u00fc ve g\u00fcvenilir bir \u00fcretim RAG sistemi olu\u015fturman\u0131n anahtar\u0131d\u0131r.<\/p>\n
DigitalOcean \u00dczerinde RAG Asistan\u0131 Kurulumu: Ad\u0131m Ad\u0131m Rehber<\/h2>\n
\u015eimdi teoriden prati\u011fe ge\u00e7me zaman\u0131. DigitalOcean’\u0131n sundu\u011fu basit ve g\u00fc\u00e7l\u00fc altyap\u0131y\u0131 kullanarak bir \u00fcretim RAG asistan\u0131n\u0131 nas\u0131l kuraca\u011f\u0131m\u0131z\u0131 ad\u0131m ad\u0131m inceleyece\u011fiz. Bu rehber, temel bir RAG sistemini \u00e7al\u0131\u015f\u0131r duruma getirmek i\u00e7in gerekli olan t\u00fcm ad\u0131mlar\u0131 kapsayacak ve DigitalOcean’\u0131n \u00e7e\u015fitli hizmetlerini nas\u0131l entegre edece\u011fimizi g\u00f6sterecektir.<\/p>\n
Dijital Okyanus Ortam\u0131n\u0131n Haz\u0131rlanmas\u0131<\/h3>\n
\u0130lk ad\u0131m, RAG asistan\u0131m\u0131z\u0131n \u00e7al\u0131\u015faca\u011f\u0131 temel altyap\u0131y\u0131 DigitalOcean \u00fczerinde olu\u015fturmakt\u0131r. Bir Droplet (sanal sunucu), vekt\u00f6r veritaban\u0131, RAG uygulama kodumuz ve API’miz i\u00e7in sa\u011flam bir temel sa\u011flayacakt\u0131r.<\/p>\n
\n- Droplet Olu\u015fturma:<\/strong> DigitalOcean kontrol panelinden veya
doctl<\/code> CLI arac\u0131yla yeni bir Droplet olu\u015fturun.\n\n- \u0130\u015fletim Sistemi:<\/strong> Ubuntu 22.04 LTS tercih edilir.<\/li>\n
- Plan:<\/strong> Ba\u015flang\u0131\u00e7 i\u00e7in 4GB RAM \/ 2 CPU Droplet yeterli olabilir. Uygulaman\u0131z\u0131n karma\u015f\u0131kl\u0131\u011f\u0131na ve beklenen y\u00fcke g\u00f6re daha b\u00fcy\u00fck bir plan se\u00e7ebilirsiniz.<\/li>\n
- B\u00f6lge:<\/strong> Kullan\u0131c\u0131lar\u0131n\u0131za en yak\u0131n co\u011frafi b\u00f6lgeyi se\u00e7erek gecikme s\u00fcresini azalt\u0131n.<\/li>\n
- Kimlik Do\u011frulama:<\/strong> SSH anahtar\u0131 eklemeyi unutmay\u0131n.<\/li>\n<\/ul>\n<\/li>\n
- G\u00fcvenlik Duvar\u0131 (Firewall) Yap\u0131land\u0131rmas\u0131:<\/strong> Droplet’inizin g\u00fcvenli\u011fini sa\u011flamak i\u00e7in bir g\u00fcvenlik duvar\u0131 olu\u015fturun.\n
\n- Gelen Kurallar:<\/strong>\n
\n- SSH (Port 22): Sadece kendi IP adresinizden eri\u015fime izin verin.<\/li>\n
- HTTP (Port 80) \/ HTTPS (Port 443): Web uygulaman\u0131z veya API’niz i\u00e7in t\u00fcm IP adreslerinden eri\u015fime izin verin.<\/li>\n
- Uygulaman\u0131z\u0131n kullanaca\u011f\u0131 di\u011fer portlar (\u00f6rne\u011fin, FastAPI i\u00e7in 8000) i\u00e7in de kural ekleyin, ancak bunlar\u0131 sadece dahili a\u011fdan veya belirli IP’lerden eri\u015filebilir k\u0131lmaya \u00e7al\u0131\u015f\u0131n.<\/li>\n<\/ul>\n<\/li>\n<\/ul>\n<\/li>\n
- Docker ve Docker Compose Kurulumu:<\/strong> Uygulama bile\u015fenlerimizi izole ve ta\u015f\u0131nabilir bir \u015fekilde \u00e7al\u0131\u015ft\u0131rmak i\u00e7in Docker ve Docker Compose kullanaca\u011f\u0131z. Droplet’e SSH ile ba\u011flan\u0131n ve a\u015fa\u011f\u0131daki komutlar\u0131 \u00e7al\u0131\u015ft\u0131r\u0131n:\n
\nsudo apt update\nsudo apt install docker.io docker-compose -y\nsudo usermod -aG docker ${USER}\n# De\u011fi\u015fikliklerin etkili olmas\u0131 i\u00e7in oturumu kapat\u0131p tekrar a\u00e7\u0131n veya a\u015fa\u011f\u0131daki komutu \u00e7al\u0131\u015ft\u0131r\u0131n:\nnewgrp docker\n <\/code><\/pre>\n<\/li>\n<\/ol>\nVekt\u00f6r Veritaban\u0131 ve Embedding Servisi Da\u011f\u0131t\u0131m\u0131<\/h3>\n
RAG asistan\u0131m\u0131z\u0131n bellek ve bilgi depolama katman\u0131n\u0131 olu\u015fturaca\u011f\u0131z. Bu \u00f6rnekte, DigitalOcean Droplet’i \u00fczerinde kendi kendine bar\u0131nd\u0131r\u0131labilen, hafif ve kullan\u0131m\u0131 kolay bir vekt\u00f6r veritaban\u0131 olan ChromaDB’yi kullanaca\u011f\u0131z.<\/p>\n
\n- ChromaDB i\u00e7in Docker Compose Yap\u0131land\u0131rmas\u0131:<\/strong> Droplet’inizde bir dizin olu\u015fturun (\u00f6rne\u011fin,
~\/rag-assistant<\/code>) ve i\u00e7ine docker-compose.yml<\/code> ad\u0131nda bir dosya olu\u015fturun:\n\nversion: '3.8'\nservices:\n chroma:\n image: ghcr.io\/chroma-core\/chroma:latest\n volumes:\n - chroma_data:\/chroma\/data\n ports:\n - \"8000:8000\" # ChromaDB'nin varsay\u0131lan portu\n environment:\n - CHROMA_API_IMPL=uvicorn\n - CHROMA_SERVER_HOST=0.0.0.0\n - CHROMA_SERVER_HTTP_PORT=8000\n restart: always\n\nvolumes:\n chroma_data:\n <\/code><\/pre>\nBu yap\u0131land\u0131rma, ChromaDB’yi Docker konteyneri olarak \u00e7al\u0131\u015ft\u0131r\u0131r ve verilerini chroma_data<\/code> adl\u0131 bir Docker volume’\u00fcnde kal\u0131c\u0131 hale getirir. 8000 portunu d\u0131\u015f d\u00fcnyaya a\u00e7\u0131yoruz, ancak g\u00fcvenlik duvar\u0131n\u0131zda sadece uygulaman\u0131z\u0131n eri\u015fimine izin vermeniz \u00f6nemlidir.<\/p>\n<\/li>\n- ChromaDB’yi Ba\u015flatma:<\/strong>
docker-compose.yml<\/code> dosyas\u0131n\u0131n bulundu\u011fu dizinde a\u015fa\u011f\u0131daki komutu \u00e7al\u0131\u015ft\u0131r\u0131n:\n\ndocker-compose up -d\n <\/code><\/pre>\nBu komut, ChromaDB konteynerini arka planda ba\u015flatacakt\u0131r.<\/p>\n<\/li>\n<\/ol>\n
RAG Uygulamas\u0131n\u0131n Geli\u015ftirilmesi ve Da\u011f\u0131t\u0131m\u0131<\/h3>\n
\u015eimdi as\u0131l RAG mant\u0131\u011f\u0131n\u0131 i\u00e7eren Python uygulamas\u0131n\u0131 geli\u015ftirece\u011fiz. LangChain k\u00fct\u00fcphanesini kullanarak bir RAG pipeline’\u0131 olu\u015fturacak ve FastAPI ile bir API sunaca\u011f\u0131z.<\/p>\n
\n- Proje Yap\u0131s\u0131 ve Ba\u011f\u0131ml\u0131l\u0131klar:<\/strong> Droplet’inizde (veya yerel geli\u015ftirme ortam\u0131n\u0131zda) projeniz i\u00e7in bir dizin olu\u015fturun ve a\u015fa\u011f\u0131daki dosyalar\u0131 ekleyin:\n
\nrequirements.txt<\/code>:\n\nlangchain\nlangchain-community\nlangchain-openai\nfastapi\nuvicorn\npython-dotenv\nchromadb\n <\/code><\/pre>\n<\/li>\n.env<\/code>:\n\nOPENAI_API_KEY=\"sk-...\"\n <\/code><\/pre>\nOpenAI API anahtar\u0131n\u0131z\u0131 buraya ekleyin.<\/p>\n<\/li>\n
main.py<\/code>: RAG uygulaman\u0131z\u0131n ana kodu.<\/li>\ningest_data.py<\/code>: Veri y\u00fckleme ve indeksleme script’i.<\/li>\n<\/ul>\n<\/li>\n- Veri Y\u00fckleme ve \u0130ndeksleme (
ingest_data.py<\/code>):<\/strong>\nBu script, \u00f6rnek metin verilerini al\u0131r, b\u00f6ler, embedding’lerini olu\u015fturur ve ChromaDB’ye kaydeder.<\/p>\n
\nimport os\nfrom dotenv import load_dotenv\nfrom langchain_community.document_loaders import TextLoader\nfrom langchain_community.embeddings import OpenAIEmbeddings\nfrom langchain.text_splitter import RecursiveCharacterTextSplitter\nfrom langchain_community.vectorstores import Chroma\n\nload_dotenv()\n\n# \u00d6rnek veri\nsample_text = \"\"\"\nDigitalOcean, geli\u015ftiricilere bulut altyap\u0131 hizmetleri sunan bir \u015firkettir.\nDroplet'ler, sanal \u00f6zel sunucular (VPS) olarak bilinir ve h\u0131zl\u0131 bir \u015fekilde da\u011f\u0131t\u0131labilir.\nManaged Databases, veritaban\u0131 y\u00f6netimi y\u00fck\u00fcn\u00fc ortadan kald\u0131r\u0131r.\nKubernetes, konteynerli uygulamalar\u0131 y\u00f6netmek i\u00e7in pop\u00fcler bir orkestrasyon arac\u0131d\u0131r.\nRAG asistanlar\u0131, LLM'lerin bilgi eksikliklerini gidermek i\u00e7in harici verileri kullan\u0131r.\nBu makale, DigitalOcean \u00fczerinde \u00fcretim RAG asistan\u0131 kurmay\u0131 anlatmaktad\u0131r.\n\"\"\"\n\ndef ingest_data():\n # Ge\u00e7ici bir dosya olu\u015fturup \u00f6rnek metni i\u00e7ine yazal\u0131m\n with open(\"sample_doc.txt\", \"w\") as f:\n f.write(sample_text)\n\n loader = TextLoader(\"sample_doc.txt\")\n documents = loader.load()\n\n text_splitter = RecursiveCharacterTextSplitter(chunk_size=1000, chunk_overlap=200)\n docs = text_splitter.split_documents(documents)\n\n embeddings = OpenAIEmbeddings(model=\"text-embedding-ada-002\")\n\n # ChromaDB istemcisini ba\u015flat\n # Bu, Docker konteyneri i\u00e7inde \u00e7al\u0131\u015fan ChromaDB'ye ba\u011flan\u0131r\n vectorstore = Chroma.from_documents(\n documents=docs,\n embedding=embeddings,\n persist_directory=\".\/chroma_db\", # Veritaban\u0131n\u0131n kal\u0131c\u0131 olaca\u011f\u0131 dizin\n client_settings={\"host\": \"chroma\", \"port\": 8000} # Docker Compose servisine g\u00f6re host\n )\n vectorstore.persist()\n print(\"Veriler ba\u015far\u0131yla ChromaDB'ye y\u00fcklendi ve indekslendi.\")\n\nif __name__ == \"__main__\":\n ingest_data()\n <\/code><\/pre>\nBu script’i \u00e7al\u0131\u015ft\u0131rd\u0131ktan sonra, .\/chroma_db<\/code> dizininde ChromaDB verileri olu\u015facak ve vekt\u00f6r veritaban\u0131n\u0131z haz\u0131r olacakt\u0131r.<\/p>\n<\/li>\n- RAG API Uygulamas\u0131 (
main.py<\/code>):<\/strong>\nFastAPI kullanarak bir endpoint olu\u015fturaca\u011f\u0131z. Bu endpoint, gelen bir sorguyu i\u015fleyecek, ChromaDB’den ilgili bilgiyi \u00e7ekecek ve bir LLM kullanarak yan\u0131t \u00fcretecektir.<\/p>\n
\nimport os\nfrom dotenv import load_dotenv\nfrom fastapi import FastAPI, HTTPException\nfrom pydantic import BaseModel\nfrom langchain_community.vectorstores import Chroma\nfrom langchain_community.embeddings import OpenAIEmbeddings\nfrom langchain_openai import ChatOpenAI\nfrom langchain.chains import RetrievalQA\n\nload_dotenv()\n\napp = FastAPI(title=\"DigitalOcean RAG Assistant API\")\n\n# Embedding ve LLM modellerini ba\u015flat\nembeddings = OpenAIEmbeddings(model=\"text-embedding-ada-002\")\nllm = ChatOpenAI(model_name=\"gpt-3.5-turbo\", temperature=0.7)\n\n# ChromaDB istemcisini ba\u015flat\n# Bu, Docker konteyneri i\u00e7inde \u00e7al\u0131\u015fan ChromaDB'ye ba\u011flan\u0131r\nvectorstore = Chroma(\n persist_directory=\".\/chroma_db\",\n embedding_function=embeddings,\n client_settings={\"host\": \"chroma\", \"port\": 8000}\n)\n\n# RetrievalQA zincirini olu\u015ftur\nqa_chain = RetrievalQA.from_chain_type(\n llm=llm,\n chain_type=\"stuff\",\n retriever=vectorstore.as_retriever(),\n return_source_documents=True\n)\n\nclass QueryRequest(BaseModel):\n query: str\n\n@app.post(\"\/ask\")\nasync def ask_rag(request: QueryRequest):\n try:\n response = qa_chain.invoke({\"query\": request.query})\n return {\n \"answer\": response[\"result\"],\n \"source_documents\": [{\"page_content\": doc.page_content, \"metadata\": doc.metadata} for doc in response[\"source_documents\"]]\n }\n except Exception as e:\n raise HTTPException(status_code=500, detail=str(e))\n\nif __name__ == \"__main__\":\n import uvicorn\n uvicorn.run(app, host=\"0.0.0.0\", port=8001)\n <\/code><\/pre>\nBu kod, \/ask<\/code> endpoint’ine gelen sorgular\u0131 i\u015fler. ChromaDB’den ilgili belgeleri al\u0131r, bunlar\u0131 OpenAI GPT-3.5 Turbo modeline g\u00f6nderir ve yan\u0131t\u0131 kaynak belgelerle birlikte d\u00f6nd\u00fcr\u00fcr.<\/p>\n<\/li>\n- Uygulamay\u0131 Dockerize Etme:<\/strong> RAG API’mizi de bir Docker konteyneri i\u00e7inde \u00e7al\u0131\u015ft\u0131rmak i\u00e7in
Dockerfile<\/code> ve docker-compose.yml<\/code> dosyam\u0131z\u0131 g\u00fcncelleyelim.\nDockerfile<\/code> (Proje ana dizininizde):<\/p>\n\nFROM python:3.10-slim-buster\n\nWORKDIR \/app\n\nCOPY requirements.txt .\nRUN pip install --no-cache-dir -r requirements.txt\n\nCOPY .env .\nCOPY main.py .\nCOPY ingest_data.py .\nCOPY chroma_db .\/chroma_db # ChromaDB verilerini kopyala\n\nEXPOSE 8001\n\nCMD [\"uvicorn\", \"main:app\", \"--host\", \"0.0.0.0\", \"--port\", \"8001\"]\n <\/code><\/pre>\ndocker-compose.yml<\/code> (G\u00fcncellenmi\u015f hali):<\/p>\n\nversion: '3.8'\nservices:\n chroma:\n image: ghcr.io\/chroma-core\/chroma:latest\n volumes:\n - chroma_data:\/chroma\/data\n ports:\n - \"8000:8000\"\n environment:\n - CHROMA_API_IMPL=uvicorn\n - CHROMA_SERVER_HOST=0.0.0.0\n - CHROMA_SERVER_HTTP_PORT=8000\n restart: always\n\n rag_api:\n build: .\n ports:\n - \"8001:8001\"\n environment:\n - OPENAI_API_KEY=${OPENAI_API_KEY} # .env dosyas\u0131ndan anahtar\u0131 ge\u00e7irme\n depends_on:\n - chroma\n volumes:\n - .\/chroma_db:\/app\/chroma_db # ChromaDB verilerini konteynere ba\u011fla\n restart: always\n\nvolumes:\n chroma_data:\n <\/code><\/pre>\nBu yap\u0131land\u0131rma ile hem ChromaDB hem de RAG API’miz ayr\u0131 Docker konteynerleri olarak \u00e7al\u0131\u015facak ve birbirleriyle Docker’\u0131n dahili a\u011f\u0131 \u00fczerinden (chroma<\/code> hostname’i ile) ileti\u015fim kurabileceklerdir.<\/p>\n<\/li>\n- Uygulamay\u0131 Da\u011f\u0131tma:<\/strong>\n
T\u00fcm dosyalar\u0131 (.env<\/code>, requirements.txt<\/code>, main.py<\/code>, ingest_data.py<\/code>, Dockerfile<\/code>, docker-compose.yml<\/code>) Droplet’inizdeki proje dizinine y\u00fckleyin. Ard\u0131ndan:<\/p>\n\n- Verileri indekslemek i\u00e7in:\n
\npython ingest_data.py\n <\/code><\/pre>\nBu komut, chroma_db<\/code> dizinini olu\u015fturacak ve vekt\u00f6r verilerini i\u00e7ine yazacakt\u0131r.<\/p>\n<\/li>\n- Docker Compose ile t\u00fcm servisleri ba\u015flat\u0131n:\n
\ndocker-compose up --build -d\n <\/code><\/pre>\n--build<\/code> bayra\u011f\u0131, Dockerfile<\/code>‘\u0131 kullanarak rag_api<\/code> imaj\u0131n\u0131 olu\u015fturur. -d<\/code> ise konteynerleri arka planda \u00e7al\u0131\u015ft\u0131r\u0131r.<\/p>\n<\/li>\n<\/ol>\nArt\u0131k RAG asistan\u0131n\u0131z\u0131n API’si, Droplet’inizin IP adresi ve 8001 portu \u00fczerinden eri\u015filebilir durumda olmal\u0131d\u0131r (\u00f6rne\u011fin, http:\/\/your_droplet_ip:8001\/ask<\/code>).<\/p>\n<\/li>\n<\/ol>\nS\u00fcrekli Entegrasyon ve Da\u011f\u0131t\u0131m (CI\/CD)<\/h3>\n
\u00dcretim ortam\u0131nda, kod de\u011fi\u015fikliklerini h\u0131zl\u0131 ve g\u00fcvenli bir \u015fekilde da\u011f\u0131tmak i\u00e7in CI\/CD pipeline’lar\u0131 kritik \u00f6neme sahiptir. GitHub Actions veya GitLab CI gibi ara\u00e7lar, bu s\u00fcreci otomatikle\u015ftirebilir. Basit bir CI\/CD \u00f6rne\u011fi \u015funlar\u0131 i\u00e7erebilir:<\/p>\n
\n- Kod De\u011fi\u015fiklikleri:<\/strong> Geli\u015ftiriciler kodlar\u0131n\u0131 GitHub\/GitLab’e push eder.<\/li>\n
- Testler:<\/strong> CI\/CD arac\u0131, otomatik testleri (birim testleri, entegrasyon testleri) \u00e7al\u0131\u015ft\u0131r\u0131r.<\/li>\n
- Docker \u0130maj\u0131 Olu\u015fturma:<\/strong> Testler ba\u015far\u0131l\u0131 olursa, uygulaman\u0131n yeni bir Docker imaj\u0131 olu\u015fturulur ve bir konteyner kay\u0131t defterine (\u00f6rne\u011fin, Docker Hub veya DigitalOcean Container Registry) push edilir.<\/li>\n
- Da\u011f\u0131t\u0131m:<\/strong> Yeni imaj, DigitalOcean Droplet’ine \u00e7ekilir ve
docker-compose up -d<\/code> komutu ile uygulama g\u00fcncellenir. Bu ad\u0131m, genellikle SSH \u00fczerinden veya DigitalOcean’\u0131n API’si kullan\u0131larak otomatize edilir.<\/li>\n<\/ul>\nBu yap\u0131, geli\u015ftirme s\u00fcrecini h\u0131zland\u0131r\u0131r, hatalar\u0131 erken yakalar ve \u00fcretim ortam\u0131n\u0131n tutarl\u0131 kalmas\u0131n\u0131 sa\u011flar. DigitalOcean’\u0131n basit yap\u0131s\u0131, bu t\u00fcr bir CI\/CD pipeline’\u0131n\u0131 nispeten kolayca entegre etmenize olanak tan\u0131r.<\/p>\n
Performans, \u00d6l\u00e7eklenebilirlik ve Maliyet Optimizasyonu<\/h2>\n
Bir RAG asistan\u0131n\u0131 \u00fcretim ortam\u0131na da\u011f\u0131tmak sadece \u00e7al\u0131\u015f\u0131r hale getirmekle bitmez. Ger\u00e7ek d\u00fcnya senaryolar\u0131nda, performans, \u00f6l\u00e7eklenebilirlik ve maliyet etkinli\u011fi, sistemin uzun vadeli ba\u015far\u0131s\u0131 i\u00e7in kritik \u00f6neme sahiptir. DigitalOcean \u00fczerinde bu fakt\u00f6rleri nas\u0131l optimize edece\u011fimizi inceleyelim.<\/p>\n
Performans Metrikleri ve \u0130zleme<\/h3>\n
RAG asistan\u0131n\u0131z\u0131n ne kadar iyi \u00e7al\u0131\u015ft\u0131\u011f\u0131n\u0131 anlamak i\u00e7in temel performans metriklerini izlemeniz gerekir:<\/p>\n
\n- Yan\u0131t S\u00fcresi (Latency):<\/strong> Kullan\u0131c\u0131n\u0131n bir sorgu g\u00f6nderip yan\u0131t almas\u0131 aras\u0131nda ge\u00e7en s\u00fcre. Hedefiniz genellikle 1-3 saniye aras\u0131nda olmal\u0131d\u0131r. Uzun yan\u0131t s\u00fcreleri, kullan\u0131c\u0131 deneyimini olumsuz etkiler.<\/li>\n
- Do\u011fruluk (Accuracy):<\/strong> RAG asistan\u0131n\u0131n verdi\u011fi yan\u0131tlar\u0131n ne kadar do\u011fru ve alakal\u0131 oldu\u011fu. Bu, geri \u00e7a\u011fr\u0131lan belgelerin kalitesine ve LLM’in bunlar\u0131 ne kadar iyi sentezledi\u011fine ba\u011fl\u0131d\u0131r.<\/li>\n
- Kullan\u0131labilirlik (Availability):<\/strong> Sistemin ne kadar s\u00fcreyle eri\u015filebilir oldu\u011fu. Hedefiniz %99.9 veya daha y\u00fcksek olmal\u0131d\u0131r.<\/li>\n
- LLM Token Kullan\u0131m\u0131:<\/strong> Her sorgu i\u00e7in harcanan token say\u0131s\u0131. Bu, do\u011frudan maliyetleri etkiler ve optimize edilmesi gereken bir metrik olabilir.<\/li>\n<\/ul>\n
DigitalOcean, Droplet’leriniz ve di\u011fer kaynaklar\u0131n\u0131z i\u00e7in temel izleme yetenekleri sunar. CPU kullan\u0131m\u0131, RAM kullan\u0131m\u0131, disk I\/O ve a\u011f trafi\u011fi gibi metrikleri izleyebilirsiniz. Daha geli\u015fmi\u015f izleme i\u00e7in Prometheus ve Grafana gibi a\u00e7\u0131k kaynakl\u0131 ara\u00e7lar\u0131 DigitalOcean Droplet’leri \u00fczerine kurabilir veya y\u00f6netilen izleme \u00e7\u00f6z\u00fcmlerini entegre edebilirsiniz. Uygulama seviyesinde izleme i\u00e7in, Python uygulaman\u0131za loglama ve metrik toplama k\u00fct\u00fcphaneleri (\u00f6rne\u011fin, Prometheus client) entegre etmelisiniz.<\/p>\n
\u00d6l\u00e7eklenebilirlik Stratejileri<\/h3>\n
Kullan\u0131c\u0131 taban\u0131n\u0131z b\u00fcy\u00fcd\u00fck\u00e7e veya veri miktar\u0131n\u0131z artt\u0131k\u00e7a RAG asistan\u0131n\u0131z\u0131n \u00f6l\u00e7eklenmesi gerekecektir. DigitalOcean, \u00e7e\u015fitli \u00f6l\u00e7eklenebilirlik se\u00e7enekleri sunar:<\/p>\n
\n- Yatay \u00d6l\u00e7ekleme (Horizontal Scaling):<\/strong> Bu, ayn\u0131 uygulaman\u0131n birden fazla kopyas\u0131n\u0131 \u00e7al\u0131\u015ft\u0131rmak anlam\u0131na gelir.\n
\n- Web API’si i\u00e7in:<\/strong> RAG API’nizin Docker konteynerini birden fazla Droplet \u00fczerinde \u00e7al\u0131\u015ft\u0131rabilir ve DigitalOcean Load Balancer kullanarak gelen trafi\u011fi bu Droplet’ler aras\u0131nda da\u011f\u0131tabilirsiniz. Bu, hem performans\u0131 art\u0131r\u0131r hem de tek hata noktas\u0131n\u0131 ortadan kald\u0131r\u0131r.<\/li>\n
- Vekt\u00f6r Veritaban\u0131 i\u00e7in:<\/strong> ChromaDB gibi baz\u0131 vekt\u00f6r veritabanlar\u0131 tek ba\u015f\u0131na \u00f6l\u00e7eklenmeyebilir. Daha b\u00fcy\u00fck \u00f6l\u00e7ekler i\u00e7in Pinecone gibi y\u00f6netilen hizmetlere ge\u00e7i\u015f yapmak veya Milvus\/Qdrant gibi da\u011f\u0131t\u0131k mimariye sahip vekt\u00f6r veritabanlar\u0131n\u0131 Kubernetes k\u00fcmesi \u00fczerinde \u00e7al\u0131\u015ft\u0131rmak gerekebilir. DigitalOcean Kubernetes (DOKS), bu t\u00fcr karma\u015f\u0131k da\u011f\u0131t\u0131k sistemler i\u00e7in ideal bir platformdur.<\/li>\n<\/ul>\n<\/li>\n
- Dikey \u00d6l\u00e7ekleme (Vertical Scaling):<\/strong> Daha g\u00fc\u00e7l\u00fc bir Droplet’e ge\u00e7erek mevcut kaynaklar\u0131 art\u0131rmak anlam\u0131na gelir (daha fazla CPU, RAM). Bu, h\u0131zl\u0131 bir \u00e7\u00f6z\u00fcm olabilir ancak belirli bir noktadan sonra maliyet etkinli\u011fini yitirir ve yatay \u00f6l\u00e7ekleme kadar esnek de\u011fildir.<\/li>\n
- LLM API Y\u00f6netimi:<\/strong> E\u011fer OpenAI gibi d\u0131\u015f LLM sa\u011flay\u0131c\u0131lar\u0131 kullan\u0131yorsan\u0131z, API limitlerini ve kullan\u0131m kotalar\u0131n\u0131 g\u00f6z \u00f6n\u00fcnde bulundurmal\u0131s\u0131n\u0131z. Y\u00fcksek hacimli istekler i\u00e7in birden fazla API anahtar\u0131 kullanmak veya sa\u011flay\u0131c\u0131n\u0131zla daha y\u00fcksek limitler i\u00e7in ileti\u015fime ge\u00e7mek gerekebilir. Kendi kendine bar\u0131nd\u0131r\u0131lan LLM’ler i\u00e7in, modelin \u00e7al\u0131\u015ft\u0131\u011f\u0131 Droplet’in GPU kaynaklar\u0131 ve performans\u0131 kritik olacakt\u0131r.<\/li>\n<\/ul>\n
\u00d6l\u00e7eklenebilirlik stratejilerinizi belirlerken, her bile\u015fenin (veri i\u015fleme, vekt\u00f6r veritaban\u0131, LLM \u00e7a\u011fr\u0131lar\u0131, API) ba\u011f\u0131ms\u0131z olarak \u00f6l\u00e7eklenebilir oldu\u011fundan emin olun. Bu, darbo\u011fazlar\u0131 \u00f6nlemenize ve kaynaklar\u0131 daha verimli kullanman\u0131za yard\u0131mc\u0131 olacakt\u0131r.<\/p>\n
Maliyet Y\u00f6netimi<\/h3>\n
Bulut altyap\u0131s\u0131nda maliyetler h\u0131zla artabilir. DigitalOcean \u00fczerinde RAG asistan\u0131n\u0131z\u0131n maliyetlerini optimize etmek i\u00e7in \u015fu noktalara dikkat edin:<\/p>\n
\n- Droplet Boyutlar\u0131:<\/strong> \u0130htiya\u00e7 duydu\u011funuzdan daha b\u00fcy\u00fck Droplet’ler kullanmaktan ka\u00e7\u0131n\u0131n. \u0130zleme metriklerinize g\u00f6re Droplet boyutunu ayarlay\u0131n. Bursting CPU Droplet’leri, aral\u0131kl\u0131 yo\u011funluktaki i\u015f y\u00fckleri i\u00e7in daha uygun maliyetli olabilir.<\/li>\n
- Depolama Se\u00e7enekleri:<\/strong> Vekt\u00f6r veritaban\u0131 i\u00e7in kullan\u0131lan depolama t\u00fcr\u00fc maliyetleri etkiler. DigitalOcean Block Storage, Droplet’lere esnek depolama eklemek i\u00e7in kullan\u0131labilir. Daha az eri\u015filen veriler i\u00e7in Spaces (object storage) kullanmay\u0131 d\u00fc\u015f\u00fcn\u00fcn.<\/li>\n
- Y\u00f6netilen Veritabanlar\u0131:<\/strong> E\u011fer ili\u015fkisel bir veritaban\u0131na veya Redis’e ihtiyac\u0131n\u0131z varsa, DigitalOcean Managed Databases hizmetleri y\u00f6netimi kolayla\u015ft\u0131r\u0131r ancak kendi kendine bar\u0131nd\u0131rmaya g\u00f6re daha maliyetli olabilir. Se\u00e7iminizi, operasyonel y\u00fck ve maliyet dengesine g\u00f6re yap\u0131n.<\/li>\n
- LLM API Maliyetleri:<\/strong> Harici LLM API’leri (OpenAI gibi) kullan\u0131m ba\u015f\u0131na \u00fccretlendirilir. Geri \u00e7a\u011f\u0131rma mekanizman\u0131z\u0131n etkinli\u011fi, LLM’e g\u00f6nderilen token say\u0131s\u0131n\u0131 do\u011frudan etkiler. Daha alakal\u0131 belgeler geri \u00e7a\u011f\u0131rarak ve istemlerinizi optimize ederek token kullan\u0131m\u0131n\u0131 azaltabilirsiniz. A\u00e7\u0131k kaynakl\u0131 LLM’leri kendi Droplet’lerinizde bar\u0131nd\u0131rmak, uzun vadede API maliyetlerini d\u00fc\u015f\u00fcrebilir, ancak bu sefer de Droplet maliyetleri (\u00f6zellikle GPU’lu Droplet’ler) artacakt\u0131r.<\/li>\n
- Otomatik Kapatma\/Ba\u015flatma:<\/strong> Geli\u015ftirme veya test ortamlar\u0131 i\u00e7in, kullan\u0131lmad\u0131klar\u0131 zaman Droplet’leri otomatik olarak kapat\u0131p ba\u015flatmak maliyet tasarrufu sa\u011flayabilir.<\/li>\n<\/ul>\n
Maliyetleri d\u00fczenli olarak izleyin ve b\u00fct\u00e7enize uygun optimizasyonlar yap\u0131n. DigitalOcean’\u0131n basit faturaland\u0131rma yap\u0131s\u0131, maliyetleri \u015feffaf bir \u015fekilde takip etmenizi kolayla\u015ft\u0131r\u0131r.<\/p>\n
Sonu\u00e7 ve S\u0131k\u00e7a Sorulan Sorular<\/h2>\n
Bu makalede, DigitalOcean \u00fczerinde \u00fcretim ortam\u0131na uygun bir RAG asistan\u0131 olu\u015fturman\u0131n t\u00fcm a\u015famalar\u0131n\u0131 ele ald\u0131k. Temel RAG mimarisinden, DigitalOcean ortam\u0131n\u0131n haz\u0131rlanmas\u0131na, vekt\u00f6r veritaban\u0131n\u0131n ve RAG uygulamas\u0131n\u0131n da\u011f\u0131t\u0131m\u0131na kadar ad\u0131m ad\u0131m bir rehber sunduk. Ayr\u0131ca, sistemin uzun vadeli ba\u015far\u0131s\u0131 i\u00e7in kritik olan performans, \u00f6l\u00e7eklenebilirlik ve maliyet optimizasyonu stratejilerini de detayl\u0131 bir \u015fekilde inceledik. RAG asistanlar\u0131, LLM’lerin s\u0131n\u0131rl\u0131l\u0131klar\u0131n\u0131 a\u015farak, do\u011fru, g\u00fcncel ve ba\u011flama uygun yan\u0131tlar \u00fcretme potansiyeliyle modern yapay zeka uygulamalar\u0131 i\u00e7in vazge\u00e7ilmez bir ara\u00e7 haline gelmi\u015ftir. DigitalOcean’\u0131n esnek, uygun maliyetli ve geli\u015ftirici dostu altyap\u0131s\u0131, bu g\u00fc\u00e7l\u00fc sistemleri h\u0131zl\u0131 ve verimli bir \u015fekilde hayata ge\u00e7irmek i\u00e7in ideal bir platform sunmaktad\u0131r. Gelecekte, RAG sistemlerinin daha da ak\u0131ll\u0131 hale gelmesi, farkl\u0131 modalitelerdeki verilerle (g\u00f6rsel, i\u015fitsel) \u00e7al\u0131\u015fabilmesi ve daha karma\u015f\u0131k ak\u0131l y\u00fcr\u00fctme yetenekleri kazanmas\u0131 beklenmektedir. Bu alandaki geli\u015fmeler, i\u015f d\u00fcnyas\u0131 ve g\u00fcnl\u00fck ya\u015fam i\u00e7in yeni f\u0131rsatlar yaratmaya devam edecektir.<\/p>\n
S\u0131k\u00e7a Sorulan Sorular (SSS)<\/h3>\n\n- S1: RAG asistan\u0131 i\u00e7in hangi DigitalOcean servisini kullanmal\u0131y\u0131m?<\/dt>\n
- Temel olarak, uygulaman\u0131z\u0131 bar\u0131nd\u0131rmak i\u00e7in Droplet’leri (sanal sunucular) kullanmal\u0131s\u0131n\u0131z. Vekt\u00f6r veritaban\u0131n\u0131z i\u00e7in kendi kendine bar\u0131nd\u0131r\u0131lan bir \u00e7\u00f6z\u00fcm (\u00f6rne\u011fin, ChromaDB veya Qdrant) Droplet \u00fczerinde \u00e7al\u0131\u015fabilir. Daha b\u00fcy\u00fck \u00f6l\u00e7ekler veya y\u00f6netilen hizmetler i\u00e7in DigitalOcean Kubernetes (DOKS) veya Managed Databases (e\u011fer RAG’in yan\u0131nda ba\u015fka bir veritaban\u0131na ihtiyac\u0131n\u0131z varsa) d\u00fc\u015f\u00fcnebilirsiniz. Trafik y\u00f6netimi ve \u00f6l\u00e7eklenebilirlik i\u00e7in Load Balancer’lar da faydal\u0131d\u0131r.<\/dd>\n
- S2: Kendi LLM’imi DigitalOcean’da bar\u0131nd\u0131rabilir miyim?<\/dt>\n
- Evet, Llama 2, Mistral gibi a\u00e7\u0131k kaynakl\u0131 LLM’leri DigitalOcean Droplet’leri \u00fczerinde bar\u0131nd\u0131rabilirsiniz. Ancak, bu modellerin \u00e7o\u011fu GPU gerektirdi\u011finden, DigitalOcean’\u0131n GPU’lu Droplet’leri \u015fu anda s\u0131n\u0131rl\u0131 say\u0131da b\u00f6lgede mevcuttur ve maliyetleri daha y\u00fcksektir. CPU tabanl\u0131 modeller veya daha k\u00fc\u00e7\u00fck modeller i\u00e7in standart Droplet’ler de kullan\u0131labilir, ancak performanslar\u0131 s\u0131n\u0131rl\u0131 olacakt\u0131r. Genellikle ba\u015flang\u0131\u00e7ta OpenAI gibi API tabanl\u0131 LLM’ler tercih edilir.<\/dd>\n
- S3: G\u00fcvenlik \u00f6nlemleri neler olmal\u0131?<\/dt>\n
- G\u00fcvenlik her zaman \u00f6ncelikli olmal\u0131d\u0131r. SSH anahtarlar\u0131 kullanarak Droplet’lere eri\u015fimi g\u00fcvence alt\u0131na al\u0131n, g\u00fcvenlik duvar\u0131 kurallar\u0131n\u0131 en az ayr\u0131cal\u0131k prensibiyle yap\u0131land\u0131r\u0131n (yaln\u0131zca gerekli portlar\u0131 a\u00e7\u0131n). Hassas bilgileri (API anahtarlar\u0131 gibi) ortam de\u011fi\u015fkenleri veya DigitalOcean’\u0131n Secrets Manager gibi g\u00fcvenli \u00e7\u00f6z\u00fcmleri arac\u0131l\u0131\u011f\u0131yla y\u00f6netin. Uygulama ba\u011f\u0131ml\u0131l\u0131klar\u0131n\u0131z\u0131 d\u00fczenli olarak g\u00fcncelleyin ve g\u00fcvenlik a\u00e7\u0131klar\u0131n\u0131 taray\u0131n.<\/dd>\n
- S4: Maliyetleri nas\u0131l d\u00fc\u015f\u00fcrebilirim?<\/dt>\n
- Maliyetleri d\u00fc\u015f\u00fcrmek i\u00e7in Droplet boyutlar\u0131n\u0131z\u0131 optimize edin, kullan\u0131lmayan kaynaklar\u0131 kapat\u0131n, daha uygun maliyetli a\u00e7\u0131k kaynakl\u0131 vekt\u00f6r veritabanlar\u0131n\u0131 tercih edin ve LLM API \u00e7a\u011fr\u0131lar\u0131n\u0131z\u0131 (token kullan\u0131m\u0131) minimize etmek i\u00e7in RAG geri \u00e7a\u011f\u0131rma stratejinizi geli\u015ftirin. CI\/CD s\u00fcre\u00e7lerinizde verimli Docker imajlar\u0131 olu\u015fturarak depolama maliyetlerini de d\u00fc\u015f\u00fcrebilirsiniz.<\/dd>\n
- S5: RAG asistan\u0131m\u0131n do\u011frulu\u011funu nas\u0131l art\u0131rabilirim?<\/dt>\n
- Do\u011frulu\u011fu art\u0131rmak i\u00e7in \u015funlar\u0131 yapabilirsiniz: 1) Veri kaynaklar\u0131n\u0131z\u0131n kalitesini ve g\u00fcncelli\u011fini sa\u011flay\u0131n. 2) Belge b\u00f6lme (chunking) stratejinizi optimize edin; par\u00e7alar\u0131n \u00e7ok b\u00fcy\u00fck veya \u00e7ok k\u00fc\u00e7\u00fck olmamas\u0131na dikkat edin. 3) Daha iyi bir embedding modeli kullan\u0131n. 4) Geri \u00e7a\u011f\u0131rma algoritmalar\u0131n\u0131 geli\u015ftirin (\u00f6rne\u011fin, farkl\u0131 arama stratejileri veya yeniden s\u0131ralama algoritmalar\u0131). 5) LLM’e g\u00f6nderilen istemleri (prompt) daha spesifik ve y\u00f6nlendirici hale getirin. 6) Yan\u0131tlar\u0131 de\u011ferlendirmek i\u00e7in insan geri bildirimi (human-in-the-loop) d\u00f6ng\u00fcs\u00fc olu\u015fturun.<\/dd>\n<\/dl>\n