G\u00fcn\u00fcm\u00fcz\u00fcn h\u0131zla geli\u015fen yapay zeka d\u00fcnyas\u0131nda, OpenAI, Anthropic’in Claude’u ve Google’\u0131n Gemini’si gibi B\u00fcy\u00fck Dil Modelleri (LLM’ler) uygulamalar\u0131m\u0131z\u0131n vazge\u00e7ilmez bir par\u00e7as\u0131 haline geldi. Bu g\u00fc\u00e7l\u00fc modeller, metin \u00fcretimi, \u00e7eviri, \u00f6zetleme ve sohbet tamamlama gibi bir\u00e7ok alanda ola\u011fan\u00fcst\u00fc yetenekler sunuyor. Ancak, bir geli\u015ftirici olarak bu modellerin her birini ayr\u0131 ayr\u0131 entegre etmenin getirdi\u011fi zorluklarla s\u0131k\u00e7a kar\u015f\u0131la\u015f\u0131yoruz. Peki, birden fazla LLM sa\u011flay\u0131c\u0131s\u0131n\u0131 tek bir, soyutlanm\u0131\u015f API (Uygulama Programlama Aray\u00fcz\u00fc) \u00fczerinden y\u00f6netmek m\u00fcmk\u00fcn m\u00fc? Bu makale, bu sorunun cevab\u0131n\u0131 ararken, tek bir sohbet tamamlama API’\u0131 kullanman\u0131n avantajlar\u0131n\u0131, farkl\u0131 entegrasyon yakla\u015f\u0131mlar\u0131n\u0131 ve ger\u00e7ek d\u00fcnya senaryolar\u0131n\u0131 detayl\u0131 bir \u015fekilde inceleyecek. Bu strateji, geli\u015ftirme s\u00fcre\u00e7lerinizi basitle\u015ftirirken, uygulamalar\u0131n\u0131za esneklik ve \u00f6l\u00e7eklenebilirlik kazand\u0131racakt\u0131r.<\/p>\n
Modern yaz\u0131l\u0131m geli\u015ftirme s\u00fcre\u00e7lerinde, esneklik ve verimlilik kritik \u00f6neme sahiptir. B\u00fcy\u00fck Dil Modelleri (LLM’ler) d\u00fcnyas\u0131nda ise bu durum daha da belirginle\u015fir. OpenAI’nin GPT serisi, Anthropic’in Claude’u ve Google’\u0131n Gemini’si gibi \u00f6nde gelen modellerin her biri, farkl\u0131 g\u00fc\u00e7l\u00fc y\u00f6nlere, maliyet yap\u0131lar\u0131na ve API tasar\u0131mlar\u0131na sahiptir. Bir uygulaman\u0131n bu modellerden bir veya birka\u00e7\u0131n\u0131 kullanmas\u0131 gerekti\u011finde, geli\u015ftiriciler kendilerini karma\u015f\u0131k bir entegrasyon labirentinin i\u00e7inde bulabilirler. Her bir sa\u011flay\u0131c\u0131n\u0131n kendi SDK’s\u0131n\u0131 (Yaz\u0131l\u0131m Geli\u015ftirme Kiti), kimlik do\u011frulama mekanizmas\u0131n\u0131, istek\/yan\u0131t formatlar\u0131n\u0131 ve hata i\u015fleme mant\u0131\u011f\u0131n\u0131 \u00f6\u011frenmek ve uygulamak, \u00f6nemli bir zaman ve kaynak israf\u0131na yol a\u00e7ar. Bu durum, \u00f6zellikle k\u00fc\u00e7\u00fck ekipler veya h\u0131zl\u0131 prototipleme gerektiren projeler i\u00e7in b\u00fcy\u00fck bir engel te\u015fkil edebilir.<\/p>\n
\u00c7oklu LLM entegrasyonunun getirdi\u011fi temel zorluklardan biri, kod taban\u0131ndaki karma\u015f\u0131kl\u0131\u011f\u0131n artmas\u0131d\u0131r. Her bir model i\u00e7in ayr\u0131 ayr\u0131 API \u00e7a\u011fr\u0131lar\u0131, veri d\u00f6n\u00fc\u015ft\u00fcrme mant\u0131klar\u0131 ve hata yakalama mekanizmalar\u0131 yazmak, kodun okunabilirli\u011fini ve s\u00fcrd\u00fcr\u00fclebilirli\u011fini olumsuz etkiler. Uygulaman\u0131n farkl\u0131 b\u00f6l\u00fcmleri farkl\u0131 modelleri kulland\u0131\u011f\u0131nda veya gelecekte yeni bir model eklemek gerekti\u011finde, bu karma\u015f\u0131kl\u0131k katlanarak artar. \u00d6rne\u011fin, OpenAI’nin sohbet tamamlama API’\u0131 ile Claude’un veya Gemini’nin API’lar\u0131 aras\u0131nda parametre isimleri, mesaj formatlar\u0131 veya ak\u0131\u015f kontrol mekanizmalar\u0131 a\u00e7\u0131s\u0131ndan k\u00fc\u00e7\u00fck ama \u00f6nemli farklar bulunabilir. Bu farkl\u0131l\u0131klar\u0131 s\u00fcrekli takip etmek ve kodda g\u00fcncellemeler yapmak, geli\u015ftiricilerin ana i\u015flerine odaklanmas\u0131n\u0131 engeller. Ayr\u0131ca, bir modelin API’\u0131nda yap\u0131lan bir de\u011fi\u015fiklik, uygulaman\u0131n ilgili t\u00fcm b\u00f6l\u00fcmlerinde g\u00fcncelleme gerektirebilir ki bu da bak\u0131m y\u00fck\u00fcn\u00fc art\u0131r\u0131r.<\/p>\n
Maliyet ve performans y\u00f6netimi de \u00e7oklu entegrasyonun \u00f6nemli bir zorlu\u011fudur. Farkl\u0131 sa\u011flay\u0131c\u0131lar farkl\u0131 fiyatland\u0131rma modellerine sahiptir ve ayn\u0131 i\u015f y\u00fck\u00fc i\u00e7in bir model di\u011ferinden daha uygun maliyetli olabilir. Geli\u015ftiricilerin, uygulaman\u0131n ihtiya\u00e7lar\u0131na g\u00f6re en uygun maliyetli veya en performansl\u0131 modeli dinamik olarak se\u00e7ebilmesi, uzun vadede \u00f6nemli tasarruflar sa\u011flayabilir. Ancak, her bir model i\u00e7in ayr\u0131 ayr\u0131 faturaland\u0131rma ve kullan\u0131m metriklerini takip etmek, karma\u015f\u0131k ve hataya a\u00e7\u0131k bir s\u00fcre\u00e7tir. Tek bir API aray\u00fcz\u00fc sayesinde, farkl\u0131 modeller aras\u0131nda ge\u00e7i\u015f yapmak \u00e7ok daha kolay hale gelir, b\u00f6ylece geli\u015ftiriciler maliyetleri optimize etmek veya performans darbo\u011fazlar\u0131n\u0131 a\u015fmak i\u00e7in farkl\u0131 modelleri deneyebilirler. Bu esneklik, \u00f6zellikle A\/B testleri veya belirli g\u00f6revler i\u00e7in en iyi modeli bulma \u00e7abalar\u0131nda paha bi\u00e7ilmezdir. Sonu\u00e7 olarak, tek bir soyutlama katman\u0131, geli\u015ftiricilerin LLM’lerin g\u00fcc\u00fcnden tam olarak yararlan\u0131rken, entegrasyonun getirdi\u011fi operasyonel y\u00fck\u00fc minimuma indirmelerini sa\u011flar.<\/p>\n
B\u00fcy\u00fck Dil Modelleri (LLM’ler) aras\u0131nda bir soyutlama katman\u0131 olu\u015fturmak i\u00e7in iki ana yakla\u015f\u0131m bulunmaktad\u0131r: kendi \u00f6zel sarmalay\u0131c\u0131 k\u00fct\u00fcphanenizi (wrapper library) geli\u015ftirmek veya bir API a\u011f ge\u00e7idi (API gateway) ya da vekil sunucu (proxy) kullanmak. Her iki yakla\u015f\u0131m\u0131n da kendine \u00f6zg\u00fc avantajlar\u0131 ve dezavantajlar\u0131 vard\u0131r ve se\u00e7iminiz projenizin \u00f6l\u00e7e\u011fine, ekibinizin teknik yetkinli\u011fine ve g\u00fcvenlik gereksinimlerine ba\u011fl\u0131 olacakt\u0131r. Bu b\u00f6l\u00fcmde, her iki yakla\u015f\u0131m\u0131 detayl\u0131 bir \u015fekilde inceleyerek, hangi senaryoda hangisinin daha uygun olabilece\u011fini tart\u0131\u015faca\u011f\u0131z.<\/p>\n
\u0130lk yakla\u015f\u0131m olan \u00d6zel Sarmalay\u0131c\u0131 K\u00fct\u00fcphane (Custom Wrapper Library)<\/strong>, kendi kod taban\u0131n\u0131zda, farkl\u0131 LLM sa\u011flay\u0131c\u0131lar\u0131n\u0131n API’lar\u0131n\u0131 birle\u015ftiren tek bir aray\u00fcz olu\u015fturmay\u0131 i\u00e7erir. Bu y\u00f6ntem, genellikle Python gibi pop\u00fcler bir programlama dilinde yaz\u0131l\u0131r ve uygulaman\u0131z\u0131n di\u011fer b\u00f6l\u00fcmlerinin bu soyutlanm\u0131\u015f aray\u00fcz \u00fczerinden LLM’lere eri\u015fmesini sa\u011flar. Bu yakla\u015f\u0131m\u0131n en b\u00fcy\u00fck avantaj\u0131, \u00fczerinde tam kontrol sahibi olman\u0131zd\u0131r. \u0130stek\/yan\u0131t formatlar\u0131n\u0131, hata i\u015fleme mekanizmalar\u0131n\u0131, yeniden deneme (retry) stratejilerini ve hatta \u00f6zel \u00f6nbellekleme (caching) mant\u0131\u011f\u0131n\u0131 projenizin ihtiya\u00e7lar\u0131na g\u00f6re \u015fekillendirebilirsiniz. \u00d6rne\u011fin, belirli bir modelin yan\u0131t\u0131n\u0131n belirli bir formatta olmas\u0131n\u0131 sa\u011flamak i\u00e7in yan\u0131t\u0131 d\u00f6n\u00fc\u015ft\u00fcren \u00f6zel bir katman ekleyebilirsiniz. Bu, \u00f6zellikle benzersiz i\u015f ak\u0131\u015flar\u0131na veya s\u0131k\u0131 performans gereksinimlerine sahip projeler i\u00e7in idealdir. Ancak, bu yakla\u015f\u0131m ayn\u0131 zamanda daha fazla geli\u015ftirme ve bak\u0131m y\u00fck\u00fc getirir. Her yeni LLM sa\u011flay\u0131c\u0131s\u0131 eklendi\u011finde veya mevcut bir sa\u011flay\u0131c\u0131n\u0131n API’\u0131nda bir de\u011fi\u015fiklik oldu\u011funda, sarmalay\u0131c\u0131 k\u00fct\u00fcphanenizi g\u00fcncellemeniz gerekir. Ayr\u0131ca, kimlik do\u011frulama anahtarlar\u0131n\u0131n y\u00f6netimi, rate limiting (istek s\u0131n\u0131rlamas\u0131) ve maliyet takibi gibi operasyonel konular\u0131 da kendi ba\u015f\u0131n\u0131za ele alman\u0131z gerekecektir. K\u00fc\u00e7\u00fck ve orta \u00f6l\u00e7ekli projeler i\u00e7in, veya zaten g\u00fc\u00e7l\u00fc bir dahili geli\u015ftirme ekibine sahip \u015firketler i\u00e7in bu yakla\u015f\u0131m olduk\u00e7a uygun olabilir.<\/p>\n \u0130kinci yakla\u015f\u0131m ise API A\u011f Ge\u00e7idi\/Vekil Sunucu (API Gateway\/Proxy)<\/strong> kullanmakt\u0131r. Bu y\u00f6ntem, LLM API’lar\u0131na yap\u0131lan t\u00fcm isteklerin, uygulaman\u0131z ile ger\u00e7ek LLM sa\u011flay\u0131c\u0131lar\u0131 aras\u0131nda konumlanan merkezi bir sunucu veya hizmet \u00fczerinden ge\u00e7mesini sa\u011flar. Bu vekil sunucu, gelen istekleri al\u0131r, gerekli d\u00f6n\u00fc\u015f\u00fcmleri yapar ve hedef LLM API’\u0131na iletir, ard\u0131ndan yan\u0131t\u0131 al\u0131p tekrar uygulaman\u0131za d\u00f6nd\u00fcr\u00fcr. Bu yakla\u015f\u0131m\u0131n temel avantajlar\u0131 aras\u0131nda merkeziyet\u00e7ilik, \u00f6l\u00e7eklenebilirlik ve geli\u015fmi\u015f y\u00f6netim yetenekleri bulunur. API a\u011f ge\u00e7itleri genellikle kimlik do\u011frulama, yetkilendirme, rate limiting, \u00f6nbellekleme, g\u00fcnl\u00fckleme (logging) ve hatta faturaland\u0131rma ve maliyet takibi gibi \u00f6zellikleri standart olarak sunar. Bu, geli\u015ftiricilerin bu operasyonel y\u00fcklerden kurtulmas\u0131n\u0131 ve do\u011frudan i\u015f mant\u0131\u011f\u0131na odaklanmas\u0131n\u0131 sa\u011flar. \u00d6rne\u011fin, LiteLLM veya OpenRouter gibi a\u00e7\u0131k kaynakl\u0131 \u00e7\u00f6z\u00fcmler ya da Azure AI Studio, AWS Bedrock gibi bulut tabanl\u0131 hizmetler bu t\u00fcr bir vekil sunucu i\u015flevi g\u00f6rebilir. Bu t\u00fcr \u00e7\u00f6z\u00fcmler, \u00f6zellikle b\u00fcy\u00fck \u00f6l\u00e7ekli uygulamalar, mikro hizmet mimarileri veya farkl\u0131 ekiplerin ayn\u0131 LLM kaynaklar\u0131n\u0131 kullanmas\u0131 gereken durumlar i\u00e7in idealdir. Dezavantaj\u0131 ise, bu t\u00fcr bir hizmetin kurulumu ve y\u00f6netimi ek bir altyap\u0131 maliyeti ve karma\u015f\u0131kl\u0131\u011f\u0131 getirebilir. Ayr\u0131ca, baz\u0131 durumlarda, \u00f6zel sarmalay\u0131c\u0131 k\u00fct\u00fcphanesinin sundu\u011fu esnekli\u011fi tam olarak sunamayabilirler. Ancak, uzun vadede operasyonel verimlilik ve kolay y\u00f6netim a\u00e7\u0131s\u0131ndan genellikle daha cazip bir se\u00e7enektir.<\/p>\n Kendi \u00f6zel sarmalay\u0131c\u0131 k\u00fct\u00fcphanenizi olu\u015fturmak, B\u00fcy\u00fck Dil Modelleri (LLM’ler) entegrasyonunda tam kontrol ve esneklik sa\u011flar. Bu b\u00f6l\u00fcmde, Python kullanarak OpenAI, Claude ve Gemini i\u00e7in tek bir aray\u00fcz sunan basit bir sarmalay\u0131c\u0131 k\u00fct\u00fcphanesi nas\u0131l olu\u015fturulur, ad\u0131m ad\u0131m g\u00f6sterece\u011fiz. Amac\u0131m\u0131z, farkl\u0131 API’lar\u0131n farkl\u0131l\u0131klar\u0131n\u0131 soyutlayarak, uygulaman\u0131z\u0131n sadece tek bir \u00d6ncelikle, gerekli k\u00fct\u00fcphaneleri y\u00fcklememiz gerekiyor. Bu \u00f6rnek i\u00e7in Daha sonra, her bir LLM sa\u011flay\u0131c\u0131s\u0131 i\u00e7in temel API \u00e7a\u011fr\u0131lar\u0131n\u0131 ger\u00e7ekle\u015ftirecek birer yard\u0131mc\u0131 s\u0131n\u0131f olu\u015fturabiliriz. Bu s\u0131n\u0131flar, kendi API anahtarlar\u0131n\u0131 y\u00f6netecek ve sa\u011flay\u0131c\u0131ya \u00f6zg\u00fc istek formatlar\u0131n\u0131 ele alacak.<\/p>\n \u015eimdi, bu \u00fc\u00e7 farkl\u0131 sa\u011flay\u0131c\u0131y\u0131 tek bir Bu \u00f6rnekte, her bir sa\u011flay\u0131c\u0131n\u0131n API anahtar\u0131n\u0131 ortam de\u011fi\u015fkenlerinden okudu\u011fumuzu varsayd\u0131k. Ger\u00e7ek d\u00fcnya uygulamalar\u0131nda, bu anahtarlar\u0131 g\u00fcvenli bir \u015fekilde y\u00f6netmek (\u00f6rne\u011fin, bir s\u0131r y\u00f6neticisi kullanarak) kritik \u00f6neme sahiptir. Ayr\u0131ca, her sa\u011flay\u0131c\u0131n\u0131n mesaj format\u0131 ve parametreleri farkl\u0131l\u0131k g\u00f6sterdi\u011fi i\u00e7in, her \u00d6zel bir sarmalay\u0131c\u0131 k\u00fct\u00fcphanesi geli\u015ftirmek, k\u00fc\u00e7\u00fck ve orta \u00f6l\u00e7ekli projeler i\u00e7in yeterli olabilirken, daha b\u00fcy\u00fck, kurumsal d\u00fczeydeki uygulamalar veya mikro hizmet mimarileri i\u00e7in API a\u011f ge\u00e7itleri (API gateways) ve vekil sunucular (proxies) daha uygun bir \u00e7\u00f6z\u00fcm sunar. Bu yakla\u015f\u0131mlar, LLM entegrasyonunu sadece bir kod soyutlamas\u0131 olmaktan \u00e7\u0131kar\u0131p, merkezi bir y\u00f6netim, izleme ve g\u00fcvenlik katman\u0131na d\u00f6n\u00fc\u015ft\u00fcr\u00fcr. Uygulaman\u0131zdan gelen t\u00fcm LLM istekleri, bu merkezi nokta \u00fczerinden ge\u00e7er, bu da size e\u015fsiz bir kontrol ve operasyonel verimlilik sa\u011flar.<\/p>\n API a\u011f ge\u00e7itlerinin sundu\u011fu en b\u00fcy\u00fck avantajlardan biri, merkezi kimlik do\u011frulama ve yetkilendirme<\/strong> y\u00f6netimidir. Her LLM sa\u011flay\u0131c\u0131s\u0131n\u0131n kendi API anahtarlar\u0131n\u0131 ayr\u0131 ayr\u0131 y\u00f6netmek yerine, t\u00fcm anahtarlar a\u011f ge\u00e7idinde g\u00fcvenli bir \u015fekilde saklanabilir. Uygulaman\u0131z sadece a\u011f ge\u00e7idi ile kimlik do\u011frulamas\u0131 yapar ve a\u011f ge\u00e7idi, gelen iste\u011fi do\u011fru LLM sa\u011flay\u0131c\u0131s\u0131na iletmek i\u00e7in uygun anahtar\u0131 kullan\u0131r. Bu, g\u00fcvenlik duru\u015funuzu \u00f6nemli \u00f6l\u00e7\u00fcde g\u00fc\u00e7lendirir ve anahtar y\u00f6netimini basitle\u015ftirir. Ayr\u0131ca, a\u011f ge\u00e7itleri genellikle rate limiting (istek s\u0131n\u0131rlamas\u0131)<\/strong> ve \u00f6nbellekleme (caching)<\/strong> gibi \u00f6zellikler sunar. Rate limiting, bir kullan\u0131c\u0131n\u0131n veya uygulaman\u0131n belirli bir zaman diliminde yapabilece\u011fi istek say\u0131s\u0131n\u0131 k\u0131s\u0131tlayarak a\u015f\u0131r\u0131 kullan\u0131mdan kaynaklanan maliyet art\u0131\u015flar\u0131n\u0131 veya hizmet reddi (DoS) sald\u0131r\u0131lar\u0131n\u0131 \u00f6nlemeye yard\u0131mc\u0131 olur. \u00d6nbellekleme ise s\u0131k\u00e7a tekrarlanan istekler i\u00e7in LLM’ye tekrar gitmeye gerek kalmadan \u00f6nceden hesaplanm\u0131\u015f yan\u0131tlar\u0131 d\u00f6nd\u00fcrerek gecikmeyi azalt\u0131r ve maliyetleri d\u00fc\u015f\u00fcr\u00fcr.<\/p>\n Bir di\u011fer kritik fayda ise merkezi g\u00fcnl\u00fckleme (logging) ve izleme (monitoring)<\/strong> yetenekleridir. T\u00fcm LLM istekleri ve yan\u0131tlar\u0131 a\u011f ge\u00e7idi \u00fczerinden ge\u00e7ti\u011fi i\u00e7in, bu veriler tek bir yerden toplanabilir, analiz edilebilir ve g\u00f6rselle\u015ftirilebilir. Bu, performans sorunlar\u0131n\u0131 tespit etmek, kullan\u0131m kal\u0131plar\u0131n\u0131 anlamak, maliyetleri takip etmek ve hatta model \u00e7\u0131kt\u0131lar\u0131n\u0131n kalitesini de\u011ferlendirmek i\u00e7in paha bi\u00e7ilmez bir kaynakt\u0131r. \u00d6rne\u011fin, belirli bir modelin belirli bir saatte daha y\u00fcksek hata oran\u0131 verdi\u011fini veya belirli bir kullan\u0131c\u0131 grubunun hangi modelleri tercih etti\u011fini kolayca g\u00f6rebilirsiniz. Bu t\u00fcr i\u00e7g\u00f6r\u00fcler, LLM stratejinizi optimize etmenize yard\u0131mc\u0131 olur. Ayr\u0131ca, a\u011f ge\u00e7itleri genellikle dinamik model y\u00f6nlendirme<\/strong> yetene\u011fi sunar. Bu, uygulaman\u0131z\u0131n kodunda herhangi bir de\u011fi\u015fiklik yapmadan, belirli bir iste\u011fi farkl\u0131 bir LLM modeline y\u00f6nlendirebilece\u011finiz anlam\u0131na gelir. \u00d6rne\u011fin, maliyetleri d\u00fc\u015f\u00fcrmek i\u00e7in d\u00fc\u015f\u00fck \u00f6ncelikli istekleri daha ucuz bir modele, kritik istekleri ise daha pahal\u0131 ama daha yetenekli bir modele y\u00f6nlendirebilirsiniz. Bu, A\/B testleri yapmak, yeni modelleri kademeli olarak devreye almak veya bir modelin hizmet d\u0131\u015f\u0131 kalmas\u0131 durumunda otomatik olarak ba\u015fka bir modele ge\u00e7i\u015f yapmak i\u00e7in inan\u0131lmaz bir esneklik sa\u011flar.<\/p>\n Piyasada hem a\u00e7\u0131k kaynakl\u0131 hem de bulut tabanl\u0131 bir\u00e7ok API a\u011f ge\u00e7idi \u00e7\u00f6z\u00fcm\u00fc bulunmaktad\u0131r. LiteLLM, OpenRouter gibi a\u00e7\u0131k kaynakl\u0131 ara\u00e7lar, kendi sunucular\u0131n\u0131zda bar\u0131nd\u0131rabilece\u011finiz esnek ve g\u00fc\u00e7l\u00fc se\u00e7enekler sunar. Bunlar, maliyet takibi, model y\u00f6nlendirme ve hatta birden fazla sa\u011flay\u0131c\u0131dan yan\u0131t al\u0131p en iyisini se\u00e7me gibi geli\u015fmi\u015f \u00f6zelliklere sahiptir. Di\u011fer yandan, Azure AI Studio, AWS Bedrock veya Google Cloud Vertex AI gibi bulut sa\u011flay\u0131c\u0131lar\u0131n\u0131n sundu\u011fu hizmetler, y\u00f6netilen bir platformda benzer yetenekleri sunar ve altyap\u0131 y\u00f6netimi y\u00fck\u00fcn\u00fc \u00fczerinizden al\u0131r. Bu t\u00fcr \u00e7\u00f6z\u00fcmler, \u00f6zellikle b\u00fcy\u00fck \u00f6l\u00e7ekli ve kritik uygulamalar i\u00e7in, geli\u015ftirme ekibinin LLM entegrasyonu yerine ana i\u015f mant\u0131\u011f\u0131na odaklanmas\u0131n\u0131 sa\u011flayarak \u00f6nemli bir de\u011fer yarat\u0131r. Sonu\u00e7 olarak, API a\u011f ge\u00e7itleri ve vekil sunucular, LLM entegrasyonunu daha g\u00fcvenli, daha y\u00f6netilebilir ve daha \u00f6l\u00e7eklenebilir hale getirerek, modern yapay zeka uygulamalar\u0131n\u0131n temel ta\u015flar\u0131ndan biri haline gelmi\u015ftir.<\/p>\n Tek bir API aray\u00fcz\u00fc \u00fczerinden birden fazla B\u00fcy\u00fck Dil Modeli (LLM) kullanma esnekli\u011fine sahip olmak harikad\u0131r, ancak bu durum ayn\u0131 zamanda do\u011fru modeli se\u00e7me sorumlulu\u011funu da beraberinde getirir. Uygulaman\u0131z\u0131n ihtiya\u00e7lar\u0131na en uygun LLM’yi belirlemek, performans, maliyet ve g\u00fcvenlik gibi \u00e7e\u015fitli fakt\u00f6rleri dikkatlice de\u011ferlendirmeyi gerektirir. Bu fakt\u00f6rler aras\u0131ndaki dengeyi do\u011fru kurmak, hem kullan\u0131c\u0131 deneyimini optimize etmek hem de operasyonel verimlili\u011fi sa\u011flamak a\u00e7\u0131s\u0131ndan kritik \u00f6neme sahiptir.<\/p>\n \u0130lk olarak, performans<\/strong> ele al\u0131nmas\u0131 gereken \u00f6nemli bir fakt\u00f6rd\u00fcr. Performans, genellikle modelin yan\u0131t s\u00fcresi (latency) ve belirli bir zaman diliminde i\u015fleyebilece\u011fi istek say\u0131s\u0131 (throughput) ile \u00f6l\u00e7\u00fcl\u00fcr. D\u00fc\u015f\u00fck gecikme s\u00fcresi, \u00f6zellikle ger\u00e7ek zamanl\u0131 sohbet botlar\u0131 veya etkile\u015fimli uygulamalar i\u00e7in hayati \u00f6neme sahiptir. Kullan\u0131c\u0131lar\u0131n bir yan\u0131t i\u00e7in uzun s\u00fcre beklemesi, k\u00f6t\u00fc bir kullan\u0131c\u0131 deneyimine yol a\u00e7abilir. Farkl\u0131 LLM’ler, farkl\u0131 mimarilere ve optimizasyonlara sahip oldu\u011fu i\u00e7in, ayn\u0131 g\u00f6revi yerine getirirken farkl\u0131 performans seviyeleri sunabilirler. \u00d6rne\u011fin, daha k\u00fc\u00e7\u00fck, daha h\u0131zl\u0131 modeller belirli g\u00f6revler i\u00e7in yeterli olabilirken, daha b\u00fcy\u00fck, daha karma\u015f\u0131k modeller daha iyi do\u011fruluk veya daha zengin yan\u0131tlar sunabilir ancak daha yava\u015f olabilir. Uygulaman\u0131z\u0131n her b\u00f6l\u00fcm\u00fc i\u00e7in ideal performans gereksinimlerini belirlemeli ve se\u00e7ti\u011finiz modelin bu gereksinimleri kar\u015f\u0131lay\u0131p kar\u015f\u0131lamad\u0131\u011f\u0131n\u0131 test etmelisiniz. Ayr\u0131ca, modelin belirli bir y\u00fck alt\u0131nda nas\u0131l performans g\u00f6sterdi\u011fini anlamak i\u00e7in stres testleri yapmak da faydal\u0131 olacakt\u0131r.<\/p>\n \u0130kinci olarak, maliyet<\/strong> her projenin b\u00fct\u00e7esi i\u00e7in belirleyici bir unsurdur. LLM sa\u011flay\u0131c\u0131lar\u0131 genellikle token (jeton) bazl\u0131 fiyatland\u0131rma modelleri kullan\u0131r; yani hem girdi (prompt) hem de \u00e7\u0131kt\u0131 (response) jetonlar\u0131 i\u00e7in \u00fccret \u00f6dersiniz. Bu jeton maliyetleri, sa\u011flay\u0131c\u0131dan sa\u011flay\u0131c\u0131ya ve hatta ayn\u0131 sa\u011flay\u0131c\u0131n\u0131n farkl\u0131 modelleri aras\u0131nda \u00f6nemli \u00f6l\u00e7\u00fcde de\u011fi\u015fiklik g\u00f6sterebilir. \u00d6rne\u011fin, OpenAI’nin GPT-4o modeli, GPT-3.5-turbo’ya g\u00f6re daha pahal\u0131d\u0131r ancak genellikle daha yeteneklidir. Benzer \u015fekilde, Claude veya Gemini’nin farkl\u0131 s\u00fcr\u00fcmleri de farkl\u0131 fiyatland\u0131rma katmanlar\u0131na sahiptir. Uygulaman\u0131z\u0131n beklenen kullan\u0131m hacmini ve her bir iste\u011fin ortalama jeton say\u0131s\u0131n\u0131 tahmin ederek, farkl\u0131 modellerin maliyet etkilerini kar\u015f\u0131la\u015ft\u0131rman\u0131z gerekir. Daha ucuz bir model, belirli bir g\u00f6revi yeterli do\u011frulukla yerine getirebiliyorsa, bu \u00f6nemli maliyet tasarrufu sa\u011flayabilir. Dinamik model y\u00f6nlendirme (API a\u011f ge\u00e7itleri arac\u0131l\u0131\u011f\u0131yla) bu noktada devreye girerek, maliyetleri optimize etmek i\u00e7in i\u015f y\u00fck\u00fcn\u00fc en uygun maliyetli modele y\u00f6nlendirme esnekli\u011fi sunar.<\/p>\n \u00dc\u00e7\u00fcnc\u00fc ve belki de en kritik fakt\u00f6rlerden biri g\u00fcvenlik ve gizlilik<\/strong>tir. \u00d6zellikle hassas verilerle \u00e7al\u0131\u015f\u0131yorsan\u0131z veya belirli reg\u00fclasyonlara (KVKK, GDPR gibi) tabiyseniz, veri g\u00fcvenli\u011fi ve gizlili\u011fi en \u00fcst \u00f6nceli\u011finiz olmal\u0131d\u0131r. Her LLM sa\u011flay\u0131c\u0131s\u0131n\u0131n veri i\u015fleme politikalar\u0131n\u0131, veri saklama s\u00fcrelerini, veri \u015fifreleme uygulamalar\u0131n\u0131 ve \u00fc\u00e7\u00fcnc\u00fc taraf denetimlerini dikkatlice incelemelisiniz. Verilerinizin nerede i\u015flendi\u011fi (co\u011frafi konum) ve kimlerle payla\u015f\u0131ld\u0131\u011f\u0131 hakk\u0131nda net bir anlay\u0131\u015fa sahip olman\u0131z gerekir. Baz\u0131 sa\u011flay\u0131c\u0131lar, verilerinizi model e\u011fitimi i\u00e7in kullanmama veya belirli bir s\u00fcre sonra silme garantisi verebilir. Ayr\u0131ca, API anahtarlar\u0131n\u0131n ve hassas bilgilerin g\u00fcvenli bir \u015fekilde saklanmas\u0131 ve iletilmesi i\u00e7in uygun g\u00fcvenlik \u00f6nlemlerini (\u00f6rne\u011fin, HTTPS kullan\u0131m\u0131, s\u0131r y\u00f6neticileri) almal\u0131s\u0131n\u0131z. Kurumsal d\u00fczeyde uygulamalar i\u00e7in, \u00f6zel bulut ortamlar\u0131nda (private cloud) bar\u0131nd\u0131r\u0131lan veya \u015firket i\u00e7i (on-premise) LLM \u00e7\u00f6z\u00fcmleri de bir se\u00e7enek olabilir, ancak bunlar genellikle daha y\u00fcksek maliyet ve y\u00f6netim karma\u015f\u0131kl\u0131\u011f\u0131 getirir. Model se\u00e7iminde bu \u00fc\u00e7 fakt\u00f6r\u00fc (performans, maliyet, g\u00fcvenlik) bir arada de\u011ferlendirmek, uygulaman\u0131z i\u00e7in en s\u00fcrd\u00fcr\u00fclebilir ve etkili LLM stratejisini olu\u015fturman\u0131za yard\u0131mc\u0131 olacakt\u0131r.<\/p>\n Tekil bir sohbet tamamlama API’\u0131 kullanma stratejisinin teorik faydalar\u0131n\u0131 tart\u0131\u015ft\u0131ktan sonra, bu yakla\u015f\u0131m\u0131n ger\u00e7ek d\u00fcnyadaki etkilerini anlamak i\u00e7in baz\u0131 vaka analizlerine g\u00f6z atal\u0131m. Bu senaryolar, farkl\u0131 sekt\u00f6rlerdeki \u015firketlerin \u00e7oklu LLM entegrasyonundan kaynaklanan zorluklar\u0131 nas\u0131l a\u015ft\u0131\u011f\u0131n\u0131 ve tekil API yakla\u015f\u0131m\u0131n\u0131n onlara nas\u0131l somut faydalar sa\u011flad\u0131\u011f\u0131n\u0131 g\u00f6stermektedir. Bu hikayeler, esnekli\u011fin, maliyet optimizasyonunun ve geli\u015ftirme verimlili\u011finin \u00f6nemini vurgulamaktad\u0131r.<\/p>\n Vaka Analizi 1: E-ticaret Botu i\u00e7in Maliyet ve Performans Optimizasyonu<\/strong><\/p>\n Bir e-ticaret platformu olan “TrendSepet”, m\u00fc\u015fteri hizmetleri s\u00fcre\u00e7lerini otomatikle\u015ftirmek i\u00e7in yapay zeka destekli bir sohbet botu kullan\u0131yordu. Ba\u015flang\u0131\u00e7ta, botun farkl\u0131 i\u015flevleri i\u00e7in ayr\u0131 ayr\u0131 OpenAI GPT-3.5 ve Claude Instant modellerini entegre etmi\u015flerdi. \u00dcr\u00fcn sorgular\u0131 i\u00e7in GPT-3.5’i, daha karma\u015f\u0131k iade ve de\u011fi\u015fim s\u00fcre\u00e7leri i\u00e7in ise Claude Instant’\u0131 tercih ediyorlard\u0131. Ancak, bu iki modelin ayr\u0131 ayr\u0131 y\u00f6netilmesi, geli\u015ftiriciler i\u00e7in s\u00fcrekli bir ba\u015f a\u011fr\u0131s\u0131yd\u0131. Her modelin kendi API \u00e7a\u011fr\u0131s\u0131, mesaj format\u0131 ve hata i\u015fleme mant\u0131\u011f\u0131 vard\u0131. Dahas\u0131, modellerin performans\u0131n\u0131 ve maliyetini ger\u00e7ek zamanl\u0131 olarak kar\u015f\u0131la\u015ft\u0131rmak ve dinamik olarak en uygun modeli se\u00e7mek imkans\u0131zd\u0131. Bu durum, gereksiz maliyetlere ve zaman zaman tutars\u0131z m\u00fc\u015fteri deneyimlerine yol a\u00e7\u0131yordu.<\/p>\n TrendSepet ekibi, bu sorunu \u00e7\u00f6zmek i\u00e7in bir API a\u011f ge\u00e7idi (LiteLLM tabanl\u0131 \u00f6zel bir \u00e7\u00f6z\u00fcm) kurmaya karar verdi. Bu a\u011f ge\u00e7idi, t\u00fcm LLM isteklerini tek bir u\u00e7 noktadan y\u00f6netiyordu. Art\u0131k botun kodu, hangi modelin kullan\u0131laca\u011f\u0131n\u0131 do\u011frudan belirtmek yerine, sadece a\u011f ge\u00e7idine bir istek g\u00f6nderiyordu. A\u011f ge\u00e7idi, gelen iste\u011fin t\u00fcr\u00fcne (\u00f6rne\u011fin, “\u00fcr\u00fcn sorgusu” veya “iade talebi”) g\u00f6re dinamik olarak en uygun modeli (GPT-3.5, Claude Instant veya hatta daha sonra eklenen Gemini Pro) se\u00e7iyordu. Ayr\u0131ca, a\u011f ge\u00e7idi katman\u0131nda merkezi g\u00fcnl\u00fckleme ve maliyet takibi \u00f6zellikleri etkinle\u015ftirildi. Sonu\u00e7lar \u015fa\u015f\u0131rt\u0131c\u0131yd\u0131:<\/p>\n Bu ge\u00e7i\u015f, TrendSepet’in m\u00fc\u015fteri hizmetleri botunu daha verimli, maliyet etkin ve esnek hale getirdi.<\/p>\n Vaka Analizi 2: \u0130\u00e7erik \u00dcretim Platformu i\u00e7in Kalite Kontrol ve A\/B Testleri<\/strong><\/p>\n “Yarat\u0131c\u0131Metinler”, farkl\u0131 sekt\u00f6rlere y\u00f6nelik makaleler, blog yaz\u0131lar\u0131 ve sosyal medya i\u00e7erikleri \u00fcreten bir yapay zeka platformuydu. \u0130\u00e7erik kalitesini s\u00fcrekli olarak art\u0131rmak ve en iyi sonu\u00e7lar\u0131 elde etmek i\u00e7in OpenAI’nin GPT-4’\u00fcn\u00fc, Anthropic’in Claude Opus’unu ve Google’\u0131n Gemini 1.5 Pro’sunu ayn\u0131 anda kullan\u0131yorlard\u0131. Ancak, her i\u00e7erik t\u00fcr\u00fc ve m\u00fc\u015fteri beklentisi i\u00e7in hangi modelin en iyi sonucu verdi\u011fini belirlemek zordu. Her model i\u00e7in ayr\u0131 ayr\u0131 A\/B testleri yapmak, veri toplamak ve sonu\u00e7lar\u0131 kar\u015f\u0131la\u015ft\u0131rmak, yo\u011fun bir manuel \u00e7aba gerektiriyordu.<\/p>\n Yarat\u0131c\u0131Metinler, bu karma\u015f\u0131kl\u0131\u011f\u0131 gidermek i\u00e7in kendi Python sarmalay\u0131c\u0131 k\u00fct\u00fcphanesini geli\u015ftirdi. Bu k\u00fct\u00fcphane, t\u00fcm LLM \u00e7a\u011fr\u0131lar\u0131n\u0131 tek bir Bu yeni yap\u0131land\u0131rma sayesinde Yarat\u0131c\u0131Metinler, a\u015fa\u011f\u0131daki \u00f6nemli kazan\u0131mlar\u0131 elde etti:<\/p>\n Bu vaka analizleri, tekil bir API yakla\u015f\u0131m\u0131n\u0131n, hem operasyonel verimlilik hem de stratejik karar alma s\u00fcre\u00e7leri \u00fczerinde nas\u0131l d\u00f6n\u00fc\u015ft\u00fcr\u00fcc\u00fc bir etki yaratabilece\u011fini a\u00e7\u0131k\u00e7a g\u00f6stermektedir. Geli\u015ftiriciler, LLM entegrasyonunun karma\u015f\u0131kl\u0131\u011f\u0131yla bo\u011fu\u015fmak yerine, uygulamalar\u0131n\u0131n temel de\u011fer \u00f6nerisine odaklanma f\u0131rsat\u0131 bulurlar.<\/p>\n B\u00fcy\u00fck Dil Modelleri (LLM’ler) d\u00fcnyas\u0131, inan\u0131lmaz bir h\u0131zla geli\u015fmeye devam ediyor ve bu geli\u015fim, geli\u015ftiricilerin bu teknolojileri uygulamalar\u0131na entegre etme bi\u00e7imlerini de \u015fekillendiriyor. Bu makalede ele ald\u0131\u011f\u0131m\u0131z \u00fczere, OpenAI, Claude ve Gemini gibi farkl\u0131 sa\u011flay\u0131c\u0131lar\u0131n modellerini tek bir sohbet tamamlama API’\u0131 \u00fczerinden y\u00f6netmek, modern yapay zeka uygulamalar\u0131 geli\u015ftirmenin temel bir stratejisi haline gelmi\u015ftir. Tek bir soyutlama katman\u0131 olu\u015fturmak, geli\u015ftirme s\u00fcre\u00e7lerini basitle\u015ftirirken, uygulamalara e\u015fsiz bir esneklik, maliyet optimizasyonu ve gelece\u011fe y\u00f6nelik uyumluluk kazand\u0131r\u0131r. \u0130ster kendi \u00f6zel sarmalay\u0131c\u0131 k\u00fct\u00fcphanenizi olu\u015fturun, ister bir API a\u011f ge\u00e7idi veya vekil sunucu kullan\u0131n, bu yakla\u015f\u0131m, LLM entegrasyonunun getirdi\u011fi karma\u015f\u0131kl\u0131\u011f\u0131 azaltarak geli\u015ftiricilerin as\u0131l i\u015f mant\u0131\u011f\u0131na odaklanmas\u0131na olanak tan\u0131r.<\/p>\n Gelecekte, LLM entegrasyonunun daha da evrilece\u011fini \u00f6ng\u00f6rebiliriz. A\u00e7\u0131k standartlar ve daha entegre platformlar, farkl\u0131 modeller aras\u0131nda ge\u00e7i\u015f yapmay\u0131 daha da kolayla\u015ft\u0131racakt\u0131r. Yerel (on-premise) veya a\u00e7\u0131k kaynakl\u0131 LLM’lerin pop\u00fclaritesinin artmas\u0131yla birlikte, bu modelleri de mevcut entegrasyon katmanlar\u0131na dahil etme ihtiyac\u0131 do\u011facakt\u0131r. Dinamik model y\u00f6nlendirme, maliyet ve performans optimizasyonu algoritmalar\u0131 daha da ak\u0131ll\u0131 hale gelecek, b\u00f6ylece uygulamalar\u0131m\u0131z her zaman en uygun modeli otomatik olarak se\u00e7ebilecektir. Veri g\u00fcvenli\u011fi ve gizlili\u011fi endi\u015feleri artt\u0131k\u00e7a, API a\u011f ge\u00e7itleri ve vekil sunucular, hassas verilerin i\u015flenmesi ve uyumluluk gereksinimlerinin kar\u015f\u0131lanmas\u0131 konusunda daha geli\u015fmi\u015f \u00f6zellikler sunacakt\u0131r. Bu s\u00fcrekli evrimde, tek bir, soyutlanm\u0131\u015f API yakla\u015f\u0131m\u0131, geli\u015ftiricilerin bu de\u011fi\u015fikliklere h\u0131zla adapte olmalar\u0131n\u0131 ve yapay zekan\u0131n sundu\u011fu t\u00fcm potansiyelden tam olarak yararlanmalar\u0131n\u0131 sa\u011flayacak temel bir ara\u00e7 olmaya devam edecektir. Bu stratejiyi benimseyen ekipler, hem operasyonel verimliliklerini art\u0131racak hem de daha yenilik\u00e7i ve rekabet\u00e7i yapay zeka \u00e7\u00f6z\u00fcmleri sunabileceklerdir.<\/p>\n S1: Tek bir API kullanmak performans\u0131 d\u00fc\u015f\u00fcr\u00fcr m\u00fc?<\/strong> S2: Hangi yakla\u015f\u0131m benim i\u00e7in daha uygun: \u00f6zel k\u00fct\u00fcphane mi, vekil sunucu mu?<\/strong> S3: Maliyetleri nas\u0131l optimize edebilirim?<\/strong> S4: Veri g\u00fcvenli\u011fi endi\u015felerim varsa ne yapmal\u0131y\u0131m?<\/strong> S5: Yeni bir model \u00e7\u0131kt\u0131\u011f\u0131nda entegrasyon ne kadar kolay olur?<\/strong> #LLM #APIEntegrasyonu #YapayZeka #WebGeli\u015ftirme #Teknoloji<\/p>\n\u00d6zel Bir Python Sarmalay\u0131c\u0131 K\u00fct\u00fcphanesi Geli\u015ftirme: Ad\u0131m Ad\u0131m Rehber<\/h3>\n
chat_completion<\/code> metodunu \u00e7a\u011f\u0131rmas\u0131n\u0131 sa\u011flamakt\u0131r.<\/p>\nopenai<\/code>, anthropic<\/code> ve google-generativeai<\/code> k\u00fct\u00fcphanelerine ihtiyac\u0131m\u0131z olacak:<\/p>\n\npip install openai anthropic google-generativeai\n <\/code><\/pre>\n<\/div>\n\nimport os\nfrom openai import OpenAI\nfrom anthropic import Anthropic\nimport google.generativeai as genai\n\nclass OpenAIHandler:\n def __init__(self, api_key=None):\n self.client = OpenAI(api_key=api_key or os.getenv(\"OPENAI_API_KEY\"))\n\n def complete_chat(self, model: str, messages: list, **kwargs):\n # OpenAI'nin mesaj format\u0131na uygun hale getir\n # 'role' ve 'content' alanlar\u0131 zorunlu\n formatted_messages = []\n for msg in messages:\n if \"role\" in msg and \"content\" in msg:\n formatted_messages.append({\"role\": msg[\"role\"], \"content\": msg[\"content\"]})\n else:\n # Basit bir varsay\u0131m: e\u011fer sadece string ise 'user' rol\u00fc ver\n formatted_messages.append({\"role\": \"user\", \"content\": str(msg)})\n\n try:\n response = self.client.chat.completions.create(\n model=model,\n messages=formatted_messages,\n **kwargs\n )\n return response.choices[0].message.content\n except Exception as e:\n print(f\"OpenAI API hatas\u0131: {e}\")\n raise\n\nclass AnthropicHandler:\n def __init__(self, api_key=None):\n self.client = Anthropic(api_key=api_key or os.getenv(\"ANTHROPIC_API_KEY\"))\n\n def complete_chat(self, model: str, messages: list, **kwargs):\n # Claude'un mesaj format\u0131na uygun hale getir\n # Claude'da sistem mesaj\u0131 ayr\u0131 bir parametre olarak verilir\n system_message = \"\"\n user_messages = []\n for msg in messages:\n if msg.get(\"role\") == \"system\":\n system_message = msg.get(\"content\", \"\")\n else:\n user_messages.append({\"role\": msg.get(\"role\", \"user\"), \"content\": msg.get(\"content\", \"\")})\n \n # Claude API'\u0131 bo\u015f user_messages listesine izin vermez.\n if not user_messages:\n raise ValueError(\"Claude API requires at least one user message.\")\n\n try:\n response = self.client.messages.create(\n model=model,\n max_tokens=kwargs.get(\"max_tokens\", 1024), # Claude'da max_tokens zorunlu\n messages=user_messages,\n system=system_message if system_message else None,\n **{k: v for k, v in kwargs.items() if k != \"max_tokens\"} # max_tokens'\u0131 tekrar g\u00f6nderme\n )\n return response.content[0].text\n except Exception as e:\n print(f\"Anthropic API hatas\u0131: {e}\")\n raise\n\nclass GeminiHandler:\n def __init__(self, api_key=None):\n genai.configure(api_key=api_key or os.getenv(\"GEMINI_API_KEY\"))\n\n def complete_chat(self, model: str, messages: list, **kwargs):\n # Gemini'nin mesaj format\u0131na uygun hale getir\n # Gemini'de 'system' rol\u00fc yoktur, 'user' ve 'model' rolleri kullan\u0131l\u0131r\n # Genellikle sistem mesajlar\u0131 ilk 'user' mesaj\u0131n\u0131n bir par\u00e7as\u0131 olarak verilir\n formatted_messages = []\n for msg in messages:\n role = msg.get(\"role\")\n content = msg.get(\"content\")\n if role == \"system\":\n # Sistem mesaj\u0131n\u0131 ilk kullan\u0131c\u0131 mesaj\u0131na ekleyebiliriz veya g\u00f6rmezden gelebiliriz.\n # Bu \u00f6rnekte, basitlik ad\u0131na, sistem mesajlar\u0131n\u0131 'user' rol\u00fc ile ilk mesaja ekleyelim.\n if not formatted_messages or formatted_messages[0][\"role\"] != \"user\":\n formatted_messages.insert(0, {\"role\": \"user\", \"parts\": [content]})\n else:\n formatted_messages[0][\"parts\"][0] += f\"\\n\\nSistem Talimat\u0131: {content}\"\n elif role == \"assistant\": # Gemini'de 'model' rol\u00fc kullan\u0131l\u0131r\n formatted_messages.append({\"role\": \"model\", \"parts\": [content]})\n else:\n formatted_messages.append({\"role\": role, \"parts\": [content]})\n\n try:\n model_client = genai.GenerativeModel(model_name=model)\n response = model_client.generate_content(\n contents=formatted_messages,\n generation_config=genai.types.GenerationConfig(\n temperature=kwargs.get(\"temperature\", 0.7),\n max_output_tokens=kwargs.get(\"max_tokens\", 1024)\n )\n )\n return response.candidates[0].content.parts[0].text\n except Exception as e:\n print(f\"Gemini API hatas\u0131: {e}\")\n raise\n <\/code><\/pre>\n<\/div>\nUnifiedLLMClient<\/code> s\u0131n\u0131f\u0131nda birle\u015ftirebiliriz. Bu s\u0131n\u0131f, hangi modelin \u00e7a\u011fr\u0131laca\u011f\u0131na karar verecek ve ilgili sa\u011flay\u0131c\u0131 i\u015fleyicisini kullanacakt\u0131r.<\/p>\n\nclass UnifiedLLMClient:\n def __init__(self):\n self.handlers = {\n \"openai\": OpenAIHandler(),\n \"anthropic\": AnthropicHandler(),\n \"gemini\": GeminiHandler()\n }\n # Model isimlerini sa\u011flay\u0131c\u0131lara e\u015fle\u015ftirme\n self.model_map = {\n \"gpt-4o\": \"openai\",\n \"gpt-3.5-turbo\": \"openai\",\n \"claude-3-opus-20240229\": \"anthropic\",\n \"claude-3-sonnet-20240229\": \"anthropic\",\n \"gemini-pro\": \"gemini\",\n \"gemini-1.5-pro-latest\": \"gemini\"\n }\n\n def chat_completion(self, model: str, messages: list, **kwargs):\n provider = self.model_map.get(model)\n if not provider:\n raise ValueError(f\"Bilinmeyen model veya sa\u011flay\u0131c\u0131: {model}\")\n\n handler = self.handlers.get(provider)\n if not handler:\n raise RuntimeError(f\"Model sa\u011flay\u0131c\u0131s\u0131 i\u00e7in i\u015fleyici bulunamad\u0131: {provider}\")\n\n print(f\"'{model}' modeli i\u00e7in '{provider}' sa\u011flay\u0131c\u0131s\u0131 kullan\u0131l\u0131yor.\")\n return handler.complete_chat(model, messages, **kwargs)\n\n# Kullan\u0131m \u00f6rne\u011fi:\nif __name__ == \"__main__\":\n # API anahtarlar\u0131n\u0131z\u0131 ortam de\u011fi\u015fkenleri olarak ayarlay\u0131n\n # os.environ[\"OPENAI_API_KEY\"] = \"sk-...\"\n # os.environ[\"ANTHROPIC_API_KEY\"] = \"sk-ant-...\"\n # os.environ[\"GEMINI_API_KEY\"] = \"AIza...\"\n\n client = UnifiedLLMClient()\n\n # Ortak mesaj format\u0131\n common_messages = [\n {\"role\": \"system\", \"content\": \"Sen yard\u0131msever bir yapay zeka asistan\u0131s\u0131n.\"},\n {\"role\": \"user\", \"content\": \"T\u00fcrkiye'nin ba\u015fkenti neresidir?\"}\n ]\n\n print(\"\\n--- OpenAI (GPT-4o) ile Sohbet ---\")\n try:\n openai_response = client.chat_completion(\"gpt-4o\", common_messages, temperature=0.7)\n print(f\"Yan\u0131t: {openai_response}\")\n except Exception as e:\n print(f\"OpenAI \u00e7a\u011fr\u0131s\u0131 ba\u015far\u0131s\u0131z: {e}\")\n\n print(\"\\n--- Anthropic (Claude 3 Sonnet) ile Sohbet ---\")\n try:\n claude_response = client.chat_completion(\"claude-3-sonnet-20240229\", common_messages, temperature=0.7, max_tokens=500)\n print(f\"Yan\u0131t: {claude_response}\")\n except Exception as e:\n print(f\"Claude \u00e7a\u011fr\u0131s\u0131 ba\u015far\u0131s\u0131z: {e}\")\n\n print(\"\\n--- Google (Gemini Pro) ile Sohbet ---\")\n try:\n gemini_response = client.chat_completion(\"gemini-pro\", common_messages, temperature=0.7)\n print(f\"Yan\u0131t: {gemini_response}\")\n except Exception as e:\n print(f\"Gemini \u00e7a\u011fr\u0131s\u0131 ba\u015far\u0131s\u0131z: {e}\")\n <\/code><\/pre>\n<\/div>\nHandler<\/code> s\u0131n\u0131f\u0131nda bu farkl\u0131l\u0131klar\u0131 ele almam\u0131z gerekti\u011fini g\u00f6rd\u00fck. \u00d6zellikle system<\/code> mesajlar\u0131n\u0131n ve max_tokens<\/code> gibi parametrelerin y\u00f6netimi, sa\u011flay\u0131c\u0131dan sa\u011flay\u0131c\u0131ya de\u011fi\u015febilir. Bu sarmalay\u0131c\u0131 sayesinde, uygulaman\u0131z\u0131n ana mant\u0131\u011f\u0131, hangi LLM’yi kulland\u0131\u011f\u0131n\u0131 bilmeden, tek bir client.chat_completion(...)<\/code> \u00e7a\u011fr\u0131s\u0131 ile t\u00fcm modellerle etkile\u015fim kurabilir. Bu, gelecekte yeni bir model eklendi\u011finde veya mevcut bir model de\u011fi\u015ftirildi\u011finde, uygulaman\u0131z\u0131n \u00e7ekirdek kodunda minimum de\u011fi\u015fiklik yapman\u0131z\u0131 sa\u011flar.<\/p>\nAPI A\u011f Ge\u00e7itleri ve Vekil Sunucular: Y\u00f6netim ve \u00d6l\u00e7eklenebilirlik \u00c7\u00f6z\u00fcmleri<\/h2>\n
Model Se\u00e7iminde Dikkat Edilmesi Gerekenler: Performans, Maliyet ve G\u00fcvenlik<\/h2>\n
Vaka Analizi: \u00c7oklu LLM Entegrasyonundan Tekil API’a Ge\u00e7i\u015fin Ba\u015far\u0131 Hikayeleri<\/h2>\n
\n
generate_content<\/code> metodu alt\u0131nda birle\u015ftirdi. Metod, hangi modelin kullan\u0131laca\u011f\u0131n\u0131 bir parametre olarak al\u0131yordu. En \u00f6nemlisi, bu sarmalay\u0131c\u0131ya bir “deney y\u00f6neticisi” katman\u0131 entegre ettiler. Bu katman, belirli bir i\u00e7eri\u011fin \u00fcretimi i\u00e7in hangi modelin kullan\u0131laca\u011f\u0131n\u0131 (\u00f6rne\u011fin, %50 GPT-4, %30 Claude Opus, %20 Gemini 1.5 Pro gibi oranlarla) otomatik olarak belirleyebiliyordu. Ayr\u0131ca, her modelin \u00e7\u0131kt\u0131s\u0131n\u0131 etiketleyerek ve kullan\u0131c\u0131 geri bildirimleriyle ili\u015fkilendirerek, hangi modelin belirli i\u00e7erik t\u00fcrleri i\u00e7in daha ba\u015far\u0131l\u0131 oldu\u011funu izleyebildiler.<\/p>\n\n
Sonu\u00e7 ve Gelecek Perspektifi: LLM Entegrasyonunun Evrimi<\/h2>\n
S\u0131k\u00e7a Sorulan Sorular (SSS)<\/h3>\n
\nC1: Hay\u0131r, aksine do\u011fru uyguland\u0131\u011f\u0131nda performans\u0131 art\u0131rabilir. Bir vekil sunucu kullan\u0131l\u0131yorsa, \u00f6nbellekleme (caching) ve ak\u0131ll\u0131 y\u00f6nlendirme mekanizmalar\u0131 sayesinde yan\u0131t s\u00fcreleri k\u0131salabilir. Kendi sarmalay\u0131c\u0131 k\u00fct\u00fcphanenizde ise, gereksiz API \u00e7a\u011fr\u0131lar\u0131n\u0131 \u00f6nleyerek veya yan\u0131tlar\u0131 optimize ederek performans\u0131 kontrol edebilirsiniz. Ancak, her zaman ek bir katman\u0131n getirebilece\u011fi \u00e7ok k\u00fc\u00e7\u00fck bir gecikme potansiyeli vard\u0131r, bu genellikle ihmal edilebilir d\u00fczeydedir.<\/p>\n
\nC2: Projenizin \u00f6l\u00e7e\u011fine ve gereksinimlerine ba\u011fl\u0131d\u0131r. K\u00fc\u00e7\u00fck ve orta \u00f6l\u00e7ekli projeler veya tam kontrol isteyen ekipler i\u00e7in \u00f6zel bir sarmalay\u0131c\u0131 k\u00fct\u00fcphanesi yeterli olabilir. B\u00fcy\u00fck, kurumsal uygulamalar, mikro hizmet mimarileri veya geli\u015fmi\u015f y\u00f6netim, g\u00fcvenlik ve \u00f6l\u00e7eklenebilirlik gereksinimleri olan projeler i\u00e7in API a\u011f ge\u00e7idi veya vekil sunucu daha uygun olacakt\u0131r. Vekil sunucular, genellikle maliyet takibi, rate limiting ve merkezi g\u00fcnl\u00fckleme gibi ek \u00f6zellikler sunar.<\/p>\n
\nC3: Tek bir API aray\u00fcz\u00fc sayesinde, farkl\u0131 modellerin maliyetlerini kolayca kar\u015f\u0131la\u015ft\u0131rabilir ve uygulaman\u0131z\u0131n farkl\u0131 b\u00f6l\u00fcmleri i\u00e7in en uygun fiyatl\u0131 modeli se\u00e7ebilirsiniz. API a\u011f ge\u00e7itleri, gelen istekleri dinamik olarak en uygun maliyetli modele y\u00f6nlendirme yetene\u011fi sunar. Ayr\u0131ca, gereksiz token kullan\u0131m\u0131n\u0131 azaltmak i\u00e7in prompt m\u00fchendisli\u011fi tekniklerini kullanmak ve s\u0131k\u00e7a tekrarlanan yan\u0131tlar\u0131 \u00f6nbelle\u011fe almak da maliyetleri d\u00fc\u015f\u00fcrmeye yard\u0131mc\u0131 olur.<\/p>\n
\nC4: Her LLM sa\u011flay\u0131c\u0131s\u0131n\u0131n veri i\u015fleme ve gizlilik politikalar\u0131n\u0131 dikkatlice inceleyin. API anahtarlar\u0131n\u0131z\u0131 ve hassas verilerinizi g\u00fcvenli bir \u015fekilde saklay\u0131n (ortam de\u011fi\u015fkenleri, s\u0131r y\u00f6neticileri). E\u011fer vekil sunucu kullan\u0131yorsan\u0131z, bu sunucunun g\u00fcvenlik protokollerini ve veri saklama politikalar\u0131n\u0131 kontrol edin. Baz\u0131 durumlarda, verilerinizi i\u015fleyen sunucular\u0131n co\u011frafi konumunu veya belirli uyumluluk sertifikalar\u0131n\u0131 (\u00f6rne\u011fin, ISO 27001) sorgulaman\u0131z gerekebilir. Kurumsal \u00e7\u00f6z\u00fcmler veya \u00f6zel bulut tabanl\u0131 se\u00e7enekler, daha s\u0131k\u0131 g\u00fcvenlik gereksinimleri olan projeler i\u00e7in d\u00fc\u015f\u00fcn\u00fclebilir.<\/p>\n
\nC5: Tek bir API yakla\u015f\u0131m\u0131n\u0131n en b\u00fcy\u00fck avantajlar\u0131ndan biri budur. E\u011fer iyi tasarlanm\u0131\u015f bir sarmalay\u0131c\u0131 k\u00fct\u00fcphanesi veya API a\u011f ge\u00e7idi kullan\u0131yorsan\u0131z, yeni bir modeli entegre etmek genellikle sadece ilgili sa\u011flay\u0131c\u0131n\u0131n API’\u0131n\u0131 soyutlayan yeni bir i\u015fleyici eklemek veya a\u011f ge\u00e7idinin yap\u0131land\u0131rmas\u0131n\u0131 g\u00fcncellemektir. Uygulaman\u0131z\u0131n ana kodu, bu de\u011fi\u015fikliklerden b\u00fcy\u00fck \u00f6l\u00e7\u00fcde etkilenmez, bu da geli\u015ftirme h\u0131z\u0131n\u0131z\u0131 art\u0131r\u0131r ve bak\u0131m y\u00fck\u00fcn\u00fc azalt\u0131r.<\/p>\n