B\u00fcy\u00fck dil modellerinin (LLM) d\u00fcnyas\u0131na ad\u0131m atmak heyecan verici olabilir. OpenAI’nin GPT serisi veya Anthropic’in Claude’u gibi g\u00fc\u00e7l\u00fc modellerle harikalar yaratmak m\u00fcmk\u00fcn. Peki ya i\u015fin i\u00e7ine AWS Bedrock girdi\u011finde ne de\u011fi\u015fiyor? Bir\u00e7o\u011fumuzun akl\u0131ndaki ilk soru \u015fu: “Sadece API’yi de\u011fi\u015ftirmek yeterli mi?” Cevap kesinlikle hay\u0131r. Bu ge\u00e7i\u015f, ilk bak\u0131\u015fta g\u00f6r\u00fcnd\u00fc\u011f\u00fcnden \u00e7ok daha fazla detay\u0131 beraberinde getiriyor. \u00d6zellikle AWS’in kendine has ekosisteminde, kimlik ve eri\u015fim y\u00f6netimi (IAM), b\u00f6lge (region) k\u0131s\u0131tlamalar\u0131 ve model bulunabilirli\u011fi gibi fakt\u00f6rler, basit bir API de\u011fi\u015fikli\u011fi alg\u0131s\u0131n\u0131 h\u0131zla karma\u015f\u0131k bir hale getirebiliyor. Bu makalede, OpenAI veya Claude gibi platformlardan AWS Bedrock’a ge\u00e7i\u015f yapmay\u0131 d\u00fc\u015f\u00fcnen geli\u015ftiriciler ve teknoloji liderleri i\u00e7in kar\u015f\u0131la\u015fabilecekleri potansiyel zorluklar\u0131 ve AWS’e \u00f6zg\u00fc dikkat edilmesi gereken noktalar\u0131 derinlemesine inceleyece\u011fiz. Haz\u0131rsan\u0131z, bu yolculukta size rehberlik edecek \u00f6nemli ipu\u00e7lar\u0131na g\u00f6z atal\u0131m.<\/p>\n
LLM’ler art\u0131k sadece ara\u015ft\u0131rma laboratuvarlar\u0131nda veya ni\u015f uygulamalarda kar\u015f\u0131m\u0131za \u00e7\u0131kan soyut kavramlar olmaktan \u00e7\u0131kt\u0131. Her ge\u00e7en g\u00fcn daha fazla i\u015fletme, m\u00fc\u015fteri hizmetlerinden i\u00e7erik \u00fcretimine, kod yaz\u0131m\u0131ndan veri analizine kadar geni\u015f bir yelpazede LLM’lerin g\u00fcc\u00fcnden faydalan\u0131yor. Bu yayg\u0131nla\u015fma, geli\u015ftiricileri farkl\u0131 platformlar aras\u0131nda se\u00e7im yapmaya veya mevcut altyap\u0131lar\u0131n\u0131 geni\u015fletmeye itiyor. OpenAI ve Anthropic gibi \u00f6nc\u00fclerin sundu\u011fu modeller, API’leri arac\u0131l\u0131\u011f\u0131yla kolayca entegre edilebiliyor. Ancak, bulut altyap\u0131s\u0131 s\u00f6z konusu oldu\u011funda, \u00f6zellikle Amazon Web Services (AWS) gibi devasa ekosistemlere ge\u00e7i\u015f yapmak, sadece birka\u00e7 sat\u0131r kod de\u011fi\u015fikli\u011fi ile s\u0131n\u0131rl\u0131 kalm\u0131yor. AWS Bedrock, bu alanda \u00f6nemli bir oyuncu olarak kar\u015f\u0131m\u0131za \u00e7\u0131k\u0131yor. Peki, Bedrock’a ge\u00e7i\u015f yaparken nelere dikkat etmeliyiz? Bu makale, bu sorunun cevab\u0131n\u0131 detayl\u0131 bir \u015fekilde ele alacak ve sizi olas\u0131 s\u00fcrprizlere kar\u015f\u0131 haz\u0131rlayacak.<\/p>\n
AWS Bedrock’a ge\u00e7i\u015f yapmay\u0131 d\u00fc\u015f\u00fcnmenin ard\u0131nda yatan pek \u00e7ok ge\u00e7erli neden olabilir. \u00d6ncelikle, AWS’in sundu\u011fu entegre bulut ekosistemi, mevcut altyap\u0131n\u0131zla sorunsuz bir entegrasyon vaat eder. E\u011fer zaten AWS kullan\u0131c\u0131s\u0131ysan\u0131z, kimlik y\u00f6netimi, a\u011f yap\u0131land\u0131rmas\u0131, izleme ve g\u00fcnl\u00fckleme gibi servislerle Bedrock’\u0131 bir araya getirmek, operasyonel verimlili\u011fi \u00f6nemli \u00f6l\u00e7\u00fcde art\u0131rabilir. Bir di\u011fer \u00f6nemli fakt\u00f6r ise, Bedrock’\u0131n sadece AWS’in kendi geli\u015ftirdi\u011fi modelleri de\u011fil, ayn\u0131 zamanda Anthropic’in Claude’u, AI21 Labs’in Jurassic’i, Cohere’un modelleri ve Amazon’un Titan modelleri gibi \u00e7e\u015fitli \u00fc\u00e7\u00fcnc\u00fc taraf LLM’lere de eri\u015fim sa\u011flamas\u0131d\u0131r. Bu \u00e7e\u015fitlilik, farkl\u0131 g\u00f6revler i\u00e7in en uygun modeli se\u00e7me esnekli\u011fi sunar. \u00d6rne\u011fin, Claude’un yarat\u0131c\u0131 metin \u00fcretme yetenekleri veya Titan’\u0131n daha veri odakl\u0131 g\u00f6revlerdeki performans\u0131 gibi \u00f6zelliklerden yararlanmak m\u00fcmk\u00fcn hale gelir. Ayr\u0131ca, AWS’in k\u00fcresel altyap\u0131s\u0131 sayesinde, LLM uygulamalar\u0131n\u0131z\u0131 d\u00fcnya genelindeki kullan\u0131c\u0131lara daha d\u00fc\u015f\u00fck gecikme s\u00fcreleriyle sunabilirsiniz. Bu, \u00f6zellikle y\u00fcksek performans gerektiren global uygulamalar i\u00e7in kritik bir avantajd\u0131r. Son olarak, AWS’in sundu\u011fu g\u00fcvenlik ve uyumluluk standartlar\u0131, hassas verilerle \u00e7al\u0131\u015f\u0131rken b\u00fcy\u00fck bir g\u00fcvence sa\u011flar. LLM’lerin giderek artan bir \u015fekilde kurumsal ortamlarda kullan\u0131lmas\u0131yla birlikte, bu g\u00fcvenlik katmanlar\u0131 vazge\u00e7ilmez hale gelmektedir. Bedrock, bu g\u00fcvenlik \u00f6zelliklerini LLM entegrasyonuna ta\u015f\u0131yarak, i\u015fletmelerin LLM’leri daha g\u00fcvenli bir \u015fekilde benimsemesini sa\u011flar.<\/p>\n
Bir ba\u015fka \u00e7ekici y\u00f6n\u00fc ise, Bedrock’\u0131n sundu\u011fu y\u00f6netilen hizmet (managed service) yap\u0131s\u0131d\u0131r. Bu, altyap\u0131 y\u00f6netimi, \u00f6l\u00e7eklendirme ve model bak\u0131m\u0131 gibi operasyonel y\u00fckleri AWS’in \u00fcstlenmesi anlam\u0131na gelir. Geli\u015ftiriciler, altyap\u0131 karma\u015f\u0131kl\u0131\u011f\u0131yla u\u011fra\u015fmak yerine, do\u011frudan LLM’lerin sundu\u011fu yeteneklere odaklanabilirler. Bu, \u00f6zellikle h\u0131zl\u0131 prototipleme ve \u00fcr\u00fcn geli\u015ftirme s\u00fcre\u00e7lerinde b\u00fcy\u00fck bir zaman ve kaynak tasarrufu sa\u011flar. Ayr\u0131ca, Bedrock’\u0131n fiyatland\u0131rma modeli de rekabet\u00e7i olabilir. Kullan\u0131m bazl\u0131 fiyatland\u0131rma, ba\u015flang\u0131\u00e7 maliyetlerini d\u00fc\u015f\u00fcr\u00fcr ve b\u00fct\u00e7eyi daha iyi kontrol etme imkan\u0131 sunar. Farkl\u0131 modeller i\u00e7in sunulan API \u00e7a\u011fr\u0131lar\u0131 ve token bazl\u0131 \u00fccretlendirme, projelerin b\u00fcy\u00fckl\u00fc\u011f\u00fcne ve ihtiyac\u0131na g\u00f6re optimize edilebilir. Bu esneklik, k\u00fc\u00e7\u00fck \u00f6l\u00e7ekli projelerden b\u00fcy\u00fck \u00f6l\u00e7ekli kurumsal uygulamalara kadar her t\u00fcrl\u00fc senaryo i\u00e7in uygun bir \u00e7\u00f6z\u00fcm sunar. \u00d6zetle, Bedrock’a ge\u00e7i\u015f, sadece model kullanmakla kalmay\u0131p, ayn\u0131 zamanda AWS’in geni\u015f hizmet yelpazesinden ve operasyonel avantajlar\u0131ndan faydalanmak anlam\u0131na gelir. Bu, LLM projelerinizi daha \u00f6l\u00e7eklenebilir, g\u00fcvenli ve verimli hale getirme potansiyeli ta\u015f\u0131r.<\/p>\n
LLM d\u00fcnyas\u0131na yeni ad\u0131m atanlar veya farkl\u0131 platformlar aras\u0131nda ge\u00e7i\u015f yapmay\u0131 d\u00fc\u015f\u00fcnenler i\u00e7in en yayg\u0131n yan\u0131lg\u0131lardan biri, “Bu sadece bir API de\u011fi\u015fikli\u011fi” d\u00fc\u015f\u00fcncesidir. \u00d6zellikle OpenAI veya Claude gibi platformlar\u0131n RESTful API’lerine al\u0131\u015fk\u0131nsan\u0131z, Bedrock’a ge\u00e7erken de benzer bir mant\u0131k y\u00fcr\u00fctebilirsiniz. Ancak, AWS ekosistemine girdi\u011finizde, kimlik ve eri\u015fim y\u00f6netimi (IAM – Identity and Access Management) devreye girer ve i\u015fler karma\u015f\u0131kla\u015f\u0131r. AWS IAM, bulut kaynaklar\u0131n\u0131za kimin, ne zaman ve hangi yetkilerle eri\u015febilece\u011fini belirleyen temel bir g\u00fcvenlik mekanizmas\u0131d\u0131r. Bedrock ile \u00e7al\u0131\u015f\u0131rken, API \u00e7a\u011fr\u0131lar\u0131n\u0131z\u0131 yapabilmek i\u00e7in \u00f6ncelikle do\u011fru IAM politikalar\u0131na ve rollerine sahip olman\u0131z gerekir. Bu, basit bir API anahtar\u0131 (API key) olu\u015fturup kullanmaktan \u00e7ok daha detayl\u0131 bir s\u00fcre\u00e7tir. Kullan\u0131c\u0131lar, gruplar ve roller olu\u015fturman\u0131z, bu rollere Bedrock API’sine eri\u015fim yetkisi vermeniz ve hatta belirli modelleri kullanma iznini k\u0131s\u0131tlaman\u0131z gerekebilir. \u00d6rne\u011fin, bir geli\u015ftirici ekibiniz varsa, her bir geli\u015ftiriciye ayr\u0131 bir IAM kullan\u0131c\u0131s\u0131 atayabilir ve bu kullan\u0131c\u0131lara sadece gerekli Bedrock modellerine eri\u015fim izni verebilirsiniz. Bu, yetkilendirme seviyesini art\u0131r\u0131r ve olas\u0131 g\u00fcvenlik a\u00e7\u0131klar\u0131n\u0131 azalt\u0131r. Ayr\u0131ca, IAM politikalar\u0131, kaynak bazl\u0131 eri\u015fim kontrol\u00fc de sa\u011flayabilir. Bu, belirli bir Bedrock modelinin veya belirli bir Bedrock u\u00e7 noktas\u0131n\u0131n (endpoint) kullan\u0131m\u0131n\u0131 sadece belirli IAM rollerine veya kullan\u0131c\u0131lar\u0131na k\u0131s\u0131tlamak anlam\u0131na gelir. Bu detayl\u0131 kontrol, hassas verilerle \u00e7al\u0131\u015f\u0131rken veya maliyetleri y\u00f6netirken b\u00fcy\u00fck \u00f6nem ta\u015f\u0131r.<\/p>\n
Bu IAM yap\u0131land\u0131rmas\u0131, \u00f6zellikle b\u00fcy\u00fck ekiplerle \u00e7al\u0131\u015f\u0131rken veya birden fazla projede LLM’leri kullan\u0131rken kritik hale gelir. Her bir projenin veya ekibin kendi eri\u015fim izinlerine sahip olmas\u0131, g\u00fcvenlik ve maliyet takibi a\u00e7\u0131s\u0131ndan b\u00fcy\u00fck avantajlar sa\u011flar. \u00d6rne\u011fin, bir proje ekibi sadece metin \u00f6zetleme i\u00e7in kullan\u0131labilecek bir modeli kullan\u0131rken, ba\u015fka bir ekip daha geli\u015fmi\u015f kod \u00fcretimi i\u00e7in farkl\u0131 bir modele eri\u015febilir. IAM, bu ayr\u0131m\u0131 net bir \u015fekilde yapman\u0131z\u0131 sa\u011flar. IAM politikalar\u0131n\u0131 do\u011fru yap\u0131land\u0131rmamak, API \u00e7a\u011fr\u0131lar\u0131n\u0131z\u0131n ba\u015far\u0131s\u0131z olmas\u0131na, yetkilendirme hatalar\u0131 alman\u0131za veya beklenmedik g\u00fcvenlik a\u00e7\u0131klar\u0131na yol a\u00e7abilir. Bu nedenle, Bedrock’a ge\u00e7i\u015f yapmadan \u00f6nce AWS IAM’in temellerini anlamak ve projeleriniz i\u00e7in uygun bir yetkilendirme stratejisi geli\u015ftirmek hayati \u00f6nem ta\u015f\u0131r. Bu, sadece teknik bir gereklilik de\u011fil, ayn\u0131 zamanda projenizin g\u00fcvenli\u011fini ve s\u00fcrd\u00fcr\u00fclebilirli\u011fini sa\u011flaman\u0131n temel ta\u015f\u0131d\u0131r. Unutmay\u0131n, AWS’te her \u015fey IAM ile ba\u015flar ve biter.<\/p>\n
\u00d6rnek bir senaryo d\u00fc\u015f\u00fcnelim: Bir e-ticaret \u015firketi, m\u00fc\u015fteri geri bildirimlerini analiz etmek i\u00e7in bir LLM kullanmak istiyor. Bu analiz i\u00e7in Claude modelini Bedrock \u00fczerinden kullanacaklar. \u015eirketin IT ekibi, geli\u015ftiricilere ve veri analistlerine ayr\u0131 ayr\u0131 IAM rolleri tan\u0131mlar. Geli\u015ftiricilere, Claude modeline API \u00e7a\u011fr\u0131lar\u0131 yapma yetkisi verilirken, veri analistlerine sadece analiz sonu\u00e7lar\u0131n\u0131 g\u00f6r\u00fcnt\u00fcleme ve raporlama yetkisi verilir. Bu, yetkisiz ki\u015filerin modelin kendisini veya temel altyap\u0131y\u0131 de\u011fi\u015ftirmesini engeller. Ayr\u0131ca, maliyet takibi i\u00e7in de bu roller \u00f6nemlidir. Hangi ekibin ne kadar kaynak kulland\u0131\u011f\u0131n\u0131 IAM etiketleri arac\u0131l\u0131\u011f\u0131yla takip etmek m\u00fcmk\u00fcnd\u00fcr. Bu t\u00fcr detayl\u0131 yetkilendirme, basit bir API anahtar\u0131 kullanmaktan \u00e7ok daha g\u00fcvenli ve y\u00f6netilebilir bir yakla\u015f\u0131md\u0131r. Bu, “sadece API de\u011fi\u015fikli\u011fi” mitinin neden yan\u0131lt\u0131c\u0131 oldu\u011funu a\u00e7\u0131k\u00e7a ortaya koymaktad\u0131r; \u00e7\u00fcnk\u00fc eri\u015fim kontrol\u00fc, bulut g\u00fcvenli\u011finin temel bir par\u00e7as\u0131d\u0131r ve AWS’te bu rol\u00fc IAM \u00fcstlenir.<\/p>\n
AWS’in k\u00fcresel bir altyap\u0131 sunmas\u0131, bir\u00e7ok avantaj\u0131 beraberinde getirirken, LLM kullan\u0131mlar\u0131nda baz\u0131 \u00f6nemli k\u0131s\u0131tlamalar\u0131 da beraberinde getirir. En belirgin olan\u0131, model bulunabilirli\u011fi ve b\u00f6lge (region) k\u0131s\u0131tlamalar\u0131d\u0131r. AWS Bedrock \u00fczerinden eri\u015febilece\u011finiz modeller, her AWS b\u00f6lgesinde ayn\u0131 anda ve ayn\u0131 s\u00fcr\u00fcmde bulunmayabilir. Bu, geli\u015ftiricilerin uygulamalar\u0131n\u0131 da\u011f\u0131tacaklar\u0131 b\u00f6lgeyi dikkatli se\u00e7melerini gerektirir. \u00d6rne\u011fin, en yeni ve en g\u00fc\u00e7l\u00fc LLM modelleri ba\u015flang\u0131\u00e7ta yaln\u0131zca belirli, genellikle daha b\u00fcy\u00fck ve daha geli\u015fmi\u015f b\u00f6lgelerde (\u00f6rne\u011fin, ABD Do\u011fu – Kuzey Virginia) kullan\u0131ma sunulabilir. Bu durum, global \u00f6l\u00e7ekte bir uygulama geli\u015ftiren ekipler i\u00e7in ciddi bir planlama gerektirir. E\u011fer uygulaman\u0131z\u0131n kullan\u0131c\u0131lar\u0131 Avrupa’da yo\u011funla\u015fm\u0131\u015fsa ve kulland\u0131\u011f\u0131n\u0131z model yaln\u0131zca ABD’de mevcutsa, bu durum ya uygulaman\u0131z\u0131 farkl\u0131 bir b\u00f6lgeye ta\u015f\u0131man\u0131z\u0131 ya da daha az geli\u015fmi\u015f bir model kullanman\u0131z\u0131 gerektirebilir. Bu, performans, gecikme s\u00fcresi ve maliyet a\u00e7\u0131s\u0131ndan \u00f6nemli sonu\u00e7lar do\u011furabilir.<\/p>\n
Bu k\u0131s\u0131tlamalarla ba\u015fa \u00e7\u0131kmak i\u00e7in birka\u00e7 strateji izlenebilir. \u00d6ncelikle, AWS Bedrock’\u0131n model bulunabilirli\u011fi haritas\u0131n\u0131 d\u00fczenli olarak takip etmek \u00f6nemlidir. Hangi modelin hangi b\u00f6lgede mevcut oldu\u011funu bilmek, geli\u015ftirme ve da\u011f\u0131t\u0131m planlar\u0131n\u0131z\u0131 buna g\u00f6re yapman\u0131za yard\u0131mc\u0131 olur. \u0130kinci olarak, e\u011fer belirli bir modelin istedi\u011finiz b\u00f6lgede bulunmamas\u0131 durumunda, alternatif modelleri de\u011ferlendirebilirsiniz. Bedrock, \u00e7e\u015fitli LLM sa\u011flay\u0131c\u0131lar\u0131ndan modeller sundu\u011fu i\u00e7in, genellikle benzer yeteneklere sahip alternatifler bulmak m\u00fcmk\u00fcnd\u00fcr. \u00d6rne\u011fin, e\u011fer Anthropic’in en son Claude modeli sizin b\u00f6lgenizde yoksa, AI21 Labs’in Jurassic modeli veya Cohere’un modelleri benzer g\u00f6revleri yerine getirebilir. \u00dc\u00e7\u00fcnc\u00fc bir strateji ise, uygulaman\u0131z\u0131 birden fazla AWS b\u00f6lgesine da\u011f\u0131tmak ve kullan\u0131c\u0131lar\u0131n konumlar\u0131na en yak\u0131n b\u00f6lgedeki Bedrock u\u00e7 noktas\u0131n\u0131 kullanmalar\u0131n\u0131 sa\u011flamakt\u0131r. Bu, hem gecikme s\u00fcresini azalt\u0131r hem de model bulunabilirli\u011fi sorunlar\u0131n\u0131 a\u015fman\u0131za yard\u0131mc\u0131 olur. Ancak, bu yakla\u015f\u0131m, altyap\u0131 y\u00f6netimini daha karma\u015f\u0131k hale getirebilir ve ek maliyetler getirebilir. Bu nedenle, b\u00f6lge k\u0131s\u0131tlamalar\u0131n\u0131 ve model bulunabilirli\u011fini g\u00f6z \u00f6n\u00fcnde bulundurarak, uygulaman\u0131z\u0131n mimarisini ve da\u011f\u0131t\u0131m stratejinizi ba\u015ftan planlamak b\u00fcy\u00fck \u00f6nem ta\u015f\u0131r. Basit bir API de\u011fi\u015fikli\u011fi olarak g\u00f6r\u00fcnen \u015feyin, asl\u0131nda k\u00fcresel altyap\u0131 ve hizmet kullan\u0131labilirli\u011fi gibi karma\u015f\u0131k fakt\u00f6rlere ba\u011fl\u0131 oldu\u011funu unutmamak gerekir.<\/p>\n
Bir vaka analizi \u00fczerinden bu durumu somutla\u015ft\u0131ral\u0131m: Yeni bir yapay zeka destekli \u00e7eviri hizmeti geli\u015ftiren bir startup d\u00fc\u015f\u00fcnelim. Hedef kitleleri hem T\u00fcrkiye’de hem de Almanya’da yo\u011funla\u015f\u0131yor. Ba\u015flang\u0131\u00e7ta, en geli\u015fmi\u015f \u00e7eviri yetenekleri i\u00e7in Anthropic’in Claude modelini kullanmaya karar veriyorlar. Ancak, AWS Bedrock’\u0131n Almanya (Frankfurt) b\u00f6lgesinde bu spesifik modelin hen\u00fcz mevcut olmad\u0131\u011f\u0131n\u0131 fark ediyorlar. Bu durumda, iki se\u00e7enekleri var: Ya uygulamalar\u0131n\u0131 ABD Do\u011fu (N. Virginia) b\u00f6lgesine ta\u015f\u0131yacaklar, bu da Avrupa’daki kullan\u0131c\u0131lar i\u00e7in y\u00fcksek gecikme s\u00fcresine neden olacak; ya da Almanya’da mevcut olan ve benzer \u00e7eviri yetenekleri sunan ba\u015fka bir modeli (\u00f6rne\u011fin, Amazon Titan Text modelleri veya Cohere’un modelleri) kullanacaklar. Startup, maliyetleri ve kullan\u0131c\u0131 deneyimini optimize etmek i\u00e7in Almanya’da mevcut olan Amazon Titan Text modellerini kullanmaya karar veriyor ve uygulamalar\u0131n\u0131 hem Frankfurt hem de N. Virginia b\u00f6lgelerine da\u011f\u0131tarak co\u011frafi optimizasyon sa\u011fl\u0131yor. Bu, b\u00f6lge k\u0131s\u0131tlamalar\u0131n\u0131n ve model bulunabilirli\u011finin, LLM projelerinin stratejik kararlar\u0131n\u0131 nas\u0131l do\u011frudan etkiledi\u011fini g\u00f6steren bir \u00f6rnektir.<\/p>\n
AWS Bedrock’\u0131n en b\u00fcy\u00fck avantajlar\u0131ndan biri, farkl\u0131 LLM sa\u011flay\u0131c\u0131lar\u0131ndan \u00e7e\u015fitli modelleri tek bir platformda sunmas\u0131d\u0131r. Ancak bu \u00e7e\u015fitlilik, ayn\u0131 zamanda do\u011fru modeli se\u00e7me konusunda bir kafa kar\u0131\u015f\u0131kl\u0131\u011f\u0131na da yol a\u00e7abilir. Her modelin kendine \u00f6zg\u00fc g\u00fc\u00e7l\u00fc ve zay\u0131f y\u00f6nleri, e\u011fitim verileri ve dolay\u0131s\u0131yla yetenekleri vard\u0131r. OpenAI’nin GPT serisi, genel ama\u00e7l\u0131 dil g\u00f6revlerinde, yarat\u0131c\u0131 yaz\u0131mda ve kod \u00fcretiminde olduk\u00e7a ba\u015far\u0131l\u0131d\u0131r. Anthropic’in Claude modelleri ise, \u00f6zellikle uzun metinleri anlama, \u00f6zetleme ve daha etik ve g\u00fcvenli \u00e7\u0131kt\u0131lar \u00fcretme konusunda \u00f6ne \u00e7\u0131kar. AI21 Labs’in Jurassic modelleri, karma\u015f\u0131k metin anlama ve bilgi \u00e7\u0131karma g\u00f6revlerinde g\u00fc\u00e7l\u00fcd\u00fcr. Cohere’un modelleri ise, genellikle kurumsal uygulamalar ve metin s\u0131n\u0131fland\u0131rma, \u00f6zetleme gibi g\u00f6revler i\u00e7in optimize edilmi\u015ftir. Amazon’un kendi Titan modelleri ise, metin \u00fcretimi, metin s\u0131n\u0131fland\u0131rma ve g\u00f6m\u00fcl\u00fc vekt\u00f6rler (embeddings) olu\u015fturma gibi alanlarda AWS ekosistemiyle entegre bir \u015fekilde \u00e7al\u0131\u015fmak \u00fczere tasarlanm\u0131\u015ft\u0131r.<\/p>\n
Do\u011fru modeli se\u00e7mek, projenizin ba\u015far\u0131s\u0131 i\u00e7in kritik \u00f6neme sahiptir. Bu, sadece modelin ad\u0131n\u0131 bilmekle de\u011fil, ayn\u0131 zamanda modelin hangi t\u00fcr g\u00f6revler i\u00e7in e\u011fitildi\u011fini ve hangi parametrelerle en iyi performans\u0131 g\u00f6sterdi\u011fini anlamakla ilgilidir. \u00d6rne\u011fin, e\u011fer bir sohbet botu geli\u015ftiriyorsan\u0131z, konu\u015fma ak\u0131\u015f\u0131n\u0131 iyi y\u00f6netebilen, do\u011fal dil anlama yetene\u011fi y\u00fcksek bir model se\u00e7melisiniz. E\u011fer kod \u00fcretimi yap\u0131yorsan\u0131z, kodlama yetenekleri geli\u015fmi\u015f bir model tercih etmelisiniz. Metin \u00f6zetleme veya \u00e7eviri gibi g\u00f6revler i\u00e7in ise, uzun metinleri i\u015fleyebilen ve do\u011fru anlamsal anlam\u0131 koruyabilen modeller daha uygun olacakt\u0131r. Bedrock’\u0131n sundu\u011fu modellerin dok\u00fcmantasyonlar\u0131n\u0131 dikkatlice incelemek ve her bir modelin kullan\u0131m senaryolar\u0131n\u0131 anlamak, en do\u011fru karar\u0131 vermenize yard\u0131mc\u0131 olacakt\u0131r. Ayr\u0131ca, farkl\u0131 modelleri k\u00fc\u00e7\u00fck \u00f6l\u00e7ekte test ederek performanslar\u0131n\u0131 kendi veri setleriniz \u00fczerinde kar\u015f\u0131la\u015ft\u0131rmak da iyi bir stratejidir. Bu, “benchmarking” olarak adland\u0131r\u0131l\u0131r ve hangi modelin sizin \u00f6zel ihtiya\u00e7lar\u0131n\u0131z i\u00e7in en uygun oldu\u011funu belirlemenize olanak tan\u0131r. Model se\u00e7imi, sadece teknik bir karar de\u011fil, ayn\u0131 zamanda maliyet ve performans dengesini de g\u00f6zeten stratejik bir karard\u0131r.<\/p>\n
Bir \u00f6rnekle a\u00e7\u0131klayal\u0131m: Bir hukuk b\u00fcrosu, b\u00fcy\u00fck miktarda yasal belgeyi analiz ederek \u00f6nemli bilgileri \u00e7\u0131karmak istiyor. Bu g\u00f6rev i\u00e7in GPT-4 veya Claude 2 gibi geli\u015fmi\u015f modeller d\u00fc\u015f\u00fcn\u00fclebilir. Ancak, Bedrock’\u0131n sundu\u011fu AI21 Labs’in Jurassic-2 modelleri, \u00f6zellikle karma\u015f\u0131k metin anlama ve bilgi \u00e7\u0131karma konusunda uzmanla\u015fm\u0131\u015ft\u0131r. Hukuk b\u00fcrosu, farkl\u0131 modelleri test ettikten sonra, Jurassic-2’nin yasal terminolojiyi anlama ve spesifik bilgileri do\u011fru bir \u015fekilde \u00e7\u0131karma konusunda di\u011fer modellere g\u00f6re daha iyi performans g\u00f6sterdi\u011fini fark ediyor. Bu nedenle, Bedrock \u00fczerinden Jurassic-2 modelini kullanmaya karar veriyorlar. Bu karar, sadece modelin genel yeteneklerine de\u011fil, ayn\u0131 zamanda belirli bir alan (hukuk) i\u00e7in optimize edilmi\u015f yeteneklerine dayanmaktad\u0131r. Bu, LLM se\u00e7iminde detayl\u0131 bir analiz ve test s\u00fcrecinin \u00f6nemini vurgulamaktad\u0131r.<\/p>\n
AWS Bedrock’a ge\u00e7i\u015f yaparken, API \u00e7a\u011fr\u0131lar\u0131n\u0131z\u0131n yap\u0131s\u0131 ve yap\u0131land\u0131rmas\u0131 da baz\u0131 farkl\u0131l\u0131klar g\u00f6sterecektir. OpenAI veya Claude’un API’lerine al\u0131\u015fk\u0131nsan\u0131z, Bedrock’\u0131n API’lerinin baz\u0131 noktalarda benzerlik g\u00f6sterdi\u011fini g\u00f6receksiniz. Ancak, AWS’in kendine has servis yap\u0131s\u0131 ve g\u00fcvenlik protokolleri nedeniyle baz\u0131 ek ad\u0131mlar ve farkl\u0131l\u0131klar olacakt\u0131r. En temel farklardan biri, API isteklerinin AWS imzalama (signing) mekanizmas\u0131n\u0131 kullanmas\u0131d\u0131r. Bu, isteklerinizi AWS kimlik do\u011frulama s\u00fcre\u00e7lerinden ge\u00e7irmek i\u00e7in gereklidir. Bu genellikle AWS SDK’lar\u0131 (Software Development Kits) arac\u0131l\u0131\u011f\u0131yla otomatik olarak halledilir, ancak manuel isteklerde veya \u00f6zel entegrasyonlarda bu ad\u0131m\u0131 bilmek \u00f6nemlidir. AWS SDK’lar\u0131, farkl\u0131 programlama dilleri i\u00e7in mevcuttur ve Bedrock API’leriyle etkile\u015fim kurmay\u0131 olduk\u00e7a kolayla\u015ft\u0131r\u0131r.<\/p>\n
API isteklerinde model ad\u0131, parametreler ve girdi (prompt) yap\u0131s\u0131 gibi unsurlar da dikkat edilmesi gereken noktalard\u0131r. Her modelin kendi \u00f6zel parametreleri olabilir. \u00d6rne\u011fin, bir modelin “temperature” (s\u0131cakl\u0131k) parametresi, \u00e7\u0131kt\u0131n\u0131n rastgeleli\u011fini kontrol ederken, ba\u015fka bir modelin “top_p” parametresi benzer bir i\u015flevi g\u00f6rebilir. Bu parametreleri do\u011fru ayarlamak, istedi\u011finiz t\u00fcrde \u00e7\u0131kt\u0131lar alman\u0131z\u0131 sa\u011flar. Girdi (prompt) m\u00fchendisli\u011fi, hangi modeli kullan\u0131rsan\u0131z kullan\u0131n kritik \u00f6neme sahiptir. Ancak, Bedrock’ta farkl\u0131 modelleri kullan\u0131rken, her modelin girdi format\u0131na ve beklentilerine daha fazla dikkat etmeniz gerekebilir. Baz\u0131 modeller, belirli komutlar\u0131 veya formatlar\u0131 daha iyi anlayabilir. Bu nedenle, se\u00e7ti\u011finiz modelin dok\u00fcmantasyonunu dikkatlice okumak ve buna g\u00f6re girdilerinizi optimize etmek \u00f6nemlidir. Ayr\u0131ca, Bedrock’\u0131n sundu\u011fu “provisioned throughput” gibi \u00f6zellikler, y\u00fcksek trafikli uygulamalar i\u00e7in performans\u0131 garanti alt\u0131na almak ve maliyetleri daha \u00f6ng\u00f6r\u00fclebilir hale getirmek i\u00e7in kullan\u0131labilir. Bu, sabit bir i\u015flem hacmini \u00f6nceden rezerve etmek anlam\u0131na gelir ve API \u00e7a\u011fr\u0131lar\u0131n\u0131z\u0131n her zaman h\u0131zl\u0131 ve kararl\u0131 olmas\u0131n\u0131 sa\u011flar. Bu t\u00fcr yap\u0131land\u0131rma se\u00e7enekleri, basit bir API de\u011fi\u015fikli\u011fi yapman\u0131n \u00f6tesinde, altyap\u0131 ve performans optimizasyonu gerektiren ad\u0131mlard\u0131r.<\/p>\n
Bir \u00f6rnekle bu durumu a\u00e7\u0131klayal\u0131m: Bir geli\u015ftirici, Python kullanarak Bedrock \u00fczerinden bir metin \u00f6zetleme uygulamas\u0131 geli\u015ftirmek istiyor. Geli\u015ftirici, Bu kod \u00f6rne\u011fi, AWS SDK kullanarak Bedrock API’sine nas\u0131l \u00e7a\u011fr\u0131 yap\u0131laca\u011f\u0131n\u0131 g\u00f6stermektedir. Bu, sadece bir API u\u00e7 noktas\u0131na istek g\u00f6ndermekten daha fazlas\u0131n\u0131 i\u00e7erir; AWS kimlik do\u011frulama, model ID se\u00e7imi ve parametre yap\u0131land\u0131rmas\u0131 gibi ek ad\u0131mlar\u0131 gerektirir.<\/p>\n LLM’lerin kullan\u0131m\u0131, \u00f6zellikle API \u00e7a\u011fr\u0131lar\u0131 ve token bazl\u0131 \u00fccretlendirme modelleri nedeniyle, maliyet a\u00e7\u0131s\u0131ndan \u00f6nemli bir konudur. AWS Bedrock’a ge\u00e7erken, maliyet y\u00f6netimini ba\u015ftan planlamak ve optimize etmek, b\u00fct\u00e7enizi kontrol alt\u0131nda tutman\u0131za yard\u0131mc\u0131 olacakt\u0131r. Farkl\u0131 modellerin farkl\u0131 fiyatland\u0131rma yap\u0131lar\u0131 olabilir. Baz\u0131 modeller token ba\u015f\u0131na daha pahal\u0131 olabilirken, baz\u0131lar\u0131 daha uygun fiyatl\u0131 olabilir ancak daha az geli\u015fmi\u015f yeteneklere sahip olabilir. Bu nedenle, projenizin gereksinimlerini belirlerken, maliyetleri de g\u00f6z \u00f6n\u00fcnde bulundurarak en uygun modeli se\u00e7mek \u00f6nemlidir. \u00d6rne\u011fin, sadece basit metin s\u0131n\u0131fland\u0131rma g\u00f6revleri i\u00e7in en pahal\u0131 ve en geli\u015fmi\u015f modeli kullanmak gereksiz bir maliyet art\u0131\u015f\u0131na yol a\u00e7abilir. Bunun yerine, daha uygun fiyatl\u0131 ve g\u00f6reve \u00f6zel bir model tercih edilebilir. Bedrock’\u0131n sundu\u011fu model \u00e7e\u015fitlili\u011fi, bu optimizasyon i\u00e7in b\u00fcy\u00fck bir esneklik sa\u011flar.<\/p>\n Maliyet optimizasyonu i\u00e7in izlenebilecek bir di\u011fer strateji, API \u00e7a\u011fr\u0131lar\u0131n\u0131 optimize etmektir. Gereksiz yere \u00e7ok fazla API \u00e7a\u011fr\u0131s\u0131 yapmaktan ka\u00e7\u0131nmak, maliyetleri d\u00fc\u015f\u00fcrmenin en etkili yollar\u0131ndan biridir. Bu, istemcilerinizde veya sunucu taraf\u0131n\u0131zda \u00e7\u0131kt\u0131y\u0131 \u00f6nbelle\u011fe almak (caching) veya toplu (batch) i\u015flemlerle birden fazla iste\u011fi tek bir \u00e7a\u011fr\u0131da birle\u015ftirmekle m\u00fcmk\u00fcn olabilir. \u00d6rne\u011fin, s\u00fcrekli ayn\u0131 bilgiyi sorgulayan kullan\u0131c\u0131lar i\u00e7in, bu bilgiyi bir kez al\u0131p \u00f6nbellekte saklamak, tekrar tekrar API \u00e7a\u011fr\u0131s\u0131 yapma ihtiyac\u0131n\u0131 ortadan kald\u0131r\u0131r. Ayr\u0131ca, Bedrock’\u0131n sundu\u011fu “provisioned throughput” se\u00e7ene\u011fi, y\u00fcksek trafikli uygulamalar i\u00e7in maliyetleri daha \u00f6ng\u00f6r\u00fclebilir hale getirebilir. Sabit bir i\u015flem hacmini rezerve etmek, anl\u0131k trafik art\u0131\u015flar\u0131nda ya\u015fanan maliyet dalgalanmalar\u0131n\u0131 \u00f6nler ve uzun vadede daha uygun bir fiyatland\u0131rma sunabilir. AWS Cost Explorer ve AWS Budgets gibi ara\u00e7lar, Bedrock kullan\u0131m\u0131n\u0131z\u0131n maliyetlerini izlemenize ve b\u00fct\u00e7e a\u015f\u0131mlar\u0131n\u0131 \u00f6nlemenize yard\u0131mc\u0131 olacakt\u0131r. Bu ara\u00e7lar, hangi modellerin en \u00e7ok maliyete neden oldu\u011funu, hangi API \u00e7a\u011fr\u0131lar\u0131n\u0131n en yo\u011fun oldu\u011funu ve potansiyel tasarruf alanlar\u0131n\u0131 belirlemenize olanak tan\u0131r. Bu proaktif yakla\u015f\u0131m, LLM projelerinin s\u00fcrd\u00fcr\u00fclebilirli\u011fini sa\u011flamak i\u00e7in hayati \u00f6nem ta\u015f\u0131r.<\/p>\n Bir e-ticaret platformu, m\u00fc\u015fteri yorumlar\u0131n\u0131 analiz etmek i\u00e7in LLM kullan\u0131yor. Ba\u015flang\u0131\u00e7ta, her m\u00fc\u015fteri yorumu i\u00e7in ayr\u0131 bir API \u00e7a\u011fr\u0131s\u0131 yap\u0131yorlar. Ancak, binlerce yorumun i\u015flenmesiyle birlikte maliyetler h\u0131zla art\u0131yor. Platform, maliyetleri d\u00fc\u015f\u00fcrmek i\u00e7in iki strateji uyguluyor: Birincisi, benzer yorumlar\u0131 grupland\u0131rarak veya belirli aral\u0131klarla toplayarak toplu (batch) analizler yap\u0131yorlar. Bu, API \u00e7a\u011fr\u0131 say\u0131s\u0131n\u0131 \u00f6nemli \u00f6l\u00e7\u00fcde azalt\u0131yor. \u0130kincisi, en s\u0131k sorulan veya en kritik analizler i\u00e7in daha uygun fiyatl\u0131 bir model se\u00e7iyorlar, ancak daha karma\u015f\u0131k analizler i\u00e7in daha geli\u015fmi\u015f bir modeli yaln\u0131zca gerekti\u011finde kullan\u0131yorlar. Ayr\u0131ca, AWS Cost Explorer’\u0131 kullanarak g\u00fcnl\u00fck ve haftal\u0131k maliyetlerini izliyorlar ve potansiyel tasarruf alanlar\u0131n\u0131 belirlemek i\u00e7in raporlar olu\u015fturuyorlar. Bu sayede, LLM kullan\u0131m maliyetlerini %30’a kadar d\u00fc\u015f\u00fcrmeyi ba\u015far\u0131yorlar.<\/p>\n AWS Bedrock’a ge\u00e7i\u015f yapt\u0131\u011f\u0131n\u0131zda, uygulamalar\u0131n\u0131z\u0131n performans\u0131n\u0131 ve sa\u011fl\u0131\u011f\u0131n\u0131 izlemek i\u00e7in AWS’in sundu\u011fu g\u00fc\u00e7l\u00fc ara\u00e7lardan faydalanmak \u00f6nemlidir. Basit bir API de\u011fi\u015fikli\u011fi gibi g\u00f6r\u00fcnse de, arka planda \u00e7al\u0131\u015fan bu karma\u015f\u0131k sistemlerin sorunsuz \u00e7al\u0131\u015fmas\u0131n\u0131 sa\u011flamak i\u00e7in izleme (monitoring) kritik bir rol oynar. AWS CloudWatch, Bedrock ile ilgili metrikleri toplamak ve analiz etmek i\u00e7in en yayg\u0131n kullan\u0131lan hizmettir. Bu metrikler aras\u0131nda API \u00e7a\u011fr\u0131 say\u0131s\u0131, hata oranlar\u0131, gecikme s\u00fcreleri, token kullan\u0131m\u0131 ve kullan\u0131lan modelin performans\u0131 gibi bilgiler bulunur. Bu verileri izleyerek, potansiyel sorunlar\u0131 erken a\u015famada tespit edebilir ve m\u00fcdahale edebilirsiniz. \u00d6rne\u011fin, API hata oranlar\u0131nda ani bir art\u0131\u015f fark ederseniz, bu durum modelde bir sorun olabilece\u011fini veya IAM politikalar\u0131n\u0131zda bir hata olabilece\u011fini g\u00f6sterebilir. Gecikme s\u00fcrelerindeki art\u0131\u015flar, kullan\u0131c\u0131 deneyimini olumsuz etkileyebilir ve bu da altyap\u0131 veya model performans\u0131yla ilgili bir soruna i\u015faret edebilir.<\/p>\n CloudWatch Alarms, belirli metrikler belirli e\u015fik de\u011ferlerini a\u015ft\u0131\u011f\u0131nda otomatik bildirimler alman\u0131z\u0131 sa\u011flar. Bu sayede, sorunlar kullan\u0131c\u0131lar\u0131 etkilemeden \u00f6nce m\u00fcdahale edebilirsiniz. \u00d6rne\u011fin, hata oranlar\u0131 belirli bir seviyeyi a\u015ft\u0131\u011f\u0131nda size e-posta veya SMS ile bildirim g\u00f6nderilebilir. Ayr\u0131ca, AWS X-Ray, u\u00e7tan uca istek takibi yaparak, bir iste\u011fin Bedrock’a ula\u015fana kadar ge\u00e7ti\u011fi t\u00fcm servisleri ve ad\u0131mlar\u0131 g\u00f6rselle\u015ftirmenize olanak tan\u0131r. Bu, performans darbo\u011fazlar\u0131n\u0131 ve sorunlar\u0131n k\u00f6k nedenlerini belirlemek i\u00e7in olduk\u00e7a faydal\u0131d\u0131r. LLM’ler genellikle karma\u015f\u0131k i\u015f ak\u0131\u015flar\u0131n\u0131n bir par\u00e7as\u0131 oldu\u011fundan, X-Ray gibi ara\u00e7lar, t\u00fcm bu ak\u0131\u015f\u0131 anlamak ve optimize etmek i\u00e7in vazge\u00e7ilmezdir. Bu izleme ve g\u00f6rselle\u015ftirme ara\u00e7lar\u0131, sadece sorun giderme i\u00e7in de\u011fil, ayn\u0131 zamanda uygulaman\u0131z\u0131n performans\u0131n\u0131 s\u00fcrekli olarak iyile\u015ftirmek ve kaynak kullan\u0131m\u0131n\u0131 optimize etmek i\u00e7in de kullan\u0131l\u0131r. LLM’lerin giderek daha kritik hale geldi\u011fi g\u00fcn\u00fcm\u00fcz uygulamalar\u0131nda, bu g\u00f6r\u00fcn\u00fcrl\u00fck ve kontrol, operasyonel m\u00fckemmellik i\u00e7in \u015fartt\u0131r.<\/p>\n Bir finansal teknoloji \u015firketi, m\u00fc\u015fteri sorgular\u0131n\u0131 yan\u0131tlamak i\u00e7in Bedrock \u00fczerinden bir LLM kullan\u0131yor. \u015eirket, CloudWatch kullanarak API \u00e7a\u011fr\u0131lar\u0131n\u0131, yan\u0131t s\u00fcrelerini ve hata oranlar\u0131n\u0131 s\u00fcrekli izliyor. Bir g\u00fcn, belirli bir sorgu t\u00fcr\u00fc i\u00e7in yan\u0131t s\u00fcrelerinde belirgin bir art\u0131\u015f fark ediyorlar. CloudWatch’taki metrikler, bu sorgular\u0131n belirli bir Bedrock modelinde daha fazla i\u015flendi\u011fini ve daha uzun s\u00fcrd\u00fc\u011f\u00fcn\u00fc g\u00f6steriyor. AWS X-Ray ile yap\u0131lan detayl\u0131 inceleme sonucunda, bu sorgular\u0131n modelin anlayamayaca\u011f\u0131 kadar karma\u015f\u0131k veya belirsiz oldu\u011fu anla\u015f\u0131l\u0131yor. \u015eirket, bu sorunu \u00e7\u00f6zmek i\u00e7in ya girdiyi daha iyi i\u015fleyen veya bu t\u00fcr sorgular\u0131 farkl\u0131 bir modele y\u00f6nlendiren bir \u00f6n i\u015fleme (pre-processing) katman\u0131 ekliyor ya da kullan\u0131c\u0131lar\u0131 daha net sorgular yapmalar\u0131 konusunda y\u00f6nlendiriyor. Bu sayede, hem kullan\u0131c\u0131 deneyimi iyile\u015ftiriliyor hem de LLM’in daha verimli kullan\u0131lmas\u0131 sa\u011flan\u0131yor.<\/p>\n AWS Bedrock’a ge\u00e7i\u015f yapmak, sadece birka\u00e7 sat\u0131r kod de\u011fi\u015fikli\u011fiyle s\u0131n\u0131rl\u0131 kalmay\u0131p, AWS’in kendine \u00f6zg\u00fc ekosisteminin derinliklerine inmeyi gerektiren kapsaml\u0131 bir s\u00fcre\u00e7tir. Kimlik ve eri\u015fim y\u00f6netimi (IAM) politikalar\u0131n\u0131n do\u011fru yap\u0131land\u0131r\u0131lmas\u0131, b\u00f6lge k\u0131s\u0131tlamalar\u0131 ve model bulunabilirli\u011finin g\u00f6z \u00f6n\u00fcnde bulundurulmas\u0131, farkl\u0131 modellerin yeteneklerinin anla\u015f\u0131lmas\u0131, API \u00e7a\u011fr\u0131lar\u0131n\u0131n AWS’e \u00f6zg\u00fc detaylar\u0131n\u0131n bilinmesi, maliyet y\u00f6netiminin proaktif bir \u015fekilde yap\u0131lmas\u0131 ve performans\u0131n izlenmesi gibi pek \u00e7ok fakt\u00f6r, bu ge\u00e7i\u015fin karma\u015f\u0131kl\u0131\u011f\u0131n\u0131 ortaya koymaktad\u0131r. OpenAI veya Claude gibi platformlardan Bedrock’a ge\u00e7erken, “sadece bir API de\u011fi\u015fikli\u011fi” alg\u0131s\u0131ndan s\u0131yr\u0131lmak ve AWS’in sundu\u011fu g\u00fc\u00e7l\u00fc ama ayn\u0131 zamanda detayl\u0131 altyap\u0131y\u0131 tam olarak anlamak, projenizin ba\u015far\u0131s\u0131 i\u00e7in kritik \u00f6neme sahiptir. Bu makalede ele ald\u0131\u011f\u0131m\u0131z noktalar, bu yolculukta size rehberlik edecek ve olas\u0131 zorluklara kar\u015f\u0131 haz\u0131rl\u0131kl\u0131 olman\u0131z\u0131 sa\u011flayacakt\u0131r. Unutmay\u0131n, do\u011fru planlama ve AWS ekosistemini anlama, LLM’lerin g\u00fcc\u00fcn\u00fc tam olarak ortaya \u00e7\u0131karman\u0131z\u0131 sa\u011flayacakt\u0131r.<\/p>\n Cevap: En s\u0131k kar\u015f\u0131la\u015f\u0131lan sorunlar aras\u0131nda IAM yetkilendirme hatalar\u0131, modelin istenen b\u00f6lgede bulunmamas\u0131, API \u00e7a\u011fr\u0131 yaparken kimlik do\u011frulama sorunlar\u0131, maliyetlerin beklenenden y\u00fcksek olmas\u0131 ve farkl\u0131 modellerin performans\u0131n\u0131 anlama zorlu\u011fu yer al\u0131r.<\/p>\n<\/li>\n Cevap: Her modelin kendi girdi format\u0131, parametreleri ve g\u00fc\u00e7l\u00fc\/zay\u0131f y\u00f6nleri vard\u0131r. Ge\u00e7i\u015f yaparken, yeni modelin dok\u00fcmantasyonunu dikkatlice incelemeli, girdi (prompt) m\u00fchendisli\u011fini g\u00f6zden ge\u00e7irmeli ve performans\u0131n\u0131 kendi kullan\u0131m senaryolar\u0131n\u0131zda test etmelisiniz.<\/p>\n<\/li>\n Cevap: Maliyetleri optimize etmek i\u00e7in do\u011fru modeli se\u00e7mek, gereksiz API \u00e7a\u011fr\u0131lar\u0131ndan ka\u00e7\u0131nmak, \u00e7\u0131kt\u0131lar\u0131 \u00f6nbelle\u011fe almak, toplu (batch) i\u015flemler kullanmak ve AWS Cost Explorer gibi ara\u00e7larla maliyetleri d\u00fczenli olarak izlemek \u00f6nemlidir. Ayr\u0131ca, “provisioned throughput” gibi se\u00e7enekleri de\u011ferlendirebilirsiniz.<\/p>\n<\/li>\n Cevap: Evet, model bulunabilirli\u011fi bir sorun te\u015fkil edebilir. Her model her AWS b\u00f6lgesinde mevcut olmayabilir. Bu nedenle, uygulaman\u0131z\u0131 da\u011f\u0131taca\u011f\u0131n\u0131z b\u00f6lgeyi se\u00e7erken model bulunabilirli\u011fini kontrol etmeli ve gerekirse alternatif modelleri veya \u00e7ok b\u00f6lgeli da\u011f\u0131t\u0131m stratejilerini de\u011ferlendirmelisiniz.<\/p>\n<\/li>\n<\/ul>\n #AWS #Bedrock #LLM #YapayZeka #BulutBili\u015fim #Teknoloji #Geli\u015ftirme<\/p>\nboto3<\/code> (AWS SDK for Python) k\u00fct\u00fcphanesini kullan\u0131r. \u00d6nce, AWS kimlik bilgilerini yap\u0131land\u0131r\u0131r (\u00f6rne\u011fin, ortam de\u011fi\u015fkenleri veya AWS CLI yap\u0131land\u0131rmas\u0131 arac\u0131l\u0131\u011f\u0131yla). Ard\u0131ndan, Bedrock Runtime istemcisini olu\u015fturur. API \u00e7a\u011fr\u0131s\u0131 yaparken, model ad\u0131n\u0131 (\u00f6rne\u011fin, anthropic.claude-v1<\/code>) ve gerekli parametreleri (\u00f6rne\u011fin, max_tokens_to_sample<\/code>, temperature<\/code>) belirtir. Girdi metnini, modelin anlayabilece\u011fi bir formatta haz\u0131rlar.<\/p>\nimport boto3\n\n bedrock_runtime = boto3.client(\n service_name="bedrock-runtime",\n region_name="us-east-1" # Veya modelin bulundu\u011fu b\u00f6lge\n )\n\n prompt_data = {\n "prompt": "A\u015fa\u011f\u0131daki metni \u00f6zetle:\\n\\n[Uzun metin buraya gelecek]",\n "max_tokens_to_sample": 300,\n "temperature": 0.7\n }\n\n model_id = "anthropic.claude-v1" # Veya kullanmak istedi\u011finiz modelin ID'si\n\n response = bedrock_runtime.invoke_model(\n body=json.dumps(prompt_data),\n modelId=model_id,\n accept="application\/json",\n contentType="application\/json"\n )\n\n response_body = json.loads(response.get("body").read())\n summary = response_body.get("completion")\n print(summary)<\/code><\/pre>\nMaliyet Y\u00f6netimi ve Optimizasyonu<\/h2>\n
G\u00f6rselle\u015ftirmeler ve \u0130zleme (Monitoring)<\/h2>\n
Sonu\u00e7: “Sadece API De\u011fi\u015fikli\u011fi”nden \u00d6teye<\/h2>\n
S\u0131k\u00e7a Sorulan Sorular (SSS)<\/h3>\n
\n