Makine \u00f6\u011frenimi modellerini \u00fcretim ortam\u0131na da\u011f\u0131tmak, modelin performans\u0131n\u0131 ve eri\u015filebilirli\u011fini sa\u011flarken, maliyetleri optimize etmeyi gerektiren karma\u015f\u0131k bir s\u00fcre\u00e7tir. Bu makalede, AWS’in pop\u00fcler servisleri olan Lambda, ECS ve EKS’i veri odakl\u0131 bir yakla\u015f\u0131mla derinlemesine kar\u015f\u0131la\u015ft\u0131rarak, ML modellerinizi \u00fcretime al\u0131rken do\u011fru se\u00e7imi yapman\u0131za yard\u0131mc\u0131 olaca\u011f\u0131z. Karar verme s\u00fcrecinizde size yol g\u00f6sterecek pratik bilgiler ve ger\u00e7ek d\u00fcnya senaryolar\u0131 bulacaks\u0131n\u0131z.<\/p>\n
Makine \u00f6\u011frenimi projelerinin \u00e7o\u011fu, teorik \u00e7al\u0131\u015fmalar ve deneysel a\u015famalarla ba\u015flar. Ancak, bir modelin ger\u00e7ek de\u011ferini ortaya koymas\u0131, \u00fcretim ortam\u0131nda ba\u015far\u0131yla \u00e7al\u0131\u015fabilmesi ve son kullan\u0131c\u0131ya hizmet verebilmesiyle m\u00fcmk\u00fcnd\u00fcr. Dolay\u0131s\u0131yla, geli\u015ftirilen ML modellerini g\u00fcvenilir, \u00f6l\u00e7eklenebilir ve maliyet-etkin bir \u015fekilde \u00fcretime almak, MLOps (Makine \u00d6\u011frenimi Operasyonlar\u0131) ya\u015fam d\u00f6ng\u00fcs\u00fcn\u00fcn en kritik evrelerinden biridir. Bu ad\u0131mda kar\u015f\u0131la\u015f\u0131lan zorluklar olduk\u00e7a \u00e7e\u015fitlidir. \u00d6rne\u011fin, modelin performans\u0131n\u0131 ger\u00e7ek zamanl\u0131 olarak izlemek, gelen isteklere d\u00fc\u015f\u00fck gecikmeyle yan\u0131t vermek, de\u011fi\u015fen y\u00fck ko\u015fullar\u0131na otomatik olarak adapte olmak ve t\u00fcm bunlar\u0131 yaparken maliyetleri kontrol alt\u0131nda tutmak b\u00fcy\u00fck \u00f6nem ta\u015f\u0131r.<\/p>\n
\u00dcretim ortam\u0131na da\u011f\u0131t\u0131lmam\u0131\u015f bir ML modeli, yaln\u0131zca bir prototiptir. Onun potansiyelini tam anlam\u0131yla ger\u00e7ekle\u015ftirebilmek i\u00e7in, modelin bir API arac\u0131l\u0131\u011f\u0131yla eri\u015filebilir olmas\u0131, modelin tahmin (inference) yetene\u011finin s\u00fcrekli olarak sunulmas\u0131 ve bu s\u00fcrecin ba\u015ftan sona y\u00f6netilebilir olmas\u0131 gerekmektedir. Bir di\u011fer deyi\u015fle, modeli s\u00fcrekli olarak g\u00fcncelleyebilmek, performans\u0131n\u0131 izleyebilmek ve gerekti\u011finde h\u0131zl\u0131ca geri d\u00f6nebilmek (rollback) esast\u0131r. Bu s\u00fcre\u00e7ler, modeli geli\u015ftiren veri bilimcilerin genellikle uzmanl\u0131k alan\u0131 d\u0131\u015f\u0131ndad\u0131r. \u0130\u015fte bu noktada DevOps ve MLOps m\u00fchendisleri devreye girer. Onlar, modelin ya\u015fam d\u00f6ng\u00fcs\u00fcn\u00fc otomatikle\u015ftirmek, altyap\u0131y\u0131 y\u00f6netmek ve operasyonel verimlili\u011fi sa\u011flamakla y\u00fck\u00fcml\u00fcd\u00fcrler.<\/p>\n
Bir e-ticaret sitesinin ki\u015fiselle\u015ftirilmi\u015f \u00fcr\u00fcn \u00f6neri sistemini d\u00fc\u015f\u00fcn\u00fcn. Her kullan\u0131c\u0131n\u0131n t\u0131klama ge\u00e7mi\u015fi, arama sorgular\u0131 ve sat\u0131n alma al\u0131\u015fkanl\u0131klar\u0131 gibi milyonlarca veri noktas\u0131n\u0131 analiz eden bir ML modeli, potansiyel \u00fcr\u00fcnleri tahmin eder. Bu modelin milisaniyeler i\u00e7inde do\u011fru \u00f6neriler sunmas\u0131, kullan\u0131c\u0131 deneyimi a\u00e7\u0131s\u0131ndan hayati \u00f6neme sahiptir. E\u011fer model yava\u015f \u00e7al\u0131\u015f\u0131r veya ani trafik art\u0131\u015flar\u0131nda yan\u0131t vermez hale gelirse, site gelirleri do\u011frudan etkilenebilir. Ayr\u0131ca, bu modelin periyodik olarak yeni verilerle yeniden e\u011fitilmesi ve g\u00fcncellenmesi gerekecektir. T\u00fcm bu gereksinimler, sa\u011flam bir \u00fcretim da\u011f\u0131t\u0131m stratejisini zorunlu k\u0131lar. AWS Lambda, ECS ve EKS gibi servisler, bu zorluklar\u0131n \u00fcstesinden gelmek i\u00e7in farkl\u0131 yakla\u015f\u0131mlar sunar. Hangisinin projenizin \u00f6zel ihtiya\u00e7lar\u0131na en uygun oldu\u011funu belirlemek, hem teknik hem de finansal a\u00e7\u0131dan kritik bir karard\u0131r. Bu kar\u015f\u0131la\u015ft\u0131rma, do\u011fru yola \u0131\u015f\u0131k tutmay\u0131 hedeflemektedir.<\/p>\n
Makine \u00f6\u011frenimi modellerini AWS \u00fczerinde da\u011f\u0131t\u0131rken s\u0131kl\u0131kla kar\u015f\u0131la\u015ft\u0131\u011f\u0131m\u0131z \u00fc\u00e7 temel hizmet vard\u0131r: AWS Lambda, Amazon Elastic Container Service (ECS) ve Amazon Elastic Kubernetes Service (EKS). Her birinin kendine \u00f6zg\u00fc avantajlar\u0131 ve dezavantajlar\u0131 bulunur. Bu hizmetleri anlamak, do\u011fru karar\u0131 vermenin ilk ad\u0131m\u0131d\u0131r.<\/p>\n
AWS Lambda Nedir? Sunucusuz Yakla\u015f\u0131m<\/strong><\/p>\n AWS Lambda, sunucusuz (serverless) bir bilgi i\u015flem hizmetidir. Bu, sunucu sa\u011flamak veya y\u00f6netmek zorunda kalmadan kodunuzu \u00e7al\u0131\u015ft\u0131rman\u0131za olanak tan\u0131r. Kodunuz yaln\u0131zca belirli bir olay (\u00f6rne\u011fin, bir API \u00e7a\u011fr\u0131s\u0131 veya bir dosya y\u00fcklemesi) taraf\u0131ndan tetiklendi\u011finde \u00e7al\u0131\u015f\u0131r. Siz sadece kulland\u0131\u011f\u0131n\u0131z bilgi i\u015flem s\u00fcresi i\u00e7in \u00fccret \u00f6dersiniz. Bir ML modeli ba\u011flam\u0131nda, modeliniz i\u00e7in bir tahmin (inference) API’si olu\u015fturmak istedi\u011finizde Lambda’y\u0131 kullanabilirsiniz. Modelinizi bir zip dosyas\u0131 olarak paketleyip Lambda fonksiyonuna y\u00fcklersiniz ve bir API Gateway arac\u0131l\u0131\u011f\u0131yla d\u0131\u015far\u0131dan eri\u015filebilir hale getirirsiniz. \u00d6zellikle d\u00fc\u015f\u00fck trafikli veya d\u00fczensiz trafikli i\u015f y\u00fckleri i\u00e7in Lambda, olduk\u00e7a maliyet-etkin bir \u00e7\u00f6z\u00fcm olabilir \u00e7\u00fcnk\u00fc yaln\u0131zca istek geldi\u011finde \u00e7al\u0131\u015f\u0131r ve \u00f6l\u00e7eklenmesi otomatiktir. Ancak, her istekte modelin ve ba\u011f\u0131ml\u0131l\u0131klar\u0131n belle\u011fe y\u00fcklenmesi anlam\u0131na gelen “so\u011fuk ba\u015flang\u0131\u00e7” (cold start) s\u00fcreleri, gecikmeye duyarl\u0131 uygulamalarda bir dezavantaj olabilir. Geni\u015f boyutlu ML modelleri veya \u00e7ok fazla ba\u011f\u0131ml\u0131l\u0131\u011f\u0131 olan modeller i\u00e7in Lambda\u2019n\u0131n paket boyutu limitleri de bir engel te\u015fkil edebilir.<\/p>\n Amazon Elastic Container Service (ECS) Nedir? Konteyner Orchestration’\u0131n Kolay Yolu<\/strong><\/p>\n Amazon ECS, Docker konteynerlerini AWS \u00fczerinde \u00e7al\u0131\u015ft\u0131rman\u0131za, durdurman\u0131za ve y\u00f6netmenize olanak tan\u0131yan tam olarak y\u00f6netilen bir konteyner d\u00fczenleme hizmetidir. Konteynerler, uygulamalar\u0131 ve ba\u011f\u0131ml\u0131l\u0131klar\u0131n\u0131 izole edilmi\u015f, ta\u015f\u0131nabilir birimler halinde paketlemenin bir yoludur. Bu, ML modelleri i\u00e7in harikad\u0131r \u00e7\u00fcnk\u00fc modelinizi, t\u00fcm k\u00fct\u00fcphanelerini ve \u00e7al\u0131\u015fma zaman\u0131 ortam\u0131n\u0131 bir Docker g\u00f6r\u00fcnt\u00fcs\u00fcne dahil edebilirsiniz. ECS, bu konteynerleri EC2 \u00f6rnekleri \u00fczerinde (EC2 launch type) veya sunucusuz bir se\u00e7enek olan AWS Fargate \u00fczerinde (Fargate launch type) \u00e7al\u0131\u015ft\u0131rabilir. EC2 launch type size sunucular \u00fczerinde daha fazla kontrol sa\u011flarken, Fargate sunucu y\u00f6netimi y\u00fck\u00fcn\u00fc tamamen AWS’e devreder, size yaln\u0131zca konteynerleriniz i\u00e7in kaynaklar\u0131 (CPU, RAM) belirtme \u00f6zg\u00fcrl\u00fc\u011f\u00fc tan\u0131r. ECS, \u00f6zellikle orta ila y\u00fcksek trafikli, s\u00fcrekli \u00e7al\u0131\u015fan ML hizmetleri i\u00e7in uygun bir \u00e7\u00f6z\u00fcmd\u00fcr. So\u011fuk ba\u015flang\u0131\u00e7 sorunlar\u0131 Lambda’ya g\u00f6re daha azd\u0131r ve daha b\u00fcy\u00fck modelleri ve GPU deste\u011fini (EC2 \u00fczerinde) kolayca bar\u0131nd\u0131rabilir.<\/p>\n Amazon Elastic Kubernetes Service (EKS) Nedir? Kubernetes G\u00fcc\u00fc<\/strong><\/p>\n Amazon EKS, AWS \u00fczerinde Kubernetes k\u00fcmelerini \u00e7al\u0131\u015ft\u0131rmay\u0131 kolayla\u015ft\u0131ran y\u00f6netilen bir hizmettir. Kubernetes, konteynerle\u015ftirilmi\u015f i\u015f y\u00fcklerini ve hizmetleri otomatikle\u015ftirmek i\u00e7in a\u00e7\u0131k kaynakl\u0131 bir sistemdir. \u00d6l\u00e7eklenebilirlik, y\u00fck dengeleme, da\u011f\u0131t\u0131m desenleri (mavi\/ye\u015fil, canary), otomatik kurtarma gibi geli\u015fmi\u015f \u00f6zellikleri ile karma\u015f\u0131k mikro hizmet mimarileri ve y\u00fcksek \u00f6l\u00e7ekli ML da\u011f\u0131t\u0131mlar\u0131 i\u00e7in idealdir. EKS, \u00f6zellikle halihaz\u0131rda Kubernetes bilgisi olan veya gelecekteki \u00f6l\u00e7eklenebilirlik ve esneklik ihtiya\u00e7lar\u0131 i\u00e7in end\u00fcstri standard\u0131 bir \u00e7\u00f6z\u00fcme yat\u0131r\u0131m yapmak isteyen kurulu\u015flar i\u00e7in tasarlanm\u0131\u015ft\u0131r. ECS’ye k\u0131yasla daha fazla esneklik ve kontrol sunar, ancak beraberinde daha y\u00fcksek bir \u00f6\u011frenme e\u011frisi ve y\u00f6netim karma\u015f\u0131kl\u0131\u011f\u0131 getirir. GPU destekli EC2 \u00f6rnekleri \u00fczerinde ML modellerini \u00e7al\u0131\u015ft\u0131rabilir ve geli\u015fmi\u015f model da\u011f\u0131t\u0131m stratejilerini (\u00f6rne\u011fin, Knative gibi sunucusuz Kubernetes uzant\u0131lar\u0131yla) destekler. B\u00fcy\u00fck \u00f6l\u00e7ekli ve \u00e7oklu model ortamlar\u0131 i\u00e7in nihai esnekli\u011fi sunar, ancak bu esneklik genellikle daha y\u00fcksek operasyonel maliyetlerle gelir.<\/p>\n ML modellerini \u00fcretim ortam\u0131na ta\u015f\u0131ma karar\u0131, bir\u00e7ok fakt\u00f6re ba\u011fl\u0131d\u0131r. Bu b\u00f6l\u00fcm, AWS Lambda, ECS ve EKS’i \u00e7e\u015fitli kritik metrikler \u00fczerinden kar\u015f\u0131la\u015ft\u0131rarak, projenizin \u00f6zel ihtiya\u00e7lar\u0131na en uygun hizmeti se\u00e7menize yard\u0131mc\u0131 olacak veri odakl\u0131 bir analiz sunmaktad\u0131r. Do\u011fru hizmeti se\u00e7mek, hem performans\u0131 optimize etmek hem de maliyetleri d\u00fc\u015f\u00fcrmek a\u00e7\u0131s\u0131ndan b\u00fcy\u00fck \u00f6nem ta\u015f\u0131r.<\/p>\n Maliyet, her projenin olmazsa olmaz bir bile\u015fenidir. ML modellerinin altyap\u0131 maliyetleri, b\u00fcy\u00fck \u00f6l\u00e7ekte h\u0131zla artabilir. Bu nedenle, harcamalar\u0131 etkin bir \u015fekilde y\u00f6netmek hayati \u00f6neme sahiptir.<\/p>\n Bir ML modelinin ba\u015far\u0131s\u0131, genellikle h\u0131zl\u0131 yan\u0131t s\u00fcreleri ve de\u011fi\u015fen kullan\u0131c\u0131 taleplerine sorunsuz bir \u015fekilde adapte olabilme yetene\u011fi ile \u00f6l\u00e7\u00fcl\u00fcr. Bu da performans ve \u00f6l\u00e7eklenebilirlik kavramlar\u0131n\u0131 \u00f6n plana \u00e7\u0131kar\u0131r.<\/p>\n Bir hizmetin y\u00f6netim kolayl\u0131\u011f\u0131 ve operasyonel y\u00fck\u00fc, geli\u015ftirme ve operasyon ekiplerinizin verimlili\u011fi \u00fczerinde do\u011frudan bir etkiye sahiptir. Karma\u015f\u0131k altyap\u0131lar, de\u011ferli m\u00fchendislik zaman\u0131n\u0131 t\u00fcketebilir.<\/p>\n ML modelleri genellikle hassas verilerle \u00e7al\u0131\u015f\u0131r ve \u00f6nemli i\u015f kararlar\u0131n\u0131 etkiler. Bu nedenle, g\u00fcvenlik ve di\u011fer AWS hizmetleriyle sorunsuz entegrasyon kritik \u00f6neme sahiptir.<\/p>\n Teorik bilgileri peki\u015ftirmek i\u00e7in, basit bir Scikit-learn modelini AWS \u00fczerinde nas\u0131l da\u011f\u0131tabilece\u011finize dair pratik ad\u0131mlar\u0131 inceleyelim. Bu \u00f6rnekler, her hizmetin da\u011f\u0131t\u0131m s\u00fcrecindeki temel farkl\u0131l\u0131klar\u0131 ortaya koyacakt\u0131r.<\/p>\n Lambda, genellikle hafif, tek i\u015flevli ML modelleri i\u00e7in uygundur. Bir \u00f6rnek olarak, basit bir metin s\u0131n\u0131fland\u0131rma modelini (\u00f6rne\u011fin, spam tespiti) Lambda’ya da\u011f\u0131tabiliriz. Modelinizi e\u011fitip kaydedecek, ard\u0131ndan bunu bir Lambda fonksiyonu i\u00e7inde bir REST API olarak sunaca\u011f\u0131z.<\/p>\n <\/code><\/p>\n Bu kod blo\u011funda, ECS, Docker'\u0131n g\u00fcc\u00fcn\u00fc kullanarak ML modellerinizi daha esnek bir \u015fekilde da\u011f\u0131tman\u0131za olanak tan\u0131r. Bir Python Flask veya FastAPI uygulamas\u0131n\u0131 Docker konteynerine sararak bir REST API sunabiliriz.<\/p>\n <\/code><\/p>\n <\/code><\/p>\n Bu ad\u0131mlar, modeli bir Docker imaj\u0131na paketlemeyi ve ECS'nin konteynerleri otomatik olarak y\u00f6netmesini sa\u011flamay\u0131 i\u00e7erir. Fargate ile sunucu y\u00f6netimi derdinden de kurtulursunuz.<\/p>\n EKS ile da\u011f\u0131t\u0131m, konteynerle\u015ftirilmi\u015f uygulaman\u0131z\u0131 Kubernetes manifestleri arac\u0131l\u0131\u011f\u0131yla tan\u0131mlamay\u0131 ve k\u00fcmenize da\u011f\u0131tmay\u0131 i\u00e7erir. Bu, daha karma\u015f\u0131k, ancak ayn\u0131 zamanda daha esnek bir yakla\u015f\u0131md\u0131r.<\/p>\n <\/code><\/p>\n <\/code><\/p>\n EKS, geli\u015fmi\u015f da\u011f\u0131t\u0131m stratejileri, A\/B testi ve kanarya da\u011f\u0131t\u0131mlar\u0131 gibi karma\u015f\u0131k senaryolar i\u00e7in daha fazla kontrol ve esneklik sunar. Ancak bu, daha fazla Kubernetes bilgisi ve y\u00f6netim \u00e7abas\u0131 gerektirir.<\/p>\n ML modellerini \u00fcretime al\u0131rken sadece temel da\u011f\u0131t\u0131m\u0131 yapmak yeterli de\u011fildir. S\u00fcrekli entegrasyon ve da\u011f\u0131t\u0131m (CI\/CD), model versiyonlama, A\/B testi, kanarya da\u011f\u0131t\u0131mlar\u0131 ve GPU h\u0131zland\u0131rma gibi ileri d\u00fczey stratejiler, modellerinizin performans\u0131n\u0131 ve g\u00fcvenilirli\u011fini art\u0131r\u0131rken operasyonel verimlili\u011fi maksimize etmenize yard\u0131mc\u0131 olur. Bu b\u00f6l\u00fcmde, deneyimli kullan\u0131c\u0131lar i\u00e7in baz\u0131 ipu\u00e7lar\u0131 ve p\u00fcf noktalar\u0131na de\u011finece\u011fiz.<\/p>\n U\u00e7tan uca bir MLOps pipeline'\u0131 kurmak, model e\u011fitiminden da\u011f\u0131t\u0131ma kadar t\u00fcm s\u00fcreci otomatikle\u015ftirmek anlam\u0131na gelir. Bu, model g\u00fcncellemelerini h\u0131zland\u0131r\u0131r, insan hatas\u0131n\u0131 azalt\u0131r ve tutarl\u0131l\u0131\u011f\u0131 sa\u011flar. AWS \u00fczerinde, bu t\u00fcr pipeline'lar\u0131 AWS CodePipeline, CodeBuild ve CodeDeploy gibi hizmetlerle entegre edebilirsiniz. \u00d6rne\u011fin, bir Git deposuna yeni bir model kodu g\u00f6nderildi\u011finde, CodePipeline tetiklenebilir, CodeBuild model imaj\u0131n\u0131 olu\u015fturabilir ve ECR'ye y\u00fckleyebilir, ard\u0131ndan CodeDeploy (veya do\u011frudan ECS\/EKS servisi \u00fczerinden) yeni imaj\u0131 \u00fcretim ortam\u0131na da\u011f\u0131tabilir. SageMaker Pipeline'lar\u0131 da model e\u011fitim ve da\u011f\u0131t\u0131m a\u015famalar\u0131n\u0131 y\u00f6netmek i\u00e7in harika bir ara\u00e7t\u0131r ve Lambda, ECS veya EKS ile entegre edilebilir.<\/p>\n \u00dcretimde birden fazla model versiyonunu y\u00f6netmek, olas\u0131 sorunlarda h\u0131zl\u0131ca eski bir versiyona geri d\u00f6nmek (rollback) ve model performans\u0131n\u0131 kar\u015f\u0131la\u015ft\u0131rmak i\u00e7in kritiktir. AWS Lambda, her fonksiyon versiyonunu otomatik olarak tutar ve takma adlar (aliases) arac\u0131l\u0131\u011f\u0131yla trafik y\u00f6nlendirme yetene\u011fi sunar. Bu, %10 trafi\u011fi yeni versiyona y\u00f6nlendirip A\/B testi yapman\u0131z\u0131 kolayla\u015ft\u0131r\u0131r. ECS ve EKS'de ise, Docker imaj etiketleri ve Kubernetes Deployment revizyon ge\u00e7mi\u015fi bu i\u015flevi yerine getirir. Yeni bir model da\u011f\u0131t\u0131rken, eski versiyonu tutmak ve gerekti\u011finde kolayca geri d\u00f6nebilmek i\u00e7in revizyon kontrol\u00fcn\u00fc aktif kullanmak \u00f6nemlidir.<\/p>\n Yeni bir ML modelini t\u00fcm kullan\u0131c\u0131lara a\u00e7madan \u00f6nce, performans\u0131n\u0131 ve etkisini k\u00fc\u00e7\u00fck bir kullan\u0131c\u0131 grubu \u00fczerinde test etmek, olumsuz sonu\u00e7lar\u0131 en aza indirmek i\u00e7in ak\u0131ll\u0131ca bir stratejidir.<\/p>\n Derin \u00f6\u011frenme modelleri genellikle yo\u011fun hesaplama gerektiren i\u015flemler yapar ve GPU'lardan b\u00fcy\u00fck \u00f6l\u00e7\u00fcde faydalan\u0131r.<\/p>\n Makine \u00f6\u011frenimi modellerini \u00fcretim ortam\u0131na da\u011f\u0131tmak i\u00e7in AWS Lambda, ECS ve EKS aras\u0131nda se\u00e7im yapmak, projenizin \u00f6zel gereksinimlerine ve ekibinizin yeteneklerine ba\u011fl\u0131d\u0131r. Her bir hizmetin kendine \u00f6zg\u00fc g\u00fc\u00e7l\u00fc y\u00f6nleri ve kullan\u0131m durumlar\u0131 bulunmaktad\u0131r. Bu makalede yap\u0131lan detayl\u0131 kar\u015f\u0131la\u015ft\u0131rmalar ve pratik \u00f6rnekler, bu karma\u015f\u0131k karar\u0131 verirken size rehberlik etmeyi ama\u00e7lam\u0131\u015ft\u0131r.<\/p>\n \u00d6zetle, i\u015fte hangi senaryoda hangi hizmetin daha uygun olabilece\u011fine dair genel bir \u00e7er\u00e7eve:<\/p>\n Sonu\u00e7 olarak, do\u011fru se\u00e7imi yaparken a\u015fa\u011f\u0131daki sorular\u0131 g\u00f6z \u00f6n\u00fcnde bulundurun:<\/p>\n Bu sorular\u0131n yan\u0131tlar\u0131, projenizin \u00f6zel ihtiya\u00e7lar\u0131na en uygun AWS hizmetini se\u00e7menizde size yard\u0131mc\u0131 olacakt\u0131r. Unutmay\u0131n, en iyi \u00e7\u00f6z\u00fcm, projenizin mevcut ve gelecekteki ihtiya\u00e7lar\u0131na en iyi \u015fekilde uyum sa\u011flayabilen, esnek ve s\u00fcrd\u00fcr\u00fclebilir olan\u0131d\u0131r. Karar\u0131n\u0131z\u0131 verirken teknik gereksinimlerle birlikte ekip yeteneklerini ve b\u00fct\u00e7e k\u0131s\u0131tlamalar\u0131n\u0131 da dengeli bir \u015fekilde de\u011ferlendirin.<\/p>\n AWS Lambda, iste\u011fe ba\u011fl\u0131 olarak fonksiyonlar\u0131 ba\u015flat\u0131r. E\u011fer bir fonksiyon belirli bir s\u00fcre boyunca kullan\u0131lmazsa, AWS konteyneri kapatabilir. Yeni bir istek geldi\u011finde, Lambda'n\u0131n konteyneri yeniden ba\u015flatmas\u0131, kodunuzu ve ba\u011f\u0131ml\u0131l\u0131klar\u0131n\u0131 belle\u011fe y\u00fcklemesi gerekir. Bu s\u00fcre\u00e7, \u00f6zellikle b\u00fcy\u00fck ML k\u00fct\u00fcphaneleri s\u00f6z konusu oldu\u011funda birka\u00e7 saniye s\u00fcrebilir ve \"so\u011fuk ba\u015flang\u0131\u00e7\" olarak adland\u0131r\u0131l\u0131r.<\/p>\n<\/li>\n Her ikisi de Docker konteynerlerini \u00e7al\u0131\u015ft\u0131rmak i\u00e7in ECS hizmetini kullan\u0131r. Ancak Fargate, temel EC2 sunucular\u0131n\u0131n y\u00f6netimini tamamen AWS'e b\u0131rakarak sunucusuz bir deneyim sunar. Siz sadece konteynerleriniz i\u00e7in CPU ve bellek belirtirsiniz. ECS EC2'de ise kendi EC2 \u00f6rneklerinizi sa\u011flars\u0131n\u0131z ve bu sunucular\u0131n i\u015fletim sistemi g\u00fcncellemeleri, yamalar\u0131 ve y\u00f6netimi sizin sorumlulu\u011funuzdad\u0131r. Fargate daha az y\u00f6netim y\u00fck\u00fc sunarken, EC2 daha fazla kontrol ve \u00f6zelle\u015ftirme (GPU deste\u011fi gibi) imkan\u0131 verir.<\/p>\n<\/li>\n EKS, geni\u015f ve esnek bir konteyner d\u00fczenleme platformu olarak genel ama\u00e7l\u0131 uygulamalar\u0131n yan\u0131 s\u0131ra ML modelleri i\u00e7in de kullan\u0131labilir. SageMaker ise ML ya\u015fam d\u00f6ng\u00fcs\u00fcn\u00fcn her a\u015famas\u0131 (veri haz\u0131rl\u0131\u011f\u0131, model e\u011fitimi, da\u011f\u0131t\u0131m\u0131 ve izlenmesi) i\u00e7in \u00f6zel olarak tasarlanm\u0131\u015f, tam y\u00f6netilen bir ML hizmetidir. E\u011fer ekibinizde Kubernetes uzmanl\u0131\u011f\u0131 varsa ve karma\u015f\u0131k \u00e7oklu hizmet da\u011f\u0131t\u0131mlar\u0131 i\u00e7in \u00fcst d\u00fczey esneklik ar\u0131yorsan\u0131z EKS'i d\u00fc\u015f\u00fcnebilirsiniz. Ancak, ML odakl\u0131 operasyonlar\u0131 basitle\u015ftirmek ve h\u0131zland\u0131rmak istiyorsan\u0131z, SageMaker daha entegre ve y\u00f6netilen bir \u00e7\u00f6z\u00fcm sunar.<\/p>\n<\/li>\n Genellikle, d\u00fc\u015f\u00fck ve d\u00fczensiz trafikli k\u00fc\u00e7\u00fck bir ML modeli i\u00e7in AWS Lambda en maliyet etkin \u00e7\u00f6z\u00fcmd\u00fcr. \"Kullan\u0131m ba\u015f\u0131na \u00f6deme\" modeli sayesinde, modeliniz sadece istek ald\u0131\u011f\u0131nda \u00fccretlendirilirsiniz. Ancak, modelinizin boyutu artarsa veya so\u011fuk ba\u015flang\u0131\u00e7 s\u00fcreleri kritik hale gelirse, ECS Fargate daha iyi bir denge sunabilir.<\/p>\n<\/li>\n Mobil uyumluluk, genellikle uygulaman\u0131n frontend taraf\u0131yla (web aray\u00fcz\u00fc, mobil uygulama) ilgilidir ve altyap\u0131 se\u00e7iminden ba\u011f\u0131ms\u0131zd\u0131r. Ancak, da\u011f\u0131t\u0131m\u0131n\u0131z\u0131 yaparken API'lerinizin h\u0131zl\u0131 ve d\u00fc\u015f\u00fck gecikmeli olmas\u0131n\u0131 sa\u011flamak mobil kullan\u0131c\u0131 deneyimi i\u00e7in kritik \u00f6neme sahiptir. API Gateway, CDN (CloudFront) kullan\u0131m\u0131 ve iyi optimize edilmi\u015f bir backend (Lambda, ECS, EKS \u00fczerinde) mobil performans\u0131 art\u0131rabilir. HTML \u00e7\u0131kt\u0131s\u0131 sa\u011flayan bir senaryoda ise CSS'in Veri Odakl\u0131 Kar\u015f\u0131la\u015ft\u0131rma: Lambda, ECS ve EKS \u2013 Hangisi Sizin \u0130\u00e7in?<\/h2>\n
Maliyet Optimizasyonu: B\u00fct\u00e7enizi Nas\u0131l Y\u00f6netirsiniz?<\/h3>\n
\n
Performans ve \u00d6l\u00e7eklenebilirlik: Modeliniz Y\u00fckleri Kald\u0131rabilir mi?<\/h3>\n
\n
Y\u00f6netim Kolayl\u0131\u011f\u0131 ve Operasyonel Y\u00fck: Hangisi Daha Pratiktir?<\/h3>\n
\n
G\u00fcvenlik ve Entegrasyon: Modellerinizi Nas\u0131l Korursunuz?<\/h3>\n
\n
Pratik Uygulamalar: ML Modelinizi AWS’e Nas\u0131l Da\u011f\u0131t\u0131rs\u0131n\u0131z?<\/h2>\n
AWS Lambda ile Basit Bir ML Modeli Da\u011f\u0131t\u0131m\u0131<\/h3>\n
\n
model.pkl<\/code>) ve t\u00fcm ba\u011f\u0131ml\u0131l\u0131klar\u0131n\u0131 (requirements.txt<\/code>) Python koduyla birlikte bir klas\u00f6rde toplay\u0131n.<\/li>\nlambda_function.py<\/code> dosyas\u0131 olu\u015fturun.<\/li>\n\n# lambda_function.py\nimport json\nimport joblib # veya pickle\nimport numpy as np\n\n# Modelin y\u00fcklenmesi, fonksiyonun her \u00e7a\u011fr\u0131lmas\u0131nda de\u011fil, bir kez yap\u0131lmal\u0131 (global scope)\nmodel = None\n\ndef lambda_handler(event, context):\n global model\n if model is None:\n # S3'den modeli indirmek veya \/tmp dizininden y\u00fcklemek gibi y\u00f6ntemler kullan\u0131labilir\n # Basitlik i\u00e7in varsayal\u0131m ki model zip dosyas\u0131n\u0131n i\u00e7indedir\n model = joblib.load('model.pkl') # model.pkl dosyan\u0131z zip i\u00e7inde olmal\u0131\n\n body = json.loads(event['body'])\n input_data = np.array(body['data']).reshape(1, -1)\n\n prediction = model.predict(input_data)[0]\n\n return {\n 'statusCode': 200,\n 'body': json.dumps({\n 'prediction': int(prediction) # JSON'a d\u00f6n\u00fc\u015ft\u00fcr\u00fclebilir tip\n })\n }\n <\/pre>\nmodel.pkl<\/code> dosyas\u0131n\u0131n Lambda da\u011f\u0131t\u0131m paketinin i\u00e7inde oldu\u011funu varsay\u0131yoruz. Ger\u00e7ek d\u00fcnyada, modelin S3'ten dinamik olarak y\u00fcklenmesi veya bir EFS (Elastic File System) ba\u011flama noktas\u0131 kullan\u0131lmas\u0131 daha yayg\u0131nd\u0131r.<\/p>\nAmazon ECS ile Konteynerle\u015ftirilmi\u015f ML Modeli Da\u011f\u0131t\u0131m\u0131<\/h3>\n
\n
app.py<\/code>) ve modelinizi (model.pkl<\/code>) ayn\u0131 dizine yerle\u015ftirin.<\/li>\n\n# Dockerfile\nFROM python:3.9-slim-buster\nWORKDIR \/app\nCOPY requirements.txt .\nRUN pip install --no-cache-dir -r requirements.txt\nCOPY . .\nEXPOSE 8000\nCMD [\"gunicorn\", \"-w\", \"4\", \"-b\", \"0.0.0.0:8000\", \"app:app\"]\n <\/pre>\n\n# app.py (FastAPI \u00f6rne\u011fi)\nfrom fastapi import FastAPI\nfrom pydantic import BaseModel\nimport joblib\nimport numpy as np\n\nclass Item(BaseModel):\n data: list\n\napp = FastAPI()\nmodel = joblib.load('model.pkl') # model.pkl Docker imaj\u0131na dahil edilmeli\n\n@app.post(\"\/predict\")\nasync def predict(item: Item):\n input_data = np.array(item.data).reshape(1, -1)\n prediction = model.predict(input_data)[0]\n return {\"prediction\": int(prediction)}\n\nif __name__ == \"__main__\":\n import uvicorn\n uvicorn.run(app, host=\"0.0.0.0\", port=8000)\n <\/pre>\nAmazon EKS ile ML Modeli Da\u011f\u0131t\u0131m\u0131<\/h3>\n
\n
Deployment<\/code> manifesti olu\u015fturun.<\/li>\nService<\/code> manifesti olu\u015fturun (\u00f6rne\u011fin, LoadBalancer t\u00fcr\u00fcnde).<\/li>\nkubectl apply -f your-manifests.yaml<\/code> komutuyla manifestleri EKS k\u00fcmenize uygulay\u0131n.<\/li>\n<\/ol>\n\n# deployment.yaml\napiVersion: apps\/v1\nkind: Deployment\nmetadata:\n name: ml-model-deployment\nspec:\n replicas: 3\n selector:\n matchLabels:\n app: ml-model\n template:\n metadata:\n labels:\n app: ml-model\n spec:\n containers:\n - name: ml-model-container\n image: \n# service.yaml\napiVersion: v1\nkind: Service\nmetadata:\n name: ml-model-service\nspec:\n selector:\n app: ml-model\n ports:\n - protocol: TCP\n port: 80\n targetPort: 8000\n type: LoadBalancer # AWS CLB veya ALB olu\u015fturur\n <\/pre>\nGeli\u015fmi\u015f Stratejiler ve En \u0130yi Uygulamalar<\/h2>\n
MLOps Pipelineleri ve Otomasyon<\/h3>\n
Model Versiyonlama ve Geriye D\u00f6n\u00fc\u015f (Rollback)<\/h3>\n
A\/B Testi ve Kanarya Da\u011f\u0131t\u0131mlar\u0131<\/h3>\n
\n
GPU H\u0131zland\u0131rma ile Derin \u00d6\u011frenme<\/h3>\n
\n
Sonu\u00e7: Do\u011fru Se\u00e7imi Yapmak<\/h2>\n
\n
\n
\n
\n
\n
S\u0131k\u00e7a Sorulan Sorular<\/h3>\n
\n
@media<\/code> sorgular\u0131, farkl\u0131 ekran boyutlar\u0131na uyum sa\u011flamak i\u00e7in kullan\u0131lmal\u0131d\u0131r. \u00d6rne\u011fin, tablolar\u0131n mobil cihazlarda yatay kayd\u0131r\u0131labilir hale getirilmesi veya s\u00fctunlar\u0131n alt alta y\u0131\u011f\u0131lmas\u0131 gibi.<\/p>\n<\/li>\n<\/ul>\n