PyTorch’ta derinlemesine uzmanla\u015fmak m\u0131 istiyorsunuz? Bu kapsaml\u0131 rehber, ileri d\u00fczey PyTorch tekniklerini, optimizasyonlar\u0131 ve da\u011f\u0131t\u0131m stratejilerini ger\u00e7ek d\u00fcnya \u00f6rnekleriyle ad\u0131m ad\u0131m a\u00e7\u0131kl\u0131yor. Makine \u00f6\u011frenimi projelerinizin performans\u0131n\u0131 ve \u00f6l\u00e7eklenebilirli\u011fini art\u0131rmak i\u00e7in ihtiyac\u0131n\u0131z olan her \u015feyi burada bulacaks\u0131n\u0131z.<\/p>\n
Derin \u00f6\u011frenme alan\u0131nda h\u0131zla ilerleyen teknoloji, model mimarilerinin karma\u015f\u0131kl\u0131\u011f\u0131n\u0131 ve veri setlerinin boyutunu s\u00fcrekli art\u0131r\u0131yor. Ba\u015flang\u0131\u00e7 seviyesi PyTorch bilgisi, temel modelleri e\u011fitmek ve basit projeleri hayata ge\u00e7irmek i\u00e7in yeterli olabilir. Ancak, ger\u00e7ek d\u00fcnya problemlerini \u00e7\u00f6zmek, b\u00fcy\u00fck \u00f6l\u00e7ekli veri setleriyle \u00e7al\u0131\u015fmak veya rekabet\u00e7i sonu\u00e7lar elde etmek istedi\u011finizde, PyTorch’un sundu\u011fu ileri d\u00fczey yeteneklere hakim olman\u0131z kritik hale gelir. Performans optimizasyonu, da\u011f\u0131t\u0131k e\u011fitim, model d\u0131\u015fa aktar\u0131m\u0131 ve \u00fcretim ortam\u0131na entegrasyon gibi konular, projelerinizin ba\u015far\u0131s\u0131n\u0131 do\u011frudan etkileyen fakt\u00f6rlerdir. Bu nedenle, sadece temel kavramlar\u0131 bilmekle yetinmeyip, PyTorch ekosisteminin derinliklerine inmek, kariyerinizde ve projelerinizde \u00f6nemli bir s\u0131\u00e7rama yapman\u0131z\u0131 sa\u011flayacakt\u0131r. \u00d6rne\u011fin, bir g\u00f6r\u00fcnt\u00fc tan\u0131ma projesinde milyonlarca g\u00f6r\u00fcnt\u00fcy\u00fc i\u015flerken, veri y\u00fckleme s\u00fcre\u00e7lerini optimize etmek, GPU kaynaklar\u0131n\u0131 en verimli \u015fekilde kullanmak ve modelin e\u011fitim s\u00fcresini k\u0131saltmak, projenin zaman\u0131nda tamamlanmas\u0131 ve maliyet etkinli\u011fi a\u00e7\u0131s\u0131ndan hayati \u00f6nem ta\u015f\u0131r. Bu rehberde, tam da bu t\u00fcr zorluklar\u0131n \u00fcstesinden gelmenize yard\u0131mc\u0131 olacak pratik bilgiler ve uygulanabilir stratejiler sunaca\u011f\u0131z. PyTorch’un esnek yap\u0131s\u0131 sayesinde, karma\u015f\u0131k derin \u00f6\u011frenme modellerini kolayca in\u015fa edebilir, \u00f6zelle\u015ftirebilir ve optimize edebilirsiniz. Ayr\u0131ca, g\u00fc\u00e7l\u00fc otomatik t\u00fcrevleme (autograd) motoru, geri yay\u0131l\u0131m (backpropagation) s\u00fcre\u00e7lerini sizin i\u00e7in otomatikle\u015ftirerek, model geli\u015ftirme s\u00fcrecini basitle\u015ftirir. \u0130leri d\u00fczey PyTorch bilgisiyle, sadece mevcut algoritmalar\u0131 uygulamakla kalmayacak, ayn\u0131 zamanda kendi \u00f6zg\u00fcn ara\u015ft\u0131rma fikirlerinizi de hayata ge\u00e7irebileceksiniz. Bu, sizi sadece bir kullan\u0131c\u0131 olmaktan \u00e7\u0131kar\u0131p, alan\u0131nda yenilikler yapabilen bir geli\u015ftirici konumuna ta\u015f\u0131yacakt\u0131r. Dolay\u0131s\u0131yla, bu alanda fark yaratmak isteyen herkes i\u00e7in ileri d\u00fczey PyTorch bilgisi vazge\u00e7ilmezdir.<\/p>\n
Derin \u00f6\u011frenme modelleri, genellikle \u00e7ok b\u00fcy\u00fck veri setleriyle e\u011fitilir. Bu veri setlerini etkili bir \u015fekilde y\u00f6netmek ve modellere beslemek, e\u011fitim s\u00fcrecinin performans\u0131 i\u00e7in temel bir ad\u0131md\u0131r. PyTorch, bu konuda esnek ve g\u00fc\u00e7l\u00fc ara\u00e7lar sunar: PyTorch’ta, Veri art\u0131rma (Data Augmentation) teknikleri de bu a\u015famada devreye girer. G\u00f6r\u00fcnt\u00fc s\u0131n\u0131fland\u0131rma g\u00f6revlerinde, k\u00fc\u00e7\u00fck bir veri setiyle bile daha genellenebilir modeller olu\u015fturmak i\u00e7in d\u00f6nd\u00fcrme, \u00e7evirme, k\u0131rpma, renk jittering gibi d\u00f6n\u00fc\u015f\u00fcmler uygulanabilir. Yukar\u0131daki \u00f6rnekte, Bir modelin performans\u0131n\u0131 art\u0131rmak, sadece daha iyi bir mimari se\u00e7mekten ibaret de\u011fildir; ayn\u0131 zamanda e\u011fitim s\u00fcrecini optimize etmek de b\u00fcy\u00fck \u00f6nem ta\u015f\u0131r. PyTorch, bu konuda geli\u015ftiricilere bir\u00e7ok g\u00fc\u00e7l\u00fc ara\u00e7 sunar. Y\u00fcksek performansl\u0131 model e\u011fitimi, \u00f6zellikle b\u00fcy\u00fck modeller ve veri setleriyle \u00e7al\u0131\u015f\u0131rken, hem zaman hem de maliyet a\u00e7\u0131s\u0131ndan kritik faydalar sa\u011flar. Bu b\u00f6l\u00fcmde, \u00f6\u011frenme oran\u0131 zamanlamalar\u0131ndan karma hassasiyetli e\u011fitime kadar \u00e7e\u015fitli optimizasyon tekniklerini inceleyece\u011fiz. GPU’lar\u0131n g\u00fcc\u00fcn\u00fc tam anlam\u0131yla kullanmak, derin \u00f6\u011frenme e\u011fitimini h\u0131zland\u0131rman\u0131n temelidir. Ancak, GPU kaynaklar\u0131n\u0131 verimli kullanmak i\u00e7in sadece modeli GPU’ya atmak yeterli de\u011fildir; bellek kullan\u0131m\u0131n\u0131 optimize etmek, hesaplama yo\u011funlu\u011funu dengelemek ve veri aktar\u0131m\u0131n\u0131 en aza indirmek gibi stratejiler de gereklidir. Bu, modelin \u00e7ok daha h\u0131zl\u0131 yak\u0131nsamas\u0131n\u0131 ve daha iyi sonu\u00e7lar vermesini sa\u011flayabilir. \u00d6rne\u011fin, bir dil modeli e\u011fitirken, her bir kelime g\u00f6mme matrisinin ve dikkat mekanizmalar\u0131n\u0131n do\u011fru \u015fekilde optimize edilmesi, modelin e\u011fitim s\u00fcresini g\u00fcnlerden saatlere indirebilir. Ayr\u0131ca, do\u011fru optimizasyon stratejileri, modelin a\u015f\u0131r\u0131 uydurma (overfitting) e\u011filimini azaltarak genelle\u015ftirme yetene\u011fini de art\u0131rabilir. Bu, modelin ger\u00e7ek d\u00fcnya verilerinde daha g\u00fcvenilir performans g\u00f6stermesini sa\u011flar.<\/p>\n \u00d6\u011frenme oran\u0131 (learning rate), derin \u00f6\u011frenme modellerinin e\u011fitiminde belki de en \u00f6nemli hiperparametredir. Do\u011fru \u00f6\u011frenme oran\u0131, modelin h\u0131zl\u0131 ve istikrarl\u0131 bir \u015fekilde yak\u0131nsamas\u0131n\u0131 sa\u011flarken, yanl\u0131\u015f bir \u00f6\u011frenme oran\u0131 modelin asla \u00f6\u011frenememesine veya e\u011fitimin karars\u0131z olmas\u0131na yol a\u00e7abilir. \u00d6\u011frenme oran\u0131 zamanlay\u0131c\u0131lar\u0131 (Learning Rate Schedulers), e\u011fitim s\u00fcresince \u00f6\u011frenme oran\u0131n\u0131 dinamik olarak ayarlayarak bu s\u00fcreci optimize eder. \u00d6rne\u011fin, e\u011fitimin ba\u015f\u0131nda y\u00fcksek bir \u00f6\u011frenme oran\u0131yla h\u0131zl\u0131 ilerleyip, sonraki a\u015famalarda \u00f6\u011frenme oran\u0131n\u0131 d\u00fc\u015f\u00fcrerek daha ince ayar yapmak yayg\u0131n bir stratejidir. PyTorch’ta Optimizasyon algoritmalar\u0131 da benzer \u015fekilde kritik bir rol oynar. Klasik Modern GPU’lar, hem 32-bit (FP32) hem de 16-bit (FP16) kayan nokta say\u0131lar\u0131yla hesap yapabilme yetene\u011fine sahiptir. FP16 (yar\u0131m hassasiyet) kullanmak, hem bellek t\u00fcketimini yar\u0131ya indirir hem de uyumlu donan\u0131mlarda (\u00f6rne\u011fin NVIDIA Tensor Core’lar) hesaplama h\u0131z\u0131n\u0131 \u00f6nemli \u00f6l\u00e7\u00fcde art\u0131r\u0131r. Ancak, FP16’n\u0131n daha d\u00fc\u015f\u00fck hassasiyeti, modelin e\u011fitiminde say\u0131sal karars\u0131zl\u0131\u011fa yol a\u00e7abilir, \u00f6zellikle \u00e7ok k\u00fc\u00e7\u00fck gradyan de\u011ferleriyle \u00e7al\u0131\u015f\u0131rken. Karma hassasiyetli e\u011fitim (Mixed Precision Training), bu sorunu \u00e7\u00f6zmek i\u00e7in hem FP16 hem de FP32’yi ak\u0131ll\u0131ca birle\u015ftirir. PyTorch’un G\u00fcn\u00fcm\u00fcz\u00fcn en b\u00fcy\u00fck derin \u00f6\u011frenme modellerini e\u011fitmek, tek bir GPU’nun veya hatta tek bir makinenin kapasitesini a\u015fabilir. Bu noktada, da\u011f\u0131t\u0131k e\u011fitim devreye girer. Da\u011f\u0131t\u0131k e\u011fitim, model e\u011fitimini birden fazla GPU veya makineye yayarak, \u00e7ok daha b\u00fcy\u00fck modellerin ve veri setlerinin i\u015flenmesine olanak tan\u0131r. Bu, hem e\u011fitim s\u00fcresini k\u0131salt\u0131r hem de daha karma\u015f\u0131k mimarileri ke\u015ffetme imkan\u0131 sunar. PyTorch, bu alanda iki ana strateji sunar: veri paralelle\u015ftirme ( PyTorch, \u00e7oklu GPU kullan\u0131m\u0131n\u0131 iki ana yolla destekler: DDP’nin do\u011fru \u015fekilde \u00e7al\u0131\u015fmas\u0131 i\u00e7in, genellikle her GPU i\u00e7in ayr\u0131 bir Python s\u00fcreci ba\u015flat\u0131l\u0131r. Bu, Baz\u0131 modeller o kadar b\u00fcy\u00fckt\u00fcr ki, tek bir GPU’nun belle\u011fine s\u0131\u011fmazlar. Bu durumda, model paralelle\u015ftirme teknikleri devreye girer. Model paralelle\u015ftirme, modelin katmanlar\u0131n\u0131 farkl\u0131 GPU’lara b\u00f6lerek her GPU’nun modelin sadece bir k\u0131sm\u0131n\u0131 i\u015flemesini sa\u011flar. \u00d6rne\u011fin, bir sinir a\u011f\u0131n\u0131n ilk birka\u00e7 katman\u0131 bir GPU’da, sonraki katmanlar\u0131 ba\u015fka bir GPU’da ve son katmanlar\u0131 \u00fc\u00e7\u00fcnc\u00fc bir GPU’da olabilir. Bu, modelin tamam\u0131n\u0131 tek bir GPU’ya s\u0131\u011fd\u0131rma zorunlulu\u011funu ortadan kald\u0131r\u0131r. Ancak, bu yakla\u015f\u0131m\u0131n bir dezavantaj\u0131, verilerin GPU’lar aras\u0131nda s\u00fcrekli olarak ta\u015f\u0131nmas\u0131 gerekti\u011fi i\u00e7in ileti\u015fim maliyetlerinin y\u00fcksek olabilmesidir. Ayr\u0131ca, her GPU’nun i\u015f y\u00fck\u00fc e\u015fit da\u011f\u0131t\u0131lmazsa, baz\u0131 GPU’lar di\u011ferlerini beklemek zorunda kalabilir (balonlama sorunu). Bu durum, genel verimlili\u011fi d\u00fc\u015f\u00fcrebilir ve ek optimizasyon gerektirebilir.<\/p>\n Pipeline Paralelle\u015ftirme:<\/strong> Model paralelle\u015ftirmenin daha geli\u015fmi\u015f bir formudur. Model katmanlar\u0131n\u0131 GPU’lar aras\u0131nda b\u00f6ld\u00fckten sonra, veri batch’ini daha k\u00fc\u00e7\u00fck “mikro-batch”lere ay\u0131r\u0131r ve bu mikro-batch’leri ard\u0131\u015f\u0131k olarak farkl\u0131 GPU’lardaki katmanlardan ge\u00e7irir. Bu, GPU’lar\u0131n ayn\u0131 anda farkl\u0131 mikro-batch’ler \u00fczerinde \u00e7al\u0131\u015fmas\u0131n\u0131 sa\u011flayarak, balonlama sorununu azalt\u0131r ve GPU kullan\u0131m\u0131n\u0131 art\u0131r\u0131r. PyTorch, bu t\u00fcr karma\u015f\u0131k paralelle\u015ftirme stratejileri i\u00e7in do\u011frudan bir API sunmasa da, Derin \u00f6\u011frenme modellerini e\u011fitmek, hikayenin sadece yar\u0131s\u0131d\u0131r. Ger\u00e7ek de\u011fer, bu modelleri \u00fcretim ortamlar\u0131na da\u011f\u0131tarak ve ger\u00e7ek d\u00fcnya verileri \u00fczerinde tahminler yapmalar\u0131n\u0131 sa\u011flayarak ortaya \u00e7\u0131kar. Ancak, e\u011fitim ortam\u0131nda m\u00fckemmel \u00e7al\u0131\u015fan bir model, \u00fcretim ortam\u0131nda performans veya da\u011f\u0131t\u0131m zorluklar\u0131yla kar\u015f\u0131la\u015fabilir. \u00dcretim ortamlar\u0131 genellikle farkl\u0131 gereksinimlere sahiptir: d\u00fc\u015f\u00fck gecikme s\u00fcresi, y\u00fcksek i\u015flem hacmi, farkl\u0131 donan\u0131m platformlar\u0131nda \u00e7al\u0131\u015fma yetene\u011fi ve optimize edilmi\u015f bellek kullan\u0131m\u0131. Bu b\u00f6l\u00fcmde, PyTorch modellerini bu t\u00fcr ortamlar i\u00e7in nas\u0131l optimize edece\u011fimizi ve da\u011f\u0131t\u0131ma haz\u0131r hale getirece\u011fimizi inceleyece\u011fiz. \u00d6zellikle, model d\u0131\u015fa aktar\u0131m\u0131, model s\u0131k\u0131\u015ft\u0131rma ve kuantizasyon teknikleri \u00fczerinde duraca\u011f\u0131z. Bu ad\u0131mlar, modelinizin sadece do\u011fru sonu\u00e7lar vermekle kalmay\u0131p, ayn\u0131 zamanda h\u0131zl\u0131, verimli ve \u00f6l\u00e7eklenebilir bir \u015fekilde \u00e7al\u0131\u015fmas\u0131n\u0131 sa\u011flayacakt\u0131r. \u00d6rne\u011fin, bir mobil uygulamaya entegre edilecek bir g\u00f6r\u00fcnt\u00fc tan\u0131ma modelinin boyutu ve h\u0131z\u0131, kullan\u0131c\u0131 deneyimi i\u00e7in kritik \u00f6neme sahiptir. Benzer \u015fekilde, ger\u00e7ek zamanl\u0131 bir \u00f6neri sisteminde, modelin milisaniyeler i\u00e7inde tahmin yapabilmesi gerekir. Bu optimizasyon teknikleri, bu t\u00fcr senaryolarda modelin ya\u015fam d\u00f6ng\u00fcs\u00fcn\u00fcn kritik bir par\u00e7as\u0131d\u0131r ve nihai \u00fcr\u00fcn\u00fcn ba\u015far\u0131s\u0131n\u0131 do\u011frudan etkiler.<\/p>\n PyTorch’un dinamik ve esnek yap\u0131s\u0131, geli\u015ftirme a\u015famas\u0131nda b\u00fcy\u00fck avantajlar sa\u011flar. Ancak, \u00fcretim ortamlar\u0131nda bu dinamizm bazen bir dezavantaja d\u00f6n\u00fc\u015febilir. \u00d6rne\u011fin, C++ tabanl\u0131 bir sunucu ortam\u0131nda Python yorumlay\u0131c\u0131s\u0131na ba\u011f\u0131ml\u0131l\u0131k istemeyebilirsiniz veya mobil cihazlarda daha k\u00fc\u00e7\u00fck bir \u00e7al\u0131\u015fma zaman\u0131 ortam\u0131na ihtiyac\u0131n\u0131z olabilir. \u0130\u015fte burada TorchScript devreye girer. TorchScript, PyTorch modellerini Python’dan ba\u011f\u0131ms\u0131z, serile\u015ftirilebilir ve optimize edilebilir bir grafik temsiline d\u00f6n\u00fc\u015ft\u00fcrmenizi sa\u011flar. Bu grafik, JIT (Just-In-Time) derleyicisi taraf\u0131ndan optimize edilebilir ve C++ ortam\u0131nda (\u00f6rne\u011fin LibTorch ile) veya mobil cihazlarda \u00e7al\u0131\u015ft\u0131r\u0131labilir. Bu sayede, modelin farkl\u0131 platformlarda daha verimli bir \u015fekilde \u00e7al\u0131\u015fmas\u0131 sa\u011flan\u0131r.<\/p>\n TorchScript’e d\u00f6n\u00fc\u015ft\u00fcrmenin iki ana yolu vard\u0131r:<\/p>\n ONNX (Open Neural Network Exchange), derin \u00f6\u011frenme modellerini farkl\u0131 \u00e7er\u00e7eveler aras\u0131nda ta\u015f\u0131mak i\u00e7in a\u00e7\u0131k bir standartt\u0131r. PyTorch modelinizi ONNX format\u0131na d\u0131\u015fa aktararak, onu TensorFlow, ONNX Runtime, Caffe2 gibi di\u011fer \u00e7er\u00e7evelerde veya donan\u0131m h\u0131zland\u0131r\u0131c\u0131larda kullanabilirsiniz. Bu, model da\u011f\u0131t\u0131m\u0131nda b\u00fcy\u00fck esneklik sa\u011flar ve farkl\u0131 platformlar aras\u0131nda birlikte \u00e7al\u0131\u015fabilirli\u011fi art\u0131r\u0131r. ONNX Runtime gibi optimize edilmi\u015f \u00e7\u0131kar\u0131m motorlar\u0131, ONNX modellerini \u00e7ok daha h\u0131zl\u0131 \u00e7al\u0131\u015ft\u0131rabilir. Bu standart, modelin bir kez e\u011fitilip bir\u00e7ok yerde kullan\u0131lmas\u0131na olanak tan\u0131yarak geli\u015ftirme s\u00fcrecini basitle\u015ftirir ve h\u0131zland\u0131r\u0131r.<\/p>\n \u00dcretim ortamlar\u0131nda, \u00f6zellikle mobil cihazlar veya g\u00f6m\u00fcl\u00fc sistemler gibi kaynak k\u0131s\u0131tl\u0131 ortamlarda, modellerin boyutu ve hesaplama maliyeti b\u00fcy\u00fck \u00f6nem ta\u015f\u0131r. Model s\u0131k\u0131\u015ft\u0131rma ve kuantizasyon teknikleri, bu zorluklar\u0131n \u00fcstesinden gelmek i\u00e7in tasarlanm\u0131\u015ft\u0131r.<\/p>\n Bu teknikler, modelinizin kaynak k\u0131s\u0131tl\u0131 ortamlarda bile y\u00fcksek performansla \u00e7al\u0131\u015fmas\u0131n\u0131 sa\u011flar. \u00d6rne\u011fin, bir ak\u0131ll\u0131 telefon uygulamas\u0131nda \u00e7al\u0131\u015fan bir do\u011fal dil i\u015fleme modelini kuantize etmek, hem uygulaman\u0131n boyutunu k\u00fc\u00e7\u00fclt\u00fcr hem de cihaz\u0131n pil \u00f6mr\u00fcn\u00fc korurken daha h\u0131zl\u0131 yan\u0131t s\u00fcreleri sunar. Bu optimizasyonlar, modelin ger\u00e7ek d\u00fcnyadaki uygulanabilirli\u011fini ve eri\u015filebilirli\u011fini art\u0131rarak, daha geni\u015f bir kullan\u0131c\u0131 kitlesine ula\u015fmas\u0131na olanak tan\u0131r.<\/p>\n \u015eimdiye kadar \u00f6\u011frendi\u011fimiz ileri d\u00fczey PyTorch tekniklerini, somut bir senaryo \u00fczerinden peki\u015ftirelim. B\u00fcy\u00fck bir e-ticaret \u015firketinin \u00fcr\u00fcn kataloglar\u0131 i\u00e7in otomatik g\u00f6r\u00fcnt\u00fc s\u0131n\u0131fland\u0131rma sistemi geli\u015ftirdi\u011fimizi varsayal\u0131m. \u015eirketin milyonlarca \u00fcr\u00fcn\u00fc var ve her \u00fcr\u00fcn\u00fcn birden fazla g\u00f6r\u00fcnt\u00fcs\u00fc mevcut. Hedefimiz, bu g\u00f6r\u00fcnt\u00fcleri do\u011fru bir \u015fekilde kategorize etmek (\u00f6rne\u011fin, “g\u00f6mlek”, “ayakkab\u0131”, “\u00e7anta” gibi) ve yeni \u00fcr\u00fcnler eklendi\u011finde bu s\u00fcreci otomatik hale getirmek. Bu proje, hem veri setinin b\u00fcy\u00fckl\u00fc\u011f\u00fc hem de performans beklentileri nedeniyle ileri d\u00fczey tekniklerin kullan\u0131lmas\u0131n\u0131 gerektiriyor. Bu vaka analizi, teorik bilgilerin pratik uygulamalar\u0131n\u0131 net bir \u015fekilde ortaya koyacakt\u0131r.<\/p>\n Problem:<\/strong> Milyonlarca \u00fcr\u00fcn g\u00f6r\u00fcnt\u00fcs\u00fcn\u00fc, \u00f6nceden tan\u0131mlanm\u0131\u015f 500 farkl\u0131 \u00fcr\u00fcn kategorisine do\u011fru bir \u015fekilde s\u0131n\u0131fland\u0131rmak. E\u011fitim tamamland\u0131ktan sonra, modeli \u00fcretim ortam\u0131na da\u011f\u0131tmam\u0131z gerekecek.<\/p>\n Bu vaka analizi, ileri d\u00fczey PyTorch tekniklerinin b\u00fcy\u00fck \u00f6l\u00e7ekli ve ger\u00e7ek d\u00fcnya derin \u00f6\u011frenme projelerinde nas\u0131l entegre edildi\u011fini g\u00f6stermektedir. Her ad\u0131mda yap\u0131lan do\u011fru se\u00e7imler, projenin ba\u015far\u0131s\u0131 ve verimlili\u011fi i\u00e7in kritik \u00f6neme sahiptir. Bu entegre yakla\u015f\u0131m, karma\u015f\u0131k yapay zeka sistemlerinin ba\u015far\u0131l\u0131 bir \u015fekilde hayata ge\u00e7irilmesinin anahtar\u0131d\u0131r.<\/p>\n Bu kapsaml\u0131 rehberde, “\u0130leri D\u00fczey PyTorch: Pratik Rehber ve Ger\u00e7ek D\u00fcnya Uygulamalar\u0131” ba\u015fl\u0131\u011f\u0131 alt\u0131nda, PyTorch ile derin \u00f6\u011frenme modellerini geli\u015ftirmenin, optimize etmenin ve \u00fcretime da\u011f\u0131tman\u0131n ileri d\u00fczey tekniklerini derinlemesine inceledik. Temel veri y\u00fckleme ve \u00f6n i\u015fleme stratejilerinden ba\u015flayarak, y\u00fcksek performansl\u0131 model e\u011fitimi i\u00e7in \u00f6\u011frenme oran\u0131 zamanlay\u0131c\u0131lar\u0131 ve karma hassasiyetli e\u011fitim gibi optimizasyon tekniklerine de\u011findik. Ayr\u0131ca, b\u00fcy\u00fck modellerle ve veri setleriyle \u00e7al\u0131\u015f\u0131rken \u00f6l\u00e7eklenebilirli\u011fi sa\u011flamak i\u00e7in da\u011f\u0131t\u0131k e\u011fitim (Dataset<\/code> ve DataLoader<\/code>. Ancak, bu bile\u015fenleri do\u011fru bir \u015fekilde kullanmak ve optimize etmek, \u00f6zellikle terabaytlarca veriye sahip projelerde hayati \u00f6nem ta\u015f\u0131r. Veri y\u00fckleme i\u015flemleri, model e\u011fitiminin darbo\u011faz\u0131 haline gelebilir; bu y\u00fczden verimli \u00f6n i\u015fleme ve y\u00fckleme stratejileri geli\u015ftirmek zorunday\u0131z. \u00d6rne\u011fin, g\u00f6r\u00fcnt\u00fc verileriyle \u00e7al\u0131\u015f\u0131rken, her g\u00f6r\u00fcnt\u00fcy\u00fc belle\u011fe y\u00fcklemek ve \u00fczerinde \u00e7e\u015fitli d\u00f6n\u00fc\u015f\u00fcmler uygulamak, e\u011fer do\u011fru yap\u0131lmazsa ciddi performans sorunlar\u0131na yol a\u00e7abilir. Bu b\u00f6l\u00fcmde, \u00f6zel veri k\u00fcmeleri olu\u015fturmaktan, veri art\u0131rma tekniklerini uygulamaya ve \u00e7oklu i\u015flemci kullanarak veri y\u00fckleme h\u0131z\u0131n\u0131 art\u0131rmaya kadar bir dizi ileri d\u00fczey tekni\u011fi ele alaca\u011f\u0131z. Amac\u0131m\u0131z, veri haz\u0131rlama a\u015famas\u0131n\u0131 olabildi\u011fince h\u0131zl\u0131 ve verimli hale getirerek, model e\u011fitimine daha fazla zaman ay\u0131rabilmenizi sa\u011flamakt\u0131r. Bu optimizasyonlar, \u00f6zellikle b\u00fcy\u00fck \u00f6l\u00e7ekli projelerde, e\u011fitim s\u00fcresini g\u00fcnlerden saatlere indirebilir, b\u00f6ylece maliyetleri d\u00fc\u015f\u00fcr\u00fcr ve iterasyon h\u0131z\u0131n\u0131 art\u0131r\u0131r.<\/p>\n\u00d6zel Veri K\u00fcmeleri ve DataLoader Nas\u0131l Olu\u015fturulur?<\/h3>\n
torch.utils.data.Dataset<\/code> soyut s\u0131n\u0131f\u0131ndan t\u00fcreterek kendi \u00f6zel veri k\u00fcmenizi olu\u015fturabilirsiniz. Bu s\u0131n\u0131f\u0131n iki ana metodu vard\u0131r: __len__<\/code> (veri setindeki \u00f6rnek say\u0131s\u0131n\u0131 d\u00f6nd\u00fcr\u00fcr) ve __getitem__<\/code> (belirtilen indeksteki \u00f6rne\u011fi d\u00f6nd\u00fcr\u00fcr). Bu yap\u0131y\u0131 kullanarak, verilerinizi belle\u011fe y\u00fcklemeden diskten an\u0131nda okuyabilir ve \u00f6n i\u015fleme tabi tutabilirsiniz. \u00d6rne\u011fin, y\u00fcz binlerce g\u00f6r\u00fcnt\u00fc dosyas\u0131yla \u00e7al\u0131\u015f\u0131rken, t\u00fcm g\u00f6r\u00fcnt\u00fcleri RAM’e y\u00fcklemek yerine, __getitem__<\/code> metodu i\u00e7inde sadece istenen g\u00f6r\u00fcnt\u00fcy\u00fc okuyup i\u015flemek \u00e7ok daha verimli olacakt\u0131r. Ard\u0131ndan, torch.utils.data.DataLoader<\/code> s\u0131n\u0131f\u0131, bu Dataset<\/code> nesnesini kullanarak verileri toplu (batch) halde ve iste\u011fe ba\u011fl\u0131 olarak \u00e7oklu i\u015flemci (num_workers<\/code> parametresi ile) kullanarak y\u00fckler. Bu sayede, CPU’nuz veri y\u00fcklerken GPU’nuz model hesaplamalar\u0131 yapmaya devam edebilir, b\u00f6ylece e\u011fitim s\u00fcresi \u00f6nemli \u00f6l\u00e7\u00fcde k\u0131sal\u0131r. Bu paralel y\u00fckleme mekanizmas\u0131, \u00f6zellikle I\/O yo\u011fun g\u00f6revlerde performans\u0131 maksimize eder.<\/p>\ntorchvision.transforms<\/code> mod\u00fcl\u00fc, bu t\u00fcr d\u00f6n\u00fc\u015f\u00fcmler i\u00e7in zengin bir ara\u00e7 seti sunar. Kendi \u00f6zel d\u00f6n\u00fc\u015f\u00fcmlerinizi de kolayca yazabilirsiniz. \u0130\u015fte basit bir \u00f6zel Dataset<\/code> ve DataLoader<\/code> \u00f6rne\u011fi:<\/p>\n\nimport torch\nfrom torch.utils.data import Dataset, DataLoader\nfrom torchvision import transforms\nfrom PIL import Image\nimport os\n\nclass CustomImageDataset(Dataset):\n def __init__(self, img_dir, transform=None):\n self.img_dir = img_dir\n self.transform = transform\n self.img_labels = [] # \u00d6rn: [(img_path, label), ...]\n # Ger\u00e7ek uygulamada bu k\u0131sm\u0131 dosya sisteminden veya CSV'den okuyun\n # Bu sadece bir placeholder \u00f6rne\u011fidir.\n for i in range(100): # 100 \u00f6rnek varsayal\u0131m\n self.img_labels.append((os.path.join(img_dir, f\"image_{i}.jpg\"), i % 10)) # 10 s\u0131n\u0131f\n\n def __len__(self):\n return len(self.img_labels)\n\n def __getitem__(self, idx):\n img_path, label = self.img_labels[idx]\n image = Image.open(img_path).convert(\"RGB\")\n \n if self.transform:\n image = self.transform(image)\n \n return image, label\n\n# \u00d6rnek d\u00f6n\u00fc\u015f\u00fcmler (veri art\u0131rma dahil)\ndata_transforms = transforms.Compose([\n transforms.RandomResizedCrop(224),\n transforms.RandomHorizontalFlip(),\n transforms.ToTensor(),\n transforms.Normalize(mean=[0.485, 0.456, 0.406], std=[0.229, 0.224, 0.225])\n])\n\n# Varsay\u0131msal bir resim dizini olu\u015ftural\u0131m (ger\u00e7ekte resimler olmal\u0131)\n# os.makedirs(\"my_images\", exist_ok=True)\n# for i in range(100):\n# Image.new('RGB', (256, 256), color = (i*2, i*2, i*2)).save(f\"my_images\/image_{i}.jpg\")\n\n# Veri setini ve y\u00fckleyiciyi olu\u015fturma\n# img_dir = \"my_images\" # Kendi resim dizininizi buraya yaz\u0131n\n# custom_dataset = CustomImageDataset(img_dir=img_dir, transform=data_transforms)\n# dataloader = DataLoader(custom_dataset, batch_size=32, shuffle=True, num_workers=4)\n\n# Bir batch veriyi almak\n# for images, labels in dataloader:\n# print(f\"Batch images shape: {images.shape}\")\n# print(f\"Batch labels shape: {labels.shape}\")\n# break\n<\/code><\/pre>\nnum_workers=4<\/code> parametresi, veri y\u00fckleme i\u015fleminin 4 ayr\u0131 CPU \u00e7ekirde\u011finde paralel olarak yap\u0131lmas\u0131n\u0131 sa\u011flar. Bu, \u00f6zellikle disk I\/O veya karma\u015f\u0131k \u00f6n i\u015fleme ad\u0131mlar\u0131n\u0131n oldu\u011fu durumlarda performans\u0131 \u00f6nemli \u00f6l\u00e7\u00fcde art\u0131r\u0131r. Ancak, num_workers<\/code> say\u0131s\u0131n\u0131 \u00e7ok y\u00fcksek tutmak, CPU ve bellek kullan\u0131m\u0131n\u0131 art\u0131rabilir, bu y\u00fczden sisteminizin kaynaklar\u0131na uygun bir de\u011fer se\u00e7mek \u00f6nemlidir. Ayr\u0131ca, veri k\u00fcmenizin belle\u011fe s\u0131\u011fmamas\u0131 durumunda, __getitem__<\/code> metodunda sadece o anki \u00f6rne\u011fi y\u00fckleyip i\u015flemek, bellek verimlili\u011fi a\u00e7\u0131s\u0131ndan kritik bir stratejidir. Bu, b\u00fcy\u00fck veri setleriyle \u00e7al\u0131\u015f\u0131rken kar\u015f\u0131la\u015f\u0131lan en yayg\u0131n sorunlardan birini \u00e7\u00f6zerek, daha geni\u015f kapsaml\u0131 projelere olanak tan\u0131r.<\/p>\nY\u00fcksek Performansl\u0131 Model E\u011fitimi: Optimizasyon ve GPU Kullan\u0131m\u0131 Nas\u0131l Maksimize Edilir?<\/h2>\n
\u00d6\u011frenme Oran\u0131 Zamanlamalar\u0131 ve Geli\u015fmi\u015f Optimizasyon Algoritmalar\u0131<\/h3>\n
torch.optim.lr_scheduler<\/code> mod\u00fcl\u00fc alt\u0131nda bir\u00e7ok farkl\u0131 zamanlay\u0131c\u0131 bulunur. ReduceLROnPlateau<\/code>, do\u011frulama kayb\u0131 belirli bir s\u00fcre iyile\u015fmedi\u011finde \u00f6\u011frenme oran\u0131n\u0131 d\u00fc\u015f\u00fcr\u00fcrken, CosineAnnealingLR<\/code> \u00f6\u011frenme oran\u0131n\u0131 kosin\u00fcs fonksiyonu \u015feklinde d\u00f6ng\u00fcsel olarak azalt\u0131r ve art\u0131r\u0131r. Bu zamanlay\u0131c\u0131lar, modelin daha iyi bir minimuma ula\u015fmas\u0131na yard\u0131mc\u0131 olabilir. Ayr\u0131ca, e\u011fitimin sonlar\u0131na do\u011fru \u00f6\u011frenme oran\u0131n\u0131 \u00e7ok k\u00fc\u00e7\u00fck de\u011ferlere d\u00fc\u015f\u00fcrmek, modelin daha kesin bir optimuma yerle\u015fmesine olanak tan\u0131r.<\/p>\nSGD<\/code> (Stochastic Gradient Descent) hala g\u00fc\u00e7l\u00fc bir se\u00e7enek olsa da, AdamW<\/code> gibi adaptif algoritmalar genellikle daha h\u0131zl\u0131 yak\u0131nsar ve daha iyi performans g\u00f6sterir. AdamW<\/code>, a\u011f\u0131rl\u0131k bozunumu (weight decay) uygulamas\u0131n\u0131 d\u00fczeltilmi\u015f bir \u015fekilde ele alarak, \u00f6zellikle genelle\u015ftirme yetene\u011fini art\u0131r\u0131r. Modelinizin performans\u0131n\u0131 art\u0131rmak i\u00e7in farkl\u0131 optimizasyon algoritmalar\u0131n\u0131 ve zamanlay\u0131c\u0131lar\u0131 denemek, genellikle iyi bir ba\u015flang\u0131\u00e7 noktas\u0131d\u0131r. \u00d6rne\u011fin, b\u00fcy\u00fck bir evri\u015fimli sinir a\u011f\u0131 (CNN) e\u011fitirken, AdamW<\/code> ile ba\u015flay\u0131p, daha sonra CosineAnnealingLR<\/code> gibi bir zamanlay\u0131c\u0131 eklemek, genellikle en iyi sonu\u00e7lar\u0131 verir. Bu kombinasyonlar, modelin daha h\u0131zl\u0131 yak\u0131nsamas\u0131n\u0131 ve ayn\u0131 zamanda daha y\u00fcksek do\u011fruluk elde etmesini sa\u011flayabilir.<\/p>\n\nimport torch\nimport torch.nn as nn\nimport torch.optim as optim\nfrom torch.optim.lr_scheduler import ReduceLROnPlateau, CosineAnnealingLR\n\n# Basit bir model ve veri seti (varsay\u0131msal)\nclass SimpleModel(nn.Module):\n def __init__(self):\n super().__init__()\n self.fc = nn.Linear(10, 2)\n def forward(self, x):\n return self.fc(x)\n\nmodel = SimpleModel()\noptimizer = optim.AdamW(model.parameters(), lr=0.001)\n\n# \u00d6rnek 1: ReduceLROnPlateau\n# Do\u011frulama kayb\u0131 5 epoch boyunca iyile\u015fmezse \u00f6\u011frenme oran\u0131n\u0131 0.1 ile \u00e7arp\nscheduler_plateau = ReduceLROnPlateau(optimizer, mode='min', factor=0.1, patience=5)\n\n# \u00d6rnek 2: CosineAnnealingLR\n# \u00d6\u011frenme oran\u0131n\u0131 belirli bir d\u00f6ng\u00fcde kosin\u00fcs e\u011frisi boyunca azalt\u0131r\nscheduler_cosine = CosineAnnealingLR(optimizer, T_max=100) # T_max: Yar\u0131m d\u00f6ng\u00fc s\u00fcresi\n\n# E\u011fitim d\u00f6ng\u00fcs\u00fc i\u00e7inde scheduler kullan\u0131m\u0131 (\u00f6rnek)\n# for epoch in range(num_epochs):\n# train_loss = train_one_epoch(model, dataloader, optimizer)\n# val_loss = validate_one_epoch(model, val_dataloader)\n \n# if isinstance(scheduler_plateau, ReduceLROnPlateau):\n# scheduler_plateau.step(val_loss) # ReduceLROnPlateau i\u00e7in val_loss gereklidir\n# else:\n# scheduler_cosine.step() # Di\u011fer scheduler'lar genellikle epoch\/batch baz\u0131nda ad\u0131m atar\n\n# print(f\"Epoch {epoch}, LR: {optimizer.param_groups[0]['lr']}\")\n<\/code><\/pre>\nKarma Hassasiyetli E\u011fitim (Mixed Precision Training) ile GPU’yu Verimli Kullanmak<\/h3>\n
torch.cuda.amp<\/code> (Automatic Mixed Precision) mod\u00fcl\u00fc, bu s\u00fcreci otomatikle\u015ftirerek geli\u015ftiricilerin i\u015fini kolayla\u015ft\u0131r\u0131r. AMP, kritik hesaplamalar\u0131 (\u00f6rne\u011fin kay\u0131p hesaplama ve gradyan biriktirme) FP32’de tutarken, \u00e7o\u011fu ileri ve geri yay\u0131l\u0131m hesaplamas\u0131n\u0131 FP16’da yapar. Bu sayede, hem h\u0131z hem de bellek avantajlar\u0131ndan faydalan\u0131l\u0131rken, say\u0131sal kararl\u0131l\u0131k da korunur. AMP kullanmak, \u00f6zellikle b\u00fcy\u00fck modelleri daha k\u00fc\u00e7\u00fck GPU’larda e\u011fitmek veya mevcut GPU’larda daha b\u00fcy\u00fck batch boyutlar\u0131 kullanmak i\u00e7in harika bir yoldur. Bu, e\u011fitim s\u00fcrelerini k\u0131salt\u0131rken ayn\u0131 zamanda donan\u0131m kaynaklar\u0131n\u0131n daha verimli kullan\u0131lmas\u0131na olanak tan\u0131r.<\/p>\n\nimport torch\nimport torch.nn as nn\nimport torch.optim as optim\nfrom torch.cuda.amp import autocast, GradScaler # AMP i\u00e7in gerekli mod\u00fcller\n\n# Basit bir model\nclass SimpleCNN(nn.Module):\n def __init__(self):\n super().__init__()\n self.conv1 = nn.Conv2d(3, 16, 3, padding=1)\n self.relu = nn.ReLU()\n self.pool = nn.MaxPool2d(2, 2)\n # \u00d6rnek giri\u015f boyutu 3x32x32 varsay\u0131m\u0131yla (pool sonras\u0131 16x16x16)\n self.fc = nn.Linear(16 * 16 * 16, 10) \n\n def forward(self, x):\n x = self.pool(self.relu(self.conv1(x)))\n x = torch.flatten(x, 1)\n return self.fc(x)\n\nmodel = SimpleCNN().cuda() # Modeli GPU'ya ta\u015f\u0131\noptimizer = optim.Adam(model.parameters(), lr=0.001)\nscaler = GradScaler() # GradScaler nesnesini ba\u015flat\n\n# Varsay\u0131msal veri\ndummy_input = torch.randn(64, 3, 32, 32).cuda()\ndummy_target = torch.randint(0, 10, (64,)).cuda()\ncriterion = nn.CrossEntropyLoss()\n\n# E\u011fitim d\u00f6ng\u00fcs\u00fc i\u00e7inde AMP kullan\u0131m\u0131\n# for epoch in range(num_epochs):\n# optimizer.zero_grad()\n \n# with autocast(): # Bu blok i\u00e7indeki hesaplamalar FP16'da yap\u0131l\u0131r\n# output = model(dummy_input)\n# loss = criterion(output, dummy_target)\n \n# scaler.scale(loss).backward() # \u00d6l\u00e7eklenmi\u015f kayb\u0131 geri yay\u0131l\u0131m i\u00e7in kullan\n# scaler.step(optimizer) # \u00d6l\u00e7eklenmi\u015f gradyanlar\u0131 optimizer'a uygula\n# scaler.update() # \u00d6l\u00e7ekleyiciyi g\u00fcncelle\n\n# print(f\"Epoch {epoch}, Loss: {loss.item()}\")\n<\/code><\/pre>\nGradScaler<\/code> nesnesi, FP16’da olu\u015fan k\u00fc\u00e7\u00fck gradyanlar\u0131n underflow olmas\u0131n\u0131 (s\u0131f\u0131ra yuvarlanmas\u0131n\u0131) engellemek i\u00e7in gradyanlar\u0131 dinamik olarak \u00f6l\u00e7ekler. Geri yay\u0131l\u0131m tamamland\u0131ktan sonra, gradyanlar FP32’ye geri d\u00f6n\u00fc\u015ft\u00fcr\u00fcl\u00fcr ve \u00f6l\u00e7ekleri geri al\u0131n\u0131r. Bu sayede, optimizer’a do\u011fru gradyanlar iletilir. Karma hassasiyetli e\u011fitim, \u00f6zellikle b\u00fcy\u00fck dil modelleri (LLM’ler) veya y\u00fcksek \u00e7\u00f6z\u00fcn\u00fcrl\u00fckl\u00fc g\u00f6r\u00fcnt\u00fc modelleri gibi bellek yo\u011fun modellerde, e\u011fitim s\u00fcresini ve bellek ayak izini azaltmak i\u00e7in olmazsa olmaz bir tekniktir. Bu y\u00f6ntem, derin \u00f6\u011frenme ara\u015ft\u0131rmalar\u0131nda ve end\u00fcstriyel uygulamalarda giderek daha fazla benimsenmektedir.<\/p>\nDa\u011f\u0131t\u0131k E\u011fitim ve Model Paralelle\u015ftirme ile \u00d6l\u00e7eklenebilirlik Nas\u0131l Sa\u011flan\u0131r?<\/h2>\n
DataParallel<\/code> ve DistributedDataParallel<\/code>) ve model paralelle\u015ftirme. \u00d6l\u00e7eklenebilirlik, modern yapay zeka projelerinin temel bir gereksinimidir; bu y\u00fczden bu tekniklere hakim olmak, b\u00fcy\u00fck \u00f6l\u00e7ekli projelerde ba\u015far\u0131l\u0131 olmak i\u00e7in kritik \u00f6neme sahiptir. \u00d6rne\u011fin, Google’\u0131n BERT veya OpenAI’\u0131n GPT modelleri gibi devasa dil modelleri, da\u011f\u0131t\u0131k e\u011fitim teknikleri olmadan e\u011fitilemezdi. Bu teknikler sayesinde, ara\u015ft\u0131rmac\u0131lar ve m\u00fchendisler, daha \u00f6nce hayal bile edilemeyen modelleri e\u011fiterek yapay zeka alan\u0131nda \u00e7\u0131\u011f\u0131r a\u00e7an ilerlemeler kaydetmi\u015flerdir. Bu b\u00f6l\u00fcmde, bu tekniklerin nas\u0131l uygulanaca\u011f\u0131n\u0131 ve her birinin avantajlar\u0131n\u0131 ve dezavantajlar\u0131n\u0131 detayl\u0131 bir \u015fekilde inceleyece\u011fiz. Ayr\u0131ca, do\u011fru stratejiyi se\u00e7menin projenizin genel ba\u015far\u0131s\u0131 \u00fczerindeki etkisini de vurgulayaca\u011f\u0131z.<\/p>\n\u00c7oklu GPU Kullan\u0131m\u0131: DataParallel ve DistributedDataParallel<\/h3>\n
torch.nn.DataParallel<\/code> ve torch.nn.parallel.DistributedDataParallel<\/code> (DDP). Her ikisi de veriyi birden fazla GPU’ya da\u011f\u0131tarak modelin kopyalar\u0131n\u0131 paralel olarak e\u011fitir, ancak \u00e7al\u0131\u015fma prensipleri ve performans \u00f6zellikleri a\u00e7\u0131s\u0131ndan \u00f6nemli farkl\u0131l\u0131klar\u0131 vard\u0131r.<\/p>\nDataParallel<\/code> (DP):<\/strong> Tek bir makinedeki birden fazla GPU i\u00e7in basit bir soyutlamad\u0131r. Giri\u015f batch’ini par\u00e7alara ay\u0131r\u0131r ve her GPU’ya bir model kopyas\u0131 g\u00f6ndererek o par\u00e7ay\u0131 i\u015fler. Ard\u0131ndan, her GPU’dan gelen gradyanlar\u0131 toplay\u0131p ana GPU’da (genellikle GPU 0) ortalamas\u0131n\u0131 al\u0131r ve optimizer’a uygular. Kullan\u0131m\u0131 olduk\u00e7a basittir, sadece modelinizi DataParallel<\/code> ile sarmalaman\u0131z yeterlidir. Ancak, DP’nin baz\u0131 dezavantajlar\u0131 vard\u0131r: T\u00fcm gradyanlar ve model kopyalar\u0131 tek bir GPU’da (GPU 0) toplan\u0131r, bu da GPU 0’da bellek ve hesaplama darbo\u011faz\u0131na neden olabilir. Ayr\u0131ca, farkl\u0131 GPU’lar aras\u0131nda senkronizasyon maliyetleri y\u00fcksektir ve da\u011f\u0131t\u0131k e\u011fitimde (\u00e7oklu makine) kullan\u0131lamaz. Bu nedenle, daha k\u00fc\u00e7\u00fck \u00f6l\u00e7ekli projeler veya h\u0131zl\u0131 prototipleme i\u00e7in uygun olabilirken, b\u00fcy\u00fck \u00f6l\u00e7ekli \u00fcretim sistemleri i\u00e7in ideal de\u011fildir.<\/p>\n\nimport torch\nimport torch.nn as nn\n\nclass SimpleNet(nn.Module):\n def __init__(self):\n super().__init__()\n self.layer = nn.Linear(10, 10)\n def forward(self, x):\n return self.layer(x)\n\nmodel = SimpleNet()\nif torch.cuda.device_count() > 1:\n print(f\"Birden fazla GPU bulundu: {torch.cuda.device_count()} adet\")\n model = nn.DataParallel(model) # Modelinizi DataParallel ile sarmalay\u0131n\n\nmodel.to(\"cuda:0\") # Modeli ana GPU'ya ta\u015f\u0131 (DataParallel i\u00e7in otomatik yap\u0131l\u0131r ama yine de belirtilebilir)\n\n# dummy_input = torch.randn(64, 10).cuda()\n# output = model(dummy_input)\n# print(f\"DataParallel ile \u00e7\u0131k\u0131\u015f boyutu: {output.shape}\")\n<\/code><\/pre>\nDistributedDataParallel<\/code> (DDP):<\/strong> PyTorch’un \u00f6nerilen ve daha g\u00fc\u00e7l\u00fc da\u011f\u0131t\u0131k e\u011fitim mekanizmas\u0131d\u0131r. Hem tek bir makinedeki \u00e7oklu GPU’lar hem de \u00e7oklu makinelerdeki \u00e7oklu GPU’lar i\u00e7in tasarlanm\u0131\u015ft\u0131r. DDP’de her GPU kendi model kopyas\u0131na sahiptir ve kendi veri alt k\u00fcmesini i\u015fler. Gradyanlar, t\u00fcm GPU’lar aras\u0131nda e\u015fler aras\u0131 (peer-to-peer) ileti\u015fimle verimli bir \u015fekilde senkronize edilir (all-reduce<\/code> i\u015flemi). Bu, GPU 0 darbo\u011faz\u0131n\u0131 ortadan kald\u0131r\u0131r ve \u00e7ok daha iyi performans ve \u00f6l\u00e7eklenebilirlik sa\u011flar. Kurulumu DataParallel<\/code>‘e g\u00f6re biraz daha karma\u015f\u0131kt\u0131r, ancak sa\u011flad\u0131\u011f\u0131 faydalar bu \u00e7abaya de\u011fer. DDP, her s\u00fcrecin (process) bir GPU’ya atanmas\u0131n\u0131 gerektirir ve bu s\u00fcre\u00e7ler aras\u0131nda bir ileti\u015fim arka ucu (backend) (\u00f6rne\u011fin nccl<\/code>) kurulmal\u0131d\u0131r. Bu yap\u0131, hem performans hem de bellek verimlili\u011fi a\u00e7\u0131s\u0131ndan \u00f6nemli avantajlar sunar, bu da onu b\u00fcy\u00fck \u00f6l\u00e7ekli derin \u00f6\u011frenme projeleri i\u00e7in standart bir se\u00e7im haline getirir.<\/p>\n\nimport torch\nimport torch.nn as nn\nimport torch.optim as optim\nimport torch.distributed as dist\nfrom torch.nn.parallel import DistributedDataParallel as DDP\nimport os\n\n# Her s\u00fcrecin kendi GPU'sunu bilmesi i\u00e7in env de\u011fi\u015fkeni ayarlan\u0131r\n# os.environ['MASTER_ADDR'] = 'localhost'\n# os.environ['MASTER_PORT'] = '12355' # Rastgele bir port\n\n# init_process_group ile da\u011f\u0131t\u0131k ortam ba\u015flat\u0131l\u0131r\n# dist.init_process_group(backend='nccl', rank=rank, world_size=world_size)\n\n# class SimpleNetDDP(nn.Module):\n# def __init__(self):\n# super().__init__()\n# self.layer = nn.Linear(10, 10)\n# def forward(self, x):\n# return self.layer(x)\n\n# model = SimpleNetDDP().to(rank) # Modeli atanm\u0131\u015f GPU'ya ta\u015f\u0131\n# ddp_model = DDP(model, device_ids=[rank]) # Modeli DDP ile sarmala\n\n# optimizer = optim.SGD(ddp_model.parameters(), lr=0.001)\n\n# # E\u011fitim d\u00f6ng\u00fcs\u00fc i\u00e7inde DDP kullan\u0131m\u0131\n# # for epoch in range(num_epochs):\n# # # DataLoader'\u0131n her epoch'ta veriyi farkl\u0131 da\u011f\u0131tmas\u0131 i\u00e7in\n# # # sampler.set_epoch(epoch)\n# # # for inputs, labels in dataloader:\n# # # inputs, labels = inputs.to(rank), labels.to(rank)\n# # # optimizer.zero_grad()\n# # # outputs = ddp_model(inputs)\n# # # loss = criterion(outputs, labels)\n# # # loss.backward()\n# # # optimizer.step()\n# # pass # Placeholder for actual training loop\n<\/code><\/pre>\ntorch.multiprocessing.spawn<\/code> veya torch.distributed.launch<\/code> gibi ara\u00e7larla yap\u0131l\u0131r. DDP, \u00f6zellikle b\u00fcy\u00fck \u00f6l\u00e7ekli ve performans a\u00e7\u0131s\u0131ndan kritik projelerde tercih edilmesi gereken y\u00f6ntemdir. Veri paralelle\u015ftirme, temel olarak, ayn\u0131 modelin birden fazla kopyas\u0131n\u0131 farkl\u0131 veri par\u00e7alar\u0131 \u00fczerinde e\u011fiterek, modelin parametrelerini senkronize etme prensibine dayan\u0131r. Bu sayede, etkin batch boyutu art\u0131r\u0131labilir ve e\u011fitim s\u00fcresi dramatik \u015fekilde k\u0131salt\u0131labilir. Bu teknik, \u00f6zellikle g\u00f6r\u00fcnt\u00fc s\u0131n\u0131fland\u0131rma veya nesne alg\u0131lama gibi g\u00f6revlerde yayg\u0131n olarak kullan\u0131l\u0131r ve modelin daha h\u0131zl\u0131 yak\u0131nsamas\u0131n\u0131 sa\u011flar.<\/p>\nModel Paralelle\u015ftirme ve Pipeline Paralelle\u015ftirme<\/h3>\n
torch.nn.Sequential<\/code> mod\u00fcl\u00fc ve manuel olarak tens\u00f6rleri farkl\u0131 cihazlara ta\u015f\u0131yarak (.to(device)<\/code>) veya FairScale<\/code> gibi k\u00fct\u00fcphaneler kullanarak uygulanabilir. Pipeline paralelle\u015ftirme, \u00f6zellikle Transformers gibi \u00e7ok katmanl\u0131, ard\u0131\u015f\u0131k i\u015flem gerektiren modeller i\u00e7in olduk\u00e7a etkilidir. Bu teknikler, b\u00fcy\u00fck dil modellerinin (LLM) e\u011fitiminde vazge\u00e7ilmez hale gelmi\u015ftir, \u00e7\u00fcnk\u00fc bu modeller genellikle y\u00fcz milyarlarca parametreye sahiptir ve tek bir cihazda bar\u0131nd\u0131r\u0131lamaz. Bu sayede, \u00e7ok daha b\u00fcy\u00fck ve karma\u015f\u0131k modellerin e\u011fitimi m\u00fcmk\u00fcn hale gelir.<\/p>\nModelleri \u00dcretime Haz\u0131rlamak: Da\u011f\u0131t\u0131m ve Optimizasyon Nas\u0131l Yap\u0131l\u0131r?<\/h2>\n
TorchScript ve ONNX ile Model D\u0131\u015fa Aktar\u0131m\u0131 ve H\u0131zland\u0131rma<\/h3>\n
\n
torch.jit.trace<\/code> kullan\u0131l\u0131r.<\/li>\ntorch.jit.script<\/code> kullan\u0131l\u0131r.<\/li>\n<\/ol>\n\nimport torch\nimport torch.nn as nn\nimport torch.onnx\n\n# Basit bir model\nclass SimpleNN(nn.Module):\n def __init__(self):\n super().__init__()\n self.fc1 = nn.Linear(10, 5)\n self.relu = nn.ReLU()\n self.fc2 = nn.Linear(5, 2)\n\n def forward(self, x):\n return self.fc2(self.relu(self.fc1(x)))\n\nmodel = SimpleNN()\ndummy_input = torch.randn(1, 10) # \u00d6rnek girdi\n\n# 1. TorchScript ile d\u0131\u015fa aktar\u0131m (Tracing)\ntraced_model = torch.jit.trace(model, dummy_input)\ntraced_model.save(\"traced_model.pt\")\nprint(\"Model TorchScript (traced) olarak kaydedildi: traced_model.pt\")\n\n# 2. TorchScript ile d\u0131\u015fa aktar\u0131m (Scripting)\n# E\u011fer modelinizde if\/else gibi kontrol ak\u0131\u015flar\u0131 varsa scripting tercih edilir\n# scripted_model = torch.jit.script(model)\n# scripted_model.save(\"scripted_model.pt\")\n# print(\"Model TorchScript (scripted) olarak kaydedildi: scripted_model.pt\")\n\n# 3. ONNX ile d\u0131\u015fa aktar\u0131m\nonnx_path = \"model.onnx\"\ntorch.onnx.export(model, # \u00c7al\u0131\u015ft\u0131r\u0131lacak model\n dummy_input, # \u00d6rnek girdi tens\u00f6r\u00fc\n onnx_path, # \u00c7\u0131k\u0131\u015f dosyas\u0131 ad\u0131\n export_params=True, # E\u011fitilmi\u015f parametreleri dahil et\n opset_version=11, # ONNX opset versiyonu\n do_constant_folding=True, # Sabit katlamay\u0131 optimize et\n input_names=['input'], # Giri\u015f tens\u00f6r\u00fcn\u00fcn ad\u0131\n output_names=['output'], # \u00c7\u0131k\u0131\u015f tens\u00f6r\u00fcn\u00fcn ad\u0131\n dynamic_axes={'input' : {0 : 'batch_size'}, # Dinamik batch boyutu\n 'output' : {0 : 'batch_size'}})\nprint(f\"Model ONNX olarak kaydedildi: {onnx_path}\")\n<\/code><\/pre>\nModel S\u0131k\u0131\u015ft\u0131rma ve Kuantizasyon Teknikleri<\/h3>\n
\n
torch.nn.utils.prune<\/code> mod\u00fcl\u00fc, bu i\u015flemi kolayla\u015ft\u0131r\u0131r. Bu teknik, modelin daha “seyrek” hale gelmesini sa\u011flayarak hem bellek kullan\u0131m\u0131n\u0131 hem de \u00e7\u0131kar\u0131m s\u00fcresini optimize eder.<\/li>\nGer\u00e7ek D\u00fcnya Vaka Analizi: B\u00fcy\u00fck \u00d6l\u00e7ekli Bir G\u00f6r\u00fcnt\u00fc S\u0131n\u0131fland\u0131rma Projesi<\/h2>\n
Problem Tan\u0131m\u0131 ve Veri Seti<\/h3>\n
\nVeri Seti:<\/strong> 50 milyon g\u00f6r\u00fcnt\u00fc, her biri 224×224 piksel boyutunda, JPEG format\u0131nda. G\u00f6r\u00fcnt\u00fcler disk \u00fczerinde da\u011f\u0131t\u0131k bir depolama sisteminde bulunuyor. Etiketler, bir CSV dosyas\u0131nda saklan\u0131yor. Bu veri setinin boyutu, standart e\u011fitim yakla\u015f\u0131mlar\u0131n\u0131n yetersiz kalaca\u011f\u0131n\u0131 a\u00e7\u0131k\u00e7a g\u00f6stermektedir.<\/p>\nModel Se\u00e7imi ve E\u011fitim Stratejileri<\/h3>\n
\n
\n
Dataset<\/code> s\u0131n\u0131f\u0131 olu\u015fturaca\u011f\u0131z. Bu s\u0131n\u0131f, g\u00f6r\u00fcnt\u00fc yollar\u0131n\u0131 ve etiketlerini CSV dosyas\u0131ndan okuyacak ve __getitem__<\/code> metodu i\u00e7inde sadece o anki g\u00f6r\u00fcnt\u00fcy\u00fc diskten y\u00fckleyip \u00f6n i\u015fleme tabi tutacak. Bu, bellekte yer kaplamay\u0131 minimize eder.<\/li>\nDataLoader<\/code> kullan\u0131rken num_workers<\/code> parametresini y\u00fcksek bir de\u011fere (\u00f6rne\u011fin, 8 veya 16) ayarlayarak, veri y\u00fckleme i\u015flemini paralel hale getirece\u011fiz. Bu, CPU’nun GPU’yu besleme h\u0131z\u0131n\u0131 art\u0131r\u0131r.<\/li>\n\n
DistributedDataParallel<\/code> (DDP) ile sarmalayarak veri paralelle\u015ftirmeyi etkinle\u015ftirece\u011fiz. Her GPU, veri setinin farkl\u0131 bir alt k\u00fcmesini paralel olarak i\u015fleyecek, b\u00f6ylece e\u011fitim s\u00fcresi \u00f6nemli \u00f6l\u00e7\u00fcde k\u0131salacakt\u0131r.<\/li>\nAdamW<\/code> optimizasyon algoritmas\u0131 ve CosineAnnealingLR<\/code> gibi bir \u00f6\u011frenme oran\u0131 zamanlay\u0131c\u0131s\u0131 kullanaca\u011f\u0131z. Bu kombinasyon, modelin hem h\u0131zl\u0131 hem de kararl\u0131 bir \u015fekilde yak\u0131nsamas\u0131n\u0131 sa\u011flar.<\/li>\ntorch.cuda.amp.autocast<\/code> ve GradScaler<\/code> ile karma hassasiyetli e\u011fitim (Mixed Precision Training) uygulayaca\u011f\u0131z. Bu, \u00f6zellikle b\u00fcy\u00fck modellerde bellek sorunlar\u0131n\u0131 \u00e7\u00f6zmeye yard\u0131mc\u0131 olur.<\/li>\n<\/ul>\n<\/li>\nDa\u011f\u0131t\u0131m ve \u00dcretim Ortam\u0131na Entegrasyon<\/h3>\n
\n
torch.jit.trace<\/code> veya torch.jit.script<\/code> kullanarak TorchScript format\u0131na d\u00f6n\u00fc\u015ft\u00fcrece\u011fiz. Bu, modelin Python’dan ba\u011f\u0131ms\u0131z bir C++ \u00e7\u0131kar\u0131m motoru (LibTorch) ile \u00e7al\u0131\u015fmas\u0131n\u0131 sa\u011flayacak ve sunucu gecikmesini azaltacakt\u0131r. Ayr\u0131ca, modeli ONNX format\u0131na da d\u0131\u015fa aktarabiliriz, bu da farkl\u0131 \u00e7\u0131kar\u0131m motorlar\u0131 (\u00f6rne\u011fin ONNX Runtime) veya donan\u0131m h\u0131zland\u0131r\u0131c\u0131larla uyumluluk sa\u011flar.<\/li>\nSonu\u00e7 ve S\u0131k\u00e7a Sorulan Sorular<\/h2>\n
DataParallel<\/code>, DistributedDataParallel<\/code>) ve model paralelle\u015ftirme y\u00f6ntemlerini tart\u0131\u015ft\u0131k. Son olarak, e\u011fitilmi\u015f modelleri \u00fcretim ortamlar\u0131na haz\u0131rlamak i\u00e7in TorchScript, ONNX d\u0131\u015fa aktar\u0131m\u0131, model s\u0131k\u0131\u015ft\u0131rma ve kuantizasyon gibi kritik da\u011f\u0131t\u0131m tekniklerini ele ald\u0131k. T\u00fcm bu bilgiler, ger\u00e7ek d\u00fcnya senaryolar\u0131nda kar\u015f\u0131la\u015faca\u011f\u0131n\u0131z zorluklar\u0131n \u00fcstesinden gelmeniz ve projelerinizi bir sonraki seviyeye ta\u015f\u0131man\u0131z i\u00e7in size sa\u011flam bir temel sunmaktad\u0131r. PyTorch’un esnekli\u011fi ve toplulu\u011fun deste\u011fiyle, bu teknikleri uygulayarak \u00e7ok daha g\u00fc\u00e7l\u00fc ve verimli derin \u00f6\u011frenme \u00e7\u00f6z\u00fcmleri geli\u015ftirebilirsiniz. Unutmay\u0131n, pratik deneyim bu alandaki ustal\u0131\u011f\u0131n anahtar\u0131d\u0131r; bu y\u00fczden \u00f6\u011frendiklerinizi kendi projelerinizde uygulamaktan \u00e7ekinmeyin. Bu rehberin, PyTorch yolculu\u011funuzda size ilham vermesini ve rehberlik etmesini umuyoruz.<\/p>\nS\u0131k\u00e7a Sorulan Sorular<\/h3>\n
\n
\n C:<\/strong> Genellikle DistributedDataParallel<\/code> (DDP) kullanman\u0131z \u00f6nerilir. DDP, DataParallel<\/code>‘e g\u00f6re daha verimli bir ileti\u015fim mekanizmas\u0131na sahiptir, GPU 0 darbo\u011faz\u0131n\u0131 ortadan kald\u0131r\u0131r ve hem tek makinedeki \u00e7oklu GPU’lar hem de \u00e7oklu makinelerdeki \u00e7oklu GPU’lar i\u00e7in \u00f6l\u00e7eklenebilirlik sa\u011flar. Performans ve esneklik a\u00e7\u0131s\u0131ndan DDP \u00e7ok daha \u00fcst\u00fcnd\u00fcr, ancak kurulumu biraz daha karma\u015f\u0131kt\u0131r.\n <\/li>\n
\n C:<\/strong> Karma hassasiyetli e\u011fitimi, \u00f6zellikle b\u00fcy\u00fck modelleri e\u011fitirken veya GPU belle\u011fi yetersiz kald\u0131\u011f\u0131nda kullanmal\u0131s\u0131n\u0131z. FP16 deste\u011fi olan modern NVIDIA GPU’larda (Volta, Turing, Ampere mimarileri) kullan\u0131ld\u0131\u011f\u0131nda, e\u011fitim s\u00fcresini \u00f6nemli \u00f6l\u00e7\u00fcde h\u0131zland\u0131r\u0131r ve bellek t\u00fcketimini azalt\u0131r. Bu sayede daha b\u00fcy\u00fck batch boyutlar\u0131 veya daha b\u00fcy\u00fck modeller e\u011fitebilirsiniz.\n <\/li>\n
\n C:<\/strong> PyTorch modellerini \u00fcretime da\u011f\u0131tmak i\u00e7in birka\u00e7 y\u00f6ntem bulunur:<\/p>\n\n
\n C:<\/strong> Veri y\u00fckleme darbo\u011fazlar\u0131n\u0131 \u00f6nlemek i\u00e7in:<\/p>\n\n
Dataset<\/code> s\u0131n\u0131f\u0131n\u0131zda sadece __getitem__<\/code> \u00e7a\u011fr\u0131ld\u0131\u011f\u0131nda veriyi y\u00fckleyin.<\/li>\nDataLoader<\/code>‘da num_workers<\/code> parametresini sisteminizin CPU \u00e7ekirdek say\u0131s\u0131na ve bellek kapasitesine uygun olarak ayarlay\u0131n.<\/li>\n