{"id":35675,"date":"2025-12-02T15:31:04","date_gmt":"2025-12-02T12:31:04","guid":{"rendered":"https:\/\/fatihsoysal.com\/blog\/ruya-gercek-mi-typhoon-2-5-modellerini-colabda-ucretsiz-calistirmak\/"},"modified":"2025-12-02T15:31:04","modified_gmt":"2025-12-02T12:31:04","slug":"ruya-gercek-mi-typhoon-2-5-modellerini-colabda-ucretsiz-calistirmak","status":"publish","type":"post","link":"https:\/\/fatihsoysal.com\/blog\/ruya-gercek-mi-typhoon-2-5-modellerini-colabda-ucretsiz-calistirmak\/","title":{"rendered":"R\u00fcya Ger\u00e7ek Mi? Typhoon 2.5 Modellerini Colab&#8217;da \u00dccretsiz \u00c7al\u0131\u015ft\u0131rmak"},"content":{"rendered":"<p><body><\/p>\n<style>\n        body {\n            font-family: Arial, sans-serif;\n            line-height: 1.6;\n            color: #333;\n            margin: 0 auto;\n            max-width: 800px;\n            padding: 20px;\n        }\n        h2 {\n            color: #2c3e50;\n            margin-top: 30px;\n            border-bottom: 2px solid #3498db;\n            padding-bottom: 10px;\n        }\n        h3 {\n            color: #34495e;\n            margin-top: 25px;\n        }\n        p {\n            margin-bottom: 1em;\n        }\n        pre {\n            background-color: #ecf0f1;\n            padding: 15px;\n            border-radius: 5px;\n            overflow-x: auto;\n            font-size: 0.9em;\n            margin-bottom: 1em;\n        }\n        code {\n            font-family: \"Courier New\", Courier, monospace;\n            color: #c0392b; \/* Example color for inline code *\/\n        }\n        pre code {\n            color: #27ae60; \/* Example color for block code *\/\n        }\n        ul {\n            list-style-type: disc;\n            margin-left: 20px;\n            margin-bottom: 1em;\n        }\n        ol {\n            list-style-type: decimal;\n            margin-left: 20px;\n            margin-bottom: 1em;\n        }\n        table {\n            width: 100%;\n            border-collapse: collapse;\n            margin-bottom: 1em;\n        }\n        th, td {\n            border: 1px solid #ddd;\n            padding: 8px;\n            text-align: left;\n        }\n        th {\n            background-color: #f2f2f2;\n        }\n        .expert-tip {\n            background-color: #e8f6f3;\n            border-left: 5px solid #1abc9c;\n            padding: 15px;\n            margin: 20px 0;\n            border-radius: 5px;\n            font-style: italic;\n            color: #2c3e50;\n        }\n        .meta-description {\n            font-size: 1.1em;\n            color: #555;\n            margin-bottom: 20px;\n            padding: 10px;\n            background-color: #f9f9f9;\n            border-left: 3px solid #f39c12;\n        }<\/p>\n<p>        \/* Mobile Responsive Adjustments *\/\n        @media (max-width: 600px) {\n            body {\n                padding: 10px;\n            }\n            h2 {\n                font-size: 1.5em;\n            }\n            h3 {\n                font-size: 1.2em;\n            }\n            pre {\n                font-size: 0.8em;\n            }\n            table {\n                display: block;\n                overflow-x: auto;\n                white-space: nowrap;\n            }\n        }\n    <\/style>\n<p class=\"meta-description\">Typhoon 2.5 modellerini \u00fccretsiz Colab&#8217;da \u00e7al\u0131\u015ft\u0131rmak art\u0131k hayal de\u011fil! 30B versiyonunun s\u0131n\u0131rlar\u0131n\u0131 zorlarken, 4B &#8216;Sweet Spot&#8217; ile tan\u0131\u015f\u0131n. Bu rehberle model kurulumu ve optimizasyonunu ad\u0131m ad\u0131m \u00f6\u011frenin.<\/p>\n<p>B\u00fcy\u00fck dil modelleri (LLM&#8217;ler) g\u00fcn\u00fcm\u00fcz yapay zeka d\u00fcnyas\u0131n\u0131n en heyecan verici ve d\u00f6n\u00fc\u015ft\u00fcr\u00fcc\u00fc teknolojilerinden biri olarak kar\u015f\u0131m\u0131za \u00e7\u0131k\u0131yor. Metin olu\u015fturmaktan kod yazmaya, \u00f6zetlemeden \u00e7eviriye kadar pek \u00e7ok alanda inan\u0131lmaz yetenekler sergiliyorlar. Ancak bu modellerin g\u00fcc\u00fc, beraberinde ciddi donan\u0131m gereksinimlerini de getiriyor. \u00d6zellikle y\u00fczlerce milyar parametreye sahip modelleri yerel makinelerimizde \u00e7al\u0131\u015ft\u0131rmak, genellikle pahal\u0131 ve g\u00fc\u00e7l\u00fc GPU&#8217;lar olmadan imkans\u0131zd\u0131r. \u0130\u015fte tam bu noktada Google Colaboratory (Colab) devreye giriyor. Colab, bulut tabanl\u0131 bir Jupyter not defteri ortam\u0131 sunarak, \u00f6zellikle makine \u00f6\u011frenimi ve derin \u00f6\u011frenme ara\u015ft\u0131rmac\u0131lar\u0131na ve merakl\u0131lar\u0131na \u00fccretsiz GPU eri\u015fimi sa\u011fl\u0131yor.<\/p>\n<p>Pek \u00e7ok geli\u015ftirici ve ara\u015ft\u0131rmac\u0131, g\u00fc\u00e7l\u00fc donan\u0131m yat\u0131r\u0131m\u0131 yapmadan LLM&#8217;lerle deneyler yapmak istiyor. Bu durum, Colab&#8217;\u0131 b\u00fcy\u00fck dil modelleri i\u00e7in cazip bir platform haline getiriyor. Ancak her model, her GPU&#8217;da \u00e7al\u0131\u015fmaz. \u00d6zellikle Typhoon 2.5 gibi son teknoloji, y\u00fcksek performansl\u0131 modellerin b\u00fcy\u00fck versiyonlar\u0131 (\u00f6rne\u011fin 30B parametreli olanlar), Colab&#8217;\u0131n \u00fccretsiz katman\u0131nda sunulan k\u0131s\u0131tl\u0131 GPU belle\u011fini h\u0131zla a\u015fabilir. Colab&#8217;\u0131n \u00fccretsiz katman\u0131nda genellikle NVIDIA Tesla T4 veya bazen V100 gibi GPU&#8217;lar sunulsa da, bu GPU&#8217;lar\u0131n VRAM (Video RAM) kapasiteleri genellikle 16 GB civar\u0131nda s\u0131n\u0131rl\u0131d\u0131r. Bu bellek miktar\u0131, genellikle 7B parametreli bir modeli \u00e7al\u0131\u015ft\u0131rmak i\u00e7in yeterli olabilirken, 30B parametreli bir modeli y\u00fcklemek i\u00e7in bile yetersiz kalacakt\u0131r. Bu durum, bizi model optimizasyonu ve daha k\u00fc\u00e7\u00fck, daha verimli modellere y\u00f6neltmektedir. Dolay\u0131s\u0131yla, sorunun cevab\u0131 hem evet hem de hay\u0131rd\u0131r: Evet, Colab&#8217;da LLM \u00e7al\u0131\u015ft\u0131rmak m\u00fcmk\u00fcnd\u00fcr; ancak hay\u0131r, her LLM&#8217;i \u00fccretsiz GPU&#8217;larda \u00e7al\u0131\u015ft\u0131ramazs\u0131n\u0131z. \u0130\u015fte bu nedenle, &#8220;sweet spot&#8221; olarak adland\u0131rd\u0131\u011f\u0131m\u0131z optimum model boyutunu bulmak hayati \u00f6nem ta\u015f\u0131r.<\/p>\n<p>Bu makalede, Typhoon 2.5 ailesine \u00f6zel olarak odaklanarak, 30B parametreli devasa modellerin Colab&#8217;\u0131n \u00fccretsiz k\u0131s\u0131tlamalar\u0131 alt\u0131nda neden \u00e7al\u0131\u015fmad\u0131\u011f\u0131n\u0131 ve bunun yerine 4B parametreli modellerin veya uygun \u015fekilde nicelenmi\u015f (quantized) versiyonlar\u0131n\u0131n nas\u0131l bir &#8220;tatl\u0131 nokta&#8221; olu\u015fturdu\u011funu detayl\u0131 bir \u015fekilde inceleyece\u011fiz. Amac\u0131m\u0131z, size ad\u0131m ad\u0131m bir rehber sunarak, Colab&#8217;da Typhoon 2.5&#8217;in g\u00fcc\u00fcnden en verimli \u015fekilde faydalanman\u0131z\u0131 sa\u011flamakt\u0131r. Bu yolculuk boyunca, temel kavramlardan kurulum ad\u0131mlar\u0131na, performans ipu\u00e7lar\u0131ndan ger\u00e7ek d\u00fcnya kullan\u0131m senaryolar\u0131na kadar geni\u015f bir yelpazeyi kapsayaca\u011f\u0131z. Haz\u0131rsan\u0131z, Typhoon 2.5&#8217;in b\u00fcy\u00fcl\u00fc d\u00fcnyas\u0131na Colab \u00fczerinden bir kap\u0131 aralayal\u0131m!<\/p>\n<h2>B\u00fcy\u00fck Dil Modelleri ve Typhoon 2.5: Boyutlar\u0131n \u00d6nemi ve Neden 30B Bir Sorun Te\u015fkil Ediyor?<\/h2>\n<p>B\u00fcy\u00fck dil modellerinin (LLM) performans\u0131 genellikle parametre say\u0131s\u0131yla do\u011fru orant\u0131l\u0131d\u0131r; yani daha fazla parametre, genellikle daha iyi anlama ve \u00fcretme yetene\u011fi anlam\u0131na gelir. Ancak bu performans art\u0131\u015f\u0131, beraberinde donan\u0131m maliyetleri ve karma\u015f\u0131kl\u0131\u011f\u0131 getirir. Typhoon 2.5 gibi modeller, \u00f6zellikle karma\u015f\u0131k g\u00f6revlerde etkileyici sonu\u00e7lar vermek \u00fczere tasarlanm\u0131\u015ft\u0131r. Bu modeller, genellikle milyarlarca parametreye sahiptir ve her bir parametrenin modelin a\u011f\u0131rl\u0131klar\u0131n\u0131 (weights) temsil etmesi nedeniyle, bellekte \u00e7ok b\u00fcy\u00fck yer kaplarlar. \u00d6rne\u011fin, 30 milyar parametreye sahip bir modelin bellekte ne kadar yer kaplayaca\u011f\u0131n\u0131 basit bir hesapla g\u00f6rebiliriz. E\u011fer modelin parametreleri 16-bit float (BF16 veya FP16) hassasiyetinde saklan\u0131yorsa, her bir parametre 2 byte yer kaplar. Bu durumda 30 milyar parametre i\u00e7in 30 * 10^9 * 2 byte = 60 milyar byte, yani yakla\u015f\u0131k 60 GB VRAM&#8217;e ihtiya\u00e7 duyar\u0131z. E\u011fer 32-bit float (FP32) kullan\u0131l\u0131yorsa, bu miktar iki kat\u0131na \u00e7\u0131karak 120 GB&#8217;a ula\u015f\u0131r ki bu, g\u00fcn\u00fcm\u00fcz\u00fcn en g\u00fc\u00e7l\u00fc tek GPU&#8217;lar\u0131nda bile nadiren bulunan bir kapasitedir.<\/p>\n<p>Colab&#8217;\u0131n \u00fccretsiz katman\u0131nda genellikle sunulan GPU&#8217;lar (Tesla T4, P100 veya bazen A100&#8217;\u00fcn daha d\u00fc\u015f\u00fck VRAM&#8217;li versiyonlar\u0131), genellikle 16 GB veya nadiren 24 GB VRAM sunar. Bu kapasite, 30B parametreli bir Typhoon 2.5 modelini y\u00fcklemek i\u00e7in yeterli de\u011fildir. Modelin a\u011f\u0131rl\u0131klar\u0131n\u0131 belle\u011fe s\u0131\u011fd\u0131ramad\u0131\u011f\u0131n\u0131zda, do\u011fal olarak model \u00e7al\u0131\u015fmaz ve &#8220;CUDA out of memory&#8221; (CUDA bellek yetersiz) hatas\u0131 al\u0131rs\u0131n\u0131z. Bu durum, \u00fccretsiz kaynaklarla LLM&#8217;lerle deney yapmak isteyenler i\u00e7in b\u00fcy\u00fck bir engel te\u015fkil eder. Bu sebeple, 30B gibi modelleri \u00fccretsiz Colab&#8217;da \u00e7al\u0131\u015ft\u0131rmak pratikte m\u00fcmk\u00fcn de\u011fildir. Peki, bu durumda ne yapmal\u0131y\u0131z?<\/p>\n<p>\u00c7\u00f6z\u00fcm, model boyutunu k\u00fc\u00e7\u00fcltmek ve optimize etmekten ge\u00e7iyor. \u0130\u015fte burada &#8220;nicemleme&#8221; (quantization) teknikleri devreye girer. Nicemleme, model a\u011f\u0131rl\u0131klar\u0131n\u0131 daha d\u00fc\u015f\u00fck bit hassasiyetine d\u00fc\u015f\u00fcrerek (\u00f6rne\u011fin, FP16&#8217;dan INT8&#8217;e veya INT4&#8217;e) modelin bellekte kaplad\u0131\u011f\u0131 alan\u0131 \u00f6nemli \u00f6l\u00e7\u00fcde azalt\u0131r. \u00d6rne\u011fin, 4-bit nicemleme ile 30B&#8217;lik bir modelin bellekte kaplad\u0131\u011f\u0131 alan 8 kat azalarak yakla\u015f\u0131k 7.5 GB&#8217;a d\u00fc\u015febilir. Bu da onu Colab&#8217;\u0131n \u00fccretsiz katman\u0131ndaki 16 GB VRAM&#8217;li GPU&#8217;larda \u00e7al\u0131\u015ft\u0131r\u0131labilir hale getirebilir. Ancak her nicemleme i\u015flemi, modelin performans\u0131nda az da olsa bir d\u00fc\u015f\u00fc\u015fe neden olabilir. Bu nedenle, do\u011fru &#8220;tatl\u0131 nokta&#8221;y\u0131 bulmak \u00f6nemlidir. Bu makalede, Typhoon 2.5&#8217;in do\u011frudan 4B parametreli versiyonlar\u0131n\u0131 veya nicelenmi\u015f 7B modellerini (ki nicelendi\u011finde yakla\u015f\u0131k 4 GB yer kaplar) Colab&#8217;da \u00e7al\u0131\u015ft\u0131rmaya odaklanaca\u011f\u0131z. Bu, hem iyi bir performans sunar hem de \u00fccretsiz kaynaklar\u0131n s\u0131n\u0131rlar\u0131 i\u00e7inde kalmam\u0131z\u0131 sa\u011flar. Model boyutlar\u0131n\u0131n ve optimizasyon tekniklerinin ne denli kritik oldu\u011funu anlamak, bu t\u00fcr projelerde ba\u015far\u0131ya ula\u015fman\u0131n ilk ad\u0131m\u0131d\u0131r.<\/p>\n<div class=\"expert-tip\">\n        Uzman \u0130pucu: Modelin nicelenmesi (quantization), VRAM kullan\u0131m\u0131n\u0131 \u00e7arp\u0131c\u0131 \u015fekilde d\u00fc\u015f\u00fcr\u00fcr. \u00d6rne\u011fin, 16-bit (FP16) bir modeli 4-bit&#8217;e nicemlemek, bellek ihtiyac\u0131n\u0131 tam 4 kat azalt\u0131r. Bu sayede, 30B bir modeli bile teorik olarak \u00fccretsiz Colab&#8217;da \u00e7al\u0131\u015ft\u0131r\u0131labilir seviyelere indirebilirsiniz. Ancak nicemleme, genellikle modelin orijinal performans\u0131nda bir miktar d\u00fc\u015f\u00fc\u015fe yol a\u00e7abilir.\n    <\/div>\n<h2>Typhoon 2.5 4B Modellerini Colab&#8217;da \u00c7al\u0131\u015ft\u0131rma: Ad\u0131m Ad\u0131m Kurulum ve Uygulama<\/h2>\n<p>Colab&#8217;da Typhoon 2.5&#8217;in 4B (veya 4-bit nicelenmi\u015f 7B) versiyonlar\u0131n\u0131 \u00e7al\u0131\u015ft\u0131rmak, do\u011fru k\u00fct\u00fcphaneler ve ad\u0131mlar izlendi\u011finde olduk\u00e7a basit bir s\u00fcre\u00e7tir. Bu b\u00f6l\u00fcmde, gerekli kurulumlar\u0131 yapacak ve modelle ilk \u00e7\u0131kar\u0131m (inference) i\u015fleminizi ger\u00e7ekle\u015ftirece\u011fiz. \u00d6ncelikle, Colab ortam\u0131n\u0131zda GPU eri\u015fiminizin oldu\u011fundan emin olun. Bunun i\u00e7in, Colab men\u00fcs\u00fcnden &#8220;\u00c7al\u0131\u015fma Zaman\u0131&#8221; (Runtime) -> &#8220;\u00c7al\u0131\u015fma zaman\u0131 t\u00fcr\u00fcn\u00fc de\u011fi\u015ftir&#8221; (Change runtime type) se\u00e7ene\u011fine giderek &#8220;Donan\u0131m h\u0131zland\u0131r\u0131c\u0131&#8221; (Hardware accelerator) olarak &#8220;GPU&#8221;yu se\u00e7melisiniz.<\/p>\n<h3>Gerekli K\u00fct\u00fcphanelerin Kurulumu: Ortam\u0131 Haz\u0131rlama<\/h3>\n<p>\u0130lk ad\u0131m, Python ortam\u0131m\u0131za gerekli k\u00fct\u00fcphaneleri y\u00fcklemektir. \u00d6zellikle Hugging Face&#8217;in <code>transformers<\/code> k\u00fct\u00fcphanesi, model y\u00fckleme ve \u00e7al\u0131\u015ft\u0131rma i\u015flemlerinde ana arac\u0131m\u0131z olacak. Ayr\u0131ca, nicelenmi\u015f modelleri verimli bir \u015fekilde kullanmak i\u00e7in <code>bitsandbytes<\/code> ve <code>accelerate<\/code> gibi k\u00fct\u00fcphanelere de ihtiyac\u0131m\u0131z var. Bu k\u00fct\u00fcphaneler, daha d\u00fc\u015f\u00fck bit hassasiyetindeki a\u011f\u0131rl\u0131klarla \u00e7al\u0131\u015fmay\u0131 optimize eder ve bellek kullan\u0131m\u0131n\u0131 etkin bir \u015fekilde y\u00f6netir. A\u015fa\u011f\u0131daki kod blo\u011funu Colab not defterinizin ilk h\u00fccresine yap\u0131\u015ft\u0131r\u0131p \u00e7al\u0131\u015ft\u0131rarak kurulumu ba\u015flatabilirsiniz:<\/p>\n<pre><code>\n    !pip install transformers accelerate bitsandbytes sentencepiece flash_attn\n    <\/pre>\n<p><\/code><\/p>\n<p>Bu komutlar, Hugging Face ekosistemindeki temel bile\u015fenleri ve optimizasyon k\u00fct\u00fcphanelerini kurar. <code>sentencepiece<\/code>, \u00f6zellikle tokenizasyon i\u00e7in kullan\u0131lan bir alt kelime modelleme algoritmas\u0131d\u0131r. <code>flash_attn<\/code> ise, daha h\u0131zl\u0131 ve bellek a\u00e7\u0131s\u0131ndan daha verimli dikkat mekanizmalar\u0131 sunar, ancak genellikle daha yeni GPU'lar (Ampere mimarisi ve \u00fczeri) gerektirir. \u00dccretsiz Colab'da her zaman desteklenmeyebilir, ancak varl\u0131\u011f\u0131 performans\u0131 art\u0131rabilir.<\/p>\n<h3>4-bit Nicelenmi\u015f Typhoon 2.5 Modelini Y\u00fckleme ve Yap\u0131land\u0131rma<\/h3>\n<p>Kurulum tamamland\u0131ktan sonra, Typhoon 2.5'in nicelenmi\u015f bir versiyonunu Hugging Face model hub'dan y\u00fcklemeye haz\u0131r\u0131z. Model hub'da genellikle farkl\u0131 boyutlarda ve nicelenmi\u015f versiyonlarda bir\u00e7ok model bulunur. Bu \u00f6rnek i\u00e7in, Typhoon 2.5'in nicelenmi\u015f bir 7B versiyonunu (ki bu 4-bit nicemleme ile yakla\u015f\u0131k 4-5 GB VRAM kullan\u0131r) veya do\u011frudan 4B versiyonunu kullanaca\u011f\u0131z. Hugging Face k\u00fct\u00fcphanesi, <code>BitsAndBytesConfig<\/code> s\u0131n\u0131f\u0131 ile 4-bit nicemleme ayarlar\u0131n\u0131 kolayca yapmam\u0131z\u0131 sa\u011flar. Bu yap\u0131land\u0131rma, modeli y\u00fcklerken otomatik olarak nicemlenmi\u015f a\u011f\u0131rl\u0131klar\u0131 kullanmas\u0131n\u0131 s\u00f6yler.<\/p>\n<pre><code>\n    from transformers import AutoModelForCausalLM, AutoTokenizer, BitsAndBytesConfig\n    import torch\n\n    # Nicemleme (Quantization) ayarlar\u0131\n    bnb_config = BitsAndBytesConfig(\n        load_in_4bit=True,\n        bnb_4bit_quant_type=\"nf4\", # NF4 quantization type\n        bnb_4bit_compute_dtype=torch.bfloat16, # Hesaplama i\u00e7in bfloat16 kullan\n        bnb_4bit_use_double_quant=True, # \u00c7ift nicemleme ile daha fazla bellek tasarrufu\n    )\n\n    # Typhoon 2.5 modelini ve tokenlay\u0131c\u0131s\u0131n\u0131 y\u00fckleme\n    # Buradaki model yolunu, Typhoon 2.5'in nicelenmi\u015f veya 4B versiyonu ile de\u011fi\u015ftirin.\n    # \u00d6rne\u011fin: 'TIGER-Lab\/Typhoon-7B-Instruct-v1.5' veya benzeri 4-bit nicelenmi\u015f bir versiyon\n    model_id = \"TIGER-Lab\/Typhoon-7B-Instruct-v1.5\" # 7B model, 4-bit nicelenecek\n    # Alternatif olarak, e\u011fer do\u011frudan 4B bir versiyon varsa onu kullanabilirsiniz:\n    # model_id = \"path\/to\/typhoon-2.5-4b-model\"\n\n    print(f\"Model y\u00fckleniyor: {model_id}\")\n    tokenizer = AutoTokenizer.from_pretrained(model_id)\n    model = AutoModelForCausalLM.from_pretrained(\n        model_id,\n        quantization_config=bnb_config,\n        device_map=\"auto\" # Otomatik olarak GPU'ya yerle\u015ftirme\n    )\n    print(\"Model ve tokenlay\u0131c\u0131 ba\u015far\u0131yla y\u00fcklendi.\")\n    <\/pre>\n<p><\/code><\/p>\n<p><code>device_map=\"auto\"<\/code> parametresi, modeli otomatik olarak mevcut GPU'lara (varsa) ve CPU'ya b\u00f6lerek, b\u00fcy\u00fck modellerin belle\u011fe s\u0131\u011fmas\u0131na yard\u0131mc\u0131 olur. Bu, Colab'\u0131n s\u0131n\u0131rl\u0131 VRAM'inde bile modelin en iyi \u015fekilde kullan\u0131lmas\u0131n\u0131 sa\u011flar. <code>bnb_4bit_quant_type=\"nf4\"<\/code> ve <code>bnb_4bit_compute_dtype=torch.bfloat16<\/code> ayarlar\u0131, 4-bit nicemleme i\u00e7in optimize edilmi\u015f tipleri kullan\u0131r ve hem bellek verimlili\u011fini hem de performans\u0131 dengelemeye yard\u0131mc\u0131 olur.<\/p>\n<h3>Metin Olu\u015fturma (Inference) Ad\u0131m\u0131<\/h3>\n<p>Model ve tokenlay\u0131c\u0131 y\u00fcklendikten sonra, art\u0131k metin olu\u015fturma i\u015flemine ge\u00e7ebiliriz. Bir prompt (istek metni) vererek modelden bir cevap isteyece\u011fiz. Burada basit bir \"instruct\" (talimat) format\u0131 kullanaca\u011f\u0131z, ancak Typhoon modelleri genellikle belirli bir sohbet \u015fablonu (chat template) bekleyebilir. Hugging Face <code>pipeline<\/code> API'si bu s\u00fcreci daha da basitle\u015ftirebilir, ancak temel ad\u0131mlar\u0131 g\u00f6rmek i\u00e7in do\u011frudan modelin <code>generate<\/code> metodunu kullanaca\u011f\u0131z.<\/p>\n<pre><code>\n    # \u0130stek metni (prompt) haz\u0131rlama\n    # Typhoon 2.5 i\u00e7in instruct format\u0131n\u0131 kullanmak \u00f6nemlidir.\n    prompt = \"A\u015fa\u011f\u0131daki soruyu yan\u0131tlay\u0131n: Yapay zeka nedir?\"\n    \n    # Typhoon'un \u00f6zel format\u0131n\u0131 uygulayabiliriz (iste\u011fe ba\u011fl\u0131 ama \u00f6nerilir)\n    # E\u011fer modeliniz bir chat \u015fablonu bekliyorsa:\n    messages = [\n        {\"role\": \"user\", \"content\": prompt}\n    ]\n    # Tokenlay\u0131c\u0131y\u0131 kullanarak mesajlar\u0131 modele uygun hale getirme\n    input_ids = tokenizer.apply_chat_template(messages, tokenize=True, add_generation_prompt=True, return_tensors=\"pt\")\n    input_ids = input_ids.to(model.device)\n\n    print(f\"Prompt: {prompt}\")\n\n    # Metin olu\u015fturma i\u015flemi\n    with torch.no_grad(): # Bellek kullan\u0131m\u0131n\u0131 optimize etmek i\u00e7in gradyan hesaplamay\u0131 kapat\n        outputs = model.generate(\n            input_ids,\n            max_new_tokens=200, # Olu\u015fturulacak maksimum yeni token say\u0131s\u0131\n            do_sample=True, # Rassal \u00f6rnekleme\n            temperature=0.7, # Yarat\u0131c\u0131l\u0131k derecesi\n            top_p=0.9, # \u00c7e\u015fitlilik kontrol\u00fc\n            top_k=50, # \u00c7e\u015fitlilik kontrol\u00fc\n            num_return_sequences=1, # Ka\u00e7 farkl\u0131 sonu\u00e7 d\u00f6nd\u00fcr\u00fclece\u011fi\n            eos_token_id=tokenizer.eos_token_id # C\u00fcmlenin sonu token'\u0131\n        )\n\n    # Olu\u015fturulan metni decode etme\n    response = tokenizer.decode(outputs[0][input_ids.shape[-1]:], skip_special_tokens=True)\n    print(\"Olu\u015fturulan Cevap:\")\n    print(response)\n    <\/pre>\n<p><\/code><\/p>\n<p>Bu ad\u0131mlarla, Typhoon 2.5'in nicelenmi\u015f bir versiyonunu Colab'da ba\u015far\u0131yla kurup \u00e7al\u0131\u015ft\u0131rabilirsiniz. Bu temel kurulum, daha karma\u015f\u0131k uygulamalar ve deneyler i\u00e7in sa\u011flam bir temel olu\u015fturacakt\u0131r. \u00d6zellikle <code>max_new_tokens<\/code>, <code>temperature<\/code> gibi parametrelerle oynayarak modelin \u00e7\u0131kt\u0131s\u0131n\u0131n uzunlu\u011funu ve yarat\u0131c\u0131l\u0131\u011f\u0131n\u0131 kontrol edebilirsiniz. Unutmay\u0131n, en iyi sonu\u00e7lar i\u00e7in modelin bekledi\u011fi prompt format\u0131na uymak kritik \u00f6neme sahiptir.<\/p>\n<h2>Performans Optimizasyonu ve Bellek Y\u00f6netimi: 4B Modellerden En \u0130yi Verimi Nas\u0131l Al\u0131r\u0131z?<\/h2>\n<p>Typhoon 2.5'in 4B nicelenmi\u015f versiyonlar\u0131n\u0131 Colab'da \u00e7al\u0131\u015ft\u0131rabilmek harika olsa da, s\u0131n\u0131rl\u0131 kaynaklarla en iyi performans\u0131 elde etmek i\u00e7in baz\u0131 optimizasyon tekniklerini bilmek \u00f6nemlidir. Bellek y\u00f6netimi ve \u00e7\u0131kar\u0131m h\u0131z\u0131, kullan\u0131c\u0131 deneyimini do\u011frudan etkileyen fakt\u00f6rlerdir. \u0130\u015fte 4B modellerden en iyi verimi alman\u0131z\u0131 sa\u011flayacak baz\u0131 ipu\u00e7lar\u0131:<\/p>\n<h3>Prompt M\u00fchendisli\u011fi ve Uzun Metinlerin Y\u00f6netimi<\/h3>\n<p>Modelin \u00e7\u0131kt\u0131s\u0131n\u0131n kalitesini do\u011frudan etkileyen en \u00f6nemli fakt\u00f6rlerden biri \"prompt m\u00fchendisli\u011fi\"dir. Net, a\u00e7\u0131k ve iyi yap\u0131land\u0131r\u0131lm\u0131\u015f prompt'lar, modelin istedi\u011finiz cevab\u0131 \u00fcretme olas\u0131l\u0131\u011f\u0131n\u0131 art\u0131r\u0131r. Typhoon 2.5 gibi instruct odakl\u0131 modellerde, a\u00e7\u0131k\u00e7a g\u00f6rev belirtmek, \u00f6rnekler vermek (few-shot prompting) ve \u00e7\u0131kt\u0131n\u0131n format\u0131n\u0131 tan\u0131mlamak \u00e7ok i\u015fe yarar. Ayr\u0131ca, modelin ba\u011flam penceresini (context window) iyi y\u00f6netmek \u00f6nemlidir. Colab'daki 4B modeller, genellikle daha k\u00fc\u00e7\u00fck ba\u011flam pencerelerine sahip olabilir veya uzun metinlerde performans d\u00fc\u015f\u00fc\u015f\u00fc ya\u015fayabilirler. E\u011fer \u00e7ok uzun bir metni i\u015flemek istiyorsan\u0131z, metni par\u00e7alara ay\u0131r\u0131p her par\u00e7ay\u0131 ayr\u0131 ayr\u0131 i\u015fledikten sonra sonu\u00e7lar\u0131 birle\u015ftirmek (summarization over chunks) bir strateji olabilir.<\/p>\n<h3>Flash Attention Kullan\u0131m\u0131 (M\u00fcmk\u00fcnse)<\/h3>\n<p><code>flash_attn<\/code> k\u00fct\u00fcphanesi, dikkat mekanizmalar\u0131n\u0131 daha h\u0131zl\u0131 ve bellek a\u00e7\u0131s\u0131ndan daha verimli hale getirerek performans\u0131 \u00f6nemli \u00f6l\u00e7\u00fcde art\u0131rabilir. Ancak bu k\u00fct\u00fcphane, genellikle NVIDIA'n\u0131n Ampere mimarisine sahip (RTX 30 serisi, A100 vb.) veya daha yeni GPU'larda \u00e7al\u0131\u015f\u0131r. Colab'\u0131n \u00fccretsiz katman\u0131nda her zaman bu GPU'lara eri\u015femeyebilirsiniz (genellikle T4 veya P100 gelir). E\u011fer \u015fansl\u0131ysan\u0131z ve uyumlu bir GPU'ya denk gelirseniz, <code>flash_attn<\/code>'\u0131 kurup modelinizi y\u00fcklerken <code>attn_implementation=\"flash_attention_2\"<\/code> parametresini ekleyerek kullanabilirsiniz:<\/p>\n<pre><code>\n    # \u00d6rnek: Flash Attention ile model y\u00fckleme\n    # E\u011fer Flash Attention uyumlu bir GPU'nuz varsa\n    model = AutoModelForCausalLM.from_pretrained(\n        model_id,\n        quantization_config=bnb_config,\n        device_map=\"auto\",\n        attn_implementation=\"flash_attention_2\" # Flash Attention'\u0131 etkinle\u015ftir\n    )\n    <\/pre>\n<p><\/code><\/p>\n<p>Bu, \u00f6zellikle uzun sekanslarda ve b\u00fcy\u00fck batch boyutlar\u0131nda \u00e7\u0131kar\u0131m h\u0131z\u0131n\u0131 dramatik \u015fekilde iyile\u015ftirebilir. E\u011fer Flash Attention desteklenmiyorsa, sistem otomatik olarak daha geleneksel bir dikkat mekanizmas\u0131na geri d\u00f6necektir.<\/p>\n<h3>Batch \u0130\u015flemleri (Batching) ile \u00c7\u0131kar\u0131m H\u0131z\u0131n\u0131 Art\u0131rma<\/h3>\n<p>Tek tek prompt'lar\u0131 i\u015flemek yerine, birden fazla prompt'u ayn\u0131 anda modele beslemek (batching), GPU kullan\u0131m\u0131n\u0131 optimize ederek \u00e7\u0131kar\u0131m h\u0131z\u0131n\u0131 art\u0131rabilir. \u00d6zellikle k\u0131sa prompt'lar i\u00e7in bu y\u00f6ntem \u00e7ok etkilidir. Birden fazla girdiyi bir liste olarak haz\u0131rlay\u0131p, tokenlay\u0131c\u0131n\u0131n <code>padding=True<\/code> ve <code>return_tensors=\"pt\"<\/code> parametreleriyle topluca i\u015flemesini sa\u011flayabilirsiniz. Model daha sonra bu batch'i tek seferde i\u015fleyecektir.<\/p>\n<pre><code>\n    # Birden fazla prompt ile batch olu\u015fturma\n    prompts = [\n        \"T\u00fcrkiye'nin ba\u015fkenti neresidir?\",\n        \"Mars'\u0131n y\u00fczeyinde su var m\u0131?\",\n        \"Python'da bir fonksiyon nas\u0131l tan\u0131mlan\u0131r?\"\n    ]\n\n    # Chat template uygulayarak input_ids'leri haz\u0131rlama\n    batch_messages = [[{\"role\": \"user\", \"content\": p}] for p in prompts]\n    input_ids = tokenizer.apply_chat_template(batch_messages, tokenize=True, add_generation_prompt=True, return_tensors=\"pt\", padding=True)\n    input_ids = input_ids.to(model.device)\n\n    with torch.no_grad():\n        outputs = model.generate(\n            input_ids,\n            max_new_tokens=100,\n            do_sample=True,\n            temperature=0.7,\n            top_p=0.9,\n            eos_token_id=tokenizer.eos_token_id\n        )\n\n    for i, output in enumerate(outputs):\n        response = tokenizer.decode(output[input_ids.shape[1]:], skip_special_tokens=True)\n        print(f\"Prompt {i+1}: {prompts[i]}\")\n        print(f\"Cevap {i+1}: {response}\\n\")\n    <\/pre>\n<p><\/code><\/p>\n<p>Batch boyutu (ayn\u0131 anda i\u015flenen prompt say\u0131s\u0131) ve <code>max_new_tokens<\/code> de\u011ferleri, GPU belle\u011fi ve istenen h\u0131z aras\u0131nda bir denge kurularak ayarlanmal\u0131d\u0131r. Genellikle, batch boyutu artt\u0131k\u00e7a toplam i\u015flem s\u00fcresi azal\u0131r, ancak GPU bellek kullan\u0131m\u0131 artar.<\/p>\n<h3>Bellek Temizli\u011fi ve \u00c7al\u0131\u015fma Zaman\u0131 K\u0131s\u0131tlamalar\u0131<\/h3>\n<p>Colab'\u0131n \u00fccretsiz katman\u0131nda GPU belle\u011fi ve \u00e7al\u0131\u015fma zaman\u0131 (runtime) k\u0131s\u0131tlamalar\u0131 ile kar\u015f\u0131la\u015fmak yayg\u0131nd\u0131r. Uzun s\u00fcreli veya yo\u011fun i\u015flemler yap\u0131ld\u0131\u011f\u0131nda \"Runtime disconnected\" hatas\u0131 alabilirsiniz. Bu durumu minimize etmek i\u00e7in:<\/p>\n<ul>\n<li>Gereksiz de\u011fi\u015fkenleri temizleyin: \u0130\u015finiz bittikten sonra <code>del variable_name<\/code> ve ard\u0131ndan <code>torch.cuda.empty_cache()<\/code> komutlar\u0131n\u0131 kullanarak GPU belle\u011fini bo\u015falt\u0131n.<\/li>\n<li>K\u00fc\u00e7\u00fck batch boyutlar\u0131 kullan\u0131n: Bellek hatas\u0131 al\u0131yorsan\u0131z, batch boyutunu azaltmay\u0131 deneyin.<\/li>\n<li>Daha k\u0131sa metinler olu\u015fturun: <code>max_new_tokens<\/code> de\u011ferini d\u00fc\u015f\u00fck tutarak hem \u00e7\u0131kar\u0131m h\u0131z\u0131n\u0131 art\u0131r\u0131r hem de bellek kullan\u0131m\u0131n\u0131 azalt\u0131rs\u0131n\u0131z.<\/li>\n<\/ul>\n<p>    Bu optimizasyon teknikleri, Typhoon 2.5 4B modellerinden Colab gibi k\u0131s\u0131tl\u0131 bir ortamda bile en iyi performans\u0131 alman\u0131z\u0131 sa\u011flayacakt\u0131r. Unutmay\u0131n, her projenin kendine \u00f6zg\u00fc ihtiya\u00e7lar\u0131 vard\u0131r, bu y\u00fczden farkl\u0131 parametreler ve yakla\u015f\u0131mlar deneyerek en uygun yap\u0131land\u0131rmay\u0131 bulmaya \u00e7al\u0131\u015f\u0131n.<\/p>\n<h2>Ger\u00e7ek D\u00fcnya Senaryolar\u0131: Typhoon 2.5 4B ile Neler Yap\u0131labilir?<\/h2>\n<p>Typhoon 2.5'in 4B veya nicelenmi\u015f 7B versiyonlar\u0131, boyutlar\u0131na ra\u011fmen \u015fa\u015f\u0131rt\u0131c\u0131 derecede g\u00fc\u00e7l\u00fcd\u00fcr ve \u00e7e\u015fitli ger\u00e7ek d\u00fcnya senaryolar\u0131nda kullan\u0131labilir. \u00dccretsiz Colab ortam\u0131nda bu modelleri \u00e7al\u0131\u015ft\u0131rabiliyor olmak, \u00f6zellikle k\u00fc\u00e7\u00fck \u00f6l\u00e7ekli projeler, ki\u015fisel denemeler ve h\u0131zl\u0131 prototipleme i\u00e7in b\u00fcy\u00fck bir avantaj sa\u011flar. \u0130\u015fte Typhoon 2.5 4B ile yapabilece\u011finiz baz\u0131 pratik uygulamalar:<\/p>\n<h3>1. Geli\u015fmi\u015f Metin \u00d6zetleme ve Bilgi \u00c7\u0131karma<\/h3>\n<p>Uzun makaleleri, haberleri veya belgeleri h\u0131zl\u0131ca \u00f6zetlemek, Typhoon 2.5'in g\u00fc\u00e7l\u00fc yeteneklerinden biridir. \u00d6zellikle belirli bir konuya odaklanm\u0131\u015f \u00f6zetler veya anahtar bilgi \u00e7\u0131karma g\u00f6revleri i\u00e7in olduk\u00e7a etkilidir. \u00d6rne\u011fin, bir haber metninin en \u00f6nemli 3 maddesini \u00e7\u0131karmas\u0131n\u0131 isteyebilir veya bir teknik belgeden anahtar terimleri ve tan\u0131mlar\u0131n\u0131 listelemesini sa\u011flayabilirsiniz. Bu, ara\u015ft\u0131rmac\u0131lar, \u00f6\u011frenciler veya bilgiye h\u0131zl\u0131ca eri\u015fmek isteyen herkes i\u00e7in de\u011ferli bir ara\u00e7 olabilir.<\/p>\n<pre><code>\n    prompt_ozet = \"\"\"A\u015fa\u011f\u0131daki makaleyi \u00f6zetleyin ve ana fikrini 3 c\u00fcmlede belirtin:\n    [Buraya uzun bir makale metni yap\u0131\u015ft\u0131r\u0131n]\n    \"\"\"\n    # model.generate() ile \u00e7\u0131kt\u0131y\u0131 al\u0131n\n    <\/pre>\n<p><\/code><\/p>\n<h3>2. Soru-Cevap Sistemleri (Question Answering)<\/h3>\n<p>Typhoon 2.5, genel bilgi sorular\u0131n\u0131 yan\u0131tlamak veya belirli bir metin i\u00e7inden bilgi \u00e7\u0131karmak i\u00e7in kullan\u0131labilir. Bir metin par\u00e7as\u0131 verip ard\u0131ndan o metinle ilgili sorular sorarak modelin anlama yetene\u011fini test edebilirsiniz. Bu, m\u00fc\u015fteri hizmetleri botlar\u0131 i\u00e7in prototip olu\u015fturma, e\u011fitim materyallerinden sorulara otomatik yan\u0131tlar \u00fcretme veya genel k\u00fclt\u00fcr quizleri olu\u015fturma gibi alanlarda faydal\u0131 olabilir.<\/p>\n<pre><code>\n    prompt_qa = \"\"\"Verilen metne dayanarak a\u015fa\u011f\u0131daki soruyu cevaplay\u0131n:\n    Metin: \"Yapay zeka, makinelerin insan zekas\u0131n\u0131 taklit etme yetene\u011fi olarak tan\u0131mlan\u0131r. Bu, \u00f6\u011frenme, problem \u00e7\u00f6zme, alg\u0131lama ve karar verme gibi becerileri i\u00e7erir. Makine \u00f6\u011frenimi, derin \u00f6\u011frenme ve do\u011fal dil i\u015fleme gibi alt alanlara sahiptir.\"\n    Soru: \"Yapay zeka hangi alt alanlara sahiptir?\"\n    \"\"\"\n    # model.generate() ile \u00e7\u0131kt\u0131y\u0131 al\u0131n\n    <\/pre>\n<p><\/code><\/p>\n<h3>3. Yarat\u0131c\u0131 Metin \u00dcretimi ve \u0130\u00e7erik Deste\u011fi<\/h3>\n<p>E-posta taslaklar\u0131 yazmaktan, sosyal medya g\u00f6nderileri olu\u015fturmaya, hatta k\u0131sa hikayeler veya \u015fiirler yazmaya kadar yarat\u0131c\u0131 metin \u00fcretiminde Typhoon 2.5 size yard\u0131mc\u0131 olabilir. Model, verilen bir tema, anahtar kelimeler veya bir ba\u015flang\u0131\u00e7 c\u00fcmlesi \u00fczerine tutarl\u0131 ve ilgi \u00e7ekici metinler \u00fcretebilir. Bu, i\u00e7erik yazarlar\u0131, pazarlamac\u0131lar veya sadece yarat\u0131c\u0131 projeler \u00fczerinde \u00e7al\u0131\u015fan herkes i\u00e7in ilham verici bir ortak olabilir.<\/p>\n<pre><code>\n    prompt_yaratici = \"\"\"Konu: Bir yapay zeka kedinin maceralar\u0131.\n    Ba\u015fl\u0131k: 'Dijital Pati'\n    Giri\u015f paragraf\u0131 yaz\u0131n:\n    \"\"\"\n    # model.generate() ile \u00e7\u0131kt\u0131y\u0131 al\u0131n\n    <\/pre>\n<p><\/code><\/p>\n<h3>4. Basit Kod \u00dcretimi ve Hata Ay\u0131klama Yard\u0131m\u0131<\/h3>\n<p>Her ne kadar \u00f6zel bir kod modeli olmasa da, genel LLM'ler basit kod par\u00e7ac\u0131klar\u0131 \u00fcretebilir, kodlama g\u00f6revlerinde yard\u0131mc\u0131 olabilir veya mevcut kodlardaki hatalar\u0131 tespit etmeye \u00e7al\u0131\u015fabilir. \u00d6rne\u011fin, belirli bir programlama dilinde bir fonksiyon yazmas\u0131n\u0131 veya bir hata mesaj\u0131n\u0131 a\u00e7\u0131klamas\u0131n\u0131 isteyebilirsiniz. Bu, \u00f6\u011frenme a\u015famas\u0131ndaki geli\u015ftiriciler veya h\u0131zl\u0131 prototipleme yapanlar i\u00e7in faydal\u0131 olabilir.<\/p>\n<pre><code>\n    prompt_kod = \"\"\"Python'da bir liste i\u00e7indeki \u00e7ift say\u0131lar\u0131 bulan bir fonksiyon yaz\u0131n.\"\"\"\n    # model.generate() ile \u00e7\u0131kt\u0131y\u0131 al\u0131n\n    <\/pre>\n<p><\/code><\/p>\n<p>Bu senaryolar, Typhoon 2.5 4B modellerinin sundu\u011fu potansiyelin sadece k\u00fc\u00e7\u00fck bir k\u0131sm\u0131n\u0131 temsil ediyor. Modelin yeteneklerini kendi \u00f6zel ihtiya\u00e7lar\u0131n\u0131za g\u00f6re ke\u015ffetmek ve s\u0131n\u0131rlar\u0131n\u0131 zorlamak, Colab'da \u00fccretsiz olarak sunulan bu g\u00fcc\u00fcn ger\u00e7ek de\u011ferini ortaya \u00e7\u0131karacakt\u0131r. Unutmay\u0131n, yarat\u0131c\u0131l\u0131\u011f\u0131n\u0131z ve do\u011fru prompt m\u00fchendisli\u011fi ile bu modellerden beklenenden \u00e7ok daha fazlas\u0131n\u0131 elde edebilirsiniz.<\/p>\n<h2>S\u0131k Kar\u015f\u0131la\u015f\u0131lan Sorunlar ve \u00c7\u00f6z\u00fcmleri: Colab'da LLM \u00c7al\u0131\u015ft\u0131r\u0131rken Nelere Dikkat Etmeli?<\/h2>\n<p>Colab'\u0131n sundu\u011fu \u00fccretsiz GPU eri\u015fimi, b\u00fcy\u00fck dil modelleriyle \u00e7al\u0131\u015fmak i\u00e7in harika bir f\u0131rsat olsa da, beraberinde baz\u0131 yayg\u0131n sorunlar\u0131 da getirir. Bu sorunlar\u0131 \u00f6nceden bilmek ve \u00e7\u00f6z\u00fcm yollar\u0131n\u0131 anlamak, deneylerinizin daha ak\u0131c\u0131 olmas\u0131n\u0131 sa\u011flayacakt\u0131r.<\/p>\n<h3>1. CUDA Out of Memory (CUDA Bellek Yetersiz) Hatas\u0131<\/h3>\n<p>Bu, Colab'da LLM \u00e7al\u0131\u015ft\u0131r\u0131rken en s\u0131k kar\u015f\u0131la\u015f\u0131lan hatalardan biridir. Modelin veya olu\u015fturulacak \u00e7\u0131kt\u0131n\u0131n GPU belle\u011fine s\u0131\u011fmamas\u0131 durumunda ortaya \u00e7\u0131kar.<\/p>\n<ul>\n<li><strong>\u00c7\u00f6z\u00fcm:<\/strong>\n<ul>\n<li>Modeli daha d\u00fc\u015f\u00fck bit hassasiyetinde y\u00fckleyin (<code>load_in_4bit=True<\/code> gibi nicemleme teknikleri).<\/li>\n<li>Daha k\u00fc\u00e7\u00fck bir model kullan\u0131n (\u00f6rne\u011fin, 7B yerine 4B model aray\u0131n).<\/li>\n<li><code>max_new_tokens<\/code> de\u011ferini azalt\u0131n. Daha k\u0131sa \u00e7\u0131kt\u0131lar, daha az bellek gerektirir.<\/li>\n<li>Batch boyutunu (ayn\u0131 anda i\u015flenen prompt say\u0131s\u0131) azalt\u0131n.<\/li>\n<li>Gereksiz de\u011fi\u015fkenleri <code>del variable_name<\/code> ile silin ve ard\u0131ndan <code>torch.cuda.empty_cache()<\/code> \u00e7a\u011f\u0131rarak GPU belle\u011fini bo\u015falt\u0131n.<\/li>\n<li>Colab Pro veya Pro+ aboneli\u011fi d\u00fc\u015f\u00fcn\u00fcn; bu abonelikler daha g\u00fc\u00e7l\u00fc GPU'lar ve daha fazla VRAM sunabilir.<\/li>\n<\/ul>\n<\/li>\n<\/ul>\n<h3>2. Runtime Disconnected (\u00c7al\u0131\u015fma Zaman\u0131 Ba\u011flant\u0131s\u0131 Kesildi)<\/h3>\n<p>Colab, \u00fccretsiz kullan\u0131c\u0131lara belirli bir \"adil kullan\u0131m\" politikas\u0131 uygular. Yo\u011fun GPU kullan\u0131m\u0131, uzun \u00e7al\u0131\u015fma zamanlar\u0131 veya bo\u015fta kalma durumlar\u0131, \u00e7al\u0131\u015fma zaman\u0131n\u0131z\u0131n otomatik olarak kesilmesine neden olabilir.<\/p>\n<ul>\n<li><strong>\u00c7\u00f6z\u00fcm:<\/strong>\n<ul>\n<li>GPU'yu aktif olarak kullanmad\u0131\u011f\u0131n\u0131z zamanlarda \u00e7al\u0131\u015fma zaman\u0131n\u0131 manuel olarak kesin (Runtime -> Disconnect and delete runtime).<\/li>\n<li>D\u00f6ng\u00fclerde veya yo\u011fun i\u015flemlerde ilerleme \u00e7ubu\u011fu (progress bar) kullanmak, Colab'a \"aktif\" oldu\u011funuz sinyalini verebilir.<\/li>\n<li>Colab Pro veya Pro+ aboneli\u011fi ile daha uzun \u00e7al\u0131\u015fma s\u00fcreleri ve daha az kesinti elde edebilirsiniz.<\/li>\n<\/ul>\n<\/li>\n<\/ul>\n<h3>3. Yava\u015f \u00c7\u0131kar\u0131m H\u0131zlar\u0131<\/h3>\n<p>B\u00fcy\u00fck modellerin veya kompleks prompt'lar\u0131n i\u015flenmesi zaman alabilir, \u00f6zellikle \u00fccretsiz katmandaki GPU'lar her zaman en h\u0131zl\u0131 olmayabilir.<\/p>\n<ul>\n<li><strong>\u00c7\u00f6z\u00fcm:<\/strong>\n<ul>\n<li><code>flash_attn<\/code> gibi performans optimizasyon k\u00fct\u00fcphanelerini kullanmay\u0131 deneyin (e\u011fer GPU'nuz destekliyorsa).<\/li>\n<li>Batch i\u015flemlerini kullanarak ayn\u0131 anda birden fazla prompt'u i\u015fleyin.<\/li>\n<li>Daha k\u0131sa <code>max_new_tokens<\/code> kullan\u0131n.<\/li>\n<li>Basit prompt'lar kullanmaya \u00e7al\u0131\u015f\u0131n; karma\u015f\u0131k talimatlar modelin daha fazla d\u00fc\u015f\u00fcnmesini gerektirir.<\/li>\n<\/ul>\n<\/li>\n<\/ul>\n<h3>4. Modelin \u0130stedi\u011fim Gibi Cevap Vermemesi<\/h3>\n<p>Modelin \u00e7\u0131kt\u0131s\u0131 bazen alakas\u0131z, tekrarlay\u0131c\u0131 veya yetersiz olabilir.<\/p>\n<ul>\n<li><strong>\u00c7\u00f6z\u00fcm:<\/strong>\n<ul>\n<li><strong>Prompt M\u00fchendisli\u011fi:<\/strong> Prompt'unuzu daha a\u00e7\u0131k, spesifik ve talimat odakl\u0131 hale getirin. \u00d6rnekler verin (few-shot prompting).<\/li>\n<li><strong>\u00c7\u0131kar\u0131m Parametreleri:<\/strong> <code>temperature<\/code>, <code>top_p<\/code>, <code>top_k<\/code> gibi parametrelerle oynay\u0131n. Y\u00fcksek s\u0131cakl\u0131k daha yarat\u0131c\u0131, d\u00fc\u015f\u00fck s\u0131cakl\u0131k daha deterministik \u00e7\u0131kt\u0131lar verir.<\/li>\n<li>Modelin bekledi\u011fi spesifik chat \u015fablonunu kullan\u0131n (\u00f6rne\u011fin, Llama'n\u0131n veya Instruct modellerinin kendi \u015fablonlar\u0131 vard\u0131r).<\/li>\n<\/ul>\n<\/li>\n<\/ul>\n<p>Bu yayg\u0131n sorunlar\u0131 ve \u00e7\u00f6z\u00fcm yollar\u0131n\u0131 ak\u0131lda tutarak, Colab'da Typhoon 2.5 ve di\u011fer LLM'lerle daha verimli ve sorunsuz bir \u015fekilde \u00e7al\u0131\u015fabilirsiniz. \u00c7o\u011fu zaman, biraz deneme yan\u0131lma ve sab\u0131r en iyi sonu\u00e7lar\u0131 alman\u0131za yard\u0131mc\u0131 olacakt\u0131r.<\/p>\n<h2>Gelece\u011fe Bak\u0131\u015f ve Sonu\u00e7: Colab ile LLM Deneyleri Nereye Gidiyor?<\/h2>\n<p>Bu makale boyunca, Typhoon 2.5 gibi g\u00fc\u00e7l\u00fc b\u00fcy\u00fck dil modellerini Google Colab'\u0131n \u00fccretsiz katman\u0131nda nas\u0131l \u00e7al\u0131\u015ft\u0131rabilece\u011fimizi detayl\u0131 bir \u015fekilde inceledik. Ba\u015flang\u0131\u00e7ta 30 milyar parametreli bir modelin eri\u015filemez oldu\u011funu g\u00f6rsek de, 4 milyar parametreli versiyonlar\u0131n veya ak\u0131ll\u0131 nicemleme (quantization) teknikleri sayesinde 7 milyar parametreli modellerin bile \"tatl\u0131 nokta\"y\u0131 olu\u015fturdu\u011funu ke\u015ffettik. Bu, k\u0131s\u0131tl\u0131 donan\u0131m kaynaklar\u0131na sahip ancak LLM'lerin potansiyelini ke\u015ffetmek isteyen herkes i\u00e7in devrim niteli\u011finde bir ad\u0131md\u0131r.<\/p>\n<p>Colab, yapay zeka ve makine \u00f6\u011frenimi alan\u0131ndaki demokratikle\u015fmeye \u00f6nemli bir katk\u0131 sa\u011fl\u0131yor. \u00dccretsiz GPU eri\u015fimi sayesinde, d\u00fcnyan\u0131n d\u00f6rt bir yan\u0131ndaki geli\u015ftiriciler, \u00f6\u011frenciler ve ara\u015ft\u0131rmac\u0131lar, pahal\u0131 donan\u0131m yat\u0131r\u0131mlar\u0131 yapmadan en son teknoloji modellerle deney yapma, prototipleme ve \u00f6\u011frenme f\u0131rsat\u0131 buluyorlar. Typhoon 2.5'in sundu\u011fu yetenekler, metin \u00f6zetlemeden yarat\u0131c\u0131 yaz\u0131l\u0131ma, soru-cevap sistemlerinden basit kod \u00fcretimine kadar geni\u015f bir yelpazede ger\u00e7ek d\u00fcnya uygulamalar\u0131na kap\u0131 a\u00e7\u0131yor.<\/p>\n<p>Peki, Colab ile LLM deneylerinin gelece\u011fi nereye gidiyor? S\u00fcrekli geli\u015fen optimizasyon teknikleri (daha iyi nicemleme algoritmalar\u0131, yeni dikkat mekanizmalar\u0131 gibi), daha verimli model mimarileri ve bulut sa\u011flay\u0131c\u0131lar\u0131n\u0131n GPU kapasitelerini art\u0131rma \u00e7abalar\u0131 sayesinde, yak\u0131n gelecekte \u00fccretsiz veya uygun fiyatl\u0131 kaynaklarda daha b\u00fcy\u00fck ve daha yetenekli modelleri \u00e7al\u0131\u015ft\u0131rmak m\u00fcmk\u00fcn hale gelebilir. Ayr\u0131ca, Hugging Face gibi platformlar\u0131n ve a\u00e7\u0131k kaynak topluluklar\u0131n\u0131n katk\u0131lar\u0131yla, modellerin kullan\u0131m\u0131 daha da kolayla\u015facak ve daha eri\u015filebilir hale gelecektir. Bu da, yapay zekan\u0131n daha geni\u015f kitleler taraf\u0131ndan ke\u015ffedilmesine ve yenilik\u00e7i uygulamalar\u0131n ortaya \u00e7\u0131kmas\u0131na olanak tan\u0131yacakt\u0131r.<\/p>\n<p>Sonu\u00e7 olarak, Typhoon 2.5 gibi modelleri Colab'da \u00e7al\u0131\u015ft\u0131rmak, sadece teknik bir ba\u015far\u0131 de\u011fil, ayn\u0131 zamanda yapay zeka \u00f6\u011frenim ve geli\u015ftirme s\u00fcre\u00e7lerinin bir simgesidir. Bu rehberle edindi\u011finiz bilgiler ve becerilerle, kendi LLM projelerinizi ba\u015flatabilir, yarat\u0131c\u0131l\u0131\u011f\u0131n\u0131z\u0131 serbest b\u0131rakabilir ve yapay zeka d\u00fcnyas\u0131ndaki yerinizi alabilirsiniz. Unutmay\u0131n, en de\u011ferli kaynak, merak\u0131n\u0131z ve deney yapma iste\u011finizdir. Colab, bu yolculukta size harika bir yol arkada\u015f\u0131 olacakt\u0131r.<\/p>\n<h3>S\u0131k\u00e7a Sorulan Sorular (SSS)<\/h3>\n<ol>\n<li>\n<h4>Typhoon 2.5'in 30B versiyonunu neden Colab'da \u00e7al\u0131\u015ft\u0131ram\u0131yorum?<\/h4>\n<p>30 milyar parametreli bir model, genellikle 16-bit hassasiyette (BF16\/FP16) yakla\u015f\u0131k 60 GB VRAM'e ihtiya\u00e7 duyar. Colab'\u0131n \u00fccretsiz katman\u0131 genellikle 16 GB veya nadiren 24 GB VRAM sunan GPU'lar sa\u011flar. Bu bellek miktar\u0131, 30B modeli y\u00fcklemek i\u00e7in bile yeterli de\u011fildir, bu nedenle \"CUDA out of memory\" hatas\u0131 al\u0131rs\u0131n\u0131z.<\/p>\n<\/li>\n<li>\n<h4>4B 'Sweet Spot' ne anlama geliyor?<\/h4>\n<p>4B 'Sweet Spot' (Tatl\u0131 Nokta), Typhoon 2.5 gibi g\u00fc\u00e7l\u00fc bir modelin, \u00fccretsiz Colab gibi k\u0131s\u0131tl\u0131 GPU belle\u011fine sahip ortamlarda bile \u00e7al\u0131\u015ft\u0131r\u0131labilecek en uygun boyutunu ifade eder. Bu genellikle do\u011frudan 4B parametreli modelleri veya 4-bit nicemleme teknikleriyle optimize edilmi\u015f 7B parametreli modelleri kapsar, zira bu modeller yakla\u015f\u0131k 4-5 GB VRAM kullanarak Colab'\u0131n s\u0131n\u0131rlar\u0131na rahatl\u0131kla s\u0131\u011fabilirler.<\/p>\n<\/li>\n<li>\n<h4>Quantization (Nicemleme) nedir ve Typhoon 2.5 i\u00e7in nas\u0131l \u00e7al\u0131\u015f\u0131r?<\/h4>\n<p>Nicemleme, bir modelin a\u011f\u0131rl\u0131klar\u0131n\u0131 daha d\u00fc\u015f\u00fck bit hassasiyetine (\u00f6rne\u011fin 16-bit'ten 4-bit'e) d\u00f6n\u00fc\u015ft\u00fcrerek bellek kullan\u0131m\u0131n\u0131 azaltma tekni\u011fidir. Typhoon 2.5 gibi modellerde <code>bitsandbytes<\/code> k\u00fct\u00fcphanesi ile 4-bit nicemleme uyguland\u0131\u011f\u0131nda, modelin VRAM ihtiyac\u0131 \u00f6nemli \u00f6l\u00e7\u00fcde azal\u0131r. Bu, modelin performans\u0131nda hafif bir d\u00fc\u015f\u00fc\u015fe neden olabilse de, k\u0131s\u0131tl\u0131 kaynaklarda \u00e7al\u0131\u015fabilmesini sa\u011flar.<\/p>\n<\/li>\n<li>\n<h4>Colab'da GPU yetersizli\u011fi hatas\u0131 al\u0131rsam ne yapmal\u0131y\u0131m?<\/h4>\n<p>\u00d6ncelikle, modeli 4-bit nicemleme ile y\u00fckledi\u011finizden emin olun. Daha sonra, <code>max_new_tokens<\/code> de\u011ferini d\u00fc\u015f\u00fcr\u00fcn ve batch boyutunu azalt\u0131n. Gereksiz de\u011fi\u015fkenleri <code>del<\/code> ile silip <code>torch.cuda.empty_cache()<\/code> \u00e7a\u011f\u0131rarak belle\u011fi bo\u015falt\u0131n. Colab Pro veya Pro+ aboneli\u011fi, daha g\u00fc\u00e7l\u00fc GPU'lar ve daha fazla VRAM sunarak bu t\u00fcr sorunlar\u0131 \u00e7\u00f6zebilir.<\/p>\n<\/li>\n<li>\n<h4>Typhoon 2.5'in 4B versiyonu ne kadar g\u00fc\u00e7l\u00fcd\u00fcr? B\u00fcy\u00fck modeller kadar iyi midir?<\/h4>\n<p>4B veya nicelenmi\u015f 7B Typhoon 2.5 modelleri, boyutlar\u0131na g\u00f6re olduk\u00e7a etkileyicidir ve \u00e7o\u011fu pratik g\u00f6revde (\u00f6zetleme, soru-cevap, yarat\u0131c\u0131 yaz\u0131m) iyi performans g\u00f6sterir. B\u00fcy\u00fck modeller (30B+) kadar kapsaml\u0131 bilgiye veya ince ayr\u0131nt\u0131lara hakim olmasalar da, \u00fccretsiz Colab ortam\u0131nda h\u0131zl\u0131 prototipleme ve deneysel \u00e7al\u0131\u015fmalar i\u00e7in m\u00fckemmel bir denge sunarlar. Bir\u00e7ok durumda, do\u011fru prompt m\u00fchendisli\u011fi ile aradaki fark\u0131 minimize edebilirsiniz.<\/p>\n<\/li>\n<\/ol>\n<p><\/body><\/p>\n","protected":false},"excerpt":{"rendered":"Typhoon 2.5 modellerini \u00fccretsiz Colab&#8217;da \u00e7al\u0131\u015ft\u0131rmak art\u0131k hayal de\u011fil! 30B versiyonunun s\u0131n\u0131rlar\u0131n\u0131 zorlarken, 4B &#8216;Sweet Spot&#8217; ile tan\u0131\u015f\u0131n.&hellip;","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"csco_page_header_type":"","csco_page_load_nextpost":"","csco_page_subscribe_form":"","csco_page_contact_form":"","footnotes":""},"categories":[1],"tags":[],"class_list":{"0":"post-35675","1":"post","2":"type-post","3":"status-publish","4":"format-standard","6":"category-genel","7":"cs-entry","8":"cs-video-wrap"},"yoast_head":"<!-- This site is optimized with the Yoast SEO Premium plugin v20.5 (Yoast SEO v25.3.1) - https:\/\/yoast.com\/wordpress\/plugins\/seo\/ -->\n<title>R\u00fcya Ger\u00e7ek Mi? Typhoon 2.5 Modellerini Colab&#039;da \u00dccretsiz \u00c7al\u0131\u015ft\u0131rmak<\/title>\n<meta name=\"description\" content=\"B\u00fcy\u00fck dil modelleri (LLM&#039;ler) g\u00fcn\u00fcm\u00fcz yapay zeka d\u00fcnyas\u0131n\u0131n en heyecan verici ve d\u00f6n\u00fc\u015ft\u00fcr\u00fcc\u00fc teknolojilerinden biri olarak kar\u015f\u0131m\u0131za \u00e7\u0131k\u0131yor. Metin olu\u015fturmaktan kod yazmaya, \u00f6zetlemeden \u00e7eviriye kadar pek \u00e7ok alanda inan\u0131lmaz yetenekler sergiliyorlar. Ancak bu modellerin g\u00fcc\u00fc, beraberinde ciddi donan\u0131m gereksinimlerini de getiriyor. \u00d6zellikle y\u00fczlerce milyar parametreye sahip modelleri yerel makinelerimizde \u00e7al\u0131\u015ft\u0131rmak, genellikle pahal\u0131 ve g\u00fc\u00e7l\u00fc GPU&#039;lar olmadan imkans\u0131zd\u0131r. \u0130\u015fte tam bu noktada Google Colaboratory (Colab) devreye giriyor. Colab, bulut tabanl\u0131 bir Jupyter not defteri ortam\u0131 sunarak, \u00f6zellikle makine \u00f6\u011frenimi ve derin \u00f6\u011frenme ara\u015ft\u0131rmac\u0131lar\u0131na ve merakl\u0131lar\u0131na \u00fccretsiz GPU eri\u015fimi sa\u011fl\u0131yor.\" \/>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/fatihsoysal.com\/blog\/ruya-gercek-mi-typhoon-2-5-modellerini-colabda-ucretsiz-calistirmak\/\" \/>\n<meta property=\"og:locale\" content=\"tr_TR\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"R\u00fcya Ger\u00e7ek Mi? Typhoon 2.5 Modellerini Colab&#039;da \u00dccretsiz \u00c7al\u0131\u015ft\u0131rmak\" \/>\n<meta property=\"og:description\" content=\"B\u00fcy\u00fck dil modelleri (LLM&#039;ler) g\u00fcn\u00fcm\u00fcz yapay zeka d\u00fcnyas\u0131n\u0131n en heyecan verici ve d\u00f6n\u00fc\u015ft\u00fcr\u00fcc\u00fc teknolojilerinden biri olarak kar\u015f\u0131m\u0131za \u00e7\u0131k\u0131yor. Metin olu\u015fturmaktan kod yazmaya, \u00f6zetlemeden \u00e7eviriye kadar pek \u00e7ok alanda inan\u0131lmaz yetenekler sergiliyorlar. Ancak bu modellerin g\u00fcc\u00fc, beraberinde ciddi donan\u0131m gereksinimlerini de getiriyor. \u00d6zellikle y\u00fczlerce milyar parametreye sahip modelleri yerel makinelerimizde \u00e7al\u0131\u015ft\u0131rmak, genellikle pahal\u0131 ve g\u00fc\u00e7l\u00fc GPU&#039;lar olmadan imkans\u0131zd\u0131r. \u0130\u015fte tam bu noktada Google Colaboratory (Colab) devreye giriyor. Colab, bulut tabanl\u0131 bir Jupyter not defteri ortam\u0131 sunarak, \u00f6zellikle makine \u00f6\u011frenimi ve derin \u00f6\u011frenme ara\u015ft\u0131rmac\u0131lar\u0131na ve merakl\u0131lar\u0131na \u00fccretsiz GPU eri\u015fimi sa\u011fl\u0131yor.\" \/>\n<meta property=\"og:url\" content=\"https:\/\/fatihsoysal.com\/blog\/ruya-gercek-mi-typhoon-2-5-modellerini-colabda-ucretsiz-calistirmak\/\" \/>\n<meta property=\"og:site_name\" content=\"Kodlar\u0131n Gizemli D\u00fcnyas\u0131\" \/>\n<meta property=\"article:published_time\" content=\"2025-12-02T12:31:04+00:00\" \/>\n<meta name=\"author\" content=\"Fatih Soysal\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:label1\" content=\"Yazan:\" \/>\n\t<meta name=\"twitter:data1\" content=\"Fatih Soysal\" \/>\n\t<meta name=\"twitter:label2\" content=\"Tahmini okuma s\u00fcresi\" \/>\n\t<meta name=\"twitter:data2\" content=\"24 dakika\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\/\/schema.org\",\"@graph\":[{\"@type\":\"Article\",\"@id\":\"https:\/\/fatihsoysal.com\/blog\/ruya-gercek-mi-typhoon-2-5-modellerini-colabda-ucretsiz-calistirmak\/#article\",\"isPartOf\":{\"@id\":\"https:\/\/fatihsoysal.com\/blog\/ruya-gercek-mi-typhoon-2-5-modellerini-colabda-ucretsiz-calistirmak\/\"},\"author\":{\"name\":\"Fatih Soysal\",\"@id\":\"https:\/\/fatihsoysal.com\/blog\/#\/schema\/person\/002a254750921dcfd568a99e48240dd1\"},\"headline\":\"R\u00fcya Ger\u00e7ek Mi? Typhoon 2.5 Modellerini Colab&#8217;da \u00dccretsiz \u00c7al\u0131\u015ft\u0131rmak\",\"datePublished\":\"2025-12-02T12:31:04+00:00\",\"mainEntityOfPage\":{\"@id\":\"https:\/\/fatihsoysal.com\/blog\/ruya-gercek-mi-typhoon-2-5-modellerini-colabda-ucretsiz-calistirmak\/\"},\"wordCount\":4070,\"commentCount\":0,\"publisher\":{\"@id\":\"https:\/\/fatihsoysal.com\/blog\/#\/schema\/person\/002a254750921dcfd568a99e48240dd1\"},\"inLanguage\":\"tr\",\"potentialAction\":[{\"@type\":\"CommentAction\",\"name\":\"Comment\",\"target\":[\"https:\/\/fatihsoysal.com\/blog\/ruya-gercek-mi-typhoon-2-5-modellerini-colabda-ucretsiz-calistirmak\/#respond\"]}],\"copyrightYear\":\"2025\",\"copyrightHolder\":{\"@id\":\"https:\/\/fatihsoysal.com\/blog\/#organization\"}},{\"@type\":\"WebPage\",\"@id\":\"https:\/\/fatihsoysal.com\/blog\/ruya-gercek-mi-typhoon-2-5-modellerini-colabda-ucretsiz-calistirmak\/\",\"url\":\"https:\/\/fatihsoysal.com\/blog\/ruya-gercek-mi-typhoon-2-5-modellerini-colabda-ucretsiz-calistirmak\/\",\"name\":\"R\u00fcya Ger\u00e7ek Mi? Typhoon 2.5 Modellerini Colab'da \u00dccretsiz \u00c7al\u0131\u015ft\u0131rmak\",\"isPartOf\":{\"@id\":\"https:\/\/fatihsoysal.com\/blog\/#website\"},\"datePublished\":\"2025-12-02T12:31:04+00:00\",\"description\":\"B\u00fcy\u00fck dil modelleri (LLM'ler) g\u00fcn\u00fcm\u00fcz yapay zeka d\u00fcnyas\u0131n\u0131n en heyecan verici ve d\u00f6n\u00fc\u015ft\u00fcr\u00fcc\u00fc teknolojilerinden biri olarak kar\u015f\u0131m\u0131za \u00e7\u0131k\u0131yor. Metin olu\u015fturmaktan kod yazmaya, \u00f6zetlemeden \u00e7eviriye kadar pek \u00e7ok alanda inan\u0131lmaz yetenekler sergiliyorlar. Ancak bu modellerin g\u00fcc\u00fc, beraberinde ciddi donan\u0131m gereksinimlerini de getiriyor. \u00d6zellikle y\u00fczlerce milyar parametreye sahip modelleri yerel makinelerimizde \u00e7al\u0131\u015ft\u0131rmak, genellikle pahal\u0131 ve g\u00fc\u00e7l\u00fc GPU'lar olmadan imkans\u0131zd\u0131r. \u0130\u015fte tam bu noktada Google Colaboratory (Colab) devreye giriyor. Colab, bulut tabanl\u0131 bir Jupyter not defteri ortam\u0131 sunarak, \u00f6zellikle makine \u00f6\u011frenimi ve derin \u00f6\u011frenme ara\u015ft\u0131rmac\u0131lar\u0131na ve merakl\u0131lar\u0131na \u00fccretsiz GPU eri\u015fimi sa\u011fl\u0131yor.\",\"breadcrumb\":{\"@id\":\"https:\/\/fatihsoysal.com\/blog\/ruya-gercek-mi-typhoon-2-5-modellerini-colabda-ucretsiz-calistirmak\/#breadcrumb\"},\"inLanguage\":\"tr\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\/\/fatihsoysal.com\/blog\/ruya-gercek-mi-typhoon-2-5-modellerini-colabda-ucretsiz-calistirmak\/\"]}]},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\/\/fatihsoysal.com\/blog\/ruya-gercek-mi-typhoon-2-5-modellerini-colabda-ucretsiz-calistirmak\/#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"Anasayfa\",\"item\":\"https:\/\/fatihsoysal.com\/blog\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"R\u00fcya Ger\u00e7ek Mi? Typhoon 2.5 Modellerini Colab&#8217;da \u00dccretsiz \u00c7al\u0131\u015ft\u0131rmak\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\/\/fatihsoysal.com\/blog\/#website\",\"url\":\"https:\/\/fatihsoysal.com\/blog\/\",\"name\":\"Fatihsoysal.com\",\"description\":\"Blog - Yaz\u0131l\u0131m D\u00fcnyas\u0131 Tecr\u00fcbelerim\",\"publisher\":{\"@id\":\"https:\/\/fatihsoysal.com\/blog\/#\/schema\/person\/002a254750921dcfd568a99e48240dd1\"},\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\/\/fatihsoysal.com\/blog\/?s={search_term_string}\"},\"query-input\":{\"@type\":\"PropertyValueSpecification\",\"valueRequired\":true,\"valueName\":\"search_term_string\"}}],\"inLanguage\":\"tr\"},{\"@type\":[\"Person\",\"Organization\"],\"@id\":\"https:\/\/fatihsoysal.com\/blog\/#\/schema\/person\/002a254750921dcfd568a99e48240dd1\",\"name\":\"Fatih Soysal\",\"image\":{\"@type\":\"ImageObject\",\"inLanguage\":\"tr\",\"@id\":\"https:\/\/fatihsoysal.com\/blog\/#\/schema\/person\/image\/\",\"url\":\"https:\/\/fatihsoysal.com\/blog\/wp-content\/uploads\/2024\/04\/cropped-replicate-prediction-3kgg1hgjn5rgp0cf0p5tr0jw7w-1.png\",\"contentUrl\":\"https:\/\/fatihsoysal.com\/blog\/wp-content\/uploads\/2024\/04\/cropped-replicate-prediction-3kgg1hgjn5rgp0cf0p5tr0jw7w-1.png\",\"width\":512,\"height\":512,\"caption\":\"Fatih Soysal\"},\"logo\":{\"@id\":\"https:\/\/fatihsoysal.com\/blog\/#\/schema\/person\/image\/\"},\"description\":\"Kullan\u0131m ve kodlama m\u00fckemmeliyetini odak alan uygulamalar olu\u015fturma deneyimine sahip, profesyonel olarak 15+ y\u0131l \u00fczeri deneyime sahip bir yaz\u0131l\u0131m m\u00fchendisi.\",\"url\":\"https:\/\/fatihsoysal.com\/blog\/author\/fatihsoysal\/\"}]}<\/script>\n<!-- \/ Yoast SEO Premium plugin. -->","yoast_head_json":{"title":"R\u00fcya Ger\u00e7ek Mi? Typhoon 2.5 Modellerini Colab'da \u00dccretsiz \u00c7al\u0131\u015ft\u0131rmak","description":"B\u00fcy\u00fck dil modelleri (LLM'ler) g\u00fcn\u00fcm\u00fcz yapay zeka d\u00fcnyas\u0131n\u0131n en heyecan verici ve d\u00f6n\u00fc\u015ft\u00fcr\u00fcc\u00fc teknolojilerinden biri olarak kar\u015f\u0131m\u0131za \u00e7\u0131k\u0131yor. Metin olu\u015fturmaktan kod yazmaya, \u00f6zetlemeden \u00e7eviriye kadar pek \u00e7ok alanda inan\u0131lmaz yetenekler sergiliyorlar. Ancak bu modellerin g\u00fcc\u00fc, beraberinde ciddi donan\u0131m gereksinimlerini de getiriyor. \u00d6zellikle y\u00fczlerce milyar parametreye sahip modelleri yerel makinelerimizde \u00e7al\u0131\u015ft\u0131rmak, genellikle pahal\u0131 ve g\u00fc\u00e7l\u00fc GPU'lar olmadan imkans\u0131zd\u0131r. \u0130\u015fte tam bu noktada Google Colaboratory (Colab) devreye giriyor. Colab, bulut tabanl\u0131 bir Jupyter not defteri ortam\u0131 sunarak, \u00f6zellikle makine \u00f6\u011frenimi ve derin \u00f6\u011frenme ara\u015ft\u0131rmac\u0131lar\u0131na ve merakl\u0131lar\u0131na \u00fccretsiz GPU eri\u015fimi sa\u011fl\u0131yor.","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/fatihsoysal.com\/blog\/ruya-gercek-mi-typhoon-2-5-modellerini-colabda-ucretsiz-calistirmak\/","og_locale":"tr_TR","og_type":"article","og_title":"R\u00fcya Ger\u00e7ek Mi? Typhoon 2.5 Modellerini Colab'da \u00dccretsiz \u00c7al\u0131\u015ft\u0131rmak","og_description":"B\u00fcy\u00fck dil modelleri (LLM'ler) g\u00fcn\u00fcm\u00fcz yapay zeka d\u00fcnyas\u0131n\u0131n en heyecan verici ve d\u00f6n\u00fc\u015ft\u00fcr\u00fcc\u00fc teknolojilerinden biri olarak kar\u015f\u0131m\u0131za \u00e7\u0131k\u0131yor. Metin olu\u015fturmaktan kod yazmaya, \u00f6zetlemeden \u00e7eviriye kadar pek \u00e7ok alanda inan\u0131lmaz yetenekler sergiliyorlar. Ancak bu modellerin g\u00fcc\u00fc, beraberinde ciddi donan\u0131m gereksinimlerini de getiriyor. \u00d6zellikle y\u00fczlerce milyar parametreye sahip modelleri yerel makinelerimizde \u00e7al\u0131\u015ft\u0131rmak, genellikle pahal\u0131 ve g\u00fc\u00e7l\u00fc GPU'lar olmadan imkans\u0131zd\u0131r. \u0130\u015fte tam bu noktada Google Colaboratory (Colab) devreye giriyor. Colab, bulut tabanl\u0131 bir Jupyter not defteri ortam\u0131 sunarak, \u00f6zellikle makine \u00f6\u011frenimi ve derin \u00f6\u011frenme ara\u015ft\u0131rmac\u0131lar\u0131na ve merakl\u0131lar\u0131na \u00fccretsiz GPU eri\u015fimi sa\u011fl\u0131yor.","og_url":"https:\/\/fatihsoysal.com\/blog\/ruya-gercek-mi-typhoon-2-5-modellerini-colabda-ucretsiz-calistirmak\/","og_site_name":"Kodlar\u0131n Gizemli D\u00fcnyas\u0131","article_published_time":"2025-12-02T12:31:04+00:00","author":"Fatih Soysal","twitter_card":"summary_large_image","twitter_misc":{"Yazan:":"Fatih Soysal","Tahmini okuma s\u00fcresi":"24 dakika"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"Article","@id":"https:\/\/fatihsoysal.com\/blog\/ruya-gercek-mi-typhoon-2-5-modellerini-colabda-ucretsiz-calistirmak\/#article","isPartOf":{"@id":"https:\/\/fatihsoysal.com\/blog\/ruya-gercek-mi-typhoon-2-5-modellerini-colabda-ucretsiz-calistirmak\/"},"author":{"name":"Fatih Soysal","@id":"https:\/\/fatihsoysal.com\/blog\/#\/schema\/person\/002a254750921dcfd568a99e48240dd1"},"headline":"R\u00fcya Ger\u00e7ek Mi? Typhoon 2.5 Modellerini Colab&#8217;da \u00dccretsiz \u00c7al\u0131\u015ft\u0131rmak","datePublished":"2025-12-02T12:31:04+00:00","mainEntityOfPage":{"@id":"https:\/\/fatihsoysal.com\/blog\/ruya-gercek-mi-typhoon-2-5-modellerini-colabda-ucretsiz-calistirmak\/"},"wordCount":4070,"commentCount":0,"publisher":{"@id":"https:\/\/fatihsoysal.com\/blog\/#\/schema\/person\/002a254750921dcfd568a99e48240dd1"},"inLanguage":"tr","potentialAction":[{"@type":"CommentAction","name":"Comment","target":["https:\/\/fatihsoysal.com\/blog\/ruya-gercek-mi-typhoon-2-5-modellerini-colabda-ucretsiz-calistirmak\/#respond"]}],"copyrightYear":"2025","copyrightHolder":{"@id":"https:\/\/fatihsoysal.com\/blog\/#organization"}},{"@type":"WebPage","@id":"https:\/\/fatihsoysal.com\/blog\/ruya-gercek-mi-typhoon-2-5-modellerini-colabda-ucretsiz-calistirmak\/","url":"https:\/\/fatihsoysal.com\/blog\/ruya-gercek-mi-typhoon-2-5-modellerini-colabda-ucretsiz-calistirmak\/","name":"R\u00fcya Ger\u00e7ek Mi? Typhoon 2.5 Modellerini Colab'da \u00dccretsiz \u00c7al\u0131\u015ft\u0131rmak","isPartOf":{"@id":"https:\/\/fatihsoysal.com\/blog\/#website"},"datePublished":"2025-12-02T12:31:04+00:00","description":"B\u00fcy\u00fck dil modelleri (LLM'ler) g\u00fcn\u00fcm\u00fcz yapay zeka d\u00fcnyas\u0131n\u0131n en heyecan verici ve d\u00f6n\u00fc\u015ft\u00fcr\u00fcc\u00fc teknolojilerinden biri olarak kar\u015f\u0131m\u0131za \u00e7\u0131k\u0131yor. Metin olu\u015fturmaktan kod yazmaya, \u00f6zetlemeden \u00e7eviriye kadar pek \u00e7ok alanda inan\u0131lmaz yetenekler sergiliyorlar. Ancak bu modellerin g\u00fcc\u00fc, beraberinde ciddi donan\u0131m gereksinimlerini de getiriyor. \u00d6zellikle y\u00fczlerce milyar parametreye sahip modelleri yerel makinelerimizde \u00e7al\u0131\u015ft\u0131rmak, genellikle pahal\u0131 ve g\u00fc\u00e7l\u00fc GPU'lar olmadan imkans\u0131zd\u0131r. \u0130\u015fte tam bu noktada Google Colaboratory (Colab) devreye giriyor. Colab, bulut tabanl\u0131 bir Jupyter not defteri ortam\u0131 sunarak, \u00f6zellikle makine \u00f6\u011frenimi ve derin \u00f6\u011frenme ara\u015ft\u0131rmac\u0131lar\u0131na ve merakl\u0131lar\u0131na \u00fccretsiz GPU eri\u015fimi sa\u011fl\u0131yor.","breadcrumb":{"@id":"https:\/\/fatihsoysal.com\/blog\/ruya-gercek-mi-typhoon-2-5-modellerini-colabda-ucretsiz-calistirmak\/#breadcrumb"},"inLanguage":"tr","potentialAction":[{"@type":"ReadAction","target":["https:\/\/fatihsoysal.com\/blog\/ruya-gercek-mi-typhoon-2-5-modellerini-colabda-ucretsiz-calistirmak\/"]}]},{"@type":"BreadcrumbList","@id":"https:\/\/fatihsoysal.com\/blog\/ruya-gercek-mi-typhoon-2-5-modellerini-colabda-ucretsiz-calistirmak\/#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Anasayfa","item":"https:\/\/fatihsoysal.com\/blog\/"},{"@type":"ListItem","position":2,"name":"R\u00fcya Ger\u00e7ek Mi? Typhoon 2.5 Modellerini Colab&#8217;da \u00dccretsiz \u00c7al\u0131\u015ft\u0131rmak"}]},{"@type":"WebSite","@id":"https:\/\/fatihsoysal.com\/blog\/#website","url":"https:\/\/fatihsoysal.com\/blog\/","name":"Fatihsoysal.com","description":"Blog - Yaz\u0131l\u0131m D\u00fcnyas\u0131 Tecr\u00fcbelerim","publisher":{"@id":"https:\/\/fatihsoysal.com\/blog\/#\/schema\/person\/002a254750921dcfd568a99e48240dd1"},"potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/fatihsoysal.com\/blog\/?s={search_term_string}"},"query-input":{"@type":"PropertyValueSpecification","valueRequired":true,"valueName":"search_term_string"}}],"inLanguage":"tr"},{"@type":["Person","Organization"],"@id":"https:\/\/fatihsoysal.com\/blog\/#\/schema\/person\/002a254750921dcfd568a99e48240dd1","name":"Fatih Soysal","image":{"@type":"ImageObject","inLanguage":"tr","@id":"https:\/\/fatihsoysal.com\/blog\/#\/schema\/person\/image\/","url":"https:\/\/fatihsoysal.com\/blog\/wp-content\/uploads\/2024\/04\/cropped-replicate-prediction-3kgg1hgjn5rgp0cf0p5tr0jw7w-1.png","contentUrl":"https:\/\/fatihsoysal.com\/blog\/wp-content\/uploads\/2024\/04\/cropped-replicate-prediction-3kgg1hgjn5rgp0cf0p5tr0jw7w-1.png","width":512,"height":512,"caption":"Fatih Soysal"},"logo":{"@id":"https:\/\/fatihsoysal.com\/blog\/#\/schema\/person\/image\/"},"description":"Kullan\u0131m ve kodlama m\u00fckemmeliyetini odak alan uygulamalar olu\u015fturma deneyimine sahip, profesyonel olarak 15+ y\u0131l \u00fczeri deneyime sahip bir yaz\u0131l\u0131m m\u00fchendisi.","url":"https:\/\/fatihsoysal.com\/blog\/author\/fatihsoysal\/"}]}},"yoast_meta":{"yoast_wpseo_title":"","yoast_wpseo_metadesc":"","yoast_wpseo_canonical":""},"amp_enabled":true,"_links":{"self":[{"href":"https:\/\/fatihsoysal.com\/blog\/wp-json\/wp\/v2\/posts\/35675","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/fatihsoysal.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/fatihsoysal.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/fatihsoysal.com\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/fatihsoysal.com\/blog\/wp-json\/wp\/v2\/comments?post=35675"}],"version-history":[{"count":0,"href":"https:\/\/fatihsoysal.com\/blog\/wp-json\/wp\/v2\/posts\/35675\/revisions"}],"wp:attachment":[{"href":"https:\/\/fatihsoysal.com\/blog\/wp-json\/wp\/v2\/media?parent=35675"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/fatihsoysal.com\/blog\/wp-json\/wp\/v2\/categories?post=35675"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/fatihsoysal.com\/blog\/wp-json\/wp\/v2\/tags?post=35675"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}