Telefonunuzda yapay zeka modellerini tamamen \u00e7evrimd\u0131\u015f\u0131 \u00e7al\u0131\u015ft\u0131rman\u0131n pratik yollar\u0131n\u0131 ke\u015ffedin. Gizlilik, h\u0131z ve kesintisiz eri\u015fim avantajlar\u0131yla mobil yapay zekay\u0131 cebinize ta\u015f\u0131y\u0131n. Ad\u0131m ad\u0131m rehberimizle kendi yerel LLM’inizi kurun.<\/p>\n

G\u00fcn\u00fcm\u00fcz dijital d\u00fcnyas\u0131nda yapay zeka modelleri, \u00f6zellikle B\u00fcy\u00fck Dil Modelleri (LLM’ler), hayat\u0131m\u0131z\u0131n vazge\u00e7ilmez bir par\u00e7as\u0131 haline geldi. ChatGPT, Bard gibi ara\u00e7lar sayesinde karma\u015f\u0131k sorulara yan\u0131tlar buluyor, metinler olu\u015fturuyor ve hatta kod yazd\u0131rabiliyoruz. Ancak bu g\u00fc\u00e7l\u00fc ara\u00e7lar\u0131n \u00e7o\u011fu, internet ba\u011flant\u0131s\u0131 ve bulut tabanl\u0131 sunuculara ba\u011f\u0131ml\u0131d\u0131r. Peki ya internet ba\u011flant\u0131n\u0131z yoksa veya verilerinizin gizlili\u011fi konusunda endi\u015feleriniz varsa? \u0130\u015fte tam da bu noktada, LLM’leri do\u011frudan telefonunuzda, tamamen \u00e7evrimd\u0131\u015f\u0131 \u00e7al\u0131\u015ft\u0131rma fikri devreye giriyor. Bu kapsaml\u0131 rehberde, mobil cihaz\u0131n\u0131zda yerel yapay zeka deneyimini nas\u0131l ya\u015fayaca\u011f\u0131n\u0131z\u0131, hangi ara\u00e7lar\u0131 kullanaca\u011f\u0131n\u0131z\u0131 ve performans optimizasyon ipu\u00e7lar\u0131n\u0131 ad\u0131m ad\u0131m ele alaca\u011f\u0131z.<\/p>\n

Bu makale, yapay zeka d\u00fcnyas\u0131na yeni ad\u0131m atanlardan, deneyimli geli\u015ftiricilere kadar geni\u015f bir kitleye hitap etmektedir. Amac\u0131m\u0131z, konuyu s\u0131f\u0131rdan ele alarak, herkesin kendi telefonunda bir LLM \u00e7al\u0131\u015ft\u0131rma yetene\u011fini kazanmas\u0131na yard\u0131mc\u0131 olmakt\u0131r. \u00d6yleyse, cebinizdeki yapay zeka devrimine haz\u0131r olun!<\/p>\n<\/div>\n

B\u00fcy\u00fck Dil Modellerini (LLM’ler) mobil cihaz\u0131n\u0131zda \u00e7evrimd\u0131\u015f\u0131 \u00e7al\u0131\u015ft\u0131rmak, sadece teknik bir ba\u015far\u0131 de\u011fil, ayn\u0131 zamanda g\u00fcnl\u00fck ya\u015fam\u0131m\u0131zda ve i\u015f s\u00fcre\u00e7lerimizde \u00f6nemli avantajlar sunan stratejik bir yakla\u015f\u0131md\u0131r. \u0130nternet ba\u011flant\u0131s\u0131na ba\u011f\u0131ml\u0131 bulut tabanl\u0131 \u00e7\u00f6z\u00fcmlere k\u0131yasla, yerel yapay zeka (On-device AI) size e\u015fsiz bir \u00f6zg\u00fcrl\u00fck ve kontrol sa\u011flar. Bu b\u00f6l\u00fcmde, LLM’leri \u00e7evrimd\u0131\u015f\u0131 \u00e7al\u0131\u015ft\u0131rman\u0131n temel nedenlerini ve sa\u011flad\u0131\u011f\u0131 faydalar\u0131 detayl\u0131ca inceleyece\u011fiz.<\/p>\n

Gizlilik ve Veri G\u00fcvenli\u011fi Konusunda Endi\u015feleriniz Mi Var?<\/h3>\n
Bulut tabanl\u0131 LLM’ler kullan\u0131l\u0131rken, yazd\u0131\u011f\u0131n\u0131z her \u015fey, sorulan her soru ve olu\u015fturulan her metin sunuculara g\u00f6nderilir. Bu durum, hassas veya ki\u015fisel bilgiler i\u00e7eren veriler s\u00f6z konusu oldu\u011funda ciddi gizlilik endi\u015felerine yol a\u00e7abilir. \u00d6rne\u011fin, \u015firket s\u0131rlar\u0131n\u0131 i\u00e7eren bir belgeyi \u00f6zetlemek veya ki\u015fisel sa\u011fl\u0131k durumunuz hakk\u0131nda bilgi almak istedi\u011finizde, verilerinizin \u00fc\u00e7\u00fcnc\u00fc taraflarca i\u015flenmesi veya depolanmas\u0131 riskini ta\u015f\u0131rs\u0131n\u0131z. Telefonunuzda \u00e7evrimd\u0131\u015f\u0131 bir LLM \u00e7al\u0131\u015ft\u0131rmak ise, t\u00fcm bu i\u015flemlerin cihaz\u0131n\u0131z i\u00e7inde kalmas\u0131n\u0131 sa\u011flar. Verileriniz hi\u00e7bir zaman d\u0131\u015far\u0131ya \u00e7\u0131kmaz, b\u00f6ylece gizlili\u011finiz maksimum d\u00fczeyde korunur. Bu, \u00f6zellikle sa\u011fl\u0131k, finans veya hukuk gibi sekt\u00f6rlerde \u00e7al\u0131\u015fanlar i\u00e7in kritik bir avantajd\u0131r.<\/p>\n

\u0130nternet Ba\u011flant\u0131s\u0131ndan Ba\u011f\u0131ms\u0131z Bir Yapay Zeka Deneyimi M\u00fcmk\u00fcn M\u00fc?<\/h3>\n
Hepimiz zaman zaman internet ba\u011flant\u0131s\u0131n\u0131n olmad\u0131\u011f\u0131 veya \u00e7ok yava\u015f oldu\u011fu durumlarla kar\u015f\u0131la\u015f\u0131r\u0131z: U\u00e7ak yolculuklar\u0131, metro seferleri, k\u0131rsal b\u00f6lgelerdeki seyahatler veya basit\u00e7e k\u00f6t\u00fc bir Wi-Fi sinyali. Bu gibi durumlarda bulut tabanl\u0131 LLM’ler tamamen kullan\u0131lamaz hale gelir. Ancak telefonunuzda yerel olarak \u00e7al\u0131\u015fan bir LLM ile, internet ba\u011flant\u0131s\u0131 olup olmad\u0131\u011f\u0131na bak\u0131lmaks\u0131z\u0131n istedi\u011finiz zaman yapay zeka yeteneklerine eri\u015febilirsiniz. Bu, kesintisiz bir \u00fcretkenlik ve bilgiye eri\u015fim anlam\u0131na gelir. Bir makaleyi \u00f6zetlemek, bir e-posta tasla\u011f\u0131 olu\u015fturmak veya bir programlama sorusuna yan\u0131t aramak gibi g\u00f6revleri internete ba\u011f\u0131ml\u0131 olmadan kolayca ger\u00e7ekle\u015ftirebilirsiniz.<\/p>\n

Daha H\u0131zl\u0131 Yan\u0131t S\u00fcreleri ve Maliyet Tasarrufu Nas\u0131l Sa\u011flan\u0131r?<\/h3>\n
Bulut tabanl\u0131 LLM’ler, sorgunuzu sunucuya g\u00f6ndermek, sunucuda i\u015flemek ve yan\u0131t\u0131 geri almak i\u00e7in zaman harcar. Bu gecikme (latency), \u00f6zellikle yo\u011fun internet trafi\u011fi veya uzak sunucularla ba\u011flant\u0131 kuruldu\u011funda belirginle\u015febilir. Yerel LLM’ler ise bu a\u011f gecikmesini tamamen ortadan kald\u0131r\u0131r. T\u00fcm i\u015flemler do\u011frudan cihaz\u0131n\u0131zda ger\u00e7ekle\u015fti\u011fi i\u00e7in, yan\u0131t s\u00fcreleri genellikle \u00e7ok daha h\u0131zl\u0131d\u0131r. Bu, anl\u0131k geri bildirim gerektiren uygulamalar veya h\u0131zl\u0131 not alma senaryolar\u0131 i\u00e7in idealdir. Ayr\u0131ca, bulut tabanl\u0131 LLM’lerin kullan\u0131m\u0131 genellikle bir maliyeti beraberinde getirir. Token bazl\u0131 \u00fccretlendirme modelleri veya abonelikler s\u00f6z konusu olabilir. Telefonunuzda \u00e7evrimd\u0131\u015f\u0131 bir LLM kulland\u0131\u011f\u0131n\u0131zda ise, model indirme hari\u00e7, ek bir kullan\u0131m maliyeti olu\u015fmaz. Bu da uzun vadede \u00f6nemli \u00f6l\u00e7\u00fcde tasarruf sa\u011flaman\u0131za yard\u0131mc\u0131 olur.<\/p>\n

Enerji Verimlili\u011fi ve “Edge AI” Kavram\u0131<\/h3>\n
B\u00fcy\u00fck sunucu \u00e7iftlikleri, bulut tabanl\u0131 yapay zeka modellerini \u00e7al\u0131\u015ft\u0131rmak i\u00e7in muazzam miktarda enerji t\u00fcketir. Telefonunuzda LLM \u00e7al\u0131\u015ft\u0131rmak, bu enerjinin bir k\u0131sm\u0131n\u0131 son kullan\u0131c\u0131ya ta\u015f\u0131yarak “Edge AI” (U\u00e7 Yapay Zeka) konseptine katk\u0131da bulunur. Edge AI, verilerin topland\u0131\u011f\u0131 veya kullan\u0131ld\u0131\u011f\u0131 yerde, yani cihaz\u0131n kendisinde i\u015flenmesi anlam\u0131na gelir. Bu yakla\u015f\u0131m, sadece enerji tasarrufuna de\u011fil, ayn\u0131 zamanda daha az bant geni\u015fli\u011fi kullan\u0131m\u0131na ve daha h\u0131zl\u0131 verilere eri\u015fime de olanak tan\u0131r. Her ne kadar mobil cihazlar\u0131n kendi enerji t\u00fcketimi olsa da, merkezi sunucu y\u00fck\u00fcn\u00fc azaltmak genel ekosistem i\u00e7in faydal\u0131d\u0131r. Dolay\u0131s\u0131yla, LLM’leri telefonunuzda \u00e7al\u0131\u015ft\u0131rmak, hem ki\u015fisel hem de \u00e7evresel faydalar sunan modern bir teknoloji trendinin par\u00e7as\u0131d\u0131r.<\/p>\n<\/div>\n
\n
Vaka Analizi: Saha Teknisyeninin Yard\u0131mc\u0131s\u0131<\/h4>\n
Bir telekom\u00fcnikasyon \u015firketi i\u00e7in k\u0131rsal b\u00f6lgelerde saha hizmeti veren bir teknisyen d\u00fc\u015f\u00fcn\u00fcn. S\u0131k s\u0131k internet eri\u015fiminin k\u0131s\u0131tl\u0131 oldu\u011fu veya hi\u00e7 olmad\u0131\u011f\u0131 b\u00f6lgelerde \u00e7al\u0131\u015fmak zorunda kal\u0131yor. Yeni bir ekipman kurulumu s\u0131ras\u0131nda kar\u015f\u0131la\u015ft\u0131\u011f\u0131 karma\u015f\u0131k bir ar\u0131za durumunda, internet \u00fczerinden bilgi aramak veya merkezi destek ekibiyle ileti\u015fime ge\u00e7mek zaman kayb\u0131na neden olabilir. Teknisyenin telefonunda \u00e7evrimd\u0131\u015f\u0131 \u00e7al\u0131\u015fan bir LLM, ekipman k\u0131lavuzlar\u0131n\u0131, ar\u0131za giderme belgelerini veya daha \u00f6nce kaydedilmi\u015f \u00e7\u00f6z\u00fcmleri i\u00e7eren bir bilgi taban\u0131na eri\u015fmesini sa\u011flayabilir. “X modelinin hata kodu Y ile ilgili \u00e7\u00f6z\u00fcmleri nelerdir?” veya “Z par\u00e7as\u0131n\u0131n montaj \u015femas\u0131 nedir?” gibi sorular\u0131 an\u0131nda yan\u0131tlayarak, sahada h\u0131zl\u0131 ve do\u011fru kararlar almas\u0131na yard\u0131mc\u0131 olur. Bu durum, i\u015f verimlili\u011fini art\u0131r\u0131rken m\u00fc\u015fteri memnuniyetini de \u00f6nemli \u00f6l\u00e7\u00fcde y\u00fckseltir.<\/p>\n<\/div>\n
\n
Hangi LLM Modelleri ve Ara\u00e7lar\u0131 Mobil Cihazlar \u0130\u00e7in Uygundur?<\/h2>\n
Telefonunuzda bir LLM’i ba\u015far\u0131yla \u00e7al\u0131\u015ft\u0131rmak i\u00e7in do\u011fru model ve ara\u00e7lar\u0131 se\u00e7mek kritik \u00f6neme sahiptir. Bulut tabanl\u0131 devasa modellerin aksine, mobil cihazlar i\u00e7in optimize edilmi\u015f, daha k\u00fc\u00e7\u00fck ve daha verimli modellere y\u00f6nelmemiz gerekir. Bu b\u00f6l\u00fcmde, mobil cihaz dostu LLM’ler ve onlar\u0131 cihaz\u0131n\u0131za ta\u015f\u0131man\u0131za yard\u0131mc\u0131 olacak temel ara\u00e7lar hakk\u0131nda bilgi edineceksiniz.<\/p>\n
Mobil Uyumlu LLM Modelleri Nelerdir ve Nas\u0131l Farkl\u0131la\u015f\u0131rlar?<\/h3>\n
Geleneksel LLM’ler gigabaytlarca hatta terabaytlarca b\u00fcy\u00fckl\u00fc\u011fe ula\u015fabilirken, bir telefonun s\u0131n\u0131rl\u0131 depolama, RAM ve i\u015flem g\u00fcc\u00fc g\u00f6z \u00f6n\u00fcne al\u0131nd\u0131\u011f\u0131nda bu t\u00fcr modelleri do\u011frudan \u00e7al\u0131\u015ft\u0131rmak imkans\u0131zd\u0131r. Bu nedenle, mobil cihazlar i\u00e7in \u00f6zel olarak tasarlanm\u0131\u015f veya optimize edilmi\u015f modellere ihtiya\u00e7 duyar\u0131z. Son y\u0131llarda, a\u00e7\u0131k kaynak toplulu\u011fu sayesinde LLaMA, Mistral, Gemma gibi modellerin daha k\u00fc\u00e7\u00fck ve optimize edilmi\u015f versiyonlar\u0131 ortaya \u00e7\u0131km\u0131\u015ft\u0131r. Bu modeller, orijinal modellerin performans\u0131n\u0131n \u00e7o\u011funu korurken, boyutlar\u0131n\u0131 ve hesaplama gereksinimlerini \u00f6nemli \u00f6l\u00e7\u00fcde azalt\u0131rlar. \u00d6zellikle, 7 milyar parametre (7B) ve 3 milyar parametre (3B) aral\u0131\u011f\u0131ndaki modeller, g\u00fcn\u00fcm\u00fcz amiral gemisi telefonlar\u0131nda tatmin edici performans g\u00f6sterebilir.<\/p>\n
\n Uzman \u0130pucu: Nicemleme (Quantization) Teknolojisi<\/strong><\/p>\n
Mobil LLM’lerin en \u00f6nemli optimizasyon tekniklerinden biri “nicemleme”dir (quantization). Bu teknik, modelin a\u011f\u0131rl\u0131klar\u0131n\u0131 daha az bit kullanarak temsil etmeyi i\u00e7erir (\u00f6rn. 16-bit float’tan 8-bit, 4-bit veya hatta 2-bit integer’a). Bu, model boyutunu k\u00fc\u00e7\u00fclt\u00fcr ve hesaplamalar\u0131 h\u0131zland\u0131r\u0131r, ancak bazen modelin hassasiyetinde hafif bir kayba neden olabilir. GGUF format\u0131, nicemleme se\u00e7eneklerini kolayca y\u00f6netmek i\u00e7in geli\u015ftirilmi\u015f pop\u00fcler bir y\u00f6ntemdir.<\/p>\n<\/p><\/div>\n
GGUF Format\u0131: Mobil LLM’lerin Temel Ta\u015f\u0131<\/h3>\n
GGUF (GPT-Generated Unified Format), \u00f6zellikle llama.cpp<\/a> projesi i\u00e7in geli\u015ftirilmi\u015f, B\u00fcy\u00fck Dil Modellerini depolamak i\u00e7in optimize edilmi\u015f bir dosya format\u0131d\u0131r. Bu format, farkl\u0131 donan\u0131m konfig\u00fcrasyonlar\u0131nda kolayca y\u00fcklenebilen ve \u00e7al\u0131\u015ft\u0131r\u0131labilen, nicemlenmi\u015f modelleri bar\u0131nd\u0131rmak i\u00e7in idealdir. Hugging Face gibi platformlarda, pop\u00fcler LLM’lerin GGUF format\u0131ndaki nicemlenmi\u015f versiyonlar\u0131n\u0131 bulabilirsiniz. \u00d6rne\u011fin, `llama-2-7b-chat.Q4_K_M.gguf<\/code> gibi bir dosya ad\u0131, Llama 2 modelinin 7 milyar parametreli sohbet versiyonunun 4-bit nicemleme ile optimize edilmi\u015f bir varyant\u0131 oldu\u011funu g\u00f6sterir. Bu format, modelin sadece a\u011f\u0131rl\u0131klar\u0131n\u0131 de\u011fil, ayn\u0131 zamanda tokenle\u015ftirici ve di\u011fer meta verileri de i\u00e7erir, b\u00f6ylece modelin tek bir dosya olarak kolayca da\u011f\u0131t\u0131lmas\u0131n\u0131 sa\u011flar.<\/p>\n`
`Mobil Cihazlarda LLM \u00c7al\u0131\u015ft\u0131rmak \u0130\u00e7in Hangi Ara\u00e7lar Mevcut?<\/h3>\nModelleri mobil cihazlara ta\u015f\u0131y\u0131p \u00e7al\u0131\u015ft\u0131rmak i\u00e7in \u00e7e\u015fitli \u00e7er\u00e7eveler ve k\u00fct\u00fcphaneler mevcuttur:<\/p>\n`\nllama.cpp:<\/strong> C++ ile yaz\u0131lm\u0131\u015f, LLM’leri CPU \u00fczerinde verimli bir \u015fekilde \u00e7al\u0131\u015ft\u0131rmak i\u00e7in optimize edilmi\u015f g\u00fc\u00e7l\u00fc bir k\u00fct\u00fcphanedir. GGUF format\u0131n\u0131 destekler ve bir\u00e7ok mobil uygulama i\u00e7in temel olu\u015fturur. Hem iOS hem de Android \u00fczerinde \u00e7al\u0131\u015fan uygulamalar bu k\u00fct\u00fcphaneyi entegre ederek \u00e7evrimd\u0131\u015f\u0131 LLM deneyimi sunar.<\/li>\n MLC-LLM (Machine Learning Compilation for LLMs):<\/strong> LLM’leri do\u011frudan \u00e7e\u015fitli donan\u0131m platformlar\u0131nda (telefonlar dahil) verimli bir \u015fekilde da\u011f\u0131tmak i\u00e7in tasarlanm\u0131\u015f bir \u00e7er\u00e7evedir. TVM gibi derleyici teknolojilerini kullanarak modelleri optimize eder ve farkl\u0131 mobil i\u015flemcilerde (CPU, GPU, NPU) y\u00fcksek performans sunar.<\/li>\n MLX (Apple):<\/strong> Apple taraf\u0131ndan geli\u015ftirilen ve \u00f6zellikle Apple silikon i\u015flemcili cihazlar (iPhone’lar, iPad’ler, Mac’ler) i\u00e7in optimize edilmi\u015f bir makine \u00f6\u011frenimi \u00e7er\u00e7evesidir. Python tabanl\u0131d\u0131r ve modelleri do\u011frudan Apple’\u0131n Metal donan\u0131m h\u0131zland\u0131rma katman\u0131nda \u00e7al\u0131\u015ft\u0131rabilir. Bu, iOS ekosistemindeki kullan\u0131c\u0131lar i\u00e7in olduk\u00e7a g\u00fc\u00e7l\u00fc bir se\u00e7enektir.<\/li>\n TensorFlow Lite (TFLite) ve ONNX Runtime:<\/strong> Bu, genel makine \u00f6\u011frenimi model da\u011f\u0131t\u0131m\u0131 i\u00e7in kullan\u0131lan daha genel \u00e7er\u00e7evelerdir. LLM’ler gibi daha karma\u015f\u0131k modelleri do\u011frudan desteklemek i\u00e7in ek optimizasyonlara ihtiya\u00e7 duysalar da, baz\u0131 k\u00fc\u00e7\u00fck dil modellerini mobil cihazlara entegre etmek i\u00e7in kullan\u0131labilirler.<\/li>\nWeb LLM:<\/strong> Taray\u0131c\u0131 tabanl\u0131 LLM \u00e7al\u0131\u015ft\u0131rma teknolojisi olup, WebAssembly ve WebGPU kullanarak modelleri do\u011frudan web taray\u0131c\u0131s\u0131nda \u00e7al\u0131\u015ft\u0131r\u0131r. Her ne kadar “\u00e7evrimd\u0131\u015f\u0131” tam anlam\u0131yla olmasa da, bir kez indirildikten sonra internet ba\u011flant\u0131s\u0131 olmadan da \u00e7al\u0131\u015fabilir ve mobil taray\u0131c\u0131lar arac\u0131l\u0131\u011f\u0131yla eri\u015filebilir.<\/li>\n<\/ul>\nBu ara\u00e7lar sayesinde, bir zamanlar sadece bulut sunucular\u0131nda m\u00fcmk\u00fcn olan yapay zeka yetenekleri art\u0131k cebinizde, avucunuzun i\u00e7inde. \u00d6zellikle llama.cpp ve MLC-LLM, mobil platformlarda LLM \u00e7al\u0131\u015ft\u0131rma konusunda \u00f6nc\u00fcl\u00fck eden ve s\u00fcrekli geli\u015fen \u00e7\u00f6z\u00fcmler sunmaktad\u0131r.<\/p>\n<\/div>\n\nTelefonunuzda \u00c7evrimd\u0131\u015f\u0131 Bir LLM Nas\u0131l Kurulur ve \u00c7al\u0131\u015ft\u0131r\u0131l\u0131r? (Ad\u0131m Ad\u0131m Rehber)<\/h2>\nArt\u0131k neden \u00e7evrimd\u0131\u015f\u0131 LLM’lere ihtiyac\u0131m\u0131z oldu\u011funu ve hangi modellerle ara\u00e7lar\u0131n uygun oldu\u011funu biliyorsunuz. \u015eimdi s\u0131ra geldi en heyecan verici k\u0131sma: Kendi telefonunuzda bir LLM’i nas\u0131l kuraca\u011f\u0131n\u0131z\u0131 ve \u00e7al\u0131\u015ft\u0131raca\u011f\u0131n\u0131z\u0131 \u00f6\u011frenmeye. Bu b\u00f6l\u00fcmde, s\u00fcreci ad\u0131m ad\u0131m a\u00e7\u0131klayaca\u011f\u0131z ve size pratik \u00f6rnekler sunarak bu teknolojiyi deneyimlemenizi sa\u011flayaca\u011f\u0131z.<\/p>\nAd\u0131m 1: Uygun Bir Mobil LLM Uygulamas\u0131 Se\u00e7imi<\/h3>\nBir geli\u015ftirici de\u011filseniz veya komut sat\u0131r\u0131 aray\u00fczleri ile u\u011fra\u015fmak istemiyorsan\u0131z, piyasada haz\u0131r mobil uygulamalar mevcuttur. Bu uygulamalar, genellikle llama.cpp veya MLC-LLM gibi k\u00fct\u00fcphaneleri temel al\u0131r ve model y\u00fckleme ile etkile\u015fimi kullan\u0131c\u0131 dostu bir aray\u00fcze ta\u015f\u0131r.<\/p>\n Pop\u00fcler Uygulama \u00d6rnekleri:<\/strong><\/p>\n\niOS i\u00e7in:<\/strong> LlamaChat, LocalGPT (App Store’da aray\u0131n), MLX Playground (Apple Geli\u015ftiricileri i\u00e7in).<\/li>\nAndroid i\u00e7in:<\/strong> Termux (komut sat\u0131r\u0131 sevenler i\u00e7in), veya do\u011frudan entegre LLM sunan \u00f6zel uygulamalar (Google Play Store’da “Offline LLM”, “Local AI Chat” gibi anahtar kelimelerle arama yapabilirsiniz).<\/li>\n<\/ul>\nBu rehberde, genel bir yakla\u015f\u0131m sunaca\u011f\u0131z, ancak se\u00e7ece\u011finiz uygulaman\u0131n aray\u00fcz\u00fc farkl\u0131l\u0131k g\u00f6sterebilir. Temel mant\u0131k genellikle benzerdir.<\/p>\nAd\u0131m 2: LLM Modelini \u0130ndirme ve Y\u00fckleme<\/h3>\nSe\u00e7ti\u011finiz uygulama genellikle size do\u011frudan uygulama i\u00e7inden model indirme se\u00e7ene\u011fi sunar veya Hugging Face gibi platformlardan manuel olarak indirdi\u011finiz bir GGUF dosyas\u0131n\u0131 cihaz\u0131n\u0131za y\u00fcklemenizi ister.<\/p>\n\nModel Se\u00e7imi:<\/strong> Hugging Face’e gidin ve “GGUF” filtresini kullanarak mobil cihazlar i\u00e7in optimize edilmi\u015f modelleri aray\u0131n. \u00d6rne\u011fin, Mistral-7B-Instruct-v0.2-GGUF<\/a> gibi pop\u00fcler ve verimli bir modeli tercih edebilirsiniz. Genellikle Q4_K_M<\/code> veya Q5_K_M<\/code> gibi nicemleme seviyeleri mobil cihazlar i\u00e7in iyi bir denge sunar.<\/li>\n Modeli \u0130ndirme:<\/strong> Se\u00e7ti\u011finiz GGUF dosyas\u0131n\u0131 telefonunuzun dahili depolama alan\u0131na indirin (\u00f6rn. “\u0130ndirilenler” klas\u00f6r\u00fc). Dosya boyutlar\u0131 2 GB ile 8 GB aras\u0131nda de\u011fi\u015febilir, bu nedenle yeterli depolama alan\u0131n\u0131z oldu\u011fundan emin olun.<\/li>\n Uygulamaya Y\u00fckleme:<\/strong>\n\nUygulamay\u0131 a\u00e7\u0131n.<\/li>\n Genellikle “Modelleri Y\u00fckle”, “Model Ekle” veya “Ayarlar” b\u00f6l\u00fcm\u00fcnde bir model se\u00e7me veya dosya yolu belirtme se\u00e7ene\u011fi bulunur.<\/li>\n \u0130ndirdi\u011finiz GGUF dosyas\u0131n\u0131 bu se\u00e7enek arac\u0131l\u0131\u011f\u0131yla g\u00f6sterin. Uygulama modeli otomatik olarak y\u00fcklemeye ba\u015flayacakt\u0131r. Bu i\u015flem, modelin boyutuna ve telefonunuzun performans\u0131na ba\u011fl\u0131 olarak birka\u00e7 dakika s\u00fcrebilir.<\/li>\n<\/ul>\n<\/li>\n<\/ol>\n\u00d6rnek Python (Termux \u00fczerinde) veya JavaScript (Web LLM i\u00e7in) Konsept Kodu:<\/strong><\/p>\n E\u011fer Termux gibi bir ortamda komut sat\u0131r\u0131 arac\u0131l\u0131\u011f\u0131yla llama.cpp kullan\u0131yorsan\u0131z veya bir web tabanl\u0131 LLM entegrasyonu \u00fczerinde \u00e7al\u0131\u015f\u0131yorsan\u0131z, modelle etkile\u015fim \u015fu \u015fekilde g\u00f6r\u00fcnebilir:<\/p>\n \n# Bu kod sadece konsepti g\u00f6stermektedir ve llama.cpp k\u00fct\u00fcphanesinin Python ba\u011flay\u0131c\u0131s\u0131 kullan\u0131lm\u0131\u015ft\u0131r.\n# Ger\u00e7ek bir mobil uygulama entegrasyonu farkl\u0131 bir API'ye sahip olabilir.\n\ntry:\n from llama_cpp import Llama\n import os\n\n # Model dosyas\u0131n\u0131n telefonunuzdaki yolu\n # Android'de Termux kullan\u0131yorsan\u0131z: \/data\/data\/com.termux\/files\/home\/models\/\n # Genel olarak SD kartta ise: \/sdcard\/Download\/\n model_path = os.path.join(os.getcwd(), \"models\", \"mistral-7b-instruct-v0.2.Q4_K_M.gguf\")\n\n # Modeli y\u00fckle\n # n_gpu_layers=0 CPU \u00fczerinde \u00e7al\u0131\u015fmay\u0131 garanti eder.\n # Destekleyen cihazlarda n_gpu_layers > 0 yap\u0131larak GPU kullan\u0131labilir.\n llm = Llama(model_path=model_path, n_ctx=2048, n_gpu_layers=0, verbose=False)\n\n print(\"LLM ba\u015far\u0131yla y\u00fcklendi. Sohbet etmeye ba\u015flay\u0131n!\")\n\n while True:\n user_input = input(\"\\nSiz: \")\n if user_input.lower() in [\"\u00e7\u0131k\u0131\u015f\", \"exit\", \"quit\"]:\n break\n\n prompt = f\"# Kullan\u0131c\u0131:\\n{user_input}\\n### Asistan:\"<\/strong>\n \n # Modeli \u00e7al\u0131\u015ft\u0131rma ve yan\u0131t \u00fcretme\n output = llm(\n prompt,\n max_tokens=256, # \u00dcretilecek maksimum token say\u0131s\u0131\n stop=[\"# Kullan\u0131c\u0131:\", \"### Asistan:\", \"\\n\"], # Durma ko\u015fullar\u0131<\/strong>\n echo=False # Prompt'u yan\u0131ta dahil etme\n )\n \n # Yan\u0131t\u0131 ekrana basma\n generated_text = output[\"choices\"][0][\"text\"].strip()\n print(f\"LLM: {generated_text}\")\n\nexcept ImportError:\n print(\"llama_cpp k\u00fct\u00fcphanesi y\u00fckl\u00fc de\u011fil. 'pip install llama-cpp-python' ile y\u00fckleyin.\")\nexcept FileNotFoundError:\n print(f\"Model dosyas\u0131 bulunamad\u0131: {model_path}. L\u00fctfen do\u011fru yolu belirtin ve dosyan\u0131n var oldu\u011fundan emin olun.\")\nexcept Exception as e:\n print(f\"Bir hata olu\u015ftu: {e}\")\n\n<\/pre>\n<\/code><\/p>\n Yukar\u0131daki Python kodu, Termux (Android) ortam\u0131nda veya bir bilgisayarda llama-cpp-python<\/code> k\u00fct\u00fcphanesi ile nas\u0131l etkile\u015fim kurulabilece\u011fini g\u00f6stermektedir. Mobil uygulamalar bu karma\u015f\u0131kl\u0131\u011f\u0131 soyutlayarak daha basit bir aray\u00fcz sunar.<\/p>\n Ad\u0131m 3: Uygulama Ayarlar\u0131 ve \u0130lk \u00c7al\u0131\u015ft\u0131rma<\/h3>\nModel y\u00fcklendikten sonra, uygulaman\u0131n sohbet ekran\u0131na y\u00f6nlendirileceksiniz. \u0130lk kullan\u0131mdan \u00f6nce baz\u0131 ayarlar\u0131 kontrol etmek faydal\u0131 olabilir:<\/p>\n \nRAM Kullan\u0131m\u0131:<\/strong> Baz\u0131 uygulamalar, modelin ne kadar RAM kullanaca\u011f\u0131n\u0131 ayarlaman\u0131za izin verir. Telefonunuzun toplam RAM'inin en az yar\u0131s\u0131n\u0131, hatta daha fazlas\u0131n\u0131 modele ay\u0131rman\u0131z gerekebilir. 7B bir model i\u00e7in genellikle 4-8 GB RAM gereklidir.<\/li>\n GPU\/NPU Kullan\u0131m\u0131:<\/strong> Telefonunuz g\u00fc\u00e7l\u00fc bir GPU veya NPU'ya (Neural Processing Unit) sahipse, uygulama genellikle bunlar\u0131 otomatik olarak kullanmaya \u00e7al\u0131\u015facakt\u0131r. Performans\u0131 art\u0131rmak i\u00e7in bu se\u00e7eneklerin a\u00e7\u0131k oldu\u011fundan emin olun.<\/li>\n Token Uzunlu\u011fu (Context Window):<\/strong> Modelin ayn\u0131 anda ne kadar metni hat\u0131rlayabilece\u011fini belirler. Genellikle 2048 veya 4096 token olarak ayarlan\u0131r. Daha uzun metinler i\u00e7in bunu art\u0131rabilirsiniz ancak daha fazla RAM ve i\u015flem g\u00fcc\u00fc gerektirir.<\/li>\n<\/ul>\nAyarlar\u0131 yapt\u0131ktan sonra, sohbet kutusuna ilk sorunuzu yazabilir ve \"G\u00f6nder\" d\u00fc\u011fmesine basabilirsiniz. Birka\u00e7 saniye i\u00e7inde, LLM'in \u00e7evrimd\u0131\u015f\u0131 olarak yan\u0131t verdi\u011fini g\u00f6receksiniz. Bu an, telefonunuzda yerel yapay zekan\u0131n g\u00fcc\u00fcn\u00fc deneyimledi\u011finiz and\u0131r!<\/p>\n \nVaka Analizi: \u00d6\u011frenci \u0130\u00e7in Ders Notu \u00d6zetleme<\/h4>\n\u00dcniversite \u00f6\u011frencisi Ay\u015fe, bir toplu ta\u015f\u0131ma arac\u0131nda seyahat ederken veya kamp\u00fcs\u00fcn Wi-Fi eri\u015fimi olmayan bir k\u00f6\u015fesinde ders \u00e7al\u0131\u015f\u0131rken s\u0131k\u00e7a internet sorunu ya\u015f\u0131yor. Yakla\u015fan s\u0131navlar\u0131 i\u00e7in uzun ders notlar\u0131n\u0131 h\u0131zl\u0131ca \u00f6zetlemesi gerekiyor. Telefonuna kurdu\u011fu \u00e7evrimd\u0131\u015f\u0131 LLM uygulamas\u0131 sayesinde, ders notlar\u0131n\u0131n belirli b\u00f6l\u00fcmlerini uygulamaya yap\u0131\u015ft\u0131r\u0131yor ve \"Yukar\u0131daki metni ana fikirlerini koruyarak 150 kelimeyle \u00f6zetle\" komutunu veriyor. \u0130nternet ba\u011flant\u0131s\u0131na ihtiya\u00e7 duymadan, saniyeler i\u00e7inde \u00f6zetlenmi\u015f metni al\u0131yor. Bu, Ay\u015fe'nin zaman\u0131n\u0131 verimli kullanmas\u0131na ve herhangi bir ortamda ders \u00e7al\u0131\u015fmas\u0131na olanak tan\u0131yor.<\/p>\n<\/p><\/div>\n Mobil uyumlulu\u011fu sa\u011flamak i\u00e7in HTML i\u00e7inde medya sorgular\u0131 (media queries) kullanmak, i\u00e7eri\u011fin farkl\u0131 ekran boyutlar\u0131na adaptasyonunu sa\u011flar. \u0130\u015fte basit bir \u00f6rnek:<\/p>\n \n