Beyond MCP: Elemm ile 845 Aracı %92 Daha Az Bağlam Şişkinliğiyle Yönetmek

Beyond MCP: Elemm ile 845 Aracı %92 Daha Az Bağlam Şişkinliğiyle Yönetmek

Büyük dil modelleri (LLM) ile uygulama geliştirirken karşılaşılan en büyük engellerden biri, modelin aynı anda kaç farklı aracı (tool) hatasız yönetebileceğidir. Geleneksel yöntemlerde ve hatta modern MCP (Model Context Protocol) yaklaşımlarında, yüzlerce aracı modele tanıtmak “bağlam şişkinliği” (context bloat) adı verilen bir soruna yol açar. Bu durum, hem maliyetleri artırır hem de modelin doğru aracı seçme becerisini zayıflatır. Elemm mimarisi, tam da bu noktada devreye girerek 845 gibi devasa sayıdaki araç setlerini bile %92 daha az bağlam kullanarak yönetmemize olanak tanıyor. Bu makalede, bu yeni nesil optimizasyon tekniğinin detaylarını, teknik altyapısını ve gerçek dünya uygulamalarını derinlemesine inceleyeceğiz.

Yapay Zeka Dünyasında Bağlam Şişkinliği (Context Bloat) Sorunu Nedir?

Bağlam şişkinliği, bir yapay zeka modeline gönderilen istemin (prompt) içine çok fazla gereksiz bilginin doldurulması durumudur. Özellikle “Agentic Workflows” (Ajan tabanlı iş akışları) söz konusu olduğunda, modelin kullanabileceği her bir fonksiyonun, API uç noktasının veya veritabanı sorgusunun tanımı bu bağlamın bir parçası haline gelir. Her bir araç tanımı, modelin “token” (belirteç) limitinden yer çalar. Eğer sisteminizde 845 adet araç varsa ve her bir araç tanımı ortalama 200 token kaplıyorsa, sadece araçları tanıtmak için 170.000’den fazla token harcamanız gerekir. Bu durum, modelin asıl göreve odaklanmasını zorlaştırırken, her bir istek için ödediğiniz faturayı da katlar.

Bağlam şişkinliğinin tek zararı maliyet değildir. Modellerin “Attention” (dikkat) mekanizması, bağlam penceresi doldukça zayıflar. “Needle in a Haystack” (Samanlıkta iğne arama) testlerinde görüldüğü üzere, model çok fazla veri arasında boğulduğunda, en basit komutları bile yanlış anlayabilir veya yanlış aracı çağırabilir. Dolayısıyla, geliştiriciler için temel hedef, modele sadece o an ihtiyaç duyduğu araçları sunmaktır. Elemm, bu seçiciliği statik değil, dinamik ve anlamsal bir yaklaşımla çözerek verimliliği maksimize eder.

Bu sorunu daha iyi anlamak için bir örnek verelim. Bir müşteri hizmetleri botu düşünün. Bu botun iade işlemleri, kargo takibi, ürün tavsiyesi, teknik destek ve faturalandırma gibi yüzlerce farklı alt görevi olabilir. Eğer her kullanıcı “Merhaba” dediğinde botun önüne tüm bu 845 aracın manuelini koyarsanız, bot daha ilk cümlede yorulacaktır. Bunun yerine, kullanıcının niyetini anlayıp sadece ilgili 3-5 aracı önüne getirmek, performansı katlayacaktır. İşte Elemm mimarisi, bu “akıllı filtreleme” sürecini otomatize eder.

MCP (Model Context Protocol) Neden Her Zaman Yeterli Değildir?

Anthropic tarafından duyurulan Model Context Protocol (MCP), araçların ve veri kaynaklarının LLM’lere bağlanması için harika bir standart sunar. Ancak MCP, kendi başına bir “akıllı seçim” katmanı değildir. MCP daha çok bir “iletişim tüneli” görevi görür. Siz bu tünelden 1000 tane araç gönderirseniz, MCP bunları sadakatle modele iletir. Sorun şu ki, model bu 1000 aracı aynı anda işleyebilecek bilişsel kapasiteye (veya ekonomik mantığa) sahip olmayabilir.

MCP kullanan sistemlerde genellikle “statik araç tanımlama” yöntemi izlenir. Bu yöntemde, uygulama başlatıldığında tüm araç listesi modelin sistem mesajına eklenir. Küçük ölçekli projelerde bu yaklaşım sorun yaratmaz. Ancak kurumsal seviyede, binlerce mikro servisin olduğu bir yapıda, statik tanımlama imkansız hale gelir. Model, hangi aracın hangi parametreyi aldığını karıştırmaya başlar. Bu olguya literatürde “Tool Competition” (Araç Rekabeti) denir. Benzer isimli iki araç (örneğin get_user_data ve fetch_customer_info) modelin kafasını karıştırarak yanlış veri döndürmesine sebep olur.

Ayrıca, MCP üzerinden gönderilen devasa veri paketleri, ağ gecikmesine (latency) neden olur. Her bir API çağrısında yüzlerce kilobaytlık araç şeması göndermek, yanıt süresini saniyelerce uzatabilir. Kullanıcı deneyimi açısından bu kabul edilemez bir durumdur. Elemm, MCP’nin sunduğu standartları reddetmez; aksine, MCP’nin üzerine bir “Semantic Router” (Anlamsal Yönlendirici) katmanı ekleyerek sadece gerekli bilgilerin tünelden geçmesini sağlar. Bu sayede MCP’nin güvenliği ve standardizasyonu ile Elemm’in verimliliği birleşmiş olur.

Elemm Mimarisi: 845 Aracı Akıllıca Yönetmenin Sırrı Nedir?

Elemm, ismini “Efficient LLM Management” (Verimli LLM Yönetimi) kavramından alır. Bu mimarinin temel felsefesi “Just-In-Time Tool Injection” (Tam zamanında araç enjeksiyonu) ilkesine dayanır. Sistem, 845 aracın tamamını modelin bağlamına sokmak yerine, bu araçları bir vektör veritabanında (Vector Database) indeksler. Kullanıcıdan bir girdi geldiğinde, Elemm önce bu girdiyi analiz eder ve anlamsal olarak en yakın araçları seçer.

Bu süreç üç ana aşamadan oluşur:

• Embedding (Gömme) Aşaması: Tüm araçların açıklamaları ve kullanım amaçları, yüksek boyutlu vektörlere dönüştürülür.
• Retrieval (Geri Çağırma) Aşaması: Kullanıcının istemi ile araç vektörleri arasında kosinüs benzerliği (cosine similarity) hesaplanır.
• Ranker (Sıralayıcı) Aşaması: Seçilen aday araçlar, mevcut konuşma geçmişine göre yeniden sıralanır ve en iyi 5-10 araç modele sunulur.

Bu yöntem sayesinde, modelin bağlam penceresine 845 araç yerine sadece 5 araç girer. Matematiksel olarak baktığımızda, araç başına 200 token üzerinden hesaplarsak; 169.000 token yerine sadece 1.000 token kullanılmış olur. Bu da yaklaşık %99’luk bir ham tasarruf demektir. Elemm, bu sürece ek olarak “Meta-Description” (Meta-Açıklama) sıkıştırma tekniklerini de ekleyerek, seçilen araçların bile en kompakt hallerini modele iletir. Sonuç olarak, toplam bağlam şişkinliğinde %92’lik bir azalma stabilize edilir.

Elemm’in bir diğer gücü ise hiyerarşik araç gruplandırmasıdır. Araçlar “Domain” (Alan) bazlı kümelere ayrılır. Örneğin, finansla ilgili bir istek geldiğinde sistem sadece “Finance-Cluster” içindeki araçlara odaklanır. Bu, hem arama hızını artırır hem de yanlış pozitif (false positive) araç eşleşmelerini minimize eder. Geliştiriciler için bu, devasa sistemleri yönetilebilir parçalara bölmek anlamına gelir.

Bağlam Tasarrufu Nasıl Sağlanır? (Teknik Uygulama Rehberi)

Elemm mimarisini kendi projelerinize entegre etmek için karmaşık bir altyapıya ihtiyacınız yok. Temel olarak bir vektör arama motoru ve akıllı bir yönlendirici (router) mantığı kurmanız yeterlidir. Aşağıdaki adımlar, 845 araçlık bir kütüphaneyi nasıl optimize edebileceğinizi göstermektedir.

Ä°lk adım olarak, araçlarınızı JSON formatında tanımlayın ancak bu tanımları doğrudan modele göndermeyin. Bunun yerine, her aracın ne işe yaradığını anlatan kısa ve öz “docstring” yapıları oluşturun. Bu yapılar, vektör veritabanınızın temelini oluşturacaktır. Ardından, bir embedding modeli (örneğin OpenAI text-embedding-3-small) kullanarak bu açıklamaları vektörize edin.

// Araç Tanım Örneği
const tools = [
  {
    id: "get_stock_price",
    description: "Belirli bir hisse senedinin güncel fiyatını getirir.",
    parameters: { symbol: "string" }
  },
  // ... 844 diğer araç
];

// Elemm Router Mantığı (Sanal Kod)
async function getRelevantTools(userPrompt) {
  const queryVector = await generateEmbedding(userPrompt);
  const hits = await vectorDb.search(queryVector, { limit: 5 });
  return hits.map(hit => hit.toolDefinition);
}

Ä°kinci adımda, kullanıcının her mesajında bu getRelevantTools fonksiyonunu çalıştırın. Fonksiyonun döndürdüğü 5 aracı, LLM'e gönderdiğiniz mesajın tools dizisine ekleyin. Model, sanki dünyada sadece o 5 araç varmış gibi davranacak ve hata payı düşecektir. Eğer model, elindeki araçların yetersiz olduğunu anlarsa (bu durum "Self-Correction" mekanizmasıyla tetiklenebilir), Elemm ikinci bir genişletilmiş arama yaparak bağlama yeni araçlar ekleyebilir.

Üçüncü adım, "Context Pruning" (Bağlam Budama) işlemidir. Konuşma ilerledikçe, daha önce kullanılan ama artık ihtiyaç duyulmayan araç tanımlarını bağlamdan temizleyin. Elemm, her dönüşte (turn) bağlamı yeniden değerlendirir. Eğer kullanıcı kargo takibinden çıkıp fatura sorma aşamasına geçtiyse, kargo araçları bağlamdan atılır ve yerine fatura araçları getirilir. Bu dinamik yönetim, uzun süreli sohbetlerde token birikmesini (token accumulation) engeller.

Verimlilik Analizi: %92’lik Bir İyileşme Gerçekten Mümkün mü?

Pek çok geliştirici, %92 gibi bir rakamı duyduğunda bunun bir pazarlama stratejisi olduğunu düşünebilir. Ancak rakamlar, token ekonomisinin doğasından kaynaklanır. Geleneksel bir RAG (Retrieval-Augmented Generation) sisteminde bile veri tabanındaki milyonlarca dökümanı modele göndermiyoruz; sadece en alakalı 3-5 parçayı gönderiyoruz. Elemm, aynı mantığı "Tool-Calling" (Araç Çağırma) süreçlerine uygular.

Bir performans tablosu üzerinden karşılaştırma yapalım:

Tablodaki veriler, Elemm mimarisinin sadece token tasarrufu sağlamadığını, aynı zamanda doğruluk oranını da artırdığını gösteriyor. Modelin önündeki seçenek sayısı azaldığında, "karar verme felci" (analysis paralysis) ortadan kalkar. Özellikle karmaşık parametre yapısına sahip araçlarda, modelin parametreleri karıştırma ihtimali minimize edilir. Bu durum, kurumsal uygulamalarda hata payının düşmesi anlamına gelir ki bu çoğu zaman maliyet tasarrufundan daha değerlidir.

Buna ek olarak, Elemm'in "Cold Start" (Soğuk Başlatma) süresi de oldukça düşüktür. Vektör indeksleme işlemi bir kez yapıldıktan sonra, arama işlemleri milisaniyeler mertebesinde gerçekleşir. Modern vektör veritabanları (Pinecone, Weaviate veya yerel bir FAISS indeksi), 845 araçlık bir listeyi tararken fark edilebilir bir gecikme yaratmaz. Dolayısıyla, kullanıcı tarafında hissedilen tek şey, çok daha hızlı ve isabetli cevaplar alan bir yapay zekadır.

Vaka Analizi: Büyük Ölçekli Bir Finansal Sistemde Araç Yönetimi

Gerçek bir senaryoyu ele alalım. Türkiye'nin önde gelen bir bankasının, müşterilerine hizmet veren bir AI asistanı geliştirdiğini düşünelim. Bu asistanın erişebileceği tam 845 farklı bankacılık fonksiyonu (tool) bulunuyor: Kredi hesaplama, EFT/Havale, döviz kurları, yatırım fonu analizi, kredi kartı limit işlemleri, şüpheli işlem bildirimi ve daha fazlası. Her bir fonksiyonun kendine has güvenlik protokolleri ve parametreleri var.

Banka ilk aşamada standart bir MCP yapısı kullandı. Ancak, bir müşteri "Dolar ne kadar?" diye sorduğunda, model tüm 845 araç tanımını okumaya çalışıyordu. Bu sadece yavaşlığa değil, aynı zamanda modelin bazen "Döviz Kuru" aracı yerine "Kredi Risk Analizi" aracını tetiklemesine neden oluyordu. Çünkü bağlam penceresi o kadar doluydu ki, modelin dikkat mekanizması dağılıyordu. Ayrıca, her basit soru bankaya yaklaşık 0.50 dolarlık bir API maliyeti çıkarıyordu.

Elemm mimarisine geçiş yapıldıktan sonra süreç tamamen değişti. Artık müşteri "Dolar ne kadar?" dediğinde, Elemm'in anlamsal yönlendiricisi sadece döviz ve piyasa ile ilgili 4 aracı seçip modele sunuyor. Model, saniyeler içinde ve %99 doğrulukla doğru API'yi tetikliyor. Bağlam penceresi boş kaldığı için müşteriyle yapılan geçmiş konuşmalar daha uzun süre hafızada tutulabiliyor. Sonuç olarak banka, operasyonel maliyetlerini %90'ın üzerinde düşürürken, müşteri memnuniyet puanını (NPS) ciddi oranda artırdı.

Bu vaka analizi, Elemm'in sadece teknik bir "trick" (hile) olmadığını, iş süreçlerini doğrudan etkileyen stratejik bir mimari olduğunu kanıtlıyor. Özellikle regülasyonların sıkı olduğu ve hataya yer olmayan finans, sağlık ve hukuk gibi sektörlerde, modelin sadece ilgili araçlara odaklanması güvenlik açısından da büyük bir avantaj sağlar. Yetkisiz bir aracın (örneğin veri silme fonksiyonu) yanlışlıkla tetiklenme ihtimali, o araç bağlamda hiç yer almadığı için sıfıra iner.

Geliştiriciler İçin İleri Düzey İpuçları ve En İyi Uygulamalar

Elemm mimarisini uygularken dikkat edilmesi gereken bazı ince detaylar vardır. Bunlardan ilki, "Tool Metadata" (Araç Meta Verisi) kalitesidir. Vektör aramanın başarılı olması için araç açıklamalarınızın çok net olması gerekir. "Veri getirir" gibi muğlak bir açıklama yerine, "Kullanıcının son 3 aylık harcama dökümünü PDF formatında listeler" gibi spesifik açıklamalar kullanmalısınız. Unutmayın, Elemm'in kalbi bu açıklamalardır.

Bir diğer önemli nokta ise "Hybrid Search" (Hibrit Arama) kullanımıdır. Sadece anlamsal benzerlik (semantic similarity) bazen yeterli olmayabilir. Araç isimlerine göre anahtar kelime araması (BM25) ile vektör aramasını birleştirmek, en doğru sonuçları verir. Örneğin kullanıcı "EFT yap" dediğinde, sistem hem "EFT" kelimesini içeren araçları hem de "para transferi" ile ilgili anlamsal olarak yakın araçları getirmelidir.

// Hibrit Arama Mantığı
const results = await hybridSearch({
  semanticQuery: userPrompt,
  keywordQuery: extractKeywords(userPrompt),
  alpha: 0.7 // Vektör ağırlığı
});

Ayrıca, "Few-Shot Prompting" tekniğini Elemm ile birleştirebilirsiniz. Seçilen 5 aracın nasıl kullanılacağına dair birer örnek kullanımı (example call) dinamik olarak bağlama eklemek, modelin hata yapma ihtimalini neredeyse sıfıra indirir. Bu örnekler de araç tanımları gibi vektör veritabanında saklanabilir ve sadece ilgili araç seçildiğinde bağlama enjekte edilir.

Son olarak, sisteminizi sürekli izleyin (monitoring). Hangi araçların sıkça beraber kullanıldığını analiz ederek "Araç Paketleri" (Tool Bundles) oluşturabilirsiniz. Eğer bir kullanıcı "Hisse senedi al" diyorsa, muhtemelen "Bakiye kontrolü" ve "Portföy görüntüleme" araçlarına da ihtiyaç duyacaktır. Elemm, bu tür ilişkisel araçları bir paket halinde sunarak modelin iş akışını daha da akıcı hale getirebilir.

Sonuç ve Sıkça Sorulan Sorular

Elemm mimarisi, LLM uygulamalarında ölçeklenebilirlik sorununa kökten bir çözüm getiriyor. 845 araç gibi devasa setleri %92 daha az bağlamla yönetebilmek, sadece bir tasarruf yöntemi değil, aynı zamanda daha zeki, daha hızlı ve daha güvenilir yapay zeka sistemleri inşa etmenin anahtarıdır. MCP gibi standartlarla birleştiğinde, bu yaklaşım geleceğin "Agentic Web" (Ajan tabanlı web) dünyasının temel taşı olacaktır.

Sıkça Sorulan Sorular

• Elemm kullanmak yanıt süresini (latency) artırır mı?
  Hayır, aksine toplam süreyi azaltır. Vektör arama milisaniyeler sürerken, modelin binlerce gereksiz token'ı işlemesi saniyeler sürer. Elemm ile model çok daha küçük bir veri setini işlediği için yanıt hızı artar.
• Bu yöntem sadece Anthropic modelleriyle mi çalışır?
  Hayır. Elemm bir mimari yaklaşımdır. OpenAI (GPT-4), Google (Gemini), Meta (Llama) veya herhangi bir araç çağırma (tool-calling) yeteneği olan model ile kullanılabilir.
• Araç sayısı çok azsa (örneğin 10 adet) Elemm gerekli mi?
  10-20 araçlık setlerde Elemm'in getireceği tasarruf marjinal kalabilir. Ancak araç sayısı 50'yi geçtiği andan itibaren bağlam şişkinliği ve maliyet avantajları belirginleşmeye başlar.
• Vektör arama yanlış aracı seçerse ne olur?
  Bu riski minimize etmek için "Hybrid Search" ve "Self-Correction" mekanizmaları kullanılır. Ayrıca model, elindeki araçlar isteği karşılamıyorsa bunu belirtecek şekilde sistem mesajıyla eğitilir, bu durumda sistem daha geniş bir arama yapar.

#Teknoloji #YapayZeka #LLM #WebGeliştirme #YazılımMimarisi