B\u00fcy\u00fck Dil Modelleri (LLM’ler), do\u011fal dil i\u015fleme yetenekleriyle modern web uygulamalar\u0131na devrim niteli\u011finde \u00f6zellikler kat\u0131yor. Ancak, bu modellerin yan\u0131tlar\u0131 genellikle birka\u00e7 saniye s\u00fcrebilir ve bu durum, kullan\u0131c\u0131 deneyimi a\u00e7\u0131s\u0131ndan \u00f6nemli bir zorluk te\u015fkil eder. Geleneksel istek-yan\u0131t d\u00f6ng\u00fcs\u00fcnde, kullan\u0131c\u0131lar t\u00fcm yan\u0131t\u0131n gelmesini beklemek zorunda kal\u0131r. \u0130\u015fte tam bu noktada, LLM yan\u0131tlar\u0131n\u0131 ak\u0131\u015f (streaming) halinde sunmak devreye girer. Bu kapsaml\u0131 rehber, SSE (Server-Sent Events) ve WebSockets gibi teknolojileri kullanarak LLM yan\u0131tlar\u0131n\u0131 web uygulamalar\u0131n\u0131zda ger\u00e7ek zamanl\u0131 ve etkile\u015fimli bir \u015fekilde nas\u0131l g\u00f6sterece\u011finizi ad\u0131m ad\u0131m a\u00e7\u0131klayacakt\u0131r.<\/p>\n
Modern web uygulamalar\u0131nda kullan\u0131c\u0131 beklentileri olduk\u00e7a y\u00fcksektir. An\u0131nda geri bildirim ve ak\u0131c\u0131 deneyimler, bir uygulaman\u0131n ba\u015far\u0131s\u0131 i\u00e7in kritik \u00f6neme sahiptir. LLM’lerin do\u011fas\u0131 gere\u011fi uzun s\u00fcrebilen yan\u0131t s\u00fcreleri, bu beklentilerle \u00e7eli\u015febilir. Ak\u0131\u015f halinde yan\u0131t sunumu, bu sorunu a\u015fman\u0131n en etkili yollar\u0131ndan biridir.<\/p>\n
Bir LLM’den yan\u0131t bekleyen kullan\u0131c\u0131lar i\u00e7in en k\u00f6t\u00fc senaryo, bo\u015f bir ekran veya d\u00f6nen bir y\u00fckleme simgesidir. Yan\u0131t\u0131n par\u00e7a par\u00e7a gelmesi, kullan\u0131c\u0131n\u0131n uygulaman\u0131n \u00e7al\u0131\u015ft\u0131\u011f\u0131n\u0131 ve ilerleme kaydetti\u011fini g\u00f6rmesini sa\u011flar. Bu, alg\u0131lanan performans\u0131 art\u0131r\u0131r ve bekleme s\u00fcresini daha katlan\u0131labilir hale getirir. Kullan\u0131c\u0131lar, yan\u0131t\u0131n ilk kelimelerini g\u00f6rmeye ba\u015flad\u0131klar\u0131nda, etkile\u015fimde kalmaya daha meyilli olurlar.<\/p>\n
Ak\u0131\u015f, sunucu taraf\u0131nda da kaynak verimlili\u011fi sa\u011flar. T\u00fcm yan\u0131t\u0131n bellekte olu\u015fturulup tek seferde g\u00f6nderilmesi yerine, yan\u0131t par\u00e7alar\u0131 olu\u015ftuk\u00e7a g\u00f6nderilir. Bu, \u00f6zellikle \u00e7ok say\u0131da e\u015fzamanl\u0131 iste\u011fin oldu\u011fu durumlarda sunucu \u00fczerindeki y\u00fck\u00fc azaltabilir ve bellek kullan\u0131m\u0131n\u0131 optimize edebilir.<\/p>\n
Ak\u0131\u015fl\u0131 yan\u0131tlar, sadece metin g\u00f6stermekle kalmaz, ayn\u0131 zamanda kullan\u0131c\u0131n\u0131n yan\u0131t\u0131n geli\u015fimine g\u00f6re yeni girdiler sa\u011flamas\u0131na veya farkl\u0131 etkile\u015fimlerde bulunmas\u0131na olanak tan\u0131r. \u00d6rne\u011fin, bir LLM’den kod par\u00e7ac\u0131klar\u0131 akarken, kullan\u0131c\u0131 bir sonraki ad\u0131m\u0131 veya d\u00fczeltmeyi an\u0131nda isteyebilir. Bu, daha dinamik ve interaktif sohbet botlar\u0131 veya yard\u0131mc\u0131lar olu\u015fturmak i\u00e7in zemin haz\u0131rlar.<\/p>\n
LLM’lerden yan\u0131t al\u0131rken ak\u0131\u015f kullanmadan \u00f6nce, geleneksel y\u00f6ntemlerin neden yetersiz kald\u0131\u011f\u0131n\u0131 anlamak \u00f6nemlidir.<\/p>\n
Geleneksel RESTful API yakla\u015f\u0131mlar\u0131nda, bir istemci sunucuya istek g\u00f6nderir ve sunucu, t\u00fcm i\u015fleme tamamlanana kadar yan\u0131t\u0131 tutar. LLM’ler s\u00f6z konusu oldu\u011funda, bu i\u015flem saniyeler s\u00fcrebilir. Sunucu, LLM’den gelen t\u00fcm metni ald\u0131ktan sonra, bu metni tek bir HTTP yan\u0131t\u0131 olarak istemciye g\u00f6nderir. Bu s\u00fcre zarf\u0131nda istemci taraf\u0131nda herhangi bir g\u00fcncelleme olmaz.<\/p>\n
Modern web kullan\u0131c\u0131lar\u0131 an\u0131nda geri bildirim bekler. Birka\u00e7 saniyelik bir gecikme bile uygulaman\u0131n dondu\u011fu veya \u00e7al\u0131\u015fmad\u0131\u011f\u0131 izlenimini yaratabilir. Ayr\u0131ca, uzun s\u00fcren istekler a\u011f veya sunucu zaman a\u015f\u0131m\u0131 (timeout) sorunlar\u0131na yol a\u00e7abilir. Bu durumlar, k\u00f6t\u00fc bir kullan\u0131c\u0131 deneyimine ve hatta uygulaman\u0131n kullan\u0131lamaz hale gelmesine neden olabilir.<\/p>\n
Server-Sent Events (SSE), tek y\u00f6nl\u00fc, sunucudan istemciye veri ak\u0131\u015f\u0131 i\u00e7in tasarlanm\u0131\u015f basit ama g\u00fc\u00e7l\u00fc bir teknolojidir. HTTP \u00fczerine kuruludur ve taray\u0131c\u0131lar taraf\u0131ndan do\u011fal olarak desteklenir.<\/p>\n
SSE, istemcinin sunucuya bir HTTP iste\u011fi g\u00f6ndermesiyle ba\u015flar. Ancak bu istek, normal bir HTTP yan\u0131t\u0131 yerine, sunucunun s\u00fcrekli olarak veri g\u00f6nderebilece\u011fi a\u00e7\u0131k bir ba\u011flant\u0131 kurar. Sunucu, Sunucu taraf\u0131nda SSE uygulamak olduk\u00e7a basittir. \u00c7o\u011fu modern web \u00e7at\u0131s\u0131 (Flask, FastAPI, Express.js) SSE deste\u011fi sunar veya kolayca entegre edilebilir. Temel fikir, bir d\u00f6ng\u00fc i\u00e7inde LLM’den gelen her metin par\u00e7as\u0131n\u0131 ayr\u0131 bir “olay” olarak istemciye g\u00f6ndermektir.<\/p>\n app = FastAPI()<\/p>\n async def generate_llm_response_stream():Content-Type: text\/event-stream<\/code> ba\u015fl\u0131\u011f\u0131n\u0131 kullanarak bir yan\u0131t g\u00f6nderir ve ard\u0131ndan olaylar\u0131 belirli bir formatta (data: ...\\n\\n<\/code>) istemciye g\u00f6nderir. \u0130stemci, bu olaylar\u0131 JavaScript’teki EventSource<\/code> API’si arac\u0131l\u0131\u011f\u0131yla dinler.<\/p>\nSSE Sunucu Taraf\u0131 Uygulamas\u0131<\/h3>\n
\n# FastAPI ile Basit Bir SSE \u00d6rne\u011fi
\nfrom fastapi import FastAPI, Response
\nfrom fastapi.responses import StreamingResponse
\nimport asyncio<\/p>\n
\n yield \"data: Merhaba\\n\\n\"
\n await asyncio.sleep(0.5)
\n yield \"data: D\u00fcnya!\\n\\n\"
\n await asyncio.sleep(0.5)
\n yield \"data: Bu bir\\n\\n\"
\n await asyncio.sleep(0.5)
\n yield \"data: ak\u0131\u015fl\u0131\\n\\n\"
\n await asyncio.sleep(0.5)
\n yield \"data: LLM\\n\\<\/p>\n","protected":false},"excerpt":{"rendered":"B\u00fcy\u00fck Dil Modelleri (LLM’ler), do\u011fal dil i\u015fleme yetenekleriyle modern web uygulamalar\u0131na devrim niteli\u011finde \u00f6zellikler kat\u0131yor. Ancak, bu modellerin …","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"csco_page_header_type":"","csco_page_load_nextpost":"","csco_page_subscribe_form":"","csco_page_contact_form":"","footnotes":""},"categories":[1],"tags":[],"class_list":{"0":"post-37080","1":"post","2":"type-post","3":"status-publish","4":"format-standard","6":"category-genel","7":"cs-entry","8":"cs-video-wrap"},"yoast_head":"\n