G\u00fcn\u00fcm\u00fcz\u00fcn karma\u015f\u0131k yapay zeka (YZ) ajanlar\u0131, \u00e7ok say\u0131da bile\u015fenle etkile\u015fime girerek kullan\u0131c\u0131larla anlaml\u0131 diyaloglar kurar. Ancak bu \u00e7ok katmanl\u0131 etkile\u015fimlerin i\u00e7 y\u00fcz\u00fcn\u00fc anlamak, performans sorunlar\u0131n\u0131 gidermek veya ajan davran\u0131\u015f\u0131n\u0131 optimize etmek genellikle zorlu bir g\u00f6revdir. \u0130\u015fte tam da bu noktada, YZ ajan\u0131 g\u00f6zlemlenebilirli\u011fi ve \u00f6zellikle “konu\u015fma kimlikleri” devreye girerek, ajanlar\u0131n i\u00e7 i\u015fleyi\u015fini \u015feffaf hale getiren kritik bir \u00e7\u00f6z\u00fcm sunar. Bu makale, YZ ajanlar\u0131n\u0131n neden g\u00f6zlemlenebilirli\u011fe ihtiya\u00e7 duydu\u011funu, konu\u015fma kimliklerinin ne oldu\u011funu ve bu kimliklerin sistemlerinizi nas\u0131l d\u00f6n\u00fc\u015ft\u00fcrebilece\u011fini ad\u0131m ad\u0131m a\u00e7\u0131klayacakt\u0131r.<\/p>\n
Yapay zeka ajanlar\u0131, \u00f6zellikle b\u00fcy\u00fck dil modelleri (LLM’ler) ve \u00e7e\u015fitli ara\u00e7larla entegre \u00e7al\u0131\u015fan karma\u015f\u0131k sistemlerdir. Bir kullan\u0131c\u0131 bir YZ ajan\u0131yla etkile\u015fime girdi\u011finde, bu etkile\u015fim genellikle birden fazla ad\u0131mdan, farkl\u0131 servis \u00e7a\u011fr\u0131lar\u0131ndan ve bazen harici API’lerden ge\u00e7er. Bu s\u00fcre\u00e7te bir hata olu\u015ftu\u011funda, performans d\u00fc\u015f\u00fc\u015f\u00fc ya\u015fand\u0131\u011f\u0131nda veya ajan\u0131n beklenmedik bir \u015fekilde davrand\u0131\u011f\u0131 fark edildi\u011finde, sorunun kayna\u011f\u0131n\u0131 bulmak adeta samanl\u0131kta i\u011fne aramaya benzer. G\u00f6zlemlenebilirlik (Observability), bir sistemin i\u00e7 durumunu, \u00e7\u0131kt\u0131lar\u0131n\u0131 g\u00f6zlemleyerek anlamam\u0131z\u0131 sa\u011flayan bir yetenektir. YZ ajanlar\u0131 ba\u011flam\u0131nda, bu, ajan\u0131n her bir etkile\u015fimini, ald\u0131\u011f\u0131 kararlar\u0131, kulland\u0131\u011f\u0131 ara\u00e7lar\u0131 ve bu s\u00fcre\u00e7teki her t\u00fcrl\u00fc \u00e7\u0131kt\u0131y\u0131 izleyebilmek anlam\u0131na gelir.<\/p>\n
G\u00f6zlemlenebilirli\u011fin temel direkleri genellikle \u00fc\u00e7 ana kategoriye ayr\u0131l\u0131r:<\/p>\n
* Loglar (G\u00fcnl\u00fckler)<\/strong>: Sistemdeki belirli olaylar\u0131 kaydeden metin tabanl\u0131 verilerdir. Bir ajan\u0131n kullan\u0131c\u0131dan girdi almas\u0131, bir ara\u00e7 \u00e7a\u011f\u0131rmas\u0131, bir LLM’e istek g\u00f6ndermesi veya bir yan\u0131t olu\u015fturmas\u0131 gibi her ad\u0131m bir log kayd\u0131yla belgelenebilir. Bu loglar, olaylar\u0131n s\u0131ras\u0131n\u0131 ve ba\u011flam\u0131n\u0131 anlamak i\u00e7in kritik \u00f6neme sahiptir. YZ ajanlar\u0131nda g\u00f6zlemlenebilirlik olmadan, geli\u015ftiriciler ve operasyon ekipleri k\u00f6rlemesine \u00e7al\u0131\u015fmak zorunda kal\u0131r. \u00d6rne\u011fin, bir m\u00fc\u015fteri hizmetleri botunun belirli bir sorguya yanl\u0131\u015f yan\u0131t verdi\u011fini d\u00fc\u015f\u00fcnelim. G\u00f6zlemlenebilirlik ara\u00e7lar\u0131 olmadan, bu hatan\u0131n nedenini bulmak i\u00e7in t\u00fcm kod taban\u0131n\u0131 manuel olarak incelemek, farkl\u0131 servislerin loglar\u0131n\u0131 bir araya getirmek ve zaman damgalar\u0131n\u0131 kar\u015f\u0131la\u015ft\u0131rmak gerekebilir. Bu, zaman al\u0131c\u0131, hataya a\u00e7\u0131k ve maliyetli bir s\u00fcre\u00e7tir. \u00d6te yandan, iyi bir g\u00f6zlemlenebilirlik altyap\u0131s\u0131, sorunun LLM’in yanl\u0131\u015f anlama yetene\u011finden mi, kullan\u0131lan arac\u0131n hatal\u0131 \u00e7al\u0131\u015fmas\u0131ndan m\u0131, yoksa veri taban\u0131ndan gelen yanl\u0131\u015f bilgiden mi kaynakland\u0131\u011f\u0131n\u0131 an\u0131nda ortaya koyabilir. Bu nedenle, YZ ajan\u0131 geli\u015ftirmenin ayr\u0131lmaz bir par\u00e7as\u0131 olarak g\u00f6zlemlenebilirlik, daha g\u00fcvenilir, verimli ve kullan\u0131c\u0131 dostu YZ sistemleri olu\u015fturman\u0131n anahtar\u0131d\u0131r.<\/p>\n Yapay zeka ajanlar\u0131n\u0131n g\u00f6zlemlenebilirli\u011finde konu\u015fma kimlikleri (Conversation IDs), her bir kullan\u0131c\u0131 etkile\u015fimini veya diyalog oturumunu benzersiz bir \u015fekilde tan\u0131mlayan etiketlerdir. Basit\u00e7e s\u00f6ylemek gerekirse, bir kullan\u0131c\u0131n\u0131n ajana g\u00f6nderdi\u011fi ilk mesajdan, ajan\u0131n t\u00fcm ara ad\u0131mlar\u0131 tamamlay\u0131p kullan\u0131c\u0131ya nihai yan\u0131t\u0131 verdi\u011fi ana kadar ger\u00e7ekle\u015fen t\u00fcm olaylar, ayn\u0131 konu\u015fma kimli\u011fi alt\u0131nda grupland\u0131r\u0131l\u0131r. Bu kimlikler, da\u011f\u0131n\u0131k loglar\u0131, metrikleri ve izleri tek bir mant\u0131ksal ak\u0131\u015f i\u00e7inde birle\u015ftirerek, bir ajan\u0131n belirli bir diyalogdaki davran\u0131\u015f\u0131n\u0131 u\u00e7tan uca anlamam\u0131z\u0131 sa\u011flar.<\/p>\n Bir konu\u015fma kimli\u011finin mimarisi, genellikle sistemin tasar\u0131m\u0131na ve kullan\u0131lan teknolojilere ba\u011fl\u0131 olarak de\u011fi\u015fir, ancak temel prensipler ayn\u0131d\u0131r:<\/p>\n 1. Olu\u015fturma<\/strong>: Bir kullan\u0131c\u0131 bir YZ ajan\u0131yla yeni bir etkile\u015fim ba\u015flatt\u0131\u011f\u0131nda (\u00f6rne\u011fin, ilk mesaj\u0131 g\u00f6nderdi\u011finde), sistem benzersiz bir konu\u015fma kimli\u011fi (UUID – Universally Unique Identifier gibi) olu\u015fturur. Bu kimlik, o konu\u015fma oturumu boyunca ge\u00e7erli olacak anahtar haline gelir. Konu\u015fma kimlikleri, YZ ajanlar\u0131n\u0131n karma\u015f\u0131k ve da\u011f\u0131t\u0131k yap\u0131s\u0131nda bir “k\u0131lavuz iplik” g\u00f6revi g\u00f6r\u00fcr. Bu sayede, tek bir kullan\u0131c\u0131 etkile\u015fiminin t\u00fcm ya\u015fam d\u00f6ng\u00fcs\u00fcn\u00fc, farkl\u0131 sistemler ve bile\u015fenler aras\u0131nda kaybolmadan takip etmek m\u00fcmk\u00fcn hale gelir. Bu da hata ay\u0131klama s\u00fcre\u00e7lerini h\u0131zland\u0131r\u0131r, performans darbo\u011fazlar\u0131n\u0131 tespit etmeyi kolayla\u015ft\u0131r\u0131r ve ajan davran\u0131\u015f\u0131n\u0131 daha derinlemesine analiz etme olana\u011f\u0131 sunar.<\/p>\n Yapay zeka ajanlar\u0131n\u0131zda konu\u015fma kimliklerini uygulamak, sisteminizin g\u00f6zlemlenebilirli\u011fini \u00f6nemli \u00f6l\u00e7\u00fcde art\u0131racakt\u0131r. \u0130\u015fte ad\u0131m ad\u0131m nas\u0131l yapabilece\u011finize dair pratik bir rehber ve kod \u00f6rnekleri:<\/p>\n Her yeni kullan\u0131c\u0131 etkile\u015fiminin ba\u015flang\u0131c\u0131nda benzersiz bir konu\u015fma kimli\u011fi olu\u015fturulmal\u0131d\u0131r. Bu genellikle bir UUID (Universally Unique Identifier) kullan\u0131larak yap\u0131l\u0131r.<\/p>\n Bu kod par\u00e7ac\u0131\u011f\u0131, Olu\u015fturulan konu\u015fma kimli\u011fi, ajan\u0131n t\u00fcm dahili bile\u015fenleri ve harici servis \u00e7a\u011fr\u0131lar\u0131 aras\u0131nda ta\u015f\u0131nmal\u0131d\u0131r. Bu, ba\u011flam (context) y\u00f6netimiyle sa\u011flan\u0131r.<\/p>\n * Fonksiyon Parametreleri<\/strong>: Kimli\u011fi do\u011frudan fonksiyonlara parametre olarak ge\u00e7irebilirsiniz.<\/p>\n * Ba\u011flam Y\u00f6neticileri (Context Managers) veya Thread-Local Storage<\/strong>: Daha karma\u015f\u0131k sistemlerde, kimli\u011fi global olarak eri\u015filebilir ancak i\u015f par\u00e7ac\u0131\u011f\u0131na (thread) \u00f6zel bir ba\u011flamda tutmak daha iyi bir yakla\u015f\u0131md\u0131r. Python’da Ajan\u0131n her bir bile\u015feni, \u00fcretti\u011fi t\u00fcm log kay\u0131tlar\u0131na ve toplad\u0131\u011f\u0131 metriklere konu\u015fma kimli\u011fini eklemelidir. Yukar\u0131daki Bu \u00f6rnekte, Toplad\u0131\u011f\u0131n\u0131z konu\u015fma kimli\u011fi i\u00e7eren loglar\u0131 ve metrikleri, ELK Stack (Elasticsearch, Logstash, Kibana), Grafana, Datadog veya Splunk gibi merkezi log y\u00f6netimi ve izleme ara\u00e7lar\u0131na g\u00f6nderin. Bu ara\u00e7lar, konu\u015fma kimli\u011fine g\u00f6re filtreleme, arama ve g\u00f6rselle\u015ftirme yapman\u0131z\u0131 sa\u011flayarak, belirli bir diyalogun t\u00fcm ad\u0131mlar\u0131n\u0131 kolayca takip etmenize olanak tan\u0131r.<\/p>\n Bu ad\u0131mlar\u0131 takip ederek, YZ ajanlar\u0131n\u0131z\u0131n her bir etkile\u015fimini ba\u015ftan sona izleyebilir, sorunlar\u0131 daha h\u0131zl\u0131 tespit edebilir ve ajan\u0131n davran\u0131\u015f\u0131n\u0131 daha \u015feffaf bir \u015fekilde anlayabilirsiniz.<\/p>\n Bir e-ticaret \u015firketinin m\u00fc\u015fteri hizmetleri i\u00e7in geli\u015ftirdi\u011fi bir yapay zeka botu d\u00fc\u015f\u00fcnelim. Bu bot, sipari\u015f sorgulama, \u00fcr\u00fcn iadesi ve teknik destek gibi konularda kullan\u0131c\u0131lara yard\u0131mc\u0131 olmak \u00fczere tasarland\u0131. Bot, kullan\u0131c\u0131 mesajlar\u0131n\u0131 i\u015flemek i\u00e7in bir LLM kullan\u0131yor, sipari\u015f bilgilerini almak i\u00e7in bir envanter API’siyle, iade s\u00fcre\u00e7leri i\u00e7in bir \u00f6deme sistemi API’siyle ve teknik destek i\u00e7in bir bilgi taban\u0131yla etkile\u015fime giriyor.<\/p>\n Sorun:<\/strong> Bir\u00e7ok kullan\u0131c\u0131, botun “sipari\u015fimi iptal et” taleplerine do\u011fru yan\u0131t vermedi\u011finden \u015fikayet ediyor. Bot bazen “Sipari\u015finiz iptal edildi” dese de, asl\u0131nda sipari\u015fin sistemde iptal edilmedi\u011fi, bazen de “Bu i\u015flemi ger\u00e7ekle\u015ftiremiyorum” gibi genel bir hata mesaj\u0131 verdi\u011fi g\u00f6r\u00fcl\u00fcyor. M\u00fc\u015fteri memnuniyeti d\u00fc\u015f\u00fcyor ve destek ekibi manuel m\u00fcdahalelerle bo\u011fu\u015fuyor.<\/p>\n Konu\u015fma Kimlikleri Olmadan Hata Ay\u0131klama:<\/strong> 1. Da\u011f\u0131n\u0131k Loglar:<\/strong> Botun \u00e7al\u0131\u015ft\u0131\u011f\u0131 sunuculardan, envanter API’sinden ve \u00f6deme sistemi API’sinden gelen loglar farkl\u0131 yerlerde tutuluyor. Konu\u015fma Kimlikleri ile Hata Ay\u0131klama:<\/strong> 1. Kullan\u0131c\u0131n\u0131n \u015eikayeti:<\/strong> Bir kullan\u0131c\u0131, “Sipari\u015fimi iptal etmek istiyorum. Sipari\u015f numaram 12345.” mesaj\u0131n\u0131 g\u00f6nderiyor. Bot, bu mesaja “Sipari\u015finiz iptal edilemedi, l\u00fctfen tekrar deneyin.” yan\u0131t\u0131n\u0131 veriyor. Kullan\u0131c\u0131 \u015fikayetini iletti\u011finde, m\u00fc\u015fteri hizmetleri temsilcisi konu\u015fma ge\u00e7mi\u015fiyle birlikte o konu\u015fman\u0131n kimli\u011fini (\u00f6rne\u011fin, Bu vaka analizi, konu\u015fma kimliklerinin, karma\u015f\u0131k YZ ajanlar\u0131nda hata ay\u0131klama s\u00fcre\u00e7lerini nas\u0131l dramatik bir \u015fekilde basitle\u015ftirdi\u011fini ve h\u0131zland\u0131rd\u0131\u011f\u0131n\u0131 a\u00e7\u0131k\u00e7a g\u00f6stermektedir. Da\u011f\u0131n\u0131k sistemlerdeki olaylar\u0131 tek bir mant\u0131ksal ak\u0131\u015f alt\u0131nda birle\u015ftirmek, sorunlar\u0131n k\u00f6k nedenini \u00e7ok daha h\u0131zl\u0131 tespit etmeyi m\u00fcmk\u00fcn k\u0131lar.<\/p>\n Konu\u015fma kimlikleri, temel hata ay\u0131klama ve performans izlemenin \u00f6tesinde, yapay zeka ajanlar\u0131n\u0131z i\u00e7in daha ileri d\u00fczey analizler yapman\u0131za olanak tan\u0131r. Bu teknikler, sistem davran\u0131\u015f\u0131n\u0131 derinlemesine anlamak, optimizasyon f\u0131rsatlar\u0131n\u0131 ke\u015ffetmek ve potansiyel sorunlar\u0131 proaktif olarak belirlemek i\u00e7in kritik \u00f6neme sahiptir.<\/p>\n Konu\u015fma kimlikleri, OpenTelemetry gibi standart da\u011f\u0131t\u0131k izleme framework’leriyle birle\u015ftirildi\u011finde tam potansiyeline ula\u015f\u0131r. Da\u011f\u0131t\u0131k izleme, tek bir kullan\u0131c\u0131 iste\u011finin (konu\u015fma kimli\u011fi ile ili\u015fkilendirilmi\u015f) bir sistemdeki t\u00fcm mikroservisler ve bile\u015fenler aras\u0131ndaki yolculu\u011funu g\u00f6rselle\u015ftiren bir y\u00f6ntemdir. Her bir i\u015flem par\u00e7as\u0131 (\u00f6rne\u011fin, LLM \u00e7a\u011fr\u0131s\u0131, veritaban\u0131 sorgusu, ara\u00e7 kullan\u0131m\u0131) bir “span” olarak kaydedilir ve bu span’ler bir “trace” olu\u015fturacak \u015fekilde hiyerar\u015fik olarak birbirine ba\u011flan\u0131r.<\/p>\n * Nas\u0131l \u00c7al\u0131\u015f\u0131r?<\/strong>: Bir konu\u015fma kimli\u011fi, ba\u015flang\u0131\u00e7ta bir “trace ID” olarak olu\u015fturulur. Bu trace ID, her bir mikroservis \u00e7a\u011fr\u0131s\u0131 ve i\u00e7 i\u015flemde ta\u015f\u0131n\u0131r. Her bir serviste, o servisin yapt\u0131\u011f\u0131 i\u015fler i\u00e7in yeni “span ID”leri olu\u015fturulur ve bunlar trace ID’ye ba\u011flan\u0131r. Geleneksel loglama genellikle serbest metin format\u0131nda olup, makine taraf\u0131ndan kolayca analiz edilemez. Semantik loglama, loglar\u0131 yap\u0131land\u0131r\u0131lm\u0131\u015f bir formatta (\u00f6rne\u011fin, JSON) tutarak, her bir log kayd\u0131na anahtar-de\u011fer \u00e7iftleri halinde anlaml\u0131 ba\u011flam bilgisi (konu\u015fma kimli\u011fi, kullan\u0131c\u0131 kimli\u011fi, niyet, kullan\u0131lan ara\u00e7, LLM modeli, token say\u0131s\u0131 vb.) eklemeyi i\u00e7erir.<\/p>\n * Nas\u0131l \u00c7al\u0131\u015f\u0131r?<\/strong>: Loglar, sadece bir mesaj yerine, belirli alanlara sahip nesneler olarak \u00fcretilir. \u00d6rne\u011fin:<\/p>\n * Avantajlar\u0131<\/strong>: Konu\u015fma kimlikleri ve bunlarla ili\u015fkilendirilmi\u015f metrikler (yan\u0131t s\u00fcresi, hata oran\u0131, LLM token kullan\u0131m\u0131) kullan\u0131larak anomali tespiti yap\u0131labilir.<\/p>\n * Nas\u0131l \u00c7al\u0131\u015f\u0131r?<\/strong>: Belirli bir konu\u015fma kimli\u011fi alt\u0131ndaki i\u015flemlerin normal davran\u0131\u015f kal\u0131plar\u0131 (\u00f6rne\u011fin, ortalama yan\u0131t s\u00fcresi 5 saniye, hata oran\u0131 %1) belirlenir. Bu kal\u0131plardan sapmalar (\u00f6rne\u011fin, bir konu\u015fman\u0131n yan\u0131t s\u00fcresinin aniden 30 saniyeye \u00e7\u0131kmas\u0131 veya arka arkaya birden fazla hata vermesi) anomali olarak i\u015faretlenir. Bu ileri d\u00fczey teknikler, YZ ajanlar\u0131n\u0131z\u0131n sadece “\u00e7al\u0131\u015ft\u0131\u011f\u0131n\u0131” de\u011fil, ayn\u0131 zamanda “nas\u0131l \u00e7al\u0131\u015ft\u0131\u011f\u0131n\u0131” ve “neden belirli bir \u015fekilde \u00e7al\u0131\u015ft\u0131\u011f\u0131n\u0131” anlaman\u0131z\u0131 sa\u011flar. Bu sayede, daha dayan\u0131kl\u0131, verimli ve ak\u0131ll\u0131 YZ sistemleri in\u015fa edebilirsiniz.<\/p>\n Yapay zeka ajanlar\u0131 geli\u015ftik\u00e7e, g\u00f6zlemlenebilirlik alan\u0131ndaki ihtiya\u00e7lar da karma\u015f\u0131kla\u015fmaktad\u0131r. Gelecekte, YZ ajan\u0131 g\u00f6zlemlenebilirli\u011fi, yaln\u0131zca teknik sorunlar\u0131 tespit etmekle kalmayacak, ayn\u0131 zamanda ajan\u0131n etik davran\u0131\u015f\u0131n\u0131, g\u00fcvenilirli\u011fini ve toplumsal etkilerini de kapsayacakt\u0131r. Ancak bu yolculukta baz\u0131 \u00f6nemli zorluklar da bizi bekliyor.<\/p>\n 1. A\u00e7\u0131klanabilirlik (Explainable AI – XAI) Entegrasyonu<\/strong>: Gelecekteki g\u00f6zlemlenebilirlik sistemleri, sadece ajan\u0131n ne yapt\u0131\u011f\u0131n\u0131 de\u011fil, neden yapt\u0131\u011f\u0131n\u0131 da a\u00e7\u0131klayabilmelidir. Konu\u015fma kimlikleri, bir ajan\u0131n belirli bir karar\u0131 veya yan\u0131t\u0131 neden verdi\u011fini g\u00f6steren t\u00fcm ara ad\u0131mlar\u0131 (LLM girdileri, \u00e7\u0131kt\u0131lar, kullan\u0131lan ara\u00e7lar, bilgi taban\u0131 sorgular\u0131) ili\u015fkilendirmek i\u00e7in temel olu\u015fturacakt\u0131r. Bu, \u00f6zellikle kritik uygulamalarda (sa\u011fl\u0131k, finans) ajan\u0131n g\u00fcvenilirli\u011fini ve \u015feffafl\u0131\u011f\u0131n\u0131 art\u0131racakt\u0131r. 1. Veri Hacmi ve Maliyeti<\/strong>: YZ ajanlar\u0131, \u00f6zellikle yo\u011fun kullan\u0131mlarda, muazzam miktarda log, metrik ve iz verisi \u00fcretebilir. Bu verilerin toplanmas\u0131, depolanmas\u0131 ve i\u015flenmesi b\u00fcy\u00fck altyap\u0131 maliyetleri ve operasyonel y\u00fckler getirebilir. Veri filtreleme, \u00f6rnekleme ve ak\u0131ll\u0131 depolama stratejileri bu zorlu\u011fun \u00fcstesinden gelmek i\u00e7in \u00f6nemli olacakt\u0131r. Bu zorluklara ra\u011fmen, yapay zeka ajanlar\u0131n\u0131n g\u00f6zlemlenebilirli\u011fi, bu sistemlerin yayg\u0131nla\u015fmas\u0131 ve g\u00fcvenilir bir \u015fekilde \u00e7al\u0131\u015fmas\u0131 i\u00e7in vazge\u00e7ilmezdir. Konu\u015fma kimlikleri, bu karma\u015f\u0131k bulmacan\u0131n \u00f6nemli bir par\u00e7as\u0131 olarak, gelecekteki YZ sistemlerinin \u015feffafl\u0131\u011f\u0131n\u0131 ve y\u00f6netilebilirli\u011fini art\u0131rmaya devam edecektir.<\/p>\n Yapay zeka ajanlar\u0131, i\u015f s\u00fcre\u00e7lerimizi ve g\u00fcnl\u00fck ya\u015fant\u0131m\u0131z\u0131 d\u00f6n\u00fc\u015ft\u00fcrmeye devam ederken, bu karma\u015f\u0131k sistemlerin i\u00e7 i\u015fleyi\u015fini anlamak ve y\u00f6netmek her zamankinden daha kritik hale gelmi\u015ftir. Konu\u015fma kimlikleri (Conversation IDs), YZ ajan\u0131 g\u00f6zlemlenebilirli\u011fi i\u00e7in temel bir yap\u0131 ta\u015f\u0131 sunarak, her bir kullan\u0131c\u0131 etkile\u015fiminin t\u00fcm ya\u015fam d\u00f6ng\u00fcs\u00fcn\u00fc u\u00e7tan uca izlememizi sa\u011flar. Bu benzersiz tan\u0131mlay\u0131c\u0131lar sayesinde, da\u011f\u0131n\u0131k loglar\u0131, metrikleri ve izleri tek bir mant\u0131ksal ak\u0131\u015f alt\u0131nda birle\u015ftirebilir, b\u00f6ylece hata ay\u0131klama s\u00fcre\u00e7lerini h\u0131zland\u0131rabilir, performans darbo\u011fazlar\u0131n\u0131 kolayca tespit edebilir ve ajan\u0131n davran\u0131\u015f\u0131n\u0131 derinlemesine analiz edebiliriz.<\/p>\n Bu makalede ele ald\u0131\u011f\u0131m\u0131z gibi, konu\u015fma kimliklerinin olu\u015fturulmas\u0131, sistemin t\u00fcm bile\u015fenleri aras\u0131nda yay\u0131lmas\u0131 ve g\u00f6zlemlenebilirlik ara\u00e7lar\u0131yla entegrasyonu, YZ ajanlar\u0131n\u0131z\u0131n \u015feffafl\u0131\u011f\u0131n\u0131 ve g\u00fcvenilirli\u011fini \u00f6nemli \u00f6l\u00e7\u00fcde art\u0131racakt\u0131r. Merkezi log y\u00f6netim sistemleri, da\u011f\u0131t\u0131k izleme ara\u00e7lar\u0131 ve semantik loglama teknikleriyle birle\u015ftirildi\u011finde, konu\u015fma kimlikleri, yaln\u0131zca reaktif hata gidermeden proaktif anomali tespitine ve hatta otomatik sistem iyile\u015ftirmelerine kadar uzanan geli\u015fmi\u015f analizlerin kap\u0131s\u0131n\u0131 aralar. Yapay zeka ajanlar\u0131n\u0131n gelece\u011fi, yaln\u0131zca yeteneklerinin artmas\u0131yla de\u011fil, ayn\u0131 zamanda bu yeteneklerin ne kadar \u015feffaf, g\u00fcvenilir ve y\u00f6netilebilir oldu\u011fuyla \u015fekillenecektir. Konu\u015fma kimlikleri, bu vizyonu ger\u00e7e\u011fe d\u00f6n\u00fc\u015ft\u00fcrmek i\u00e7in kritik bir ara\u00e7t\u0131r.<\/p>\n Konu\u015fma Kimli\u011fi, bir yapay zeka ajan\u0131 ile kullan\u0131c\u0131s\u0131 aras\u0131ndaki tek bir diyalog oturumunu benzersiz bir \u015fekilde tan\u0131mlayan bir etikettir. Ajan\u0131n birden fazla bile\u015fenle etkile\u015fime girdi\u011fi karma\u015f\u0131k senaryolarda, bu kimlik sayesinde bir kullan\u0131c\u0131n\u0131n ilk mesaj\u0131ndan son yan\u0131ta kadar ge\u00e7en t\u00fcm ad\u0131mlar\u0131 (loglar, metrikler, servis \u00e7a\u011fr\u0131lar\u0131) bir araya getirerek u\u00e7tan uca takip etmek, hata ay\u0131klamak ve performans\u0131 analiz etmek m\u00fcmk\u00fcn olur.<\/p>\n<\/li>\n Genellikle bir kullan\u0131c\u0131n\u0131n yeni bir etkile\u015fim ba\u015flatt\u0131\u011f\u0131 anda (\u00f6rne\u011fin, ilk mesaj g\u00f6nderildi\u011finde) benzersiz bir UUID (Universally Unique Identifier) olu\u015fturularak Conversation ID elde edilir. Bu kimlik, daha sonra fonksiyon parametreleri, ba\u011flam y\u00f6neticileri (context managers), HTTP ba\u015fl\u0131klar\u0131 (mikroservisler aras\u0131 ileti\u015fimde) veya mesaj kuyru\u011fu meta verileri arac\u0131l\u0131\u011f\u0131yla ajan\u0131n t\u00fcm i\u00e7 ve d\u0131\u015f bile\u015fenleri aras\u0131nda ta\u015f\u0131n\u0131r (yay\u0131l\u0131r).<\/p>\n<\/li>\n Konu\u015fma Kimlikleri, hemen hemen t\u00fcm modern g\u00f6zlemlenebilirlik ara\u00e7lar\u0131yla entegre edilebilir. En yayg\u0131n kullan\u0131lanlar aras\u0131nda ELK Stack (Elasticsearch, Logstash, Kibana) merkezi log y\u00f6netimi i\u00e7in, Grafana ve Datadog metrik ve g\u00f6rselle\u015ftirme i\u00e7in, OpenTelemetry ise da\u011f\u0131t\u0131k izleme (distributed tracing) i\u00e7in \u00f6ne \u00e7\u0131kar. Bu ara\u00e7lar, Conversation ID’ye g\u00f6re filtreleme, arama ve g\u00f6rselle\u015ftirme yaparak, belirli bir diyalogun t\u00fcm ad\u0131mlar\u0131n\u0131 kolayca takip etmenizi sa\u011flar.<\/p>\n<\/li>\n Konu\u015fma Kimliklerinin olu\u015fturulmas\u0131 ve yay\u0131lmas\u0131, genellikle \u00e7ok k\u00fc\u00e7\u00fck bir i\u015flem y\u00fck\u00fc getirir ve modern sistemlerde performans \u00fczerinde ihmal edilebilir bir etkiye sahiptir. As\u0131l performans etkisi, toplanan log ve metrik verilerinin hacminin artmas\u0131ndan kaynaklanabilir. Ancak bu, genellikle iyi tasarlanm\u0131\u015f loglama ve metrik toplama stratejileri, veri filtreleme ve \u00f6l\u00e7eklenebilir altyap\u0131larla y\u00f6netilebilir bir durumdur ve sa\u011flad\u0131\u011f\u0131 faydalar maliyetinden \u00e7ok daha fazlad\u0131r.<\/p>\n<\/li>\n Konu\u015fma Kimlikleri, kullan\u0131c\u0131 diyaloglar\u0131n\u0131 bir araya getirdi\u011fi i\u00e7in hassas bilgiler i\u00e7erebilir. Bu verilerin toplanmas\u0131, depolanmas\u0131 ve analizi s\u0131ras\u0131nda KVKK, GDPR gibi gizlilik d\u00fczenlemelerine kesinlikle uyulmal\u0131d\u0131r. Kullan\u0131c\u0131 kimlikleri gibi ki\u015fisel veriler anonimle\u015ftirilmeli, verilere eri\u015fim s\u0131k\u0131 bir \u015fekilde kontrol edilmeli ve depolanan t\u00fcm veriler \u015fifrelenmelidir. G\u00fcvenlik ve gizlilik, g\u00f6zlemlenebilirlik mimarisinin ayr\u0131lmaz bir par\u00e7as\u0131 olmal\u0131d\u0131r.<\/p>\n<\/li>\n<\/ul>\n #YapayZeka #AjanG\u00f6zlemlenebilirlik #Konu\u015fmaKimli\u011fi #Observability #AIagent #Teknoloji #YapayZekaGeli\u015ftirme<\/p>\n
\n* Metrikler (\u00d6l\u00e7\u00fcmler)<\/strong>: Sistemin performans\u0131 veya durumu hakk\u0131nda say\u0131sal verilerdir. \u00d6rne\u011fin, bir ajan\u0131n yan\u0131t verme s\u00fcresi, hata oran\u0131, belirli bir araca yap\u0131lan \u00e7a\u011fr\u0131 say\u0131s\u0131 veya LLM token t\u00fcketimi gibi veriler metrik olarak toplanabilir. Metrikler, sistemin genel sa\u011fl\u0131\u011f\u0131n\u0131 ve trendlerini izlemek i\u00e7in kullan\u0131l\u0131r.
\n* \u0130zler (Traces)<\/strong>: Tek bir iste\u011fin veya i\u015flemin sistem i\u00e7indeki yolculu\u011funu g\u00f6steren u\u00e7tan uca kay\u0131tlard\u0131r. Bir kullan\u0131c\u0131n\u0131n ajana g\u00f6nderdi\u011fi mesajdan, ajan\u0131n bu mesaj\u0131 i\u015flemesi, farkl\u0131 servisleri \u00e7a\u011f\u0131rmas\u0131 ve nihayetinde yan\u0131t vermesine kadar ge\u00e7en t\u00fcm ad\u0131mlar\u0131 bir iz olarak g\u00f6rselle\u015ftirebiliriz. \u0130zler, \u00f6zellikle da\u011f\u0131t\u0131k sistemlerde ve YZ ajanlar\u0131n\u0131n birden fazla bile\u015fenle etkile\u015fiminde sorunun nerede olu\u015ftu\u011funu h\u0131zl\u0131ca tespit etmek i\u00e7in vazge\u00e7ilmezdir.<\/p>\nKonu\u015fma Kimlikleri (Conversation IDs) Kavram\u0131 ve Mimarisi<\/h3>\n
\n2. Yay\u0131l\u0131m (Propagation)<\/strong>: Olu\u015fturulan konu\u015fma kimli\u011fi, ajan\u0131n i\u00e7indeki t\u00fcm bile\u015fenler aras\u0131nda ve hatta harici servis \u00e7a\u011fr\u0131lar\u0131 aras\u0131nda ta\u015f\u0131nmal\u0131d\u0131r. Bu, bir kullan\u0131c\u0131n\u0131n mesaj\u0131 al\u0131nd\u0131\u011f\u0131nda, bu kimli\u011fin mesaj i\u015fleme boru hatt\u0131 boyunca, LLM \u00e7a\u011fr\u0131lar\u0131na, veritaban\u0131 sorgular\u0131na, ara\u00e7 kullan\u0131mlar\u0131na ve di\u011fer t\u00fcm mikroservislere bir ba\u015fl\u0131k (header), parametre veya ba\u011flam (context) de\u011fi\u015fkeni olarak iletilmesi anlam\u0131na gelir. \u00d6rne\u011fin, bir mesaj kuyru\u011funa g\u00f6nderilen bir mesaj\u0131n meta verilerine konu\u015fma kimli\u011fi eklenebilir veya bir HTTP iste\u011finde \u00f6zel bir ba\u015fl\u0131k olarak iletilebilir.
\n3. Loglama ve Metrik Toplama<\/strong>: Ajan\u0131n her bir bile\u015feni, i\u015fleme s\u0131ras\u0131nda \u00fcretti\u011fi t\u00fcm log kay\u0131tlar\u0131na ve toplad\u0131\u011f\u0131 metriklere bu konu\u015fma kimli\u011fini eklemelidir. B\u00f6ylece, farkl\u0131 servislerden gelen loglar veya metrikler, ayn\u0131 konu\u015fma kimli\u011fi sayesinde kolayca ili\u015fkilendirilebilir ve filtrelenebilir. Bu, bir kullan\u0131c\u0131n\u0131n “Sipari\u015fimi iptal et” iste\u011finin, hem sipari\u015f y\u00f6netim servisindeki loglarda hem de LLM’in bu iste\u011fi anlama s\u00fcrecindeki loglarda ayn\u0131 kimlikle g\u00f6r\u00fcnmesini sa\u011flar.
\n4. \u0130zleme (Tracing)<\/strong>: Konu\u015fma kimlikleri, da\u011f\u0131t\u0131k izleme sistemleriyle (OpenTelemetry gibi) entegre edildi\u011finde tam potansiyeline ula\u015f\u0131r. Bu sistemler, konu\u015fma kimli\u011fini temel alarak her bir operasyonun (span) ve t\u00fcm operasyon zincirinin (trace) izlenmesini sa\u011flar. Bu sayede, bir kullan\u0131c\u0131n\u0131n iste\u011fiyle ba\u015flayan ve ajan\u0131n yan\u0131t\u0131yla biten t\u00fcm s\u00fcre\u00e7, g\u00f6rsel bir zaman \u00e7izelgesi \u00fczerinde ad\u0131m ad\u0131m izlenebilir. \u00d6rne\u011fin, bir m\u00fc\u015fteri hizmetleri botunun bir kullan\u0131c\u0131n\u0131n \u015fikayetini i\u015fleme s\u00fcrecinde, \u00f6nce \u015fikayeti anlama, ard\u0131ndan uygun departman\u0131 bulma, ilgili veri taban\u0131 kayd\u0131n\u0131 \u00e7ekme ve son olarak kullan\u0131c\u0131ya yan\u0131t verme ad\u0131mlar\u0131n\u0131n her biri, ayn\u0131 konu\u015fma kimli\u011fi alt\u0131nda bir iz olarak g\u00f6r\u00fcnt\u00fclenebilir.<\/p>\nKonu\u015fma Kimliklerinin Uygulanmas\u0131: Ad\u0131m Ad\u0131m Rehber<\/h3>\n
Ad\u0131m 1: Konu\u015fma Kimli\u011fi Olu\u015fturma<\/h4>\n
import uuid\nimport logging\n\n# Loglama format\u0131n\u0131 conversation_id'yi i\u00e7erecek \u015fekilde yap\u0131land\u0131ral\u0131m\n# Not: Python'\u0131n standart logging mod\u00fcl\u00fcne do\u011frudan conversation_id eklemek i\u00e7in\n# \u00f6zel bir filtre veya adapt\u00f6r kullanmak gerekir. A\u015fa\u011f\u0131daki \u00f6rnekte bu g\u00f6sterilmi\u015ftir.\nlogging.basicConfig(level=logging.INFO, format='%(asctime)s - %(levelname)s - [Konu\u015fma ID: %(conversation_id)s] - %(message)s')\n\nclass ConversationIdFilter(logging.Filter):\n """Log kay\u0131tlar\u0131na konu\u015fma ID'si eklemek i\u00e7in \u00f6zel filtre."""\n def __init__(self, conversation_id="N\/A"):\n super().__init__()\n self.conversation_id = conversation_id\n\n def filter(self, record):\n record.conversation_id = self.conversation_id\n return True\n\ndef start_new_conversation():\n """Yeni bir konu\u015fma kimli\u011fi olu\u015fturur ve d\u00f6nd\u00fcr\u00fcr."""\n return str(uuid.uuid4())\n\n# \u00d6rnek kullan\u0131m\nnew_conv_id = start_new_conversation()\nprint(f"Yeni konu\u015fma ba\u015flat\u0131ld\u0131, ID: {new_conv_id}")<\/code><\/pre>\nuuid<\/code> k\u00fct\u00fcphanesini kullanarak benzersiz bir kimlik olu\u015fturur. Bu kimlik, kullan\u0131c\u0131n\u0131n ilk mesaj\u0131 al\u0131nd\u0131\u011f\u0131nda veya sohbet oturumu ba\u015flat\u0131ld\u0131\u011f\u0131nda olu\u015fturulmal\u0131d\u0131r.<\/p>\nAd\u0131m 2: Konu\u015fma Kimli\u011fini Yayma (Propagation)<\/h4>\n
def process_user_input(user_input: str, conversation_id: str):\n # Kullan\u0131c\u0131 giri\u015fini i\u015fle\n logging.info(f"Kullan\u0131c\u0131 giri\u015fi al\u0131nd\u0131: '{user_input}'", extra={'conversation_id': conversation_id})\n # ... di\u011fer i\u015flemler ...\n pass\n\n def call_llm(prompt: str, conversation_id: str):\n # LLM'ye istek g\u00f6nder\n logging.info(f"LLM'ye istek g\u00f6nderiliyor. Prompt: '{prompt[:50]}...'", extra={'conversation_id': conversation_id})\n # ... LLM \u00e7a\u011fr\u0131s\u0131 ...\n pass<\/code><\/pre>\nthreading.local()<\/code> veya contextvars<\/code> mod\u00fcl\u00fc kullan\u0131labilir.
\n* HTTP Ba\u015fl\u0131klar\u0131 veya Mesaj Kuyruklar\u0131<\/strong>: E\u011fer ajan\u0131n\u0131z mikroservisler aras\u0131nda ileti\u015fim kuruyorsa, konu\u015fma kimli\u011fini HTTP ba\u015fl\u0131klar\u0131 (\u00f6rne\u011fin, X-Conversation-ID<\/code>) veya mesaj kuyru\u011fu mesajlar\u0131n\u0131n meta verileri arac\u0131l\u0131\u011f\u0131yla iletin.<\/p>\nAd\u0131m 3: Loglama ve Metrik Toplama Entegrasyonu<\/h4>\n
ConversationIdFilter<\/code> \u00f6rne\u011fi, Python’da loglara nas\u0131l \u00f6zel bir alan eklenebilece\u011fini g\u00f6stermektedir. Her log kayd\u0131na otomatik olarak o anki konu\u015fma kimli\u011fini eklemek i\u00e7in bu t\u00fcr bir filtreyi kullanabilirsiniz.<\/p>\n# process_agent_request fonksiyonu i\u00e7inde conversation_id'yi loglara ekleme\ndef process_agent_request(user_input: str, conversation_id: str = None):\n if conversation_id is None:\n conversation_id = start_new_conversation() # Yeni bir konu\u015fma ba\u015flat\u0131l\u0131yor\n\n # Log kayd\u0131na conversation_id'yi enjekte etmek i\u00e7in filtreyi kullanal\u0131m\n # Her handler i\u00e7in filtreyi ekleyip kald\u0131rmak yerine, daha merkezi bir yakla\u015f\u0131m tercih edilebilir.\n # Ancak bu \u00f6rnek i\u00e7in basitlik ad\u0131na bu \u015fekilde g\u00f6sterilmi\u015ftir.\n log_filter = ConversationIdFilter(conversation_id)\n for handler in logging.root.handlers:\n handler.addFilter(log_filter)\n\n logging.info(f"Kullan\u0131c\u0131 giri\u015fi al\u0131nd\u0131: '{user_input}'")\n\n # Burada yapay zeka ajan\u0131 mant\u0131\u011f\u0131 i\u015fler\n # \u00d6rnek olarak, bir LLM \u00e7a\u011fr\u0131s\u0131 sim\u00fcle edelim\n simulate_llm_call("Merhaba, nas\u0131ls\u0131n?", conversation_id)\n\n response = f"Talebiniz '{user_input}' ba\u015far\u0131yla i\u015flendi."\n logging.info(f"Ajan yan\u0131t\u0131 olu\u015fturuldu: '{response}'")\n\n # \u0130\u015flem bittikten sonra filtreyi kald\u0131rabiliriz (veya ba\u011flam y\u00f6neticisi ile otomatikle\u015febilir)\n for handler in logging.root.handlers:\n handler.removeFilter(log_filter)\n\n return response, conversation_id\n\ndef simulate_llm_call(prompt: str, conversation_id: str):\n # Ger\u00e7ek bir LLM \u00e7a\u011fr\u0131s\u0131 burada olurdu.\n # \u00d6nemli olan, conversation_id'nin LLM \u00e7a\u011fr\u0131s\u0131na da ge\u00e7irilmesi ve\n # LLM'den d\u00f6nen loglarda da bu ID'nin yer almas\u0131d\u0131r.\n logging.info(f"LLM'ye istek g\u00f6nderiliyor. Prompt: '{prompt[:50]}...'")\n # LLM'den gelen yan\u0131t ve loglar...\n logging.info("LLM yan\u0131t\u0131 al\u0131nd\u0131.")\n\n# \u00d6rnek kullan\u0131m\nprint(f"\\n--- \u0130lk Konu\u015fma ---")\nresponse1, id1 = process_agent_request("Bana en yak\u0131n kahveciyi bulabilir misin?")\nprint(f"Ajan Yan\u0131t\u0131: {response1} (Konu\u015fma ID: {id1})")\n\nprint(f"\\n--- \u0130kinci Konu\u015fma ---")\nresponse2, id2 = process_agent_request("Bu hafta sonu hava nas\u0131l olacak?")\nprint(f"Ajan Yan\u0131t\u0131: {response2} (Konu\u015fma ID: {id2})")<\/code><\/pre>\nConversationIdFilter<\/code> s\u0131n\u0131f\u0131, her log kayd\u0131na dinamik olarak conversation_id<\/code>‘yi ekleyerek, loglar\u0131n okunabilirli\u011fini ve filtrelenebilirli\u011fini art\u0131r\u0131r.<\/p>\nAd\u0131m 4: G\u00f6zlemlenebilirlik Ara\u00e7lar\u0131yla Entegrasyon<\/h4>\n
Vaka Analizi: M\u00fc\u015fteri Hizmetleri Botunda Hata Ay\u0131klama<\/h3>\n
\nG\u00f6zlemlenebilirlik i\u00e7in konu\u015fma kimlikleri kullan\u0131lmad\u0131\u011f\u0131nda, hata ay\u0131klama s\u00fcreci kabusa d\u00f6n\u00fc\u015febilir:<\/p>\n
\n2. Zaman Damgas\u0131 E\u015fle\u015ftirme:<\/strong> Hangi log kayd\u0131n\u0131n hangi kullan\u0131c\u0131 iste\u011fine ait oldu\u011funu bulmak i\u00e7in loglardaki zaman damgalar\u0131n\u0131 manuel olarak e\u015fle\u015ftirmek gerekiyor. Bu, \u00f6zellikle yo\u011fun sistemlerde neredeyse imkans\u0131z.
\n3. Ba\u011flam Kayb\u0131:<\/strong> Bir kullan\u0131c\u0131n\u0131n “sipari\u015fimi iptal et” demesiyle ba\u015flayan s\u00fcrecin, LLM’in iste\u011fi nas\u0131l anlad\u0131\u011f\u0131, hangi API’yi \u00e7a\u011f\u0131rmaya karar verdi\u011fi ve bu API’den gelen yan\u0131t\u0131n ne oldu\u011fu gibi kritik ad\u0131mlar aras\u0131nda ba\u011flant\u0131 kurmak \u00e7ok zor.
\n4. Tekrarlanamayan Hatalar:<\/strong> Hata, belirli bir kullan\u0131c\u0131 girdisi veya sistem durumu kombinasyonunda ortaya \u00e7\u0131kt\u0131\u011f\u0131nda, bu senaryoyu yeniden olu\u015fturmak ve hatay\u0131 tekrar tetiklemek zor oluyor.<\/p>\n
\n\u015eirket, bot sistemine konu\u015fma kimliklerini entegre etmeye karar verdi. Her yeni kullan\u0131c\u0131 etkile\u015fiminde benzersiz bir konu\u015fma kimli\u011fi olu\u015fturuluyor ve bu kimlik, kullan\u0131c\u0131n\u0131n mesaj\u0131n\u0131n i\u015flenmesi boyunca t\u00fcm loglara, metrik olaylar\u0131na ve API \u00e7a\u011fr\u0131lar\u0131na ekleniyor.<\/p>\nconv-abc-123<\/code>) de al\u0131yor.
\n2. Merkezi Log Sisteminde Arama:<\/strong> Geli\u015ftiriciler, merkezi log y\u00f6netim sisteminde (\u00f6rne\u011fin, ELK Stack) conv-abc-123<\/code> konu\u015fma kimli\u011fiyle arama yap\u0131yor.
\n3. U\u00e7tan Uca Takip:<\/strong> Arama sonu\u00e7lar\u0131, ilgili konu\u015fma kimli\u011fine sahip t\u00fcm loglar\u0131 kronolojik s\u0131rayla listeliyor:
\n * Botun kullan\u0131c\u0131 mesaj\u0131n\u0131 ald\u0131\u011f\u0131 log.
\n * LLM’ye “sipari\u015f iptali” niyetini belirlemek i\u00e7in g\u00f6nderilen istek ve LLM’den gelen yan\u0131t.
\n * LLM’in cancelOrder<\/code> adl\u0131 bir arac\u0131 (fonksiyonu) \u00e7a\u011f\u0131rmaya karar verdi\u011fi log.
\n * cancelOrder<\/code> arac\u0131n\u0131n envanter API’sine bir HTTP POST iste\u011fi g\u00f6nderdi\u011fi log (istek ba\u015fl\u0131klar\u0131nda X-Conversation-ID: conv-abc-123<\/code> ile).
\n * Envanter API’sinden gelen yan\u0131t logu: HTTP 400 Bad Request - \"Sipari\u015f durumu iptal i\u00e7in uygun de\u011fil.\"<\/code>
\n * Botun bu hata yan\u0131t\u0131n\u0131 yorumlay\u0131p kullan\u0131c\u0131ya “Sipari\u015finiz iptal edilemedi” mesaj\u0131n\u0131 g\u00f6nderdi\u011fi log.
\n4. Hata Tespiti:<\/strong> Geli\u015ftiriciler, envanter API’sinden gelen HTTP 400 Bad Request<\/code> yan\u0131t\u0131n\u0131 ve hata mesaj\u0131n\u0131 hemen fark ediyor. Sorunun botun kendisinden de\u011fil, envanter API’sinin belirli bir sipari\u015f durumunda (\u00f6rne\u011fin, “kargoya verildi” durumundaki bir sipari\u015fin iptal edilememesi) beklenen bir hata d\u00f6nd\u00fcrmesinden kaynakland\u0131\u011f\u0131n\u0131 anl\u0131yorlar. Botun bu \u00f6zel durumu do\u011fru bir \u015fekilde ele almad\u0131\u011f\u0131 ortaya \u00e7\u0131k\u0131yor.
\n5. \u00c7\u00f6z\u00fcm:<\/strong> Botun kodunda, envanter API’sinden gelen 400 Bad Request<\/code> ve “Sipari\u015f durumu iptal i\u00e7in uygun de\u011fil” mesaj\u0131n\u0131 \u00f6zel olarak yakalayacak ve kullan\u0131c\u0131ya daha bilgilendirici bir yan\u0131t verecek bir mant\u0131k ekleniyor: “Sipari\u015finiz kargoya verildi\u011fi i\u00e7in iptal edilemiyor. \u0130ade i\u015flemi i\u00e7in destek ekibimizle ileti\u015fime ge\u00e7ebilirsiniz.”<\/p>\n\u0130leri D\u00fczey \u0130zleme ve Analiz Teknikleri<\/h3>\n
1. Da\u011f\u0131t\u0131k \u0130zleme (Distributed Tracing)<\/h4>\n
\n* Avantajlar\u0131<\/strong>:
\n * Performans Darbo\u011fazlar\u0131<\/strong>: Bir kullan\u0131c\u0131n\u0131n yan\u0131t almakta gecikti\u011fi durumlarda, trace g\u00f6rselle\u015ftirmesi, gecikmenin hangi serviste veya hangi a\u015famada ya\u015fand\u0131\u011f\u0131n\u0131 an\u0131nda g\u00f6sterir. \u00d6rne\u011fin, LLM \u00e7a\u011fr\u0131s\u0131n\u0131n m\u0131 yoksa bir harici API’nin mi yava\u015flad\u0131\u011f\u0131n\u0131 kolayca g\u00f6rebilirsiniz.
\n * Hata \u0130zleme<\/strong>: Bir hata olu\u015ftu\u011funda, trace, hatan\u0131n tam olarak hangi span’de ve dolay\u0131s\u0131yla hangi bile\u015fende meydana geldi\u011fini belirlemenizi sa\u011flar.
\n * Servis Ba\u011f\u0131ml\u0131l\u0131klar\u0131<\/strong>: Ajan\u0131n\u0131z\u0131n hangi harici servislere ne s\u0131kl\u0131kta ve ne kadar s\u00fcrede ba\u011f\u0131ml\u0131 oldu\u011funu net bir \u015fekilde ortaya koyar.<\/p>\n2. Semantik Loglama (Semantic Logging)<\/h4>\n
{\n "timestamp": "2023-10-27T10:30:00Z",\n "level": "INFO",\n "conversation_id": "conv-abc-123",\n "user_id": "user-456",\n "event": "llm_call_start",\n "model": "gpt-4",\n "prompt_length": 120,\n "intent": "order_cancel"\n }<\/code><\/pre>\n
\n * Geli\u015fmi\u015f Filtreleme ve Arama<\/strong>: Log y\u00f6netim sistemlerinde belirli niyetlere, LLM modellerine veya kullan\u0131c\u0131 kimliklerine g\u00f6re \u00e7ok daha hassas aramalar yapabilirsiniz.
\n * Otomatik Analiz<\/strong>: Makine \u00f6\u011frenimi algoritmalar\u0131, yap\u0131land\u0131r\u0131lm\u0131\u015f loglar\u0131 kullanarak anormallikleri tespit edebilir veya belirli davran\u0131\u015f kal\u0131plar\u0131n\u0131 \u00e7\u0131karabilir.
\n * Kolay Raporlama<\/strong>: Belirli metrikleri (\u00f6rne\u011fin, “order_cancel” niyetindeki LLM \u00e7a\u011fr\u0131lar\u0131n\u0131n ortalama token t\u00fcketimi) loglardan kolayca \u00e7\u0131karabilirsiniz.<\/p>\n3. Anomali Tespiti ve Proaktif Uyar\u0131lar<\/h4>\n
\n* Avantajlar\u0131<\/strong>:
\n * Proaktif M\u00fcdahale<\/strong>: Potansiyel sorunlar (\u00f6rne\u011fin, bir LLM’in yava\u015flamas\u0131 veya bir arac\u0131n s\u00fcrekli hata vermesi) kullan\u0131c\u0131lar etkilenmeden \u00f6nce otomatik olarak tespit edilip geli\u015ftiricilere uyar\u0131 g\u00f6nderilebilir.
\n * Kullan\u0131c\u0131 Deneyimi \u0130yile\u015ftirmesi<\/strong>: Belirli bir konu\u015fma kimli\u011findeki anormal davran\u0131\u015flar, o kullan\u0131c\u0131n\u0131n deneyiminin k\u00f6t\u00fcle\u015fti\u011fini g\u00f6sterir. Bu veriler, botun davran\u0131\u015f\u0131n\u0131 ve yan\u0131tlar\u0131n\u0131 iyile\u015ftirmek i\u00e7in kullan\u0131labilir.<\/p>\nYapay Zeka Ajan\u0131 G\u00f6zlemlenebilirli\u011finin Gelece\u011fi ve Zorluklar\u0131<\/h3>\n
Gelecekteki E\u011filimler:<\/h4>\n
\n2. Otomatik \u0130yile\u015ftirme ve Kendi Kendine Onar\u0131m<\/strong>: G\u00f6zlemlenebilirlik verileri, ajanlar\u0131n kendi performanslar\u0131n\u0131 izlemesini ve anormallikleri tespit etti\u011finde otomatik olarak ayarlamalar yapmas\u0131n\u0131 sa\u011flayabilir. \u00d6rne\u011fin, bir LLM’in belirli bir prompt’a s\u00fcrekli yanl\u0131\u015f yan\u0131t verdi\u011fini tespit eden bir sistem, otomatik olarak prompt m\u00fchendisli\u011fini g\u00fcncelleyebilir veya farkl\u0131 bir LLM modeline ge\u00e7i\u015f yapabilir.
\n3. Kullan\u0131c\u0131 Deneyimi Odakl\u0131 Metrikler<\/strong>: G\u00f6zlemlenebilirlik, sadece teknik metriklerle s\u0131n\u0131rl\u0131 kalmayacak, ayn\u0131 zamanda kullan\u0131c\u0131 memnuniyeti, etkile\u015fim kalitesi ve g\u00f6rev tamamlama oran\u0131 gibi kullan\u0131c\u0131 deneyimi odakl\u0131 metrikleri de konu\u015fma kimlikleriyle ili\u015fkilendirecektir. Bu sayede, ajan\u0131n kullan\u0131c\u0131lar \u00fczerindeki ger\u00e7ek etkisi daha net anla\u015f\u0131lacakt\u0131r.
\n4. Sim\u00fclasyon ve Ger\u00e7ek D\u00fcnya Kar\u015f\u0131la\u015ft\u0131rmas\u0131<\/strong>: Geli\u015ftirme a\u015famas\u0131ndaki sim\u00fclasyon ortamlar\u0131nda toplanan g\u00f6zlemlenebilirlik verileri ile \u00fcretim ortam\u0131ndaki ger\u00e7ek d\u00fcnya verileri, konu\u015fma kimlikleri arac\u0131l\u0131\u011f\u0131yla kar\u015f\u0131la\u015ft\u0131r\u0131lacak. Bu, ajanlar\u0131n ger\u00e7ek d\u00fcnyada nas\u0131l performans g\u00f6sterdi\u011fini daha iyi anlamak ve geli\u015ftirme d\u00f6ng\u00fcs\u00fcn\u00fc h\u0131zland\u0131rmak i\u00e7in kritik olacakt\u0131r.<\/p>\nKar\u015f\u0131la\u015f\u0131lan Zorluklar:<\/h4>\n
\n2. Gizlilik ve G\u00fcvenlik Endi\u015feleri<\/strong>: Konu\u015fma kimlikleri, kullan\u0131c\u0131lar\u0131n hassas bilgilerini i\u00e7eren diyaloglar\u0131 bir araya getirebilir. Bu verilerin toplanmas\u0131 ve analizi s\u0131ras\u0131nda gizlilik d\u00fczenlemelerine (KVKK, GDPR) uyum sa\u011flamak ve g\u00fcvenlik \u00f6nlemlerini en \u00fcst d\u00fczeyde tutmak zorunludur. Anonimle\u015ftirme ve eri\u015fim kontrol\u00fc mekanizmalar\u0131 hayati \u00f6neme sahiptir.
\n3. Standartla\u015fma Eksikli\u011fi<\/strong>: YZ ajan\u0131 g\u00f6zlemlenebilirli\u011fi i\u00e7in hen\u00fcz evrensel olarak kabul g\u00f6rm\u00fc\u015f bir standartla\u015fma tam olarak sa\u011flanamam\u0131\u015ft\u0131r. Farkl\u0131 LLM sa\u011flay\u0131c\u0131lar\u0131, ara\u00e7lar ve framework’ler aras\u0131nda veri formatlar\u0131 ve izleme yakla\u015f\u0131mlar\u0131 farkl\u0131l\u0131k g\u00f6sterebilir. OpenTelemetry gibi giri\u015fimler bu alanda \u00f6nemli ad\u0131mlar atsa da, tam entegrasyon hala zorlay\u0131c\u0131 olabilir.
\n4. Karma\u015f\u0131kl\u0131k ve Entegrasyon<\/strong>: YZ ajanlar\u0131, \u00e7ok say\u0131da farkl\u0131 teknoloji ve servisle entegre \u00e7al\u0131\u015fan karma\u015f\u0131k sistemlerdir. Konu\u015fma kimliklerinin bu ekosistemdeki her bile\u015fen aras\u0131nda sorunsuz bir \u015fekilde yay\u0131lmas\u0131 ve t\u00fcm verilerin do\u011fru bir \u015fekilde ili\u015fkilendirilmesi, \u00f6nemli m\u00fchendislik \u00e7abas\u0131 gerektirir.
\n5. LLM’lerin “Kara Kutu” Do\u011fas\u0131<\/strong>: LLM’lerin i\u00e7 i\u015fleyi\u015fi hala bir “kara kutu” \u00f6zelli\u011fini korumaktad\u0131r. Bir LLM’in belirli bir \u00e7\u0131kt\u0131y\u0131 neden \u00fcretti\u011fini tam olarak anlamak, yaln\u0131zca d\u0131\u015far\u0131dan toplanan g\u00f6zlemlenebilirlik verileriyle s\u0131n\u0131rl\u0131d\u0131r. Modelin i\u00e7 mekanizmalar\u0131na daha derinlemesine eri\u015fim, gelecekteki g\u00f6zlemlenebilirlik \u00e7\u00f6z\u00fcmleri i\u00e7in \u00f6nemli bir ara\u015ft\u0131rma alan\u0131 olacakt\u0131r.<\/p>\nSonu\u00e7<\/h3>\n
S\u0131k\u00e7a Sorulan Sorular<\/h3>\n
\n
Konu\u015fma Kimli\u011fi (Conversation ID) nedir ve neden gereklidir?<\/h4>\n
Konu\u015fma Kimlikleri nas\u0131l olu\u015fturulur ve sistem i\u00e7inde nas\u0131l yay\u0131l\u0131r?<\/h4>\n
Konu\u015fma Kimlikleri hangi g\u00f6zlemlenebilirlik ara\u00e7lar\u0131yla entegre edilebilir?<\/h4>\n
Konu\u015fma Kimlikleri kullanmak, yapay zeka ajan\u0131 performans\u0131n\u0131 etkiler mi?<\/h4>\n
Gizlilik ve g\u00fcvenlik a\u00e7\u0131s\u0131ndan Konu\u015fma Kimlikleri kullan\u0131m\u0131nda nelere dikkat edilmelidir?<\/h4>\n