Ajan sistemlerin g\u00fcvenilirli\u011fini ve dayan\u0131kl\u0131l\u0131\u011f\u0131n\u0131 art\u0131rmak i\u00e7in ge\u00e7ersiz giri\u015fleri kesinlikle reddetmesi neden hayati \u00f6nem ta\u015f\u0131r? Bu makale, ajan yamalar\u0131n\u0131n test s\u00fcre\u00e7lerinde kullan\u0131labilecek \u00f6zel bir “reddetme corpus’u” olu\u015fturman\u0131n inceliklerini ve pratik ad\u0131mlar\u0131n\u0131 ele al\u0131yor. Yaz\u0131l\u0131m d\u00fcnyas\u0131nda, \u00f6zellikle yapay zeka (YZ) tabanl\u0131 ajanlar\u0131n yayg\u0131nla\u015fmas\u0131yla birlikte, sistemlerin beklenmedik veya hatal\u0131 girdilere nas\u0131l tepki verdi\u011fi giderek daha kritik bir hal alm\u0131\u015ft\u0131r. \u00c7o\u011fu zaman, sistemlerin “zarif\u00e7e ba\u015far\u0131s\u0131z olmas\u0131” (graceful failure) istenir; ancak bu, ge\u00e7ersiz girdiler s\u00f6z konusu oldu\u011funda yan\u0131lt\u0131c\u0131 bir yakla\u015f\u0131m olabilir. Ger\u00e7ekten de, baz\u0131 durumlarda ge\u00e7ersiz bir girdinin a\u00e7\u0131k\u00e7a reddedilmesi, sistemin b\u00fct\u00fcnl\u00fc\u011f\u00fcn\u00fc, g\u00fcvenli\u011fini ve \u00f6ng\u00f6r\u00fclebilirli\u011fini sa\u011flamak i\u00e7in tek do\u011fru yoldur.<\/p>\n
G\u00fcn\u00fcm\u00fcz\u00fcn dijital ekosisteminde, yaz\u0131l\u0131m ajanlar\u0131 hayat\u0131m\u0131z\u0131n bir\u00e7ok alan\u0131nda kar\u015f\u0131m\u0131za \u00e7\u0131k\u0131yor: ak\u0131ll\u0131 asistanlardan end\u00fcstriyel otomasyon sistemlerine, finansal i\u015flem robotlar\u0131ndan sa\u011fl\u0131k hizmetlerindeki te\u015fhis destek sistemlerine kadar geni\u015f bir yelpazede faaliyet g\u00f6steriyorlar. Bu ajanlar\u0131n karma\u015f\u0131kl\u0131\u011f\u0131 artt\u0131k\u00e7a, ald\u0131klar\u0131 girdilerin \u00e7e\u015fitlili\u011fi ve potansiyel hata kaynaklar\u0131 da \u00e7o\u011falmaktad\u0131r. Peki, bir ajan ge\u00e7ersiz bir giri\u015fle kar\u015f\u0131la\u015ft\u0131\u011f\u0131nda ne yapmal\u0131d\u0131r? “Hata vermeden devam et” veya “en iyi tahmini yap” gibi yakla\u015f\u0131mlar ilk bak\u0131\u015fta kullan\u0131c\u0131 dostu gibi g\u00f6r\u00fcnse de, uzun vadede ciddi sorunlara yol a\u00e7abilir. Asl\u0131nda, \u00e7o\u011fu senaryoda, ge\u00e7ersiz bir giri\u015fin a\u00e7\u0131k\u00e7a ve kararl\u0131l\u0131kla reddedilmesi, sistemin g\u00fcvenilirli\u011fi ve b\u00fct\u00fcnl\u00fc\u011f\u00fc a\u00e7\u0131s\u0131ndan \u00e7ok daha sa\u011fl\u0131kl\u0131 bir yakla\u015f\u0131md\u0131r.<\/p>\n
Ge\u00e7ersiz giri\u015fleri “yutmak” veya “d\u00fczeltmeye \u00e7al\u0131\u015fmak”, genellikle g\u00f6r\u00fcnmez hatalara, yanl\u0131\u015f hesaplamalara, g\u00fcvenlik a\u00e7\u0131klar\u0131na ve tahmin edilemez davran\u0131\u015flara zemin haz\u0131rlar. \u00d6rne\u011fin, bir finansal ajan hatal\u0131 bir d\u00f6viz kuru verisini sessizce i\u015fledi\u011finde, milyonlarca liral\u0131k zarara yol a\u00e7abilir. Ya da bir ak\u0131ll\u0131 ev sistemi, anlams\u0131z bir sesli komutu yanl\u0131\u015f yorumlayarak istenmeyen bir eylemi tetikleyebilir. Bu t\u00fcr durumlar, sadece maddi kay\u0131plara de\u011fil, ayn\u0131 zamanda kullan\u0131c\u0131 g\u00fcveninin sars\u0131lmas\u0131na ve sistemin itibar\u0131n\u0131n zedelenmesine de neden olur. Bu nedenle, ajanlar\u0131n, \u00f6zellikle de kritik g\u00f6revler \u00fcstlenenlerin, ge\u00e7ersiz girdileri net bir \u015fekilde tan\u0131mlay\u0131p reddetme yetene\u011fi, temel bir gereksinim haline gelmi\u015ftir. Bu reddetme s\u00fcrecinin etkinli\u011fini test etmek ve s\u00fcrd\u00fcrmek i\u00e7in ise \u00f6zel bir “reddetme corpus’u” (must-reject corpus) olu\u015fturmak elzemdir.<\/p>\n
Bu makale boyunca, ajan yamalar\u0131n\u0131n (agent patches) sistem \u00fczerindeki etkilerini, ge\u00e7ersiz giri\u015flerin neden bu kadar kritik bir sorun oldu\u011funu ve bu sorunu \u00e7\u00f6zmek i\u00e7in nas\u0131l sa\u011flam bir “reddetme veri k\u00fcmesi” (corpus) olu\u015fturulaca\u011f\u0131n\u0131 detayl\u0131 bir \u015fekilde inceleyece\u011fiz. Ayr\u0131ca, ger\u00e7ek d\u00fcnya senaryolar\u0131ndan \u00f6rnekler sunarak, bu yakla\u015f\u0131m\u0131n neden vazge\u00e7ilmez oldu\u011funu vurgulayacak ve bu stratejinin otomatik test s\u00fcre\u00e7lerine nas\u0131l entegre edilebilece\u011fini g\u00f6sterece\u011fiz. Amac\u0131m\u0131z, geli\u015ftiricilere ve test m\u00fchendislerine, ajan sistemlerinin gelecekteki yamalar\u0131na kar\u015f\u0131 dayan\u0131kl\u0131l\u0131\u011f\u0131n\u0131 art\u0131rmak i\u00e7in pratik ve uygulanabilir bir yol haritas\u0131 sunmakt\u0131r. Bu sayede, ajanlar\u0131m\u0131z\u0131n sadece i\u015flevsel de\u011fil, ayn\u0131 zamanda her t\u00fcrl\u00fc beklenmedik duruma kar\u015f\u0131 g\u00fcvenilir ve sa\u011flam olmas\u0131n\u0131 sa\u011flayabiliriz. Ge\u00e7ersiz giri\u015flerin ba\u015far\u0131s\u0131z olmas\u0131 gerekti\u011fi ilkesi, asl\u0131nda sistemlerimizin sa\u011fl\u0131\u011f\u0131n\u0131 korumak i\u00e7in att\u0131\u011f\u0131m\u0131z ilk ve en \u00f6nemli ad\u0131md\u0131r.<\/p>\n
Yaz\u0131l\u0131m d\u00fcnyas\u0131nda “ajan” (agent) terimi, belirli bir ortamda otonom olarak hareket edebilen, alg\u0131layabilen ve karar verebilen yaz\u0131l\u0131m varl\u0131klar\u0131n\u0131 ifade eder. Bu ajanlar, basit bir otomasyon beti\u011finden (script) karma\u015f\u0131k bir yapay zeka sistemine kadar geni\u015f bir yelpazede olabilir. \u00d6rne\u011fin, bir sohbet robotu (chatbot), bir end\u00fcstriyel robot kontrol yaz\u0131l\u0131m\u0131, bir siber g\u00fcvenlik izleme arac\u0131 veya bir ak\u0131ll\u0131 sens\u00f6r a\u011f\u0131, hepsi birer ajan olarak kabul edilebilir. Bu ajanlar, zamanla yeni \u00f6zellikler eklenmesi, performans iyile\u015ftirmeleri yap\u0131lmas\u0131 veya bulunan hatalar\u0131n giderilmesi amac\u0131yla g\u00fcncellemeler al\u0131r. \u0130\u015fte bu g\u00fcncellemelere “yama” (patch) denir. Yamalar, ajanlar\u0131n daha iyi \u00e7al\u0131\u015fmas\u0131n\u0131 sa\u011flamak i\u00e7in kritik \u00f6neme sahiptir, ancak ayn\u0131 zamanda yeni sorunlar\u0131 da beraberinde getirme potansiyeli ta\u015f\u0131rlar.<\/p>\n
Bir yama uyguland\u0131\u011f\u0131nda, geli\u015ftiriciler genellikle ana odaklar\u0131n\u0131 yeni eklenen \u00f6zelliklerin veya giderilen hatalar\u0131n do\u011fru \u00e7al\u0131\u015f\u0131p \u00e7al\u0131\u015fmad\u0131\u011f\u0131na yo\u011funla\u015ft\u0131r\u0131r. Ancak, yaman\u0131n mevcut i\u015flevleri bozmad\u0131\u011f\u0131ndan, yani “gerileme” (regression) yaratmad\u0131\u011f\u0131ndan emin olmak da ayn\u0131 derecede \u00f6nemlidir. \u00d6zellikle ajanlar\u0131n ald\u0131\u011f\u0131 girdileri i\u015fleme bi\u00e7imleri, yamalarla birlikte beklenmedik \u015fekillerde de\u011fi\u015febilir. Bir yama, ge\u00e7erli bir girdiyi daha \u00f6nce oldu\u011fu gibi i\u015flemeye devam ederken, daha \u00f6nce do\u011fru bir \u015fekilde reddedilen ge\u00e7ersiz bir girdiyi art\u0131k kabul etmeye ba\u015flayabilir veya tam tersi bir durum ortaya \u00e7\u0131kabilir. Bu t\u00fcr gerilemeler, ajan sistemlerinin “g\u00fcvenilirli\u011fini” (reliability) do\u011frudan etkiler. G\u00fcvenilirlik, bir sistemin belirli bir s\u00fcre boyunca, belirli ko\u015fullar alt\u0131nda, belirtilen i\u015flevleri hatas\u0131z bir \u015fekilde yerine getirme yetene\u011fidir.<\/p>\n
Ajanlar i\u00e7in g\u00fcvenilirlik, sadece do\u011fru \u00e7\u0131kt\u0131 \u00fcretmekle s\u0131n\u0131rl\u0131 de\u011fildir; ayn\u0131 zamanda hatal\u0131 veya beklenmedik durumlara kar\u015f\u0131 dayan\u0131kl\u0131l\u0131k anlam\u0131na da gelir. Ge\u00e7ersiz giri\u015fler, bu dayan\u0131kl\u0131l\u0131\u011f\u0131 test eden en \u00f6nemli unsurlardan biridir. E\u011fer bir ajan, ge\u00e7ersiz bir girdiyi do\u011fru bir \u015fekilde reddedemezse, bu durum zincirleme bir reaksiyona yol a\u00e7abilir: yanl\u0131\u015f dahili durumlar, hatal\u0131 kararlar, g\u00fcvenlik a\u00e7\u0131klar\u0131 veya sistemin tamamen \u00e7\u00f6kmesi. Bu nedenle, ajan yamalar\u0131 yay\u0131nlanmadan \u00f6nce, sadece yeni i\u015flevlerin de\u011fil, ayn\u0131 zamanda sistemin ge\u00e7ersiz giri\u015flere kar\u015f\u0131 mevcut direncinin de bozulmad\u0131\u011f\u0131ndan emin olmak hayati \u00f6nem ta\u015f\u0131r. Bu, kapsaml\u0131 bir gerileme testi (regression testing) stratejisi gerektirir ve bu stratejinin merkezinde, ajanlar\u0131n kesinlikle reddetmesi gereken girdileri i\u00e7eren \u00f6zel bir “reddetme veri k\u00fcmesi” (must-reject corpus) bulunmal\u0131d\u0131r. Bu veri k\u00fcmesi, her yama uyguland\u0131\u011f\u0131nda, ajan\u0131m\u0131z\u0131n hala “do\u011fru bir \u015fekilde ba\u015far\u0131s\u0131z oldu\u011funu” teyit etmemizi sa\u011flar. Ajanlar\u0131n otonom do\u011fas\u0131 g\u00f6z \u00f6n\u00fcne al\u0131nd\u0131\u011f\u0131nda, bir kez da\u011f\u0131t\u0131ld\u0131klar\u0131nda s\u00fcrekli denetim alt\u0131nda tutulmalar\u0131 zor olabilir; bu da ba\u015flang\u0131\u00e7taki testlerin sa\u011flaml\u0131\u011f\u0131n\u0131n ne kadar kritik oldu\u011funu bir kez daha ortaya koyar. G\u00fcvenilirlik, kullan\u0131c\u0131lar\u0131n sisteme olan inanc\u0131n\u0131 peki\u015ftirir ve ajanlar\u0131n ger\u00e7ek d\u00fcnya ortamlar\u0131nda ba\u015far\u0131l\u0131 bir \u015fekilde faaliyet g\u00f6stermesini sa\u011flar.<\/p>\n
Ge\u00e7ersiz giri\u015f (invalid input), bir yaz\u0131l\u0131m sisteminin veya ajan\u0131n bekledi\u011fi format, de\u011fer aral\u0131\u011f\u0131, t\u00fcr veya anlamsal yap\u0131ya uymayan her t\u00fcrl\u00fc veridir. Bu, basit bir say\u0131 beklenen yere metin girilmesinden, karma\u015f\u0131k bir komutun s\u00f6zdizimsel olarak hatal\u0131 olmas\u0131na veya g\u00fcvenlik a\u00e7\u0131s\u0131ndan riskli karakterler i\u00e7ermesine kadar geni\u015f bir yelpazeyi kapsar. Ge\u00e7ersiz giri\u015fler, genellikle k\u00f6t\u00fc niyetli sald\u0131r\u0131lar, kullan\u0131c\u0131 hatalar\u0131, entegre sistemlerden gelen bozuk veriler veya yaz\u0131l\u0131m hatalar\u0131 gibi \u00e7e\u015fitli kaynaklardan kaynaklanabilir. Her ne kadar “hata” olarak adland\u0131r\u0131lsa da, bu t\u00fcr girdilerin sistem \u00fczerindeki potansiyel etkileri, basit bir uyar\u0131 mesaj\u0131n\u0131n \u00e7ok \u00f6tesine ge\u00e7ebilir ve bu nedenle kritik bir sorun olarak ele al\u0131nmal\u0131d\u0131r.<\/p>\n
Ge\u00e7ersiz giri\u015flerin neden bu kadar kritik oldu\u011funu anlamak i\u00e7in, yol a\u00e7abilece\u011fi potansiyel sorunlara yak\u0131ndan bakmak gerekir:<\/p>\n
Bu nedenlerle, ge\u00e7ersiz giri\u015flerin sadece bir “hata” olarak de\u011fil, potansiyel bir felaket kayna\u011f\u0131 olarak g\u00f6r\u00fclmesi ve kesinlikle reddedilmesi esast\u0131r. Bu reddetme mekanizmas\u0131n\u0131n sa\u011flaml\u0131\u011f\u0131n\u0131 test etmek ve her yama sonras\u0131nda bu sa\u011flaml\u0131\u011f\u0131n devam etti\u011finden emin olmak i\u00e7in \u00f6zel bir “reddetme corpus’u” olu\u015fturmak, ajan sistemlerinin uzun \u00f6m\u00fcrl\u00fc ve g\u00fcvenilir olmas\u0131 i\u00e7in at\u0131lmas\u0131 gereken kritik bir ad\u0131md\u0131r.<\/p>\n
Bir ajan sisteminin ge\u00e7ersiz giri\u015flere kar\u015f\u0131 dayan\u0131kl\u0131l\u0131\u011f\u0131n\u0131 sa\u011flamak ve s\u00fcrd\u00fcrmek i\u00e7in “reddetme corpus’u” (must-reject corpus) olu\u015fturmak, proaktif bir test stratejisinin temelini olu\u015fturur. Bu corpus, ajan taraf\u0131ndan kesinlikle reddedilmesi gereken t\u00fcm bilinen ge\u00e7ersiz giri\u015f senaryolar\u0131n\u0131 i\u00e7eren \u00f6zel bir veri k\u00fcmesidir. Amac\u0131, her yeni yama veya kod de\u011fi\u015fikli\u011finden sonra, ajan\u0131n hala bu t\u00fcr girdileri do\u011fru bir \u015fekilde tan\u0131mlay\u0131p reddetti\u011fini otomatik olarak do\u011frulamakt\u0131r. Bu sayede, “gerileme hatalar\u0131” (regression bugs) nedeniyle g\u00fcvenlik a\u00e7\u0131klar\u0131n\u0131n veya karars\u0131zl\u0131klar\u0131n yeniden ortaya \u00e7\u0131kmas\u0131 engellenir.<\/p>\n
Reddetme corpus’unun \u00f6nemi, ajanlar\u0131n s\u00fcrekli evrim ge\u00e7iren do\u011fas\u0131nda yatar. Yeni \u00f6zellikler eklendik\u00e7e, mevcut kod taban\u0131nda de\u011fi\u015fiklikler yap\u0131l\u0131r ve bu de\u011fi\u015fiklikler, daha \u00f6nce do\u011fru \u00e7al\u0131\u015fan giri\u015f do\u011frulama (input validation) mant\u0131\u011f\u0131n\u0131 istemeden bozabilir. Bir reddetme corpus’u olmadan, geli\u015ftiricilerin her yama sonras\u0131 manuel olarak y\u00fczlerce veya binlerce ge\u00e7ersiz giri\u015f senaryosunu test etmesi neredeyse imkans\u0131zd\u0131r. Otomatikle\u015ftirilmi\u015f bir reddetme corpus’u ise bu s\u00fcreci h\u0131zland\u0131r\u0131r, tutarl\u0131l\u0131k sa\u011flar ve insan hatas\u0131 riskini azalt\u0131r.<\/p>\n
Etkili bir reddetme corpus’u olu\u015fturman\u0131n ilk ad\u0131m\u0131, hangi giri\u015flerin ge\u00e7ersiz oldu\u011funu kapsaml\u0131 bir \u015fekilde belirlemektir. Bu s\u00fcre\u00e7, sadece teknik spesifikasyonlar\u0131 de\u011fil, ayn\u0131 zamanda olas\u0131 k\u00f6t\u00fc niyetli kullan\u0131m senaryolar\u0131n\u0131 da dikkate almal\u0131d\u0131r. \u0130\u015fte baz\u0131 metodolojiler:<\/p>\n
Senaryolar belirlendikten sonra, bu senaryolara kar\u015f\u0131l\u0131k gelen somut giri\u015f verileri toplanmal\u0131 ve d\u00fczenlenmelidir. Bu veri k\u00fcmesi, genellikle bir metin dosyas\u0131, CSV dosyas\u0131, JSON veya XML format\u0131nda saklan\u0131r ve her bir giri\u015f i\u00e7in beklenen reddetme nedeni (\u00f6rne\u011fin, “ge\u00e7ersiz format”, “aral\u0131k d\u0131\u015f\u0131”, “g\u00fcvenlik riski”) de belirtilir. Kategorizasyon, test sonu\u00e7lar\u0131n\u0131n yorumlanmas\u0131n\u0131 kolayla\u015ft\u0131r\u0131r ve hangi t\u00fcr ge\u00e7ersizliklerin ajan taraf\u0131ndan iyi ele al\u0131nd\u0131\u011f\u0131n\u0131, hangilerinin iyile\u015ftirme gerektirdi\u011fini anlamaya yard\u0131mc\u0131 olur.<\/p>\n
\n# \u00d6rnek bir reddetme corpus'u (JSON format\u0131nda)\n[\n {\n \"id\": \"INV001\",\n \"input\": \"ya\u015f=-5\",\n \"expected_rejection_reason\": \"aral\u0131k_d\u0131\u015f\u0131\",\n \"description\": \"Negatif ya\u015f de\u011feri\"\n },\n {\n \"id\": \"INV002\",\n \"input\": \"ya\u015f=y\u00fczelli\",\n \"expected_rejection_reason\": \"ge\u00e7ersiz_format\",\n \"description\": \"Say\u0131 yerine metin ya\u015f de\u011feri\"\n },\n {\n \"id\": \"INV003\",\n \"input\": \"kullan\u0131c\u0131=' OR 1=1 --\",\n \"expected_rejection_reason\": \"g\u00fcvenlik_riski_sql_injection\",\n \"description\": \"SQL enjeksiyonu denemesi\"\n },\n {\n \"id\": \"INV004\",\n \"input\": \"