Sağlık Metinlerinde Niyet Sınıflandırma: 184M Parametreli Bir Model ile 22 Kat Düşük Gecikme

Sağlık Metinlerinde Niyet Sınıflandırma: 184M Parametreli Bir Model ile 22 Kat Düşük Gecikme

Sağlık sektörü, hızla dijitalleşen dünyada veri yoğunluğu ve anlık karar alma ihtiyacı ile karşı karşıyadır. Bu bağlamda, yapay zeka (AI) ve özellikle Büyük Dil Modelleri (LLM’ler), sağlık metinlerini anlama ve yorumlamada çığır açan potansiyeller sunmaktadır. Ancak, bu güçlü modellerin getirdiği yüksek gecikme süreleri (latency) ve hesaplama maliyetleri, kritik sağlık uygulamalarında gerçek zamanlı kullanımı zorlaştırmaktadır. Peki, hem doğruluktan ödün vermeden hem de operasyonel verimliliği artırarak sağlık hizmetlerinde devrim yaratacak düşük gecikmeli bir çözüm mümkün müdür? Bu makalede, 184 milyon parametreye sahip özel bir niyet sınıflandırıcının, genel amaçlı LLM’lere kıyasla 22 kat daha düşük gecikme ile sağlık metinlerini nasıl işleyebileceğini ve bunun sağlık hizmetleri için ne anlama geldiğini detaylıca inceleyeceğiz.

Büyük Dil Modelleri (LLM’ler) ve Sağlık Sektöründeki Yeri

Büyük Dil Modelleri (Large Language Models – LLM’ler), milyarlarca parametreye sahip, devasa metin veri kümeleri üzerinde eğitilmiş yapay zeka modelleridir. Bu modeller, insan dilini anlama, üretme, özetleme ve çevirme gibi karmaşık görevlerde inanılmaz yetenekler sergilerler. ChatGPT, GPT-4 gibi örnekler, genel amaçlı dil anlama yetenekleriyle birçok sektörde dikkat çekmiştir. Sağlık sektörü de bu potansiyelden faydalanmak istemektedir. Örneğin, doktor notlarını analiz etmek, hasta geri bildirimlerini özetlemek, tıbbi literatürü taramak veya teşhis süreçlerine yardımcı olmak gibi alanlarda LLM’ler büyük umut vaat etmektedir. Ancak, bu modellerin genel amaçlı doğası ve muazzam boyutları, beraberinde bazı zorlukları da getirmektedir.

LLM’lerin sağlık alanındaki en büyük zorluklarından biri, yüksek hesaplama gereksinimleri ve dolayısıyla ortaya çıkan gecikme süreleridir. Bir LLM’den yanıt almak, modelin boyutuna ve karmaşıklığına bağlı olarak saniyeler sürebilir. Sağlık gibi anlık müdahale ve hızlı karar alma gerektiren bir alanda, bu tür gecikmeler kabul edilemez olabilir. Acil servislerde hasta triyajı (önceliklendirme), ameliyat öncesi risk değerlendirmeleri veya ilaç etkileşimlerinin gerçek zamanlı kontrolü gibi senaryolarda saniyeler bile hayati önem taşıyabilir. Ayrıca, büyük modellerin çalıştırılması yüksek enerji tüketimi ve maliyetli donanım gerektirir ki bu da sağlık kuruluşları için önemli bir operasyonel yük oluşturur. Bu nedenle, sağlık metinlerinin hızlı ve doğru bir şekilde işlenmesi için daha optimize edilmiş, amaca özel çözümlere ihtiyaç duyulmaktadır. İşte tam da bu noktada, niyet sınıflandırıcılar devreye girer.

Niyet sınıflandırma (intent classification), bir metnin temel amacını veya niyetini belirleme görevidir. Örneğin, bir hasta “Ateşim var ve boğazım ağrıyor, ne yapmalıyım?” diye sorduğunda, sistem bu metnin niyetini “semptom sorgulama ve tavsiye talebi” olarak sınıflandırabilir. Sağlıkta bu, çağrı merkezlerinde gelen hasta sorularını doğru departmana yönlendirmek, tıbbi raporlardan belirli bilgi türlerini ayıklamak veya hasta geri bildirimlerini analiz etmek için kritik öneme sahiptir. Genel LLM’ler bu görevi yapabilirken, çoğu zaman bir çekiçle somun kırmaya benzer bir durum ortaya çıkar. Yani, çok daha az karmaşık bir modelle aynı doğrulukta ve çok daha hızlı bir şekilde yapılabilecek bir iş için aşırı kaynak kullanılır. Bu durum, sağlık hizmetlerinde verimlilik ve erişilebilirlik açısından önemli kısıtlamalar yaratır. Dolayısıyla, spesifik görevler için özelleştirilmiş, daha küçük ve daha hızlı modeller geliştirmek, LLM’lerin sunduğu potansiyeli sağlık sektörüne daha etkin bir şekilde entegre etmenin anahtarıdır.

Düşük Gecikme ve Model Büyüklüğünün Performans Üzerindeki Etkisi

Yapay zeka modellerinin sağlık sektöründeki başarısı, yalnızca doğruluk oranlarıyla değil, aynı zamanda operasyonel verimlilikleriyle de ölçülür. Bu bağlamda, gecikme (latency) ve model büyüklüğü, bir uygulamanın gerçek dünyadaki kullanılabilirliğini doğrudan etkileyen kritik faktörlerdir. Gecikme, bir modele giriş verildiği andan itibaren yanıtın alındığı ana kadar geçen süreyi ifade eder. Sağlık gibi dinamik ve çoğu zaman acil müdahale gerektiren bir alanda, düşük gecikme hayati önem taşır. Örneğin, bir doktorun veya hemşirenin hasta verilerini sorguladığı ve anında bilgiye ihtiyaç duyduğu durumlarda, saniyeler süren gecikmeler iş akışını aksatabilir, hatta hastanın sağlığı üzerinde olumsuz etkiler yaratabilir. Acil durum triyaj sistemlerinde veya sanal asistanların hasta sorularına yanıt verirken yaşanacak gecikmeler, kullanıcı memnuniyetini düşürmenin ötesinde, kritik bilgilerin zamanında iletilmesini engelleyebilir.

Model büyüklüğü ise, bir yapay zeka modelinin içerdiği parametre sayısıyla ölçülür. Milyarlarca parametreye sahip Büyük Dil Modelleri (LLM’ler), geniş bir yelpazedeki görevlerde etkileyici bir performans sergileyebilirken, bu büyüklük beraberinde yüksek hesaplama maliyetleri ve uzun gecikme süreleri getirir. Daha fazla parametre, modelin daha fazla bilgi depolayabileceği ve daha karmaşık ilişkileri öğrenebileceği anlamına gelir, ancak aynı zamanda her bir çıkarım (inference) işlemi için daha fazla işlem gücü ve bellek gerektirir. Bu durum, özellikle sınırlı kaynaklara sahip sağlık kuruluşları için hem donanım maliyetleri hem de enerji tüketimi açısından önemli bir yük oluşturur. Büyük LLM’lerin her bir sorgu için GPU’larda yüksek miktarda bellek ve işlemci gücü kullanması, aynı anda çok sayıda isteği işleme kapasitesini sınırlar ve bu da ölçeklenebilirlik sorunlarına yol açabilir.

Küçük, özelleşmiş modeller ise tam tersi bir yaklaşım sunar. Belirli bir görev için tasarlanmış ve optimize edilmiş bu modeller, çok daha az parametreye sahip olabilirler. 184 milyon parametreli bir model, genel amaçlı milyarlarca parametreli bir LLM’ye kıyasla oldukça küçüktür. Bu küçüklük, modelin daha az hesaplama kaynağı tüketmesini, daha hızlı yanıt vermesini ve daha uygun maliyetle çalışmasını sağlar. Sağlık metinlerinde niyet sınıflandırma gibi spesifik bir görev için, modelin tüm dilin inceliklerini öğrenmesine gerek yoktur; sadece ilgili niyetleri ayırt etme yeteneğine odaklanması yeterlidir. Bu sayede, gereksiz karmaşıklıktan kaçınılarak hem gecikme süreleri dramatik bir şekilde azaltılabilir hem de modelin doğruluğu, belirli alan için özel olarak eğitildiği için yüksek seviyede tutulabilir. Özetle, sağlık sektöründe “tek beden herkese uyar” yaklaşımı yerine, göreve özel optimize edilmiş modeller kullanmak, performansı ve maliyet etkinliğini dengeleyerek gerçek zamanlı yapay zeka uygulamalarının kapılarını aralamaktadır.

184M Parametreli Niyet Sınıflandırıcı Modelin Mimari Yaklaşımı ve Optimizasyonu

Sağlık metinlerinde yüksek doğrulukla niyet sınıflandırması yaparken, aynı zamanda 22 kat daha düşük gecikme süreleri elde etmek, özel bir mimari yaklaşım ve agresif optimizasyon teknikleri gerektirir. 184 milyon parametreli bir model, genel amaçlı devasa LLM’lere kıyasla daha küçük bir ayak izine sahip olsa da, hala karmaşık bir yapıya sahiptir ve performans için dikkatli bir mühendislik çalışması şarttır. Bu tür bir modelin temelinde genellikle Transformer (Dönüştürücü) mimarisi bulunur. Transformer’lar, dikkat mekanizması (attention mechanism) sayesinde metin içindeki uzun mesafeli bağımlılıkları yakalama konusunda son derece başarılıdır ve doğal dil işleme (NLP) görevlerinde standart haline gelmiştir. Ancak, standart bir Transformer modelini doğrudan kullanmak yerine, sağlık metinlerinin özelliklerine göre özelleştirilmiş ve hafifletilmiş varyantları tercih edilir.

Modelin mimarisi genellikle önceden eğitilmiş bir temel model (pre-trained base model) üzerine inşa edilir. Örneğin, BERT (Bidirectional Encoder Representations from Transformers) veya onun daha küçük versiyonları (distilBERT, ALBERT gibi) iyi bir başlangıç noktası olabilir. Bu modeller, genel dil anlayışına sahip olduklarından, sağlık metinleri gibi spesifik bir alana adapte edilmeleri için ince ayar (fine-tuning) işlemine tabi tutulurlar. İnce ayar sürecinde, model, büyük miktarda etiketlenmiş sağlık metni verisi üzerinde eğitilir. Bu veriler, farklı tıbbi niyetleri (örneğin, “randevu talebi”, “ilaç sorgulama”, “semptom bildirimi”) temsil eden örnekleri içerir. Bu sayede model, sağlık alanına özgü terminolojiyi, cümle yapılarını ve niyet kalıplarını öğrenir. Bu özelleştirme, modelin sağlık bağlamında daha doğru ve güvenilir kararlar vermesini sağlar.

22 kat daha düşük gecikmeyi sağlamak için yalnızca modelin boyutunu küçültmek yeterli değildir; aynı zamanda çıkarım (inference) sürecini hızlandıracak çeşitli optimizasyon teknikleri de uygulanmalıdır. Bu tekniklerden bazıları şunlardır:

• Nicelendirme (Quantization): Model parametrelerinin daha az bit kullanarak temsil edilmesidir. Örneğin, 32-bit kayan nokta sayılar yerine 8-bit tam sayıları kullanmak, model boyutunu ve hesaplama gereksinimlerini önemli ölçüde azaltır. Bu, modelin doğruluğunda minimal bir düşüşe neden olabilir, ancak hızda büyük bir artış sağlar.
• Bilgi Damıtma (Knowledge Distillation): Daha büyük ve karmaşık bir “öğretmen” modelin bilgisini, daha küçük ve basit bir “öğrenci” modele aktarma tekniğidir. Öğrenci model, öğretmen modelin çıktılarından öğrenerek benzer bir performans sergileyebilir ancak çok daha hızlı çalışır.
• Verimli Çıkarım Motorları: ONNX Runtime, TensorRT veya OpenVINO gibi özel çıkarım motorları (inference engines) kullanmak, modelin donanım üzerinde çok daha verimli çalışmasını sağlar. Bu motorlar, model grafiklerini optimize eder, çekirdek operasyonları birleştirir ve donanıma özel hızlandırmalardan faydalanır.
• Toplu İşleme (Batching): Birden fazla sorguyu aynı anda işleyerek GPU veya CPU kullanımını optimize etmektir. Tek bir sorgu yerine, belirli sayıda sorguyu bir araya getirip tek seferde işlemek, genel verimliliği artırır.

Bu optimizasyonlar, 184 milyon parametreli niyet sınıflandırıcı modelin, genel amaçlı LLM’lerin sunduğu doğruluk seviyesine yakın bir performans sergilerken, sağlık hizmetlerinin gerektirdiği hız ve maliyet etkinliği hedeflerine ulaşmasını mümkün kılar. Özellikle bulut tabanlı sistemlerde veya kenar bilişim (edge computing) cihazlarında bu tür optimize edilmiş modeller, gerçek zamanlı sağlık uygulamalarının omurgasını oluşturabilir.

Sağlık Metinlerinde Niyet Sınıflandırıcının Gerçek Dünya Uygulamaları

184 milyon parametreli, düşük gecikmeli niyet sınıflandırıcı modelin sağlık sektöründeki potansiyeli, sadece teorik bir kavram olmaktan öte, somut gerçek dünya senaryolarında büyük bir fark yaratabilir. Sağlık hizmetlerinin her alanında, hasta odaklı süreçleri hızlandırmak, kaynakları daha verimli kullanmak ve nihayetinde hasta deneyimini iyileştirmek için bu tür teknolojilere ihtiyaç duyulmaktadır. İşte bu modelin kullanılabileceği bazı kritik uygulama alanları ve vaka analizleri:

Hasta Çağrı Merkezlerinde Otomatik Yönlendirme ve Triyaj

Bir hastane veya klinik çağrı merkezini düşünün. Günde yüzlerce, hatta binlerce çağrı alınıyor. Hastalar randevu almak, ilaç sormak, semptomlarını bildirmek veya tıbbi bir acil durum hakkında bilgi almak için arıyorlar. Geleneksel olarak, bir operatör her çağrıyı dinleyip manuel olarak doğru departmana veya uzmana yönlendirir. Bu süreç zaman alıcıdır ve insan hatasına açıktır. Düşük gecikmeli niyet sınıflandırıcı, gelen çağrıların sesli metin çevirilerini veya yazılı mesajlarını anında analiz ederek hastanın niyetini belirleyebilir. Örneğin, “Göğüs ağrım var ve nefes almakta zorlanıyorum” gibi bir ifadeyi “Acil durum, kardiyoloji yönlendirmesi” olarak sınıflandırıp, çağrıyı öncelikli olarak ilgili birime aktarabilir. “Doktor X’ten randevu almak istiyorum” ifadesini ise “Randevu talebi, sekreterliğe yönlendirme” olarak etiketleyebilir. Bu, çağrı bekleme sürelerini kısaltır, acil durumların daha hızlı ele alınmasını sağlar ve çağrı merkezi operasyonlarının verimliliğini önemli ölçüde artırır. Türkiye’deki büyük şehir hastanelerinin yoğun çağrı merkezlerinde bu sistem, hasta memnuniyetini artırırken operasyonel maliyetleri düşürebilir.

Elektronik Sağlık Kayıtlarından (EHR) Bilgi Çıkarımı

Elektronik Sağlık Kayıtları (EHR), hastaların tıbbi geçmişleri, teşhisleri, tedavi planları ve ilaç bilgileri gibi çok değerli verileri içerir. Ancak, bu kayıtların büyük bir kısmı serbest metin formatında yazılmış doktor notlarından, konsültasyon raporlarından veya laboratuvar sonuçlarından oluşur. Bu metinlerden spesifik bilgileri manuel olarak çıkarmak, araştırmacılar ve sağlık profesyonelleri için zaman alıcı ve yorucu bir iştir. Niyet sınıflandırıcılar, EHR’lerdeki metinleri tarayarak belirli niyetleri veya bilgi türlerini hızlıca tespit edebilir. Örneğin, bir doktor notunda “Hasta, son iki haftadır şiddetli baş ağrısı şikayetiyle başvurdu” cümlesini “Semptom bildirimi” olarak, “Parasetamol 500 mg, günde 3 kez” ifadesini ise “İlaç reçetesi” olarak sınıflandırabilir. Bu sayede, araştırmacılar belirli semptomlara sahip hastaları kolayca bulabilir, belirli ilaçların yan etkilerini takip edebilir veya tedavi sonuçlarını analiz edebilir. Bu, özellikle büyük ölçekli klinik araştırmalar ve epidemiyolojik çalışmalar için paha biçilmez bir hız ve doğruluk sağlar.

Semptom Analizi ve Ön Yönlendirme

Mobil sağlık uygulamaları veya web tabanlı hasta portalları aracılığıyla hastalar, semptomlarını veya sağlıkla ilgili endişelerini metin olarak girebilirler. Niyet sınıflandırıcı, bu girişleri anında analiz ederek hastanın durumunun ciddiyetini ve olası niyetini belirleyebilir. Örneğin, “Sabah uyandığımda sol kolumda uyuşma ve karıncalanma hissettim” diyen bir hastanın niyetini “Nörolojik semptom sorgulama, acil değerlendirme gerekli” olarak sınıflandırabilir ve hastayı doğrudan bir sanal asistan veya acil servis hattına yönlendirebilir. Daha az acil durumlarda ise (örneğin, “Grip aşısı hakkında bilgi almak istiyorum”), ilgili bilgi kaynaklarına veya randevu alma sayfasına yönlendirme yapabilir. Bu, hastaların doğru zamanda doğru bakıma erişmesini sağlarken, sağlık sisteminin üzerindeki yükü hafifletir ve gereksiz acil servis ziyaretlerini azaltır.

İlaç Yan Etki Raporlama ve Farmakovijilans

İlaçların piyasaya sürülmesinden sonra, gerçek dünyadaki yan etkilerinin izlenmesi (farmakovijilans) büyük önem taşır. Hastalar, ilaç yan etkilerini sosyal medyada, forumlarda veya doğrudan sağlık kuruluşlarına bildirebilirler. Bu metin verilerinin manuel olarak taranması ve sınıflandırılması oldukça zordur. Düşük gecikmeli niyet sınıflandırıcı, bu tür metinleri otomatik olarak analiz ederek “ilaç yan etki bildirimi” niyetini taşıyan içerikleri tespit edebilir. Örneğin, “Yeni başladığım tansiyon ilacı yüzünden sürekli başım dönüyor” gibi bir cümleyi algılayıp, ilgili ilaç ve yan etki bilgisini otomatik olarak farmakovijilans sistemlerine iletebilir. Bu, potansiyel risk sinyallerinin daha hızlı tespit edilmesini ve halk sağlığı için önemli kararların daha çabuk alınmasını sağlar. Bu tür bir sistem, Sağlık Bakanlığı’nın veya ilaç firmalarının yan etki izleme süreçlerini büyük ölçüde hızlandırabilir.

Bu örnekler de gösteriyor ki, 184 milyon parametreli, optimize edilmiş bir niyet sınıflandırıcının sağlık sektöründe kullanımı, sadece operasyonel verimliliği artırmakla kalmayıp, aynı zamanda hasta güvenliğini ve bakım kalitesini de yükseltme potansiyeline sahiptir. Düşük gecikme, bu kritik uygulamaların gerçek zamanlı ve güvenilir bir şekilde çalışmasını sağlayan temel faktördür.

Kendi Sağlık Odaklı Niyet Sınıflandırıcınızı Geliştirme Adımları

Sağlık metinleri için özelleştirilmiş, düşük gecikmeli bir niyet sınıflandırıcısı geliştirmek, dikkatli planlama ve uygulama gerektiren çok adımlı bir süreçtir. Bu bölümde, kendi modelinizi oluşturmak için izleyebileceğiniz temel adımları ve kullanabileceğiniz bazı araçları ele alacağız. Bu süreç, özellikle Python tabanlı makine öğrenimi (machine learning) kütüphaneleri ve önceden eğitilmiş dil modelleri (pre-trained language models) etrafında döner.

1. Veri Toplama ve Etiketleme

Herhangi bir yapay zeka modelinin başarısının anahtarı, kaliteli veridir. Sağlık metinlerinde niyet sınıflandırması için, modelinizi eğiteceğiniz ve test edeceğiniz, etiketlenmiş (labeled) bir veri setine ihtiyacınız olacaktır. Bu veriler, gerçek hasta sorguları, doktor notları, tıbbi forumlardaki paylaşımlar veya sağlıkla ilgili çağrı merkezi transkriptleri olabilir. Veri toplarken, hasta gizliliğine (HIPAA, KVKK gibi düzenlemelere) kesinlikle uyulması gerektiğini unutmayın. Anonimleştirme (anonymization) ve veri maskeleme (data masking) teknikleri kullanılmalıdır.

Topladığınız her metin örneği için, o metnin temsil ettiği niyeti açıkça belirten bir etiket atamalısınız. Örneğin:

• “Ateşim var ve öksürüyorum, ne yapmalıyım?” -> Semptom_Sorgulama
• “Doktor Ayşe Yılmaz’dan randevu almak istiyorum.” -> Randevu_Talebi
• “Yeni ilacım hakkında bilgi alabilir miyim?” -> İlaç_Bilgisi_Sorgulama
• “Kan sonuçlarım ne zaman çıkar?” -> Sonuç_Sorgulama

Bu etiketleme süreci, genellikle alan uzmanları (doktorlar, hemşireler) veya iyi eğitilmiş veri etiketleyiciler tarafından yapılır. Yeterli ve dengeli bir veri seti oluşturmak, modelinizin farklı niyetleri doğru bir şekilde ayırt etmesi için kritik öneme sahiptir.

2. Önceden Eğitilmiş Model Seçimi ve İnce Ayar (Fine-tuning)

Sıfırdan bir dil modeli eğitmek yerine, mevcut önceden eğitilmiş bir modeli (pre-trained model) kullanmak çok daha verimli ve yaygın bir yaklaşımdır. Hugging Face Transformers kütüphanesi, bu konuda geniş bir model yelpazesi sunar. 184 milyon parametreli bir model için, BERT’in daha küçük versiyonları (örneğin, bert-base-uncased gibi modellerin ince ayarlanmış halleri veya domain-specific BERT modelleri) veya DistilBERT, RoBERTa gibi daha hafif modeller iyi seçenekler olabilir.

Model seçildikten sonra, topladığınız etiketli veri seti üzerinde ince ayar (fine-tuning) yapmanız gerekir. Bu süreçte, modelin son katmanları (classification head) spesifik niyet sınıflandırma göreviniz için yeniden eğitilirken, alt katmanlardaki genel dil bilgisi korunur. Aşağıda, Hugging Face Transformers ile basit bir ince ayar sürecini gösteren konseptsel bir kod örneği bulunmaktadır:

from transformers import AutoTokenizer, AutoModelForSequenceClassification, TrainingArguments, Trainer

from datasets import Dataset

import pandas as pd

import numpy as np

# 1. Veri Hazırlığı (Örnek DataFrame)

data = {

    'text': [

        "Ateşim var ve öksürüyorum, ne yapmalıyım?",

        "Doktor Ayşe Yılmaz'dan randevu almak istiyorum.",

        "Yeni ilacım hakkında bilgi alabilir miyim?",

        "Kan sonuçlarım ne zaman çıkar?",

        "Sol kolumda uyuşma var.",

        "Ağrı kesici reçetesi istiyorum."

    ],

    'label': [

        "Semptom_Sorgulama",

        "Randevu_Talebi",

        "İlaç_Bilgisi_Sorgulama",

        "Sonuç_Sorgulama",

        "Semptom_Sorgulama",

        "Reçete_Talebi"

    ]

}

df = pd.DataFrame(data)
# Etiketleri sayısal değerlere dönüştürme

unique_labels = df['label'].unique()

label_to_id = {label: i for i, label in enumerate(unique_labels)}

id_to_label = {i: label for i, label in enumerate(unique_labels)}

df['label_id'] = df['label'].map(label_to_id)
# Dataset objesine dönüştürme

dataset = Dataset.from_pandas(df)