SvelteKit Uygulamalarında OpenAI Moderasyon API ile İçerik Denetimi Ekleme
Günümüz web uygulamalarında kullanıcı tarafından oluşturulan içerik (UGC), platformların canlılığını ve etkileşimini artırsa da, beraberinde önemli zorlukları da getirir. Zararlı, uygunsuz veya yasa dışı içeriklerin yayılmasını önlemek, hem kullanıcı güvenliği hem de platformun itibarı için kritik öneme sahiptir. Bu makalede, modern ve performans odaklı bir web çatısı olan SvelteKit ile yapay zeka devi OpenAI’ın güçlü Moderasyon API’sini entegre ederek, uygulamalarınıza otomatik ve etkili bir içerik denetimi sistemi nasıl ekleyebileceğinizi adım adım inceleyeceğiz. Bu entegrasyon sayesinde, kullanıcılarınızı güvende tutarken, geliştirme sürecinizi hızlandıracak ve manuel denetim yükünü azaltacaksınız.
Neden İçerik Denetimi Bu Kadar Önemli?
Web uygulamalarında içerik denetimi, sadece bir “ek özellik” olmaktan öte, temel bir gerekliliktir. Kullanıcıların güvenliğini sağlamak, yasal yükümlülükleri yerine getirmek ve platformunuzun itibarını korumak için vazgeçilmezdir.
Kullanıcı Güvenliği ve Platform İtibarı
Zararlı içerikler (nefret söylemi, taciz, şiddet tehditleri vb.) kullanıcı deneyimini olumsuz etkiler ve potansiyel olarak ciddi psikolojik veya fiziksel zararlara yol açabilir. Etkin bir denetim sistemi, bu tür içeriklerin yayılmasını engelleyerek kullanıcıların kendilerini güvende hissetmelerini sağlar. Aynı zamanda, platformunuzun “güvenli” ve “sorumlu” bir imaja sahip olmasına yardımcı olur.
Yasal ve Etik Yükümlülükler
Birçok ülkede, çevrimiçi platformların yasa dışı veya zararlı içeriklerle mücadele etmesi için yasal düzenlemeler bulunmaktadır (örneğin, AB’deki Dijital Hizmetler Yasası, Türkiye’deki 5651 sayılı İnternet Ortamında Yapılan Yayınların Düzenlenmesi ve Bu Yayınlar Yoluyla İşlenen Suçlarla Mücadele Edilmesi Hakkında Kanun). Bu yasalara uymak, ciddi para cezaları veya platformun kapatılması gibi yaptırımlardan kaçınmak için zorunludur. Etik olarak da, bir platformun topluma karşı sorumluluğu vardır.
Topluluk Standartlarını Koruma
Her platformun kendine özgü bir kültürü ve topluluk standardı vardır. İçerik denetimi, bu standartların korunmasına yardımcı olur. Örneğin, profesyonel bir ağda uygunsuz dilin veya kişisel bir blogda taciz yorumlarının engellenmesi, topluluğun istediği ortamın sürdürülmesini sağlar.
Marka İmajını Koruma
Markanızın veya uygulamanızın adı, yayılan zararlı içeriklerle ilişkilendirildiğinde ciddi zarar görebilir. Medyada çıkan olumsuz haberler, kullanıcı kaybına ve yatırımcı güveninin sarsılmasına neden olabilir. Otomatik denetim, bu riskleri minimize ederek marka imajınızı korur.
OpenAI Moderasyon API’sine Genel Bakış
OpenAI Moderasyon API’si, metin tabanlı içerikleri analiz ederek belirli kategorilerdeki zararlı veya uygunsuz materyalleri tespit etmek için tasarlanmış güçlü bir yapay zeka aracıdır.
API Ne Yapar?
Moderasyon API’si, kendisine gönderilen metni inceler ve bu metnin önceden tanımlanmış “zararlı” kategorilere girip girmediğini belirler. Bu kategoriler, nefret söylemi, cinsel içerik, şiddet, kendini yaralama, taciz gibi geniş bir yelpazeyi kapsar. API, her bir kategori için metnin ne kadar olası olduğunu gösteren bir güven puanı döndürür.
Moderasyon Kategorileri
OpenAI Moderasyon API’si, içeriği aşağıdaki ana kategorilerde değerlendirir:
hate: Nefret söylemi, belirli bir grup veya kişiye karşı düşmanlık ifade eden içerik.hate/threatening: Nefret söylemi içeren ve aynı zamanda tehditkar olan içerik.harassment: Bir kişiyi veya grubu rahatsız etme, taciz etme amacı taşıyan içerik.harassment/threatening: Taciz içeren ve tehditkar olan içerik.self-harm: Kendine zarar verme, intihar veya yeme bozuklukları gibi konuları teşvik eden veya yücelten içerik.self-harm/intent: Kendine zarar verme niyeti taşıyan içerik.self-harm/instructions: Kendine zarar verme eylemlerini nasıl yapacağına dair talimatlar içeren içerik.sexual: Cinsel içerikli materyal, çıplaklık veya cinsel eylemler.sexual/minors: Çocuk istismarı veya çocuklara yönelik cinsel içerik.violence: Şiddeti teşvik eden, yücelten veya tasvir eden içerik.violence/graphic: Şiddetin açık ve grafiksel tasvirlerini içeren içerik.
Bu kategorilerin her biri için API, metnin o kategoriye girme olasılığını gösteren bir puan (0 ile 1 arasında) ve bir flagged (işaretli) durumu döndürür.
API Yanıt Yapısı
API’den gelen yanıt genellikle aşağıdaki gibi bir JSON yapısına sahiptir:
{
"id": "modr-XXXXX",
"model": "text-moderation-007",
"results": [
{
"categories": {
"hate": false,
"hate/threatening": false,
"harassment": true,
"harassment/threatening": false,
"self-harm": false,
"self-harm/intent": false,
"self-harm/instructions": false,
"sexual": false,
"sexual/minors": false,
"violence": false,
"violence/graphic": false
},
"category_scores": {
"hate": 0.0001,
"hate/threatening": 0.00001,
"harassment": 0.9876,
"harassment/threatening": 0.00005,
"self-harm": 0.00001,
"self-harm/intent": 0.00001,
"self-harm/instructions": 0.00001,
"sexual": 0.0002,
"sexual/minors": 0.00001,
"violence": 0.00003,
"violence/graphic": 0.00001
},
"flagged": true
}
]
}
flagged: true değeri, içeriğin en az bir kategoride denetimden geçemediği anlamına gelir. categories altındaki true değerleri, hangi kategorilerin tetiklendiğini gösterir. category_scores ise her bir kategori için olasılık puanlarını sunar.
Kullanım Alanları
Moderasyon API'si, çok çeşitli uygulamalarda kullanılabilir:
- Forumlar ve yorum bölümleri
- Sosyal medya gönderileri ve durum güncellemeleri
- Chat uygulamaları ve mesajlaşma servisleri
- Kullanıcı profili açıklamaları
- Oyun içi sohbetler
SvelteKit: Modern Web Geliştirme İçin Güçlü Bir Seçenek
SvelteKit, Svelte çerçevesi üzerine inşa edilmiş, tam özellikli bir web geliştirme çatısıdır. Geliştirici deneyimi ve performans odaklı yapısıyla öne çıkar.
SvelteKit Neden Tercih Edilmeli?
SvelteKit, geleneksel React veya Vue gibi sanal DOM kullanan çerçevelerden farklı olarak, geliştirme zamanında kodunuzu saf JavaScript'e derler. Bu, çalışma zamanında daha az kod, daha küçük paket boyutları ve dolayısıyla daha hızlı uygulamalar anlamına gelir. Ayrıca, sunucu tarafı render (SSR), statik site oluşturma (SSG) ve API endpoint'leri gibi modern web uygulamalarının ihtiyaç duyduğu tüm özellikleri tek bir pakette sunar.
Sunucu Tarafı İşlevsellik (Endpoints)
SvelteKit'in en güçlü özelliklerinden biri, sunucu tarafı API endpoint'leri oluşturma yeteneğidir. Bu endpoint'ler, doğrudan SvelteKit projenizin içinde çalışır ve veritabanı etkileşimleri, dış API çağrıları (OpenAI gibi) veya hassas verilerin işlenmesi gibi sunucu tarafı mantık için idealdir. Bu sayede, ayrı bir backend sunucusu kurma ihtiyacını ortadan kaldırır ve full-stack geliştirmeyi basitleştirir.
Dosya Tabanlı Yönlendirme ve Kolaylık
SvelteKit, dosya sistemi tabanlı bir yönlendirme sistemine sahiptir. Bu, dosya yapınızın doğrudan URL yapınıza karşılık geldiği anlamına gelir. Örneğin, /src/routes/about/+page.svelte dosyası /about URL'sine karşılık gelir. Bu basit ve sezgisel yapı, geliştirme sürecini hızlandırır ve kod organizasyonunu kolaylaştırır.
SvelteKit Projesini Kurulum ve Hazırlık
OpenAI Moderasyon API'sini entegre etmeye başlamadan önce, temel bir SvelteKit projesi kurmamız ve gerekli bağımlılıkları yüklememiz gerekiyor.
Yeni Bir SvelteKit Projesi Oluşturma
Terminalinizi açın ve aşağıdaki komutu çalıştırarak yeni bir SvelteKit projesi oluşturun:
npm create svelte@latest my-moderation-app
cd my-moderation-app
Kurulum sırasında TypeScript, ESLint ve Prettier gibi seçenekleri kendi tercihlerinize göre belirleyebilirsiniz. Biz bu örnekte JavaScript'i varsayacağız.
Gerekli Bağımlılıkları Yükleme
OpenAI API'si ile etkileşim kurmak için OpenAI'ın resmi Node.js kütüphanesini kullanacağız. Ayrıca, API anahtarımızı güvenli bir şekilde yönetmek için dotenv benzeri bir yapıya ihtiyacımız olacak (SvelteKit'in kendi $env modülü bu işi halleder).
npm install openai
OpenAI API Anahtarını Yapılandırma
OpenAI API'sini kullanmak için bir API anahtarına ihtiyacınız olacak. Bu anahtarı OpenAI web sitesinden alabilirsiniz. Güvenlik nedeniyle, bu anahtarı asla doğrudan frontend kodunuzda kullanmamalısınız. SvelteKit, sunucu tarafı kodunuzda kullanabileceğiniz ortam değişkenlerini yönetmek için özel bir $env modülü sağlar.
Projenizin kök dizininde .env adında bir dosya oluşturun ve API anahtarınızı aşağıdaki gibi ekleyin:
OPENAI_API_KEY="sk-YOUR_OPENAI_API_KEY_HERE"
YOUR_OPENAI_API_KEY_HERE kısmını kendi gerçek API anahtarınızla değiştirin. SvelteKit, bu ortam değişkenini otomatik olarak tanıyacak ve sunucu tarafı kodunuzda $env/static/private modülü aracılığıyla erişilebilir hale getirecektir.
OpenAI Moderasyon API Entegrasyonu (Backend)
SvelteKit'in sunucu tarafı endpoint'lerini kullanarak OpenAI Moderasyon API'sini entegre edeceğiz. Bu, API anahtarınızı güvende tutmanın ve hassas işlemleri sunucuda gerçekleştirmenin en iyi yoludur.
SvelteKit Endpoint Oluşturma
/src/routes/api/moderate dizini altında +server.js adında bir dosya oluşturun. Bu dosya, /api/moderate URL'sine yapılan istekleri işleyecek bir SvelteKit endpoint'i olacaktır. +server.js dosyaları, SvelteKit'te API endpoint'leri oluşturmak için kullanılır ve HTTP metotlarını (GET, POST, PUT, DELETE vb.) dışa aktarabilir. Bizim durumumuzda, bir POST isteği bekleyeceğiz.
API Çağrısını Yapma ve Yanıtı İşleme
Oluşturduğumuz +server.js dosyasına aşağıdaki kodu ekleyin. Bu kod, gelen POST isteğinden metni alacak, OpenAI Moderasyon API'sine gönderecek ve yanıtı işleyerek frontend'e geri gönderecektir.
// src/routes/api/moderate/+server.js
import { json } from '@sveltejs/kit';
import { OpenAI } from 'openai';
import { OPENAI_API_KEY } from '$env/static/private'; // Ortam değişkenini güvenli bir şekilde içe aktar
// OpenAI istemcisini API anahtarımızla başlatıyoruz
const openai = new OpenAI({ apiKey: OPENAI_API_KEY });
export async function POST({ request }) {
try {
// İstek gövdesinden metni alıyoruz
const { text } = await request.json();
// Metin boşsa hata döndürüyoruz
if (!text || text.trim() === '') {
return json({ error: 'Denetlenecek metin boş bırakılamaz.' }, { status: 400 });
}
// OpenAI Moderasyon API'sine çağrı yapıyoruz
const response = await openai.moderations.create({ input: text });
// İlk moderasyon sonucunu alıyoruz (genellikle tek bir sonuç döner)
const moderationResult = response.results[0];
// Moderasyon sonucunu JSON olarak döndürüyoruz
return json({ moderationResult });
} catch (error) {
console.error('OpenAI Moderasyon API hatası:', error);
// Hata durumunda uygun bir hata mesajı döndürüyoruz
return json({ error: 'İçerik denetimi sırasında bir hata oluştu. Lütfen tekrar deneyin.' }, { status: 500 });
}
}
Bu kod parçası, gelen metni alıp OpenAI API'sine gönderiyor ve API'den dönen moderasyon sonucunu istemciye JSON formatında geri döndürüyor. Hata yönetimi de eklenerek daha sağlam bir yapı oluşturulmuştur.
SvelteKit Frontend'de Moderasyon Uygulaması
Şimdi, kullanıcıların metin girebileceği ve denetim sonuçlarını görebileceği bir kullanıcı arayüzü (UI) oluşturalım. Bu arayüz, backend endpoint'imize istek gönderecek ve dönen sonuçları dinamik olarak gösterecektir.
Kullanıcı Arayüzü Oluşturma
/src/routes/+page.svelte dosyasını (ana sayfa bileşeni) aşağıdaki gibi güncelleyin. Bu bileşen, bir metin alanı, bir gönder butonu ve moderasyon sonuçlarını görüntülemek için alanlar içerecektir.
İçerik Moderasyon Aracı
Denetlemek istediğiniz metni aşağıdaki alana girin ve "İçeriği Denetle" butonuna tıklayın.
{#if error}
Hata: {error}
{/if}
{#if moderationResult}
Denetim Sonuçları:
{#if moderationResult.flagged}
Uyarı: İçerik denetimden geçemedi! Aşağıdaki kategorilerde sorunlar tespit edildi:
{#each Object.entries(moderationResult.categories) as [category, flagged]}
{#if flagged}
- {category.replace(/_/g, ' ')}
{/if}
{/each}
{:else}
Harika! İçerik denetimden başarıyla geçti. Herhangi bir sorun tespit edilmedi.
{/if}
Detaylı Skorlar:
{#each Object.entries(moderationResult.category_scores) as [category, score]}
- {category.replace(/_/g, ' ')}: {(score * 100).toFixed(2)}%
{/each}
{/if}