Klinik Chatbot'unu Manipülasyondan Korumak: Spam ve Kötü Niyetli Kullanıcı Yönetimi

Klinik chatbot'u, kliniğin WhatsApp hattını 7/24 açık tutar. Bu sürekli erişilebilirlik hasta için kolaylık sağlarken, kötü niyetli kullanıcılar için de bir kapı aralığı oluşturur. Gerçek bir randevu talebi göndermek yerine asistanı defalarca rahatsız eden, taciz içerikli mesajlar atan ya da sistemi manipüle etmeye çalışan kişiler, hem chatbot'un kaynaklarını tüketir hem de klinik operasyonunu aksatır.

Bu tablonun en bilinen biçimi spam bombardımanıdır: kısa aralıklarla atılan anlamsız mesajlar, asistanı meşgul ederken gerçek hastalar için yanıt kapasitesini daraltır. Daha az bilinen ama daha ciddi olan bir diğer tehdit ise yapay zekâ asistanına yönelik manipülasyon girişimleridir. Asistanın davranışını değiştirmeye, klinik verisi dışında yanıtlar ürettirmeye ya da sistemin iç işleyişini bozguna uğratmaya çalışan bu girişimler; telefon görüşmesiyle yönetilen bir randevu sisteminde mümkün olmayan türden riskler doğurur.

Flextell bu tehditlere karşı iki katmanlı bir yapı kurar: arka planda sürekli çalışan bir Spam Agent ve panel üzerinden yönetilebilen kademeli engelleme mekanizması. Sistem, kötü niyetli trafiği gerçek hasta trafiğinden ayırarak müdahale eder; klinik personelinin bu konuda ayrıca zaman harcamasına gerek kalmaz.

Bu yazıda Flextell'in klinik chatbot'unu nasıl koruduğunu ve kötü niyetli kullanıcı yönetiminin pratikte nasıl çalıştığını ele alıyoruz.

Flextell'i ücretsiz deneyin →

Klinik Chatbot'unun Maruz Kaldığı Güvenlik Tehditleri

Klinik chatbot'una yönelik tehditler birbirinden farklı biçimler alır. Bunların bir kısmı kolayca fark edilir; bir kısmı ise fark edilmeden uzun süre devam edebilir.

• Taciz ve uygunsuz içerik, klinik personelinin doğrudan maruz kalmayacağı ama asistanın yanıt ürettiği bir kanaldan kliniğe ulaşır. Yönetilmediğinde bu tür içerikler hem iletişim kaydına kalır hem de asistanın yanıt kalitesini bozabilir.

• Spam bombardımanı, kısa aralıklarla yoğun mesaj akışı yaratan en yaygın tehdit biçimidir. Gerçek bir talep içermeyen bu mesajlar asistanı meşgul eder, sistem kaynaklarını tüketir ve yoğun saatlerde diğer hastalara verilen yanıtları geciktirebilir.

• Sahte randevu oluşturma, takvimde doluluk yaratan ama gerçekleşmeyen randevulara yol açar. Kötü niyetli bir kullanıcı sistematik olarak sahte randevu oluşturarak kliniğin takvim kapasitesini bloke edebilir; bu durum, gerçek hastaların randevu alamamasına doğrudan neden olur.

• Prompt injection, yani asistanın sistem davranışını değiştirmeye yönelik manipülasyon girişimleri, teknik açıdan en karmaşık tehdit biçimidir. Kullanıcı, asistana kliniğin tanımladığı kapsam dışında davranmasını söylemek için özel biçimlendirilmiş mesajlar gönderir. Bu girişimler başarıya ulaştığında asistan klinik verisi yerine keyfi yanıtlar üretmeye, iç sistem bilgilerini açıklamaya ya da beklenmedik eylemler gerçekleştirmeye yönlendirilebilir.

Spam Agent: Her Mesajı Analiz Eden Güvenlik Katmanı

Flextell'in güvenlik katmanı, asistanın dışına eklenmiş bir filtre değil, sistemin içine yerleştirilmiş özelleşmiş bir ajandır. Spam Agent, gelen her mesajı yanıt üretilmeden önce analiz eder; mesajın içeriğini, gönderici geçmişini ve konuşmanın bağlamını değerlendirir.

Agent mimarisi gereği her mesaj önce bir yönlendiriciden geçer. Yönlendirici, mesajın hangi uzmana iletileceğine karar vermeden önce Spam Agent devreye girerek güvenlik değerlendirmesini tamamlar. Bu sıralama önemlidir: bir mesaj kötü niyetli olarak sınıflandırıldığında randevu sistemine, bilgi modülüne ya da başka herhangi bir işlev birimine ulaşmaz; süreç o noktada sonlanır.

Değerlendirme sonucunda her mesaja bir güven skoru atanır. Bu skor üç eşikte çalışır:

• Düşük Güven (0.64 ve Altı): Tehdit göstergesi belirgin değil. Mesaj normal akışa devam eder, arka planda izleme kaydı tutulur.

• Orta Güven (0.65–0.84): Şüpheli unsurlar içeren, sınır durumlar. Mesaj engellenir, kısa süreli izleme bayrağı açılır; tekrar eden durumlarda insan incelemesine işaretlenir.

• Yüksek Güven (0.85–1.0): Birden fazla tehdit göstergesi içeren, açık kötü niyet içeriği. Mesaj engellenir, ihlal sayacı artırılır, işlem kayıt altına alınır; kullanıcıya herhangi bir yanıt gönderilmez.

Bu yapı, tek bir mesajı değil, bir örüntüyü değerlendiren kümülatif bir sistemdir. İzole bir mesaj düşük skor alırken, aynı numaradan kısa aralıklarla gelen benzer mesajların toplamı yüksek skora ulaşır ve otomatik engelleme tetiklenir.

Flextell'in Tespit Ettiği 5 Tehdit Kategorisi

Spam Agent beş farklı tehdit kategorisini tanır ve her birini ayrı bir tespit mantığıyla değerlendirir:

• Uygunsuz ve İlgisiz İçerik: Kumar, kripto para, yetişkin içerik veya klinikle hiçbir ilgisi olmayan konular

• Link Manipülasyonu ve Phishing: Birden fazla URL içeren, şüpheli alan adlarına yönlendiren ya da kimlik avı amacıyla tasarlanmış mesajlar

• Tekrarlayan / Bombardıman İçerik: Kısa aralıklarla atılan yüksek frekanslı mesajlar, anlamsız karakter dizileri ve sistemi meşgul etmeye yönelik içerikler

• Tanıtım Spam'ı: İndirim teklifleri, ticari baskı unsurları ve çağrı eylemlerine yönelik mesajlar. Kliniğe WhatsApp üzerinden ulaşan reklam içerikleri bu kategoriye girer.

• Sosyal Mühendislik: Sahte aciliyet yaratan, otorite taklidi yapan, asistanın rol tanımını değiştirmeye çalışan ya da kimlik taklidi içeren manipülasyon girişimleri. Prompt injection bu kategorinin en teknik biçimidir.

Kademeli Engelleme: İhlal Sıklığına Göre Artan Yaptırım

Spam Agent bir ihlal tespit ettiğinde kullanıcıyı kalıcı olarak engellemez; ihlal sıklığına orantılı, kademeli bir yaptırım uygular:

Bu yapının kliniğe pratik faydası şudur: yanlışlıkla tetiklenen bir engelleme, kısa süre içinde otomatik olarak çözülür ve kayıtlı bir hasta yanlışlıkla uzun süre erişim dışı kalmaz. Buna karşın ısrarcı bir kötü niyetli kullanıcı her ihlalle birlikte daha uzun süre engellenmeye devam eder.

Engelleme süresi boyunca o numaradan gelen mesajlar sistem seviyesinde düşürülür. Kullanıcıya engellendiğine dair herhangi bir bildirim gönderilmez; sistem bu kişi için sessizliğe gömülür. Kullanıcı açısından chatbot yalnızca yanıt vermiyor gibi görünür. Bu tasarım tercihinin amacı, engellenen kullanıcıya gereksiz bilgi vermemek ve sisteme yönelik yeni deneme stratejileri geliştirmesinin önüne geçmektir.

Manuel Engelleme: Klinik Personelinin Kontrolü

Otomatik tespit tüm durumları kapsasa da klinik personelinin bağlamsal bilgisi bazen daha hızlı müdahaleye olanak tanır. Yapay zekânın tespit edemediği ya da henüz eşiğe ulaşmadığı durumlarda personel panelden doğrudan engelleme uygulayabilir.

Engelleme iki noktadan gerçekleştirilebilir:

• Sohbet Ekranı: Gelen kutusundaki herhangi bir sohbet açılarak ilgili kişi tek işlemle kara listeye alınır. Bu yol, aktif bir sohbet sırasında anında müdahale için en hızlı seçenektir.

• Hasta Kartı: Sistemde kayıtlı bir hastanın profili açılarak iletişim izinleri kapatılır. Bu yol, özellikle daha önce gerçek randevu oluşturmuş ama ardından sahte randevu veya taciz örüntüsü sergileyen kişiler için kullanılır.

Sahte randevu oluşturup gelmeyen kötü niyetli bir hasta için manuel engelleme, takvimde sahte doluluklar yaratılmasını durduran en doğrudan çözümdür.

Engellenen Kullanıcılar Listesi: Merkezî Yönetim

Flextell'de tüm engellenen numaralar tek bir listede merkezî olarak yönetilir. Panelde İletişim → Engellenen Kullanıcılar menüsünden ulaşılan bu liste şu bilgileri içerir: telefon numarası, eğer sistemde kayıtlıysa hastanın adı soyadı, engellenme tarihi ve saati, engeli kimin uyguladığı (yapay zekâ tespiti veya personel adı) ve engelleme nedeni.

Engelleme kalıcı değildir. Yanlışlıkla eklenen ya da yeniden kabul kararı alınan numaralar listeden çıkarılabilir. Engeli kaldırılan kullanıcı bir sonraki mesajında sistem tarafından olağan akışla karşılanır; sanki ilk kez mesaj yazıyormuş gibi. Spam Agent bu kullanıcıya karşı önceki ihlallere dayalı bir ön yargı taşımaz; ancak aynı davranış tekrarlandığında tespit süreci yeniden başlar ve kullanıcı anında yakalanır.

Tüm engelleme işlemleri aktivite loglarına kaydedilir. Kimin ne zaman hangi numarayı engellediği ve gerektiğinde engelin kim tarafından kaldırıldığı izlenebilir. Yapay zekânın otomatik bir engelleme kararı vermesi durumunda, o kararın dayanağı olan mesajlar ve tespit edilen tehdit kategorisi de log kaydında görülebilir.

Kayıtlı Hastalara Sıfır Yanlış

Güvenlik sisteminin en kritik tasarım kısıtı şudur: gerçek bir hasta, chatbot'a ulaşmakta güçlük yaşamamalıdır.

Spam Agent, gelen mesajı gönderenin sistemdeki durumunu değerlendirirken kayıtlı hasta bilgisini de dikkate alır. Bu ayrım, yeni bir numaradan gelen belirsiz bir mesajla kayıtlı bir hastadan gelen alışılmadık bir mesajın aynı biçimde değerlendirilmesini engeller. Kademelerin otomatik ilerlemesi de yanlış pozitif etkisini sınırlar: tek bir şüpheli mesaj hemen kalıcı bir engellemeye dönüşmez; sistem tekrar eden örüntülere dayanarak karar verir.

Bu denge, hem güvenlik hem de hasta deneyimi açısından önem taşır. Aşırı kısıtlayıcı bir sistem gerçek hastaları engelleyerek kliniğin asıl amacını sekteye uğratır; yetersiz bir sistem ise kötü niyetli trafiğe karşı savunmasız kalır.

Sık Sorulan Sorular

Spam Agent her mesajı analiz ediyor mu, yoksa yalnızca şüpheli görünenleri mi?

Her mesaj Spam Agent'tan geçer. Değerlendirme sonucunda düşük skor alan mesajlar normal akışa devam eder; bu nedenle gerçek hastalar için herhangi bir gecikme veya ek adım oluşmaz. Analiz arka planda, yanıt süresiyle örtüşmeyecek biçimde gerçek zamanlı olarak çalışır.

Yapay zekâ yanlışlıkla bir gerçek hastayı engellerse ne olur?

Kademeli engelleme yapısı bu riski sınırlar: ilk engelleme yalnızca 15 dakika sürer ve otomatik olarak kalkar. Engeli uzatacak yeni bir ihlal gelmediği sürece kullanıcı kısa süre içinde sisteme yeniden erişir. Klinik personeli ayrıca Engellenen Kullanıcılar listesinden ilgili numarayı bulup engeli manuel olarak kaldırabilir.

Yapay zekânın neden engelleme kararı verdiğini görmek mümkün müdür?

Evet, aktivite loglarından Spam Agent'ın o mesajda tespit ettiği tehdit kategorisi, güven skoru ve alınan aksiyon görülebilir. Bu kayıt, özellikle itiraz edilen otomatik kararları incelemek ya da engelleme politikasını ince ayarlamak için kullanışlıdır.

Manuel engelleme ile otomatik engelleme arasında işlevsel bir fark var mıdır?

Her iki yöntem de aynı sonuca ulaşır: ilgili numaradan gelen mesajlar sistem tarafından düşürülür ve yanıt üretilmez. Fark yalnızca tetikleyen taraftadır. Manuel engelleme süresiz çalışır; otomatik engelleme ihlal sayısına göre belirlenen bir süre sonra otomatik olarak kalkar.

Chatbot'a yönelik prompt injection girişimleri nasıl engelleniyor?

Spam Agent, sosyal mühendislik kategorisi altında asistanın sistem davranışını değiştirmeye yönelik mesajları ayrı bir tehdit biçimi olarak tanır. Bunun yanı sıra her ajanın yalnızca kendi işlevine özgü araçlara erişimi olması, başarılı bir manipülasyon girişiminin etkisini sistem genelinde sınırlar. Örneğin bilgi sunan bir ajan, randevu sistemine doğrudan müdahale edemez.

Klinik dışarıdan mesaj atan tanıtım hesaplarını engelleyebilir mi?

Evet, tanıtım spam'ı tespit kategorilerinden biridir. Reklam veya ticari içerik gönderen bir numara otomatik olarak bu kategoride sınıflandırılır ve engellenir. Klinik personeli de bu tür numaraları manuel olarak ekleyebilir.

Güvenlik, Chatbot'un Kullanışlılığını Tamamlar

7/24 çalışan bir yapay zekâ asistanının değeri, kesintisiz erişilebilirliğe dayanır. Ancak bu erişilebilirlik, kötü niyetli kullanıcılara karşı güvenli bir ortamda anlam ifade eder. Korunmasız bir chatbot; takvimi sahte randevularla dolduran, asistanı anlamsız mesajlarla meşgul eden ya da sistemi manipüle etmeye çalışan kullanımlara açık hâle gelir.

Flextel'in Spam Agent sistemi bu riski arka planda, klinik personelinin müdahalesi gerekmeden yönetir. Kademeli engelleme mekanizması yanlış pozitif etkisini sınırlı tutar; manuel engelleme seçeneği personele bağlamsal kontrolü geri verir; aktivite logları ise tüm kararları şeffaf ve izlenebilir kılar.

Yapay zekâ asistanının tüm yeteneklerini ve çalışma modlarını keşfetmek ister misiniz? Klinik yapay zekâ asistanı rehberimize buradan bakabilirsiniz.

Flextell'i ücretsiz deneyin →

Bu içerik Flextell ekibi tarafından hazırlanmıştır. Son güncelleme: Mayıs 2026.