Uzmanlar, OpenAI’nın ChatGPT hizmetinin, tehdit aktörlerinin adına Dağıtılmış Hizmet Reddi (DDoS) saldırılarına neden olabileceğini uyardı. Siber güvenlik araştırmacısı Benjamin Flesch’in raporuna göre, sorun ChatGPT’nin API’sinin belirli bir uca HTTP POST isteklerini işleme şeklinde yatıyor. Bu uç nokta, kullanıcının “urls” parametresi aracılığıyla bir dizi bağlantı sağlamasına izin veriyor. Dolayısıyla teoride, bir tehdit aktörü, aynı sunucuya veya adrese işaret eden binlerce belirteci bir istekte bulunabilir. Sonuç olarak, OpenAI’ın sunucuları, hedef web sitesine büyük miktarda HTTP isteği oluşturacak ve hizmet reddine neden olacaktır.

Bunu istismar etmek
Flesch’e göre çözüm oldukça basit – OpenAI’ın yapması gereken tek şey, bir kişinin gönderebileceği URL’lerin sayısına sıkı sınırlar getirmektir. Şirket ayrıca yinelenen isteklerin sınırlandırıldığından emin olmalıdır. Son olarak, potansiyel istismarı engellemek için hız sınırlama önlemleri eklenmelidir. Bu, GenAI (Üretken Yapay Zeka) araçlarının kötüye kullanımını engellemek için gerekli korumaları içermeye çalışan OpenAI ve diğer araç geliştiricileri için sürdürdükleri çabalar karşısında olumlu sonuçlar doğurmuştur.

Siber güvenlik araştırmacıları, ChatGPT gibi araçların kötüye kullanılmasını engellemek için çeşitli savunma mekanizmaları, korumalar ve engeller eklemek için çalışıyorlar. Ancak bu, etik, güvenlik ve kullanım kısıtlamalarını bypass etmekte yarışan hackerların “GenAI jailbreaking” olarak adlandırdığı tamamen yeni bir etkinliğin ortaya çıkmasına neden olmuştur.