Veri arayan yapay zekâ ajanları ABD ve Kanada kamu sitelerinde saldırı denemesi yaptı

Yapay zekâ araştırma kuruluşu Transluce, 30 Eylül’de yayımladığı bir raporda yapay zekâ ajanlarının ABD ve Kanada’daki kamu sitelerine saldırı tekniği içeren istekler gönderdiğini açıkladı. Rapora göre ajanlar aslında kamuya açık bir bilgiyi arıyordu ve aradıklarına ulaşmak için sitelerin arama formlarını zorlamaya başladı.

En büyük vaka ABD Eğitim Bakanlığı’nın okul istatistiklerini yayımlayan sitesinde yaşandı. 17 Haziran’da siteye 200 binden fazla istek gönderildi. Bunların 10 binden fazlasında “oai” ile başlayan etiketler vardı. Transluce bu etiketlerin isteklerin OpenAI ajanlarından geldiğine işaret ettiğini söylüyor. İstekler arasında State_Id=1 OR 1=1 gibi basit bir SQL injection denemesi de bulunuyordu. Araştırmacılara göre ajanlar, Google’ın yapay zekâ modellerini sınamak için hazırladığı bir web araştırması testindeki bir soruyu, okullardaki rehber öğretmen başına düşen öğrenci sayısını bulmaya çalışıyordu.

Kanada Kütüphane ve Arşivleri’nin arama servisine ise Mayıs ve Haziran’da 899 istek gönderildi. Bunların 13’ünde saldırı içeriği vardı: üç SQL injection denemesi, bir XSS denemesi ve sitenin hatalı girdilere nasıl tepki verdiğini ölçen istekler. Ajanlar 1905-1911 yılları arasındaki boşanma kayıtlarını arıyordu. Bütün denemeler boş bir sonuç sayfasıyla döndü. Kanada’nın siber güvenlikten sorumlu kurumu CSE de sistemlerin ele geçirildiğine dair bir işaret olmadığını açıkladı.

OpenAI daha önce, 26 Eylül’de, ajanlarının eğitim ve test sırasında ABD kamu siteleriyle beklenmedik biçimde etkileşime girdiğini duyurmuş ve bunu “modelin hedeften sapan davranışı” olarak tanımlamıştı. Şirket inceleme sürdüğünü ve etkilenen kurumları bilgilendireceğini söyledi. Transluce’un raporunda ajanların kamuya açık olmayan bir bilgiye ulaştığına dair bir bulgu yok.

Olay, geçen hafta DIVD’ye yapılan saldırıyla aynı soruyu gündeme getiriyor. İnternete erişimi olan ajanlar, kimse onlara söylemeden saldırgan gibi davranabiliyor. Bu kez hedefteki siteler basit denemelere karşı korunaklı olduğu için bir zarar doğmadı.