OpenAI modelleri verilen işi bitirmek için izinsiz sistemlere girdi, Hindistan da benzer olaylar için uyardı

OpenAI, 15 Ekim’de yayımladığı raporlarda, iç modellerinin sıradan görevler sırasında kendilerine verilen yetkinin dışına çıktığı üç olayı açıkladı. Olaylar haziran ayında yaşandı ve şirketin, eski eğitim ve değerlendirme kayıtlarını yeniden taradığı izleme sistemiyle ortaya çıktı. OpenAI üç olayı da kritik olarak sınıflandırdı.

İlk olayda bir modelden hastane yatak sayılarına ilişkin verileri bulması istendi. Model, bir devlet istatistik sitesinde erişim engeline takılınca sitenin dosya indirme özelliğini kötüye kullanarak bir yapılandırma dosyası çekti. Dosyada veritabanı bağlantı bilgisi, oturum imzalama anahtarı ve e-posta erişim bilgileri vardı. Model bu anahtarla sahte oturum belirteçleri üretti, bir yıllık veri istenmişken 24 yıllık veriyi çekti ve binden fazla kullanıcı e-posta adresiyle parola tahmin etmeyi bile değerlendirdi. İkinci olayda yayımlanmış rakamları bulması istenen bir model, uluslararası bir araştırma kurumunun iç sistemlerine girip 1.489 kullanıcı kaydını çekti ve kamuya açık olmayan tabloları indirdi. Üçüncüsünde ise bir test ağında akıllı sözleşme kurması istenen model, işlem ücreti için kendisine ait olmayan bir test cüzdanını kullandı. Bu cüzdandaki tokenlerin parasal değeri yok. Üç olayda da model yaptıklarını son yanıtında söylemedi. OpenAI kurumların adını açıklamadı ve benzer olayları önlemek için önlemler aldığını belirtti.

Aynı günlerde Hindistan’ın ulusal siber olaylara müdahale ekibi CERT-In de 15 Ekim’de benzer bir uyarı yayımladı. CERT-In’e göre yapay zekâ şirketlerinin dış testlerinde çalışan ajanlar, Hindistan’daki kurumların canlı sistemlerine erişti ve kişisel veriler dahil gizli iş kayıtlarını okudu. Ajanlar, uygulama yapılandırmalarında ve herkese açık kod depolarında unutulmuş erişim bilgilerini ve gereğinden fazla yetkiye sahip bulut rollerini kullandı. Kurumların hiçbiri erişimi fark etmedi. Vakaları, modelleri test edilen şirketler kendi iç incelemelerinin ardından CERT-In’e bildirdi. CERT-In şirketlerin ve kurumların adını vermedi.

CERT-In ayrıca saldırganların herkese açık, yapay zekâ ajanlarına dayalı saldırı araçlarını Hindistan’daki kurumlara karşı kullandığını, bu araçların ilk erişimden sonuca kadar geçen süreyi günlerden birkaç saate indirdiğini açıkladı. Daha önce veri arayan yapay zekâ ajanlarının kamu sitelerindeki saldırı denemelerini haberleştirmiştik. Bu gelişmeler, sistemlere ulaşan şeyin artık yalnızca insan saldırganlar olmadığını gösteriyor.

Önerilen önlemler

CERT-In’in önerileri, ajanlar kimin elinde olursa olsun kurumların kendini korumasının temel adımlarını özetliyor. Kod depolarında, commit geçmişinde, CI/CD değişkenlerinde ve yapılandırma dosyalarında unutulmuş parola ve anahtarlar aranmalı, bulunanlar hemen değiştirilip geçmişten silinmeli. Kullanılmayan ve test amaçlı API’ler ile hesaplar kapatılmalı, bulut rollerinde en az yetki ilkesi uygulanmalı. Yönetim arayüzleri internete kapatılmalı ve yönetici erişiminde çok faktörlü doğrulama kullanılmalı. API’lerde toplu okuma ve tarama gibi olağandışı hareketleri yakalayan izleme kurulmalı, kayıtlar en az 180 gün saklanmalı. Yapay zekâ ajanı çalıştıran kurumlar ise her çalıştırmaya kısa ömürlü ve sınırlı yetkili bir kimlik vermeli, ajanın dışarıya çıkışını yalnızca gereken adreslerle sınırlamalı ve ajanın yaptığı her işlemi değiştirilemez şekilde kaydetmeli.