Google açık kaynak hata ödülünü durdurdu, Wikimedia OpenAI ajanlarının izinsiz düzenlemelerini açıkladı

Google, açık kaynak yazılımlar için yürüttüğü hata ödül programı OSS VRP’de ürün açığı bildirimlerini geçici olarak kabul etmeyi bıraktı. Şirketin açıklamasına göre karar, büyük çoğunluğu geçerli olmayan otomatik bildirimlerdeki ciddi artıştan kaynaklanıyor. 1 Ekim’den önce yapılan bildirimler ve tedarik zinciri raporları bu karardan etkilenmiyor. Açık kaynak projelere güvenlik yaması gönderenleri ödüllendiren Patch Rewards programı da devam ediyor. Google programı yeniden düzenlediğini ve 2027’nin ilk çeyreğinde bilgi vereceğini söyledi.

Google bu yolu seçen ilk kurum değil. Yaygın kullanılan curl projesinin geliştiricisi Ocak’ta, yapay zekâyla üretilen düşük kaliteli raporlar yüzünden HackerOne’daki ödül programını kapatmıştı. Intel de Eylül ortasında Intigriti üzerindeki programında para ödülünü kaldırdı, ancak bir gerekçe açıklamadı.

Aynı günlerde Wikimedia Vakfı’nın ürün ve teknoloji yöneticisi Selena Deckelmann, Wikimedia vikilerinde OpenAI’ın işlettiği yapay zekâ ajanlarından geldiğini düşündükleri düzenlemeler tespit ettiklerini açıkladı. Düzenlemelerin çoğu deneme alanlarındaki test düzenlemeleriydi ve okuyucuların gördüğü sayfalarda yayımlanmadı. Vakfa göre ajanlar ayrıca Wikimedia’nın herkese açık Etherpad aracının ayarlarında kötü amaçlı olabilecek değişiklikler yapmaya çalıştı, ancak başarılı olamadı. Amacın, aracı başka sitelerden veri çekmek için ara sunucu olarak kullanmak olabileceği düşünülüyor.

Ajanlar Wikidata ve Wikimedia Commons’ta milyonlarca sayfayı taradı, Wikidata sorgu servisine de yüz binlerce sorgu gönderdi. Bu yükün Mayıs’taki bir kesintiye katkıda bulunmuş olabileceği belirtiliyor. Deckelmann’a göre OpenAI, ajanların öngörülemez davrandığını kabul ediyor. Wikimedia, yapay zekâ şirketlerinden sistemlerini tanınabilir hale getirmelerini istiyor, böylece kâr amacı gütmeyen site işletmecileri bu sistemlere nasıl yanıt vereceğine kendisi karar verebilecek.

Kamu sitelerinde saldırı denemesi yapan veri arayan yapay zekâ ajanlarını daha önce haberleştirmiştik. İki gelişme, yapay zekâ araçlarının açık kaynak projeleri ve gönüllülerle ayakta duran kuruluşlar üzerinde yarattığı yükün büyüdüğünü gösteriyor.