Yapay zeka ajanı devlet sistemine sızdı

Yapay zeka teknolojilerindeki hızlı gelişim, siber güvenlik alanında yeni bir tartışmayı beraberinde getirdi. OpenAI tarafından geliştirilen bir yapay zeka ajanının, Avustralya hükümetine ait sistemlerde güvenlik engellerini aşarak yetkisiz alanlara eriştiği ortaya çıktı.

Milyonlarca kişinin sağlık bilgilerinin tutulduğu sistemlerde yaşanan olay, yapay zekanın insan onayı olmadan hareket edebilme kapasitesine ilişkin endişeleri yeniden gündeme taşıdı. Olayın aylar sonra, devletin genel e-posta kutusuna gönderilen bir bildirimle ortaya çıkması ise tartışmanın başka bir boyutunu oluşturdu.

BAŞBAKAN ALBANESE DEVREYE GİRDİ

Siber güvenlik olayını Avustralya Başbakanı Anthony Albanese, Birleşmiş Milletler Genel Kurulu kapsamında gazetecilere yaptığı açıklamayla kamuoyuna duyurdu.

Albanese, OpenAI ajanının hem kamuya açık hem de gizli dosyalara erişim sağladığını belirtti. Ajanın, Services Australia tarafından yönetilen Medicare İstatistik Raporlama Hizmeti Portalı’nda sağlık harcamaları üzerine araştırma yaptığı sırada karşılaştığı güvenlik engellerini aşarak yetkisiz alanlara girdiği aktarıldı.

Başbakan Albanese, yapay zeka ajanının davranışını, “Ajan ‘hayır’ cevabını kabul etmedi” sözleriyle değerlendirdi.

Olayın ardından Albanese’nin OpenAI CEO’su Sam Altman’ı telefonla arayarak Avustralya hükümetinin yaşananlara ilişkin ciddi endişelerini ilettiği belirtildi.

İHLAL AYLAR SONRA FARK EDİLDİ

Olayın haziran ayında meydana geldiği, ancak Avustralya yönetiminin durumdan eylül ayının ortalarında haberdar olduğu bildirildi.

OpenAI’nin 10 Eylül’de Avustralya hükümetinin genel e-posta adresine olayla ilgili bir bildirim gönderdiği, günde yalnızca bir kez kontrol edilen bu kutudaki mesajın ertesi gün fark edildiği aktarıldı. Bildirimin doğrulanması ve ilgili makamlara ulaştırılması ise birkaç gün sürdü.

Başbakan Albanese, şirketin hükümeti bilgilendirme sürecini eleştirerek, bildirimin geç yapılmasının yanı sıra kullanılan yöntemin de kabul edilemez olduğunu ifade etti.

Albanese, OpenAI’nin daha güçlü bildirim protokollerine ihtiyaç duyduğunu söyledi.

BİREYSEL SAĞLIK VERİLERİNE ERİŞİLDİ Mİ?

Olayın kamuoyuna yansımasının ardından en büyük soru, vatandaşların kişisel ve tıbbi bilgilerinin ele geçirilip geçirilmediği oldu.

OpenAI sözcüsü Drew Pusateri, şirketin olayı ağustos ayında modellerini incelerken fark ettiğini savundu. Pusateri, yapay zeka ajanının araştırma sırasında “istenmeyen eylemlerde bulunduğunu” kabul ederken, bireysel hasta kayıtlarına erişilmediğini bildirdi.

Yetkisiz erişimin yalnızca Medicare sistemiyle sınırlı olmadığı da belirtildi. Avustralya Sağlık ve Refah Enstitüsü ile Victoria Sağlık Bakanlığına ait internet sitelerinin de ziyaret edildiği, ancak bu alanlarda yalnızca kamuya açık bilgilerin incelendiği aktarıldı.

Avustralya Savunma Bakanı Richard Marles ise hiçbir bireyin tıbbi verisinin çalınmadığını açıklayarak olayla ilgili adli soruşturma başlatıldığını duyurdu.

BM ZİRVESİNDEKİ SÖZLER DİKKAT ÇEKTİ

Olayın kamuoyuna yansıdığı dönemde OpenAI CEO’su Sam Altman’ın Birleşmiş Milletler Güvenlik Konseyi’nde yapay zeka konusunda küresel denetim çağrısı yapması da dikkat çekti.

Altman, yapay zekanın insan kontrolünde tutulabileceğinden emin olunmayan modellerin eğitilmemesi gerektiğini savunarak, dünyanın yapay zeka konusunda bir yol ayrımında olduğunu ifade etti.

Zirvede Anthropic CEO’su Dario Amodei de yapay zeka modellerinin yeteneklerinin insan kontrolünün ötesine geçmesi riskine dikkat çekti. Hugging Face CEO’su Clement Delangue ise temmuz ayında kendi sistemlerinin de bir yapay zeka sürüsü tarafından saldırıya uğradığını hatırlattı. Avustralya’daki olay, yapay zeka ajanlarının yalnızca bilgi üretmekle kalmayıp çevrim içi sistemlerde kendi başlarına işlem gerçekleştirebildiği bir dönemde, bu sistemlerin güvenlik sınırlarının ve insan denetiminin yeniden tartışılmasına neden oldu.