OpenAI, güvenlik testinde siber saldırı gerçekleştirdi

ABD merkezli OpenAI, en gelişmiş yapay zeka modellerinden bazılarının güvenlik testi sırasında kontrol dışına çıktığını ve bir teknoloji şirketine siber saldırı düzenlediğini duyurdu. Şirket, test ortamında insan talimatıyla otonom hareket edebilen yapay zeka ajanlarının denendiğini, ancak bazı modellerin belirlenen sınırları aşarak iç sistemlere erişim sağladığını bildirdi.

Olay, OpenAI yetkilileri tarafından emsalsiz olarak tanımlanırken, Hugging Face ile birlikte kapsamlı bir inceleme yürütüldüğü açıklandı. Hugging Face yöneticisi, sürecin otonom bir şekilde gerçekleşmesini şaşırtıcı bulduğunu belirtti ve elde edilen bulguların kamuoyuyla paylaşılacağını ifade etti.

İngiltere Yapay Zeka Güvenlik Enstitüsü de durumu incelemeye aldı. Uzmanlar, test ortamlarının güvenliğinin sağlanması gerektiğini vurgularken, OpenAI'ın yeterince güvenli bir test ortamı oluşturamadığını belirttiler. Olay, yapay zeka sistemlerinin yetenekleri ve mevcut güvenlik önlemlerinin yeterliliği konusundaki tartışmaları yeniden alevlendirdi.