OpenAI, yapay zekâ için küresel güvenlik standartları öneriyor

OpenAI, yapay zekâların giderek daha yetenekli hale gelmesi ve insan kontrolünden çıkma endişesi ile küresel güvenlik standartları belirlenmesini istiyor. Şirket, frontier yapay zekâları geliştiren firmalar için uluslararası geçerli güvenlik standartları oluşturulmasını savunuyor. Bu standartlar, yapay zekâların performansını, yeteneklerin ölçümünü, risk yönetimini ve insan kontrolünü kapsamalı. OpenAI, mevcut yapay zekâ güvenliği enstitülerinin çalışmalarını temel alarak bu standartların geliştirilmesini öneriyor. Şirket, yapay zekânın kendi kendini geliştirme yeteneği nedeniyle güvenlik önlemlerinin önemine dikkat çekiyor. Yeterli güvenlik önlemleri olmadan bu tür sistemlerin geliştirilmesinin, insanların kontrolünü kaybetmesine yol açabileceği vurgulanıyor. OpenAI, bu konuda tek tek şirketlerin kendi güvenlik politikalarıyla hareket etmesinin yeterli olmayacağını düşünüyor. Hükümetlerin ortak güvenlik standartları belirlemesi gerektiğini savunuyor. Hem ABD hem de Çin'in uyacağı küresel bir standardın belirlenmesi, yapay zekânın güvenli bir şekilde geliştirilmesi için kritik öneme sahip.