Anthropic, yapay zekanın kötüye kullanımını önlüyor

Yapay zekâ şirketi Anthropic, bir araştırmacının güvenlik endişeleri nedeniyle istifa etmesinin ardından, yapay zekâ modellerinin siber saldırılarda, propaganda kampanyalarında ve tehlikeli biyolojik araştırmalarda kötüye kullanıldığına dair yeni vakalar açıkladı. Şirket, kötü niyetli aktörlerin bu tür kullanımlara yönelik girişimlerini engellediğini duyurdu.

Anthropic, yapay zekâ modellerinin gelişmesiyle birlikte karmaşık siber saldırıların daha az teknik bilgi gerektirdiğini ve bu durumun tek başına hareket eden kişilerin bile tehditler yaratabilmesine yol açabileceğini belirtti. Şirket, en yeni modellerinde biyolojik araştırmalar için koruma önlemlerini güçlendirdiğini açıkladı.

Raporda, kötüye kullanım örnekleri arasında, ismi açıklanmayan aktörlerin, biyolojik silah geliştirilmesine yol açabilecek araştırmalar için Anthropic’in modellerini kullanmaya çalıştığına dair vakalar yer alıyor. Şirket, bu tür araştırmaların potansiyel olarak aşı ve tedavi geliştirilmesine katkı sağlayabileceğini, ancak aynı zamanda patojenleri daha tehlikeli hale getirmek için de kullanılabileceğini vurguladı.