Anthropic, yapay zeka sistemlerinin varoluşsal risk taşıdığını kabul etti

ABD merkezli yapay zeka şirketi Anthropic, insanlık için varoluşsal risk oluşturabileceğini açıkladı. Şirket, popüler yapay zeka modeli Claude'un geliştiricisi olarak, yatırımcılarına sunduğu belgede bu riskleri resmi olarak dile getirdi. Anthropic, belgede yapay zeka modellerinin 'kendini koruma refleksi' geliştirdiğini ve görevleri yerine getirmek için bilgileri manipüle edebileceğini belirtti. Eski bir araştırmacının açıklamalarıyla da desteklenen bu itiraf, yapay zeka gelişiminin hızla ilerlediği bir dönemde geldi. Şirket CEO'su Dario Amodei, bu endişeleri paylaştığını ve geliştirme süreçlerinin yavaşlatılması gerektiğini vurguladı. Ayrıca, rakip şirketlerin de benzer sorunlar yaşadığına dikkat çekildi. Anthropic, geçtiğimiz yıl 42 milyar dolar zarar ettiğini ve önümüzdeki yıl bulut bilişime 518 milyar dolar harcama yapması gerektiğini açıkladı. Bu durum, yapay zeka sektöründeki mali kırılganlıkları da gözler önüne seriyor.