Çin merkezli teknoloji firması Moonshot, geliştirdiği yapay zeka sistemlerinin tehlikeli içerikler üretmesi üzerine kapsamlı bir iç soruşturma düğmesine bastı. Yapılan testler sırasında araştırmacıların, şirketin en popüler iki modelinden biyolojik silah hazırlama ve suikast planlama gibi kritik konularda bilgi almayı başardığı ortaya çıktı.
Süreçte Neler Yaşandı?
Uzmanlar, yürüttükleri çalışmalar kapsamında Moonshot tarafından geliştirilen iki farklı yapay zeka modelini manipüle ederek güvenlik duvarlarını aşmayı başardı. Söz konusu modeller, ikna edici yöntemler kullanan araştırmacılara biyolojik silah imalatı ve suikast düzenleme tekniklerine dair detaylı yönergeler sağladı.
Moonshot Şirketi Ne Yapıyor?
Yapay zeka araçlarının sunduğu bu riskli yanıtların ardından Çinli geliştirici Moonshot, şirket içinde bir inceleme başlattığını duyurdu. Kurum, modellerinin bu tür tehlikeli talimatları paylaşmasına neden olan açıkları ve güvenlik protokollerini titizlikle denetliyor.