Dünyanın en büyük yapay zeka şirketlerinden birinin kurucu ortağı, teknoloji dünyasında güvenlik standartlarını kökten değiştirebilecek bir ihtimali gündeme getirdi. Sektör temsilcisi, üçüncü bir tarafın denetimine açık bir “acil durdurma düğmesinin” şirketler için yasal bir yükümlülük haline getirilmesi gerekebileceğini ifade etti.
Yapay Zeka İçin Acil Durdurma Mekanizması Nedir?
Anthropic’in kurucu ortağı, yapay zeka sistemlerinin kontrol edilebilirliği üzerine dikkat çeken açıklamalarda bulundu. Yapılan değerlendirmeye göre, sistemlerin güvenliğini sağlamak amacıyla dışarıdan bir otorite tarafından yönetilebilen bir kapatma mekanizmasının tüm ilgili firmalar için zorunlu bir standart olması söz konusu olabilir.
Güvenlik Tedbirleri Neden Zorunlu Hale Gelebilir?
Yapay zeka teknolojilerinin hızla gelişmesiyle birlikte, olası risklerin yönetilmesi için yeni yasal çerçevelerin oluşturulması tartışılıyor. Bu noktada, olası bir kriz anında sistemlerin anında devre dışı bırakılmasını sağlayacak olan bu “acil durdurma” donanımı veya yazılımının, şirketlerin inisiyatifinden ziyade dış denetime tabi bir zorunluluk olarak uygulanması ihtimali üzerinde duruluyor.
