Yapay zeka teknolojilerinin hızla gelişmesiyle birlikte güvenlik endişeleri de yeni boyutlar kazanıyor. Dünyanın önde gelen yapay zeka firmalarından birinin kurucu ortağı, olası risklere karşı şirketlerin sistemlerine üçüncü bir tarafça yönetilen bir “acil durdurma düğmesi” eklenmesinin zorunlu kılınabileceğini belirtti.
Kim bu öneriyi gündeme getirdi?
Sektörün dev isimlerinden Anthropic şirketinin kurucu ortağı, yapay zeka modellerinin güvenli bir şekilde yönetilmesi ve denetlenmesi gerektiğini vurgulayan isim oldu.
Acil durdurma düğmesi neyi hedefliyor?
Öneriye göre, yapay zeka sistemlerinin kontrol dışına çıkma ihtimaline karşı dışarıdan müdahale edilebilir bir mekanizmanın bulunması kritik önem taşıyor. Şirketler için zorunlu bir yasal düzenleme haline gelmesi öngörülen bu acil durdurma düğmesi, bağımsız bir üçüncü tarafın kontrolünde işleyerek sistemlerin gerektiğinde tamamen devre dışı bırakılmasını sağlayacak.
