Avrupa Birliği (AB) Komisyonu, yapay zekanın insan kontrolünden çıkmasının en büyük güvenlik riski olduğunu ortaya koydu. AB Komisyonu Teknolojik Egemenlik, Güvenlik ve Demokrasiden Sorumlu Başkan Yardımcısı Henna Virkkunen, Finlandiya kamu yayıncısı Yle ile yaptığı röportajda, yapay zeka teknolojilerinin geldiği noktaya dikkat çekti.
Yapay zeka kontrolü kritik önemde
Virkkunen, yapay zeka sistemlerinin gelişiminin insanların bu teknolojiler üzerindeki kontrolünü kaybetmesine neden olabileceğini vurgulayarak, "Bu teknolojiler o kadar gelişmiş durumda ki belirli güvenlik önlemlerinin sürekli yürürlükte olması ve kontrolün insanda kalması son derece önemli" dedi. Ayrıca, bu tür sistemlerin test ortamlarının dışında çalışarak siber güvenlikte sorunlar yaratabileceğini ifade etti.
Mevzuat ve uluslararası işbirliği gerekliliği
AB'nin yapay zekaya ilişkin olası tehditleri yönetmek için mevzuat geliştirdiğini aktaran Virkkunen, AB Yapay Zeka Yasası çerçevesinde model sağlayıcıların riskleri sürekli olarak değerlendirme zorunluluğu taşıdığını belirtti. Bu yasa, yapay zekanın kötü amaçlarla kullanılmasına karşı bir kalkan oluşturmayı hedefliyor.
Virkkunen, uluslararası işbirliğinin önemine de değinerek, "Dünyada yapay zekayı kötü amaçlarla kullanmaya hazır aktörlerin bulunduğuna dikkat etmeliyiz. Bu bir risk olarak sürekli dikkate alınmalıdır. Yapay zeka modellerinin güvenli olduğundan, sürekli değerlendirildiğinden ve piyasaya sunulduktan sonra da izlendiğinden emin olmalıyız" şeklinde konuştu. Sonuç olarak, Virkkunen, teknolojik gelişimin her aşamasında insan denetiminin korunması gerektiğini vurguladı.
