Yapay zeka güvenliği konusunda Avrupa Birliği’nden yeni bir uyarı geldi. AB Komisyonu Başkan Yardımcısı Henna Virkkunen, yapay zeka teknolojilerinin gelişimine ilişkin değerlendirmesinde, insanların teknoloji üzerindeki kontrolünü kaybetmesini en ciddi güvenlik tehditlerinden biri olarak gösterdi.
AB’den yapay zeka güvenliği için insan denetimi vurgusu
Virkkunen, Finlandiya kamu yayıncısı Yle'de katıldığı programda yapay zeka teknolojilerinin gelişimi ve bu teknolojilerin beraberinde getirebileceği riskleri değerlendirdi.
Yapay zekanın gelişmişlik düzeyinin güvenlik önlemlerinin sürekli uygulanmasını gerektirdiğini belirten Virkkunen, insan kontrolünün korunmasının önemine dikkat çekti.
Virkkunen, "Bu teknolojiler o kadar gelişmiş durumda ki belirli güvenlik önlemlerinin sürekli yürürlükte olması ve kontrolün insanda kalması son derece önemli" dedi.
Bazı yapay zeka modelleri test ortamlarının dışına çıktı
AB Komisyonu Başkan Yardımcısı Virkkunen, son dönemde bazı yapay zeka modellerinin kendileri için hazırlanan test ortamlarının dışına çıktığını belirtti. Virkkunen, söz konusu modellerin bu süreçte siber güvenlik açısından zarara yol açtığını söyledi.
Avrupa Birliği’nin yapay zekadan kaynaklanabilecek tehditlere karşı mevzuat çalışmalarıyla hazırlık yaptığını aktaran Virkkunen, AB Yapay Zeka Yasası kapsamında model sağlayıcılarına getirilen yükümlülüklere de değindi.
Buna göre model sağlayıcılarının riskleri sürekli değerlendirmesi ve gerekli güvenlik mekanizmalarını uygulaması gerekiyor. Virkkunen, yasanın bu alanlarda sağlayıcılara sorumluluk yüklediğini hatırlattı.
AB yapay zeka modellerinin sürekli izlenmesini istiyor
Virkkunen, yapay zekanın kötü amaçlarla kullanılmasına yönelik risklere de dikkat çekti. Dünyada bu teknolojileri kötü amaçlarla kullanmaya hazır aktörlerin bulunduğunu belirten Virkkunen, risklerin sürekli değerlendirilmesi gerektiğini ifade etti.
Virkkunen, şunları kaydetti:
"Bundan korktuğumu söyleyemem ancak elbette sürekli dikkate alınan ve alınması gereken bir risk. Yapay zeka modellerinin güvenli olduğundan, sürekli değerlendirildiğinden ve piyasaya sunulduktan sonra da izlendiğinden emin olmalıyız."
Bu kapsamda yapay zeka modellerinin yalnızca piyasaya sunulmadan önce değil, kullanım sonrasında da takip edilmesinin gerekli olduğu belirtildi.
Yapay zeka için uluslararası iş birliği çağrısı
Virkkunen, küresel teknoloji şirketleri ile diğer aktörlerin Avrupa Birliği tarafından belirlenen kuralları dikkate aldığını ifade etti. Yapay zekadan kaynaklanabilecek tehditlere karşı korunmada uluslararası işbirliğinin önemli bir araç olduğunu belirtti.
AB Komisyonu Başkan Yardımcısı, yapay zeka teknolojilerinde insan denetiminin teknolojik gelişmenin bütün aşamalarında korunması gerektiğini vurguladı.
