Silikon Vadisi’ne ev sahipliği yapan ABD’nin California eyaletinde, yapay zekâ teknolojilerinin kontrolsüz gelişimine karşı bir adım atıldı. Eyalet Valisi Gavin Newsom; yapay zekâ şirketlerinin bağımsız denetime tabi tutulmasını ve kritik risk anlarında sistemlerin durdurulmasını sağlayacak bir "acil kapatma tuşu" geliştirilmesini öngören kapsamlı yürütme kararnamesini imzaladı.
Son dönemde yapay zekâ modellerinin taşıdığı potansiyel risklerin kamuoyunda tartışma yaratması üzerine harekete geçen California Valiliği, federal hükümetin düzenleme konusundaki gecikmesini eleştirerek inisiyatif aldı.
İki ay içinde güvenlik kılavuzu hazırlanacak
Valilikten yapılan resmi açıklamaya göre kararname, yapay zekâ üreten dev teknoloji firmalarının ürün geliştirme süreçlerinde bağımsız denetim mekanizmalarına açılmasını ve güvenlik açıklarına karşı koruyucu bariyerler getirilmesini şart koşuyor.
Kararname uyarınca, eyaletin yapay zekâ güvenliği mevzuatını tahkim etmek üzere alanında yetkin uzmanlardan oluşacak özel bir komite kurulacak. Bu kurul, iki ay içerisinde bağlayıcı nitelikteki güvenlik ve denetim kılavuzunu hazırlayarak yürürlüğe sokacak.
Newsom: "Federal hükümetin başarısızlığı herkesi endişelendirmeli"
Kararnameye imza attıktan sonra değerlendirmelerde bulunan Vali Gavin Newsom, Washington’daki karar vericileri hedef aldı:
"Yapay zekâ şirketlerinin yöneticileri düzenlemeler getirilmesi için yalvarırken, federal hükümetin yapay zekâ konusunda anlamlı bir denetim veya hesap verebilirlik mekanizması oluşturmadaki üst düzey başarısızlığı her Amerikalıyı derin bir endişeye sevk etmelidir. Karşı karşıya olduğumuz riskler harekete geçmeyi erteleyemeyeceğimiz kadar yüksek. Çok geç olmadan kapsamlı denetim mekanizmalarını devreye alacağız."
Sektörde "gelişimi yavaşlatalım" çağrısı gündemde
California’daki bu hamle, sektörün en üst kademelerindeki güvenlik tartışmalarının hemen ardından geldi.
Yapay zekâ şirketi Anthropic araştırmacılarından Jacob Coxon’ın, araştırma süreçlerinin sorumsuz yürütüldüğü gerekçesiyle istifa etmesi üzerine CEO Dario Amodei bir makale yayımlamıştı. Amodei, kontrol kabiliyetinin yitirilmemesi adına yapay zekâ geliştirme hızının denetime imkân tanıyacak ölçüde yavaşlatılmasını ve ortak güvenlik standartları belirlenmesini önermişti.
Amodei’nin bu temkinli yaklaşımına Elon Musk destek verirken, OpenAI CEO’su Sam Altman da öneriyi desteklediğini ve bağımsız denetim konusunda adım atacağını belirtmişti.
Güvenlik odaklı düzenleme adımlarına tepki gösteren ABD Başkanı Donald Trump ise yapay zekâ ve veri merkezlerine yönelik kısıtlamaların "hastalıklı bir komplo" olduğunu savunarak, bu durumdan yalnızca Çin’in kazançlı çıkacağını öne sürmüştü. Çin Dışişleri Bakanlığı Sözcüsü Guo Ciakun ise Trump’ın ithamlarına yanıt vererek; yapay zekâ üzerinden korkuları körüklemenin, cepheleşmenin ve acımasız rekabetin küresel teknoloji yönetimine zarar verdiğini ve kimseye fayda sağlamayacağını dile getirmişti.
