Kaliforniya valisi hararetle tartışılan yapay zeka güvenlik yasasını veto etti

Kaliforniya valisi Gavin Newsom, hararetle tartışılan bir yapay zeka (AI) yasa tasarısını, bunun yeniliği engelleyeceğini ve halkı teknolojinin ortaya çıkardığı “gerçek” tehditlerden korumada başarısız olacağını öne sürerek veto etti.

Newsom, Silikon Vadisi’nden ciddi tepki alan, Sınır Yapay Zeka Modelleri Yasası için Güvenli ve Güvenli Yenilik Yasası olarak bilinen SB 1047’yi 30 Eylül’de veto etti.

Teknoloji firmaları bunun inovasyonu engelleyeceğinden endişe ederken, yapay zeka modellerinin ve diğer korkulukların zorunlu güvenlik testlerini önerdi.

29 Eylül’de yaptığı açıklamada Newsom, yasa tasarısının, halkı yeni teknolojinin oluşturduğu “gerçek” tehditlerden korumadan, mevcut en iyi yapay zeka firmalarını düzenlemeye fazlasıyla odaklandığını söyledi.

“Bunun yerine yasa, büyük bir sistem kullandığı sürece en temel işlevlere bile katı standartlar uyguluyor. Halkı teknolojinin yarattığı gerçek tehditlerden korumanın en iyi yaklaşımının bu olduğuna inanmıyorum.”

San Francisco Demokrat Senatörü Scott Wiener tarafından kaleme alınan SB 1047, ChatGPT yapımcısı OpenAI, Meta ve Google gibi büyük isimler de dahil olmak üzere Kaliforniya’daki geliştiricilerin yapay zeka modelleri için bir “sonlandırma anahtarı” uygulamasını ve aşırı riskleri azaltmaya yönelik planlar yayınlamasını da gerektirecek. .

Tasarının uygulanması halinde, yapay zeka geliştiricileri, yapay zeka şebekesinin ele geçirilmesi gibi modellerden kaynaklanan devam eden bir tehdit durumunda eyalet başsavcısı tarafından dava edilmekle yükümlü olacak.

Newsom, dünyanın önde gelen yapay zeka güvenlik uzmanlarından Kaliforniya’nın “bilime dayalı bir yörünge analizi” oluşturmaya odaklanan “çalışabilir korkuluklar geliştirmesine” yardım etmelerini istediğini söyledi. Devlet kurumlarına yapay zeka gelişiminden kaynaklanan potansiyel felaket olaylarından kaynaklanan risklere ilişkin değerlendirmelerini genişletme talimatı verdiğini de sözlerine ekledi.

İlgili: OpenAI’nin kâr amacı güden hamlesi: Gerçekten ‘yasadışı’ mı?

Newsom, SB 1047’yi veto etmiş olsa da yapay zeka için yeterli güvenlik protokollerinin benimsenmesi gerektiğini söyledi ve düzenleyicilerin “halkı korumak için harekete geçmeden önce büyük bir felaketin gerçekleşmesini beklemeyi” göze alamayacağını ekledi.

Newsom, yönetiminin son 30 gün içinde yapay zeka düzenlemesine ilişkin 18’den fazla yasa tasarısını imzaladığını da sözlerine ekledi.

Politikacılar ve büyük teknoloji, yapay zeka güvenlik tasarısını geri çekiyor

Tasarı, Newsom’un kararı öncesinde milletvekilleri, danışmanlar ve büyük teknoloji firmaları arasında pek beğenilmedi.

Temsilciler Meclisi Başkanı Nancy Pelosi ve OpenAI gibi firmalar, bunun yapay zekanın büyümesini önemli ölçüde engelleyeceğini söyledi.

Abundance Institute Yapay Zeka Politikası Başkanı Neil Chilson, tasarının öncelikli olarak belirli bir maliyet ve boyuttaki (100 milyon dolardan fazla maliyete sahip modeller) modelleri hedef almasına rağmen kapsamının daha küçük geliştiricilere de baskı uygulayacak şekilde kolayca genişletilebileceği konusunda uyardı.

Ancak bazıları tasarıya açık. “Grok” adlı kendi yapay zeka modelini geliştiren milyarder Elon Musk, tasarıyı destekleyen ve yapay zeka düzenlemelerini daha geniş kapsamlı hale getiren seçkin birkaç teknoloji lideri arasında yer alıyor.

Musk, 26 Ağustos’ta X’e gönderdiği bir gönderide “Kaliforniya’nın muhtemelen SB 1047 AI güvenlik yasasını geçirmesi gerektiğini” söyledi ancak tasarının arkasında durmanın “zor bir karar” olduğunu da kabul etti.

Dergi: Gelişmiş yapay zeka sistemi zaten ‘kendinin farkında’ – ASI Alliance’ın kurucusu