Özetle:“Yapay Zekanın Vaftiz Babası” Geoffrey Hinton’a göre yapay zeka 40 yıl önce Kaliforniya’da doğdu. Şimdi, Altın Eyalet gelecekteki güçlü yapay zeka algoritmalarının araştırma ve geliştirmesini düzenlemeye çalışıyor. Ancak şirketler aşırı düzenleme potansiyeli konusunda endişelerini dile getirdiler.
Senatör Scott Wiener, Anthropic ve diğer AI şirketlerinin endişelerini göz önünde bulundurduktan sonra Senato Tasarısı 1047’yi değiştirdi. Wiener, yakın zamanda yaptığı bir basın açıklamasında, SB 1047’nin Kaliforniya’daki büyük ölçekli yapay zeka sistemleri için yeni “güvenli geliştirme” kuralları oluşturmayı, bu potansiyel olarak yıkıcı teknolojiyi kullanmak ve kamu güvenliğine yönelik tehditleri önlemek için sağduyulu güvenlik standartlarını teşvik etmeyi amaçladığını açıkladı.
Önerilen SB 1047 Meclis zeminine ilerliyor ve 31 Ağustos’a kadar oylanması gerekiyor. Wiener’ın Kaliforniya’nın hem AI geliştirmede yenilikçiliği hem de güvenliği ilerletmesine yardımcı olabileceğine inandığı yasa tasarısı, AI endüstri liderlerinden, akademiden ve kamu sektöründen gelen geri bildirimlerin ardından revize edildi. Anthropic’in SB 1047 hakkında özel endişeleri vardı ve Wiener, revize edilen yasa tasarısının şirketin “çok makul” değişiklik önerilerinden bazılarını içerdiğini belirtti.
Güncellenen SB 1047 taslağı, cezai yaptırımları kaldırarak ve bunları medeni yaptırımlarla değiştirerek Anthropic’in temel endişelerini ele alıyor. Ek olarak, önerilen yeni düzenleyici kurum, Kaliforniya’nın kötü AI aktörlerini sorumlu tutma yeteneğini önemli ölçüde etkilememesi gereken daha “basitleştirilmiş” bir düzenleyici yapı lehine ortadan kaldırıldı.
Yeni yasal standartlar artık AI geliştiricilerinin güvenli AI algoritmaları oluştururken ve eğitirken “makul özen” göstermelerini gerektiriyor. Senato Tasarısı 1047 yalnızca en az 10 milyon dolarlık yatırımla ince ayarlanmış modellere uygulanıyor ve daha küçük, açık kaynaklı modellerin geliştiricilerini hükümlerinden muaf tutuyor.
Senatör Wiener’a göre SB 1047, Geoffrey Hinton ve Yoshua Bengio gibi önde gelen AI araştırmacılarının desteğine sahip. Gözden geçirilmiş yasa tasarısı, özellikle eğitilmesi 100 milyon dolardan fazla maliyeti olan modeller için AI geliştirme için yeni standartlar oluşturmayı amaçlıyor. Bu “sınır” modelleri, kötüye kullanıma karşı temel önlemler ve güvenlik önlemleri uygulamalı ve Kaliforniya Başsavcısı, güçlü bir AI sistemi vatandaşlara “ciddi zarar” verirse geliştiricileri mahkemeye verme yetkisine sahip olacak.
Senatör Wiener, Kongre’nin disket döneminden bu yana önemli bir teknoloji düzenlemesi geçirmemiş olmasına rağmen, Kaliforniya’nın hızla ilerleyen AI algoritmalarının oluşturduğu riskleri azaltmak için harekete geçmesi gerektiğini belirtti. Profesör Hinton, SB 1047’yi, yasa koyucuların endişeleri ile AI şirketlerinin endişeleri arasında mantıklı bir denge kurduğu ve eyalet yetkililerine alanda inovasyonu teşvik ederken riskleri ele almak için etkili önlemler sunduğu için övdü.