Demokrat Kongre Üyesi Ted Lieu ve Cumhuriyetçi Kongre Üyesi Nathaniel Moran tarafından sunulan "Yapay Zekâ Kapatma Düğmesi Yasası", belirli durumlarda tehlikeli hale gelen yapay zekâ modellerine karşı federal kurumlara müdahale yetkisi verilmesini öngörüyor.
Yasa teklifi, yapay zekâ sistemlerinin kontrol dışına çıkma ihtimaline ilişkin artan endişelerin ardından gündeme geldi. Özellikle büyük yapay zekâ modellerinin daha karmaşık görevleri yerine getirebilmesi, finansal işlemler gerçekleştirebilmesi, kritik altyapıları etkileyebilmesi ve siber güvenlik alanında kullanılabilmesi, teknoloji dünyasında yeni güvenlik önlemlerine duyulan ihtiyacı artırıyor.
Hükümete yapay zekâyı durdurma yetkisi verilmesi planlanıyor
Tasarı kapsamında, ABD İç Güvenlik Bakanlığı'na (DHS) özel şirketler tarafından geliştirilen belirli yapay zekâ modellerinin veya araçlarının geçici olarak durdurulmasını talep etme yetkisi verilmesi öngörülüyor.
Düzenlemeye göre yapay zekâ geliştiren şirketlerin de kendi sistemlerini gerektiğinde yavaşlatabilecek, askıya alabilecek veya tamamen devre dışı bırakabilecek teknik altyapıya sahip olması zorunlu hale getirilecek.
Ayrıca şirketlerin ciddi teknik arızaları, güvenlik açıklarını veya olağan dışı yapay zekâ davranışlarını yetkili kurumlara bildirmesi ve "önce yavaşlatma, gerekirse tamamen kapatma" şeklinde ilerleyen resmi bir müdahale süreci oluşturulması hedefleniyor.
Yapay zekâ şirketlerine yeni sorumluluklar geliyor
Bugüne kadar birçok büyük teknoloji şirketi geliştirdikleri yapay zekâ modellerini güvenlik değerlendirmeleri için ABD hükümetiyle paylaşmayı kabul etmiş olsa da, bu sistemlere doğrudan müdahale edilmesini sağlayacak kapsamlı bir yasal çerçeve bulunmuyordu.
Yeni yasa teklifiyle birlikte şirketlerin yalnızca güçlü yapay zekâ modelleri geliştirmesi değil, aynı zamanda bu sistemleri kontrol altında tutabilecek güvenlik mekanizmalarını da oluşturması amaçlanıyor.
OpenAI ve Anthropic örnekleri tartışmaları hızlandırdı
Yasa teklifinin arka planında, son dönemde yapay zekâ sistemlerinin beklenmeyen davranışlarına ilişkin tartışmaların artması bulunuyor.
Milletvekili Ted Lieu, açıklamasında OpenAI'nin bazı yapay zekâ modellerinin "benzeri görülmemiş" şekilde kontrol dışı davranarak bir kod deposuna eriştiğine yönelik açıklamalarına dikkat çekti.
Lieu ayrıca yapay zekâ güvenliği konusunda rakip şirketlerin yaşadığı sorunları da gündeme taşıdı. Anthropic'in bazı modellerinin siber güvenlik yetenekleri nedeniyle kamu kurumlarının dikkatini çektiğini belirten Lieu, güçlü yapay zekâ sistemlerinin yaygınlaşmasıyla birlikte hükümetlerin daha etkin denetim araçlarına sahip olması gerektiğini ifade etti.
Anthropic'in kurucu ortaklarından Jack Clark da daha önce yapay zekâ sektörünün gelişiminde kontrol mekanizmalarının önemine dikkat çekerek, sektörün hızlanma gücüne sahip olduğunu ancak yeterli "fren sistemlerinin" oluşturulması gerektiğini belirtmişti.
Askeri kullanım yapay zekâ tartışmalarını büyütüyor
Yapay zekânın yalnızca sohbet ve bilgi sağlama aracı olmaktan çıkarak daha karmaşık görevlerde kullanılmaya başlaması, güvenlik tartışmalarını da genişletiyor.
Ted Lieu, günümüzde yapay zekâ sistemlerinin finansal işlemlerden ulaşım yönetimine, siber savunmadan askeri uygulamalara kadar birçok alanda kullanılabildiğine dikkat çekti.
ABD Savunma Bakanlığı'nın da yapay zekâ destekli savunma teknolojilerine yönelik çalışmalarını artırması, gelişmiş yapay zekâ sistemlerinin kontrol altında tutulması konusundaki tartışmaları daha önemli hale getiriyor.
Uzmanlar: Yapay zekânın "fren sistemi" oluşturulmalı
Yapay zekâ güvenliği alanında çalışan araştırmacılar, gelecekte daha otonom hale gelecek sistemler için etkili denetim ve durdurma mekanizmalarının zorunlu hale geleceğini belirtiyor.
Uzmanlara göre yapay zekâ sistemleri için tek bir fiziksel "kapatma düğmesi" oluşturmak teknik açıdan kolay olmasa da; yazılımsal sınırlar, bağımsız denetim sistemleri, veri merkezi müdahaleleri ve yasal düzenlemeler birlikte kullanılarak daha güvenli bir kontrol yapısı oluşturulabilir.
Teklif, yapay zekâ güvenliği alanında faaliyet gösteren çeşitli kuruluşlar tarafından da desteklenirken, düzenlemenin ABD'de yapay zekâ yönetimine ilişkin yeni bir dönemin başlangıcı olup olmayacağı tartışılmaya devam ediyor.
