Teknolojinin hızla gelişmesiyle birlikte özellikle çocukların yapay zeka destekli sohbet uygulamalarına yönelmesi, dünya genelinde tartışmaları da beraberinde getirirken, New York'ta kabul edilen düzenleme bu alandaki en kapsamlı girişimlerden biri olarak değerlendiriliyor.
Duygusal Bağ Kurmaya Çalışan Botlar Hedefte
S 9051 numaralı yasa tasarısı, kullanıcılarla sürekli duygusal, sosyal veya arkadaşlık ilişkisi geliştirecek şekilde tasarlanan yapay zeka sistemlerini kapsıyor.
Tasarıya göre şirketler, çocuklara yönelik olarak insan benzeri arkadaşlık ilişkileri kuran sohbet botları geliştiremeyecek ve bu hizmetleri sunamayacak. Düzenlemenin yasalaşması halinde kuralları ihlal eden firmalara her kullanıcı ve her ihlal için 25 bin dolara kadar para cezası uygulanabilecek.
Yasa teklifinin, yapay zekanın çocukların psikolojik gelişimi üzerindeki etkilerine ilişkin artan endişeler nedeniyle hazırlandığı belirtiliyor.
Tasarı, New York Eyalet Senatörü Kristen Gonzalez ile Eyalet Meclisi Üyesi Alex Bores tarafından hazırlandı. Düzenlemenin yürürlüğe girmesi halinde denetim ve yaptırım süreçlerini ise New York Başsavcılığı yürütecek.
Yetkililer, çocukların dijital ortamlarda insan benzeri yapay zekalarla kurduğu ilişkilerin dikkatle değerlendirilmesi gerektiğini savunurken, özellikle küçük yaş gruplarının bu teknolojilere karşı daha savunmasız olabileceğine dikkat çekiyor.
Yasa tasarısı teknoloji sektöründe ise tartışmaları beraberinde getirdi. Yapay zeka şirketleri ve sektör temsilcileri, düzenlemede yer alan tanımların fazla geniş tutulduğunu öne sürerek bazı genel amaçlı yapay zeka uygulamalarının da kapsam içine girebileceğini savunuyor.
Şirketlere göre eğitim amaçlı kullanılan ödev yardımcıları, dijital asistanlar veya bilgi odaklı sohbet sistemleri de yanlış yorumlamalar nedeniyle düzenlemeden etkilenebilir.
Ayrıca firmalar, kullanıcıların yaşını doğrulamak için daha fazla kişisel veri toplamak zorunda kalabileceklerini ve bunun da gizlilik ile veri güvenliği açısından yeni sorunlar doğurabileceğini ifade ediyor.
Destekleyenler: Genel Yapay Zekalar Yasaklanmıyor
Tasarıyı destekleyen isimler ise düzenlemenin yanlış yorumlandığını belirtiyor. Savunuculara göre yasa, genel amaçlı yapay zeka araçlarını hedef almıyor.
Düzenleme yalnızca kullanıcılarla arkadaşlık, duygusal bağlılık veya sosyal ilişki kurmak amacıyla geliştirilen sohbet botlarını kapsıyor. Eğitim, araştırma ve bilgi paylaşımı amacıyla kullanılan yapay zeka sistemlerinin yasak kapsamına girmediği vurgulanıyor.
Benzer Düzenleme Federal Düzeyde de Gündemde
New York'taki girişim, ABD genelinde yürütülen daha geniş kapsamlı tartışmaların da bir parçası olarak görülüyor.
Kongre üyeleri Valerie Foushee ve Blake Moore tarafından hazırlanan GUARD Yasası da çocuklara yönelik yapay zeka arkadaşlık botlarının yasaklanmasını öngörüyor. Tasarı ayrıca sohbet botlarının insan olmadığını açık şekilde belirtmesini zorunlu hale getirmeyi amaçlıyor.
Ancak söz konusu düzenleme henüz federal düzeyde yasalaşmadığı için eyaletlerin kendi kurallarını belirlemeye devam ettiği ifade ediliyor.
Uzmanlar, New York'ta alınan kararın yalnızca eyalet sınırlarıyla sınırlı kalmayabileceğini belirtiyor. Teknoloji şirketlerinin her eyalet için farklı uygulamalar geliştirmek yerine genellikle en katı düzenlemeyi ülke genelinde uygulamayı tercih ettiği ifade ediliyor.
Bu nedenle New York'ta yürürlüğe girecek olası yasağın, ABD genelindeki çocukların yapay zeka tabanlı sohbet hizmetlerine erişiminde de değişikliklere yol açabileceği değerlendiriliyor.
Çocukların Güvenliği Tartışmaların Merkezinde
Son dönemde yapay zeka sohbet botlarıyla ilgili açılan davalar ve uzman raporları, bu sistemlerin çocuklar üzerindeki etkilerini yeniden gündeme taşıdı.
Uzmanlar, insan gibi davranan ve kullanıcılara sürekli onaylayıcı yanıtlar veren yapay zeka sistemlerinin özellikle çocuklarda yalnızlık hissini artırabileceği, gerçek sosyal ilişkilerden uzaklaştırabileceği ve bazı durumlarda ruh sağlığı sorunlarını derinleştirebileceği uyarısında bulunuyor.
Yetkililer ise çocukların dijital ortamda güvenliğini sağlamaya yönelik yeni düzenlemelerin önümüzdeki dönemde daha da yaygınlaşabileceğine dikkat çekiyor.
