“Yapay zeka hiçbir zaman füze fırlatmamalı”

ABD’li milletvekili Ted Lieu, muhalefet partililerin de içinde bulunduğu diğer çok sayıdaki vekille birlikte Otonom Yapay Zeka’nın Nükleer Füze Fırlatmasını Önleme yasa tasarısını Amerikan meclisine sundu. Tasarının amacı, isminden de açık şekilde anlaşılacağı üzere yapay zekanın nükleer silah stratejisinde hiçbir zaman son sözü söylememesi.

“Hepimiz yapay zekanın giderek hızlanan temposuyla boğuşurken, teknolojinin geleceği ve toplumdaki rolü belirsizliğini koruyor” diyen Lieu, gelecek nesilleri yıkıcı olabilecek sonuçlardan korumak için vekillerin sorumlu bir basiret sergilemesi gerektiğini belirtiyor. “Yapay zeka, nükleer silahların ateşlenmesi söz konusu olduğunda hiçbir zaman insan muhakemesinin yerini alamamalı.”

“YAPAY ZEKANIN MERHAMET VE KARAR VERME YETİSİ BULUNMUYOR”

Populer Science Türkçe’de yer alan habere göre İnsan Hakları İzleme Örgütünün Harvard Hukuk Fakültesi Uluslararası İnsan Hakları Ofisiyle beraber kaleme aldığı 2021 tarihli bir raporda, “Robotların insanlara insancıl biçimde davranmak için gereken şefkat, empati, merhamet ve karar verme verme yetisinin bulunmadığı, insan yaşamanın içsel değerini anlayamayacakları” aktarılıyor.

Yasa eğer geçerse, ABD Savunma Bakanlığının (DOD) 2022 Nükleer Durum Raporunda bulunan mevcut prosedürleri resmi bir kanun haline getirecek. Raporda şöyle ifade ediliyor: “Birleşik Devletler her durumda, Başkan’ın nükleer silah kullanımını başlatma ve sona erdirme kararlarını uygulamak ve bu noktada bilgi sağlamak için kritik önem taşıyan tüm eylemlerde, ‘işin içinde’ bir insanın bulunmasını sağlayacaktır.” Teklife göre DOD ayrıca, “anlamlı insan kontrolü” olmadığı takdirde hiçbir devlet fonunun otomatik bir sistemle nükleer füze fırlatılmasında kullanılamayacağını söylüyor.

ChatGPT gibi sohbet yazılımlarının da içerisinde yer aldığı üretken yapay zekanın gücü, teklifin sunulduğu şu günlerde gündemi giderek daha fazla meşgul ediyor. Fakat Lieu, “yazılımın verdiği eğlenceli cevaplar” ile “insanlığın karşı karşıya kaldığı varoluşsal tehditler” arasındaki gerçeküstü spektrumun farkına varmış. PopSci’ye konuşan Lieu, Skynet benzeri bir senaryoyu bertaraf etmek üzere yasa tasarısı hazırlamanın da vatandaşlık görevleri arasında olacağının daha önce hiç aklına gelmediğini söylüyor.

Kendisini “Kendine yeni yeni gelen bilgisayar bölümü mezunu” olarak tanıtan Lieu, günümüzde yapay zeka yazılımlarının başardığı şeyleri şaşkınlıkla izlediğini söylüyor. “Ses tanıma artık gayet muhteşem. Yüz tanıma da oldukça muhteşem ancak cilt rengi daha koyu olan kişilerde o kadar iyi değil” diyen vekil, uzun bir süredir bilinen algoritmik önyargı kalıplarına işaret ediyor.

Fakat Lieu, OpenAI’nin GPT-4 yazılımı gibi üretken yapay zeka programlarının geçtiğimiz yıl ortaya çıkmasıyla zarar potansiyelini görmeye başlamış.

Günümüzdeki teknolojilerin, “bilgi ürettiğini ve senaryoları tahmin ettiğini” söylüyor. “Bu durum farklı endişelere yol açıyor. Bunlardan biri de benim taşıdığım endişe; yapay zeka ne kadar akıllı olursa olsun, nükleer silahları asla kontrol edebilmemeli.”

Lieu, bu konudaki üç büyük sonucu engellemek için yapay zekaya yönelik yasal düzenlemeleri tartışmaya başlamanın hayati önem taşıdığını düşünüyor. Bunlardan birincisi, yanlış bilgilerin ve “topluma zararlı” diğer içeriklerin yaygınlaşması. İkincisi ise insanlığa varoluşsal bir tehdit teşkil etmese de, “sizi hakikaten öldürebilecek” yapay zekanın dizginlenmesi. Lieu, 2022 yılının Kasım ayında San Francisco’da birçok aracın karıştığı ve birden fazla insanın yaralanmasına yol açan trafik kazasını örnek gösteriyor. Kazaya, iddiaya göre tartışmalı Otopilot sürüş modundaki bir Tesla sebep olmuştu.

“Cep telefonunuz bozulduğunda, saatte 80 km hızla gitmez” diyor.

Son olarak ise “yapay zekanın dünyayı kelimenin tam anlamıyla yok edebileceğini” söylüyor Lieu. Otonom Yapay Zeka’nın Nükleer Füze Fırlatmasını Engelleme Yasası’nın da bu noktada en azından bir parça yardımcı olabileceğini düşünüyor. Nihayetinde eğer tasarı meclisten geçer ve yasalaşırsa, yapay zeka sistemleri hâlâ nükleer olaylarla ilişkili analizler ve stratejik öneriler sunabilir fakat nihai karar insanların elinde olur.

Lieu ayrıca Kongre’nin, “yapay zekayı her bir uygulamada düzenleyecek bant genişliği ya da kapasitesinin olmaması” sebebiyle, ileride yapay zeka sorunlarıyla baş etmede daha büyük düzenleyici bir yaklaşıma ihtiyaç duyulacağını söylüyor. Resmi kurumların üzerinde anlaştığı çeşitli yapay zeka risk standartlarına veya üretken ya da gelecekteki gelişmiş yapay zekaya adanmış ayrı bir kurum olasılığına açık olduğunu ifade ediyor. Biden yönetimi, geçtiğimiz Salı günü yapay zekanın gelişimini izleme ve düzenlemeyi hedefleyen yeni araştırma merkezlerine 140 milyon dolarlık fon verme planları olduğunu duyurdu.

Lieu, toplumun yeni bir “yapay zeka silah yarışıyla” karşı karşıya olmasından endişe duyup duymadığı sorusuna, “Kesinlikle muhtemel” yanıtını veriyor. Fakat mevcut nükleer anlaşmaların mevcudiyetine işaret ediyor. “Evet, bir nükleer silah yarışı var fakat [şimdilik] topyekun bir silah yarışı değil. Ayrıca topyekun bir yapay zeka silah yarışının olmaması da mümkün.”

“Ülkeler şu an bu konuyu izliyor. Ümit edelim ki bir araya gelip, ‘Yapay zekanın şunları yapmasına izin vermeyeceğiz’ desinler.”