Bilim kurgu yazarı Isaac Asimov 1942’de “Runaround” adlı kısa öyküsünde gelişmiş robotlarla bir arada yaşayan insan kavramını tanıttı. İnsanların yardımcıları tarafından yok edilmemesini veya köleleştirilmemesini sağlamak için de bir güvenlik önlemi olarak tüm robotların beyinlerine programlanması gereken bir dizi “Yasa” belirledi. Günümüzde bu yasa üç robot yasası olarak bilinmektedir.
Ancak etik ilkelerini öne çıkaran ilk öykünün yayınlanmasından bu yana geçen süreçte, önemli teknolojik gelişmeler oldu. Artık robotların neye benzeyebileceği ve onlarla nasıl etkileşime gireceğimiz konusunda çok farklı bir anlayışımız var.
Bu üç robot yasasına ve günümüzde hala geçerli olup olmadıklarına bakmadan önce, gelin robotlardan daha genel konuşursak yapay zekadan neden çekindiğimizi düşünelim.
İnsanın Yapay Zeka İle İlgili Sorunu Nedir?
Hayatları boyunca güçlü olanlar ellerindeki gücü kaybetme fikrinden pek de hoşlanmazlar. Sonucunda şanslı ve ayrıcalıklı bir kesimdenseniz, belirli bir mal varlığınız varsa bunun elinizden alınması fikri sizi pek de mutlu etmeyecektir.
Benzer bir durum kişiliğimiz söz konusu olduğunda da karşımıza çıkar. Eğer tüm hayatınız boyunca başarılarınız için övgü topladıysanız, bir biçimde kendinizin pek de başkalarının dile getirdiği kadar önemli olmadığınızı fark etmeniz durumunda da büyük bir hayal kırıklığı sizi bekliyor olacaktır.
Sonuçta hepimiz bu dünyada egemen güç olduğumuz bilgisiyle büyüdük. Herkes içgüdüsel olarak, muazzam zekâsı ve olağanüstü icat yeteneği ile, insanın dünyaya hükmetmeye geldiğine inanacaktır.
Bu nedenle birçok insan yapay zekayı ve teknolojiyi korkutucu buluyor. Sonucunda artık en iyi olmadığımızı fark ediyoruz. 21. yüzyılda bir anda, tüm bilgeliğin ve yaratıcılığın kaynağından, modası geçmiş aletlerle uğraşan beceriksiz canlılara dönüştük. Isaac Asimov’un en iyi öykülerinden birinin temelini oluşturan bu fikirdi.
Dizüstü bilgisayarlarda çalışıyoruz ve akıllı telefonlar taşıyoruz. Hesap makineleri, elektronik tablolar ve internet bankacılığı kullanıyoruz; sesli asistanlarla konuşuyoruz ve bir uygulamanın bize eve giden en hızlı rotayı söylemesine izin veriyoruz. Tüm bunları temelinde tehdit edici olmayan ve hatta faydalı şeyler olarak algılıyoruz.
Teknolojik icatlar, yaşamlarımız için varoluşsal bir tehdit oluşturmadıkları sürece sorun değildir. Ancak Yapay Zeka hızla yol alıyor. Kitap yazıyor, resim çiziyor, şarkı besteliyor. Hatta çoğu zaman bunları bizlerden daha iyi yapıyor. Bu da artık insanın evrenin merkezinde olmadığı anlamına geliyor. Bizi temelde korkutan şey ise ikinci olmak değil, kontrolün bizde olmaması.
Üç Robot Yasası Nelerdir?
Asimov’un kitaplarının tümü, “Üç Robot Yasası” etrafında dönme eğilimindedir. Yasalar, özünde, insanları şeyleri kontrol altında tutan mekanizmalardır.
- 1-Bir robot hiçbir şekilde insana zarar veremez; veya pasif kalmak suretiyle zarar görmesine izin veremez.
- 2-Kendisine insanlar tarafından verilen komutlara 1. kuralla çelişmediği sürece itaat etmek zorundadır.
- 3-Bir robot 1. ve 2. kurallarla çelişmediği sürece kendi varlığını korumak zorundadır.
Daha sonra Asimov, Termodinamikte olduğu gibi, Birinci Yasanın önüne bir de “Sıfırıncı Yasa” ekledi. “Hiç bir robot, insanlığa zarar veremez ya da hareketsiz kalarak insanlığın zarar görmesine izin veremez.” Bu son yasayı neden eklediğini anlamak aslında zor değil.
Ancak robotlardan insanlığın iyiliği için hareket etmelerini istemek tehlikeli bir istek. Çünkü bu onları tam tanımı olmayan bir şeyi yapmaya zorlar. “İnsanlık için ne faydalıdır?” sorusunun tek bir cevabı yoktur. Hiçbir program bize iyiyi ve kötüyü söyleyemez.
Üç Robot Yasasını Güncelleme Zamanı mı Geldi?
Bariz sorunlardan biri, bugün robotların Asimov’un hikayelerindekilerden çok daha çeşitli biçimlerde karşımıza çıkmasıdır. Örneğin günümüzde casusluk, bomba imha veya yük taşıma amaçlı olarak savaşlarda kullanmak için de robotlar tasarlıyoruz. Bunlar, özellikle son derece tehlikeli ortamlarda insan yaşamına yönelik riski azaltmak için kullanılıyor. Üç robot yasası ile de uyumlu gözüküyorlar.
Ancak nihai askeri hedef, savaşlarda kullanılacak silahlı robotlar yaratmak olduğunu biliyoruz. Bu durumda, Sıfırınca Yasa -insanlara zarar vermeme- büyük ölçüde sorunlu hale gelir.
Üç robot yasası ile ilgili bir başka sorun ise bir insana neyin zarar verdiği sorusudur. Örneğin, Japonya’da karşımıza çıkan robot bebekler de bir sorun olabilir. Bir insan bu robotlardan birini evlat edinirse, muhtemelen duygusal veya psikolojik sorunlar yaşayacaktır. Ancak bu zarar, robotun doğrudan eylemlerinden kaynaklanmamıştır.
Yasalarla alakalı teorik sorunlar bir yana, günümüzde bir robota bu yasalara uymasının nasıl öğretileceği pratik bir sorun teşkil ediyor. Yapay zeka alanındaki gelişmeler her ne kadar inanılmaz olsa da, halen daha bir robotu bu yasalara uyacak şekilde geliştirebilecek seviyeye gelmedik. Sonuç olarak, Asimov’un yasaları, kulağa her ne kadar mantıklı gelse teorik ve pratik problemleri var gibi gözüküyor.
Ancak bir başka şey daha var. Kimi düşünürler bir yasaya daha ihtiyacımız olduğunu düşünüyor. Sonucunda, insan işlerini insanlardan daha iyi yapan yapay zeka dünyasına girerken, çoğumuz hala bir insan tarafından neyin yapılıp neyin yapılmadığını bilmek isteyeceğiz.
Mesela okuduğunuz bu yazıyı bir insan mı yazdı yoksa bir yapay zeka mı? Bunu bilmek hakkımızdır. Belki de Asimov temel bir Dördüncü Yasayı kaçırmıştır: Bir robot kendini tanımlamalıdır. Göz atmak isterseniz: Robotların Dünyayı Henüz Ele Geçirmeyecek Olmasının Beş Nedeni
Kaynaklar ve ileri okumalar
- Isaac Asimov’s Three Laws of Robotics need updating. Yayınlanma tarihi: 17 Mart 2017; Bağlantı: https://theconversation.com/
- 3 rules for robots from Isaac Asimov — and one crucial rule he missed. Yayınlanma tarihi: 9 Nisan 2023; Bağlantı: https://bigthink.com/
Size Bir Mesajımız Var!
Matematiksel, 2015 yılından beri yayında olan ve Türkiye’de matematiğe karşı duyulan önyargıyı azaltmak ve ilgiyi arttırmak amacıyla kurulmuş bir platformdur. Sitemizde, öncelikli olarak matematik ile ilgili yazılar yer almaktadır. Ancak bilimin bütünsel yapısı itibari ile diğer bilim dalları ile ilgili konular da ilerleyen yıllarda sitemize dahil edilmiştir. Bu sitenin tek kazancı sizlere göstermek zorunda kaldığımız reklamlardır. Yüksek okunurluk düzeyine sahip bir web sitesi barındırmak ne yazık ki günümüzde oldukça masraflıdır. Bu konuda bizi anlayacağınızı umuyoruz. Ayrıca yazımızı paylaşarak veya Patreon üzerinden ufak bir bağış yaparak da büyümemize destek olabilirsiniz. Matematik ile kalalım, bilim ile kalalım.
Matematiksel
