1966 yılında MIT’de profesör olan Joseph Weizenbaum, ilk chatbot’u yani Eliza’yı yarattı. Eliza hem çok basit hem de çok ilginç bir chatbot’tu. Sanki karşısındakinin duygularını anlıyormuş gibi sohbet ediyordu. Deyimi yerindeyse bir psikoterapist gibiydi. Elbette Weizenbaum, Eliza’nın bir insan olmadığının farkındaydı. Fakat yaşadıkları ve yaklaşan yapay zeka devrimi, onun yapay zeka muhalifi bir profesör olmasını sağlayacaktı.
Her insan kendi yaşadığı dönemin bir ürünüdür. Weizenbaum da böyle düşünüyordu. Fikirlerinde 20. yüzyılın getirdiği vahşetin bir izi olduğunu söylüyordu. O da tarihin zor bir döneminde, İkinci Dünya Savaşı rüzgarlarının estiği bir dönemde dünyaya gelmişti.
Weizenbaum 1923’te üst-orta sınıf asimile olmuş Yahudi bir ailenin son çocuğu olarak Berlin’de doğdu. Weizenbaum’un babasıyla ilişkisi oldukça kötüydü. Babası oğlunu küçümsüyor ve işe yaramaz olarak görüyordu. Bunun yanı sıra küçük Weizenbaum, çocukluğunun belki de en eğlenceli olması gereken yılları baskı altında geçirdi.
Hitler’in 1933’te şansölye olmasının ardından devlet okullarındaki Yahudi sayısına kısıtlama getirildi. Weizenbaum bu nedenle bir Yahudi erkek okulunda eğitimine devam etti. Okuldaki öğrenciler son derece yoksuldu. Weizenbaum’un hayatında ilk defa bu kadar tuhaf insanlar görüyordu. Bu okul, onun insanlık hakkındaki düşüncelerine etki eden yerlerden biri olacaktı.
Weizenbaum’un Matematik ve Bilgisayar Bilimiyle Tanışması
Aile 1936 yılında Almanya’yı terk etti. Weizenbaum’un teyzesi Detroit’te yaşıyordu, bu nedenle oraya gittiler. 13 yaşındaki Joseph Weizenbaum bu ani ayrılıktan etkilenmişti. Detroit’te fazlasıyla yalnızdı. İngilize bilmediği için derslerde zorlanıyordu. Bir tek matematik ilgisini çekiyordu. Çünkü matematik için herhangi bir dil bilmesi gerekmiyordu. Matematiğin dilini bilse yeterdi. İşte Weizenbaum’un matematikle olan bağı da böyle başladı.
Joseph Weizenbaum 1941’de yerel devlet üniversitesine kaydoldu. Kaydolduğu üniversite olan Wayne Üniversitesi, işçi sınıfı çocuklarıyla dolu bir yerdi. Detroit’teki halkın ezilmesi ve Hitler dönemindeki Yahudi baskısı arasında benzerlikler olduğunu fark etti.
Bunun üzerine artan solcu düşünceleri matematik sevgisinin önüne geçmeye başladı. Dünya ve toplum için bir şeyler yapma ihtiyacı hissediyordu. Matematik çalışırken dünyada hiç kötülük yokmuş gibi geliyordu. Ama var olduğunu biliyordu.
1941’de ABD’nin İkinci Dünya Savaşı’na girmesiyle birlikte Weizenbaum da orduya katıldı. Beş sene boyunca çeşitli yerlerde orduya hizmet etti. Daha sonra Yahudu bir sivil haklar aktivisti ve Demokratik Sosyalistler’in ilk üyesi Selma Goode ile evlendi. Bir erkek çocukları oldu.
Fakat evlilikleri çok uzun sürmedi. 1940’ların sonlarında Goode oğlunun velayetini aldı ve boşandılar. Weizenbaum bu olayı uzun süre atlatamadı. Bu ayrılışın yarattığı kriz Weizenbaum’u iki şeye yöneltmişti: Psikanaliz ve bilgisayar.
İşler Biraz Düzelmeye Başlıyor
İkinci Dünya Savaşı, bilgisayarların gelişmesini sağlayan en büyük etkenlerden biriydi. 1940’ların sonlarında modern bilgisayarların temelleri oluşmuştu. Fakat yine de bir bilgisayar üretmek pek kolay değildi. Weizenbaum’un profesörlerinden biri bir bilgisayar üretmek istiyordu.
Bunun için Weizenbaum’un da yer aldığı küçük bir öğrenci grubu kurdu. Bu iş Weizenbaum’a iyi gelmişti. Eskisi gibi matematikle uğraşmaktan keyif alıyor ve dertlerini unutuyordu.
1952 yılında ise Ruth Manes adında bir öğretmenle tanıştı ve evlendi. Ruth, ilk karısı gibi sosyalist bir Yahudi değildi. Çok sakin bir insandı. Üniversite yakınlarındaki bir eve taşındılar, üç kızları vardı. Weizenbaum da bu huzurlu ortamda çalışmalarına devam etti.
1963 yılında MIT, Weizenbaum’u üniversiteye misafir doçent olarak davet etti. O da bunu büyük bir zevkle kabul etti. MIT yeni bir proje üzerine çalışıyordu. Weizenbaum’un Detroit’te inşasına yardım ettiği bilgisayar, konferans salonunu kaplayan ve çok ısı üreten bir bilgisayardı. Ayrıca onunla etkileşim kurmak da hayli zordu.
Öncelikle elle bir program yazıyordunuz. Daha sonra delikli kartlarda bu programı bir desen olarak kodlayıp bilgisayardan geçiriyordunuz. Tahmin edebileceğiniz gibi her defasında bu işlemi uygulamak son derece titizlik isteyen bir iştir.
Eliza’nın Doğuşu
MIT’nin bilgisayar bilimcileri bu duruma bir alternatif arıyordu. 1963 yılında Pentagon’dan 2.2 milyon dolarlık hibe alarak açılımı “makine destekli biliş (machine-aided cognitive)” olan MAC Projesi’ni başlattılar. Projenin amacı bireysel ihtiyaçlara karşı daha erişilebilir ve sorumlu bir bilgisayar sistemi oluşturmaktı.
Bu amaçla bilgisayar bilimciler, bugün kabul ettiğimiz bilgi işlem türünü mümkün kılan zaman paylaşımı (time-sharing) adı verilen bir teknoloji geliştirdiler. Delikli kartlarla uğraşıp bir gün beklemek yerine anında cevap almak mümkün olacaktı böylece. Dahası, birden fazla kişi ana bilgisayarı tek bir terminalden aynı anda kullanabilecekti.
Zaman paylaşımı sayesinde yeni bir yazılım türü ortaya çıkmıştı. Bu sayede Weizenbaum, teknolojinin bilgisayarla konuşarak iletişim kurmayı mümkün kıldığını fark etti. Yazılım geliştirme, programcı ve makine arasında bir diyalog olarak yapılabilirdi.
Ancak Weizenbaum daha da ileri gitmek istedi. Bir bilgisayarla İngilizce gibi doğal bir dille konuşabilsek nasıl olurdu? Bu soru onun hem MIT’deki yerini garantileyen hem de Eliza’nın doğuşuna sebep olan soruydu.
Psikanaliz ve Yapay Zekanın Kesiştiği Nokta: Eliza Etkisi Nedir?
1966 yılında Joseph Weizenbaum Eliza adını verdiği chatbot’u tamamlamıştı. Eliza, ismini George Bernard Shaw’un Pygmalion adlı oyunundaki Eliza’dan alıyordu. Pygmalion’da Eliza bir tür illüzyon yaratmak için dili kullanıyordu. Chatbot olan Eliza da sanki karşısındaki anlarmış, empati kurarmış gibi cevaplar veriyordu.
Eliza’yla konuşan bazı denekler onun bir insan olmadığına inanmakta zorlanıyordu. Hatta çok garip bir olay bile gerçekleşmişti. Bir gün Weizenbaum’un sekreteri ondan Eliza ile konuşmak için birkaç dakika istemişti. Ve Weizenbaum’a odayı terk etmesini söylemişti. Yani insanlar sanki arkadaşlarıyla dertleşir gibi Eliza ile dertleşiyor, onunla bir bağ kuruyorlardı.
Psikanalizin babası Sigmund Freud, kariyerinin başlarında bir şey fark etmişti. Hastaları kendisine aşık oluyordu. Ancak bunun nedeni Freud’un çekici, yakışıklı biri olması değildi. Hastalarının aşık olma sebebi aktarımdı. Aktarım kısaca, geçmişte birine olan duygularımızı bugün başka birine aktarıyor oluşumuzu ifade eder.
Bu kavram insanların Eliza’ya karşı tutumlarını anlamlandırmada önemlidir. Eliza, aktarımın bilgisayarlı versiyonuydu bir nevi. İnsanlar bu yazılıma karşı anlayış, empati gibi insani özellikler atfediyordu. İşte bu duruma Eliza etkisi denmektedir.
Yapay Zeka Bizi Anlayabilir mi?
John McCarthy birkaç sene önce yapay zeka terimini icat etmişti. Bu ifade sibernetik gibi mevcut araştırma alanlarıyla örtüşmeyecek kadar tarafsız bir terimdi. Öğrenmenin her yönü veya zekanın belli bir özelliğinin prensipte kesin bir şekilde tanımlanmasıyla onu simüle edecek bir makine tasarlanabileceğini çok güzel anlatıyordu.
Yapay zekanın ortaya çıktığı bu dönemde bazı bilim insanları insan beynini etten bir makine olarak görüyordu. Weizenbaum ise bu görüşe karşı çıkıyordu. Eliza hakkında yayınladığı ilk makalesinde hiçbir bilgisayarın bir insanı tam olarak anlayamayacağını savunmuştu. Sonra daha da ileri giderek hiçbir insanın bile birbirini tam olarak anlayamadığını savunmaya başladı.
Weizenbaum’un bu fikirlerinde yaşamının etkisi elbette var. Ona göre herkes eşsiz yaşam deneyimlerimizden oluşan bir koleksiyonuz. Bu da insanların birbirini anlama yeteneğine sınırlıyordu. İletişim kurmak için dili kullansak da her kelime herkes için aynı şeyleri çağrıştırmıyor diyordu. Aslında insanlar da bir bakımdan birbirine çok uzaktı.
Weizenbaum’un bakış açısı açık bir şekilde psikanalizin etkilerini taşımaktadır. Yine de Eliza’nın gösterdiği gibi, insanlar bilgisayarların onları anladığı konusunda kolayca yanılabilmektedir. Bu durum Joseph Weizenbaum’u endişelendiriyordu. Çünkü insanların bilgisayarlarda güvenilirlik, yargılama hakkı gibi şeyler görmesi tehlikeliydi.
Yapay Zeka Muhalifi Bir MIT Profesörü
Yapay zekanın doğuşu hem heyecan hem de korku veren bir olaydı. Çünkü bir kısma göre yapay zeka yepyeni bir pazar demekti. Yapay zekadan çeşitli meslekleri icra etmesi beklenebilirdi. Yapay zeka sayesinde çok daha etkili savaş teknolojileri geliştirilebilirdi.
Weizenbaum gibi düşünenler ise yapay zekanın ve bilgisayarların insan yerine konmasını tehlikeli buluyordu. Yapay zekanın kendisine doğrudan karşı değillerdi. Yapay zeka denetlenmeli ve insanla karşılaştırılmamalıydı. Fakat yaşadığı dönemde Weizenbaum’un görüşü ana akım görüş değildi. Bugünse onun fikirleri üzerinde daha çok düşünüyoruz.
Örneğin dil bilimciler ChatGPT gibi büyük dil modellerinin ırkçılık ve cinsiyetçilik yapabileceğine dikkat çekiyor. Çünkü bu dil modelleri internetten alınan verilerle eğitiliyor. Büyük dil modellerini bir papağana benzetmek bu yüzden yanlış olmaz.
Yine de Weizenbaum’un kabuslarından bazılarının gerçekleştiğini söyleyebiliriz. Bu yılın başlarında iki çocuk babası Belçikalı bir adam, haftalarca Eliza ile sohbet ettikten sonra intihar etti. Eşinin Brüksel merkezli bir gazeteyle paylaştığı sohbet kayıtları, Eliza’nın adamı intihara teşvik ettiğini gösteriyor.
Zaten Weizenbaum’un asıl korktuğu şey yapay zeka teknolojisi değil, yapay zeka ideolojisiydi. Yani, bir bilgisayarın bir insanın yapabileceği her şeyi yapabileceği ve yapması gerektiği inancı. Bu ideoloji günümüzde onun zamanında olduğundan daha güçlü olabilir.
Kaynaklar ve İleri Okumalar
- Weizenbaum’s nightmares: how the inventor of the first chatbot turned against AI ; Bağlantı: Weizenbaum’s nightmares: how the inventor of the first chatbot turned against AI | Artificial intelligence (AI) | The Guardian ; Yayınlanma tarihi: 25 Temmuz 2023
Matematiksel
