Hanson Robotics tarafından üretilen Sophia isimli robota, Oğuzhan Uğur’un sunduğu Mevzular Açık Mikrofon'da yer verilmesinin ardından Sophia, seslendirdiği yanıtlarla sosyal medyanın gündemine oturdu. “Seslendirme” kavramını burada bilerek kullandığımızı söyleyelim. Nitekim Sophia’nın belirli bir bilince sahip bir yapı olarak sorulan soruya “yanıt geliştirme” yetisi olduğunu düşünmek için henüz çok erken. Aksine Sophia’ya yüklenen bu tarz “insansı” tutumlar yapay zekâ hakkında bizleri yanıltıcı yaklaşımlara sürüklüyor gibi görünüyor.
Sophia yapay zekâ teknolojilerinden nasıl yararlanıyor?
2023 yılında yapay zekâ uygulamalarının dikkat çekici bir biçimde gündemimizi meşgul etmesinin önemli bir nedeninin ChatGPT olduğunu söylemek yanlış sayılmaz. Geçen yıl Kasım ayında internet kullanıcılarıyla buluşan ChatGPT ve OpenAI’ın sohbet uygulamasının temelindeki GPT kısaltmalı büyük dil modelleri, 2023 yılında neredeyse binlerce diyebileceğimiz yapay zekâ merkezli uygulamaya alan açtı.
Microsoft’un desteğiyle kısa sürede milyonlarca kullanıcıya erişebilecek yetkinlikte dil modelleri geliştirebilen OpenAI elbette bu yarışta yalnız değildi. Google ve Meta gibi daha birçok teknoloji devi de bu alandaki çalışmalarını kullanıcılara sundu. Bu yarışın insanlığı nereye götüreceği ise veri bilimciler ve mühendisler tarafından tartışıldığı kadar sosyologlar ve felsefeciler tarafından da büyük bir ciddiyetle ele alınıyor. Heyecanlı olduğu kadar tedirginlik verici de olabilecek tarihsel bir sürece tanıklık ediyoruz.
Bu doğrultuda Sophia’ya baktığımızda özünde yanıt üretme kabiliyetiyle ChatGPT ile benzer bir yapıya sahip olduğunu anlıyoruz. Her ikisi de doğal dil işleme tabanlı sistemlere sahip. Öte yandan Sophia’yı klasik bir sohbet uygulamasından farklı kılan, kendisinin “kurgusal bir karakter” olarak inşa edilmiş olması. Bu durum Hanson Robotics tarafından Sophia’nın tanıtıldığı sayfada da daha ilk paragrafta ifade ediliyor.
“Hanson Robotics'in en gelişmiş insan benzeri robotu Sophia, yapay zekânın geleceğine yönelik hayallerimizi temsil ediyor. Bilim, mühendislik ve sanatın eşsiz bir birleşimi olan Sophia, hem yapay zekâ ve robotiğin geleceğini tasvir eden, insan eliyle yaratılmış bir bilim kurgu karakteri hem de gelişmiş robotik ve yapay zekâ araştırmaları için bir platformdur.”
Bu anormal bir ibare değil. Nitekim “insansı” görünmek üzere inşa edilen bir robottan söz ediyoruz. Bu Sophia’nın yapay zekâ sistemlerine sahip olmadığı anlamına gelmiyor. Hanson Robotics, Sophia’nın sembolik yapay zekâya (symbolic AI) sahip olduğunu, yani yalnızca sayısal temsilleri değil semboller ve farklı konseptleri de sisteminde işleyebildiğini belirtiyor. Doğal dil işleme (natural language processing) yöntemlerinin Sophia’nın inşasında kullanıldığını da zaten belirtmiştik. Bunların yanı sıra Sophia’nın görüntü işleme (computer vision) yetkinliklerine sahip olduğunu, kameralar vasıtasıyla duygu durumu analizi yapabildiğini (visual sentiment analysis) anlıyoruz. Robot Sophia, gerçekten de etkileyici bir proje ama Sophia örneğinde ve benzeri diğer başka birçok örnekte konu dönüp dolaşıp bir kavramda düğümleniyor: Bilinç
Bir sistemin yapay bir bilince (artificial consciousness) sahip olması yani kendi varlığının farkında bir biçimde bir beyni varmışçasına düşünebilmesi gibi bir durum bugün için söz konusu değil. Nitekim bilincin ne olduğu tartışması bizi sinirbilime götürüyor. Her ne kadar yapay zekâ sistemlerinin ardındaki makine öğrenmesi modellerinin bazıları gerçek bir sinir hücresinin işleyiş biçimini taklit ediyor olsa da (bakınız artificial neural network veya Türkçesiyle yapay sinir ağları) makine öğrenmesi modelleri insan bilinciyle karşılaştırılabilecek ölçekte çalışmıyor ve yapay zekâ sistemlerin bu noktaya gelebilmek için önünde biraz daha yol var gibi gözüküyor.
Hanson Robotics’in, Sophia’nın insan bilincinin mutlak bir replikasına sahip olduğu yönünde bir iddiası da bulunmuyor. Sophia’da içerisinde bulunduğu durum ve işlediği veriye göre belirli bir bilinç ölçeği dahilinde (Tononi Phi) pek olgunlaşmamış düzeyde de olsa bazı bilinç emarelerine rastlandığı ifade edilmiş ancak bilinç kavramının doğası ve sinirbilimdeki ele alınış şekliyle bu görece zayıf kalan ibarenin kendisi bile tartışmaya açık.
Dahası Sophia’nın hibrit bir yapıda hareket ettiği, yaratıcısı firma tarafından da ifade edilmiş. Sophia’nın etkileşimlerinde biraz yapay zekâ biraz da insan girdileri rol alıyor. Hanson Robotics ekibinde yer alan yazar kadrosunun zaman zaman Sophia’nın seslendirdiği yanıtlarda etkisinin olduğu net bir biçimde yazıyor.
“Hibrit modumda, etkileşimlerim bir karışımdır: bazen otonom olarak oluşturulur, bazen Hanson Robotics yazarlarından oluşan bir ekip tarafından senaryolaştırılır ve insan yardımı ile yarı otonom olarak yönlendirilir. İnsanlar ile makinelerin birbirlerine yardım etmeleri için güçlü bir yol olan bu hibrit işlemler telerobotiklerde, sesli araçlarda ve karakter robotlarında yaygın olarak kullanılıyor. Bu araçlar yapay zekâ daha akıllı hale geldikçe ve daha yaygın kullanıldıkça, yapay zekâ ve insanların daha iyi geçinmeyi öğrenmelerine olanak sağlayabilir.”
“İnsansı” bir robot geliştirme hedefiyle hareket eden bir firmaysanız bu durum olağandışı değil. Nitekim yapay zekâ dünyası henüz bilinç kavramını tümüyle çözmeye vakıf olamadı. Bu açıdan sistemlerin seslendirdiği yanıtlara şüpheyle yaklaşmak gerek. Çünkü “bilince sahip” yazar kadrolarının elinde Sophia benzeri robotlar içinde bulundukları koşul ve bağlama göre birer kukladan ibaret olabilir.
Sophia AK Partili mi?
ChatGPT gibi büyük dil modelleri ile hareket eden uygulamalarda Sophia’daki gibi bir “yazar kadrosu” bulunmuyor olsa da OpenAI geliştiricileri tarafından sisteme belirli sınırlılıklar getiriliyor ve sistemin belirli bir üslup ile yanıt vermesi sağlanıyor. Bunun yanı sıra tüm bunların birer insan üretimi olduğunu vurgulamak ve istemli veya istemsiz bir biçimde yüzeye vuran belirli yanlılıklara sahip olduklarını tekrar tekrar ifade etmek gerekiyor. Nitekim ChatGPT örneğinde bir insanın hayatı boyunca okuyamayacağı sayıda metnin bir dil modeli içerisinde harmanlandığını ve bunun doğal dil işleme tekniği vasıtasıyla insanlar tarafından düzgün bir biçimde anlaşılır şekilde aktarıldığını görüyoruz. Ama soru şu: Bu sistem neyi “okudu”? Sisteme girilen metinlerin sahip olduğu yanlılıklar büyük dil modellerinin kullanıcılarına sunduğu yanıtlara yansıyor. Belirgin siyasi veya ideolojik yanlılıklara sahip olup olmadıkları araştırmalara konu olmaya devam ediyor.
Sophia tümüyle özgün bir dil modeli tarafından üretilen yanıtlarla otonom bir seslendirme yapıyor olsaydı bile belirli yanlılıklara sahip olacaktı. Belki de bu yanlılıklar Sophia’yı bulunduğu topluluktaki çoğunluğun tutumlarına göre yanıt vermeye yönlendirdi. Türkiye’de AK Parti seçmeni olmak, Galatasaraylı olmak gibi… Öte yandan belki de Sophia’ya eşlik eden yazar kadrosu onun belirli sorulara nasıl bir yanıt sunması gerektiğini yazılı olarak tanımladı ve kural temelli (rule-based) bir seslendirme ile karşı karşıya kaldık.
Hal böyleyken soru şu: Sophia’nın Kılıçdaroğlu’nu istifaya davet etmesine veya Erdoğan’a yönelik olumlu bir yaklaşım sergilemesine kurgusal veya yazılımsal tercihler dışında bir anlam yüklenebilir mi? Cevap hayır.
Yapay zekâya insani nitelikler atfetme: Demokrasiyi tehdit eden bir antropomorfizm öyküsü
Yapay zekâ uygulamalarına tanınan yetkinlikler çoğunlukla insan yetileriyle tasvir ediliyor. Yapay zekâ “duyuyor”, “düşünüyor”, “halüsinasyon görüyor”, bir fikir geliştirip bu doğrultuda karşısındakine “yanıt veriyor.” Bu tasvirler birer antropomorfizm örneği. İnsan biçimcilik olarak Türkçeye çevirebileceğimiz bu kavrama genelde evcil hayvanlarımızla kurduğumuz bağda rastlıyorduk. Köpeğimiz gerçekten yaptığından “pişmanlık” duyuyor veya bizi “kıskanıyor” mu? Yoksa insan olarak sahip olduğumuz davranışsal sinyalleri başka varlıklarda da görme eğilimine mi sahibiz? Bu noktada antropomorfizm, bilişsel bir yanlılık örneği olarak karşımıza çıkıyor.
Yapay zekâya insani nitelikler atfetme meselesi robotik alanında heyecan yaratıyor olsa da bu atıfların epistemolojik ve etik çıktıları üzerine kafa yoranlar için hayli yorucu bir sürecin kapıları aralanmış durumda.
Bu antropomorfizm öyküsünün siyaset bilimciler için de Sophia’nın Kılıçdaroğlu-Erdoğan çıkışındaki gibi enteresan çıktıları oluyor. Teorik olarak Erdoğan’ı savunan bir dil modeli veya kural temelli yanıtlar seslendiren bir robot olabileceği gibi Kılıçdaroğlu’nun yılmaz savunucusu bir yapay zekâ ile de karşılaşabiliriz. Kritik soru şu: Büyük dil modelleri veya genel olarak yapay zekâ sistemlere insani nitelikler atfeder ve onları birer otorite gibi görmeye başlarsak bu durum demokrasinin geleceğini ne denli tehlikeye atacak? Türkiye gibi demokrasinin sancılı bir biçimde izlendiği ülkelerde bu soru daha da önem kazanıyor.
Nitekim Mayıs 2023’te ABD Senatosu’nda yapay zekâya ilişkin oturumda konuşan OpenAI CEO’su Sam Altman “ChatGPT gibi yapay zekâ dil modelleri aracılığıyla seçmenler belirli bir biçimde davranmaya ikna edilebilir mi?” sorusuna kendisinin de bu noktada bazı insanların dil modellerini bireyleri manipüle etmek, ikna etmek ve seçmenlerle birebir temasa geçmek için kullanmasından gerçekten çekinceli olduğu yanıtını vermiş.
Sophia örneğine dönecek olursak bu robotun halihazırda farklı bir ajanda dahilinde siyasetin gündemine sokulduğunu da görebiliyoruz.
Hanson Robotics’in ve Suudi Arabistan’ın bir PR başarısı olarak yurttaş Sophia
Sophia’nın yapay zekâ dışında başarılı olduğu bir alan var ki o da sergilediği otonom olarak gelişip gelişmediğini bilemediğimiz felsefi ve kimi zaman politik yaklaşımlarla kamuoyunun gündemine Hanson Robotics firmasını getirebiliyor olması. Yapay zekâ ile robotik dünyasını bir araya getiren firmalardan birinin kendi ismini gündemde tutmak için bu tarz çalışmalar yapması elbette makul. Öte yandan bireylerin yapay zekâ okuryazarlığı, yeni yeni gelişmekte olduğu bir dönem içerisinden geçerken bu sistemlerin bizi günlük yaşamda karşımıza çıkan yapay zekâ sistemlerin yetkinliklerine dair hayli yanıltabileceği de açıkça görülüyor.
Bu bağlamda Sophia’nın bir Suudi Arabistan vatandaşı olduğunu da hatırlayalım. İnsan hakları karnesi pek iç açıcı olmayan, hele kadın hakları söz konusu olduğunda tutumları hayli tartışılan Suudi Arabistan’ın, Ekim 2017’de kadın suretinde inşa edilen Sophia’yı vatandaş ilan etmesi ülke için bir PR kampanyasından ibaretti. Bu duruma Hanson Robotics’in bir itirazının olmadığını da belirtmekte fayda var.
Çok değil bir yıl sonra, Ekim 2018’de bir başka Suudi Arabistan vatandaşı gazeteci Cemal Kaşıkçı, ülkenin İstanbul’daki başkonsolosluğunda suikaste kurban gidecekti. Kadın suretine sahip Robot Sophia’ya sunulan haklardan ülkenin “insan vatandaşları”, muhalif yurttaşları ve özellikle de kadınlar pek yararlanamıyor gibi gözüküyor. Sophia’nın hakkını yemeyelim: Zaman zaman Birleşmiş Milletler’in farklı etkinliklerinde insan hakları, kalkınma ve yapay zekâ temalı oturumlarda da boy gösteriyor.
Tüm bu tartışmalar arasında kimilerine göre sadece yüzü olan bir sohbet botundan ibaret olan Robot Sophia, bir başka PR çalışması için Türkiye’de milyonların izlediği bir YouTube yayınında yine yapay zekâ okuryazarlığımızı test ediyor.
