Deepfake içeriklerde yakın gelecekte bizi neler bekliyor?

Deepfake, yani yapay zeka sahteciliği son dönemin ilgi çeken konularından biri. Nancy Pelosi’nin manipüle edilmiş videosundan, Al Pacino’yu Taxi Driver’ın başrolü yapan paylaşıma pek çok farklı alanda karşımıza çıkan bu teknolojinin yakın geleceğimizi nasıl etkileyeceği merak konusu. Özellikle Amerika Birleşik Devletleri’nde yaklaşan seçimler öncesi deepfake ne kadar belirleyici olacak konusunda zaman zaman yapılan tartışmalar da mevcut. Facebook’un deepfake paylaşımlara platformunda izin vermeyeceğini açıklaması da konuyu bir kez daha gündeme getirdi

Platformun yapay zeka sahteciliğini önleme yolundaki belirgin çalışmalarından biri de Deepfake Detection Challenge’a verdiği destek. Geçtiğimiz aylarda Kaggle platformunda yapay zeka sahteciliğini tespit eden projeler için ödüllü bir yarışma başladı. Facebook, AWS, Microsoft’un yanı sıra MIT, Oxford, Berkeley, Maryland gibi önde gelen üniversitelerin de destek verdiği bu yarışmaya toplamda 10 milyon dolar ödül ayrıldı. Yarışmada yer alan ekiplerden biri de “deepware.ai” adlı çalışmasıyla Zemana ekibi. 

Zemana, deepfake sorununu çözmek için sadece seçili videolar üzerinde çalışmanın, sorunu hafife almak anlamına geldiğini düşünen bir şirket. Siber güvenlik alanındaki çalışmaları ile bilinen Zemana, geliştirdiği teknolojiyle orijinal videolar üzerinde yapılan en ufak müdahaleleri ve değiştirmeleri saptayacak bir altyapı oluşturmaya çalışıyor. 

Deepware Scanner online olarak deepfake videoları tarayan bir sistem

Firmanın geliştirdiği deepware.ai yani Deepware Scanner sosyal medya ağları, medsa kuruluşları ve devlet kurumlarına yönelik geliştirilmiş versiyonuyla her platforma entegre edilen bir yapıya sahip. Yazılım, gerçeğinden ayırt edilebilmesi zorlaşan sahte ses ve videoları arka planda işleyerek online olarak zaman ve mekandan bağımsız bir şekilde inceliyor ve kullanıcılara uyarıda bulunuyor. Hatta deepware.ai sitesinde bulunan arama çubuğuna deepfake olduğundan şüphelenilen bir video linki yapıştırıldığında online olarak bir tarama imkanı da mevcut. Firmanın hedefiyse Deepfake Detection Challenge’dan birinci olarak çıkabilmek. Şirketin dijital pazarlama biriminden Mehmet Emre Çetin ile hem yapay zeka sahteciliği konusunda verdikleri mücadeleyi hem de konunun sıkıntılı boyutlarını konuştuk.

Çetin mevcut deep fake örneklerine bakıldığında halen gözün seçebildiği bazı üretim hataları olduğunu belirtiyor fakat yakın gelecekte kişilerin sadece yüzünün değil, tüm vucudunun modellenebildiği, adeta kukla gibi hareket ettirilebildiği bir olgunlaşmadan bahsedilebileceğini belirtiyor. Tabii bu kullanıcıları hayal ettiği tüm sportif ve sosyal aktiviteleri yapıyormuş gibi gösterebilir ancak hiç olmak istemediği biçimde de gösterebilir. Zaten teknoloji ile ilgili problemli noktalardan biri de bu noktada başlıyor. Yapay zeka sahteciliğinin birincil hedefi bugün politikacılar, devlet adamları ve sanatçılar. Bu konuda ufak birkaç arama yapıldığında birçok siyasetçiyle ilgili yapılmış videolara erişmek de mümkün. Üstelik bu teknolojiyi kullanmak için yapmak gereken tek şey ise belki de o ünlü kişinin bir vesikalık fotoğrafı. Çetin’in yakın dönemde tartışma yaratacak risklerden biri olarak gösterdiği de bu yöndeki olası gelişmeler. Liderler adına üretilmiş sahte mesajlar yayılabilir, itibar zedelenmeleri yaşanabilir bu da toplumsal kutuplaşmanın önünü daha da açabilir. 

Yapay zeka sahteciliğinin bir diğer riskiyse para ve sermaye piyasasında olabilecek değişimler. Çetin, bu alanda yapılacak sahte açıklamaların spekülatif etkiler yaratabileceği ve anlık olarak büyük problemler yaratabileceğini söylüyor, bir diğer vurgusuysa siber zorbalık ve kişisel hakların ihlali. Şüphesiz hedef alınan kişilerin görüntülerinin manipüle edilerek itibarsızlık yaşaması bu teknolojinin oluşturabileceği olası risklerden biri. Dikkat çekilmesi gereken bir diğer riskse kötü niyetli ticari girişimlerin rakiplerine zarar vermek için üretebileceği manipülasyonlar. Çetin bu risklere karşı Çin’deki deepfake yasakları gibi düzenlemelerin tam bir çözüm olmadığını, sadece mevcut sıkıntıları geciktireceğini belirtiyor ve öncelikli olanın insanları ve toplumları kaynağında korumak olduğunu düşünüyor. Deepware Scanner da bu alanda riskleri önleme amacıyla faaliyetlerini sürdürüyor. 

Mücadele için işbirliği şart

Ülkelerin bu konuda yapacağı regülasyonların yapay zeka sahteciliğini engellemede ne gibi bir işlevi olacağını tabii şu andan öngörmek mümkün değil. Ancak sosyal medya platformlarının bu konuda alacağı kararlar bu teknolojilerin kötü amaçlı kullanımının önüne geçmek konusunda başlangıç için iyi bir adım olabilir. Facebook’un yakın geçmişte bu paylaşımların önüne geçmek konusunda işbirliğinin altını çizmesi ve platformunda yapay zeka sahteciliğini engellemek adına aldığı karar diğer platformlar için de ilham olabilir. Bunun yanı sıra Deepfake Detection Challenge gibi büyük teknoloji firmalarının destekleriyle ortaya çıkan üretimler de yapay zeka sahteciliğiyle mücadelede daha güçlü adımlar atılmasını sağlayabilir. 

Risklerle ilgili sorulması gereken sorulardan biri de, tehlikenin ne kadar ciddi boyutta olduğu. Yapay zeka sahteciliğinin çeşitli riskler barındırdığı bir gerçek ama Facebook’un Küresel İlke Yönetimi Başkan Yardımcısı Monika Bickert, platformun bu konudaki yasağı ile ilgili bilgiler verdiği blogda yapay zeka sahteciliği içeren videoların internette çok yaygın olmadığını ama ilerde bu teknolojideki gelişmenin çeşitli zorluklar getirebileceğini belirtti. 2020’deki Amerika Birleşik Devletleri seçimleri öncesi mutlaka ki bu alanda yayılımlar bir miktar artacaktır, hatta Twitter’ın da bu konuda çeşitli önlemler alma hazırlığında olduğu bilinen bir gerçek. Ama yapay zeka sahteciliğinin altın yılı 2020 mi olacak bunu bilmiyoruz. 

2020 deepfake’in yılı mı?

Teyit’in kurucusu Mehmet Atakan Foça yapay zeka sahteciliğinin 2020’ye damga vurmasını beklemediğini belirtirken öncelikli olarak reklam ve farklı sektörlerde daha öne çıkacağının altını çiziyor ve bu teknolojinin beraberinde mutlaka çözüm alternatifi getireceğini belirtiyor. Önemli olansa belki de bu çözüm alternatiflerini güçlü bir şekilde desteklemek. Belki de Zemana gibi oluşumların faaliyetleri bu noktada daha da büyük önem kazanıyor. 

Zemana’dan Mehmet Emre Çetin de önceliğin kalıcı ve güvenilir bir çözüm üretmek olduğunun altını çiziyor ve bu çözümün tek bir şirketin çalışmasıyla kalıcı olarak çözülemeyeceğini belirtiyor. Karşımıza burada çıkan kavramsa birlikte çalışılması gerekliliği. Teknolojideki bu tehlikenin artması noktasında işbirliği ile üretilecek çözümler yapay zeka sahteciliği risklerini daha da aza indirecek adımlardan birisi. Deepfake Detection Challenge da bu işbirliğini geliştirmek için iyi bir fırsat.

Yapay zeka sahteciliğinin kısa vadede karşımıza çok fazla tartışma konusu çıkaracağı bir gerçek. Bu konuda platformların attığı adımlar ve işbirliği üretilerek geliştirilen çalışmalar ise çözüm yolunda önemli adımlardan. Ülkelerdeki seçimler öncesi şüphesiz bu alanda daha fazla tartışma yaşanacak ama bu sorun beraberinde çözümü de getirecek. Orta vadede ise yapay zeka sahteciliğinin etkilerini hep birlikte yaşayarak öğreneceğiz. Ancak şunu da belirtmeden geçmemeli internette deepfake’in yaygınlaşması tehdidinin öncesinde çok daha basit montajlarla yapılmış ve yanlış bilgi paylaşımı içeren videolar ve görseller daha büyük problem oluşturuyor. Basit bir görsel düzenleme programı ile oluşturulan montajlar birden viral olabiliyor ve bu paylaşımlara inanan kişi sayısı da normalin çok üstünde olabiliyor. Medya okur yazarlığının daha da yükseltilerek aşılabileceği bu iklim koşullarında deepfake öncesi çözülmesi gereken daha büyük problemler olduğu da altı çizilmesi gereken bir gerçek.

Bir sahte içeriği gerçeğinden ayırt etmenin yollarına, teyitçi gibi düşünebilmeyi sağlayan yöntemlere, doğrulama araçlarına, fact-checking dünyasından haberlere ve güncel gelişmelere yer verdiğimiz #teyitpedia yazısını sonuna kadar okuduğunuz için teşekkürler.

Bu kategorideki yazılarımızı daha hızlı sürede hazırlamamız ve daha fazla kişiye ulaştırabilmemiz için bizi Patreon sayfamızdan destekleyebilirsiniz.

Kaynaklar

YouTube, Pelosi videos manipulated to make her appear drunk are being shared on social media, 23 Mayıs 2019

YouTube, Robert De Niro / Al Pacino DeepFake [VFX Montage], 29 Eylül 2019

CNBC, Fake videos could be the next big problem in the 2020 elections, 15 Ekim 2019

Kaggle, Deepfake Detection Challenge

Deepware.ai, Deepware Scanner

Teyit, Facebook 2020 ABD başkanlık seçimleri öncesi deep fake videoları yasakladı, 8 Ocak 2020

Facebook Blog, Enforcing Against Manipulated Media, 6 Ocak 2020

Twitter Blog, Help us shape our approach to synthetic and manipulated media, 11 Kasım 2019

Yazarlar: Emre Saklıca & Kansu Ekin Tanca