Deepfake nedir?
İngilizce deep learning (derin öğrenme) ve fake (sahte) kelimelerinin birleşimiyle oluşan deepfake, yani yapay zeka sahteciliği, insanların yüzlerini, hareketlerini ve seslerini gerçekçi bir şekilde taklit veya değiştirmek için yapay zeka teknikleri kullanılarak oluşturulan fotoğraf, video veya sesleri tanımlamak için kullanılıyor.
Deepfake teknolojisi temelde üretici hasmane ağlar (Generative Adversarial Network/GAN) isimli makine öğrenmesi tekniğine dayanıyor. GAN, bir görseli tanımak üzere kendini eğitmek için bir dizi algoritma kullanıyor. Bu eğitim sahte görüntüler üretebilmek için gerçek özellikleri öğrenmesine yardımcı oluyor.
Yüz değiştirme, dudak senkronizasyonu, gerçek zamanlı yüz hareketi yakalama, ses sentezi ve film ve dizilerde gördüğümüz görsel performanslar, karşılaşmış olma ihtimalinizin yüksek olduğu deepfake örnekleri.
Son dönemde önce TikTok’ta, daha sonra tüm internette viral olan deepfake Tom Cruise videolarının yaratıcısı Chris Ume, @deeptomcruise isimli TikTok hesabından yayınladığı videolar ile kullanıcılara bu tür içeriklerin üretiminin bir anda gerçekleşmediği mesajını vermek istediğini belirtti.
Tom Cruise’a benzeyen Miles Fisher (solda) ve Chris Ume tarafından yaratılan deepfake Tom Cruise (sağda).
Görsel ya da işitsel içeriklerin gelişmiş yöntemlerle manipüle edilmesine dayanan deepfake tabiri, benzer manipülasyonların hepsini kapsamaya yetmiyor. Bu manipülasyonları bir spektrum olarak düşündüğümüzde, diğer uçta yer alan ve hatırlanması gereken bir tür daha var: Cheapfake.
Cheapfake nedir?
Yaygın olarak bilinen deepfake içeriklere kıyasla cheapfake’ler, daha ucuz ve erişilebilir araçlarla oluşturuluyor. Deapfake teriminin ardından, cheap (ucuz) ve fake (sahte) kelimelerinin birleşmesiyle oluşan cheapfake yerine, shallowfake (sığlık) ya da dumbfake (aptallık) terimleri de kullanılabiliyor.
Herhangi bir yazılım kullanmadan üretilen cheapfake örneklerine rastlamak da mümkün. Cheapfake içerikler, genellikle Photoshop gibi bilgisayar programlarının yardımı, mevcut çekimlerin kırpılarak veya birleştirilerek bağlamından koparılması veya video içeriğinin hızının değiştirilmesi gibi çeşitli yöntemlerle üretiliyor.
Ancak cheapfake’ler de hızla viral olup, tartışma yaratabiliyor. Özellikle yanlış bilgiyle mücadele üzerine düşündüğümüzde, yanlış bilginin yayılması için içeriğin her zaman profesyoneller tarafından üretilmiş, ikna ediciliği yüksek ve neredeyse ayırt edilemeyecek kadar gerçekçi olmasına gerek olmadığını hatırlamakta fayda var. Mesela, ABD Temsilciler Meclisi Başkanı Nancy Pelosi’nin sarhoş olduğunu gösterdiği iddiasıyla paylaşılan görüntüler, Pelosi’nin görüntülerinin yavaşlatılmasıyla üretilmiş ve epey “inandırıcı” bir cheapfake örneği.
Manipülasyon yanlış bilginin yedi türünden biri. Deepfake ve cheapfake içerikler de bu kategoride değerlendirebileceğimiz, reklam, şaka, troll, itibarsızlaştırma, finansal veya siyasi avantaj sağlama gibi çeşitli amaçlarla yapılabilen müdahaleler.
Oyuncu Kemal Sunal’ın göründüğü reklam filmi deepfake teknolojisi ile üretilen güncel örneklerden.
Bu tür içeriklerin kişiler ve kurumlar için yarattığı riskler ve bugüne kadar sebep olduğu zararlar ortada. Bu alanda çalışanlar ise çözümün işbirliğinden geçtiğini belirtiyor.
Farklı platformlar kullanıcıları deepfake içeriklerden korumayı amaçlayan adımlar atıyor. İçeriklerin yüksek etkileşim alarak hızla yayıldığı platformların bu konuda attığı birkaç adım var. Örneğin, Facebook ve Twitter platformlarında yayılan deepfake türündeki içeriklerle mücadele edeceğini açıklamıştı.
İlginizi çekebilir: Facebook 2020 ABD başkanlık seçimleri öncesi deep fake videoları yasakladı
İlginizi çekebilir: Twitter manipüle edilmiş görsel içeriklerle mücadeleye hazırlanıyor
Bunun yanında ABD, Çin gibi, deepfake içeriklerin yayılmasını önlemek için farklı yasal düzenlemeler getiren ülkeler de var.
Uzmanlar deepfake teknolojisinin yarattığı bilgi düzensizliği ile mücadelede çözümün yine yapay zeka teknolojilerinden geçtiğini belirtiyor. Teknoloji firmaları deepfake içerikleri işaretleyecek tespit sistemleri geliştiriyor; Deepfake Algılama Mücadelesi (DFDC) gibi oluşumlar da, işbirliği yoluyla inovasyonu teşvik ederek deepfake’leri saptamak için çözüm üretiyor.
Bunlarla beraber, deepfake içeriklerin varlığı, yaygınlığı ve yarattığı risklerin farkında olan kullanıcılar da çok önemli. Rehberde değinmek istediğimiz nokta da bu. Diğer tüm gelişmelerin yanında, deepfake ve cheapfake içerikler ile arkalarındaki niyeti ayırt edebilmek, bu içeriklerle birlikte yayılan yanlış bilginin önüne geçmek için gerekli.
Peki bu tür içerikleri nasıl tespit edebiliriz?
Tespit için dikkat edilebilecek birçok nokta var
Teknoloji geliştikçe tespit etmesi zorlaşsa da, bir içeriğin deepfake olduğunu saptamak için her zaman kullanabileceğiniz bazı ipuçları var.
Gözler: Videodaki kişinin doğal olmayan göz hareketleri varsa veya hiç göz kırpmıyorsa, bu bir deepfake ipucu olabilir. 2018’de araştırmacılar deepfake içeriklerin göz kırpma eylemini doğal görünen bir şekilde üretemediğini keşfetti. O zarfta göz kırpabilen deepfake içerikleri geliştirmek için biraz yol alınsa da, buraya dikkat etmekte hala fayda var. Göz bebeklerindeki anormal yansımalar da bir diğer ipucu.
Yüz: Deepfake teknolojisiyle üretilmiş içeriklerde cilt pürüzsüz veya çok kırışık görünebilir ya da yüzdeki bir ben gerçekçi durmuyor olabilir.
Gözlükler: Herhangi bir parlama var mı? Kişi hareket ettiğinde parlamanın açısı değişiyor mu? Deepfake içerikler aydınlatmanın ve yansımanın doğal fiziğini müthiş bir isabetle temsil etmekte başarısız olabiliyor.
Doğal olmayan yüz ifadeleri: Bir yüzle ilgili detayların doğru ve doğal görünmediği durumlar yüz değiştirme tekniğine işaret edebilir. Görüntüdeki kişinin yüzü, söylediği şeyle birlikte gitmesi gereken duyguyu sergilemiyorsa, bu durum eklemeleri ve değişimleri fark etmenize yarayabilir.
Garip görünen vücut veya duruş: Bir kişinin vücut şeklinin doğal görünmemesi veya baş ve vücudun garip veya tutarsız konumlandırılması önemli ipuçlarından. Bu, tespit edilmesi daha kolay tutarsızlıklardan biri olabilir, çünkü deepfake teknolojisi genellikle tüm vücut yerine yüze odaklanır.
Doğal olmayan vücut hareketi: Bir kişi döndüğünde veya başını hareket ettirdiğinde bir kare diğerine göre sarsıntılı veya bağlantısızsa, şüphe kasınız çalışabilir.
Doğal olmayan renklendirme: Anormal cilt tonu, renk değişikliği, garip aydınlatma ve göz ve kaşların etrafına yanlış yerleştirilmiş gölgeler, gördüğünüz şeyin sahte olduğunun işaretleri olabilir.
Saçlar: Deepfake ile üretilmiş içeriklerdeki saçlar genellikle donuk, tutamlar birbiriyle uyumsuz görünebilir. Saçların beyazlaması ile yüz ve gözdeki yaşlanma ve kırışıklık birbiriyle uyumsuz da olabilir. Aynı şekilde sakallar da yeterinde gerçek görünmüyor olabilir.
Doğal olmayan dişler: Algoritmalar tek tek diş üzerine çalışamayabilir, bu nedenle tek tek tüm dişlerin ana hatlarının olmaması bir ipucu olabilir.
Bulanıklık veya yanlış hizalama: Görüntülerin kenarları bulanıksa veya görseller yanlış hizalanmışsa - örneğin, birinin yüzü ve boynu vücuduyla buluştuğunda - bir şeylerin yanlış olabileceğini düşünebilirsiniz.
Tutarsız gürültü veya ses: Zayıf dudak senkronizasyonu, robotik sesler, garip kelime telaffuzları, arka plan gürültüsü ve hatta sesin yokluğu sahte içerikleri ayırt etmek için kullanılabilir.
Yavaşlatıldığında doğal olmayan görüntüler: Akıllı telefon ekranından daha büyük bir ekranda video izlerseniz veya bir videoyu normal oynatma hızından daha yavaş izlerseniz, görüntülere yaklaşabilir ve inceleyebilirsiniz. Örneğin kişinin dudaklarına yakından bakmak, gerçekten konuşup konuşmadığını veya dudak senkronizasyonunun kötü olup olmadığını görmenize yardımcı olabilir.
Tersine görsel arama: Bir fotoğrafın veya videonun herhangi bir şekilde değiştirilip değiştirilmediğini belirlemeye yardımcı olmak için benzer videoları çevrimiçi olarak arama yöntemi kullanılabilir. Tersine video arama teknolojisi henüz çok gelişmiş olmasa da videodan bir kare seçilerek tersine görsel arama yapılabilir.
Dijital parmak izleri: Kusursuz olmasa da, blok zincir tabanlı doğrulama sistemi bir videonun orijinalliğini belirlemeye yardımcı olabilir. Basitçe, bir video oluşturulduğunda, içerik değiştirilemeyen bir deftere kaydedilir ve videonun orijinalliğini kanıtlamaya bu sistem yardımcı olabilir.
Kullanılabilecek araçlar
Farklı ekipler geliştirdikleri yazılımlarla yapay zeka şeffaflığı sağlamanın ve kullanıcıları deepfake’e karşı güçlendirmenin yollarını çeşitlendiriyor. Sensity AI, DeepFake-o-meter, Deepware AI gibi araçlar kullanarak, şüphelendiğiniz videoyu incelemeyi deneyebilirsiniz.
İlginizi çekebilir: Sözlük: Yanlış bilgi içeren videoları tanımlama rehberi
İçeriklerin deepfake olup olmadığını anlamada kullanılan algoritmaların yaratıcıları, en yeni deepfake'lere kendi yeni teknolojileriyle yanıt verirken deepfake teknolojisi de öğrenmeye ve gelişmeye devam ediyor. Şüpheli bir içeriği incelerken dikkat edilmesi gereken noktalar da zamanla değişiyor.
Bu çekişme devam ederken, içeriklerin arkasındaki teknolojinin nasıl işlediğini anlayabilmek ve tespit için kullanılabilecek ipuçları sunan detayları fark edebilmek, deepfake içeriklere karşı şüphe kasını güçlendirmenin en etkili yollarından.
