Deepfake nedir, nasıl tehditler yaratır, bu tehditlerle nasıl mücadele edilir?

Deepfake, deep learning ve fake kelimelerinin bir araya getirilmesi ile üretilmiş bir kavram. En basit şekilde söylemek gerekirse deepfake, deeplearning kullanılarak sahte içerik üretilmesi anlamına geliyor. Henüz yazının başındayken şu konuyu açıklığa kavuşturalım: deepfake’i son günlerin önemli trendi olan generative ai (üretken yapay zeka) ile karıştırmamak gerek. Generative ai makine öğrenimi ve yapay zeka teknolojilerini kullanarak yeni ve orijinal içerikler oluştururken, deepfake hali hazırda var olan içeriğin bazı parçalarının anlaşılmayacak şekilde değiştirilmesi ile içerik üretiyor.

Deepfake en çok insan yüzü üzerinde yapılan çalışmalarda kullanılıyor. Bir görseldeki yüzü başka bir insanın yüzü ile değiştirme bu çalışmaların odak noktası. Buradaki kritik nokta, elde edilen son görüntünün sonradan eklenmiş hissi yaratmamayı yani doğal görünmeyi ne kadar başardığı. Deepfake teknolojisi son zamanlarda bu konuda oldukça başarılı sonuçlar ortaya çıkarıyor. Konsept olarak fotoğrafta elde edilen bu başarının videoya da yansıtılması pekala mümkün.

Deepfake nasıl bir teknoloji kullanır?

Deepfake teknolojisi ile üretilen başarısız bir yüz değiştirme çalışması hemen anlaşılırken başarılı örneklerin insan gözü ile tespit edilmesi oldukça zor. Bu başarılı örneklere ulaşan çalışmalar bir takım aşamalara özellikle dikkat ediyor.

Öncelikle başarılı deepfake örneklerinde, kullanılan iki yüz benzer yüz ifadelerine, aynı açılara ve aynı boyutlara sahip olan görsellerden seçiliyor. Bir diğer nokta ise geçişler. Geçişlerin yumuşak olması, keskin olmaması görüntünün doğal gözükmesi için elzem. Yerleştirme sonrasında kafa ile kafanın etrafındaki ortam arasında oluşan keskin bir geçişhemen kendini ele veriyor. Yüz ile gövde arasındaki geçişler, kafa-gövde oranının uyumu, gölgeler, ışığın yüz üzerindeki geçişleri gibi detaylar da deepfake ile üretilen görüntünün inandırıcılığını artırıyor.

Deepfake ile oluşturulan görüntüleri insan gözünün algılaması neden zor sorusuna gelirsek. İnsan algısında seçicilik daha çok bağlamsal noktalar üstünedir ve teknik detayları dikkate alarak yargı üretmesi zordur. Bunu şöyle bir örnekle açıklamak mümkün. Her kameranın üstünde gürültü adı verilen benzersiz bir iz olur. Aslında bu iz, kamera sensörlerinin kusursuz olmamalarının sonucu oluşan yanlış veriler tarafından üretilir ve kamera sensörlerine özgüdür. Yani kamera sensörlerinin parmak izi gibi görev yapar. Üzerinde oynanılan görsel bir tür kameradan, monte edilen görüntü ise başka bir kameradan elde edilmiş ise bu iki görselin gürültüleri farklıdır. Ancak bir insanın bunu anlaması pek olası değildir. İnsan algısı görüntünün genel tutarlılığına bakar. Yani insan gözü deepfake ile üretilmiş bir görüntüyle kolayca aldatılabilir. Bu açıdan deepfake ile üretilmiş görüntüleri tespit etmek için en etkili aracımız yapay zeka.

Değiştirme işlemlerimin matematiksel olarak nasıl yapıldığını deep neural networkler’de tam olarak bilmek mümkün değil. Konseptsel olarak farklı yöntemler var. Hepsinin farklı avantaj ve dezavantajları olmakla birlikte ortak noktaları gelişen teknoloji ile her geçen gün daha kaliteli ürünler ortaya koymaları ve insanlık için bir tehdit yaratmaları.

Deepfake nasıl bir tehdit yaratıyor?

Deepfake teknolojisi kötü niyetli kişilerin elinde oldukça tehlikeli bir araç haline gelebilir. Bireysel intikamlar, siyasal çıkarlar, finansal dolandırıcılık gibi farklı düzlemlerde kişilere zarar verebilir. Tüm bu alanlardan örnekler vererek bu tehditleri biraz daha detaylandıralım.

- Deepfake teknolojisi kişilerin özel ve iş yaşamındaki itibarını zedelemek için kullanılabilir. Eski bir duygusal partner ya da çalışan, kişinin yüz ve sesini kullanarak uygunsuz içerikli sahte bir video oluşturabilir, Azınlık gruplarla ilgili saldırgan söylemler, cinsel ilişki videosu, iş hayatındaki kişilere yönelik uygunsuz konuşmalar gibi çeşitli videolar yayarak kişinin saygınlığına saldırılabilir.

- Toplumun güvendiği kişilerin görüntüleri ve sesleri kullanılarak insanları manipüle edecek içerikler hazırlanabilir. Yalan haberler yaymak, sahte kampanyalara bağıştoplamak, yanlış yatırımlara yönlendirmek gibi bir çok tehlikeli durum yaratılabilir.

- Finansal kuruluşların online sistemlerini yanıltacak içerikler oluşturulabilir. Kişilerin kimlik bilgisinin yanına deepfake ile üretilmiş görüntüleri eklenerek sistemlere sızılabilir.

Deepfake’in yarattığı tehditle nasıl mücadele edilir?

Peki gittikçe gelişen bu teknolojinin yarattığı tehditle nasıl mücadele edeceğiz? Öncelikle şunu belirtmek gerekir ki deepfake’le mücadelede insan gözüne güvenmek yukarıda belirttiğimiz sebeplerden ötürü oldukça riskli. Bu mücadelede insan gözünden kaçan detayları yakalayabilen yapay zekayla çalışmak ve yapay zekayı doğru bir şekilde yönlendirmek gerekiyor.

Deepfake ile mücadele için öncelikle deepfake çalışmalarının zayıf olduğu alanları bilmek şart. Örneğin bu teknolojilerin karşıya bakan yüzlerin transferlerinde çok iyi işler başardığı, ancak doğrudan karşıya bakılmayan durumlarda zorlandığı görülüyor. Öyleyse bu konuyla ilgili alınacak önlem bariz: yüz doğrulama için kafa hareketi talep etmeliyiz. Çünkü deepfake ile oluşturulan videolarda kafa hareketleri esnasında kulak, göz ve ağız bölgesinde ciddi bozulmalar oluşuyor ve bu da görüntünün gerçek mi yoksa deepfake ile üretilmiş olduğuna dair ciddi ipuçları veriyor.

İlginizi çekebilir: Kripto para güvenlik sorunları

Peki bunu bilmek tüm deepfake örneklerini yakalamak için yeterli mi? Tabi ki hayır. Zira yapay zekanız ancak sizin öğrettiğiniz kadarını bilebilir ve sizin veri olarak göstermediğiniz ya da çok az gösterdiğiniz bir yöntemi yakalamakta zorlanabilir. Ya da yeni çıkan bir teknoloji, sizin çalışmanızın odaklandığı noktalardaki kusurlarını düzeltmiş olabilir. Bu sebeple daima güncel kalmak ve sistemi hep daha fazla veri ile beslemek kritik öneme sahip. Peki bu durum sürdürülebilir mi? İyi partnerleriniz ve müşterileriniz varsa pekala sürdürülebilir.

Şimdi sorumuzu biraz daha farklı bir hale evirelim. Deepfake çalışmaları yapay zekanın bile ayırt edemeyeceği bir teknolojik seviyeye ulaşır mı? Mücadele etmenin mümkün olmadığı bir seviyeye gelir mi? Bu sorunun cevabını vermek için insanlık tarihine bakmak gerekir. Tarihsel olarak insanlar sahtekarlık yapmaya başladığı andan itibaren bu sahtekarlığı ortaya çıkarmak için çalışan insanlar da hep vardı ve bu iki taraf sürekli yeni yöntemlerle birbirlerini geliştirdiler. Bu sebeple sahtekarlık teknolojileri ilerledikçe tespit etme yöntemleri; tespit etme yöntemleri ilerledikçe de yeni sahtekarlık teknolojileri gelişmeye devam ediyor.

Kendi adıma bu çağda sahtekarlık için kullanılan teknolojilerinin tespit edilmesi mümkün olmayan yöntemler geliştirmesini olanaklı görmüyorum. Hatta deepfake özelinde konuşmak gerekirse bu yöntemin zamanla yerini generative ai'a bırakacağını düşünüyorum. Örnek vermek gerekirse, ileride gelişmesini beklediğim teknoloji şu: yapay zekanın kendisine verilen bir yüzle arzulanan içeriği oluşturması. Yani istediğiniz kişiye istediğiniz şeyi söyletmek! Böyle bir durumda herhangi bir değiştirme işlemi olmayacağı icin, daha önce bahsettiğimiz ipuçları işlevsiz kalacak. Peki böyle bir durumda videonun gerçek olup olmadığını nasıl anlayacağız? Bu soruya henüz bir cevabım yok, ancak bir kapıyı kilitleyen bir anahtar varsa açan bir anahtar da mutlaka vardır!

İlginizi çekebilir: Sağlık sektöründe kimlik doğrulama teknolojileri