Deepfake Pornografi Skandalı: Twitch Yayıncısı Suçüstü Yakalandı

Bir Twitch yayıncısının suçüstü yakalanması, son zamanlarda kadın yayıncılara yapılan deepfake ile sahte pornografi skandalını tekrar gündeme getirdi.

Ünlü Twitch yayıncısı Brandon "Atrioc" Ewing, geçtiğimiz günlerde yayın yaptığı esnada popüler içerik üreticisi Imane "Pokimane" Anys ve Maya Higa'nın deepfake videolarının olduğu sekmeyi yanlışlıkla gösterdi. Atrioc, yayın esnasında başka bir sekmeye geçmek için sekmeler arasında geçiş yaparken arkada açık kalan deepfake fotoğraflarının ve videolarının olduğu sekmeyi göstererek tepkilerin hedefi oldu.

Atrioc yayında suçüstü yakalandı

Dün, Twitch yayıncısı Brandon "Atrioc" Ewing, canlı yayını sırasında bilgisayarında popüler kadın Twitch yayıncılarının deepfake pornografisinin açık olduğunu yanlışlıkla ifşa ettikten sonra ağlamaklı bir özür yayınladı. Merak ettiği için PornHub'daki bir reklama tıkladığını iddia ettiği özrünün videosu internette hızla ilgi gördü. Twitter kullanıcıları, tartışmaya "dikkat çekmek" gibi yanlış bir girişimle orijinal yayının ekran görüntülerini paylaştılar, bu da porno sitesini ve içeriklerini öne çıkaran sinyaller verdi. Bu, yalnızca Ewing'in hatası nedeniyle deepfake sitesinde olduklarını öğrenen etkilenen kadınlar için durumu daha da kötüleştirdi.

Daha da kötüsü, Ewing'in ziyaret ettiği site OnlyFans'a çok benziyor: İnsanların içeriğini görüntülemek için bir abonelik ödemesi gerekiyor ve içerik oluşturucunun bulunduğu belirli sayfa, tamamen ünlü Twitch yayıncılarının 'birkaçının' deepfake'lerini yapmaya odaklanmıştı. Ewing ise deepfake pornografisini incelediği bu iki yayıncıyla arkadaş!

Pokimane ve Maya Higa'dan özür diledi

Topluluk Atrioc'a oldukça öfkeli ve sert bir şekilde tepki göstermesinin ardından ünlü yayıncı tekrardan bir yayın açarak özür diledi. Bu sefer yayında tek başına değildi ve yanında eşi de vardı. Klip çoğu sosyal medya platformuna yayınlanmasının ardından başka yayıncılar tarafından fark edilmesi üzerine sadece topluluktan değil, yakın arkadaşlarından bile tepki alan biri oldu.

Atrioc durumu tartışmak için eşiyle birlikte yayına girdi. 14 dakikalık yayında Atrioc, bir yetişkin sitesindeki reklamı son zamanlarda yapay zeka teknolojisine olan merakı nedeniyle gördüğünü ve tıkladığını iddia ederek deepfake fotoğraflara ve videolara baktığı için özür diledi. Ayrıca bu durumun iğrenç ve utanç verici olduğunu vurguladı.

Özür yayınında ağlamaya başlayan Atrioc, yayınlarında kadınların Twitch'te kendilerini güvende hissetmelerine yardımcı olacak bir "davranış modeli oluşturmaya" çalıştığını açıkladı. Buna, sohbetlerinde cinsiyetçi veya kadınları tehdit edici sayılabilecek her türlü davranışın "görünürde" yasaklanması da dahildi. Ne yazık ki, bu olay ile birlikte bütün çabasını boşuna harcadığını görüyoruz.

Pek çok kişi, Atrioc'un bunu gizlice yaparken uygunsuz şeyleri izlerken yakalanmasına sevindi. Topluluk, Pokimane ve diğer yayıncıların, Atrioc'un sahte fotoğraflara ve videolara bakması hakkında ne düşündükleriyle daha çok ilgileniyordu. Hatta Atrico'un bir hayranı bu yapılanın "mahremiyet ve arkadaşlığın ihlali" olduğunu vurguladı. Olaydan bu yana Atrioc, Discord, Instagram gibi çoğu sosyal medya hesabını kilitledi. Hayranları, iş ortağı ve arkadaşı Ludwig'in durumu ele almak zorunda olup olmayacağını merak ediyor.

QTCinderella ve Sweet Anita gibi yayıncılar, dün kendi Twitter hesaplarında deepfake pornografinin varlığına karşı çıktılar ve QTCinderella, bir Twitch yayınında bu tür dehşetlerin ardından yaşadığı acıyı dile getirdi. Deepfake'lerin arkasındaki insanlara dava açma sözü vermeden önce, "Bu şeyi kaldırmak için para ödemek zorunda olmak işimin bir parçası olmamalı" dedi.

Daha da endişe verici olan ise deepfake pornografiyi internetten kaldırmanın ne kadar zor olduğu. Söz konusu içerik oluşturucu içeriğinin tamamını kaldırmadıysa, kurbanlardan herhangi birinin yasal sistemin mevcut yasalarını kendilerinin etkin bir şekilde kaldırılmasını sağlamak için kullanıp kullanamayacağı açık değil.

Birkaç yıl önce, Reddit ve PornHub, deepfake pornografiyi yasakladı ve Discord, bunun oluşturulmasına yardımcı olan uygulamaları satan sunucuları banladı, ancak Ewing'in yakalandığı site gibi daha küçük siteler hala bu tür ihlal edici pornografiyi sık sık yayınlıyor. Bunun nedeni, interneti, kadın bedenlerini ve rıza dışı pornoyu çevreleyen pek çok şey gibi, hükümetin bu konuda ne yapacağını bilememesi.

Peki Atrioc ilk kez mi Twitch'ten ban yedi?

Atrioc özür dilediğinde, onu bu rahatsız edici içeriği aramaya iten şeyin nedenini açıkladı ve bu sırada ağlayan karısı Arianna Ewing videonun net görünmeyen kenar mahallelerinde kendini gösterdi. "Tek bir videoydu... Ve aptalca gidip o sekmeyi açık bıraktım. Saat sabahın 2'siydi… Ari (eşi) şehir dışındayken oldu.” diyor Atrioc. 

Atrioc, geçmişte bu tarz NSFW içeriği nedeniyle yine ban yemişti. 2021'de, Wikipedia’da uygunsuz konulara bakarken yanlışlıkla cinsel organ fotoğrafı gösterdiği için Twitch’ten uzaklaştırılmıştı. Atrioc görüntüyü fark etmemiş gibiydi ve rahatsız edici şekilde bir süre sayfada kaldığında durum daha da kötü bir hal aldı.

Deepfake nedir?

Deepfake, yüzün başka biri gibi görünmesi için dijital olarak değiştirildiği bir kişinin fotoğrafı veya videosudur. Keanu Reeves gibi bir çok ünlülerin TikTok hesabı da dahil olmak üzere deepfake’leri bir süredir TikTok’ta dolaşıyor. Deepfake, video ve diğer dijital ortamlarda bir kişinin benzerliğini başka biriyle değiştirmek için derin öğrenme yapay zekasını kullanır.

Günümüzde "synthetic media" olarak adlandırılan şeyin en belirgin tezahürlerinden biri olarak, geleneksel yöntemlerle oluşturulmuş gibi görünen, ancak aslında, karmaşık algoritmalar kullanılarak derin öğrenme ve yapay zeka ile oluşturulmuş görüntüler, sesler ve videolardır. Çoğu zaman, bu teknoloji ile oluşturulan içerikler gerçeklikten ayırt edilemez.

Deepfake teknolojisi nasıl çalışır?

"Deepfake", bir tür yapay zeka olan "derin öğrenmenin" altında yatan teknolojiyi ifade eder. Büyük miktarda veriye dayalı problemlerin nasıl çözüleceğini öğrenen derin öğrenme algoritmalarının yardımıyla, sahte medyanın gerçekçi görünmesi sağlanabilir.

Deepfake çeşitli şekillerde oluşturulabilir. En yaygın olanlardan biri, yüz değiştirme yöntemini kullanan derin sinir ağlarını ve otomatik kodlayıcıları içerir. İhtiyacınız olan ilk şey, deepfake için bir hedef videonun yanı sıra hedefe eklemek istediğiniz kişinin kliplerinden oluşan bir koleksiyondur.

Videolar tamamen ilgisiz olabilir; hedef bir Hollywood filminden bir klip olabilir ve seçilen konunun videoları YouTube’dan rastgele klipler olabilir.

Bir otomatik kodlayıcı, bir kişinin farklı açılardan ve çeşitli hava koşullarında nasıl göründüğünü belirlemek için video klipleri incelemek için oluşturulmuş bir yapay zeka programıdır. Daha sonra benzerlikler bularak o kişiyi hedef videodaki kişiyle eşleştirmek için kullanılır.

Güvenilir ve gerçekçi görünen sentetik videolar üretmek için yüzlerin değiştirilmesini otomatikleştirmenin bazı ilginç uygulamaları vardır (sinema ve oyunlarda olduğu gibi). Çünkü deepfake teknolojisi ilk olarak sentetik pornografi oluşturmak için uygulanmıştır. Hatta Deeptrace’e göre, 2019’da çevrimiçi olarak bulunan deepfake videolarının %96’sının ana içeriği pornografiydi. 

O zamandan beri, teknoloji önde gelen ulusal figürlerde kullanılmak üzere geliştirildi. 

Deepfake teknolojisiyle mücadele

Deepfake pornografi veya yapay montaj pornografi, porno aktör veya aktrislerinin yüzlerine deepfake teknolojisi uygulanarak başka birinin yüzünü yerleştirmek suretiyle üretilen pornografik görüntülerdir. Bu teknoloji, yüzü yerleştirilen kişinin rızası alınmadan kullanılarak şantaj aracına dönüştürülebilir.

Haziran 2019'da, kadınların görüntülerinden kıyafetleri çıkarmak üzere GAN teknolojisini kullanan DeepNude adlı indirilebilir bir Windows ve Linux uygulaması yayınlandı. 27 Haziran'da içerik oluşturucular uygulamayı kaldırdı ve tüketicilere para iadesi yaptı, ancak uygulamanın hem ücretsiz hem de ücretli çeşitli kopyaları var olmaya devam ediyor. Bu programın açık kaynak sürümü olan ve daha sonra GitHub'dan silinen "open-deepnude", çıplak görüntünün doğruluk düzeyini artırmak için çıplak görüntülerin daha büyük bir veri kümesi üzerinde eğitilmesine izin verme avantajına sahipti.

Teknikler geliştikçe, deepfake sahtekarlıkları daha gerçekçi bir hale gelecek, ancak onlarla savaşmak söz konusu olduğunda tamamen savunmasız değilsiniz. Bazı girişimler, bu sahtekarlıkları tespit etmek için yöntemler geliştirdi ve geliştirmeye devam ediyor.

Örneğin Sensority, yapay zeka tarafından üretilen sentetik medyanın belirgin parmak izlerini taşıyan bir şey izlerken kullanıcıları e-posta yoluyla uyaran, deepfake videoları için antivirüse benzer bir platform geliştirmiştir.

Operation Minerva, deepfake’leri daha basit bir şekilde tanımlar. Operation Minerva’nın algoritması, potansiyel derin sahtekarlıkları "dijital olarak parmak izi alınmış" bilinen videolarla karşılaştırır. Örneğin, Operation Minerva zaten katalogladığı bir videonun değiştirilmiş bir versiyonu olduğunu belirleyebilir.