Ortak deneyimlerimizi internette, Instagram, Facebook, Tiktok ve Twitter gibi sosyal medyada paylaşmayı görünüşe göre oldukça seviyoruz. Arkadaşlarımız ve ailemizle paylaşmak istediğimiz tatil anılarını, aile kutlamalarını, okul veya hafta sonu gezilerini takipçilerimizle ve aslında tüm dünyayla paylaşıyoruz. Sorun şu ki, dikkatsizce yaptığımız masum paylaşımlar sonucunda resimler ve genellikle diğer kişisel veriler internette yayınlandıktan sonra dünya çapında ve sınırsız bir şekilde erişilebilir oluyor. Ürpertici bir deepfake reklam videosu da tam olarak buna değiniyor. Çocuklarınızı sosyal medyada paylaşmayın
Deepfake bir kız çocuğunun yer aldığı Alman telekomünikasyon şirket Deutsche Telekom tarafından hazırlanan reklam filmi, ebeveynlerin çocuklarının fotoğraflarını internette paylaşmalarının potansiyel olarak yıkıcı sonuçlarına ilişkin gösterdikleriyle viral oldu. Son bir günde sosyal medyada 5,5 milyondan fazla izlenen akıllara durgunluk veren video, bir çocuğun görüntüsünün yapay zeka (AI) kullanılarak ne kadar kolay manipüle edilebileceğini gözler önüne seriyor.
Reklam dokuz yaşındaki Ella‘nın hikayesini anlatıyor. Günümüzdeki pek çok ebeveyn gibi Ella’nın anne ve babası da küçük kızlarının video ve fotoğraflarını düzenli olarak sosyal medyada paylaşıyor. Reklamda, ailesinin internette paylaştığı dokuz yaşındaki kızın tek bir fotoğrafı kullanılarak yapay zeka yardımıyla yetişkin Ella’nın deepfake bir versiyonu yaratılıyor. “Yetişkin” deepfake Ella gerçek bir insan gibi hareket edebiliyor ve konuşabiliyor. Ve sinemada film izleyen dehşete düşmüş anne babasıyla büyük ekranda yüzleşiyor. Reklam, görüntüleri internette yayınlanan çocukların diğer suçların yanı sıra nasıl kimlik istismarı, dolandırıcılık ve çocuk pornografisinin kurbanı olabileceğini tüyler ürpertici bir şekilde açıklıyor.
Ortalama 5 yaşındaki bir çocuğun internette 1.500 fotoğrafı bulunuyor
Araştırmalar, 2030 yılına kadar genç nesli etkileyecek kimlik dolandırıcılığı vakalarının neredeyse üçte ikisinin, ebeveynlerin çocukları hakkındaki hassas içeriği internette yayınlaması anlamına gelen “sharenting” kaynaklı olacağını tahmin ediyor. Araştırmalar ayrıca ortalama beş yaşındaki bir çocuğun ebeveynleri tarafından rızaları olmadan internete yüklenen yaklaşık 1.500 fotoğrafı olduğunu gösteriyor. Hatırlarsanız geçtiğimiz hafta iki büyük çocuğunun yüzlerini emojilerle gizleyerek Meta CEO’su Mark Zuckerberg, Instagram’da bir aile fotoğrafı paylaşmıştı. Aslında bu bile anlatılmak istenileni özetliyor diyebiliriz. Reklam filmini hemen aşağıdan izleyebilirsiniz.
