Eğlence Görünümlü Tuzak! O Fotoğraflar Nereye Gidiyor?

Son zamanlarda sosyal medyada hızla yayılan yeni bir akım dikkat çekiyor: "Pixar tarzı" animasyon filtreleri. Bu filtreler sayesinde kullanıcılar kendi fotoğraflarını, Pixar filmlerindeki karakterlere benzer bir şekilde yeniden düzenleyerek eğlenceli ve yaratıcı görseller oluşturabiliyor. Sosyal medyada geniş yankı uyandıran bu trend, özellikle gençler arasında büyük ilgi görüyor. Kişisel fotoğrafların animasyon karakterlerine dönüştüğü bu uygulama, sosyal medya kullanımına eğlenceli bir boyut kazandırıyor.

Ancak bu sevimli ve masum görünen akıma karşı uzmanlardan bazı uyarılar da geliyor. Konya’nın Sesi Gazetesi’ne konuşan Bilişim Uzmanı Ali İzmirli, bu tür filtrelerin arkasında bazı veri güvenliği risklerinin bulunabileceğini belirterek kullanıcıların dikkatli olması gerektiğini vurguladı.

MİLYONLARCA KİŞİ BU AKIMA KATILDI!

• Son dönemde popüler olan “Pixar tarzı” animasyon filtreleri tam olarak nedir? İnsanlar neden bu filtrelere bu kadar ilgi gösteriyor?

-Pixar tarzı animasyon filtreleri, yapay zekâ kullanarak bir kişinin fotoğrafını çizgi film karakterine dönüştüren görüntü işlemi uygulamalarıdır. Örneğin bir Snapchat lensi olan “Cartoon 3D Style”, kullanıcının yüz hatlarını Disney/Pixar filmlerindeki karakterlere benzer şekilde yeniden şekillendiriyor. Büyük gözler, pürüzsüz cilt, belirgin yüz ifadeleri gibi özellikler ekleyerek adeta gerçek bir fotoğrafı animasyon film karesine çeviriyor. Bu filtreler son derece popüler hale geldi; bir örnek vermek gerekirse, söz konusu Snapchat lensi ilk ortaya çıktığında birkaç gün içinde 215 milyon kullanıcı tarafından denendi ve uygulama içinde 1,7 milyar kez görüntülendi. Tüm dünyada insanlar kendilerini sanki bir Pixar filminden fırlamış gibi gösterebilmek için bu trendin parçası oldu. Elbette bu ilginin nedeni, teknolojinin sunduğu eğlence ve yaratıcılık imkânı. Kullanıcılar bu filtreleri kullanarak arkadaşlarını eğlendiren videolar çekiyor, klasik film sahnelerini kendi çizgi karakter halleriyle canlandırıyor veya profil fotoğraflarını ilgi çekici hale getiriyor. Özünde, bu uygulamalar insanlara “başka bir versiyon” olarak kendini görme fırsatı sunuyor; bu da hem merak uyandırıyor hem de nostaljik bir keyif veriyor (birçoğumuz Pixar ve Disney animasyonlarıyla büyüdük). Sonuçta ortaya çıkan görüntüler gerçek olmadığını herkesin bildiği, saf bir eğlence unsuru. Bu nedenle insanlar bu filtreleri genellikle zararsız, neşeli bir oyun gibi kabul ediyor ve çekinmeden kullanıyorlar.

OLUMSUZ PSİKOLOJİK ETKİLERİ DE VAR

• Peki bu filtrelerin bireyler üzerinde psikolojik etkileri neler? Yani insanlar kendilerini çizgi karakter olarak gördüklerinde bu durum gerçeklik algılarını ve öz değerlendirilmelerini nasıl etkiliyor?

-Bu soruya yanıt verirken iki yönü vurgulamak gerekir: pozitif ve negatif etkiler. Öncelikle pozitif taraftan bakalım. Birçok kişi için kendini çizgi film karakteri olarak görmek eğlenceli bir deneyim; bu, günlük hayatın stresinden bir an uzaklaşıp gülümsemeye vesile olabiliyor. Kişi, filtreli halini arkadaşlarıyla paylaşıp sosyal etkileşim elde ediyor, bu da anlık mutluluk ve aidiyet hissi sağlayabiliyor. Hatta bazı durumlarda, utangaç bireyler gerçek fotoğraflarını paylaşmak yerine bu tür filtrelenmiş avatarları paylaşarak sosyal medyada kendilerini daha rahat ifade edebiliyorlar. Bir bakıma filtre, kendini ifade etmek için yaratıcı bir araç haline gelebiliyor. Öte yandan, bu masum görünen eğlencenin bazı potansiyel olumsuz psikolojik etkileri de var. Araştırmalar, fotoğraf filtrelerinin yoğun kullanımının özellikle genç bireylerde benlik algısını olumsuz etkileyebileceğini gösteriyor. Örneğin, City University of London tarafından yapılan bir araştırmada 20 yaş ortalamasındaki genç kadınların yüzde 90’ının düzenli olarak fotoğraflarını filtrelerle düzelttiği ve çoğunluğunun bunun arkasında “daha güzel görünme baskısı” hissettiği ortaya kondu. Bu sadece “güzellik” filtreleri için geçerli değil; çizgi film filtreleri de dahil olmak üzere sürekli filtre kullanımı, kişide “kendi gerçek görüntüm yeterince iyi değil” düşüncesini pekiştirebilir. Sonuçta kişi, aynada ya da fotoğrafta filtresiz kendine baktığında hayal kırıklığı yaşayabilir. Nitekim psikoloji literatüründe “Snapchat dismorfisi” diye adlandırılan bir olgu var. İnsanlar filtrelenmiş selfielerine alışıp gerçek hayattaki görünüşlerini beğenmemeye başlayabiliyor ve hatta estetik operasyonlara yönelme isteği doğabiliyor. Bu elbette uç bir senaryo, ancak sık sık kendi çizgi karakter versiyonunu gören bir kişinin, kendi gerçek yüzünü sıradan veya yetersiz bulma riski tamamen yok diyemeyiz. Özellikle de bu animasyon filtreleri genellikle kusurları gizleyip cildi pürüzsüzleştiriyor, gözleri büyütüp orantıları “idealize” ediyor. Araştırmalarda kişinin sürekli kendini mükemmelleştirilmiş bir görüntüyle karşılaştırmasının özgüven zedeleyebileceğini ve beden imajı memnuniyetsizliğine yol açabileceğini belirtiliyor. Kısacası, eğlenceli bir deneyim olarak başlayan şey, eğer aşırıya kaçılırsa gerçeklik algısında kaymaya ve kişinin dijital ile gerçek benliği arasında bir kopukluk yaşamasına neden olabilir. Bu nedenle, bu tür filtreleri kararında kullanmak ve gerçek benliğimizi onlarla yarıştırmamak önemli.

BU TREND SORU İŞARETLERİ DOĞURUYOR

• Toplumsal ve kültürel açıdan baktığımızda, bu animasyon filtre akımının yansımaları neler? İnsanların kendilerini çizgi karakterler olarak sunması kültürümüzde ne gibi etkiler doğuruyor?

-Öncelikle kültürel düzeyde, bu tür filtrelerin patlaması, dijital dünyanın nasıl bir eğlence ve ifade alanı haline geldiğinin göstergesi. Sosyal medya, bir anlamda herkesin küçük birer içerik üreticisine dönüştüğü bir mecra ve Pixar tarzı avatarlar da bu içerik üretiminin yeni bir formu. Aralık 2022’de bir dönem Instagram ve Twitter gibi platformlar, sıradan kullanıcıların ve hatta ünlülerin yapay zekâ tarafından oluşturulmuş çizgi film tarzı portreleriyle dolmuştu. Bu, teknolojinin popüler kültüre anında nüfuz ettiğini gösteriyor. İnsanlar bu görselleri profil resmi yapıyor, arkadaşlarına gönderiyor, hatta kimileri bu akımı yakalamak için uygulamalara ücret ödeyip kendi “sihirli avatarlarını” oluşturuyordu. Toplum olarak gerçeklikle oynayan bu tür trendlere artık alışkınız; filtreler, artırılmış gerçeklik efektleri, sanal avatarlar günlük iletişimin bir parçası haline geliyor. Genç kuşaklar için dijital kimlik, en az fiziksel kimlik kadar önemli bir kavram ve kendini bir animasyon karakteri olarak yansıtmak da bu dijital kimliğin yaratıcı parçası. Tabii kültürel yansımaların yalnızca pozitif veya nötr olmadığını, bazı tartışmaları da beraberinde getirdiğini görüyoruz. Eğer yapay zeka modeli, internetteki mevcut popüler imajlardan öğreniyorsa, o zaman var olan ırksal veya cinsiyetçi stereotipleri tekrar üretebiliyor. Toplum açısından bakarsak, bu durum önemli bir kültürel sorun. Teknoloji, farkında olmadan toplumsal önyargıları pekiştirebilir. Bu nedenle, bu filtrelerin kullanılmaya başlanmasıyla birlikte kültürel tartışmalar da gündeme geldi. Örneğin sanat çevrelerinde, bu uygulamaların gerçek sanatçıların üslubunu izinsiz kopyaladığı ve emek hırsızlığı yaptığı eleştirileri yükseldi. Bazı ressamlar, eserlerinin izinsiz şekilde yapay zekâya öğretilip stilinin taklit edilmesinden rahatsız olduklarını dile getirdiler. Özetle, Pixar tarzı filtre furyası bir yandan geniş kitlelere neşe ve yaratıcılık katarken, diğer yandan da kültürel değerler, sanatsal emek, temsil adaleti gibi konularda yeni soru işaretleri doğuruyor. Bu da teknolojinin her yeni eğlencesinde olduğu gibi, toplumun adaptasyon sürecinde tartışmaların ve farkındalığın artması anlamına geliyor.

YÜZÜNÜZ NEREYE GİDİYOR?!

• Kullanıcılar kendi fotoğraflarını böyle uygulamalara yüklerken teknik açıdan ne tür güvenlik riskleriyle karşı karşıya? Bu sistemler fotoğraflarımızı nasıl kullanıyor ve saklıyor?

-Oldukça önemli bir noktaya değindiniz. Teknik açıdan en büyük risk, kullanıcıların farkında olmadan kişisel verilerini bu durumda yüz görsellerini ve biyometrik bilgilerini uygulama geliştiricilerine emanet etmesi. Bir fotoğrafı filtrelemek için genellikle o fotoğraf sunucuya, yani şirketin bulut sistemine yükleniyor ve yapay zekâ işlemi orada gerçekleşiyor. Bu da demek oluyor ki fotoğrafınız cihazınızdan çıkıp bir başkasının sunucusunda işleniyor ve muhtemelen bir süreliğine orada depolanıyor. Birçok popüler uygulamanın hizmet şartlarına baktığımızda, kullanıcıların yüklediği fotoğraflar üzerinde oldukça geniş hak talepleri olduğunu görüyoruz. Örneğin bir yapay zekâ fotoğraf uygulamasının gizlilik politikasında, kullanıcıların sağladığı “yüz verilerinin” AI algoritmasını eğitmek için kullanılabileceği belirtilmişti ve uygulamanın yüklenen veya oluşturulan görüntüler üzerinde süresiz, geri alınamaz, dünya çapında bir kullanım lisansı aldığı ifşa olmuştu. Yani siz sadece eğlence amaçlı bir fotoğraf verdiğinizi sanıyorsunuz ama şirket o görüntüyü ve ondan öğrendiği verileri gelecekte istediği gibi kullanma hakkını elinde tutuyor. Fotoğraflarınız bir sunucuya yüklendiğinde, o sunucunun ve şirketin güvenliğine bel bağlamış oluyorsunuz. Eğer şirketin veri tabanı bir gün sızdırılır veya hacklenirse, milyonlarca kullanıcının özel fotoğrafları kötü niyetli kişilerin eline geçebilir. Yüz fotoğrafları, sıradan bir manzara fotoğrafından daha hassas kabul edilir, çünkü yüzünüz kimliğinizdir. Örneğin kötü niyetli aktörler ele geçirdikleri fotoğrafları derin sahta (deepfake) videolar oluşturmakta kullanabilir, veya biyometrik verinizi (yüz hatlarınızı) bir yüz tanıma sistemine kaydedebilirler. Hatta teorik olarak, yeterince veriyle donatılmış bir yapay zekâ modeli, sizin fotoğraflarınızdan yola çıkarak benzer yeni görüntüler üretebilir. Yani sizin izniniz olmadan dijital kopyalarınızı çoğaltabilir. Teknik açıdan bu mümkün ve bu yüzden veri güvenliği kritik önemde. Bulut servis sağlayıcılarının rolü de bir başka mesele. Bir uygulama, verilerini Amazon Web Services gibi büyük bir bulut altyapısında tutuyorsa, oraya yüklenen her şey aslında o altyapının kullanım şartlarına da tabi oluyor. Teknik riskleri özetlersek: fotoğrafınızı yüklediğinizde nerede, ne kadar süre ve ne amaçla saklandığını tam olarak bilemezsiniz. Şirketler genelde “24 saat içinde siliyoruz” gibi açıklamalar yapsa da, bu konuda tamamen onlara güvenmek zorundayız, çünkü son kullanıcı olarak kontrol bizde değil. Kaldı ki bazı şirketler “işlendikten sonra veriyi siliyoruz” derken aslında sadece ham görüntüyü silip ondan elde edilen yüz kodlamalarını (veri parmak izlerini) saklamaya devam edebiliyor. Bu hizmetleri kullanırken, fotoğraflarımızın gerçekten güvende olup olmadığı belirsiz. Her halükarda, çevrimiçi bir uygulamaya yolladığımız herhangi bir verinin sonsuza dek o sistemde kalabileceğini akılda tutmak gerekiyor.

"ŞİRKETLERE ÇOK GENİŞ HAKLAR VERİYORUZ"

• Bir de işin etik boyutu var. Kendi fotoğrafımızı bu şekilde kullanıma açarken ne gibi etik riskler söz konusu? Rıza, mahremiyet ve izinsiz kullanım konularını nasıl değerlendirmeliyiz?

-Etik açıdan baktığımızda birkaç önemli mesele öne çıkıyor. İlki, rızaya dayalı kullanım meselesi. Kullanıcılar genellikle bu uygulamaları sırf eğlence için birkaç tıkla indirip fotoğraflarını yüklüyorlar, ancak arka planda devreye giren kullanım şartları ve gizlilik sözleşmelerini okumuyorlar. Bu sözleşmelerin diline baktığımızda, demin de söylediğim gibi, çoğu zaman şirketlere çok geniş haklar veriyoruz. Örneğin FaceApp’in sözleşmesinde kullanıcıların içeriklerinin (yani fotoğraflarının) dünyanın her yerinde geçerli, telifsiz, geri alınamaz bir kullanım hakkının şirkete devredildiği yazıyordu. Benzer şekilde Lensa ve diğerlerinin de kullanım şartları bu tarz maddeler içeriyor. Yani etik olarak, kullanıcı gerçekte niyet etmediği halde kendi yüzü üzerinde kontrolü şirkete bırakmış oluyor. Bu da rızanın ne kadar bilinçli olduğu sorusunu gündeme getiriyor. İnsanlar gerçekten fotoğraflarının belki reklam malzemesi olabileceğine veya yapay zekâ modellerine ekleneceğine onay vermiş oluyor mu? Yoksa eğlenceli bir uygulamayı denerken farkında olmadan veri haklarından mı vazgeçiyor? Ne yazık ki çoğu kişi okuma fırsatı bulmadan “kabul et”e tıklıyor ve bu durum, Cambridge Analytica skandalında gördüğümüz gibi, masum bir kişilik testinin bile arka planda dev veri toplaması yapabileceği gerçeğini hatırlatıyor. Etik açıdan şirketlerin kullanıcılara bu konularda daha şeffaf olması, kullanıcı rızasını gerçekten bilinçli bir onay haline getirmesi gerekir. İkinci mesele, kimlik mahremiyeti. Yüzünüz, en mahrem kişisel verilerden biridir çünkü sizi doğrudan tanımlar. Bir fotoğrafı internete yüklediğiniz anda artık o fotoğraf özel olmaktan çıkar. Normalde sadece arkadaşlarınızla paylaştığınız bir selfie, bu uygulamaların sunucularında işlemden geçtikten sonra belki de kalıcı olarak orada kalıyor. Bu, sizin dijital ortamda izinizin bir parçası haline geliyor. Eğer ileride bu veriler bir şekilde paylaşılır ya da sızarsa, sizin kimlik bilgileriniz de açığa çıkmış olur. Örneğin bazı otoriteler, büyük yüz verisi koleksiyonlarını güvenlik amaçlı talep edebilir. Çin’de veya başka bazı ülkelerde geniş yüz tanıma veritabanları oluşturulduğunu biliyoruz; benzer şekilde, eğer bir şirket elindeki yüz verilerini satmaya veya vermeye karar verirse, sizin izniniz olmadan bir gözetim aracının parçası haline gelebilirsiniz. Bu oldukça endişe verici bir ihtimal, tabii şu an spekülatif bir senaryo olarak konuşuyoruz ama yüz verisi bu yüzden çok kritik. Üçüncü önemli etik risk ise izinsiz çoğaltma ve kötüye kullanım ihtimali. Yapay zekâ ile görsel üretim teknolojileri öyle bir noktaya geldi ki, bir kez model eğitmek için fotoğrafınızı verdiğinizde, model artık sizin yüzünüze dair bir öğrenme kazanıyor. Bu öğrenme, ileride sizin haberiniz ve rızanız olmadan yeni görüntüler üretilmesi demek olabilir. Mesela yakın zamanda tartışılan bir konu: bazı uygulamalar, kadın kullanıcıların fotoğraflarını girdi olarak alıp, onların izni dışında müstehcen versiyonlarını üretebildi. Yani diyelim biri sizin bir fotoğrafınızı ele geçirdi ve bunu suistimal etmek istedi. Yapay zekâ aracılığıyla gerçeğe çok benzeyen uygunsuz bir görüntünüzü oluşturup bunu internette yayabilir. Bu durum son derece zararlı ve yasa dışı durumlara yol açabilir. Kimse kendi fotoğrafının böyle bir türeve dönüşmesini istemez, ama teknolojik olarak bu mümkün ve maalesef kötü niyetli kişilerce kullanılıyor. Bu noktada diyebilirsiniz ki Pixar tarzı masum bir filtre kimseyi böyle mağdur etmez; doğru, kendisi doğrudan etmez, ancak siz fotoğrafınızı bir kez dijital sisteme soktuğunuzda aynı fotoğrafı alıp Stable Diffusion gibi bir modelle bambaşka içerik üretmek de teknik olarak mümkün. Dolayısıyla, rızaya dayalı kullanımın sınırları bulanıklaşıyor: Siz sadece masum bir avatar istediniz, ama o fotoğraf belki de sizden habersiz çoğaltıldı veya dönüştürüldü. Etik olarak şirketlerin bu riskleri önlemek için çok net politikalara ihtiyacı var. Son olarak, mahremiyetin ihlali konusu var. Bir fotoğraf sadece yüzünüzü değil, üzerinizden çıkarmayı unuttuğunuz konum etiketlerinden tutun da arka plandaki evinizin görüntüsüne kadar pek çok kişisel bilgiyi de açığa vurabilir. Bir yapay zekâ şirketine fotoğrafınızı verdiğinizde, belki farkında olmadan evinizin içini, çevrenizi, hayatınıza dair detayları da vermiş oluyorsunuz. İyi niyetli şirketler bunları önemsemese de veri sızıntılarında bu bilgiler de kötüye kullanılabilir. Tüm bu etik riskler, teknoloji şirketlerinin ve geliştiricilerin sorumluluk almasını gerektiriyor. Kullanıcı olarak bizler de her yeni eğlenceli uygulamada bir an durup "Ben bu sisteme ne veriyorum ve karşılığında ne alıyorum?" diye düşünmeliyiz. Unutmayalım, ücretsiz veya çok ucuz sunulan bu hizmetlerin bedeli çoğunlukla verilerimizdir. Fotoğraf filtreleri dünyayı daha renkli hale getirebilir, ama kendi mahremiyetimiz ve psikolojik sağlığımız da en az o kadar kıymetli. Bu dengenin farkında olarak teknolojiyi kullanmak en sağlıklısı olacaktır.

"TEKNOLOJİNİN YARATICI VE EĞLENCELİ YANLARINDAN FAYDALANIRKEN, POTANSİYEL TEHLİKELERE KARŞI DA GÖZÜMÜZÜ KAPATMAMAMIZ GEREKİYOR"

• Sonuç olarak, bu tür yapay zekâ filtreleriyle ilgili genel değerlendirmeniz nedir? Eğlence ile tehlike arasındaki dengeyi nasıl kurmalıyız?

-Özetlemek gerekirse, yapay zekâ destekli Pixar tarzı filtreler günümüz dijital yaşamının hem neşe veren hem de düşündüren bir parçası haline geldi. Eğlence tarafında, yaratıcılığı tetikleyen, insanlara kısa süreliğine de olsa bir kaçış sunan, kültürel açıdan da yeni bir ifade biçimi yaratan bir olgu var. Kim istemez ki kendini çocukluğunda hayranlıkla izlediği bir animasyon karakteri gibi görmeyi? Bu teknolojiler insan hayal gücünü ve kendini ifade etme biçimlerini zenginleştirebilir. Ancak madalyonun diğer yüzünde, gerçeklik algımızın deformasyonu, kendimizi olduğumuz gibi kabullenme konusunda zorluklar ve kişisel verilerin güvenliği gibi ciddi meseleler duruyor. Teknolojinin yaratıcı ve eğlenceli yanlarından faydalanırken, potansiyel tehlikelere karşı da gözümüzü kapatmamamız gerekiyor. Bu dengeyi sağlamak için bireyler, farkındalık sahibi kullanıcılar olmalı. Yani bir uygulama trend oldu diye hemen düşünmeden her fotoğrafımızı yüklememeli, önce biraz araştırmalı: Bu uygulamanın geliştiricisi kim, verimi ne yapıyor, başkaları deneyimlemiş mi? Aynı şekilde şirketlerin de daha şeffaf ve hesap verebilir olması şart. Bir kullanıcı, “Fotoğrafımı yüklersem bu fotoğrafla neler yapacaksınız?” diye sorduğunda net bir cevap alabilmeli. Hem teknik hem etik standartlar, yasal düzenlemelerle de desteklenmeli ki kullanıcılar korunabilsin. Son tahlilde, Pixar tarzı filtreler gibi teknolojiler ne tamamen şeytanlaştırılmalı ne de tamamen sorunsuz görülmeli. İnsanlık olarak yeni bir dijital deneyim yaşıyoruz ve bunun kültürel, psikolojik etkilerini anlamak zaman alacak. Önemli olan, hem birey hem toplum düzeyinde bilinçli olmak. Gerçek ile sanalı ayırt etme becerimizi korudukça ve haklarımızın farkında oldukça, bu tür yeniliklerden keyif alabilir ve aynı zamanda güvende kalabiliriz diyebilirim.

-Tuba Kaya