Gençler arasında popüler olan kısa video uygulaması TikTok’un çocuklar ve ergenler üzerindeki olumsuz etkileri, Uluslararası Af Örgütü’nün yeni raporuyla bir kez daha gündeme geldi. “Tavşan Deliğine Çekilmek” başlıklı rapor, TikTok’un görüntülemeye göre içerik tavsiye eden, kişiselleştirilmiş bir kısa video akışı olan “Senin İçin” sayfasında kullanılan algoritmanın, ruh sağlığı sorunları yaşayan gençleri kısa sürede depresif ve intiharı özendiren içeriklere yönlendirdiğini ortaya koydu.
Rapor, bu durumun şirketin kâr odaklı iş modelinden kaynaklandığını ve platformun bağımlılık yaratan tasarımı nedeniyle çocukların güvenli bir çevrede bulunamadığını belgeledi.
Sadece 45 dakikada intihar eğilimli videolar çıkmaya başlıyor
Uluslararası Af Örgütü araştırmacıları, “Senin İçin” akışındaki algoritmik içerik artırımını incelemek için Fransa’da yaşayan 13 yaşındaki çocuklara aitmiş gibi sahte hesaplar oluşturdu. Beş dakikalık kaydırma içinde ve herhangi bir tercih belirtmeden önce, hesaplar üzüntü ve hayal kırıklığıyla ilgili videolarla karşılaştı. Bu videoların izlenmesi, üzüntü ve ruhsal sağlıkla ilgili içerik miktarını hızla artırdı.
Deneye başlandıktan 15-20 dakika sonra, üç akış da neredeyse tamamen ruhsal sağlıkla ilgili videolarla doldu; yaklaşık yarısı depresif içerikler barındırıyordu. 45 dakika içinde, iki hesap intihar eğilimli düşünceleri ifade eden videolarla karşılaştı.
Algoritmik Şeffaflık Enstitüsü (ATI) ile birlikte gerçekleştirilen ek deneyler, izleme geçmişlerinde farklı düzeylerde üzücü ya da depresif videolar bulunduğunda, TikTok’un tavsiye sisteminin bu içeriklerin akıştaki payını iki kattan fazla artırdığını gösterdi.
Gençlerin yüzde 58’i rahatsız edici içeriklerden etkileniyor
Uluslararası Af Örgütü Fransa’nın, 13 ila 25 yaş arası bin gençle yaptığı ankete göre, gençlerin büyük çoğunluğu sosyal medyada fazla zaman geçirdiğini kabul ediyor. Katılımcıların on kişiden sekizi bu durumu dile getirirken, genç kadınlarda oran yüzde 88 olarak ölçüldü. Gençlerin yüzde 58’i, mükemmel beden algısı, yeme bozuklukları ya da umutsuzluk duygusunu aşılayan videolardan olumsuz etkilendiğini belirtti. Bu oran 16 ile 21 yaş arası genç kadınlarda yüzde 75’e kadar yükseldi.
Ankete göre gençlerin yüzde 69’u zararlı içeriklerden kaçınmaya çalışıyor ancak bunu başarabilenlerin oranı yalnızca beşte bir düzeyinde kaldı. Ayrıca 13 ile 15 yaş arası gençlerin yüzde 64’ü, TikTok’un içerikleri kişisel verilerine göre belirlediğini bilmiyor.
Algoritmanın ölümcül tehlikesi
Raporda, TikTok’un algoritmasının kullanıcıların ilgilendiği içerikleri çoğaltarak karamsar duyguları derinleştirdiği belirtiliyor. Bir kullanıcı üzgün videolara yöneldiğinde, algoritma kısa sürede bu videoların sayısını iki katına çıkarıyor. Otomatik testlerde, potansiyel olarak zararlı içeriklerin oranı yüzde 21,4 olarak ölçüldü. Bu oran, 2017 yılında sosyal medya içerikleri nedeniyle yaşamına son veren on dört yaşındaki Molly Russell vakasında tespit edilen yaklaşık yüzde 13’lük orandan bile daha yüksek. Uzmanlar, bu düzeydeki bir maruziyetin gerçek hayatta telafisi olmayan sonuçlara yol açabileceği konusunda uyarıyor.
Ailelerin adalet arayışı sürüyor
Raporda, intihar sonucu yaşamını yitiren on beş yaşındaki Marie Le Tiec ve Charlize Dapui-Parkiet’in hikâyelerine yer verildi. Aileler, TikTok’un algoritmik yapısının kızlarını adım adım karanlığa sürüklediğini belirtti. Marie’nin annesi Stéphanie Mistre, kızının ölümünden sonra telefonunda bulduğu videoları “dehşet verici” olarak nitelendirdi ve “Bu platformlar çocuklarımızı insan olarak değil, kullanıcı verisi olarak görüyor. Duygularını kullanarak onları ekrana bağlıyorlar” dedi. Charlize’in babası Jérémy ise “TikTok kızımızın iyileşmesini engelledi. Uygulamada intiharı özendiren videoları bildirmemize rağmen hiçbir önlem alınmadı. ‘Sonsuz kaydırma’ özelliği onu sürekli aynı karanlık döngüye itti” sözleriyle yaşadıklarını anlattı. Bu mağduriyetlerin ardından Fransa’da 11 aile, TikTok’a karşı toplu dava açtı. Aileler, platformun çocuklarının ruh ve fiziksel sağlığının bozulmasındaki rolünün araştırılmasını istiyor.
Uzmanlardan “dopamin” uyarısı
Fransız nörolog Dr. Servane Mouton, sosyal medya uygulamalarının beyin üzerindeki etkilerini “dopamin tuzağı” olarak tanımlıyor. Dr. Mouton’a göre, bu platformlar beynin ödül sistemini sürekli uyararak kullanıcıyı yeniden uygulamaya dönmeye zorluyor. Kısa süreli mutluluk hissi veren bu etki, özellikle ergenlik çağındaki gençlerde bağımlılığa yol açıyor. Uzman, bu bağımlılık döngüsünün depresyon eğilimli gençlerde daha yıkıcı sonuçlara neden olduğunu vurguluyor.
Uluslararası Af Örgütü’nden çağrı
Uluslararası Af Örgütü, raporun yayımlanmasının ardından hem TikTok’a hem de Avrupa Komisyonu’na çağrıda bulundu. Örgüt, TikTok’un çocukların kişisel verilerini izleyen ve onları daha fazla ekranda tutmayı amaçlayan iş modelini değiştirmesi gerektiğini belirtti. Avrupa Komisyonu’ndan ise Dijital Hizmetler Yasası kapsamındaki soruşturmayı hızlandırması ve şirketin hesap vermesini sağlaması talep edildi. TikTok ise raporun yayımlanmasına kadar geçen sürede herhangi bir açıklama yapmadı.
Raporda, TikTok’un mevcut haliyle çocukların mahremiyet, düşünce özgürlüğü ve sağlık haklarını ihlal ettiği belirtiliyor. Uzmanlar, sosyal medya kullanımının artık sadece ailelerin sorumluluğunda olmadığını; devletlerin, okulların ve platformların da çocukların dijital güvenliği konusunda önlem alması gerektiğini vurguluyor.
