Yapay zekâ çağında çocuk fotoğrafı da güvenlik meselesi oldu

Yapay zekâ çağında çocuk fotoğrafı da güvenlik meselesi oldu

İngiltere’de Ulusal Suç Ajansı ve Internet Watch Foundation tarafından yayımlanan yeni rehber, çocuk fotoğraflarının yapay zekâ araçlarıyla istismar içeriklerine dönüştürülmesi riskini yeniden gündeme taşıdı. Gelişme, çocuk güvenliğinin artık yalnızca ailelerin bireysel dikkatiyle değil; platform sorumluluğu, yapay zekâ denetimi, okul politikaları, uygulama mağazaları ve devlet kapasitesiyle birlikte ele alınması gerektiğini gösteriyor.

İngiltere’de Ulusal Suç Ajansı (NCA) ve Internet Watch Foundation (IWF), ailelere çocuk fotoğraflarını açık sosyal medya hesaplarında paylaşmamaları yönünde yeni bir uyarıda bulundu. Kurumların rehberinde ebeveynlere, sosyal medya hesaplarını gizliye almaları, fotoğrafları yalnızca güvenilir kişilerle paylaşmaları, eski paylaşımları gözden geçirmeleri ve okul, kreş, spor kulübü gibi kurumlara verilen fotoğraf izinlerini yeniden değerlendirmeleri tavsiye edildi. Anadolu Ajansı İngilizce servisi de haberi, İngiltere’nin aileleri “yapay zekâ kaynaklı istismar görüntülerindeki artış” nedeniyle uyardığı başlığıyla duyurdu.

Uyarının nedeni, internette açıkta bulunan çocuk fotoğraflarının yapay zekâ araçlarıyla manipüle edilerek istismar içeriklerine dönüştürülebilmesi. Sosyal medya çağında çocuk fotoğrafı çoğu zaman masum bir aile paylaşımı, okul hatırası, mezuniyet karesi ya da etkinlik görseli olarak görülüyordu. Yapay zekâ çağında ise aynı fotoğraf, çocuğun rızası olmadan dijital istismar malzemesine dönüştürülebilecek ham veri hâline gelebiliyor.

IWF’nin “Harm Without Limits” raporu, yapay zekâ üretimi çocuk istismarı içeriklerinde hızlı bir artış yaşandığını ortaya koyuyor. Guardian’ın aktardığına göre IWF, 2025’te 8 bin 29 yapay zekâ üretimi gerçekçi çocuk istismarı görüntüsü ve videosu tespit etti; yapay zekâ üretimi videoların sayısı 2024’te 13 iken 2025’te 3 bin 443’e çıktı. Bu tablo, suçun yalnızca gizli ağlarda değil, açık dijital ekosistemin içinde de üretilebildiğini gösteriyor.

Burada kritik fark şudur: Eski dönemde failin çocuğa ulaşması, onu kandırması ya da fiziksel görüntü elde etmesi gerekiyordu. Yeni dönemde ise suçlular, çocuğa hiç temas etmeden, sosyal medya hesabından, okul sitesinden, spor kulübü paylaşımından veya aile albümünden alınan sıradan bir fotoğrafı yapay zekâ ile istismar görüntüsüne çevirebiliyor. Bu yüzden çocuk güvenliği artık yalnızca “çocuk internette kiminle konuşuyor?” sorusuyla sınırlı değildir. Asıl soru şudur: Çocuğun görüntüsü, verisi ve mahremiyeti dijital ortamda kimlerin eline geçiyor, hangi araçlarla işleniyor ve nasıl korunuyor?

UNICEF’in “deepfake istismar istismardır” uyarısı bu tartışmanın ahlaki ve hukuki sınırını netleştiriyor. Kuruma göre yapay zekâ ile üretilmiş ya da değiştirilmiş cinsel içerikli çocuk görüntüleri çocuk istismarı materyalidir; görüntü yapay olsa bile zarar gerçektir. Çünkü mağduriyet yalnızca fiziksel temasla değil, çocuğun yüzünün, kimliğinin, bedeninin ve mahremiyetinin istismar malzemesine dönüştürülmesiyle de oluşur.

Bu noktada en önemli eleştirel başlık, sorumluluğun yalnızca ailelere yüklenemeyeceğidir. Elbette aileler mahremiyet bilinciyle hareket etmeli, çocuk fotoğraflarını gelişigüzel paylaşmamalı ve açık hesapların riskini görmelidir. Ancak bütün yük anne babanın omzuna bırakılamaz. Çocuğun fotoğrafını toplayan okul, yayımlayan kulüp, dolaşıma sokan platform, görünür kılan algoritma, işleyen yapay zekâ modeli, dağıtan uygulama mağazası ve denetlemekle yükümlü kamu otoritesi aynı sorumluluk zincirinin parçalarıdır.

İngiltere’de Ofcom’un X’in Grok adlı yapay zekâ aracıyla ilgili başlattığı soruşturma, bu sorumluluk tartışmasının platformlara da yöneldiğini gösteriyor. Ofcom, Grok’un çıplaklaştırılmış görüntüler ve çocuklara ait cinselleştirilmiş görseller üretip paylaşmak için kullanıldığına ilişkin iddialar üzerine X’in Online Safety Act kapsamındaki yükümlülüklerini yerine getirip getirmediğini incelemeye aldı.

Bu gelişme önemlidir. Çünkü platformlar artık “biz yalnızca aracıyız” diyerek sorumluluktan çekilemez. Günümüz platformları yalnızca içerik barındırmıyor; algoritmik öneri sistemleriyle neyin görünür olacağını belirliyor, yapay zekâ araçlarını kullanıcıya sunuyor, içeriği büyütüyor, arama sonuçlarında öne çıkarıyor ve kimi zaman zararlı üretimin teknik zeminini sağlıyor. Dolayısıyla platform sorumluluğu yalnızca içerik kaldırma işlemiyle sınırlı değildir; tasarım, dağıtım, öneri, görünürlük, yaş doğrulama, veri işleme ve model güvenliğiyle birlikte düşünülmelidir.

5Rights Foundation’ın Grok örneği üzerinden yaptığı değerlendirme de aynı noktaya işaret ediyor. Kuruluşa göre çocukları koruyacak araçlar mevcut; eksik olan, güçlü uygulama, yaptırım ve şirketleri hesap verebilir kılacak irade. Bu nedenle çocuk güvenliği, model piyasaya sürüldükten ve zarar ortaya çıktıktan sonra eklenen bir “filtre” meselesi değildir. Güvenlik; modelin eğitim verisinden kullanıcı arayüzüne, yaş doğrulamadan içerik denetimine, uygulama mağazası onayından ödeme altyapısına kadar en baştan tasarlanması gereken kamusal bir zorunluluktur.

Türkiye açısından bu haber güçlü bir uyarı niteliği taşıyor. Türkiye’de aileler, okullar, belediyeler, spor kulüpleri, kurslar, kreşler ve sosyal medya hesapları çocuk fotoğraflarını çoğu zaman açık biçimde paylaşıyor. Etkinlik fotoğrafı, mezuniyet karesi, okul başarısı, yardım kampanyası veya sosyal medya duyurusu olarak görülen paylaşımlar, yapay zekâ çağında çocuğun mahremiyetini ve güvenliğini ilgilendiren veri varlıklarına dönüşüyor.

Bu yüzden Türkiye açısından mesele, ailelere yalnızca “fotoğraf paylaşmayın” demekten ibaret değildir. Çocuk görüntülerinin hangi kurallarla toplanacağını, paylaşılacağını, saklanacağını ve işleneceğini belirlemeliyiz. Kötüye kullanıma karşı nasıl korunacağını da açıkça düzenlemeliyiz. Bu ortak güvenlik düzeni, okullardan belediyelere, sosyal medyadan yapay zekâ şirketlerine kadar bütün tarafları kapsamalıdır.

Sonuç açıktır: Sosyal medya çağında çocuk fotoğrafı paylaşım kültürü oluştu; yapay zekâ çağında bu kültür çocuk güvenliği krizine dönüşüyor. Bu kriz, ailelerin bireysel dikkatiyle sınırlı biçimde çözülemez. Platformların, yapay zekâ şirketlerinin, uygulama mağazalarının, okulların, medya kuruluşlarının ve devletlerin ortak sorumluluk üstlendiği yeni bir çocuk güvenliği düzeni kurulmadan, çocukların görüntüsü ve mahremiyeti yapay zekâ çağının en savunmasız alanlarından biri olmaya devam edecektir.

Kaynaklar

Anadolu Ajansı — UK warns parents over children’s photos online amid rise in AI abuse imagery

https://

aa.com.tr/en/europe/uk-w

arns-parents-over-children-s-photos-online-amid-rise-in-ai-abuse-imagery/3985629

…

NCA — New guidance for parents and carers as AI-manipulated images of children become a growing concern

https://

nationalcrimeagency.gov.uk/news/new-guida

nce-for-parents-and-carers-as-ai-manipulated-images-of-children-become-a-growing-concern

…

Guardian — UK parents warned over posting images of children amid AI sexual abuse fears

https://

theguardian.com/society/2026/j

ul/03/ai-sexual-abuse-fears-uk-parents-warned-posting-images-children-national-crime-agency

…

IWF — AI CSAM Report 2026: Harm Without Limits

https://

iwf.org.uk/about-us/why-w

e-exist/our-research/how-ai-is-being-abused-to-create-child-sexual-abuse-imagery/

…

UNICEF — Deepfake abuse is abuse

https://

unicef.org/press-releases

/deepfake-abuse-is-abuse

…

Ofcom — Ofcom launches investigation into X over Grok sexualised imagery

https://

ofcom.org.uk/online-safety/

illegal-and-harmful-content/ofcom-launches-investigation-into-x-over-grok-sexualised-imagery

…

5Rights Foundation — Grok AI fails child safety: companies must build safely or face consequences

https://

5rightsfoundation.com/grok-ai-fails-

child-safety-companies-must-build-safely-or-face-consequences/

…