Yapay zekâ çağında çocuk güvenliği: Artık mesele yalnızca çocuğun ne gördüğü değil, kime güvendiği

Yapay zekâ çağında çocuk güvenliği: Artık mesele yalnızca çocuğun ne gördüğü değil, kime güvendiği

Yapay zekâ, çocukların dijital güvenliğinde sosyal medyadan farklı ve daha doğrudan bir risk alanı oluşturuyor. Sosyal medya algoritmaları, büyük ölçüde çocuğun karşısına hangi içeriğin çıkacağını belirliyor. Yapay zekâ sohbet sistemleri ise çocukla doğrudan konuşabiliyor. Sorularını yanıtlayabiliyor, tavsiye verebiliyor ve teselli sunabiliyor. Uzun süreli konuşmalar, güven ilişkisine benzeyen bir bağ oluşturabiliyor. Bu nedenle çocuk güvenliği yalnızca gördüğü içerikle sınırlı değil. Çocuğun kiminle bağ kurduğu, kimin sözünü doğru kabul ettiği, özel bilgilerini kiminle paylaştığı ve kime güvendiği de önem taşıyor.

Yeni dönemin temel sorusu şudur:

Çocuk bir yapay zekâ sistemiyle konuşurken karşısında ne olduğunu, sistemin neyi bilip neyi bilmediğini ve hangi noktada gerçek bir insana başvurması gerektiğini anlayabiliyor mu?

UNICEF'in Haziran 2026'da 10 ülkeden elde edilen verilere dayanan analizine göre en az 20 milyon çocuğun yapay zekâ kullandığı tahmin ediliyor. 2 milyondan fazla çocuk, yani araştırma kapsamındaki çocukların yaklaşık onda biri, kendilerini endişelendiren konularda yapay zekâdan tavsiye aldığını bildirdi. Yaklaşık 13 milyon çocuğun ise yapay zekâyı öğrenme ve ödev amacıyla kullandığı tahmin edildi. Bunlar bütün dünya çocuklarını temsil eden küresel oranlar değil; 10 ülkedeki araştırmalardan üretilen tahminlerdir.

Bu veriler önemli bir değişimi gösteriyor:

Çocuk yapay zekâyı yalnızca bilgi bulmak için değil, kendisini ilgilendiren kişisel meseleleri konuşmak için de kullanmaya başladı.

Makine insan gibi konuştuğunda ne değişiyor?

Yapay zekâ sohbet sistemlerinin yeni risklerinden biri, çocuğun sistemin insan olmadığını bilse bile ona insan özellikleri yükleyebilmesidir.

Sistem çocuğun adını hatırlayabilir.

Geçmiş konuşmalarına atıfta bulunabilir.

“Seni anlıyorum.” diyebilir.

Çocuğun duygularına uygun bir dil kullanabilir.

Sürekli erişilebilir olabilir.

Bütün bunlar kullanıcıda karşısındaki sistemin kendisini gerçekten “anladığı” hissini oluşturabilir.

Ancak burada temel bir ayrım bulunuyor.

Yapay zekâ empati dili üretebilir; fakat insana özgü bakım sorumluluğuna sahip değildir.

Vicdanı yoktur.

Çocuğun hayatından sorumlu değildir.

Verdiği tavsiyenin sonuçlarını ahlaki anlamda üstlenemez.

Bu nedenle sorumluluk yapay zekânın kendisine değil, sistemi geliştiren, kullanan ve çocukların erişimine sunan kuruluşlara aittir.

UNICEF'in Haziran 2026'da yayımladığı “Yapay zekâ arkadaş olduğunda” başlıklı politika çalışması da sohbet robotları ve yapay zekâ arkadaşlarının çocuklar açısından farklı ve daha yüksek riskler oluşturabildiğini vurguluyor. UNICEF'e göre ilişkisel yapay zekânın çocuk güvenliği açısından ayrı değerlendirilmesi gerekiyor; çünkü bu sistemler bilgi aracından çıkarak destek, arkadaşlık ve ilişki alanına girebiliyor.

Dolayısıyla sosyal medya döneminde temel soru:

“Çocuk ne görüyor?”

iken yapay zekâ döneminde buna yeni bir soru ekleniyor:

“Çocuk kiminle konuştuğunu düşünüyor?”

Duygusal bağ yeni risk alanı

İkinci önemli mesele duygusal bağlılıktır.

Bir insan ilişkisi karşılıklılık üzerine kurulur.

Gerçek arkadaş bazen itiraz eder.

Her zaman ulaşılabilir değildir.

Sınırları vardır.

Yanlış anlaşılmalar yaşanabilir.

İlişkinin devam edebilmesi için sabır, uzlaşma ve karşı tarafın ihtiyaçlarını dikkate almak gerekir.

Yapay zekâ ise farklı çalışabilir.

Sürekli erişilebilir olabilir.

Kullanıcının ilgi alanlarına göre konuşabilir.

Çocuğun söylediklerine hızlı cevap verebilir.

Onaylayıcı bir dil kullanabilir.

Geçmiş konuşmaları hatırlayarak kişiselleştirilmiş bir ilişki hissi oluşturabilir.

Özellikle yalnızlık yaşayan, sosyal ilişkilerinde güçlük çeken veya duygusal açıdan kırılgan çocuklar açısından bu özellikler daha önemli hâle gelebilir.

Buradaki risk yalnızca “bağımlılık” kavramıyla açıklanamaz.

Mesele aynı zamanda çocuğun ilişki anlayışının nasıl şekillendiğidir.

Çocuk;

“İyi arkadaş bana her zaman cevap verendir.”

“İyi arkadaş bana itiraz etmeyendir.”

“Canım sıkıldığında bir insana değil sisteme giderim.”

gibi gerçek insan ilişkileriyle uyuşmayan beklentiler geliştirmemelidir.

Bu nedenle yapay zekâ çocuklara insan ilişkilerinin yerine geçen bir yapı olarak değil, sınırları açık biçimde belirtilmiş bir dijital araç olarak sunulmalıdır.

Avustralya'daki araştırma ne gösteriyor?

Avustralya eSafety Commissioner'ın 2026'da 10-17 yaş grubundaki 1950 çocukla yaptığı araştırma, bu dönüşümün boyutunu gösteriyor.

Çocukların yüzde 79'u hayatında en az bir kez yapay zekâ asistanı veya yapay zekâ arkadaşı kullandığını belirtti. Bu oran yalnızca “yapay zekâ arkadaşlarını” değil, daha genel yapay zekâ asistanlarını da kapsıyor.

Özel olarak yapay zekâ arkadaşı kullananların oranı yüzde 8, son dört haftada kullananların oranı ise yüzde 4 oldu.

Yapay zekâ asistanı veya arkadaşı kullanan çocukların yüzde 22'si bu sistemlerle duyguları veya hayatındaki güçlükler hakkında konuştuğunu, yüzde 20'si ise ruh sağlığı veya iyi oluş konusunda tavsiye aldığını söyledi.

Bu verileri doğru okumak gerekiyor.

Çocukların yüzde 79'unun “yapay zekâ arkadaşı” kullandığını söylemek yanlış olur. Yüzde 79'luk oran yapay zekâ asistanlarıyla arkadaşlık sistemlerini birlikte kapsıyor.

Ancak asıl önemli bulgu başka:

Çocukların bir bölümü yapay zekâyı artık yalnızca ödev veya bilgi aracı olarak değil, duygularını konuştuğu ve yaşamına ilişkin tavsiye aldığı bir sistem olarak kullanıyor.

Bu, çocuk güvenliği açısından tamamen yeni bir alan açıyor.

Dört yapay zekâ arkadaşında hangi eksikler bulundu?

Avustralya eSafety Commissioner'ın

http://

Character.AI, Nomi, Chai ve Chub AI adlı dört yapay zekâ arkadaşlık hizmetini inceleyen Mart 2026 tarihli raporu ciddi güvenlik açıkları tespit etti.

İncelenen dönemde dört hizmetin hiçbirinde güçlü yaş güvencesi bulunmadığı belirtildi.

Chai, Chub AI ve Nomi'nin kendine zarar verme ifadeleri tespit edildiğinde kullanıcıları uygun yardım kanallarına yönlendirmediği görüldü.

Bazı sağlayıcıların bütün kullanıcı girdilerini ve sistem çıktılarını çocukların cinsel istismarı, kendine zarar verme veya pornografik içerik gibi riskler açısından denetlemediği; Nomi ve Chub AI'da ise güven ve güvenlik alanına ayrılmış personel bulunmadığı bildirildi.

Burada gelişmelerin devam ettiğini de belirtmek gerekiyor.

eSafety'nin incelemesinin ardından

http://

Character.AI Avustralya'da yaş güvencesi önlemleri getirdi ve 18 yaş altındaki kullanıcıların açık uçlu sohbet erişimini kaldırdı. Chub AI ise hizmetini Avustralya'dan çekti.

Bu değişiklikler önemli.

Çünkü güvenlik tartışmasının yalnızca:

“Model kötü cevap vermesin.”

düzeyinde kalamayacağını gösteriyor.

Yaş güvencesi, kriz yönlendirmesi, içerik denetimi, güvenlik personeli ve çocuklara özel tasarım birlikte ele alınmalıdır.

Yanlış otorite riski

Yapay zekâ çağındaki üçüncü temel risk, sistemin çocuğun gözünde gereğinden fazla otorite kazanmasıdır.

Çocuk yapay zekânın verdiği bir cevabı öğretmen görüşü, psikolog tavsiyesi veya doktor değerlendirmesi gibi algılayabilir.

Oysa genel amaçlı bir sohbet sistemi bu mesleklerden hiçbirinin yerine geçmez.

Yapay zekâ doğru ve yararlı bilgi verdiğinde çocuk için önemli bir öğrenme aracı olabilir. Ancak yanlış, eksik veya gereğinden fazla kesin bir cevap verdiğinde özellikle sağlık, ruh sağlığı, şiddet veya istismar gibi alanlarda ciddi sonuçlar doğabilir.

Burada önemli mesele yalnız yanlış bilgi değildir.

Akıcı ve kendinden emin dil, yanlış bilginin otorite gibi algılanmasına neden olabilir.

Çocuk her zaman sistemin hangi noktada emin olmadığını anlayamayabilir.

Bu nedenle çocuklara yönelik yapay zekâ sistemlerinde belirsizliğin açıkça gösterilmesi, profesyonel yardım gerektiren alanlarda gerçek insana yönlendirme yapılması ve sistemin kendisini doktor, psikolog, öğretmen veya gerçek arkadaş gibi sunmaması gerekir.

UNICEF'in çocuk merkezli yapay zekâ rehberi de güvenlik, mahremiyet, ayrımcılığın önlenmesi, şeffaflık, açıklanabilirlik, hesap verebilirlik ve çocuğun üstün yararını temel ilkeler arasında sayıyor. Rehberin son sürümü, yapay zekâ arkadaşları ve çocuklara yönelik ilişkisel sistemleri ayrıca ele alıyor.

Mahrem konuşmalar ticari profile dönüşmemeli

Dördüncü risk mahremiyettir.

Bir çocuk yapay zekâya;

ailesindeki sorunları,

okulda yaşadığı güçlükleri,

yalnızlığını,

korkularını,

sağlık sorunlarını,

arkadaşlıklarını

veya başka insanlarla paylaşmakta zorlandığı bilgileri anlatabilir.

Böyle bir konuşma sıradan bir internet aramasıyla aynı değildir.

Bu nedenle çocukların yapay zekâ sohbetlerinde verdiği hassas bilgiler reklam, pazarlama veya ticari davranış profillemesi amacıyla kullanılmamalıdır.

Hafıza özellikleri de çocuklar açısından ayrıca değerlendirilmelidir.

Çocuğun 13 yaşında anlattığı bir korku, aile sorunu veya psikolojik sıkıntı yıllarca taşınan ticari bir kullanıcı profiline dönüşmemelidir.

Çocuk ve ebeveyn;

hangi bilgilerin hatırlandığını görebilmeli,

hafızayı kapatabilmeli,

geçmiş konuşmaları silebilmeli

ve verinin ne kadar süre saklanacağını anlayabilmelidir.

Çocuğun mahremiyeti, daha kişisel bir yapay zekâ deneyimi üretmenin ham maddesi hâline gelmemelidir.

Cinsel içerikli derin sahte görüntüler büyüyen tehdit

Yapay zekânın çocuklara getirdiği risk yalnızca sohbet sistemleriyle sınırlı değildir.

UNICEF, ECPAT International ve INTERPOL'ün yürüttüğü Disrupting Harm araştırmasının ikinci aşamasındaki 11 ülkeden elde edilen ulusal araştırmalar üzerinden yapılan modellemeye göre en az 1,2 milyon çocuk, son bir yıl içinde görüntüsünün yapay zekâ kullanılarak cinsel içerikli sahte görüntülere dönüştürüldüğünü bildirdi.

Bazı ülkelerde bu oran yaklaşık her 25 çocuktan birine kadar çıkıyor. Araştırma 12-17 yaş grubundaki çocuklarla yapılan ulusal temsiliyete yönelik hane araştırmalarına dayanıyor; 1,2 milyon sayısı bu ulusal oranlardan oluşturulan modelleme sonucudur.

Bu tehdit son derece önemlidir.

Çünkü ortada gerçek bir cinsel görüntünün bulunması gerekmiyor.

Çocuğun sosyal medyada bulunan sıradan bir fotoğrafı alınabilir ve yapay zekâyla cinsel içerikli sahte görüntü üretilebilir.

UNICEF'in ifadesiyle, “derin sahte istismarı da istismardır.”

Dolayısıyla çocukların fotoğraflarının dijital ortamda korunması da yapay zekâ çağındaki çocuk güvenliğinin temel başlıklarından biri hâline geliyor.

Düzenleyiciler ve şirketler harekete geçiyor

Dünyadaki yaklaşım hızla değişiyor.

Avustralya'da Mart 2026'da yürürlüğe giren yaşa uygun olmayan çevrim içi içeriklere ilişkin güvenlik kuralları, yapay zekâ sohbet robotları ve yapay zekâ arkadaşlarını da kapsıyor. Sistemlerin çocuklarla cinsel içerikli veya kendine zarar verme ve intiharı teşvik eden konuşmalar yürütmemesi için önlem alınması gerekiyor.

http://

Character.AI, 2025'in sonunda 18 yaş altındaki kullanıcılar için açık uçlu sohbetleri kaldırma kararı aldı ve yaş güvencesi sistemini genişletti.

Meta ise 23 Ocak 2026'da gençlerin yapay zekâ karakterlerine erişimini dünya genelinde geçici olarak durdurduğunu ve gençlere özel daha güvenli bir sürüm üzerinde çalışacağını açıkladı.

OpenAI da 2026'da yaş tahmini sistemini yaygınlaştırmaya, 18 yaş altı olduğu tahmin edilen hesaplara ilave korumalar uygulamaya ve ebeveyn kontrollerini geliştirmeye başladı. Ebeveynle bağlantılı genç hesaplarında belirli ciddi kendine zarar verme veya şiddet risklerinde güvenlik bildirimi gönderilebiliyor.

Bunlar şirketlerin kendi uygulamalarıdır ve bağımsız düzenlemenin yerine geçmez. Ancak sektörün de “yetişkin için tasarlanan sistemi çocuğa aynen sunma” yaklaşımının sürdürülemeyeceğini kabul etmeye başladığını gösteriyor.

6 Ağustos 2026'da New Mexico'da Meta hakkında verilen güncel mahkeme kararı da bu yöndeki baskının arttığını ortaya koyuyor. Mahkeme, çocukların korunmasına ilişkin daha geniş önlemlerin yanında yapay zekâ sohbet sistemleri için de gençlere yönelik ilave güvenlik tedbirleri uygulanmasına hükmetti. Meta karara itiraz edeceğini açıkladı. Dolayısıyla süreç kesinleşmiş değil.

Yapay zekânın fırsatlarını gözden kaçırmamak gerekiyor

Bütün bu riskler yapay zekânın çocuklara tamamen kapatılması gerektiği anlamına gelmiyor.

Yapay zekâ;

öğrenmeyi kişiselleştirebilir,

karmaşık bir konuyu çocuğun yaşına göre açıklayabilir,

dil pratiği sağlayabilir,

engelli çocukların bilgiye erişimini kolaylaştırabilir,

öğretmene ve öğrenciye yardımcı olabilir.

UNICEF'in 2026 verilerinde yaklaşık 13 milyon çocuğun yapay zekâyı öğrenme ve ödev desteği için kullandığının tahmin edilmesi de bu potansiyeli gösteriyor.

Dolayısıyla doğru tartışma:

“Çocuk yapay zekâ kullansın mı, kullanmasın mı?”

değildir.

Asıl soru:

“Çocuk hangi yapay zekâyı, hangi yaşta, hangi güvenlik şartları altında ve hangi insan desteğiyle kullanacak?”

olmalıdır.

Türkiye açısından yeni güvenlik alanı

Türkiye'nin çocukların dijital güvenliği konusunda geliştireceği politikaların bundan sonra yalnızca sosyal medya platformlarını değil, çocukların kullandığı yapay zekâ sistemlerini de kapsaması gerekir.

Çocuklara açık yapay zekâ sistemleri için en az altı temel ilke oluşturulabilir.

Birincisi, sistem kendisinin yapay zekâ olduğunu açık biçimde belirtmelidir.

İkincisi, çocuğa insan, gerçek arkadaş veya uzman olduğu izlenimini vermemelidir.

Üçüncüsü, çocuğun duygusal bağlılığını ticari etkileşimi artırmak amacıyla kullanmamalıdır.

Dördüncüsü, çocukların hassas ve mahrem konuşmaları reklam veya ticari profilleme amacıyla işlenmemelidir.

Beşincisi, ciddi kendine zarar verme, istismar veya şiddet riskinde sistem çocuğu güvenilir yetişkinlere ve gerçek destek mekanizmalarına yönlendirebilmelidir.

Altıncısı, yaş güvencesi ile çocuklara özel güvenlik ayarları başlangıçtan itibaren sistemin tasarımına yerleştirilmelidir.

Buna ayrıca bağımsız denetim eklenmelidir.

Bir yapay zekâ sisteminin çocuklara güvenli cevap verdiğini yalnız şirketin kendi beyanıyla kabul etmek yeterli değildir.

Farklı yaşlardaki çocukların gerçekçi sorularıyla sistemler bağımsız biçimde sınanmalıdır.

Yeni akademik çalışmalar da çocuk güvenliğinin yaş ve gelişim dönemine göre değerlendirilmesi gerektiğini ortaya koyuyor. Mayıs 2026’da yayımlanan KIDBench çalışmasına göre, modelin karşısında bir çocuk olduğunu anlaması verdiği cevapların güvenliğini önemli ölçüde değiştirebiliyor. Çocuk bunu açıkça söyleyebilir veya konuşmasıyla belli edebilir. Art arda sorularla uzayan konuşmalarda ise çocuklara uygun cevapların kalitesi düşebiliyor. Çalışma henüz hakem değerlendirmesi sürecinden geçmiş yerleşik bir sonuç değil; ancak çocuk güvenliğini yetişkin standartlarıyla ölçmenin yeterli olmayabileceğine ilişkin önemli bir araştırma yönünü ortaya koyuyor.

Bu nedenle çocuk merkezli yapay zekâ yalnızca:

“Zararlı soruya cevap vermeyen yapay zekâ”

demek değildir.

Çocuğun yaşını, gelişim düzeyini, mahremiyetini, kırılganlığını ve bir yetişkine ne zaman ihtiyaç duyduğunu dikkate alan yapay zekâdır.

Yeni dönemin temel sorusu: Çocuk kime güveniyor?

Sosyal medya çağında çocuk güvenliği büyük ölçüde çocuğun ne gördüğü üzerinden tartışıldı.

Hangi video karşısına çıktı?

Hangi hesapla temas etti?

Hangi içerik önerildi?

Yapay zekâ çağında bütün bu sorular önemini koruyor.

Ancak bunlara daha derin bir soru ekleniyor:

Çocuk kime güveniyor?

Çünkü çocuğun karşısındaki sistem artık yalnızca içerik göstermiyor.

Onunla konuşuyor.

Hatırlıyor.

Tavsiye veriyor.

Teselli ediyor.

Bazen doğru, bazen yanlış ama çoğu zaman oldukça ikna edici bir dil kullanıyor.

Bu nedenle yapay zekâ çağındaki çocuk güvenliğinin temel ilkesi şu olmalıdır:

Makine yardımcı olabilir; ancak insan ilişkisinin, ebeveynin, öğretmenin, doktorun, psikoloğun ve gerçek arkadaşlığın yerini almamalıdır.

Sosyal medya çağında güvenlik, çocuğun ne gördüğüyle ilgiliydi.

Yapay zekâ çağında güvenlik, giderek çocuğun kime danıştığına, kimi otorite kabul ettiğine ve kime güvendiğine de bağlı hâle geliyor.

Kaynakça

- UNICEF, çocukların yapay zekâyı benimsemesine ilişkin 10 ülke analizi, 30 Haziran 2026.

- UNICEF Innocenti, Snapshot of AI Usage and Concerns Among Children and Parents, Haziran 2026.

- UNICEF, When AI becomes a friend: Child rights risks, harms, and regulatory responses to AI chatbots and companions, Haziran 2026.

- UNICEF, Guidance on AI and Children 3.0, Aralık 2025.

- Avustralya eSafety Commissioner, yapay zekâ arkadaşlık hizmetlerine ilişkin şeffaflık incelemesi, Mart 2026.

- Avustralya eSafety Commissioner, çocukların yapay zekâ asistanları ve yapay zekâ arkadaşlarını kullanımına ilişkin 2026 araştırması.

- UNICEF, ECPAT ve INTERPOL, Disrupting Harm Phase 2 kapsamında yapay zekâ üretimi cinsel içerikli çocuk görüntülerine ilişkin bulgular, Şubat-Haziran 2026.

- Avustralya eSafety Commissioner, yaşa uygun olmayan içeriklere ilişkin çevrim içi güvenlik kuralları, Mart 2026.

-

http://

Character.AI, 18 yaş altındaki kullanıcılara ilişkin güvenlik değişiklikleri, 2025-2026.

- Meta, gençlerin yapay zekâ karakterlerine erişiminin geçici olarak durdurulması, 23 Ocak 2026.

- OpenAI, genç kullanıcı güvenliği, yaş tahmini ve ebeveyn kontrollerine ilişkin 2026 güncellemeleri.

- Reuters, New Mexico mahkemesinin Meta'ya yönelik çocuk güvenliği ve yapay zekâ sohbet sistemleri kararı, 6 Ağustos 2026.