Çocukları korumak için algoritmayı da düzenlemek gerekiyor...

Çocukları korumak için algoritmayı da düzenlemek gerekiyor...

Dünyada çocukları dijital ortamın risklerinden koruma tartışması giderek genişliyor. İlk aşamada yaş sınırı ve yaş doğrulama sistemleri öne çıktı. Şimdi tartışma platformların mimarisine, algoritmik öneri sistemlerine, sonsuz kaydırmaya ve kullanıcıyı ekranda tutan tasarım özelliklerine yöneliyor. Bir sonraki büyük alan ise yapay zekâ. Çünkü çocuk artık yalnızca sosyal medya içeriğine maruz kalmıyor; yapay zekâyla konuşuyor, ona soru soruyor, tavsiye alıyor ve kimi zaman kişisel sorunlarını anlatıyor.

Bu nedenle çocuk güvenliğini artık üç başlıkta birlikte düşünmek gerekiyor: yaş sınırı, platform mimarisi ve yapay zekâ.

Avustralya’nın son adımı bu açıdan Türkiye için önemli bir örnek oluşturuyor. Hükümetin 8 Eylül’de açıkladığı düzenleme, 16 yaşından büyük kullanıcılara algoritmik olarak kişiselleştirilmiş akış ile yalnızca kendi takip ettikleri hesaplardan oluşan akış arasında tercih hakkı verilmesini öngörüyor.

Temel fikir açık: Kullanıcının ne göreceğine yalnızca algoritma karar vermemeli.

Yaş sınırından platform mimarisine

Çocukları korumak için sosyal medyaya giriş yaşını düzenlemek önemli ancak tek başına yeterli değil.

Çocuk platforma girdikten sonra karşısına nasıl bir sistem çıkıyor? Hangi içerikler öneriliyor? Akış neden hiç bitmiyor? Bildirimler, beğeniler ve etkileşim mekanizmaları çocuğu ne ölçüde tekrar platforma çağırıyor?

Avustralya’nın yaklaşımını önemli kılan nokta burada. Düzenleme yalnızca zararlı içeriğe değil, platformun tasarımına da bakıyor. Öneri sistemleri, sonsuz akış, etkileşim mekanizmaları ve kullanıcıyı tekrar tekrar platforma dönmeye teşvik eden özellikler çocuk güvenliği açısından değerlendirme konusu hâline geliyor.

Dijital platformlarla ilgili tartışmalarda yıllarca hangi içeriğin kaldırılması gerektiğini konuştuk. Şimdi buna daha temel bir soru ekleniyor:

Bu içeriği sürekli çocuğun karşısına çıkaran sistem nasıl çalışıyor?

Çocuğun telefonu bırakamaması yalnızca irade meselesi değil

Çocuklara telefonu bırakmalarını, ekran süresini azaltmalarını ve sosyal medyayı bilinçli kullanmalarını söylüyoruz.

Fakat ekranın diğer tarafında çocuğun davranışını sürekli ölçen bir sistem bulunuyor. Hangi videoda daha uzun kaldığını, neyi beğendiğini, hangi içeriğe geri döndüğünü öğreniyor ve sonraki içeriği buna göre seçiyor.

Bu nedenle çocuğun telefonu bırakamamasını yalnızca irade eksikliğiyle açıklamak doğru değil.

Sonsuz akışın sonu yok. Öneri algoritması sürekli yeni içerik getiriyor. Bildirim ve etkileşim mekanizmaları kullanıcıyı yeniden uygulamaya çağırıyor.

Çocuk bir süre sonra yalnızca sosyal medya kullanmıyor; algoritmanın kurduğu bir örümcek ağının içinde hareket ediyor.

Bu yüzden çocuk güvenliğinin yeni konusu yalnızca zararlı içerik değil, zararlı veya manipülatif tasarım olmalı.

Çocuğa telefonu bırakmasını söylemeden önce, telefonu bırakmasını zorlaştıran sistemi de düzenlemek gerekiyor.

Algoritmayı kullanıcı yönetmeli

Avustralya’nın önerdiği model algoritmayı yasaklamıyor. Kullanıcıya seçim hakkı veriyor.

Kişi isterse algoritmik kişiselleştirilmiş akışı kullanabilecek, isterse yalnızca kendisinin takip etmeyi seçtiği hesapların içeriklerini görebilecek.

Buradaki temel mesele algoritmadan çıkma hakkı.

Ancak bu hakkın gerçek anlamda kullanılabilmesi için tercihin kolay, anlaşılır ve kalıcı olması gerekiyor. Platformların kullanıcıyı tekrar algoritmik akışa yönlendiren karmaşık ayarlar veya tasarım yöntemleri geliştirmesi hâlinde düzenlemenin amacı zayıflayabilir.

Çünkü algoritma yalnızca teknik bir araç değil. Sosyal medya şirketlerinin ekonomik modelinin de merkezinde bulunuyor.

Kullanıcı platformda ne kadar uzun kalırsa daha fazla içerik tüketiyor, daha fazla reklam görüyor ve platform açısından ekonomik değeri artıyor.

Dolayısıyla algoritmayı düzenlemek, kullanıcıyı ekranda tutarak reklam geliri kazanan iş modelini de düzenlemek anlamına geliyor.

Bir sonraki alan yapay zekâ

Çocuk güvenliğinin önündeki yeni büyük alan ise yapay zekâ.

Buradaki ilişki sosyal medyadakinden farklı.

Çocuk sosyal medyada çoğunlukla içeriği izliyor. Yapay zekâda ise sistemle konuşuyor.

Ödev soruyor, tavsiye istiyor, kişisel meselelerini anlatıyor, duygularından söz ediyor ve kimi zaman karşısındaki sistemi bir danışman veya arkadaş gibi görebiliyor.

Bu nedenle çocuklarla etkileşime giren yapay zekâ sistemlerinde yaşa uygun tasarım, veri kullanımı, güvenlik sınırları, kişiselleştirme ve duygusal bağımlılık risklerinin ayrıca ele alınması gerekiyor.

Çocuk güvenliğinde yaş sınırı ilk kapıysa, platform mimarisi ikinci savunma hattı, yapay zekâ ise yeni dönemin üçüncü alanıdır.

Türkiye Avustralya örneğini dikkate almalı

Türkiye’de çocukların sosyal medyadan korunmasına yönelik yaş düzenlemesi önemli bir başlangıç.

Şimdi ikinci aşamaya geçmek gerekiyor.

Türkiye yalnızca çocuğun sosyal medyaya kaç yaşında gireceğini değil, girdikten sonra karşısına nasıl bir platform mimarisi çıkacağını da tartışmalı.

Özellikle çocuklar açısından kişiselleştirilmiş öneri sistemleri, sonsuz kaydırma, sürekli etkileşim talep eden özellikler ve kullanıcıyı mümkün olduğunca uzun süre ekranda tutmaya yönelik tasarımlar ayrı bir düzenleme alanı hâline getirilmeli.

Ardından çocuklarla konuşan yapay zekâ sistemleri için özel bir güvenlik çerçevesi oluşturulmalı.

Türkiye açısından yol haritası bu nedenle üç aşamalı düşünülebilir:

Yaş sınırı, güvenli platform mimarisi ve çocuklar için güvenli yapay zekâ.

Çünkü çocuklarımızı gerçekten korumak istiyorsak yalnızca çocuğun davranışını düzenleyemeyiz. Çocuğun karşısındaki sistemi de düzenlemek zorundayız.

Dijital çağda mesele artık yalnızca çocuğun ekrana bakması değil.

Ekranın arkasındaki algoritmanın çocuğa nasıl baktığı, onu nasıl tanıdığı ve ekranda tutmak için ne yaptığıdır.