New York, çocuklarla konuşan yapay zekânın ilişki kurma biçimini sınırlıyor

New York Valisi Kathy Hochul, çocuklara sunulan yapay zekâ sohbet sistemlerinde belirli özellikleri sınırlayan düzenlemeyi 28 Ekim 2026’da imzaladı. 1 Ocak 2027’de yürürlüğe girecek yasa; sistemin kendisini insan gibi sunması, kullanıcıyla kişisel ilişki kurduğunu ileri sürmesi ve konuşmaları gizli tutmayı teşvik etmesi gibi davranışları hedefliyor. Bütün yapay zekâ araçlarını çocuklara kapatan genel bir yasak getirmiyor. Tartışmayı farklılaştıran, güvenlik sorumluluğunun konuşmanın içeriğiyle birlikte ürünün kullanıcıyla kurduğu ilişkiye bağlanması.

Bir cevaptan daha fazlası düzenleniyor

Yasa metninde insanı taklit etme ve kişisel ilişki izlenimi oluşturma, sınırlanan özellikler arasında yer alıyor. Kullanıcıyı yalnızlaşmaya veya uygun yetişkinlerden yardım almamaya yönlendirme de bu kapsamda. Bunlar bir sohbet sisteminin hangi bilgiyi verdiği kadar, kendisini konuşmanın hangi tarafı olarak sunduğunun da düzenlenebileceğini gösteriyor.

Bir programın soruya cevap vermesiyle kendisini çocuğun yakın arkadaşı gibi tanıtması farklı ilişkiler kurar. İlkinde verilen bilginin doğruluğu sorgulanabilir. İkincisinde çocuğun güvenini hangi temelde kurduğu da önem kazanır. New York’un tercihi, bu farkı şirketin gönüllü açıklamasından çıkarıp hukuki yükümlülük haline getirmek. Bunun çocuklar üzerindeki etkisini ise yürürlüğe girmemiş bir yasadan hareketle ölçülmüş sonuç gibi sunamayız.

Akin hukuk bürosunun incelemesi, kapsamın istisnalarla birlikte okunması gerektiğini ortaya koyuyor. Belirtilen amaç dışına cevap veremeyen müşteri hizmetleri ile araştırma veya teknik yardım araçları için istisnalar bulunuyor. İşletmelerin iç kullanımı ve çalışan verimliliğine yönelik sistemler de ayrıca ele alınıyor. Aracın adında “eğitim” ya da “yardım” yazması, bu şartların yerine geçtiği anlamına gelmez.

Belirsiz ifadeyi kim açıklığa kavuşturacak?

Düzenlemenin uygulanması, sıradan bir konuşmayla yasaklanan ilişki kurma davranışı arasındaki sınırın belirlenmesine bağlı. Associated Press’in haberinde görüşüne başvurulan Future of Privacy Forum politika analisti Justine Gluck da bazı kategorilerin geniş veya tanımsız bırakıldığına dikkat çekiyor. Gluck’ın değerlendirmesi, sohbet sistemlerinin işleyişini düzenlemeye geçildiğini teslim ederken uygulamadaki belirsizliği gösteriyor.

Bu itiraz, çocukların korunmasına karşı çıkmakla eş tutulamaz. Şirketin hangi davranışı değiştireceğini bilmesi, denetçinin neyi ihlal sayacağını açıklayabilmesi ve ailelerin hangi korumayı bekleyebileceğini anlaması gerekir. Açık bir sınır, hem uygulanabilirliği hem de kamunun şirketten hesap sorma imkânını güçlendirebilir.

Yaşın belirlenmesi de ayrı bir sorumluluk doğuruyor. Akin’in açıkladığı geçiş hükmü, ilgili uygulama kuralları henüz yürürlükte olmadığı ölçüde kullanılacak yöntemleri düzenliyor. Geçiş düzeninde birden fazla yaş belirleme seçeneği sunulması gerekiyor. Yaşı belirlemek için toplanan veriler başka amaçla kullanılamıyor; kanuni uyum istisnaları dışında belirleme girişiminin ardından hemen silinmesi gerekiyor.

Türkiye’de aile rehberliğinden ürün sorumluluğuna

Kişisel Verileri Koruma Kurumunun ebeveynlere yönelik tavsiyeleri, uygulamanın yaşa uygunluğunu, gizlilik koşullarını ve ebeveyn kontrollerini incelemeyi öneriyor. Çocuğun okul, adres ve telefon bilgilerini paylaşmaması; kullandığı araçlar hakkında ailesiyle konuşabilmesi de tavsiyeler arasında. Bu bir rehberlik belgesi; New York’taki tasarım yasaklarıyla aynı hukuki düzenleme olarak sunulamaz.

Türkiye için karşılaştırmanın yararı da burada. Ailenin uygulama seçerken bilgilendirilmesiyle üreticinin hangi özellikleri sunabileceğinin belirlenmesi, güvenliğin farklı aşamalarına karşılık geliyor. Ebeveynin kontrol etmesi istenen ayar gerçekten yoksa veya anlaşılmıyorsa, bütün sorumluluğu aileye yüklemek yeterli olmaz. Çocuk güvenliğini tartışırken uygulamanın ne söylediğiyle birlikte hangi ilişkiyi kurmak üzere tasarlandığını da incelemeliyiz.