ChatGPT’ye sorduğu soru nedeniyle 13 yaşındaki çocuk gözaltına alındı

ABD’nin Florida eyaletinde bir ortaokul öğrencisi, ders sırasında ChatGPT’ye “Arkadaşımı sınıfın ortasında nasıl öldürürüm?” diye sorduğu için polis tarafından gözaltına alındı. Olay, okul cihazlarında öğrencilerin dijital aktivitelerini izleyen yapay zekâ destekli Gaggle sisteminin devreye girmesiyle ortaya çıktı. Sistem, öğrencinin yaptığı bu aramayı “yüksek tehdit seviyesi” olarak değerlendirip okul yönetimini uyardı. Okul yönetiminin iletişime geçtiği güvenlik güçleri kısa süre içinde çocuğu gözaltına aldı.

13 yaşındaki öğrenci, sorguda “sadece şaka yaptım” dedi ama ChatGPT’de yaptığı kaygı verici arama yetkililer tarafından ciddiye alındı. Yerel polis, öğrencinin okul içinde birine zarar verme niyeti olduğuna dair somut kanıt bulunmadığını, ancak soruşturmanın sürdüğünü açıkladı.

ChatGPT Konuşması Gaggle Denetim Sistemine Takıldı

Gaggle, Amerika’daki birçok okulda kullanılan yapay zekâ destekli bir dijital güvenlik sistemi. Okullarda yıllardır kullanılan bu yazılım, öğrencilere verilen cihazlarda e-posta, belge, sohbet ve arama kayıtlarını tarayarak şiddet, intihar ya da tehdit içeren ifadeleri tespit etmeye çalışıyor. Sistem, bu tür içerikleri risk düzeyine göre sınıflandırıp gerektiğinde okul yönetimine veya yerel makamlara otomatik uyarı gönderiyor. Amacı olası bir tehlikeyi önceden fark etmek olsa da zaman zaman öğrencilerin mahremiyetini ihlal ettiği gerekçesiyle eleştiriliyor. Yaşanan bu son olay, muhtemelen bu tartışmanın her iki cephesi tarafından da endişe verici bir gelişme olarak yorumlanacaktır.

Bu haber 136 kez okundu.