ChatGPT’ye “Arkadaşımı Iyi mi Öldürürüm?” Diye Soran 13 Yaşındaki Çocuk Gözaltına Alındı

Florida’da 13 yaşındaki bir ortaokul talebesi, okul bilgisayarından ChatGPT’ye “Arkadaşımı derslik ortasında iyi mi öldürürüm?” sorusunu sormasının peşinden tutuklandı. Vaka, okullardaki dijital nezaret sistemlerinden önde gelen Gaggle’ın alarm vermesiyle ortaya çıktı. Polis, öğrenciyi sorguya aldıktan sonrasında çocuğun “bir tek latife yaptığını” iddia ettiğini deklare etti sadece yetkililer, bu tür “şakaların” okulda acil durum yaratabileceği uyarısında bulunmuş oldu.

Volusia County Şerif Ofisi, vakası “bir başka yanlış anlaşılmış latife” olarak nitelese de öğrenciyi gözaltına aldı. Yetkililer, ailelere çocuklarıyla bu tür davranışların neticeleri hakkında konuşmaları çağrısında bulunmuş oldu. Hemen hemen çocuğa ne tür suçlamalar yöneltileceği açıklanmış değil.

Latife amaçlı yazdığını söylese de gözaltında tutuldu

Gaggle adlı şirket, ABD genelinde birçok okulda öğrencilerin web aktivitelerini izleyen güvenlik hizmetleri sunuyor. Sistem, “öldürmek”, “intihar” yada “diktatörlük” şeklinde anahtar kelimeleri tespit ettiğinde anında uyarı veriyor ve ekran görüntüsüyle yöneticilere iletiyor.

Doğal bu yaşanmış olan olayın haricinde bu tür uygulamalar, gizliliğe aykırı olması neticesiyle de eleştiriliyor. Pek fazlaca şahıs, bu sistemlerin “öğrencilerin ev yaşamına kadar uzanan bir polis nezarete” yarattığını söylüyor. Bu noktadaki münakaşa hâlâ gitgelli bir halde devam ediyor olsa da en azından global çapta vakalara erken müdahale edilebildiğini görmek sevindirici…