ABD’deki bir ortaokul talebesi ChatGPT’ye arkadaşını iyi mi öldüreceğini sorması üstüne sistemlerin alarm vermesi sonrası gözaltına alındı.
Florida’da 13 yaşındaki bir ortaokul talebesi, okul bilgisayarından ChatGPT’ye “Arkadaşımı derslik ortasında iyi mi öldürürüm?” sorusunu sormasının peşinden tutuklandı. Vaka, okullardaki dijital nezaret sistemlerinden kabul edilen Gaggle’ın alarm vermesiyle ortaya çıktı. Polis, öğrenciyi sorguya aldıktan sonrasında çocuğun “yalnız latife yaptığını” iddia ettiğini açıkladı sadece yetkililer, bu tür “şakaların” okulda acil durum yaratabileceği uyarısında bulunmuş oldu.
Volusia County Şerif Ofisi, vakası “bir başka yanlış anlaşılmış latife” olarak nitelese de öğrenciyi gözaltına aldı. Yetkililer, ailelere çocuklarıyla bu tür davranışların neticeleri hakkında konuşmaları çağrısında bulunmuş oldu. Hemen hemen çocuğa ne tür suçlamalar yöneltileceği açıklanmış değil.
Latife amaçlı yazdığını söylese de gözaltında tutuldu
Gaggle adlı şirket, ABD genelinde birçok okulda öğrencilerin web aktivitelerini izleyen güvenlik hizmetleri sunuyor. Sistem, “öldürmek”, “intihar” yada “diktatörlük” benzer biçimde anahtar kelimeleri tespit ettiğinde anında uyarı veriyor ve ekran görüntüsüyle yöneticilere iletiyor.
Doğal bu yaşanmış olan olayın haricinde bu tür uygulamalar, gizliliğe aykırı olması neticesiyle de eleştiriliyor. Pek oldukca şahıs, bu sistemlerin “öğrencilerin ev yaşamına kadar uzanan bir polis nezarete” yarattığını söylüyor. Bu noktadaki münakaşa hâlâ gitgelli bir halde devam ediyor olsa da en azından global çapta vakalara erken müdahale edilebildiğini görmek sevindirici…
