ESSEX, MARYLAND — Isang insidente ng maling alarma ang nagdulot ng tensyon sa Kenwood High School noong Oktubre 20, nang ang isang artificial intelligence (AI) gun detection system ay nagbigay ng alerto matapos mapagkamalang baril ang isang bag ng Doritos na hawak ng estudyanteng si Taki Allen, 16 taong gulang.

Ayon sa ulat ng Fox News, si Allen ay naghihintay ng kanyang sundo matapos ang football practice nang biglang dumating ang walong patrol cars. Inutusan siyang humiga sa lupa, pinusasan, at siniyasat ng mga pulis. “They made me get on my knees, put my hands behind my back, and cuff me. Then they searched me and found nothing,” ani Allen sa panayam.

Ang AI system, na bahagi ng seguridad ng paaralan, ay binuo ng kumpanyang Omnilert at idinisenyo upang mag-monitor ng mga video feed para sa posibleng banta. Sa pagkakataong ito, ang crumpled chip bag sa bulsa ni Allen ay nagmukhang silweta ng baril sa AI-generated image, na siyang naging basehan ng agarang police response.

“I just in that moment, I didn’t feel safe. I didn’t feel like the school actually cared about me,” dagdag ni Allen, na nagsabing walang opisyal ng paaralan ang lumapit sa kanya matapos ang insidente.

Naglabas ng body camera footage ang Baltimore Police Department na nagpapakita ng pagkabigla ng mga pulis nang matuklasang wala palang baril sa lugar. Ang insidente ay nagdulot ng pangamba sa mga magulang at estudyante, at muling binuksan ang diskusyon tungkol sa kahusayan at limitasyon ng AI surveillance sa mga paaralan.

Sa kasalukuyan, wala pang pormal na aksyon laban sa paaralan o sa developer ng AI system, ngunit nanawagan ang mga grupo ng karapatang pantao at edukasyon para sa mas mahigpit na regulasyon sa paggamit ng teknolohiya sa mga institusyong pang-edukasyon.