Í bandarískum menntaskóla kom upp furðuleg aðstæða þegar AI kerfi sem á að greina byssur ruglaðist og mistókst að þekkja nemanda sem var að borða snakkpoka af Doritos. Þetta leiddi til þess að lögregla var kölluð á staðinn til að kanna málið.
Atvikið átti sér stað þegar nemandi var að njóta snakks í skólanum, en AI greiningartækið skildi ekki muninn á snakkpokanum og byssu. Þetta er ekki í fyrsta sinn sem AI kerfi sýnir fram á takmarkanir sínar, þar sem slík mistök geta leitt til alvarlegra afleiðinga.
Skólayfirvöld hafa lýst því yfir að þau muni skoða kerfið og hvort það sé nauðsynlegt að auka þjálfun eða að breyta því til að koma í veg fyrir frekari mistök. AI kerfi eru að verða sífellt algengari í skólum, en þetta atvik hefur vakið upp spurningar um öryggi og áreiðanleika slíkra tækja.
Fyrir utan áhyggjur af öryggi, hafa sérfræðingar einnig bent á að þessi atvik undirstrika nauðsyn þess að hafa skýrar leiðbeiningar um notkun AI í skólum. Þó svo að tæknin sé hugsuð til að auka öryggi, er mikilvægt að tryggja að hún virki eins og til er ætlast.
Samkvæmt heimildum hefur þetta atvik leitt til umræðu um hvernig best sé að nota AI kerfi í skólum, og mikilvægi þess að hafa skýrar reglur um notkun þeirra. Næstu skref verða að skoða hvort breytingar þurfi að gera á kerfum eða aðferðum við greiningu.
