A Baltimore un software di sorveglianza basato sull’intelligenza artificiale ha segnalato un falso allarme: la polizia ha arrestato uno studente che teneva in mano solo delle patatine.
L’errore che ha fatto scattare l’allarme
Momenti di panico alla Kenwood High School di Baltimore, nello Stato del Maryland, dove uno studente è stato bloccato e perquisito a pistole spianate da diversi agenti, dopo che un sistema di sorveglianza con intelligenza artificiale lo aveva erroneamente identificato come una minaccia armata. Il giovane, Taki Allen, aveva semplicemente in mano un sacchetto di patatine.
«Mi sono spaventato, ho visto la pistola puntata verso di me e sono arrivate circa otto auto della polizia», ha raccontato alla stampa locale. L’episodio, riportato dai media statunitensi, è avvenuto a causa di un malfunzionamento del software di monitoraggio, introdotto nelle scuole della contea dal 2023 per individuare automaticamente la presenza di armi da fuoco attraverso l’analisi in tempo reale delle immagini delle telecamere di sicurezza.
Il sistema di sorveglianza sotto accusa
Secondo quanto emerso, il programma avrebbe dovuto affiancare il lavoro dei supervisori umani, con ogni segnalazione soggetta a verifica prima dell’invio della chiamata di emergenza. In questo caso, tuttavia, il controllo umano non sarebbe avvenuto e la polizia è intervenuta immediatamente. «È stato un errore grave e profondamente spiacevole», ha dichiarato Myriam Rogers, sovrintendente del distretto scolastico, nel corso di una conferenza stampa. «Il nostro obiettivo è garantire la sicurezza degli studenti, non metterli in situazioni traumatiche come questa».
La dinamica dell’accaduto è ora al centro di un’indagine interna per capire come sia potuto partire l’allarme automatico senza la necessaria validazione da parte del personale addetto. Intanto, la famiglia di Taki Allen ha espresso preoccupazione per le conseguenze psicologiche dell’episodio sul ragazzo e ha chiesto che venga fatta piena chiarezza.
La polemica sull’uso dell’intelligenza artificiale nelle scuole
Il caso ha riacceso il dibattito sull’affidabilità dei sistemi di sorveglianza basati sull’intelligenza artificiale. In diverse contee americane, software simili vengono già utilizzati per monitorare gli accessi e individuare comportamenti sospetti. Ma secondo il consiglio della contea di Baltimore, l’episodio dimostra i rischi di una tecnologia ancora imperfetta: «Nessun bambino del nostro sistema scolastico dovrebbe essere fermato dalla polizia per aver mangiato un sacchetto di Doritos».
I rappresentanti locali hanno chiesto una revisione immediata dei protocolli di sicurezza e un maggiore coinvolgimento umano nel processo di verifica. Anche la famiglia del ragazzo ha chiesto che «chi ha sbagliato debba rendere conto e che situazioni simili non si ripetano».