L'IA ha scambiato un sacchetto di patatine per una pistola: studente ammanettato in America

L'IA ha scambiato un sacchetto di patatine per una pistola: studente ammanettato in America

A Baltimora, un sistema di intelligenza artificiale per la sicurezza scolastica ha scambiato un sacchetto di Doritos per una pistola, facendo intervenire la polizia contro lo studente Taki Allen. Dopo la perquisizione, nessuna arma è stata trovata. L'episodio solleva interrogativi sulla precisione e l'affidabilità dei sistemi IA.

di pubblicata il , alle 11:41 nel canale Web
 

Un episodio paradossale avvenuto in una scuola della Contea di Baltimora, negli Stati Uniti, sta sollevando un acceso dibattito sull'affidabilità dei sistemi di intelligenza artificiale per la sicurezza. Un algoritmo di rilevamento armi installato nelle scuole superiori della contea ha scambiato un sacchetto di patatine Doritos per una pistola, portando all'intervento armato della polizia contro uno studente innocente.

Il protagonista della vicenda è Taki Allen, studente della Kenwood High School, che lunedì sera si trovava all'esterno dell'edificio scolastico insieme ad alcuni amici, semplicemente per mangiare uno snack. Improvvisamente, più agenti di polizia armati si sono avvicinati intimandogli di mettersi a terra. "All'inizio non capivo cosa stesse succedendo" ha raccontato Allen all'emittente WBAL-TV 11 News "finché non li ho visti puntare le armi verso di me. Mi hanno fatto inginocchiare, ammanettato e perquisito".

Gli agenti non hanno trovato nulla di sospetto. Solo dopo gli hanno mostrato l'immagine generata dal sistema di sorveglianza: un fermo immagine in cui Allen teneva in mano il sacchetto di patatine, interpretato erroneamente come un'arma da fuoco. "Dissero che sembrava una pistola. In realtà stavo solo tenendo una busta di Doritos, con una mano e un dito teso", ha spiegato il ragazzo.

Il sistema di rilevamento delle armi basato sull'IA era stato introdotto lo scorso anno

Il sistema di rilevamento armi basato su AI era stato introdotto nelle scuole della contea l'anno precedente, con l'obiettivo di segnalare tempestivamente potenziali minacce alle autorità. In caso di sospetto, il software invia automaticamente un allarme alla scuola e alla polizia locale, come accaduto in questo caso.

In una lettera inviata alle famiglie, la dirigenza della scuola ha espresso "profondo rammarico per quanto accaduto" e ha annunciato la disponibilità di supporto psicologico per gli studenti coinvolti o testimoni dell'incidente. Le autorità di polizia hanno confermato di essere intervenute dopo "una segnalazione di persona sospetta con un'arma", sottolineando che "nessuna arma è stata rinvenuta".

Il nonno di Allen, Lamont Davis, ha commentato: "Nessuno vuole che una cosa del genere accada a suo figlio o a suo nipote". L'episodio alimenta le preoccupazioni sull'affidabilità e i rischi dei sistemi di intelligenza artificiale applicati alla sicurezza pubblica, soprattutto in contesti sensibili come le scuole.

I migliori sconti su Amazon oggi
-21%

TCL 43T6C 43'' QLED TV 4K HDR, Fire TV (Smart tv con Dolby Vision e Atmos, HDR10+, Premi e Chiedi ad Alexa)

329.00 259.00€ Compra ora
-21%

LEFANT M330Pro Robot Aspirapolvere Lavapavimenti con Mappatura, Navigazione dToF, Zona vietata, Evitamento ostacoli PSD, Aspirazione 5000Pa, 150 minuti, Pulizia programmata, Alexa/APP/WiFi,Nero

140.84€ Compra ora
-35%

FRITZ!Repeater 1200 AX Edition International, Ripetitore - Wi-Fi 6 extender Dual Band con 2.400 Mbit/s (5 GHz) & 600 Mbit/s (2,4 GHz), Mesh, Access Point, 1x Gigabit LAN, Interfaccia in italiano

95.99 61.99€ Compra ora
6 Commenti
Gli autori dei commenti, e non la redazione, sono responsabili dei contenuti da loro inseriti - info
AtaruGolan27 Ottobre 2025, 11:52 #1
Si si, si è sbagliata l'IA, guardacaso era di colore, ma smettiamola Americani che lo sappiamo bene come avete configurato l'IA... Altro che sbaglio...
CrapaDiLegno27 Ottobre 2025, 12:20 #2
Questo è uno dei motivi per cui VA VIETATO che una AI attivi automaticamente un processo, qualsiasi esso sia. Il risultato di una AI DEVE essere validato da un umano prima che sia approvato come valido.
SI risolverebbero un sacco di problemi ora e molti di più nel futuro quando le AI saranno connesse a sistemi capaci di fare un po' tutto.
Quando sbaglieranno (e sbaglieranno alla grande), voglio vedere a chi pagherà le conseguenze e i danni.
Mars9527 Ottobre 2025, 12:22 #3
Qua il problema non è che l'AI ha sbagliato, il vero problema è che appena la AI ha segnalato una possibile pistola gli hanno puntato armi addosso, fatto inginocchiare e lo hanno ammanettato.
Che paese di pazzi esaltati gli USA.
Unax27 Ottobre 2025, 13:29 #4
se avesse avuto una pistola ad acqua gli mandavano la SWAT
CrapaDiLegno27 Ottobre 2025, 14:15 #5
Originariamente inviato da: Mars95
Qua il problema non è che l'AI ha sbagliato, il vero problema è che appena la AI ha segnalato una possibile pistola gli hanno puntato armi addosso, fatto inginocchiare e lo hanno ammanettato.
Che paese di pazzi esaltati gli USA.


Ma non è vero.
Se avesse davvero avuto una pistola gli stava più che bene quel trattamento.
E' solo da ni che puoi fregartene della legge e dei diritti degli altri spaccando le cose degli altri perché stai manifestando per la pace (vedi te che coerenza) e passarla impunemente.
In USA se provi a fare una cosa come è successa da noi schierano i poliziotti con i fucili carichi con le pallottole di gomma e cominciano il massacro, come è giusto che sia.
Quando hai le ossa rotte e ti portano in ospedale possono riconoscerti (non come noi che se hai il viso scoperto ci impiegano mesi a riconoscerti e basta un avvocato che dice che l'immagine non è perfetta per far cadere il riconoscimento) , ti fanno pagare le cure mediche, quelle dei danni che hai fatto e ti segnalano per benino sulla tua scheda personale che sarà inviata a tutte le istituzioni e fanno anche un controllino alla tua famiglia per vedere come è messa.
Così lo Stato (che è l'insieme di tutti i cittadini) sa che coglione sei e con chi ha che fare quando si interfaccia per qualsiasi cosa, compreso richiedere un lavoro, un mutuo, il pagamento di un sostegno economico.

Se il risultato sbagliato del riconoscimento fosse passato prima da un umano avrebbe potuto validarlo o meno. Non credo che ogni giorno mobilitino migliaia di poliziotti nello stesso Stato/regione/contea, quindi uno che tra le altre cose ha la mansione di guardare quei due o tre rilevamenti al giorno non costa nulla e evita queste figuracce che poi invece costano soldi per risistemare "il cervello dei poveri bambini traumatizzati".
lumeruz27 Ottobre 2025, 17:44 #6
disponibilità di supporto psicologico per gli studenti coinvolti o testimoni dell'incidente

ma quale supporto, una bella causa e risarcimento danni milionario, così a scuola diverterà inutile andarci!

Comunque sono prove tecniche di Skynet..... preparatevi....
L'IA si attiva per distruggervi!

Devi effettuare il login per poter commentare
Se non sei ancora registrato, puoi farlo attraverso questo form.
Se sei già registrato e loggato nel sito, puoi inserire il tuo commento.
Si tenga presente quanto letto nel regolamento, nel rispetto del "quieto vivere".

La discussione è consultabile anche qui, sul forum.
 
^