Seleziona la lingua

Italian

Down Icon

Seleziona Paese

America

Down Icon

Le scuole usano l'intelligenza artificiale per proteggere gli studenti. Ma questo porta anche a falsi allarmi e arresti.

Le scuole usano l'intelligenza artificiale per proteggere gli studenti. Ma questo porta anche a falsi allarmi e arresti.

Lesley Mathis sa che ciò che sua figlia ha detto era sbagliato. Ma non si sarebbe mai aspettata che la tredicenne venisse arrestata per questo.

L'adolescente ha fatto una battuta offensiva mentre chattava online con i suoi compagni di classe, attivando il software di sorveglianza della scuola .

Prima ancora che la mattinata finisse, la studentessa dell'ottavo anno del Tennessee era in stato di arresto. È stata interrogata, perquisita e ha trascorso la notte in una cella di prigione, racconta la madre.

In precedenza, le sue amiche l'avevano presa in giro per la sua abbronzatura e l'avevano chiamata "messicana", anche se non lo è. Quando un'amica le ha chiesto cosa avesse in programma per giovedì, ha scritto: "Giovedì uccidiamo tutti i messicani".

Mathis ha affermato che i commenti erano "sbagliati" e "stupidi", ma il contesto ha dimostrato che non costituivano una minaccia.

"Mi ha fatto pensare: è questa l'America in cui viviamo?", ha detto Mathis a proposito dell'arresto di sua figlia. "Ed era questa stupida, stupida tecnologia che si limitava a raccogliere parole a caso senza considerare il contesto."

I sistemi di sorveglianza nelle scuole americane monitorano sempre più tutto ciò che gli studenti scrivono sugli account e sui dispositivi scolastici. Migliaia di distretti scolastici in tutto il paese utilizzano software come Gaggle e Lightspeed Alert per monitorare le attività online dei ragazzi, alla ricerca di segnali che possano far male a se stessi o ad altri. Con l'aiuto dell'intelligenza artificiale , la tecnologia può accedere alle conversazioni online e avvisare immediatamente sia i funzionari scolastici che le forze dell'ordine.

Gli educatori affermano che questa tecnologia ha salvato delle vite. Ma i critici avvertono che può criminalizzare i bambini per parole sconsiderate.

"Ha reso di routine l'accesso e la presenza delle forze dell'ordine nella vita degli studenti, anche nelle loro case", ha affermato Elizabeth Laird, direttrice del Center for Democracy and Technology.

In un Paese stanco delle sparatorie nelle scuole, diversi stati hanno adottato una linea più dura nei confronti delle minacce alle scuole. Tra questi, il Tennessee, che ha approvato una legge a tolleranza zero nel 2023, che impone di segnalare immediatamente alle forze dell'ordine qualsiasi minaccia di violenza di massa contro una scuola.

La ragazza tredicenne arrestata nell'agosto 2023 stava scambiando messaggi con gli amici tramite una chat collegata alla sua email scolastica alla Fairview Middle School, che utilizza Gaggle per monitorare gli account degli studenti. (L'Associated Press non ha reso pubblico il nome della ragazza per proteggere la sua privacy. Il distretto scolastico non ha risposto a una richiesta di commento.)

Portata in prigione, l'adolescente è stata interrogata e perquisita, e ai suoi genitori non è stato permesso di parlarle fino al giorno successivo, secondo una causa intentata contro il sistema scolastico. Non sapeva perché i suoi genitori non fossero presenti.

"In seguito mi ha detto: 'Pensavo mi odiassi'. È una cosa che ti tormenta", ha detto Mathis, la madre della ragazza.

Un tribunale ha ordinato per la ragazza otto settimane di arresti domiciliari, una valutazione psicologica e 20 giorni in una scuola alternativa.

Il CEO di Gaggle, Jeff Patterson, ha dichiarato in un'intervista che il sistema scolastico non ha utilizzato Gaggle come previsto. Lo scopo è individuare i primi segnali di allarme e intervenire prima che i problemi degenerino fino a coinvolgere le forze dell'ordine, ha affermato.

"Vorrei che fosse considerato un momento di insegnamento, non un momento di applicazione della legge", ha affermato Patterson.

Gli studenti che credono di chiacchierare privatamente tra amici spesso non si rendono conto di essere sotto costante sorveglianza, ha affermato Shahar Pasch, un avvocato esperto in diritto dell'istruzione in Florida.

Un'adolescente da lei rappresentata ha fatto una battuta sulle sparatorie nelle scuole in una storia privata su Snapchat. Il software di rilevamento automatico di Snapchat ha rilevato il commento, l'azienda ha avvisato l'FBI e la ragazza è stata arrestata nel cortile della scuola nel giro di poche ore.

Alexa Manganiotis, 16 anni, ha dichiarato di essere rimasta sbalordita dalla rapidità con cui funziona il software di monitoraggio. La Dreyfoos School of the Arts di West Palm Beach, che frequenta, l'anno scorso ha sperimentato Lightspeed Alert , un programma di sorveglianza. Intervistando un insegnante per il giornale scolastico, Alexa ha scoperto che due studenti avevano digitato qualcosa di minaccioso su quell'insegnante su un computer scolastico, per poi cancellarlo. Lightspeed lo ha rilevato e "sono stati portati via circa cinque minuti dopo", ha detto Alexa.

Gli adolescenti vanno incontro a conseguenze più gravi rispetto agli adulti per ciò che scrivono online, ha affermato Alexa.

"Se un adulto fa una battuta estremamente razzista e minacciosa sul suo computer, può cancellarla e non verrà arrestato", ha affermato.

Amy Bennett, capo dello staff di Lightspeed Systems, ha affermato che il software aiuta le scuole con personale insufficiente a "essere proattive anziché punitive", identificando i primi segnali di bullismo, autolesionismo, violenza o abusi.

La tecnologia può anche coinvolgere le forze dell'ordine nella risposta alle crisi di salute mentale. Nelle scuole della contea di Polk in Florida, un distretto con oltre 100.000 studenti, il programma di sicurezza scolastica ha ricevuto quasi 500 avvisi Gaggle in quattro anni, hanno dichiarato gli ufficiali durante le riunioni pubbliche del Consiglio scolastico. Ciò ha portato a 72 casi di ricovero ospedaliero obbligatorio ai sensi del Baker Act, una legge statale che consente alle autorità di richiedere valutazioni di salute mentale per le persone contro la loro volontà se rappresentano un rischio per sé stesse o per gli altri.

"Un numero molto elevato di bambini sottoposti a visita medica obbligatoria la ricorda come un'esperienza davvero traumatica e dannosa, non qualcosa che li aiuti nella cura della loro salute mentale", ha affermato Sam Boyd, avvocato del Southern Poverty Law Center. I distretti scolastici di Polk e West Palm Beach non hanno rilasciato dichiarazioni.

Le informazioni che potrebbero consentire alle scuole di valutare l'efficacia del software, come il tasso di falsi allarmi, sono custodite gelosamente dalle aziende tecnologiche e non sono accessibili al pubblico, a meno che le scuole non monitorino autonomamente i dati.

Gaggle ha segnalato oltre 1.200 incidenti al distretto scolastico di Lawrence, Kansas, negli ultimi 10 mesi. Tuttavia, quasi due terzi di questi allarmi sono stati considerati non rilevanti dai funzionari scolastici, inclusi oltre 200 falsi allarmi relativi ai compiti degli studenti, secondo un'analisi dei dati ricevuti tramite una richiesta di accesso ai registri pubblici condotta dall'Associated Press.

Gli studenti di un corso di fotografia sono stati convocati nell'ufficio del preside per timore che Gaggle avesse rilevato nudità. Le foto erano state automaticamente eliminate dai Google Drive degli studenti, ma gli studenti che avevano un backup delle immagini segnalate sui propri dispositivi hanno scoperto che si trattava di un falso allarme. I funzionari distrettuali hanno dichiarato di aver successivamente modificato le impostazioni del software per ridurre i falsi allarmi.

Natasha Torkzaban, laureatasi nel 2024, ha dichiarato di essere stata segnalata per aver modificato la tesi universitaria di un'amica perché conteneva le parole "salute mentale".

"Penso che idealmente non dovremmo attaccare una nuova e brillante soluzione di intelligenza artificiale a un problema radicato come la salute mentale degli adolescenti e i tassi di suicidio in America, ma è proprio a questo punto che ci troviamo", ha detto Torkzaban. Faceva parte di un gruppo di studenti giornalisti e artisti della Lawrence High School che la scorsa settimana hanno intentato una causa contro il sistema scolastico, sostenendo che Gaggle li aveva sottoposti a sorveglianza incostituzionale.

I dirigenti scolastici hanno dichiarato di prendere sul serio le preoccupazioni relative a Gaggle, ma affermano anche che la tecnologia ha rilevato decine di minacce imminenti di suicidio o violenza.

"A volte bisogna guardare al commercio per il bene comune", ha affermato Anne Costello, membro del Consiglio scolastico, in una riunione del consiglio del luglio 2024.

Due anni dopo il loro calvario, Mathis ha detto che sua figlia sta meglio, anche se è ancora "terrorizzata" all'idea di incontrare uno degli agenti scolastici che l'hanno arrestata. Un aspetto positivo, ha detto, è stata la compassione degli insegnanti della scuola alternativa frequentata da sua figlia. Si sono presi del tempo ogni giorno per permettere ai ragazzi di condividere i loro sentimenti e le loro frustrazioni, senza giudicarli.

"È come se volessimo che i bambini fossero solo dei piccoli soldati, e non lo sono", ha detto Mathis. "Sono solo esseri umani".

___

Questo reportage ha esaminato le riunioni del consiglio scolastico pubblicate su YouTube, per gentile concessione di DistrictView, un set di dati creato dai ricercatori Tyler Simko, Mirya Holman e Rebecca Johnson.

___

La copertura mediatica dell'Associated Press in ambito educativo riceve sostegno finanziario da numerose fondazioni private. AP è l'unica responsabile di tutti i contenuti. Consulta gli standard AP per la collaborazione con enti filantropici, un elenco dei sostenitori e le aree di copertura finanziate su AP.org.

ABC News

ABC News

Notizie simili

Tutte le notizie
Animated ArrowAnimated ArrowAnimated Arrow