di Monica Constantin giornalista e Fulvio Oscar Benussi giornalista e socio Fondazione AIDR
La diffusione in Rete di contenuti diseducativi e perciò inaccettabili ci interroga sulle azioni da svolgere per proteggere i bambini dai contenuti dannosi. In questo articolo presenteremo un’interessante iniziativa legislativa tesa a mettere sotto controllo gli algoritmi aggressivi. Parallelamente parleremo delle azioni genitoriali che possono favorire/ridurre il rafforzamento delle autodifese dei bambini nei confronti degli “agguati” che possono aver luogo nei contesti digitali. Infine prenderemo in considerazione la presenza sempre più estesa dell’intelligenza artificiale in Rete e i connessi rischi di inquinamento cognitivo che essa può rappresentare nello sviluppo dei bambini. Quindi valuteremo i possibili rimedi tecnologici utili alla difesa dei minori dalle insidie della Rete
Online Safety Act, una legge per “mettere sotto controllo gli algoritmi aggressivi”
Per tutelare i minori dalle insidie delle Rete il 26 ottobre 2023 in Inghilterra è stato approvato l’Online Safety Act. La norma prevede che OFCOM, l’Autorità di Regolamentazione dei Servizi di Comunicazione, abbia il potere di individuare e di far rimuovere un’ampia gamma di post e media ritenuti “dannosi” per i bambini. L’Online Safety Act consente ad OFCOM di stabilire nuove e rigide regole per i servizi presenti in Internet relativamente al modo in cui interagiscono con i bambini. Essa crea un dovere di diligenza per le piattaforme online, imponendo loro di prevenire la diffusione di contenuti illegali oppure legali ma “dannosi” per gli utenti più giovani. Questo perché i contenuti e i messaggi veicolati, se fuori controllo, possono danneggiare questo segmento di utenza. Alle piattaforme e ai social network che non rispetteranno questo dovere potranno essere comminate multe fino a 18 milioni di sterline (21.240.000 euro) o corrispondenti al 10% del loro fatturato annuo. Nel caso le società presenti in Internet non seguissero le rigide regole indicate ne conseguirà l’intervento di OFCOM che potrà anche bloccare l’accesso ai siti e servizi Web inadempienti. La norma prevede obblighi anche a tutela di altre categorie di utenti: in particolare le piattaforme tecnologiche sono tenute a introdurre sistemi che consentano a tali utenti di filtrare, eliminandoli dalla possibile visione, quei contenuti da loro ritenuti inappropriati e che perciò non vogliono incontrare nelle loro navigazione in Rete.
Strategie a tutela dei bambini
I gestori di piattaforme online:
- dovranno rafforzare le Linee guida dei contenuti accettabili all’interno del servizio offerto stabilendo regole chiare su quali contenuti siano indesiderabili;
- dovranno garantire un monitoraggio continuo impiegando team di revisione umani affiancati da strumenti automatici per monitorare e rimuovere i contenuti inappropriati;
- saranno tenuti ad aggiornare costantemente gli algoritmi di controllo per riconoscere ed eliminare nuove minacce.
- saranno tenuti a implementare filtri di contenuto che rendano non raggiungibili dai minorenni i contenuti inappropriati per la loro età;
- dovranno essere resi disponibili per i genitori strumenti che permettano il controllo parentale di ciò che i loro bambini possono, oppure non devono, vedere;
- dovranno prevedere una accurata verifica dell’età per limitare l’accesso a determinati contenuti ai minori.
- per trasparenza dovranno essere periodicamente pubblicati report che descrivono come vengono gestiti i contenuti inopportuni per gli utenti minorenni;
- andranno previste anche restrizioni, gestite dalla tecnologia, che blocchino l’accesso a chi non deve poter vedere i post dei minori.
Per incrementare la resilienza degli utenti, soprattutto se minori, si dovranno realizzare campagne per educarli sui rischi associati alla navigazione in Internet e alla visione e consultazione di contenuti dannosi. Andranno anche fornite risorse educative ai genitori e agli educatori sulle strategie da seguire per proteggere online i lori bambini.
Azioni genitoriali che favoriscono/riducono le autodifese dei bambini nei confronti degli agguati digitali
In un mondo sempre più digitalizzato ed interconnesso risulta molto difficile negare l’accesso e l’utilizzo dei social media ai minori. E cedere alle richieste in tal senso è quasi inevitabile a patto di riuscire a mantenere sotto controllo la situazione, ufficialmente per tutelarli dai pericoli della rete, verosimilmente per assicurarsi la vigilanza costante sui movimenti dei nostri figli, che da tempo immemorabile tendiamo ad iperproteggere, con tutto quello che ne può conseguire. E se fino a qualche decennio fa l’esercizio del controllo consisteva nella “repressione” di alcune libertà, oggi è diventato tutto più complicato.
Proteggere i nostri figli dai contenuti dannosi della rete esercitando un eccessivo controllo implica alcune problematiche da non sottovalutare. Innanzitutto, ciò può limitare la loro creatività e lo sviluppo di un pensiero critico ed indipendente, con la conseguente incapacità di pensare al di fuori degli schemi. Se sperimentare e commettere errori sono tappe fondamentali per un sano e naturale processo di crescita, limitare o incanalare la loro conoscenza impedirà loro di sviluppare un proprio pensiero autonomo. Prendere una decisione, manifestare una libera opinione, argomentare con logica, difendere una posizione ingenereranno ansia, senso di incapacità ed inadeguatezza, financo frustrazione, bassa autostima, incapacità di affrontare le sfide che la vita presenta.
Indagare la vita multimediale dei propri figli, geolocalizzarne la posizione, sorvegliare il videogame a cui giocano, le chat in cui scrivono pretendendo di farne parte, conoscere il chi, il come, il quando di ogni secondo della loro vita rischia di generare futuri adulti insicuri, incapaci di confrontarsi e di scontrarsi, di trovare una propria collocazione in un mondo sempre più interdipendente.
Le azioni genitoriali che possono ridurre la curiosità dei bambini includono una vigilanza ossessiva e un controllo soffocante. Quando ogni passo e ogni azione vengono monitorati e regolamentati, si priva il bambino della possibilità di esplorare autonomamente il mondo che lo circonda. Tale sorveglianza asfissiante riduce il desiderio di scoprire e sperimentare, poiché ogni tentativo di avventurarsi fuori dai confini imposti viene rapidamente soffocato.
Un esempio lampante di controllo eccessivo è rappresentato dall’uso del registro elettronico nelle scuole. Questo strumento, pur utile per monitorare l’andamento scolastico, limita totalmente la possibilità di marinare la scuola, privando i ragazzi della possibilità di disubbidire e quindi di provare l’ebrezza della trasgressione. Sebbene ciò possa sembrare positivo, la disubbidienza e le conseguenti sgridate e punizioni da parte dei genitori giocano un ruolo fondamentale nel processo di crescita. Attraverso l’esperienza della trasgressione e dei suoi esiti i ragazzi imparano a comprendere le conseguenze delle proprie azioni e a sviluppare un senso di autonomia e responsabilità.
È essenziale trovare un equilibrio tra protezione e libertà, consentendo ai bambini e ai ragazzi di esplorare, soddisfare la loro curiosità, imparare e crescere attraverso le proprie esperienze e i propri sbagli. Solo attraverso un sano equilibrio tra guida e autonomia i giovani possono sviluppare le competenze necessarie per muoversi in un mondo sempre più complesso e interconnesso, diventando adulti consapevoli, sicuri di sé e capaci di affrontare le sfide della vita con coraggio e determinazione.
Inquinamento cognitivo: e se in Rete si nascondesse anche un Genio maligno?
Anche l’avvento dell’intelligenza artificiale oltre ai benefici comporta dei rischi.
L’inquinamento cognitivo è un fenomeno sempre più preoccupante operato dagli algoritmi di apprendimento automatico e dai bot dei social media che diffondono informazioni fuorvianti e intrappolano gli individui in bolle ideologiche. La costante esposizione a contenuti di bassa qualità e a notizie false mina la capacità di concentrazione e di elaborazione delle informazioni. L’attenzione, risorsa fondamentale per l’apprendimento e il ragionamento, viene continuamente ostacolata. Questo porta a una diminuzione delle capacità cognitive, influenzando negativamente la memoria e la capacità di risolvere problemi complessi.
Una delle sfide sociologiche più pressanti è capire perché le persone affidano sempre più decisioni personali all’intelligenza artificiale. Gli algoritmi predittivi e i sistemi di raccomandazione promettono una vita facile e veloce, ma c’è il rischio che gli individui perdano il contatto con il proprio processo decisionale. Nella nostra cultura, in costante confronto coi dati, molte persone si sentono sopraffatte. Gli algoritmi predittivi intelligenti dettano incessantemente ciò che presumono essere i nostri desideri veri, creando una sorta di profezia che si autoavvera. Le previsioni elaborate dagli algoritmi diventano surrogati dell’autonomia personale limitando l’apprendimento di competenze utili a sviluppare la capacità di agire in modo autonomo.
Questo processo, definito “esternalizzazione decisionale” (decision outsourcing), comporta quindi rischi significativi per lo sviluppo dell’autonomia personale. La sovrabbondanza di informazioni digitali rende difficile discernere tra dati rilevanti e irrilevanti, aumentando il rischio di prendere decisioni basate su bias cognitivi e percezioni distorte della realtà.
Gli studi di Kahneman e Tversky mostrano come le persone, in condizioni di incertezza e rischio, tendano a fare affidamento su scorciatoie mentali, o euristiche, che spesso enfatizzano i pregiudizi nelle scelte.
I bambini, in particolare, sono vulnerabili agli effetti dell’inquinamento cognitivo. La loro capacità di concentrazione e il loro sviluppo cognitivo possono essere seriamente compromessi dalla sovraesposizione a schermi e informazioni digitali non filtrate. L’uso eccessivo di dispositivi digitali può interferire con lo sviluppo delle capacità di lettura, scrittura e calcolo, oltre a limitare le interazioni sociali necessarie per un sano sviluppo emotivo e comportamentale
Nel giugno 2024, Papa Francesco parteciperà al vertice del G7. Egli, nei suoi discorsi, ha espresso sia dubbi che ottimismo riguardo alle tecnologie emergenti. Pur incoraggiando a evitare visioni pessimistiche, ha costantemente evidenziato i rischi drammatici associati all’intelligenza artificiale(nel seguito A.I.), mettendo in guardia contro l’inquinamento cognitivo.
Un esempio significativo di come gli algoritmi influenzino la nostra vita quotidiana risale al 2004, quando Google ha iniziato a personalizzare i risultati delle ricerche in base alle preferenze degli utenti con la funzione “Search History”. Un altro momento cruciale è stato il lancio di ChatGPT il 30 novembre 2022 e delle altre A.I. (Gemini, Dall E3, Claude, Meta Lama, Astra, ecc.).
Tra le applicazioni di A.I. segnaliamo:
motori di ricerca e assistenti virtuali: essi forniscono informazioni e risposte rapide, ma possono anche creare bolle informative che evitano l’accesso a punti di vista diversi;
algoritmi di raccomandazione: utilizzati da piattaforme di social media, streaming e e-commerce per suggerire contenuti e prodotti, che influenzano le nostre scelte e abitudini;
analisi dei dati e pubblicità mirata: raccolgono e analizzano grandi quantità di dati per creare profili dettagliati degli utenti, spesso senza la loro piena consapevolezza.
Queste tecnologie, sebbene utili, possono contribuire all’inquinamento cognitivo in quanto favoriscono la diffusione di informazioni manipolate e l’amplificazione di pregiudizi cognitivi. È allora fondamentale promuovere una maggiore consapevolezza ed alfabetizzazione digitale, soprattutto tra i più giovani, per poter sfruttare al meglio le potenzialità dell’A.I. e contenerne gli effetti negativi.
Modalità che permettono di ridurre l’eventualità di ritrovarsi “rinchiusi” in bolle ideologiche