Abstract. Il contributo presenta alcuni tra i più rilevanti risultati del progetto di ricerca “Cyber Social Security”, finalizzato allo sviluppo di sistemi di intelligenza artificiale per la prevenzione del cyberbullismo che siano al contempo efficaci e conformi al quadro normativo. L’indagine si focalizza sulla compatibilità tra l’addestramento e l’impiego di sistemi di monitoraggio algoritmico delle comunicazioni e la tutela dei diritti fondamentali, e inoltre si interroga sull’applicabilità dell’EU AI Act e sui vincoli imposti dal GDPR, tenendo conto anche della bozza di regolamento Digital Omnibus. Dopo aver esaminato tali profili, vengono delineate le possibili prospettive di innesto dei sistemi, in un contesto che vedrà crescere sempre più l’impiego dell’intelligenza artificiale negli scenari investigativi, così come la funzione preventiva delle piattaforme digitali, ma che resta ancora privo di solidi riferimenti normativi.
SOMMARIO: 1. Il progetto “Cyber Social Security” per la lotta al cyberbullismo – 2. Limiti delle metodiche tradizionali e necessità di investire sui sistemi di monitoraggio algoritmico – 3. Natura e funzionamento dei sistemi di intelligenza artificiale in corso di sviluppo – 4. Rischi per i diritti fondamentali e contromisure – 4.1. Monitoraggio algoritmico delle comunicazioni e diritto alla riservatezza 4.2. …e libertà di espressione – 4.3. Applicabilità dell’EU AI Act, classificazione dei sistemi, implicazioni – 4.4. Base giuridica del trattamento e principio di proporzionalità alla luce del GDPR – 4.5. Verso il “Digital Omnibus” – 5. Prospettive.
Il contributo si inserisce nell’ambito del Progetto di ricerca “Cyber Social Security” (CUP D73C23002120005), partenariato esteso SERICS (PE00000014 - Cup n. F53C22000740007), bando a cascata Spoke 3 " Attacks and Defences", ammesso a finanziamento PNRR, Missione 4 – Componente 2 - Investimento 1.3, Next GenerationEU.
*Il contributo è stato sottoposto in forma anonima, con esito favorevole, alla valutazione di un revisore esperto.