Viviana Patti

Abstract

Negli ultimi anni, la presenza di linguaggio tossico e il fenomeno dell’odio online contro gruppi target vulnerabili e discriminati nei social media è aumentato considerevolmente, diventando un problema sociale rilevante da monitorare. Tecniche e metodi di linguistica computazionale sono stati applicati per monitorare e contrastare il discorso tossico online, con particolare attenzione allo sviluppo di risorse linguistiche e strumenti automatici per l’analisi, l’individuazione e il contrasto di varie forme di linguaggio abusivo, dal discorso contro gli immigrati ai comportamenti sessisti e misogini. In questo contesto verranno discusse diverse sfide. La natura target-oriented dell’odio online e l’ambiente multilingue pongono sfide legate allo sviluppo di approcci robusti per il rilevamento del linguaggio abusivo in contesti multi-target e multilingue. È necessario affrontare anche gli aspetti pragmatici associati all’uso degli insulti. Inoltre, il linguaggio tossico è spesso espresso e da interpretare nel contesto di fenomeni sociali diffusi legati a stereotipi e discriminazione di genere/etnica, per questo siamo interessati a riconoscere le forme implicite di linguaggio abusivo. Una sfida emersa di recente è quella relativa ai rischi nel contesto della moderazione dei contenuti (sia over-moderation che under-moderation), sfida che ha contribuito a fare emergere la necessità di comprendere meglio ciò che viene percepito come tossico e ciò che non lo è dalle comunità target di linguaggio tossico. Inoltre, di recente è emerso l’interesse a sviluppare approcci più inclusivi che coinvolgano attivamente i gruppi target. Questo si traduce in una crescente attenzione alle lingue e alle comunità sottorappresentate, e incoraggia i ricercatori a considerare più attivamente le questioni etiche e a implementare approcci basati sul coinvolgimento delle comunità per lo sviluppo e il benchmarking di modelli NLP in lingue specifiche, il che implica anche la necessità di immaginare e progettare nuovi framework di valutazione. Verranno proposte due linee di riflessione principali. La prima affronta le sfide legate alla necessità di applicare griglie semantiche di analisi a grana fine, che includano strumenti per investigare espressioni di odio intersezionali e per identificare fenomeni sottostanti, come stereotipi, pregiudizi, bias involontari e forme sottili di comportamento linguistico che contribuiscono a perpetrare discriminazione e ingiustizia. In questo contesto, verrà discussa l’importanza della progettazione inclusiva nello sviluppo di corpora, per incorporare percezioni e prospettive dei gruppi vulnerabili. Inoltre si discuteranno le potenzialità di metodi di linguistica computazionale e tecnologie del linguaggio nell’ambito delle attività di contrasto al discorso d’odio online. Verrà investigato il supporto alla creazione di contro-narrazioni positive e narrative alternative, per aumentare la consapevolezza sui discorsi tossici online e migliorare gli spazi di espressione - sia virtuali che reali - per le persone che subiscono discriminazioni. Infine si rifletterà sulla creazione di strumenti per sostenere l’uso di un linguaggio inclusivo per promuovere l’uguaglianza di genere, utilizzando termini ed espressioni che includano tutte le identità e non contribuiscano a rafforzare stereotipi di genere.

Bio

Viviana Patti è professoressa associata presso il Dipartimento di Informatica dell’Università di Torino, coordinatrice del Dottorato in Informatica, e membro del comitato scientifico del Centro Interdipartimentale di Logica, Linguaggio e Cognizione dalla sua fondazione. In passato, è stata membro del Comitato di Garanzia dell’Università di Torino. Nel 2021 ha ottenuto l’abilitazione scientifica nazionale per la posizione di professore di prima fascia in Informatica. E’ vice-presidente del direttivo dell’Associazione Italiana di Linguistica Computazionale (AILC), vice-presidente della laurea magistrale Language Technologies and Digital Humanities e vice-coordinatrice del master interateneo di secondo livello HumanAIze, progettato per integrare competenze umanistiche con quelle necessarie a partecipare ai processi di innovazione tecnologica legati all’impiego sempre più pervasivo dell’AI.

I suoi principali interessi di ricerca si collocano nell’area dell’Intelligenza Artificiale fin dagli albori. In particolare riguardano le aree di Natural Language Processing, Computational Linguistics e Affective Computing, e includono sentiment analysis, riconoscimento delle emozioni e rilevamento dell’ironia, con un focus sui testi dei social media. Attualmente si occupa del monitoraggio dei discorsi di incitamento all’odio, con particolare attenzione all’odio contro gli immigrati, alla retorica populista, all’identificazione automatica della misoginia e degli stereotipi, e al supporto alla diffusione di gender-fair language, applicando tecniche di linguistica computazionale nell’ambito di progetti nazionali e internazionali, tra cui i progetti “Contro l’Odio”, “Be Positive!”, finanziato da Google e “Sterheotypes”. Ha supervisionato e supervisiona un gruppo di dottorandi e post-doc su questi temi.

Ha coordinato il progetto europeo pilota “EVALITA4ELG: risorse linguistiche di riferimento per l’italiano EVALITA, servizi NLP e strumenti per la piattaforma ELG” finanziato dal progetto European Language Grid H2020. Nell’ambito del progetto FAIR, coordina il progetto HARMONIA (Harmony in Hybrid Decision-Making: Knowledge-enhanced Perspective-taking LLMs for Inclusive Decision-Making). E’ da sempre attiva sul fronte della valutazione e del benchmarking per le tecnologie del linguaggio come co-organizzatrice di campagne di valutazione per la lingua italiana e altre lingue ed è fra gli organizzatori di CALAMITA, un’iniziativa AILC mirata specificatamente alla costruzione di un benchmark per la valutazione della capacità di LLMs in italiano. Ha coordinato diversi progetti di trasferimento tecnologico in collaborazione con aziende sul territorio, fra cui il progetto M.EMO.RAI che ha visto coinvolti i gruppi di ricerca del Dipartimento di Informatica dell’Università di Torino e della Direzione ICT della Rai nello sviluppo di una piattaforma che permette di monitorare e analizzare le emozioni, i conflitti, i dibattiti e le passioni dei telespettatori sui social media, utilizzando tecniche di intelligenza artificiale. Attualmente partecipa al progetto POPULUS (Multilingual Perspective-Aware NLU) in partnership con Amazon Alexa, al coordinamento lato UniTO del progetto DEA (Digitale, Equità, Azioni) finanziato da Fondirigenti per lo “sviluppo di metodi e strumenti innovativi per sostenere le imprese verso una riduzione del Gender Gap nelle carriere STEM, e in una maggiore partecipazione e qualificazione manageriale delle donne in ambito STEM”, e infine al coordinamento del progetto FAIRLY per lo sviluppo di uno strumento di supporto alla scrittura inclusiva nelle comunicazioni basato su tecnologie del linguaggio, finanziato nell’ambito delle iniziative del bilancio partecipativo UniTO 2024.

E’ coautrice di +150 articoli pubblicati su riviste e atti di congressi internazionali e nazionali e presta servizio regolarmente come (senior) area chair nei comitati scientifici di conferenze di linguistica computazionale e intelligenza artificiale.