Social scoring: cos’è, come funziona e come utilizzarlo

1. Definizione di social scoring

2. Come funziona il social scoring

Il social scoring è una pratica che si basa sull’analisi dei dati provenienti da diverse fonti, ad esempio:

• Social media (post, commenti, interazioni);
• Transazioni finanziarie (credit scoring);
• Attività online (cronologia di acquisti, ricerche);
• Dati pubblici (casellario giudiziale, multe, altri comportamenti);
• Internet of Things (IoT) (geolocalizzazione, abitudini digitali).

Gli algoritmi analizzano questi dati per assegnare un punteggio che può influenzare vari aspetti della vita di una persona o di un’azienda.

Ecco alcuni esempi di utilizzo del social scoring:

• Credito e Finanza. Alcune banche e società di credito usano il social scoring per valutare l’affidabilità creditizia;
• Recruiting. Alcune aziende considerano il social score dei candidati durante il processo di assunzione;
• Assicurazioni. I comportamenti registrati (es. guida prudente, infrazioni) possono influire sul costo delle polizze;
• Controllo Sociale. Il caso più noto è il “Sistema di Credito Sociale” in Cina, che premia o penalizza cittadini in base al loro comportamento;
• E-commerce. Alcuni marketplace valutano la reputazione dei venditori o degli acquirenti.
• Lavoro. Il comportamento delle persone può influire sull’assunzione e/o permanenza presso un’azienda. Ad esempio, alcune aziende potrebbero valutare positivamente il fatto che un soggetto abbia lavorato per 15 anni per la stessa azienda e nella stessa posizione; altre, al contrario, potrebbero considerarlo un elemento negativo, che denota una mancanza di interesse a progredire, a migliorare, e queste ultime caratteristiche potrebbero essere ritenute fondamentali per la figura che l’azienda sta selezionando.

Qui di seguito alcuni rischi che possono derivare dall’utilizzo del social scoring:

• Privacy e sorveglianza – La raccolta e analisi dei dati potrebbe violare la privacy.
• Discriminazione – Il punteggio potrebbe penalizzare le persone sulla base di criteri non trasparenti.
• Errore umano o algoritmico – Punteggi errati o manipolabili potrebbero creare problemi ingiustificati a uno o più soggetti.
• Limitazione delle libertà individuali – Un sistema rigido potrebbe influenzare le scelte personali e sociali.

3. Social scoring come pratica IA vietata: si, ma non sempre

1. 1) un trattamento pregiudizievole o sfavorevole di determinate persone fisiche o di gruppi di persone in contesti sociali che non sono collegati ai contesti in cui i dati sono stati originariamente generati o raccolti (art. 5, lett. c), i). Ad esempio, se un soggetto ha ricoperto la qualifica di socio non amministratore di una società fallita, non può essere escluso da un finanziamento personale se è in grado di fornire le garanzie normalmente richieste da una banca, come, ad esempio, una regolare busta paga nell’ambito di un rapporto di lavoro a tempo indeterminato.
2. 2) un trattamento pregiudizievole o sfavorevole di determinate persone fisiche o di gruppi di persone che sia ingiustificato o sproporzionato rispetto al loro comportamento sociale o alla sua gravità (art. 5, lett. c), ii). In questa seconda ipotesi, sarà necessario valutare se il trattamento pregiudizievole o sfavorevole:

• sia o meno ingiustificato; o
• sproporzionato rispetto al comportamento sociale o alla sua gravità.

Ciò significa che qualora, in seguito ad una attenta valutazione, il trattamento non sia ingiustificato o sproporzionato, sarà possibile utilizzare il social scoring. In questi casi, è opportuno documentare il processo di valutazione che porta a considerare come lecito il processo che si intende attuare.

4. Quali sono gli elementi oggetto di valutazione prima di utilizzare il social scoring?

2. 1) il rispetto delle regole sociali (es. leggi);
3. 2) gli attributi fisici (es. altezza, peso, colore dei capelli, colore degli occhi, età, genere, razza ed etnia ecc.); gli attributi psicologici (es. personalità, valori, credenze, opinioni politiche o religiose e orientamento sessuale, ecc.); lo stato di salute (es. condizioni mediche, disabilità fisiche o mentali ecc.); lo stato socioeconomico (es. livello di istruzione, occupazione, reddito, stato civile, situazione abitativa ecc.);
4. 3) le caratteristiche comportamentali di una persona che possono essere valutate al fine di prevedere i suoi comportamenti futuri o lo spirito di adattamento a determinate situazioni: le personalità note sono i comportamenti già conosciuti che un individuo ha posto in essere per un determinato periodo di tempo come (es. essere sempre puntuale a lavoro) e dai quali è possibile evincere la sua personalità. Tali personalità note sono anche quelle che, ad esempio, un soggetto probabilmente manifesterà in base al proprio background (es. se un soggetto ha frequentato una scuola prestigiosa e ottenuto ottimi risultati, magari grazie ad una borsa di studio, cercherà probabilmente di mantenere un elevato livello di professionalità anche in futuro, quando entrerà nel mondo del lavoro; ciò in quanto la sua condotta passata denota una certa predisposizione a raggiungere i massimi obiettivi).

5. E’ consentito il social scoring come sistema premiale?

Infatti, non è escluso che un sistema che premia un soggetto o una categoria di soggetti, non possa pregiudicarne altre. Ad esempio, immaginiamo un sistema che preveda l’assegnazione di premi in denaro per i dipendenti che non sono mai arrivati in ritardo al lavoro nel corso dell’anno. In questi casi, è palese che un sistema di questo genere, potrebbe sfavorire i pendolari, che spesso arrivano in ritardo non per loro volontà, ma a causa dei disservizi del trasporto pubblico, salvo considerare questa variabile.

Lo stesso considerando 31 dell’AI Act non vieta espressamente i sistemi di social scoring premiali:

“(31) I sistemi di IA che permettono ad attori pubblici o privati di attribuire un punteggio sociale alle persone fisiche possono portare a risultati discriminatori e all’esclusione di determinati gruppi. Possono inoltre ledere il diritto alla dignità e alla non discriminazione e i valori di uguaglianza e giustizia. Tali sistemi di IA valutano o classificano le persone fisiche o i gruppi di persone fisiche sulla base di vari punti di dati riguardanti il loro comportamento sociale in molteplici contesti o di caratteristiche personali o della personalità note, inferite o previste nell’arco di determinati periodi di tempo. Il punteggio sociale ottenuto da tali sistemi di IA può determinare un trattamento pregiudizievole o sfavorevole di persone fisiche o di interi gruppi in contesti sociali che non sono collegati ai contesti in cui i dati sono stati originariamente generati o raccolti, o a un trattamento pregiudizievole che risulta ingiustificato o sproporzionato rispetto alla gravità del loro comportamento sociale. I sistemi di IA che comportano tali pratiche inaccettabili di punteggio aventi risultati pregiudizievoli o sfavorevoli dovrebbero pertanto essere vietati. Tale divieto non dovrebbe pregiudicare le pratiche lecite di valutazione delle persone fisiche effettuate per uno scopo specifico in conformità del diritto dell’Unione e nazionale.”.In conclusione, un’azienda, se vuole implementare un sistema di social scoring lo può fare, ma solo previa approfondita e, soprattutto, documenta valutazione, al fine di poter dimostrare il proprio processo decisionale.

6. Social scoring come sistema IA ad alto rischio 

Un sistema IA finalizzato all’applicazione di una procedura di social scoring può essere considerato un sistema IA ad alto rischio.

Alcuni di questi sistemi sono individuati dall’AI Act; ad esempio, sistemi di IA:

• per l’assunzione o la selezione di persone fisiche, in particolare, per pubblicare annunci di lavoro mirati, analizzare o filtrare le candidature e valutare i candidati (AI Act, allegato III, punto 4, a);
• per adottare decisioni riguardanti le condizioni dei rapporti di lavoro, la promozione o cessazione dei rapporti contrattuali di lavoro, per assegnare compiti sulla base del comportamento individuale o dei tratti e delle caratteristiche personali o per monitorare e valutare le prestazioni e il comportamento delle persone nell’ambito di tali rapporti di lavoro (AI Act, allegato III, punto 4, b);
• per valutare l’affidabilità creditizia delle persone fisiche o per stabilire il loro merito di credito, a eccezione dei sistemi di IA utilizzati allo scopo di individuare frodi finanziarie (AI Act, allegato III, punto 5, b).

Negli esempi sopra citati, i sistemi di IA possono essere considerati ad alto rischio, in quanto presentano rischi significativi per i diritti fondamentali (AI Act, art. 6.3). Ad esempio, sarà ad alto rischio un sistema di IA destinato a valutare un lavoratore dipendente sulla base della sua condotta nell’ambito del rapporto di lavoro, al fine di concedere allo stesso una promozione (AI Act, allegato III, punto 4, b). In questi casi, sarà necessario valutare se, le modalità di valutazione, possano o meno svantaggiare altri dipendenti.

7. Valutazione di impatto 

Quando sussiste un rischio significativo, come nelle ipotesi sopra menzionate, il deployer ha l’obbligo di effettuare, prima dell’utilizzo di un sistema di intelligenza artificiale, una valutazione dell’impatto sui diritti fondamentali (AI Act, art. 27).

La valutazione di impatto deve comprendere almeno i seguenti elementi.

• una descrizione dei processi del deployer in cui il sistema di IA ad alto rischio sarà utilizzato in linea con la sua finalità prevista;
• una descrizione del periodo di tempo entro il quale ciascun sistema di IA ad alto rischio è destinato a essere utilizzato e con che frequenza;
• le categorie di persone fisiche e gruppi verosimilmente interessati dal suo uso nel contesto specifico;
• i rischi specifici di danno che possono incidere sulle categorie di persone fisiche o sui gruppi di persone individuati a norma della precedente lettera c), tenendo conto delle informazioni a sua disposizione;
• una descrizione dell’attuazione delle misure di sorveglianza umana, secondo le istruzioni per l’uso;
• le misure da adottare qualora tali rischi si concretizzino, comprese le disposizioni relative alla governance interna e ai meccanismi di reclamo.

Il deployer dovrà, infine, notificare all’autorità competente i risultati della valutazione secondo le modalità previste per legge.

30.01.2025

Se vuoi utilizzare il social scoring prenota una consulenza