Scovai gestisce una piattaforma di reclutamento basata sull'AI che rientra nell'ambito del Regolamento europeo sull'Intelligenza Artificiale (Regolamento (UE) 2024/1689). I sistemi AI utilizzati nel reclutamento e nell'occupazione sono classificati come ad alto rischio ai sensi dell'Allegato III, Sezione 4(a). Il presente documento descrive come Scovai soddisfa i requisiti del Regolamento EU sull'AI.
1. Classificazione del Rischio
Le seguenti funzionalità AI di Scovai sono classificate come sistemi AI ad alto rischio ai sensi del Regolamento EU sull'AI:
- Scoring AI dei Candidati: Valutazione automatizzata dei candidati su più dimensioni (competenze tecniche, esperienza, istruzione, soft skills, potenziale)
- Generazione Shortlist AI: Classificazione e raccomandazione automatizzata dei candidati per le posizioni
- Profilazione Psicometrica: Profili di personalità generati dall'AI (Big Five), valutazioni di compatibilità culturale e valutazioni dello stile di leadership
- Agente AI per i Colloqui: Conduzione e valutazione automatizzata dei colloqui tramite elaborazione del linguaggio naturale
Le seguenti funzionalità sono considerate a rischio limitato e soggette solo a obblighi di trasparenza:
- Analisi CV: Estrazione di dati strutturati dai documenti caricati
- Generazione Descrizioni Lavoro: Creazione assistita dall'AI di descrizioni di lavoro da input minimi
- Generazione Assessment Tecnici: Domande di test specifiche per ruolo generate dall'AI
2. Trasparenza (Articolo 13)
Scovai fornisce trasparenza a ogni livello dell'elaborazione AI:
2.1 Trasparenza dell'Interazione
I candidati sono informati quando interagiscono con un sistema AI. L'Agente AI per i Colloqui si identifica chiaramente come AI, e tutti i contenuti generati dall'AI (punteggi, valutazioni, report) sono etichettati come tali in tutta la Piattaforma.
2.2 Spiegabilità degli Output
Ogni output AI include spiegazioni leggibili dall'uomo:
- Scoring: Ogni dimensione del punteggio include una motivazione XAI che spiega quali fattori hanno contribuito, quali aggiustamenti sono stati fatti e perché
- Profili psicometrici: I risultati includono descrizioni del significato di ogni tratto e come è stato valutato
- Report dei colloqui: Le valutazioni AI citano risposte specifiche dei candidati e spiegano la base di ogni assessment
- Shortlist: La motivazione della classificazione spiega la distribuzione dei pesi e i differenziatori chiave tra i candidati
2.3 Documentazione del Sistema
Manteniamo una documentazione tecnica completa dei nostri sistemi AI, inclusi lo scopo previsto, le capacità, i limiti e i rischi noti.
3. Supervisione Umana (Articolo 14)
Scovai è progettata come un sistema di supporto alle decisioni, non un sistema decisionale. La supervisione umana è integrata nell'architettura della piattaforma:
- Nessuna decisione autonoma di assunzione: Gli output AI sono presentati come raccomandazioni. I recruiter umani esaminano, validano e prendono tutte le decisioni finali.
- Capacità di override: I recruiter possono sovrascrivere, modificare o scartare qualsiasi punteggio, classifica o raccomandazione generata dall'AI.
- Richieste di revisione umana: Sia i candidati che i recruiter possono richiedere una revisione umana formale di qualsiasi decisione AI attraverso il modulo di conformità. Le richieste sono tracciate e verificate.
- Controlli sulle funzionalità AI: Gli amministratori dei Tenant possono abilitare o disabilitare singole funzionalità AI in qualsiasi momento.
- Pesi configurabili: I pesi dello scoring su tutte le dimensioni sono configurabili dall'organizzazione, garantendo che il comportamento dell'AI sia allineato alle priorità definite dall'uomo.
4. Governance dei Dati (Articolo 10)
I nostri sistemi AI sono governati da rigorose pratiche di qualità e governance dei dati:
- Dati di addestramento: Non utilizziamo dati individuali dei candidati per addestrare o perfezionare modelli AI. I nostri fornitori di IA trattano i dati API sotto accordi di trattamento che ne escludono l'uso per addestrare i loro modelli.
- Qualità dei dati: L'analisi CV include controlli di validazione. Gli input di scoring sono verificati rispetto ai requisiti strutturati della posizione.
- Minimizzazione dei dati: I sistemi AI ricevono solo i dati necessari per il loro compito specifico.
5. Accuratezza, Robustezza e Cybersicurezza (Articolo 15)
- Accuratezza: Lo scoring AI è validato rispetto a requisiti strutturati con soglie configurabili. La motivazione di spiegabilità consente ai recruiter di verificare la base di ogni punteggio.
- Robustezza: I sistemi AI includono protezioni di timeout, logica di retry e routing di fallback verso modelli alternativi se il modello primario non è disponibile.
- Cybersicurezza: L'infrastruttura applicativa e la conservazione dei dati girano sui nostri server nello SEE. Le chiamate ai modelli AI passano da provider configurati centralmente e auditati (Anthropic, OpenAI), sotto accordi di trattamento dati. Le chiavi API sono crittografate (AES-256 (GCM/CBC)) e tutte le comunicazioni utilizzano la crittografia TLS.
6. Prevenzione dei Bias e della Discriminazione (Articolo 10(2)(f))
Scovai implementa un monitoraggio e una mitigazione proattivi dei bias:
- Analisi automatica dei bias: Il modulo di analisi include un monitoraggio dei bias che traccia i pattern di scoring AI tra gruppi demografici (genere, età)
- Analisi della distribuzione dei punteggi: I recruiter possono visualizzare le distribuzioni dei punteggi per identificare potenziali bias sistematici
- Scoring configurabile: Le dimensioni e i pesi dello scoring sono trasparenti e regolabili, prevenendo l'amplificazione nascosta dei bias
- Spiegabilità: Fornendo una motivazione chiara per ogni punteggio, il ragionamento distorto può essere identificato e affrontato
Questo monitoraggio copre il funnel di selezione. Al momento non si estende all'output dei Digital Employee, alle valutazioni delle prestazioni né agli assessment di cultura.
7. Conservazione dei Registri e Audit Trail (Articolo 12)
Scovai mantiene log e registri completi:
- Audit log: Ogni azione sulla piattaforma (punteggio generato, candidato valutato, shortlist creata, decisione presa) è registrata con attore, timestamp e dettagli
- Log strutturati: I log di sistema catturano eventi di elaborazione AI con livelli di severità, categorie, trace ID e metriche di durata
- Conservazione: I log critici e di errore sono conservati per 365 giorni nel sistema attivo, e i log standard per 30-90 giorni a seconda della severità. Ogni riga viene scritta in un file di archivio compresso prima di essere cancellata dal sistema attivo; quei file di archivio sono conservati finché un amministratore non li rimuove.
- Esportazione: I dati di audit possono essere esportati per la revisione normativa
8. Registrazione e Conformità
In quanto fornitore e, per il nostro uso, deployer di sistemi AI ad alto rischio nel dominio dell'occupazione, i nostri obblighi sono:
- Registrazione dei sistemi AI ad alto rischio nel database dell'UE ai sensi dell'Articolo 49. Questa registrazione non è ancora stata effettuata. Ne riporteremo qui lo stato quando lo sarà.
- Mantenere la documentazione di valutazione della conformità
- Cooperare con le autorità nazionali competenti e gli organismi di sorveglianza del mercato
- Segnalare incidenti gravi in conformità con l'Articolo 73
Due ulteriori obblighi ricadono sul Tenant in quanto deployer, e li dichiariamo qui invece di lasciarli impliciti. L'Articolo 26 richiede una supervisione umana affidata a persone con la competenza per esercitarla, e l'Articolo 4 richiede che il personale che usa questi sistemi abbia un'alfabetizzazione in materia di IA sufficiente. Quando il deployer è un organismo di diritto pubblico, o valuta il merito creditizio o i prezzi di assicurazioni vita e malattia, l'Articolo 27 richiede anche una valutazione d'impatto sui diritti fondamentali. Al momento non forniamo modelli per nessuno dei due; la Sezione 5.2 dei Termini di Servizio per le Aziende definisce la ripartizione delle responsabilità.
8A. Digital Employee e funzionalità sui dipendenti
Un Digital Employee che seleziona, ordina o intervista candidati è un sistema AI ad alto rischio ai sensi dell'Allegato III punto 4(a), allo stesso titolo delle funzionalità di recruiting della sezione 1, e ricade nelle sezioni da 2 a 7.
Scovai usa l'AI anche su persone già assunte: sintesi delle review di performance e di fine anno, piani di sviluppo, valutazioni di cultura e onboarding, sintesi dei check-in e scorecard di competenze. L'Allegato III punto 4(b) copre l'AI destinata a decisioni su promozione o cessazione, all'assegnazione di compiti in base a comportamenti o tratti personali, e al monitoraggio e alla valutazione della performance. Quando un Tenant usa questi output per tali decisioni, ricadono in quel punto; i nostri Termini già affermano che valutazione della performance e assegnazione di compiti sono usi ad alto rischio.
Nella piattaforma questi output sono di supporto. I numeri di una scorecard di competenze sono calcolati da una formula deterministica, non da un modello; il modello scrive solo il livello qualitativo, e se non riesce la scorecard esce con i soli numeri. I segnali di integrità non scartano mai un candidato da soli. Il Tenant, come deployer, resta responsabile della supervisione umana, dell'informativa ai lavoratori e ai loro rappresentanti, e di ogni valutazione d'impatto richiesta dalla propria legge nazionale.
I Digital Employee sono contrassegnati come AI dentro Scovai e si presentano come AI al primo contatto; i Termini descrivono come si identificano verso terzi.
9. Diritti dei Candidati ai Sensi del Regolamento EU sull'AI
Come individuo interessato dai sistemi AI di Scovai, hai il diritto di:
- Essere informato che un sistema AI viene utilizzato nel processo di reclutamento
- Ricevere una spiegazione di come sono state generate le valutazioni AI, i punteggi e le classifiche
- Richiedere una revisione umana di qualsiasi decisione generata dall'AI
- Presentare un reclamo all'autorità nazionale competente se ritieni che il sistema AI sia stato utilizzato in modo non conforme
10. Contatti
Per domande sulla nostra conformità al Regolamento EU sull'AI o per segnalare preoccupazioni sul processo decisionale dell'AI:
Email: privacy@scovai.com
