Scovai fällt unter die EU-KI-Verordnung (2024/1689). KI-Systeme im Recruiting sind als Hochrisiko eingestuft.
1. Risikoklassifizierung
Hochrisiko: Scoring, Shortlists, psychometrische Profile, KI-Interviews. Begrenztes Risiko: CV-Parsing, Stellenbeschreibungen, technische Tests.
2. Transparenz (Artikel 13)
Klare KI-Kennzeichnung, XAI-Erklärungen, umfassende Systemdokumentation.
3. Menschliche Aufsicht (Artikel 14)
Entscheidungsunterstützungssystem. Override möglich. Nachverfolgbare Überprüfungsanträge.
4. Datengovernance (Artikel 10)
Kein Training mit individuellen Kandidatendaten. Anbieter verarbeiten API-Daten mit Auftragsverarbeitungsverträgen, die das Training ihrer Modelle ausschließen. Datenminimierung.
5. Genauigkeit und Cybersicherheit (Artikel 15)
Konfigurierbare Schwellenwerte, Retry/Fallback. Anwendungsinfrastruktur und Datenspeicherung auf unseren eigenen Servern im EWR; KI-Aufrufe über zentral konfigurierte, auditierte Anbieter (Anthropic, OpenAI) mit Auftragsverarbeitungsverträgen.
6. Bias-Prävention (Artikel 10(2)(f))
Automatisches Monitoring nach Geschlecht und Alter. Transparente, anpassbare Gewichtungen. Dieses Monitoring betrifft den Recruiting-Funnel; auf den Output von Digital Employees, Leistungsbeurteilungen oder Kulturbewertungen erstreckt es sich derzeit nicht.
7. Protokollierung (Artikel 12)
Vollständiges Audit-Log, strukturierte Logs, 30-365 Tage Aufbewahrung im Live-System. Jede Zeile wird vor der Löschung aus dem Live-System in eine komprimierte Archivdatei geschrieben; diese Archive werden aufbewahrt, bis ein Administrator sie entfernt.
8. Registrierung und Konformität
Registrierung in der EU-Datenbank nach Artikel 49: Diese Registrierung ist noch nicht erfolgt. Ihren Status vermerken wir hier, sobald sie erfolgt ist. Konformitätsdokumentation, Zusammenarbeit mit den Behörden, Meldung schwerwiegender Vorfälle nach Artikel 73.
8A. Digital Employees und Funktionen für Beschäftigte
Ein Digital Employee, der Bewerbungen vorsortiert, rangiert oder Interviews führt, ist ein Hochrisiko-KI-System nach Anhang III Nummer 4(a), genauso wie die Recruiting-Funktionen in Abschnitt 1, und fällt unter die Abschnitte 2 bis 7.
Scovai setzt KI auch bei bereits beschäftigten Personen ein: Zusammenfassungen von Leistungs- und Jahresgesprächen, Entwicklungspläne, Kultur- und Onboarding-Bewertungen, Check-in-Zusammenfassungen und Kompetenz-Scorecards. Anhang III Nummer 4(b) erfasst KI, die für Entscheidungen über Beförderung oder Kündigung, für die Zuweisung von Aufgaben anhand von Verhalten oder persönlichen Eigenschaften und für die Überwachung und Bewertung von Leistung bestimmt ist. Nutzt ein Tenant diese Ergebnisse für solche Entscheidungen, fallen sie unter diese Nummer; unsere Bedingungen sagen bereits, dass Leistungsbewertung und Aufgabenzuweisung Hochrisiko-Nutzungen sind.
In der Plattform sind diese Ergebnisse beratend. Die Zahlen einer Kompetenz-Scorecard berechnet eine deterministische Formel, kein Modell; das Modell schreibt nur die qualitative Schicht, und scheitert es, erscheint die Scorecard nur mit den Zahlen. Integritätssignale lehnen eine Bewerbung nie allein ab. Der Tenant bleibt als Betreiber verantwortlich für die menschliche Aufsicht, für die Unterrichtung der Beschäftigten und ihrer Vertretungen und für jede nach nationalem Recht erforderliche Folgenabschätzung. Abschnitt 5.2 der Nutzungsbedingungen für Unternehmen legt die Aufteilung der Verantwortung fest.
Digital Employees sind innerhalb von Scovai als KI gekennzeichnet und stellen sich beim ersten Kontakt als KI vor; die Bedingungen beschreiben, wie sie sich gegenüber Dritten ausweisen.
9. Kandidatenrechte
Informiert werden, Erklärungen erhalten, menschliche Überprüfung anfordern, Beschwerde einlegen.
10. Kontakt
privacy@scovai.com
