Scovai vận hành nền tảng tuyển dụng AI thuộc phạm vi Đạo luật AI của EU (Quy định (EU) 2024/1689). Hệ thống AI trong tuyển dụng được phân loại rủi ro cao theo Phụ lục III, Mục 4(a).
1. Phân loại Rủi ro
Tính năng AI rủi ro cao:
- Chấm điểm Ứng viên AI: Chấm điểm tự động đa chiều
- Tạo Danh sách Rút gọn AI: Xếp hạng và đề xuất tự động
- Phân tích Tâm lý: Hồ sơ tính cách, đánh giá văn hóa và lãnh đạo
- Phỏng vấn AI: Tiến hành và đánh giá phỏng vấn tự động
Tính năng rủi ro hạn chế (chỉ yêu cầu minh bạch):
- Phân tích CV: Trích xuất dữ liệu có cấu trúc
- Tạo Mô tả Công việc: Hỗ trợ AI tạo mô tả từ đầu vào tối thiểu
- Tạo Đánh giá Kỹ thuật: Câu hỏi test theo vai trò do AI tạo
2. Minh bạch (Điều 13)
2.1 Minh bạch Tương tác
Ứng viên được thông báo khi tương tác với AI. Nội dung AI được gắn nhãn rõ ràng.
2.2 Giải thích Kết quả
- Chấm điểm: Lý giải XAI cho mỗi chiều điểm
- Hồ sơ tâm lý: Mô tả ý nghĩa và cách đánh giá
- Báo cáo phỏng vấn: Trích dẫn câu trả lời cụ thể
- Danh sách rút gọn: Giải thích phân bổ trọng số
2.3 Tài liệu Hệ thống
Tài liệu kỹ thuật toàn diện về mục đích, khả năng, hạn chế và rủi ro.
3. Giám sát của Con người (Điều 14)
- Không quyết định tuyển dụng tự động: Kết quả AI là khuyến nghị
- Khả năng ghi đè: Nhà tuyển dụng có thể ghi đè mọi kết quả AI
- Yêu cầu xem xét: Cả ứng viên và nhà tuyển dụng có thể yêu cầu
- Kiểm soát tính năng AI: Admin có thể bật/tắt tính năng
- Trọng số cấu hình: Tổ chức có thể điều chỉnh trọng số
4. Quản trị Dữ liệu (Điều 10)
- Dữ liệu huấn luyện: Không dùng dữ liệu ứng viên để huấn luyện mô hình; các nhà cung cấp AI xử lý dữ liệu API theo thỏa thuận xử lý dữ liệu loại trừ việc dùng nó để huấn luyện mô hình của họ
- Chất lượng dữ liệu: Kiểm tra xác thực trong phân tích CV
- Tối thiểu hóa dữ liệu: AI chỉ nhận dữ liệu cần thiết
5. Độ chính xác, Độ bền và An ninh mạng (Điều 15)
- Độ chính xác: Xác thực với ngưỡng cấu hình
- Độ bền: Bảo vệ timeout, retry và fallback
- An ninh mạng: Nền tảng và cơ sở dữ liệu chạy trên máy chủ của chính chúng tôi trong EEA. Môi trường chạy của Digital Employee nằm trên máy chủ của chính chúng tôi bên ngoài khu vực đó, như mô tả trong Chính sách Bảo mật và DPA. Các cuộc gọi mô hình AI đi qua các nhà cung cấp được cấu hình tập trung, kiểm toán (Anthropic, OpenAI) theo thỏa thuận xử lý dữ liệu; mã hóa AES-256 khi lưu trữ (CBC cho khoá nhà cung cấp, GCM cho thông tin xác thực của Digital Employee) và TLS 1.2 hoặc 1.3
6. Phòng chống Thiên kiến (Điều 10(2)(f))
- Phân tích thiên kiến tự động theo nhóm nhân khẩu học
- Phân tích phân phối điểm
- Trọng số minh bạch và có thể điều chỉnh
- Lý giải rõ ràng cho mọi điểm số
Việc giám sát này bao trùm phễu tuyển dụng. Hiện nó chưa mở rộng tới kết quả của Digital Employee, đánh giá hiệu suất hay đánh giá văn hoá.
7. Lưu trữ và Nhật ký Kiểm toán (Điều 12)
- Nhật ký kiểm toán cho mọi hành động trên nền tảng
- Log có cấu trúc với mức độ nghiêm trọng và trace ID
- Lưu giữ log nghiêm trọng 365 ngày, log thường 30-90 ngày trong hệ thống đang chạy; mỗi dòng được ghi vào một tệp lưu trữ nén trước khi bị xoá khỏi hệ thống đang chạy, và các tệp lưu trữ đó được giữ cho đến khi quản trị viên gỡ bỏ
- Xuất dữ liệu kiểm toán cho cơ quan quản lý
8. Đăng ký và Tuân thủ
- Đăng ký hệ thống AI rủi ro cao trong cơ sở dữ liệu EU theo Điều 49. Việc đăng ký này chưa được thực hiện. Chúng tôi sẽ ghi lại trạng thái tại đây khi hoàn tất.
- Duy trì tài liệu đánh giá tuân thủ
- Hợp tác với cơ quan có thẩm quyền
- Báo cáo sự cố nghiêm trọng (Điều 73)
Hai nghĩa vụ khác thuộc về Tenant với tư cách bên triển khai: Điều 26 yêu cầu giám sát của con người bởi người có năng lực thực hiện, và Điều 4 yêu cầu nhân viên sử dụng các hệ thống này có đủ hiểu biết về AI. Khi bên triển khai là cơ quan theo luật công, hoặc đánh giá tín nhiệm tín dụng hay định giá bảo hiểm nhân thọ và sức khoẻ, Điều 27 còn yêu cầu đánh giá tác động đến quyền cơ bản. Hiện chúng tôi chưa cung cấp mẫu cho các nghĩa vụ này; Mục 5.2 của Điều khoản Dịch vụ cho Doanh nghiệp phân định trách nhiệm.
8A. Digital Employees và các tính năng dành cho nhân viên
Một Digital Employee sàng lọc, xếp hạng hoặc phỏng vấn ứng viên là hệ thống AI rủi ro cao theo Phụ lục III điểm 4(a), ngang với các tính năng tuyển dụng ở mục 1, và thuộc phạm vi các mục 2 đến 7.
Scovai cũng chạy AI trên những người đã là nhân viên: tóm tắt đánh giá hiệu suất và đánh giá cuối năm, kế hoạch phát triển, đánh giá văn hoá và hội nhập, tóm tắt check-in và bảng điểm năng lực. Phụ lục III điểm 4(b) bao gồm AI dùng cho quyết định thăng chức hoặc chấm dứt hợp đồng, phân công công việc dựa trên hành vi hay đặc điểm cá nhân, và theo dõi cùng đánh giá hiệu suất. Khi một Tenant dùng các kết quả này cho những quyết định đó, chúng thuộc điểm nói trên; Điều khoản của chúng tôi đã nêu rằng đánh giá hiệu suất và phân công công việc là các mục đích sử dụng rủi ro cao.
Trên nền tảng, các kết quả này mang tính tham vấn. Các con số trong bảng điểm năng lực do một công thức tất định tính ra, không phải do mô hình; mô hình chỉ viết phần định tính, và khi nó thất bại thì bảng điểm vẫn được giao với riêng các con số. Tín hiệu liêm chính không bao giờ tự nó loại một ứng viên. Tenant, với tư cách bên triển khai, vẫn chịu trách nhiệm về giám sát của con người, về việc thông báo cho người lao động và đại diện của họ, và về mọi đánh giá tác động mà luật quốc gia của họ yêu cầu.
Digital Employees được đánh dấu là AI bên trong Scovai và tự giới thiệu là AI ngay lần tiếp xúc đầu; Điều khoản mô tả cách họ xưng danh với bên thứ ba.
9. Quyền Ứng viên theo Đạo luật AI EU
- Được thông báo về việc sử dụng AI trong tuyển dụng
- Nhận giải thích về cách tạo đánh giá và xếp hạng AI
- Yêu cầu xem xét của con người cho mọi quyết định AI
- Khiếu nại với cơ quan quốc gia có thẩm quyền
10. Liên hệ
Email: privacy@scovai.com
