6 frågor att ställa och varför de är viktiga
Nya EU AI Act ställer krav. Hårda krav. Men vad innebär det? Vi har tagit ett snack med vår CTO Sebastian Otarola som reder ut och förklarar vad EU AI Act kommer innebära för dig som investerar i digitala rekryteringsverktyg med AI.
AI i rekrytering kan ge snabbare processer och bättre kandidatupplevelser. Men med EU:s nya AI Act har spelreglerna förändrats. Rekrytering klassas som ett högriskområde, vilket innebär att allt från urval till kandidatkommunikation omfattas. Det innebär att du som köper in eller använder ett AI-stöd nu bär ett juridiskt ansvar för att lösningen följer lagen. Annars kan det bli dyrt.
För att hjälpa dig navigera rätt har vi bett vår CTO Sebastian Otarola lyfta fram alla de frågor som man bör ställa till sina nuvarande och framtida leverantörer:
1. Använder ert AI-system funktioner som kan klassas som högrisk enligt EU:s AI-förordning (AI Act)?
Sebastian: AI-system som automatiskt tar beslut eller rangordnar kandidater utan mänsklig inblandning kan omfattas av högriskklassning enligt EU AI Act. Det gäller till exempel verktyg som använder generativ AI för att bedöma kandidater eller fatta beslut i urvalsprocessen, screena CV eller göra automatiska bedömningar.
Bedömningar som däremot bygger på validerade psykometriska ramverk, statiska poängramverk, fördefinierade kriterier och där AI endast används som beslutsstöd anses normalt som lägre risk. I sådana fall poängsätts svaren objektivt och rekryteraren använder resultatet som underlag – den slutliga bedömningen och urvalet görs alltid av en människa, vilket säkerställer ”human in the loop”.
System som är utformade med statisk, kontrollerbar och granskningsbar logik samt tydlig transparens och dataskydd ligger därmed i linje med kraven i EU AI Act och kan användas säkert inom rekrytering.
✅ Tengai uppfyller dessa krav eftersom bedömningen sker enligt validerade psykometriska ramverk, statiska poängramverk med mänsklig kontroll i varje steg och utan att generativ AI används för beslut eller urval.
2. Finns mänsklig översyn i alla beslut?
Sebastian: AI får inte fatta beslut om vem som går vidare i rekryteringsprocessen utan mänsklig inblandning. En människa måste alltid kunna förstå, ifrågasätta och ändra AI:ns resultat.
Kontrollera att:
- Rekryteraren gör slutbedömningen
- AI endast används som beslutsstöd
- Systemet erbjuder spårbarhet i all poängsättning och logik, ingen ”blackbox” dvs att man inte kan förklara hur algoritmerna fungerar
3. Är data och algoritmer fria från bias?
Sebastian: Systemet får inte diskriminera baserat på kön, ålder, språk, etnicitet eller andra irrelevanta faktorer. Leverantören ska kunna visa hur de kontrollerar detta löpande.
Fråga leverantören:
- Hur testas datakvalitet och rättvisa?
- Finns återkommande bias-tester?
- Används evidensbaserade ramverk eller maskininlärning?
- Vilken typ av data får systemet tillgång till?
✅ Tengai använder statiska poängramverk och evidensbaserade tester – helt fria från köns- eller etnicitetsbias. Tengai har inte heller någon historisk data endast mailadress och sparad röst efter intervjun.
4. Hur säkerställs transparens mot kandidater?
Sebastian: Kandidater har rätt att veta när och hur AI används. Transparens är inte bara lagkrav, det är också avgörande för att skapa förtroende för ditt employer brand.
Se till att:
- Kandidater informeras vid start om, och hur, AI används
- Du kan visa vilken del av processen som är AI-stödd
- AI inte används för bedömning utan samtycke
✅ Hos Tengai informeras kandidater redan vid intervjustart om att en AI-avatar används för UI/UX och inte för att bedöma prestation/kompetens.
5. Är systemet spårbart och granskningsbart?
Sebastian: Alla poäng, viktningar och beslut måste kunna följas upp i efterhand dvs de måste vara dokumenterade så att du får fram datan. Det är din garanti för rättssäkerhet och ett måste enligt AI Act.
Kontrollera att:
- Varje beslut loggas automatiskt
- Rådata sparas för revision
- Du kan exportera loggar vid tillsyn
✅ Tengai loggar alla poäng och sparar dem “raw”, redo att granskas av kandidater eller tillsynsmyndigheter vid behov.
6. Hur hanteras risk, cybersäkerhet och manipulation?
Sebastian: Ett högrisk-AI-system måste vara robust, säkert och resistent mot manipulation. Fråga hur leverantören testar detta samt var datan lagras
Säkerställ att:
- Systemet testas under verkliga förhållanden
- Det finns skydd mot attacker och felaktiga inputs
- Leverantören är certifierad enligt ISO-standarder
- Data lagras inom EU
✅ Tengai är ISO/IEC 27001-, 27017-, 27018- och 14001-certifierat – och testas kontinuerligt för säkerhet och integritet. Tengais data sparas i Sverige
Undvik dessa röda flaggor
Sebastian: Om leverantören inte kan svara på frågorna ovan eller om AI-systemet:
- automatiskt rankar kandidater utifrån AI
- genererar poäng utan mänsklig granskning
- saknar dokumentation eller bias-kontroll, vilket gör att det med stor sannolikhet bryter mot EU AI Act.
Din AI ska vara ett stöd, inte en domare
Sebastian: Ett compliant rekryteringssystem hjälper dig fatta snabbare, mer objektiva beslut utan att tappa mänsklig kontroll. Och i takt med att AI Act börjar tillämpas fullt ut blir etisk AI inte bara en lagfråga, utan ett konkurrensmedel.
Med Tengai får du ett system som redan idag uppfyller EU AI Act till punkt och pricka. Vill du veta mer? Boka en demo idag!