Nya EU AI Act ställer krav. Hårda krav. Men vad innebär det? Vi har tagit ett snack med vår CTO Sebastian Otarola som reder ut och förklarar vad EU AI Act kommer innebära för dig som investerar i digitala rekryteringsverktyg med AI.
AI i rekrytering kan ge snabbare processer och bättre kandidatupplevelser. Men med EU:s nya AI Act har spelreglerna förändrats. Rekrytering klassas som ett högriskområde, vilket innebär att allt från urval till kandidatkommunikation omfattas. Det innebär att du som köper in eller använder ett AI-stöd nu bär ett juridiskt ansvar för att lösningen följer lagen. Annars kan det bli dyrt.
För att hjälpa dig navigera rätt har vi bett vår CTO Sebastian Otarola lyfta fram alla de frågor som man bör ställa till sina nuvarande och framtida leverantörer:
Bedömningar som däremot bygger på validerade psykometriska ramverk, statiska poängramverk, fördefinierade kriterier och där AI endast används som beslutsstöd anses normalt som lägre risk. I sådana fall poängsätts svaren objektivt och rekryteraren använder resultatet som underlag – den slutliga bedömningen och urvalet görs alltid av en människa, vilket säkerställer ”human in the loop”.
System som är utformade med statisk, kontrollerbar och granskningsbar logik samt tydlig transparens och dataskydd ligger därmed i linje med kraven i EU AI Act och kan användas säkert inom rekrytering.
✅ Tengai uppfyller dessa krav eftersom bedömningen sker enligt validerade psykometriska ramverk, statiska poängramverk med mänsklig kontroll i varje steg och utan att generativ AI används för beslut eller urval.
Sebastian: AI får inte fatta beslut om vem som går vidare i rekryteringsprocessen utan mänsklig inblandning. En människa måste alltid kunna förstå, ifrågasätta och ändra AI:ns resultat.
Kontrollera att:
Rekryteraren gör slutbedömningen
AI endast används som beslutsstöd
Systemet erbjuder spårbarhet i all poängsättning och logik, ingen ”blackbox” dvs att man inte kan förklara hur algoritmerna fungerar
Sebastian: Systemet får inte diskriminera baserat på kön, ålder, språk, etnicitet eller andra irrelevanta faktorer. Leverantören ska kunna visa hur de kontrollerar detta löpande.
Fråga leverantören:
Hur testas datakvalitet och rättvisa?
Finns återkommande bias-tester?
Används evidensbaserade ramverk eller maskininlärning?
Vilken typ av data får systemet tillgång till?
✅ Tengai använder statiska poängramverk och evidensbaserade tester – helt fria från köns- eller etnicitetsbias. Tengai har inte heller någon historisk data endast mailadress och sparad röst efter intervjun.
Sebastian: Kandidater har rätt att veta när och hur AI används. Transparens är inte bara lagkrav, det är också avgörande för att skapa förtroende för ditt employer brand.
Se till att:
Kandidater informeras vid start om, och hur, AI används
Du kan visa vilken del av processen som är AI-stödd
AI inte används för bedömning utan samtycke
✅ Hos Tengai informeras kandidater redan vid intervjustart om att en AI-avatar används för UI/UX och inte för att bedöma prestation/kompetens.
Sebastian: Alla poäng, viktningar och beslut måste kunna följas upp i efterhand dvs de måste vara dokumenterade så att du får fram datan. Det är din garanti för rättssäkerhet och ett måste enligt AI Act.
Kontrollera att:
Varje beslut loggas automatiskt
Rådata sparas för revision
Du kan exportera loggar vid tillsyn
✅ Tengai loggar alla poäng och sparar dem “raw”, redo att granskas av kandidater eller tillsynsmyndigheter vid behov.
Sebastian: Ett högrisk-AI-system måste vara robust, säkert och resistent mot manipulation. Fråga hur leverantören testar detta samt var datan lagras
Säkerställ att:
Systemet testas under verkliga förhållanden
Det finns skydd mot attacker och felaktiga inputs
Leverantören är certifierad enligt ISO-standarder
Data lagras inom EU
✅ Tengai är ISO/IEC 27001-, 27017-, 27018- och 14001-certifierat – och testas kontinuerligt för säkerhet och integritet. Tengais data sparas i Sverige
Sebastian: Om leverantören inte kan svara på frågorna ovan eller om AI-systemet:
automatiskt rankar kandidater utifrån AI
genererar poäng utan mänsklig granskning
saknar dokumentation eller bias-kontroll, vilket gör att det med stor sannolikhet bryter mot EU AI Act.
Sebastian: Ett compliant rekryteringssystem hjälper dig fatta snabbare, mer objektiva beslut utan att tappa mänsklig kontroll. Och i takt med att AI Act börjar tillämpas fullt ut blir etisk AI inte bara en lagfråga, utan ett konkurrensmedel.
Med Tengai får du ett system som redan idag uppfyller EU AI Act till punkt och pricka. Vill du veta mer? Boka en demo idag!