Vad innebär "förbjuden AI"?
EU:s AI-förordning definierar förbjudna AI-system som system vars användning anses grundläggande oförenlig med EU:s värderingar, såsom mänsklig värdighet, integritet och icke-diskriminering. Förordningen förbjuder därför organisationer att släppa ut dessa system på EU-marknaden eller använda dem inom EU, oavsett syfte, skyddsåtgärder eller användarens samtycke. Förbjuden AI ligger högst upp i förordningens fyrgradiga riskmodell (oacceptabel, hög, begränsad, minimal). Det är också här tillsynen är strängast och sanktionsavgifterna högst.
Översikt: vad förbjuder EU:s AI-förordning?
EU:s AI-förordning sätter nya standarder för hur organisationer utvecklar och använder AI inom Europeiska unionen. Högst upp i det riskbaserade ramverket placerar förordningen förbjuden AI-användning, alltså användning som medför en oacceptabel risk för hälsa, säkerhet och grundläggande rättigheter. EU har därmed förbjudit denna användning med verkan från den 2 februari 2025.
I avsnitten nedan går vi igenom vad lagen förbjuder, varför det spelar roll och hur er organisation kan minska risken och följa reglerna.
Exempel på förbjuden AI-användning
- Manipulativ eller vilseledande AI
AI-system som avsiktligt manipulerar mänskligt beteende, känslor eller sårbarheter för att orsaka skada. Exempel är röstbaserad påverkan, känslomässig manipulation i barninnehåll eller att förmå människor till skadliga handlingar. Varför förbjudet: EU:s AI-förordning förbjuder AI som "påverkar mänskligt beteende" eller utnyttjar användares svagheter på sätt som kan orsaka psykisk eller fysisk skada. - AI som utnyttjar sårbara personer
AI-system som riktar sig mot individer eller grupper genom att utnyttja sårbarheter kopplade till ålder, funktionsnedsättning eller socioekonomisk situation. Varför förbjudet: Utnyttjande undergräver den mänskliga värdigheten och strider mot EU:s ramverk för grundläggande rättigheter. - System för social poängsättning
AI-system som bedömer eller rangordnar individer utifrån personligt beteende, socioekonomisk status eller förutspådda egenskaper. Varför förbjudet: Social poängsättning kan leda till diskriminering och undergräva rättvisan, och väcker samma farhågor som massövervakning och sociala kreditsystem i verkligheten. - Prediktivt polisarbete baserat på profilering eller beteende
AI-system som förutspår brottsligt beteende eller potentiell brottslighet utifrån datamönster eller personliga egenskaper. Varför förbjudet: Sådana system kan förstärka snedvridningar, strida mot oskuldspresumtionen och ge diskriminerande utfall. - Känsloigenkänning på arbetsplatser och i utbildning
AI-system som analyserar ansiktsuttryck, röst eller kroppsspråk för att tolka anställdas eller studerandes känslor. Varför förbjudet: Känsloigenkänning inkräktar på integritet och värdighet och kan missbrukas vid prestationsbedömning, rekrytering eller övervakning i klassrummet. - Biometrisk fjärridentifiering i realtid på offentlig plats
AI-system som utför ansiktsigenkänning i realtid eller biometrisk spårning i offentliga utrymmen, särskilt i brottsbekämpande sammanhang. Varför förbjudna: Dessa system hotar integritet och medborgerliga friheter. Vissa snävt definierade undantag gäller för brottsbekämpning med förhandstillstånd från rättsväsendet (t.ex. lokalisering av offer för allvarliga brott). EU:s AI-lag delar in AI-system i fyra riskkategorier.
Att förstå vilken kategori ditt system tillhör är ett av de första stegen mot efterlevnad.
Vad organisationer bör göra
Att veta vilka AI-system som är förbjudna enligt EU:s AI-förordning är första steget mot ansvarsfull AI-styrning. Genom att rensa bort förbjudna användningsområden skyddar er organisation både användarna och sitt anseende, och skapar förtroende, efterlevnad och hållbar innovation.
Även om er organisation inte själv utvecklar AI-system är det avgörande att kontrollera att de leverantörer och tredjepartslösningar ni använder följer reglerna.
Följ checklistan nedan för att säkerställa att ni följer AI-förordningens regler om förbjudna AI-system.
Checklista: så undviker ni förbjuden AI-användning
- Inventera era AI-system
Börja med att kartlägga alla AI-verktyg som används idag och dokumentera deras syfte, datakällor och användare. - Granska efter förbjuden funktionalitet
Kontrollera därefter varje system med avseende på förbjuden funktionalitet, som manipulation, biometrisk spårning på offentlig plats, känsloigenkänning på arbetsplatser eller i utbildning, och social poängsättning. - Skärp era inköpsrutiner
Uppdatera sedan inköpsrutinerna och kräv att leverantörer intygar att de följer EU:s AI-förordning och redovisar relevanta AI-funktioner och avsedd användning. - Utbilda medarbetarna
Ta slutligen med kategorin "oacceptabel risk" i utbildningen om AI-kunnighet och etik, och se till att det är tydligt vem som granskar och godkänner AI-användningsområden.
