Vår syn på AI-säkerhet

2.1 Bakgrund: AI i detaljhandeln

Detaljhandeln befinner sig i en brytpunkt där teknologiska innovationer möter komplexa samhällsutmaningar. De senaste två decennierna har digitalisering och automatisering radikalt förändrat hur butiker organiseras, bemannas och interagerar med sina kunder. Samtidigt har problemet med butikssvinn – och i synnerhet stölder – förblivit en kostsam och delvis osynlig börda. Enligt europeiska branschstudier utgör stölder en av de största posterna i "osynlig shrinkage", vilket direkt påverkar detaljhandelns lönsamhet, arbetsmiljö och kundupplevelse.

Artificiell intelligens erbjuder här en dubbel potential: dels att förbättra säkerheten genom realtidsanalys av butiksmiljön, dels att bidra till bättre arbetsförhållanden genom att avlasta personal från manuella övervakningsuppgifter. Men AI i övervakningssammanhang är också föremål för särskilt skarpa frågor om integritet, rättssäkerhet och dataskydd.

2.2 Problembilden: Säkerhet kontra integritet

Traditionellt har säkerhetsteknologi inom detaljhandeln byggt på ett kompromissförhållande: ju effektivare övervakning, desto större intrång i individens privatliv. Klassiska lösningar inom videoanalys och molnbaserade AI-tjänster innebär ofta att stora mängder persondata samlas in, lagras och analyseras på externa servrar, vilket kan stå i direkt strid med centrala bestämmelser i GDPR (EU 2016/679).

Flera vanliga metoder strider mot principerna om dataminimering (art. 5.1.c), lagringsbegränsning (art. 5.1.e) och integritet och konfidentialitet (art. 5.1.f). Dessutom introducerar användningen av molnbaserade tjänster ett beroende av globala infrastrukturleverantörer, vilket kan äventyra både rättslig efterlevnad och digital suveränitet.

Samtidigt skärps det regulatoriska landskapet ytterligare genom den kommande EU AI Act, där system för biometrisk identifiering och beteendeanalys i offentliga och halv-offentliga miljöer placeras i kategorin högriskapplikationer (Annex III). För dessa gäller strikta krav på transparens, dokumentation, bias-testning och mänsklig övervakning.

2.3 Preventais position och ursprung

Det är i detta spänningsfält som Preventai AB har sitt ursprung. Företaget växte fram ur forskningsprojekt vid Lunds universitet, där grundarna redan i tidigt skede tränades i att förena teknisk innovation med juridisk och etisk efterlevnad. Den akademiska bakgrunden innebär att Preventais system inte utvecklats utifrån enbart tekniska optimeringsmål, utan genom en medveten metodologi där GDPR, etiska riktlinjer och mänskliga rättigheter integrerats som grundläggande designparametrar.

Från första början ställdes frågan: Hur kan vi bygga ett system som minskar stölder i detaljhandeln utan att någonsin äventyra individens rätt till privatliv? Svaret blev en radikal designprincip: ingen persondata ska lagras, och ingen videoström ska nå molnet. Detta beslut blev inte en kompromiss, utan en arkitektonisk grundregel.

2.4 Syftet med detta whitepaper

• Hur vi operationaliserar GDPR:s principer genom vår arkitektur.
• Hur vår metodologi säkerställer transparens, rättvisa och tillförlitlighet.
• Hur våra samarbeten med institutioner som RISE och EuroHPC bidrar till oberoende validering och europeisk standardisering.
• Hur Preventai kan fungera som modell för en europeisk utvecklingspraktik, där teknisk innovation och mänskliga rättigheter inte står i motsatsförhållande utan samverkar.

På så vis vill vi bidra till både en akademisk och praktisk diskussion om framtiden för AI i detaljhandeln – en framtid där säkerhet inte uppnås på bekostnad av integritet, utan där dessa värden förstärker varandra.

3.1 GDPR som ramverk för AI i detaljhandeln

Den europeiska dataskyddsförordningen (GDPR, EU 2016/679) är den mest omfattande och långtgående regleringen av personuppgifter i världen. För AI-system inom detaljhandeln är vissa principer särskilt centrala:

• Laglighet, korrekthet och transparens (art. 5.1.a): All behandling av personuppgifter måste ske på en rättslig grund och vara begriplig för individen. AI-system som opererar i butiksmiljöer får därför inte behandla data på ett sätt som inte kan förklaras eller granskas.
• Ändamålsbegränsning (art. 5.1.b): Uppgifter får endast samlas in för specifika, uttryckliga och berättigade ändamål. För videoövervakning innebär detta att systemet inte kan återanvända eller vidarebehandla data för sekundära syften, exempelvis marknadsföring.
• Dataminimering (art. 5.1.c): Endast de uppgifter som är absolut nödvändiga får behandlas. Preventais arkitektur är konstruerad för att möta detta krav genom realtidsbearbetning utan lagring.
• Lagringsbegränsning (art. 5.1.e): Personuppgifter får inte lagras längre än nödvändigt. Preventai tar detta till sin yttersta konsekvens: inga data lagras överhuvudtaget.
• Integritet och konfidentialitet (art. 5.1.f): Skydd mot obehörig åtkomst, behandling eller spridning. Genom att eliminera molnöverföring elimineras även de flesta traditionella attackvektorer.

Vidare fastslår artikel 25 – Privacy by Design och Default att skydd för personuppgifter ska byggas in i systemets konstruktion från start. Preventais arkitektur är ett konkret exempel på hur denna princip kan operationaliseras i praktiken.

3.2 EU:s AI-förordning (AI Act)

Den föreslagna AI Act (COM/2021/206) representerar det första heltäckande försöket i världen att skapa en sammanhållen reglering av artificiell intelligens. Syftet är att etablera en harmoniserad rättslig ram inom EU, som både främjar innovation och säkerställer skydd för individers rättigheter. För detaljhandeln är betydelsen särskilt stor eftersom AI-system för biometrisk identifiering, beteendeanalys och övervakning explicit har klassats som högriskapplikationer enligt Annex III, punkt 1 och 6. Detta innebär att de omfattas av de mest strikta kraven i förordningen.

För dessa högriskapplikationer introducerar AI Act en rad centrala skyldigheter. Artikel 9 fastställer ett krav på riskhantering, vilket innebär att systemutvecklare måste kunna identifiera, minimera och löpande hantera risker som kan inverka på individers grundläggande rättigheter. Artikel 10 lägger fokus på datastyrning och föreskriver att tränings-, validerings- och testdata ska vara både relevanta och representativa, samtidigt som de måste vara fria från diskriminerande bias. Detta innebär i praktiken att datakvalitet inte längre är en teknisk fråga enbart, utan också en juridisk skyldighet.

Vidare kräver artikel 13 transparens och förklarbarhet. AI-system måste kunna förklaras på ett begripligt sätt för sina användare, vilket innebär att butikspersonal inte enbart får ett larm utan också en beskrivning av varför systemet reagerat. Artikel 14 introducerar kravet på mänsklig övervakning: högrisk-AI får inte agera helt autonomt utan måste vara föremål för mänsklig kontroll och möjlighet till intervention. Slutligen reglerar artikel 15 aspekter som noggrannhet, robusthet och cybersäkerhet. Här betonas vikten av att systemen kontinuerligt testas och övervakas, med särskild vikt på att minimera falska positiva – ett område där många kommersiella system traditionellt sett har brustit.

Preventais metodik är utformad i linje med dessa krav, inte bara för att uppfylla lagens bokstav, utan för att stärka förtroendet för tekniken. Detta syns tydligt i vår satsning på Explainable AI, som gör att varje systemhändelse kan förklaras och granskas; i våra rutiner för systematisk bias-testning, som möter både artikel 10 och etiska riktlinjer; samt i vårt medvetna beslut att aldrig låta systemet automatiskt klassificera en individ som skyldig till stöld. Vi betraktar AI Act inte som en regulatorisk börda utan som en bekräftelse på den väg vi redan valt att gå.

3.3 Etiska ramverk och mänskliga rättigheter

Utöver de bindande juridiska kraven i GDPR och AI Act är det avgörande att också beakta de bredare etiska ramverk som vuxit fram i Europa och internationellt. Dessa dokument sätter riktlinjer för vad som kan betraktas som pålitlig, rättvis och mänskligt hållbar AI.

EU-kommissionens etiska riktlinjer för pålitlig AI (2019) framhåller sju grundpelare: mänsklig kontroll, teknisk robusthet, transparens, integritet och dataskydd, mångfald och icke-diskriminering, samhällelig och miljömässig nytta samt ansvarsskyldighet. Preventai operationaliserar dessa principer genom att bygga system som aldrig agerar autonomt utan mänsklig övervakning, genom kontinuerlig validering av teknisk prestanda, och genom beslutsloggar som gör systemets agerande spårbart och begripligt.

Vidare har Europarådets konvention 108+ (2018) etablerat skydd för personuppgifter som en mänsklig rättighet. Konventionen betonar särskilt proportionalitet i databehandling – att endast den data som är strikt nödvändig får användas och att riskerna för intrång alltid ska vägas mot nyttan. Preventais arkitektur, där realtidsanalys sker utan någon som helst lagring av data, är ett konkret exempel på hur proportionalitetsprincipen kan förverkligas i praktiken.

Även FN:s vägledande principer för företag och mänskliga rättigheter (UNGPs) har haft en central roll i vårt arbete. De fastslår att företag har ett eget ansvar att respektera mänskliga rättigheter, oberoende av lagstadgade minimikrav. Detta innebär att Preventai inte enbart agerar för att undvika juridiska överträdelser, utan också för att aktivt stärka individens rätt till integritet, rättvisa och värdighet.

I praktiken innebär detta att vi betraktar integritet som en grundläggande rättighet, inte som en funktion som kan förhandlas bort av kommersiella skäl. Det innebär också att vi säkerställer rättvisa genom bias-testning, så att våra system inte diskriminerar utifrån kön, ålder, etnicitet eller andra skyddade attribut. Slutligen innebär det att vi prioriterar ansvar och transparens, där varje beslut kan granskas av både våra kunder och offentliga institutioner.

3.4 Sammanfattning: en dubbelt krävande miljö

Sammanfattningsvis befinner sig AI inom detaljhandeln i en dubbelt krävande miljö. Den är juridiskt reglerad genom GDPR och AI Act, men också etiskt styrd av europeiska och internationella ramverk. Att utveckla system som inte bryter mot dessa regler är en nödvändighet, men det är i sig inte tillräckligt för att bygga förtroende. För att skapa legitimitet krävs ett aktivt åtagande för transparens, rättvisa och respekt för mänskliga rättigheter.

Preventais bidrag är att visa hur detta åtagande kan realiseras i praktiken. Vår metodologi förenar strikt juridisk efterlevnad med etiska riktlinjer som en grundval för innovation. Genom att integrera privacy by design, explainable AI och kontinuerlig validering i varje steg av arkitekturen visar vi att AI-säkerhet inte behöver innebära ett avsteg från integritet, utan kan bli ett verktyg för att förstärka den.

4.1 Ursprung i forskningsprojekt och akademisk metod

Preventais metodologi har sina rötter i forskningsprojekt vid Lunds universitet, där tekniska innovationer alltid har satts i relation till rättsliga och etiska ramverk. Från början präglades utvecklingen av en central frågeställning: hur kan vi konstruera ett AI-system för detaljhandelns säkerhet som både är effektivt och fullständigt förenligt med individens rätt till privatliv enligt GDPR?

Det akademiska ursprunget innebär att vi tidigt internaliserade en metodik som är hypotesdriven, dokumentationsburen och kontinuerligt granskad. Istället för att enbart fokusera på teknisk prestanda har vi genom hela utvecklingsprocessen vägt varje teknologiskt val mot dataskyddsförordningens principer, särskilt artikel 5 (grundläggande principer), artikel 25 (privacy by design and default) samt skäl 39 (proportionalitetsprincipen).

5.1 Privacy by Design – från princip till praktik

Preventai implementerar artikel 25 i GDPR (Privacy by Design och Default) i varje steg av systemets livscykel. Detta innebär att systemet är konstruerat så att integritetsskydd inte bara är en funktion, utan en grundläggande designprincip.

Videoströmmar analyseras i realtid och försvinner omedelbart ur systemet. Ingen rådata eller metadata lagras, vilket gör det tekniskt omöjligt att återskapa eller återanvända materialet i efterhand. Reidentifikationsmodulen arbetar endast med numeriska embeddings – abstrakta representationer som inte kan översättas tillbaka till identifierbara bilder eller profiler. Hela processningen sker på lokalt installerad hårdvara, vilket eliminerar behovet av molnlösningar och därmed även riskerna för obehörig åtkomst eller tredjepartsinblick.

Genom denna konstruktion undviks flera risker som annars är centrala i dataskyddsbedömningar: otillbörlig åtkomst, sekundäranvändning av data och bristande lagringskontroll. Systemet kan därför bedömas som minimalt intrångsgörande, i linje med GDPR:s proportionalitetsprincip (artikel 5.1.a och skäl 39).

5.2 Transparens och förklarbarhet

Transparens är en grundförutsättning för förtroende. Preventais arkitektur är därför utformad så att varje beslut kan spåras, granskas och förklaras. Här spelar SmolVLM-modulen en central roll, eftersom den genererar narrativa beskrivningar av beteendemönster. Detta innebär att butikspersonalen inte bara får en alert utan även en kontext som förklarar varför en viss situation flaggats.

Alla åtgärder loggas med förtroendeskårer, resonemang och tidsangivelser. På begäran kan loggarna delas med tillsynsmyndigheter eller oberoende revisorer, vilket ytterligare stärker systemets legitimitet. På detta sätt operationaliserar Preventai artikel 13 i AI Act, som ställer krav på att högriskapplikationer måste vara transparenta och begripliga för användarna. Vi har dock valt att gå ännu längre genom att även göra beslutslogiken tillgänglig för myndighetsgranskning – ett steg som visar att transparens inte bara är en teknisk funktion, utan en institutionaliserad princip.

5.3 Tillförlitlighet och rättvisa

Ett säkerhetssystem utan tillförlitlighet är meningslöst. Preventai har därför utvecklat ett systematiskt ramverk för testning och validering. Våra modeller genomgår regelbunden bias-testning mot olika miljöer och demografier för att säkerställa att diskriminerande mönster inte uppstår. Detta ligger i direkt linje med artikel 10 i AI Act, som ställer krav på korrekt och representativ datastyrning.

Vi har dessutom implementerat en särskild modul för falsk-positiv-reduktion, som minskar risken för att oskyldiga beteenden tolkas som misstänkta. Detta är centralt för att undvika orättvisa anklagelser mot kunder och för att upprätthålla rättssäkerhet i butiksmiljön. Systemets prestanda övervakas kontinuerligt för att upptäcka degradering innan det får praktiska konsekvenser. Därtill samarbetar vi med externa aktörer som genomför återkommande säkerhets- och kvalitetsgranskningar.

Tillförlitligheten förstärks ytterligare genom vår interna ansvarspolicy: om systemet uppvisar avvikelser som kan äventyra integritet eller korrekthet, pausas driften omedelbart tills problemet är åtgärdat. Detta är en proaktiv strategi för att säkerställa att systemet alltid är robust, rättvist och etiskt hållbart.

5.4 Ansvar och mänsklig kontroll

Preventai erkänner att AI aldrig får ersätta mänskligt ansvar i säkerhetskritiska miljöer. Vårt system är därför utformat som ett beslutsstöd, inte en beslutsfattare. Systemet kan aldrig självständigt klassificera en individ som "snattare" eller brottsling. Istället tillhandahåller det notifieringar med kontext, där butikspersonalen får den information som behövs för att göra en egen bedömning.

Detta synsätt är i linje med artikel 14 i AI Act, som kräver mänsklig övervakning, samt med GDPR:s princip om rättvisa (artikel 5.1.a). Vår arkitektur respekterar därmed den grundläggande rättssäkerhetsprincipen: ingen individ ska betraktas som skyldig förrän en faktisk handling har skett och en människa gjort bedömningen.

5.5 Kontinuerlig förbättring och dokumentation

Preventai betraktar AI-säkerhet som en pågående process, inte som en slutprodukt. Detta innebär att förbättring, testning och dokumentation är en del av den dagliga utvecklingskulturen. Vi tar fram och offentliggör säkerhetsdokumentation som redogör för metodologi, testresultat och revisioner. Våra processer är designade enligt en compliance-by-design-modell, vilket innebär att vi inte bara uppfyller gällande krav utan också förbereder oss för de kommande skyldigheterna i AI Act, såsom teknisk dokumentation och riskhantering.

Genom våra partnerskap med RISE (Research Institutes of Sweden) och EuroHPC valideras våra metoder kontinuerligt av externa forsknings- och industriparter. Detta säkerställer att systemet inte är en sluten företagslösning, utan ett öppet och granskningsbart ramverk.

5.6 Sammanfattning: praktikens konsekvens

Preventais säkerhetsprinciper är inte deklarationer för marknadsföring, utan operativa mekanismer som genomsyrar både arkitektur, drift och företagskultur. Genom privacy by design, transparens, tillförlitlighet, ansvar och kontinuerlig förbättring realiserar vi en modell där AI för butikssäkerhet är juridiskt kompatibel, etiskt hållbar och tekniskt pålitlig.

Det är i denna praktiska konsekvens som Preventai skiljer sig från många andra aktörer. Vi har byggt ett system som inte enbart påstår sig följa GDPR och AI Act, utan där efterlevnaden är förankrad i själva konstruktionen. Preventai representerar därmed ett exempel på hur AI-säkerhet kan implementeras på ett sätt där lagens bokstav och etikens anda möts i praktiken.

6.1 Eliminering av centrala risker

Preventais arkitektur har tydligt visat att det är fullt möjligt att förena AI-baserad säkerhet med en strikt respekt för GDPR och den kommande AI Act. De vanligaste riskerna som länge förknippats med videoanalys – dataintrång, obehörig åtkomst, molnberoende och felaktiga klassificeringar – har systematiskt eliminerats genom vår metodologi.

Eftersom varken råvideo eller metadata lagras finns det helt enkelt ingen information att exponera i händelse av en säkerhetsincident. Genom att utesluta molnprocessning och istället enbart använda lokalt installerad hårdvara har vi förhindrat både överföringsrisker och den potentiella åtkomst som tredjepartsleverantörer annars skulle kunna ha. Därutöver reduceras risken för felaktiga anklagelser av en särskild modul för falsk-positiv-reduktion, vilket innebär att oskyldiga beteenden inte felaktigt tolkas som misstänkta. På detta sätt representerar Preventais system en praktisk implementation av GDPR:s grundprinciper, inte bara i teori utan i faktisk drift.

6.2 Integritet och säkerhet kan samexistera

En av de mest betydelsefulla lärdomarna är att säkerhet och integritet inte behöver stå i konflikt. Historiskt har detaljhandeln ofta betraktat dessa mål som oförenliga: effektiv övervakning har inneburit intrång i privatlivet. Preventais modell visar motsatsen.

Genom realtidsanalys och dataminimering blir övervakningen mer effektiv eftersom systemet fokuserar enbart på relevanta händelser, samtidigt som individens integritet skyddas. Med edge computing ökar driftssäkerheten och latensen minskar, samtidigt som dataskyddet stärks genom att ingen information lämnar butiken. Slutligen innebär användningen av explainable AI att butikspersonal får kontextuella förklaringar till notifieringar, vilket inte bara förbättrar beslutsunderlaget för säkerhetspersonal utan också förstärker spårbarheten och förtroendet för systemet. Resultatet är ett system som både ökar skyddet mot stölder och stärker kundernas tillit till butikens verksamhet.

6.3 Juridisk och regulatorisk robusthet

Preventais metodik har också visat sig vara robust i förhållande till nuvarande och framtida regelverk. Vårt system uppfyller centrala delar av GDPR:s kärna: dataminimering (art. 5.1.c), lagringsbegränsning (art. 5.1.e), transparens (art. 5.1.a) och privacy by design (art. 25). Redan nu adresserar vi även de kommande kraven i AI Act, inklusive riskhantering (art. 9), datastyrning (art. 10), transparens (art. 13), mänsklig övervakning (art. 14) och krav på noggrannhet, robusthet och cybersäkerhet (art. 15).

Utöver de juridiska ramarna är vår metod i linje med de etiska riktlinjer för tillförlitlig AI som EU-kommissionen publicerade 2019. Genom systematisk bias-testning, ansvarsmekanismer och garanterad mänsklig kontroll lever vi upp till principer om rättvisa, icke-diskriminering och transparens. Detta innebär att Preventai inte enbart är compliant i nuläget, utan också framtidssäkrat i relation till den regulatoriska utvecklingen.

6.4 Affärsmässiga effekter

Det har också blivit tydligt att en strikt GDPR-förankrad metodik inte bara är en juridisk nödvändighet utan även en affärsmässig styrka. Genom att kunna visa för både kunder och anställda att butikens säkerhetssystem respekterar integriteten ökar förtroendet för verksamheten. Samtidigt minskar de legala riskerna dramatiskt, eftersom avsaknaden av datalagring och molnöverföringar innebär att sannolikheten för GDPR-relaterade sanktioner är minimal.

Edge computing bidrar dessutom till systemets skalbarhet. Eftersom lösningen inte är beroende av externa molnplattformar kan den implementeras brett i olika butiker utan att skapa nya juridiska eller tekniska risker. Detta gör Preventais system inte bara etiskt och juridiskt hållbart, utan också affärsmässigt konkurrenskraftigt.

6.5 Akademiska och tekniska lärdomar

Preventais ursprung i forskningsmiljön vid Lunds universitet har också format vår förståelse av hur akademisk disciplin kan kombineras med industriell innovation. Vi har dragit slutsatsen att dessa två dimensioner inte står i motsats till varandra, utan snarare förstärker varandra.

Den akademiska bakgrunden har präglat vårt utvecklingsarbete genom vetenskaplig metodik, hypotesprövning, systematisk dokumentation och en öppenhet för extern granskning. Samtidigt har vi anpassat arkitekturen till de krav och begränsningar som råder i faktiska butiksmiljöer, där robusthet, användbarhet och snabb återkoppling är avgörande. Kombinationen av avancerade AI-moduler såsom YOLOv8 för detektion och SmolVLM för captioning, tillsammans med ett starkt juridiskt och etiskt ramverk, visar att innovation inte behöver ske på bekostnad av integritet. Tvärtom kan de förstärka varandra.

6.6 Sammanfattning

Sammanfattningsvis visar Preventais arbete att risker kan elimineras vid källan genom att data varken lagras eller överförs, att säkerhet och integritet är förenliga genom rätt arkitektur, och att regulatorisk robusthet inte är en begränsning utan en konkurrensfördel. Slutligen visar vi att en kombination av akademisk metod och industriell tillämpning kan skapa innovationer som är tekniskt avancerade, juridiskt förankrade och etiskt hållbara.

Preventai är därför inte enbart en leverantör av säkerhetssystem, utan också en modell för hur GDPR-kompatibel AI kan utformas i praktiken.