Onsdag vedtog Europa-Parlamentet Lovgivningen om Kunstig Intelligens, der sikrer sikkerhed og overholdelse af grundlæggende rettigheder, samtidig med at den fremmer innovation. Lovgivningen, som blev aftalt i forhandlinger med medlemsstaterne i december 2023, blev godkendt af MEP’erne med 523 stemmer for, 46 imod og 49 hverken for eller imod.
Formålet med reguleringen er at beskytte grundlæggende rettigheder, demokrati, retsstaten og miljømæssig bæredygtighed mod højrisiko AI, samtidig med at innovation fremmes, og Europa etableres som førende på området. Reguleringen fastlægger forpligtelser for AI baseret på dens potentielle risici og niveau af indvirkning. Vi skrev tidligere om AI-ACT.
Forbudte AI APPS / AI applikationer
De nye regler forbyder visse AI-applikationer, der truer borgernes rettigheder, herunder biometriske kategoriseringssystemer baseret på følsomme karakteristika og scanninger af ansigtsbilleder fra internettet eller CCTV-optagelser for at skabe ansigtsgenkendelsesdatabaser.
Her er det alene Politiet der må benytte applikationer såsom BRIEFCAM til at scanner overvågninger, for politimæssig identificering via overvågningsvideoer m.v. for genkendelser og match m.v. for at kunne placer en gerningsmand på et sted og tid jf. videoselskabet VIDEO A/S AISTRA.NET
Emotionsgenkendelse på arbejdspladsen og i skoler, social scoring, forudsigende politiarbejde (når det udelukkende er baseret på profilering af en person eller vurdering af deres karakteristika), og AI, der manipulerer menneskelig adfærd eller udnytter folks sårbarheder, vil også blive forbudt.
Her siger Aistra at det allerede er tilladt at have f.eks. kendte butikstyve i en database og alarmerer hvis der er et “hit” i databasen, i det denne ville mistænkes for f.eks. brugstyveri og anden kriminalitet.
Undtagelser for retshåndhævelse hos POlitiet
Brugen af biometriske identifikationssystemer (RBI) af retshåndhævelsen er i princippet forbudt, undtagen i udtømmende opregnede og snævert definerede situationer.
“Realtids” RBI kan kun anvendes, hvis strenge sikkerhedsforanstaltninger overholdes, f.eks. er dets brug begrænset i tid og geografisk omfang og underlagt specifik forudgående retslig eller administrativ autorisation. Sådanne anvendelser kan for eksempel omfatte en målrettet søgning efter en savnet person eller forebyggelse af et terrorangreb.
Brug af sådanne systemer efterfølgende (“post-remote RBI”) betragtes som en højrisikoanvendelse, der kræver retslig autorisation knyttet til en kriminel handling.
Forpligtelser for højrisikosystemer
Der er også fastsat klare forpligtelser for andre højrisikosystemer inden for AI (på grund af deres betydelige potentielle skade på sundhed, sikkerhed, grundlæggende rettigheder, miljø, demokrati og retsstaten). Eksempler på højrisiko AI-anvendelser inkluderer kritisk infrastruktur, uddannelse og erhvervsuddannelse, beskæftigelse, væsentlige private og offentlige tjenester (f.eks. sundhedspleje, bankvæsen), visse systemer inden for retshåndhævelse, migration og grænseforvaltning, retsvæsen og demokratiske processer (f.eks. påvirkning af valg).
Sådanne systemer skal vurdere og reducere risici, opretholde logfiler, være gennemsigtige og nøjagtige samt sikre menneskelig tilsyn. Borgere vil have ret til at indgive klager over AI-systemer og modtage forklaringer på beslutninger baseret på højrisiko AI-systemer, der påvirker deres rettigheder.
Onsdagen bød på en historisk milepæl inden for kunstig intelligens, da Parlamentet vedtog Kunstig Intelligens-loven, der skal sikre sikkerhed og overholdelse af grundlæggende rettigheder samtidig med, at innovation fremmes. Loven, som blev aftalt i forhandlinger med medlemsstaterne i december 2023, modtog bred opbakning med 523 stemmer for, 46 imod og 49 hverken for eller imod. Dette lovgivningsmæssige skridt markerer et afgørende øjeblik i bestræbelserne på at beskytte grundlæggende rettigheder, demokrati, retsstaten og miljømæssig bæredygtighed mod højrisiko-KI, samtidig med at Europa positioneres som en førende aktør på området.
Forbud mod bestemte anvendelser af AI
Den nye lovgivning forbyder specifikke anvendelser af kunstig intelligens, der truer borgernes rettigheder. Dette inkluderer biometriske kategoriseringssystemer baseret på følsomme karakteristika og vilkårlig indsamling af ansigtsbilleder fra internettet eller CCTV-optagelser til oprettelse af ansigtsgenkendelsesdatabaser. Forbudene omfatter også følelsesmæssig genkendelse på arbejdspladser og i skoler, social scoring, prædiktiv politiarbejde (når det udelukkende baseres på profilering af en person eller vurdering af deres karakteristika), samt AI, der manipulerer menneskelig adfærd eller udnytter folks sårbarheder.
Undtagelser for retshåndhævelse
Princippet forbyder brugen af biometriske identifikationssystemer af retshåndhævelsen, medmindre det er i udtømmende opregnede og snævert definerede situationer. Anvendelsen af “real-time” biometrisk identifikation kan kun iværksættes, hvis strenge sikkerhedsforanstaltninger er opfyldt, f.eks. begrænset i tid og geografisk omfang og underlagt specifik forudgående retslig eller administrativ godkendelse. Dette kan inkludere målrettet søgning efter en savnet person eller forebyggelse af et terrorangreb.
Forpligtelser for højrisikosystemer
Der er også fastsat klare forpligtelser for andre højrisiko AI-systemer på grund af deres betydelige potentielle skade på sundhed, sikkerhed, grundlæggende rettigheder, miljø, demokrati og retsstaten. Eksempler på højrisikoanvendelser af AI inkluderer kritisk infrastruktur, uddannelse og erhvervsuddannelse, beskæftigelse, essentielle private og offentlige tjenester (f.eks. sundhedspleje, bankvæsen), visse systemer inden for retshåndhævelse, migration og grænsestyring, retsvæsen og demokratiske processer (f.eks. påvirkning af valg). Sådanne systemer skal vurdere og reducere risici, vedligeholde brugslogfiler, være gennemsigtige og nøjagtige samt sikre menneskelig tilsyn. Borgere vil have ret til at indgive klager over AI-systemer og modtage forklaringer om beslutninger baseret på højrisiko AI-systemer, der påvirker deres rettigheder.
Krav om gennemsigtighed
Generelle AI-systemer (GPAI) og de GPAI-modeller, de er baseret på, skal opfylde visse gennemsigtighedskrav, herunder overholdelse af EU’s ophavsretslovgivning og offentliggørelse af detaljerede resuméer af det indhold, der er anvendt til træning. De kraftigere GPAI-modeller, der kunne udgøre systemiske
risici, vil stå over for yderligere krav, herunder udførelse af modelvurderinger, vurdering og afbødning af systemiske risici samt rapportering om hændelser.
Desuden skal kunstigt eller manipuleret billed-, lyd- eller videomateriale (“deepfakes”) tydeligt mærkes som sådan.
Foranstaltninger til støtte for innovation og SMV’er
Reguleringsmæssige sandkasser og test i den virkelige verden skal etableres på nationalt niveau og gøres tilgængelige for SMV’er og startups for at udvikle og træne innovativ AI, før den placeres på markedet.
Citater
Under plenardebatten tirsdag sagde det indre markedsudvalgs medordfører Brando Benifei (S&D, Italien): “Vi har endelig verdens første bindende lov om kunstig intelligens, for at reducere risici, skabe muligheder, bekæmpe diskrimination og bringe gennemsigtighed.
Takket være Parlamentet vil uacceptable AI-praksisser blive forbudt i Europa, og arbejdstageres og borgeres rettigheder vil blive beskyttet. AI-kontoret vil nu blive oprettet for at støtte virksomheder med at overholde reglerne, før de træder i kraft. Vi sikrede, at menneskelige væsener og europæiske værdier er i centrum af AI’s udvikling”.
Medordfører for Udvalget om Borgerlige Frihedsrettigheder Dragos Tudorache (Forny, Rumænien) sagde: “EU har leveret. Vi har knyttet konceptet kunstig intelligens til de grundlæggende værdier, der danner grundlaget for vores samfund. Der ligger dog meget arbejde forude, der går ud over selve AI-loven.
AI vil presse os til at genoverveje den sociale kontrakt i hjertet af vores demokratier, vores uddannelsesmodeller, arbejdsmarkeder og den måde, vi fører krig på. AI-loven er et udgangspunkt for en ny model for governance bygget op omkring teknologi. Vi må nu fokusere på at sætte denne lov i praksis”.
Næste skridt
Reguleringen er stadig underlagt en endelig juridisk-sproglig kontrol og forventes endeligt vedtaget før udgangen af lovgivningsperioden (gennem den såkaldte korrekturprocedure). Loven skal også formelt godkendes af Rådet.
Den træder i kraft tyve dage efter offentliggørelsen i Den Europæiske Unions Tidende og vil være fuldt anvendelig 24 måneder efter ikrafttrædelsen, bortset fra: forbud mod forbudte praksisser, som vil gælde seks måneder efter ikrafttrædelsesdatoen; adfærdskodekser (ni måneder efter ikrafttrædelsen); regler for generel AI, herunder styring (12 måneder efter ikrafttrædelsen); og forpligtelser for højrisikosystemer (36 måneder).
KONTROL MED AI SYSTEMER
Kunstig Intelligens-loven svarer direkte på borgernes forslag fra Konferencen om Europas Fremtid (COFE), mest konkret til forslag 12(10) om at styrke EU’s konkurrenceevne i strategiske sektorer, forslag 33(5) om et sikkert og pålideligt samfund, inklusiv bekæmpelse af misinformation og sikring af, at mennesker i sidste ende har kontrollen, forslag 35 om fremme af digital innovation, mens man sikrer menneskelig tilsyn og (8) pålidelig og ansvarlig brug af AI, oprettelse af sikkerhedsforanstaltninger og sikring af gennemsigtighed, og forslag 37 (3) om brug af AI og digitale værktøjer til at forbedre borgernes adgang til information, inklusive personer med handicap.
Hvad er AI ACT og hvorfor er det nødvendigt?
AI-loven (Artificial Intelligence Act) repræsenterer et ambitiøst lovgivningsinitiativ fra Den Europæiske Union, der har til formål at regulere brugen af kunstig intelligens (AI) på tværs af medlemslandene. Dette er et vigtigt skridt i erkendelsen af, at AI-teknologier spiller en stadig større rolle i mange aspekter af vores dagligdag, erhvervsliv og offentlig forvaltning. Loven sigter mod at skabe en balance mellem at fremme innovation og teknologisk udvikling, samtidig med at man sikrer borgernes rettigheder og beskyttelse mod potentielle skader eller misbrug gennem AI-systemer.
Hvorfor er AI-loven nødvendig?
AI-teknologi har potentialet til at bringe betydelige fordele, men også udfordringer og risici, specielt når det kommer til spørgsmål om privatliv, sikkerhed, etik og grundlæggende rettigheder. Her er nogle af de hovedgrunde, der gør AI-loven nødvendig:
- Beskyttelse af grundlæggende rettigheder: For at sikre, at anvendelsen af AI ikke krænker menneskerettighederne eller fører til diskrimination. Dette inkluderer spørgsmål om privatliv, retten til at blive glemt, og beskyttelse mod uretfærdig behandling eller overvågning.
- Sikkerhed og ansvarlighed: For at etablere klare rammer for, hvordan AI-systemer skal udvikles, implementeres og bruges sikkert, samt hvem der er ansvarlig, når noget går galt.
- Fremme af tillid og accept: Ved at skabe en regulativ ramme, der fremmer gennemsigtighed og forudsigelighed, kan offentligheden føle sig sikker ved brugen af AI, hvilket er afgørende for teknologiens accept og integration i samfundet.
- Støtte innovation: Ved at definere regler og standarder for udvikling og anvendelse af AI hjælper loven med at skabe et sikkert og retfærdigt marked for virksomheder og startups, som ønsker at udvikle AI-teknologier.
- Adressere etiske bekymringer: AI kan rejse komplekse etiske spørgsmål, især når det gælder autonom beslutningstagning. Lovgivningen sikrer, at der tages hensyn til etiske overvejelser i udviklingen og brugen af AI.
AI-loven markerer et vigtigt skridt fremad i at skabe en samlet tilgang til regulering af AI på tværs af EU, hvilket er afgørende, da teknologien ikke kender nationale grænser. Ved at sætte standarder for sikker og etisk anvendelse af AI, arbejder EU for at beskytte sine borgere, samtidig med at man støtter den digitale økonomi og innovation.
Final Draft AI ACT FulD UDGAVE
Her er den komplette version der blev stemt om og vedtaget med et overvældende flertal.
Kilde: Advokat og Revisor Samvirket, AORS.DK
Fotokredit: stock.adobe.com
Copyrights: Ⓒ 2024 Copyright by https://AORS.DK – kan deles ved aktivt link til denne artikel.
