Ny rapport: Generativ AI setter grunnleggende rettigheter i spill
Det har vært en eksplosjon av tjenester drevet av kunstig intelligens det siste halvåret. Forbrukerrådet legger nå frem en rekke anbefalinger og krav for å sikre at forbrukernes rettigheter blir ivaretatt.
Det skriver Forbrukerrådet i en pressemelding.
Generativ kunstig intelligens (AI) gjør det enkelt å genere tekst, bilder, lyd og video som ligner på menneskeskapt innhold. Tjenestene er også integrert i plattformer som for eksempel Bing og Snapchat. Samtidig skaper utviklingen store utfordringer for både forbrukere og samfunnet som helhet.
– Bruken av generativ AI skaper en rekke forbrukerutfordringer knyttet til personvern, manipulasjon, personlig integritet, svindel og desinformasjon. Tjenestene er også svært energikrevende, noe som har stor innvirkning på miljø og bærekraft, sier direktør Inger Lise Blyverket i Forbrukerrådet.
– Vi må sikre at utvikling og bruk av generativ kunstig intelligens er trygg, pålitelig og rettferdig. Dessverre har historien vist oss at vi ikke kan ha tiltro til at teknologigigantene ordner dette selv, og at det er behov for regulering som sikrer at våre rettigheter blir ivaretatt.
Ber norske myndigheter komme på banen
Forbrukerrådet og 14 forbrukerorganisasjoner i EU og USA sender rapporten «Ghost in the machine – Addressing the consumer harms of generative AI» og medfølgende krav til nasjonale og europeiske myndigheter og tilsyn.
– Mange av utfordringene vi står ovenfor kan møtes med allerede eksisterende lovgivning. Samtidig forutsetter dette at myndighetene er på ballen, og sikrer at vi har robuste og kompetente tilsyn som følger opp, sier Inger Lise Blyverket.
Europaparlamentet ble den 14. juni enige om forslag til regulering av kunstig intelligens. Saken skal nå videre til forhandlinger med EU-kommisjonen og Ministerrådet.
– Her er det viktig at norske myndigheter ikke blir sittende på gjerdet, og engasjerer seg aktivt i de internasjonale prosessene som pågår. Dette regelverket vil ha stor innvirkning på hvordan denne teknologien blir tatt i bruk.
Anbefalinger fra Forbrukerrådet
I rapporten legger Forbrukerrådet frem en rekke anbefalinger og krav for å sikre trygg, pålitelig og rettferdig bruk av generativ AI.
Gjeldende lover og regler må håndheves
Mange av utfordringene er omfattet av eksisterende lovverk. Myndigheten må se til at disse lovene håndheves effektivt og til forbrukernes beste
Tilsynene må sikres tilstrekkelige ressurser
Tilsynsmyndighetene må ha tilstrekkelige ressurser og kompetanse til å følge utviklingen og føre tilsyn med selskapene som bruker AI.
Forbrukerbeskyttelsen må styrkes
Forbrukere skal ikke være testkaniner for ny teknologi. Det må sikres at bruken av generativ AI er trygg, pålitelig og rettferdig.
Strategier for AI må sette grunnleggende rettigheter i sentrum
Den nasjonale AI-strategien må oppdateres med den siste utviklingen innen AI, og må sette grunnleggende rettigheter i sentrum. Det bør også legges strenge føringer for bruk av generativ kunstig intelligens i offentlig sektor.
Det må utarbeides tilpasset og fremtidsrettet lovverk
Det må utvikles nye regelverk som ivaretar forbrukernes rettigheter i de tilfellene der eksisterende lover ikke er tilstrekkelige.
