Nytt lagförslag mot deepfakes – ska stoppa manipulativ AI

Den spanska regeringen tar nu nästa steg för att begränsa spridningen av manipulerat innehåll skapat med artificiell intelligens.

Som E55 tidigare rapporterat diskuteras AI-regleringen samtidigt på flera nivåer inom Europa.

Nya uppgifter tyder på att delar av den planerade AI-lagstiftningen kan komma att pausas eller omprövas efter oro från näringslivet och teknikutvecklare om konsekvenserna för innovation och konkurrenskraft.

Ett nytt lagförslag ska klassificera så kallade deepfakes som ett intrång i den personliga integriteten och rätten till den egna bilden.

Tidningen elDiario.es skriver att initiativet är en del av den Spanska regeringens bredare arbete för att möta de demokratiska och samhälleliga risker som följer av den snabba teknikutvecklingen.

AI-manipulation ska bli olaglig

Lagförslaget innebär att användning eller spridning av tekniskt skapade eller manipulerade bilder och röster kan betraktas som ett brott mot en persons heder och integritet.

Det gäller även material som framstår som realistiskt, oavsett om det är helt syntetiskt eller bygger på verkliga inspelningar.

Undantag ska finnas för satir, konstnärliga uttryck och fiktion. Men i dessa fall måste det tydligt framgå att innehållet har manipulerats.

Förslaget bygger vidare på tidigare lagstiftning som redan riktar sig mot sexuella deepfakes och grooming av minderåriga.

Nu utvidgas reglerna till att omfatta alla former av AI-manipulation som kan skada en persons anseende.