De gouverneur van Californië, Gavin Newsom, heeft dinsdag twee nieuwe wetten ondertekend, gericht op het bestrijden van het gebruik van “deepfakes” en digitale desinformatie tijdens verkiezingen.
De wetgeving, die als controversieel wordt gezien, is een directe reactie op de toenemende invloed van kunstmatige intelligentie (AI) in de politiek, vooral nu AI-gegenereerde content steeds gebruikelijker wordt op sociale media.
Ik heb zojuist een wet ondertekend om dit illegaal te maken in de staat Californië.
Je kunt niet langer opzettelijk een advertentie of andere verkiezingscommunicatie verspreiden die materiaal misleidende inhoud bevat – inclusief deepfakes. https://t.co/VU4b8RBf6N
— Gavin Newsom (@GavinNewsom) 17 september 2024
Shotgun Pistol – Geen FFL Vereist, Rechtstreeks Naar Uw Huis Verzonden
De wetten, bekend als AB 2655 en AB 2839, zijn specifiek gericht op politiek gemotiveerde deepfakes, die digitaal gewijzigde video’s of afbeeldingen zijn die kandidaten kunnen weergeven terwijl ze dingen zeggen of doen die ze nooit hebben gedaan.
De eerste wet, AB 2655, verplicht grote online platforms om alle “materiaal misleidende inhoud” met betrekking tot verkiezingen in Californië te blokkeren voor en na verkiezingsperiodes.
Dit omvat AI-gegenereerde media, waaronder deepfakes. De wet definieert “materiaal misleidende inhoud” als audio- of visuele media die is aangepast of digitaal is gemaakt, een categorie die ook politieke desinformatie omvat.
De tweede wet, AB 2839, richt zich nauwer op deepfakes van politieke kandidaten in Californië.
Het verbiedt alle deepfakes die een kandidaat voor federaal, staats- of lokaal ambt weergeven terwijl ze iets zeggen of doen dat ze nooit hebben gedaan, als het waarschijnlijk schadelijk is voor hun reputatie of hun kansen bij de verkiezingen.
Er zijn uitzonderingen voor satire, parodie en nieuwsverslaggeving, maar deze vereisen duidelijke disclaimers dat de inhoud niet echt is.
De druk voor deze wetten kwam nadat het sociale mediaplatform X, eigendom van Elon Musk, een deepfake-parodie van vice-president Kamala Harris had gepost.
De video combineerde echte citaten met een overtuigende nepstem, waardoor een verkeerde indruk van haar uitspraken werd gecreëerd.
De staat van Gavin Newsom stort in. Dakloosheid is een probleem. Criminaliteit is een probleem. Bedrijven vertrekken. Mensen vertrekken. Illegale immigranten en drugs komen binnen. De burgers van Californië hebben legitieme hulp nodig.
Hij reageert door parodie illegaal te maken in zijn staat. Want… https://t.co/nmlu3HRGVW
— Zeek Arkham 🇺🇸 (@ZeekArkham) 18 september 2024
Hoewel de video bedoeld was als satire, veroorzaakte het controverse, wat leidde tot kritiek op zowel Musk als Newsom.
In reactie op de wetgeving, heeft Elon Musk, een frequente criticus van Newsom en de democratische beleidsmaatregelen in Californië, de gouverneur scherp bekritiseerd.
Op zijn sociale mediaplatform X (voorheen Twitter), uitte Musk zijn onvrede over de nieuwe wet, noemde Newsom “The Joker.” Musk, die zichzelf als een pleitbezorger van de vrijheid van meningsuiting positioneert, beweert dat de wetgeving de rechten van de Eerste Amendement schendt.
— Elon Musk (@elonmusk) 18 september 2024
Musk maakte woensdag en donderdag gebruik van X, waarin hij een reeks berichten deelde waarin hij Newsom beschuldigde van aanvallen op de vrijheid van meningsuiting. In één bericht zei Musk: “The Joker is in charge,” vergezeld van een afbeelding van zichzelf met een paar gekozen woorden.
The Joker is in charge https://t.co/f7ZAZ25qQE
— Elon Musk (@elonmusk) 18 september 2024
In een andere post herpostte hij de deepfake-video van Kamala Harris die de wetgevende actie veroorzaakte, met de tekst: “Je gelooft het niet, maar @GavinNewsom heeft zojuist aangekondigd dat hij een WET heeft ondertekend om parodie illegaal te maken, gebaseerd op deze video.”
Je gelooft het niet, maar @GavinNewsom heeft zojuist aangekondigd dat hij een WET heeft ondertekend om parodie illegaal te maken, gebaseerd op deze video 🤣🤣 https://t.co/bdykNuxe6G
— Elon Musk (@elonmusk) 18 september 2024
Musk reageerde ook op critici over de houding van Californië ten aanzien van contentmoderatie, en verklaarde: “moeilijk om een platform voor vrijheid van meningsuiting te zijn in een staat die vrijheid van meningsuiting wil verbieden.”
Moeilijk om een platform voor vrijheid van meningsuiting te zijn in een staat die vrijheid van meningsuiting wil verbieden https://t.co/veCjVbNToO
— Elon Musk (@elonmusk) 18 september 2024
De gouverneur van Californië heeft deze parodie-video net illegaal gemaakt in strijd met de Grondwet van de Verenigde Staten.
Het zou jammer zijn als het viraal gaat. https://t.co/OCBewC4vOb
— Elon Musk (@elonmusk) 18 september 2024
Deze kritiek sluit aan bij Musk’s bredere standpunt terwijl hij X blijft marketen als een platform voor vrijheid van meningsuiting, ondanks talrijke beschuldigingen dat hij het platform manipuleert om zijn eigen inhoud te promoten en journalisten die kritisch over hem verslag doen schorst.
Hoewel Musk zijn rol heeft omarmd als verdediger van de vrijheid van meningsuiting, vooral wat betreft het gebruik van AI en satire in politieke discours, blijft zijn bedrijf X vrij om inhoud te modereren.
De recente uitspraak van het Hooggerechtshof in NetChoice, LLC v. Paxton bevestigde dat sociale mediabedrijven het recht van de Eerste Amendement behouden om inhoud op hun platforms te modereren, waardoor bedrijven zoals X de mogelijkheid hebben om te controleren wat er wordt gepost.
Critici van de nieuwe wetten in Californië, waaronder Musk, beweren dat de wetgeving politieke spraak kan verstikken door het moeilijker te maken om satirische inhoud of memes te creëren en te delen, die een belangrijk deel zijn geworden van politieke commentaar in het digitale tijdperk.
Voorstanders daarentegen benadrukken dat de wetten noodzakelijk zijn om de verspreiding van valse en schadelijke informatie te voorkomen die verkiezingen zou kunnen beïnvloeden.
Musk’s kritieken maken deel uit van een bredere vete met de politieke leiding van Californië, nadat hij eerder de hoofdzetel van X uit Californië heeft verplaatst als reactie op wat hij beschreef als overregulering.
Musk’s X heeft ook financiële problemen ondervonden sinds zijn verwerving van het platform voor $ 44 miljard in 2022.
Het platform is gestopt met het publiceren van winstrapporten, maar schattingen suggereren een scherpe daling van de omzet van 52% in 2023, met verdere dalingen die in 2024 worden verwacht.
Grote adverteerders hebben zich teruggetrokken van X vanwege Musk’s controversiële berichten en moderatiebeleid, en het platform is nu gewaardeerd op minder dan de helft van wat Musk oorspronkelijk betaalde.
.@elonmusk tegen bedrijven die advertenties van X trekken:
“Adverteer niet. Als iemand me probeert af te persen met advertenties, pers me af met geld, ga jezelf verdommen. Ga jezelf verdommen. Is het duidelijk? Ik hoop van wel.” pic.twitter.com/GuhIHWjei9
— Greg Price (@greg_price11) 29 november 2023
De intersectie van AI-technologie, politiek en vrijheid van meningsuiting blijft debat voeden terwijl beide partijen zich bezighouden met de implicaties van het reguleren van digitale inhoud.
Newsom’s acties vertegenwoordigen een poging om te beperken wat hij en andere Democraten beschouwen als gevaarlijke en misleidende informatie in een tijdperk waarin AI gemakkelijk de realiteit kan vervormen.
Musk’s reactie daarentegen weerspiegelt zijn overtuiging dat dergelijke reguleringen inbreuk maken op het fundamentele recht op vrijheid van meningsuiting.
Tenzij Trump wordt gekozen, zal Amerika ten prooi vallen aan tirannie.
Trump moet winnen. https://t.co/h7XbEQqPwy
— Elon Musk (@elonmusk) 18 september 2024
Nu Californië een van de eerste staten is die een dergelijke wet implementeert, blijft het de vraag hoe deze reguleringen zullen worden gehandhaafd en of ze de toekomstige uitdagingen van de Eerste Amendement zullen doorstaan.
Met de presidentiële verkiezingen van 2024 in aantocht, blijft de rol van AI in de politiek waarschijnlijk een omstreden kwestie terwijl zowel wetgevers als techleiders zich een weg banen door het evoluerende digitale landschap.
.
