WASHINGTON — De campagne van president Joe Biden en de Democratische kandidaten zijn in een koortsachtige race met de Republikeinen verwikkeld over wie het potentieel van kunstmatige intelligentie het beste kan benutten, een technologie die de Amerikaanse verkiezingen zou kunnen transformeren – en misschien wel de democratie zelf zou kunnen bedreigen.
De democratische strategen zijn nog steeds bang dat ze in 2016 op de sociale media te slim af zijn geweest door Donald Trump en zijn bondgenoten, maar zeggen dat ze niettemin voorzichtig te werk gaan bij het omarmen van instrumenten die deskundigen op het gebied van desinformatie lastig vallen. Tot nu toe zeiden de Democraten dat ze AI vooral gebruiken om kiezers te vinden en te motiveren en misleidende inhoud beter te identificeren en te overwinnen.
″Kandidaten en strategen proberen nog steeds uit te vinden hoe ze AI in hun werk kunnen gebruiken. Mensen weten dat het hen tijd kan besparen – de meest waardevolle hulpbron waarover een campagne beschikt”, zegt Betsy Hoover, directeur digitale organisatie voor de campagne van president Barack Obama in 2012 en medeoprichter van het vooruitstrevende durfkapitaalbedrijf Higher Ground Labs. “Maar ze zien het risico van desinformatie en hebben bewust nagedacht over waar en hoe ze die in hun werk gebruiken.”
Campagnes bij beide partijen maken al jaren gebruik van AI – krachtige computersystemen, software of processen die aspecten van menselijk werk en cognitie nabootsen – om gegevens te verzamelen en te analyseren.
De recente ontwikkelingen op het gebied van supercharged generatieve AI hebben kandidaten en consultants echter de mogelijkheid gegeven om tekst en afbeeldingen te genereren, menselijke stemmen te klonen en video te maken met een ongekend volume en snelheid.
Dat heeft ertoe geleid dat desinformatie-experts steeds ernstiger waarschuwingen hebben afgegeven over de risico's die voortvloeien uit het vermogen van AI om onwaarheden te verspreiden die kiezers zouden kunnen onderdrukken of misleiden, of aanzetten tot geweld, hetzij in de vorm van robocalls, posts op sociale media of nepbeelden en video.
Deze zorgen kregen urgentie na spraakmakende incidenten, waaronder de verspreiding van door AI gegenereerde beelden van de arrestatie van voormalig president Donald Trump in New York en een door AI gecreëerde robocall die de stem van Biden nabootste en de kiezers in New Hampshire vertelde geen stem uit te brengen.
De regering-Biden heeft geprobeerd de regulering van AI vorm te geven door middel van uitvoerend optreden, maar de Democraten zijn het er in overweldigende mate over eens dat het Congres wetgeving moet aannemen om waarborgen rond de technologie te installeren.
Toptechnologiebedrijven hebben enkele stappen ondernomen om het onbehagen in Washington te onderdrukken door een toezegging aan te kondigen om zichzelf te reguleren. Grote AI-spelers zijn bijvoorbeeld een pact aangegaan om het gebruik van door AI gegenereerde deepfakes over de hele wereld te bestrijden. Maar sommige experts zeiden dat de vrijwillige inspanning grotendeels symbolisch is en dat actie van het Congres nodig is om AI-misbruik te voorkomen.
Ondertussen hebben campagnes en hun adviseurs over het algemeen vermeden te praten over de manier waarop zij AI willen gebruiken om controle te vermijden en bedrijfsgeheimen prijs te geven.
De Democratische Partij is “veel beter geworden in het gewoon zwijgen, het werk doen en er later over praten”, zegt Jim Messina, een ervaren democratische strateeg die leiding gaf aan Obama's winnende herverkiezingscampagne.
De Trump-campagne zei in een verklaring dat het “een reeks eigen algoritmische hulpmiddelen gebruikt, net als veel andere campagnes in het hele land, om e-mails efficiënter te bezorgen en te voorkomen dat aanmeldingslijsten worden gevuld met valse informatie.” Woordvoerder Steven Cheung zei ook dat de campagne geen gebruik maakte van de tools van een AI-bedrijf, en weigerde verder commentaar te geven.
Het Republikeinse Nationale Comité, dat weigerde commentaar te geven, heeft geëxperimenteerd met generatieve AI. In de uren nadat Biden vorig jaar zijn herverkiezingsbod had aangekondigd, bracht de RNC een advertentie uit waarin gebruik werd gemaakt van door kunstmatige intelligentie gegenereerde beelden om de dystopische angst van de Republikeinse partij voor een tweede Biden-termijn weer te geven: China valt Taiwan binnen, dichtgetimmerde winkelpuien, troepen langs Amerikaanse stadsstraten en migranten die oversteken de Amerikaanse grens.
Een belangrijke Republikeinse kampioen van AI is Brad Parscale, de digitale consultant die in 2016 samenwerkte met het door schandalen geteisterde Cambridge Analytica, een Brits dataminingbedrijf, om gebruikers van sociale media te hypertargeten. De meeste strategen zijn het erover eens dat de Trump-campagne en andere Republikeinen tijdens die cyclus beter gebruik hebben gemaakt van sociale media dan de Democraten.
Getekend door de herinneringen aan 2016, de Biden-campagne, worstelen Democratische kandidaten en progressieven met de kracht van kunstmatige intelligentie en zijn ze nerveus omdat ze de Republikeinse partij niet kunnen bijhouden bij het omarmen van de technologie, zo blijkt uit interviews met consultants en strategen.
Ze willen het gebruiken op een manier die de mogelijkheden ervan maximaliseert, zonder ethische grenzen te overschrijden. Maar sommigen zeiden dat ze vrezen dat het gebruik ervan zou kunnen leiden tot beschuldigingen van hypocrisie – ze hebben Trump en zijn bondgenoten al lang gehekeld vanwege hun betrokkenheid bij desinformatie, terwijl het Witte Huis prioriteit heeft gegeven aan het beteugelen van misbruik in verband met AI.
De Biden-campagne zei dat het AI gebruikt om doelgroepen te modelleren en op te bouwen, e-mailkopieën op te stellen en te analyseren en inhoud te genereren die vrijwilligers in het veld kunnen delen. De campagne test ook het vermogen van AI om vrijwilligers te helpen bij het categoriseren en analyseren van een groot aantal gegevens, waaronder aantekeningen die vrijwilligers maken na gesprekken met kiezers, of ze nu aan de deur kloppen of per telefoon of sms.
Er is geëxperimenteerd met het gebruik van AI om fondsenwervende e-mails te genereren, die soms effectiever zijn gebleken dan door mensen gegenereerde e-mails, aldus een campagnefunctionaris die sprak op voorwaarde van anonimiteit omdat hij niet bevoegd was om AI publiekelijk te bespreken.
Biden-campagnefunctionarissen zeiden dat ze van plan zijn om deze cyclus generatieve AI te gaan gebruiken, maar dat ze zich bij de inzet ervan aan strikte regels zullen houden. Een van de tactieken die verboden terrein is: AI kan niet worden gebruikt om kiezers te misleiden, desinformatie en zogenaamde deepfakes te verspreiden, of opzettelijk afbeeldingen te manipuleren. De campagne verbiedt ook het gebruik van door AI gegenereerde inhoud in advertenties, sociale media en andere soortgelijke teksten zonder beoordeling door een personeelslid.
Het juridische team van de campagne heeft een taskforce van advocaten en externe experts opgericht om te reageren op desinformatie en desinformatie, met de nadruk op door AI gegenereerde afbeeldingen en video's. De groep lijkt op een intern team dat in de campagne van 2020 is gevormd – bekend als de ‘Malarkey Factory’, waarbij Biden’s vaak gebruikte zinsnede ‘Wat een stelletje malarkey’ wordt gespeeld.
Die groep kreeg de taak om in de gaten te houden welke desinformatie online terrein won. Rob Flaherty, de plaatsvervangend campagneleider van Biden, zei dat deze inspanningen zouden worden voortgezet en suggereerde dat sommige AI-tools kunnen worden gebruikt om deepfakes en andere soortgelijke inhoud te bestrijden voordat deze viraal gaan.
“De instrumenten die we gaan gebruiken om de mythen en desinformatie te ondermijnen zijn dezelfde, maar het zal alleen in een hoger tempo moeten gebeuren,” zei Flaherty. “Het betekent alleen dat we waakzamer moeten zijn, meer aandacht moeten besteden, de zaken op verschillende plaatsen moeten monitoren en een aantal nieuwe tools moeten uitproberen, maar de fundamenten blijven hetzelfde.”
Het Democratische Nationale Comité zei dat het een early adopter was van Google AI en een aantal van de functies ervan gebruikt, waaronder functies die kiezersregistratiegegevens analyseren om patronen van verwijdering of toevoeging van kiezers te identificeren. Volgens de commissie heeft het ook geëxperimenteerd met AI om e-mailteksten voor fondsenwerving te genereren en om kiezersgegevens te helpen interpreteren die het al tientallen jaren verzamelt.
Arthur Thompson, de chief technology officer van de DNC, zei dat de organisatie gelooft dat generatieve AI een “ongelooflijk belangrijke en impactvolle technologie” is om Democraten op en neer te helpen bij het stemmen.
“Tegelijkertijd is het essentieel dat AI op verantwoorde wijze wordt ingezet en het werk van ons opgeleide personeel verbetert en niet vervangt. We kunnen en moeten beide doen, en daarom zullen we de veiligheidsmaatregelen blijven handhaven terwijl we voorop blijven lopen”, zei hij.
Progressieve groepen en sommige Democratische kandidaten experimenteren agressiever met AI.
Higher Ground Labs – het durfkapitaalbedrijf mede opgericht door Hoover – heeft een innovatiehub opgericht die bekend staat als Progressive AI Lab met Zinc Collective en het Cooperative Impact Lab, twee politieke technologiecoalities die zich richten op het stimuleren van Democratische kandidaten.
Het doel was om een ecosysteem te creëren waarin progressieve groepen innovatie konden stroomlijnen, AI-onderzoek konden organiseren en informatie over grote taalmodellen konden uitwisselen, aldus Hoover.
Higher Ground Labs, dat ook nauw samenwerkt met de Biden-campagne en DNC, heeft sindsdien veertien innovatiesubsidies gefinancierd, forums georganiseerd waar organisaties en leveranciers hun tools kunnen presenteren en tientallen AI-trainingen gehouden.
Meer dan 300 mensen woonden een AI-gerichte conferentie bij die de groep in januari hield, zei Hoover.
Jessica Alter, mede-oprichter en voorzitter van Tech for Campaigns, een politieke non-profitorganisatie die data en digitale marketing gebruikt om extremisme te bestrijden en Democraten te helpen stemmen, voerde vorig jaar een AI-ondersteund experiment uit in 14 campagnes in Virginia.
E-mails geschreven door AI leverden volgens Alter drie tot vier keer meer geld op voor fondsenwerving per werkuur vergeleken met e-mails geschreven door personeel.
Alter zei dat ze bang is dat de partij op het gebied van AI achterop raakt omdat ze te voorzichtig is.
“Ik begrijp de nadelen van AI en we moeten ze aanpakken”, zei Alter. “Maar de grootste zorg die ik op dit moment heb, is dat angst het gesprek in de politieke arena domineert en dat dat niet leidt tot evenwichtige gesprekken of nuttige uitkomsten.”
Rep. Adam Schiff, de Democratische koploper in de race voor de Senaat in Californië, is een van de weinige kandidaten die open zijn geweest over het gebruik van AI. Zijn campagnemanager, Brad Elkins, zei dat de campagne AI gebruikt om de efficiëntie te verbeteren. Het heeft samengewerkt met Quiller, een bedrijf dat financiering ontving van Higher Ground Labs, en een tool ontwikkeld die e-mails over fondsenwerving opstelt, analyseert en automatiseert.
De Schiff-campagne heeft ook geëxperimenteerd met andere generatieve AI-tools. Tijdens een inzamelingsactie afgelopen mei deelde Schiff online een door AI gegenereerd beeld van zichzelf als een Jedi. Het onderschrift luidde: ‘De Force is overal om ons heen. Jij bent het. Wij zijn het. Het is dit basisteam. #MayThe4thBeWithYou.”
De campagne kreeg online te maken met terugslag, maar was transparant over de luchthartige deepfake, die volgens Elkins een belangrijke vangrail is voor de integratie van de technologie naarmate deze breder beschikbaar en goedkoper wordt.
“Ik ben nog steeds op zoek naar een manier om op ethisch verantwoorde wijze gebruik te maken van door AI gegenereerde audio en video van een kandidaat die oprecht is,” zei Elkins, eraan toevoegend dat het moeilijk is om vooruitgang voor te stellen totdat er bereidheid is om de gevolgen van misleidende kunstmatige intelligentie te reguleren en in wetgeving vast te leggen.
Het incident benadrukte een uitdaging waarmee alle campagnes lijken te worden geconfronteerd: zelfs praten over AI kan verraderlijk zijn.
“Het is heel moeilijk om het verhaal te vertellen over hoe generatieve AI per saldo positief is als zoveel slechte actoren – of dat nu robocalls, nepbeelden of valse videoclips zijn – de slechte AI-technieken tegen ons gebruiken”, zegt een Democratische strateeg die dichtbij ons staat. de Biden-campagne, die anonimiteit kreeg omdat hij niet bevoegd was om in het openbaar te spreken. “Hoe praat je over de voordelen van een AK-47?”
___
Associated Press-schrijvers Alan Suderman en Garance Burke hebben bijgedragen aan dit rapport.
—-
Dit verhaal maakt deel uit van een serie van Associated Press, ‘The AI Campaign’, waarin de invloed van kunstmatige intelligentie in de verkiezingscyclus van 2024 wordt onderzocht.
—-
De Associated Press ontvangt financiële steun van het Omidyar Network om de berichtgeving over kunstmatige intelligentie en de impact ervan op de samenleving te ondersteunen. AP is als enige verantwoordelijk voor alle inhoud. Vind de normen van AP voor het werken met liefdadigheidsinstellingen, een lijst met supporters en gefinancierde dekkingsgebieden op AP.org
