Forskere er bekymret for at KI-teknologien vil manipulere velgere til enten til å stemme på en kandidat ut fra feilaktig grunnlag – eller til å droppe å stemme. KI-teknologien vil også kunne øke spenningen i et allerede sterkt polarisert USA.

Over 50 prosent av amerikanerne venter faktisk at KI-aktiverte falske nyheter vil påvirke hvem som vinner valget i 2024, ifølge en meningsmåling publisert av mediegruppen Axios og etterretningsfirmaet Morning Consult.

Omtrent en tredel av amerikanerne opplyste også at de vil ha mindre tillit til resultatene på grunn av KI, ifølge meningsmålingen, som ble gjennomført i fjor.

Kritikk mot Musk
Elon Musk fikk sterk kritikk for å dele en deepfake-video med visepresident Kamela Harris med sine 192 millioner følgere på X, tidligere kjent som Twitter.

I videoen, en voiceover som etterligner Harris, kaller hun tilsynelatende president Joe Biden senil; stemmen erklærer deretter at hun ikke vet det minste om å styre landet.

Videoen var ikke merket som en parodi – bortsett fra en latteremoji. Først senere gikk Musk ut og sa at videoen var ment som satire.

Forskere mente at folk faktisk kunne tro på innholdet.

Trump ble arrestert
Et annet eksempel på desinformasjon var et bilde som ble delt på ulike sosiale plattformer av presidentkandidat Donald Trump. På bildet så det ut til at politiet arresterte Trump med makt – etter at en jury i New York fant ham skyldig i å ha forfalsket forretningsdokumenter relatert til betaling av pornostjernen Stormy Daniels.

Eksperter på KI avslørte at bildet var digitalt manipulert.

- Disse eksemplene viser hvordan manipulerte bilder og videoer vil bli brukt politisk i tiden framover, mener Lucas Hansen, medgründer av den ideelle organisasjonen CivAI, til AFP.

- KI-drevet desinformasjon er en stor bekymring. De falske bildene og videoene vil bli brukt til å provosere sinne og øke spenningen i samfunnet, mener han.

- Det kan være avgjørende
Flere teknologigiganter har sagt at de jobber med systemer for å merke KI-generert innhold.

Den ideelle organisasjonen Free Press forteller imidlertid at responsen fra de store plattformene ikke er til å skryte av.

- Lederne for plattformene bør raskt styrke og håndheve sine retningslinjer mot deepfakes og annen desinformasjon. Det kan være avgjørende for valget i høst, sier Nora Benavidez, seniorrådgiver i Free Press, til AFP.