AI och desinformation på sociala medier
Ladda ner
Vad säger forskningen om AI och desinformation på sociala medier (sammanställning).pdf
AI-genererat innehåll och desinformation på sociala medier – en systematisk forskningsöversikt.pdf
Generativ AI förändrar snabbt medielandskapet. På sociala medier används tekniken både för legitimt innehåll och för desinformation, vilket väcker frågor om källkritik, ansvar och reglering. Mediemyndigheten har därför gett Totalförsvarets forskningsinstitut (FOI) i uppdrag att sammanställa en litteraturöversikt med aktuell forskning om AI‑genererat innehåll. Mediemyndigheten har kompletterat detta med myndighetens perspektiv på forskningsöversiktens implikationer i relation till det svenska medielandskapet.
AI-genererat innehåll och desinformation på sociala medier – en systematisk forskningsöversikt
Forskningsöversikten analyserar:
- hur generativ AI används för innehållsproduktion och desinformation
- metoder för identifiering och verifiering av AI‑genererat innehåll
- juridiska och etiska frågor kopplade till plattformsansvar, journalistik samt barns rättigheter
Centrala brister i dagens kunskapsläge:
- Begränsad forskning om hur barn och unga påverkas
- Få studier om nordiska förhållanden
- Brist på studier av flera av de största sociala plattformarna
- Otillräcklig kunskap om bredare samhällskonsekvenser
Dessutom domineras forskningen av studier från ett fåtal länder och plattformar, med begränsad tvärvetenskaplig bredd.
Vad säger forskningen om AI och desinformation på sociala medier?
Mediemyndigheten konstaterar att FOI:s rapport visar att forskningsfältet befinner sig i ett tidigt skede och präglas av tydliga kunskapsluckor, särskilt när det gäller barn och unga, nordiska förhållanden samt plattformar utanför Twitter/X. Rapporten pekar också på ett behov av mer tvärvetenskaplig och samhällsnära forskning.
Om uppdraget
Uppdraget till FOI är en del av Mediemyndighetens arbete med att följa och analysera utvecklingen inom medieområdet. Mediemyndigheten kommer att fortsatt utveckla kunskapsunderlag som stödjer policyutveckling, tillsyn och insatser för medie‑ och informationskunnighet (MIK).