AI blir allt vanligare för att underlätta i vår vardag. Men det är viktigt med MIK när man möter AI-styrt innehåll, eftersom sättet på vilket datamängden genereras kan leda till snedvriden information eller påverkan.

I maj förra året uppdaterades Unescos ramverk för MIK – medie- och informationskunnighet. Den klassiska cirkelöversikten, MIK-ekologin, blev då till en ”majblomma” med inte mindre än 23 kronblad. På ett av dessa finns kunnighet om artificiell intelligens, AI.

I sin sammanfattning av MIK-ramverket lyfter Unesco fram styrkan hos AI i kombination med MIK.

AI för med sig en massa fördelar i våra dagliga liv genom exempelvis virtuella tjänster som svarar på frågor eller appar för att hjälpa människor i nödsituationer. Samtidigt reser AI många frågor kring risker, skriver Unesco.

Risker med AI

En av riskerna med AI är att man förlitar sig på datamängder som återspeglar ett begränsat urval av människor ­– men som leder till beslut som ska tillämpas på alla.

På samma sätt kan algoritmerna vara snedvridna av snäva världsåskådningar eller kommersiella agendor, som oproportionerligt prioriterar vissa handlingar. När Microsoft 2016 lanserade Tay, en chatrobot med AI som designats för att utveckla konversationskunskap genom att interagera med människor på Twitter, slutade det med att roboten måste stängas av efter ett dygn. Den artificiella ”konversationseleven” hade börjat sprida oanständiga och rasistiska tweets.

När det gäller annonsering kan företagen använda våra digitala avtryck för att kunna bombardera oss med riktad reklam.

Tänk på detta när du möter AI

Unesco föreslår att vi tänker på följande utmaningar med AI:

• Unga kvinnors röster i AI-röstassistenter kan upprätthålla stereotyper om kvinnor i traditionella roller.
• AI-driven prioritering kan gynna känslomässigt innehåll framför sakligt genom algoritmer som likställer "engagemang" med "upprördhet".
• Användningen av AI kan styra dina inköpsbeslut utan att du märker eller förstår det själv.

Den här texten publicerades ursprungligen på dåvarande Statens medieråds hemsida den 11 april 2022.