Follow Their Leader

Baggrund

Instagram er et sted hvor mange unge skaber og finder deres identitet. Men det gør også platformen til det perfekte sted at radikalisere unge. Og lige nu fjerner Instagram kun 18,8 % af det "hate content" som eksisterer på platformen.

Undersøgelser lavet af Cybersecurity For Democracy har vist, at "hate content" er det indhold, der interageres mest med på sociale platforme, hvilket gør det lukrativt for Instagram at beholde på platformen. På samme tid er det ekstremt farligt for unge, hvis de interagerer med højreradikalt politisk content, da Instagrams algoritmer skaber ekkokamre, som reflekterer ekstremisternes verdenssyn. Det har resulteret i at over 90 % af registrerede ekstremister i dag, er blevet radikaliseret gennem sociale medier. (National consortium for the study of terrorism).

Så hvordan får The Non-Violence Project Foundation (NVPF), en svensk NGO der bekæmper vold både online og offline, verdens største social media-virksomhed til at tage ansvar for indholdet på deres platform?

Løsning

Kampagnen Follow Their Leader bruger Instagrams egen algoritme til at bevise, at den manglende selvregulering på platformen er et spørgsmål om profit og ikke teknologi. Instagrams algoritme slår nemlig automatisk ned på konti med et hurtigt voksende antal af falske følgere. Hvorfor? Fordi falske følgere er en trussel mod Instagrams økonomiske model, da virksomheder lægger færre annoncekroner, hvis de mistænker at visninger, likes og kommentarer ikke er reelle, men blot kommer fra falske følgere.

HVORDAN FUNGERER DET?
Follow Their Leader er en crowdfunding-platform, hvor brugere kan købe falske følgere til ekstremistiske konti. Der blev udvalgt 6 populære ekstremistiske konti, der alle overtrådte Instagrams egne retningslinjer. Når målet for donationer var opnået købte NVPF falske følgere via en tredjepart til de udvalgte konti. Det øgede antal følgere fik Instagrams algoritme til at reagere. Først ved at shadow-banne deres konti (shadow-ban betyder at en konto ikke dukker op i hverken feed eller via søgninger, uden at kontoejeren blive alarmeret). Hvis profilen forsætter med at overtræde Instagrams retningslinjer ved at modtage falske følgere, blev kontoen permanent fjernet.

KAMPAGNEN
Follow Their Leader blev først lanceret på sociale medier i subgrupper på Facebook, Twitter, Reddit, WhatsApp og Instagram, henvendt til personer der sympatiserer med NVPF’s budskab netop for at undgå at alarmere de ekstremister som var targeteret.

Efter et par uger, afslørede NVPF i et åbent brev adresseret til Instagram, at de havde hacket Instagrams algoritme. Det åbne brev kørte på sociale medier både som tekst og film for at lægge offentligt pres på Instagram til at indgå i en dialog. Derudover købte NVPF medieplads på en billboard truck, som spillede det åbne brev på repeat i 8 timer foran indgangen til Instagrams hovedkvarter i San Francisco.