Nyheder

Instagram kritiseres for at svigte i kampen mod selvskadeindhold

En ny undersøgelse fra Digitalt Ansvar afslører alvorlige mangler i Instagrams håndtering af skadeligt selvskadeindhold. Platformens manglende brug af kunstig intelligens til identifikation og fjernelse af sådant indhold kan have omfattende konsekvenser for unges sikkerhed.

Instagram kritiseres for at svigte i kampen mod selvskadeindhold
Instagram fjernede ikke et eneste af de 85 selvskadeopslag fra Digitalt Ansvars undersøgelse. Selv ikke åbenlyst selvskadeindhold, der tydeligt viser blod, barberblade eller opfordring til selvskade. Foto: Digitalt Ansvar.
18. november 2024
Af Benedikte Jensen

Digitalt Ansvars undersøgelse har afsløret, at Instagram ikke har fjernet nogen af de 85 selvskadeopslag, der blev oprettet af det falske netværk af profiler, som undersøgelsen etablerede. Selvom nogle af opslagene tydeligt viste blod, barberblade eller direkte opfordring til selvskade, blev ingen af dem modereret eller fjernet af Instagram. Dette sker på trods af platformens egne påstande om at bruge kunstig intelligens til at håndtere sådanne situationer. Ingen advarsler blev sendt til de ti profiler, der deltog i undersøgelsen, og der blev heller ikke givet vejledning eller opfordringer til at søge hjælp.

Algoritmenes destabiliserende rolle

Ikke kun er den automatiske moderation utilstrækkelig, men Instagrams algoritme kan aktivt bidrage til spredningen af selvskadenetværk. Undersøgelsen fandt, at hvis en 13-årig profil fulgte én selvskadenetværksprofil, foreslog algoritmen, at profilen også kunne følge de øvrige i netværket. Dette potentielt farlige mønster kan gøre det nemmere for unge at falde ind i destruktive miljøer, hvor selvskadeindhold deles og forstærkes.

Få danskere sparer op til jul – kan vi undgå minus på kontoen?

Læs også: Få danskere sparer op til jul – kan vi undgå minus på kontoen?

Overtrædelse af EU-regler

Der er også juridiske implikationer. Hvis Instagram ikke aktivt begrænser skadeligt indhold, som kan påvirke brugernes fysiske og mentale sundhed negativt, bryder de muligvis EU’s forordning om digitale tjenester. Dette stiller spørgsmålstegn ved platformens engagement i at beskytte sine brugere og leve op til de juridiske standarder, der er blevet fastsat for store sociale medieplatforme.

Denne undersøgelse sætter fokus på behovet for en mere effektiv tilgang til moderering af skadeligt indhold og understreger vigtigheden af at beskytte yngre brugere mod potentielt farlige online fællesskaber. Det er en påmindelse om det store ansvar, sociale medieplatforme har i at sikre et sikkert online miljø.

Bekymrende tendens omkring solariebrug

Læs også: Bekymrende tendens omkring solariebrug

Tilmeld dig vores nyhedsbrev

×

Vær med i vores Julekalender og vind præmier


Bekymrende tendens omkring solariebrug

Læs også:

Bekymrende tendens omkring solariebrug