Instagram, Pinterest Föreslaget innehåll orsakade döden

Algoritmdöd: När vi är på väg mot ett uppslukande liv i Metaversen, ljuder larm. Teknikföretag måste få ordning på sina algoritmer, annars kan detta vara en riskabel framtid för vissa.

Även om vi inte är på Web3 än, är problemen med Web2 fortfarande otroligt oroande. Medan algoritmer gjorda av storteknologi kan vara bra för samhället, som sådana förutse brott i förväg, det finns andra som är en total katastrof.

Rättsläkare Andrew Walker identifierade dödsorsaken för 14-åriga Molly Rose Russell som självskadehandling. Han sa att detta orsakades av depression och de negativa effekterna av onlineinnehåll.

Gåstol sade att "det inte skulle vara säkert för oss att erkänna självmord som dödsorsaken."

Algorithm Death: Instagram och Pinterest

Experten sa att Instagram och Pinterest använde algoritmer som valde ut och delade olämpligt innehåll med studenten utan att hon begärde informationen. Walker rapporterar, "Vissa innehåll romantiserade unga människors självskadehandlingar, medan andra främjade isolering och gjorde det omöjligt att diskutera problemet med människor som kunde hjälpa."

Enligt väktare, Russell sparade, gillade eller postade mer än 2,000 2017 Instagram-inlägg 138 på tröskeln till hennes död. De var alla förknippade med självmord, depression eller självskada. Flickan såg också XNUMX filmer av liknande karaktär. Bland dem fanns avsnitt av serien 13 Skäl varför för personer 15+ och 18+.

En barnpsykiater sa under utfrågningen att efter att ha analyserat vad Russell hade sett kort före hennes död, kunde han inte sova gott på flera veckor.

“10 depressionsnålar du kanske gillar”

Utredarna hittade hundratals bilder av självskada och självmord på flickans Pinterest-konto. Det visade sig också att plattformen skickade e-post till eleverna med rekommendationer om olämpligt innehåll. Några av dem hade rubriker med texten "10 depressionsnålar du kanske gillar."

Det är troligt att det material som Molly såg, som redan lider av en depressiv sjukdom och var sårbar för åldersrelaterade skador, hade en negativ effekt på henne. Det har sannolikt också bidragit mer än minimalt till barnets död.

Meta- och Pinterest-tjänstemän bad om ursäkt och erkände att Russell stötte på innehåll på plattformarna som inte borde finnas där. En talesperson för Meta sa: "Vi vill att Instagram ska ge en positiv upplevelse för alla, särskilt tonåringar. Vi kommer att ta en närmare titt på rättsläkarens fullständiga rapport när han levererar den.”

Pinterest har uppgett att de ständigt förbättrar plattformen och är engagerade i att säkerställa säkerhet för alla.

Andra fall

TikTok stämdes i maj för påstådda "dödliga rekommendationer" av dess algoritmer. I december 2021, Amazons virtuella assistent Alexa föreslog en ödesdiger utmaninge till ett 10-årigt barn.

Det är en modig ny värld, men också en skrämmande sådan. Big tech kan inte vara självbelåtna över den framtida roll de har i den här frågan.

Har du något att säga om algoritmens död eller något annat? Skriv till oss eller gå med i diskussionen i vår Telegramkanal. Du kan också fånga oss Tik Tok, Facebook, eller Twitter.

Villkor

All information på vår webbplats publiceras i god tro och endast för allmän information. Alla åtgärder som läsaren vidtar på informationen på vår webbplats är strikt på deras egen risk.