Sociala medier – en fråga om liv och död

Algoritmer och AI kan hjälpa sörjande – och stjälpa självmordsbenägna

Publicerad:
Uppdaterad:

Detta är en kulturartikel som är en del av Aftonbladets opinionsjournalistik.

Internet och sociala medier förändrar vår syn på döden, skriver Mattias Beijmo: ”Våra döda själar på Facebook, Instagram och TikTok är, helt konkret, en del av systemets liv.”
Foto: getty / lisa mattisson
Internet och sociala medier förändrar vår syn på döden, skriver Mattias Beijmo: ”Våra döda själar på Facebook, Instagram och TikTok är, helt konkret, en del av systemets liv.”

KULTUR

Den ensammaste julen någonsin står för dörren, firande och relationer är hänvisade till sociala medier och FaceTime. De som har koll på våra psyken börjar hissa varningsflaggorna: Mind, organisationen bakom Självmordslinjen, ser en mycket stor ökning av samtal under pandemin. De säger till Sveriges Radio att ”det psykiska välbefinnandet är allvarligt hotat”.

Forskarvärlden är av samma åsikt. Centrum för suicidforskning och prevention vid Karolinska institutet släppte nyligen en alarmerande rapport. De säger att pandemins skugga över samhället allvarligt påverkar vår psykiska hälsa.

Columbia University har analyserat Googles sökdata under pandemin, och slutsatserna är också där oroande: De amerikanska forskarna är eniga med sina svenska kollegor – vi kommer se allt fler självmord. Inte nödvändigtvis exakt nu; ökningen kommer när effekterna på ekonomin blir ännu mer kännbara. När våren och vaccinet kanske kommer, men inte glädjen. När ensamheten bara fortsätter.


I den norska journalisten Annemarte Molands NRK-reportage Trigger warning får vi se inlägg för inlägg, interaktion för interaktion hur Instagram-communityt hetsar 17-åriga Andrine att skära sig mer, djupare, och till slut även ta sitt liv. Live på Instagram.

Reportaget känns akut alarmerande, och är samtidigt en klok skildring av den digitala postmodernismens yttersta konsekvens. Vår bild av oss själva är inte längre något annat än en pixeliserad reflektion. Viljan att spegeln ska visa något annat överskuggar allt.

Mörkare tankar, djupare sår, många stygn ger fler likes från självskadecommunityt, men mest viralt engagemang ger ett direktsänt självmord. Engagemanget gör att just dessa konton lyfts av Instagram och föreslås för de användare som lägger upp egna bilder på sina skador.

Facebook, som äger Instagram, vet att deras programmering riskerar att trigga självmord och allsköns skadligt beteende

Internetföretagen själva har under flera år öppet påvisat tydliga samband mellan onlineaktivitet och självmords- och självskadestatistik.


Facebook har sedan 2017 använt artificiell intelligens för att lära sitt system att känna igen alarmerande mönster i hur användarna interagerar på sociala medier. En statusuppdatering med fraser som ”orkar inte längre” och ”göra slut på allt” sätts samman med vilka svar och reaktioner det får.

Om sammanhanget, tidpunkten och andra, mer hemliga mätpunkter förstärker misstanken, går larmet. Telefonnummer till stödlinjer kan dyka upp på användarens skärm, och verkliga personer på Facebook försöker nå en anhörig eller polisen.

Molands omskakande, globalt uppmärksammade reportage har mer än ett år på nacken, men ingenting har förändrats. Nyligen kunde NRK återigen påvisa Instagrams flathet och oförmåga att följa sina egna riktlinjer.

Facebook, som äger Instagram, vet att deras programmering riskerar att trigga självmord och allsköns skadligt beteende. På direkt fråga om varför de inte gör mer, säger de att de inte vill ”stigmatisera den här sortens uttryck för de som har det tufft”. De har en poäng: Att ta sig ur ensamhet, att hitta ett sammanhang som förstår och accepterar är en av sociala mediers unikt positiva effekter.

Men uppgiften för de hårt prövade moderatorerna är ideologiskt svårsmält. De ska, i realtid, sitta framför bilder och filmer av vårt allra djupaste lidande och skydda oss från oss själva. Ska samhället verkligen lägga över den bördan på timanställda vid ett bemanningsföretag anlitat av övervakningskapitalismens kungar?


I boken Suicidala patienter (2020) skriver gräddan av amerikanska självmordsforskare hyfsat lättillgängligt om ett svårt ämne. Standardverket innehåller kapitel som ”Går det att förutse självmord?” och ”En inlärningsbaserad problemlösningsmetod” som i detalj beskriver komponenterna för att diagnosticera den självmordsbenägne.

Forskarna lyfter såklart svårigheterna att faktiskt definiera graden av risk; farliga suicidtankar är svåra att upptäcka om analysen utgår från det patienten själv väljer att berätta eller undanhålla under 45-minuterssessioner en gång i veckan.

Men om psykologen kunde använda all den data som patienten explicit eller implicit genererar bara genom att äga en smartphone, så skulle dataströmmen fylla i luckorna i modellen, och tillsammans med redan befintliga maskininlärningsalgoritmer rädda liv.


Dr. Marianne S. Goodman är redan där. Hon är psykiatriker i New York vid en av USA:s veterandepartements 1 700 kliniker där landets nio miljoner krigsveteraner kan få hjälp med sina sargade psyken. Hon och myndigheten använder artificiell intelligens för att bättre kunna bedöma självmordsbenägenheten hos de krigsveteraner hon möter.

I en intervju i New York Times säger hon att ”det digitala analysstödet hittar sådant som hon själv aldrig skulle tänkt på”. Det är i sig inte särskilt förvånande; enligt forskarna i boken Suicidala patienter är det människans mänskliga egenskaper som över- eller undertolkar patientens signaler – om de ens uppfattar dem. AI-teknologi som beslutsstöd appliceras redan framgångsrikt på datamässigt svårare uppgifter än denna, så det är inte där skon klämmer.

Frågorna kring våra digitala liv är såklart mycket större än datavetenskapens ramar. Men för att förstå frågan helt och fullt, behöver man också ha techföretagens deterministiska, datafilosofiska perspektiv kring döden på deras plattformar.

Deras rationalitet utgår inte från människor och deras förnuft och erfarenheter, för dem är vi enbart datapunkter, och av dessa punkter formas en själ. Våra döda själar på Facebook, Instagram och TikTok är, helt konkret, en del av systemets liv. Tangibla spår som tidigare försvann när sterbhusets lösöre auktionerats bort, finns kvar i internets oförstörbara urnor – i evighet.


Vi kommer för all framtid scrolla vemodigt genom minnesprofilernas tidslinjer, upptäcka bortglömda bilder och söka svar i molnlagrade Messenger-konversationer. När vi interagerar med de döda online, skapas nya datapunkter som bidrar till att återskapa och förändra deras digitala sammansättning. Algoritmer drivna av våra interaktioner med de döda ändrar deras personlighet och hur vi upplever den. Japp, det är märkligt, men det är den verklighet vi lever i.

Efter två år vågade Hedi slå igång sin döda dotters mobiltelefon. Inloggad på Andrines Instagramkonto kan hon, som fastkedjad framför skärmen, scrolla genom skuggorna av den verklighet som var hennes dotters liv. Och som blev hennes död.

När James Vlahos pappa fick sin dödliga cancerdiagnos, beslutade sonen sig för att skapa en digital avatar av sin far. Med hjälp av intervjuer och texter fadern skrivit, programmerade Vlahos en konversations-bot som på ett spökligt sätt uttryckte sig som honom. Hans far går bort, och chatboten blir någon att gå tillbaka till när saknaden blir för stor, inte minst för sjuåriga barnbarnet Zeke; han är den som kanske mest naturligt umgås med den artificiella versionen av sin farfar.


Vlahos pappa-bot blev till affärsidén bakom hans företag HereAfter. För en engångssumma på 12 000 kronor, intervjuar HereAfters ”memoir experts” den som skall digitaliseras. Sedan skapas en app av individen, en chatbot som går att nå via en smartphone eller röststyrda assistenter som Google Home eller Amazon Alexa.

Bara fråga: ”Vad borde jag lyssna på i dag?” så kommer tips från din musikintresserade, men döda, släkting. Då och då väljer algoritmen att ställa frågor som: ”Hur är ditt liv just nu?”, och du får lätta ditt hjärta för den som kanske förstår dig bäst.

De digitala kyrkogårdarna i våra mobiler blir en helig plats där vi har kvar tron, hoppet och kanske kärleken i samma moln

Ju mer och väldokumenterad information du hinner samla in innan din närstående dött, desto bättre kommer den digitala versionen att konversera som om den var vid liv. Och den underliggande AI:n gör att den hela tiden utvecklas som virtuell människa i takt med er interaktion.

Det sägs att forna tiders sjömän ofta bar guldhalsband och ringar för att täcka kostnaderna för en begravning och betala skulder de dragit på sig. Kanske datat från ett helt liv på techföretagens plattformar skulle kunna göra samma sak för oss?

De verkar i alla händelser väldigt intresserade av att dra ut våra digitala guldtänder; de stora aktörerna använder våra interaktioner med de döda och tjänar grova pengar på insikterna.


Vlahos och HereAfters möjligheter att skapa något som liknar en återuppväckt person ter sig närmast löjliga i jämförelse med potentialen i internetjättarnas datainsamling. En aktör har, precis som när det gäller den virala spridningen av döden, även en särställning när livet tagit slut.

Facebook har åratal av våra förtroliga chatkonversationer, plats- och rörelseinformation som berättar om arbete, fritid och hemligheter, förhållandet och attityden till människor, värderingar och åsikter – allt finns där för att bygga en reinkarnerad version av de vi förlorat.

Men det största värdet av vårt digitala dödsbo är inte monetärt. Studier har under decennier visat att ungefär en av fem EU-medborgare tror på reinkarnation, detta trots att religioner med återfödelse som doktrin lyser med sin frånvaro på våra breddgrader.

Det handlar om sekulära människors magiska tänkande, en tröst och livlina i tider av själslig vånda. De digitala kyrkogårdarna i våra mobiler blir en helig plats där vi har kvar tron, hoppet och kanske kärleken i samma moln. Ett digitalt samsara där gränsen mellan liv och död de facto suddats ut. På gott, och på ont.

Publicerad:

LÄS VIDARE

Kultur

Prenumerera på Kulturens nyhetsbrev

Aftonbladets kulturchef Karin Petterson guidar till veckans viktigaste kulturhändelser och mest intressanta idédebatt.