ÅSIKT

(T)error i sikte

Petter Larsson sågar regeringens satsning på datorer som terroristjägare i sociala medier

Detta är en kulturartikel som är en del av Aftonbladets opinionsjournalistik.
Foto: Thinkstock
Totalförsvarets datorer ska kartlägga hatbudskap på bloggar, Facebook-sidor och Twitter genom att räkna och sortera ord. Petter Larsson konstaterar att till och med hans egen artikel skulle fastna i filtret.
KULTUR

Människor gör misstag. Vi läser fel, missuppfattar, övertolkar och underskattar, har fördomar och låter oss drivas av rädslor och förhoppningar och gud vet vad.

Det finns därför förmodligen bara en sak som är sämre än att låta människor göra viktiga textanalyser. Det är att låta maskiner göra dem.

Ett av regeringens senaste drag i kampen mot terrorism och det man döpt till våldsbejakande extremism – nazister, jihadister, vänsterradikaler – är att låta Totalförsvarets forskningsinstitut kartlägga förekomsten av sådana uttryck på öppna källor på internet: bloggar, Facebooksidor, Twitter, med mera.

Det görs i huvudsak genom att man låter datorer läsa hemsidor i syfte att sortera fram misstänkta texter, som i slutändan människor ska bedöma.

Tillvägagångssättet är naturligtvis inte orimligt när man har ett enormt material att övervaka. Maskinerna kan ju bearbeta text tusenfalt snabbare än aldrig så många tjänstemän. Men när man läser projektets första delrapport ”Hatbudskap och våldsbejakande extremism i digitala miljöer”, som släpptes för en tid sedan, finns skäl att fråga om detta verkligen är en god idé.

Rapporten ”Hatbudskap och våldsbejakande extremism i digitala miljöer”.

Rapporten innehåller en del märkligheter. Man envisas till exempel med att organisationen Allt åt alla nog ändå ska betraktas som våldsbejakande vänsterextremister. 

Man tar det obevisade påståendet att en rapport om vänsterradikalism från Myndigheten för ungdoms- och civilsamhällesfrågor, MUCF, skulle vara färgad av rapportförfattarens politiska åsikter på allvar. Och man jämför äpplen med päron när man inkluderar de opinionsbildande texterna på högerradikala och högerextrema sajter, men ställer dem mot enbart nyhetsrapporteringen i vanliga tidningar. 

Typiskt mänskliga misstag alltså!

Men sen är det det här med maskinerna. 

Hur ska de någonsin kunna förstå sarkasm, ironi, internhumor? Skulle de kunna skilja det harmlösa från det obehagliga från det riktigt farliga? Den upphetsades näthatsgubben från den verkliga mordbrännaren? Revolutionsromantikern från revolutionären?

Svaret är förmodligen att de inte kan det.

I projektet används något som heter Linguistic inquiry and word count, LIWC, ett ordräkningsprogram, som kan sortera ord i olika kategorier och därför svara på frågor om återkommande teman, vilka pronomen som används eller hur många känsloord en text innehåller. Man har dessutom lärt programmet att känna igen viss politisk jargong, så att det förstår vad sådant som ”skäggbarn” eller ”sjuklövern” syftar på.

Pronomen är viktiga. Den som överdrivet ofta skriver ”vi/oss” och ”dem/ de andra” kan antas hålla sig med en polariserad idé om fiendskap mellan grupper.

Den som uttrycker starka känslor, framför allt ilska – man kanske skriver att man är förbannad eller att man hatar något – måste flaggas. ”Eftersom ett starkt missnöje är grunden för all politisk extremism, kan texter med en hög grad av negativitet, i kombination med andra markörer, betraktas som potentiellt extremistiskt material”, anser Forskningsinstitutet.

Bindeord är en annan signal.  Den som använder ord som ”men” och ”förutom” kan anses vara en mer resonabel filur än den som använder ”och” – vilket anses stå för ett ”oflexibelt dikotomt tänkande.”

Slutligen löper den som intresserar sig för maktfrågor en risk att radikaliseras. Statsvetarskrået får ta sig i akt.

I rapporten betonas förstås att språkbruket ses som ”svaga signaler”, men det är ändå precis sådana varningstecken man räknar. 

En betydande andel av svenska politikers valtal, liksom materialet på debatt- och ledarsidor, torde alltså falla inom det misstänktas ramar.

För att inte tala om den verkliga kamp-retoriken: ”Om de oss driver, dessa kannibaler/ mot våra grannar än en gång/ vi skjuter våra generaler/ och sjunger broderskapets sång.”

Dessa rader från Internationalen skulle med största säkerhet betraktas som ett tydligt tecken på oroväckande radikalisering. Här finns ju en stark polarisering, vi och dem-tänkande, nedsättande uttryck om fiendegruppen och till och med en direkt syftning på väpnat våld.

Även den mer kända första versen om trälarna som ska resa sig, som socialdemokrater och vänsterpartister fortfarande sjunger vid högtidliga tillfällen, skulle mycket väl kunna flaggas. Och vad med den hat- och blodindränkta Marseljäsen?

Ja, det är lätt att driva gäck med det slags sammanhangslösa grovsortering som datorerna gör.

Och det är naturligtvis möjligt att man skulle kunna ha tur, och lyckas pricka in en ny Breivik eller en ny Mangs innan de blivit massmördare.

Men risken är nog snarare att staten, i stället för att lägga sina pengar på rörelseforskning eller fler Säpoagenter, förslösar sina undersökningsresurser på att kartlägga och misstänkliggöra texter av hundratusentals oskyldiga medborgare, medan de som verkligen har för avsikt att begå politiska brott får ännu en anledning att uttrycka sig försiktigt eller kryptera sin kommunikation. 

Den här texten innehåller för övrigt 25 ”och”, men bara åtta ”men” och är alltså ett fint exempel på hur oflexibelt jag tänker.

ARTIKELN HANDLAR OM

Datorer

Facebook

Twitter