Jag börjar bli rädd för Facebooks algoritmer

Hade Samuel Paty levt om sociala medier tog större ansvar?

Anders Lindberg

Aftonbladets ledarsida är oberoende socialdemokratisk.

helskärm

Vem bär ansvar när barn sprängs i luften av så kallade autonoma vapen, av fredsrörelsen även kallade mördarrobotar?

Frågan är inte helt enkel. Inom modern militär teknologi är autonoma vapen ännu i sin linda, men i framtiden kommer sannolikt himlen och haven fyllas av självständiga drönare som på en millisekund kan upptäcka och förinta varandra.

Dataprogram är inte gudar, ibland gör de fel. Ger vi dem makt att självständigt fatta beslut som påverkar liv och död så kommer oskyldiga att dö. Då måste någon kunna skickas till krigsförbrytardomstolen i Haag, men vem?

Är det utvecklaren av mjukvaran som programmerade lite fel eftersom hen var bakfull på jobbet? Konstruktören? Generalen som skickade ut drönaren? Soldaten framför dataskärmen?

Svaret är knepigt. Vårt samhälles etiska fundament är det personliga ansvaret – att du kan stå till svars för dina handlingar men inte för andras. Om systemet fattar besluten imploderar denna etiska kod.

Som på Facebook.

Vi har alla sett drevlogiken utvecklas. Någon stackare har gjort fel och sedan är svärmen med jordgetingar igång. Ofta kan folks oförätter eller förbrytelser vara tagna ur sitt sammanhang eller uppdiktade men det spelar ingen roll i rasande Facebook-grupper, sidor och diskussionstrådar.

Vad många inte tänker på är att den algoritm som gör dreven möjliga är avsiktlig. Alltså de interna regler som styr vad du som användare får se på sociala medier.

I maj avslöjade Jeff Horwitz och Deepa Seetharaman i The Wall Street Journal interna dokument som visade att Facebook 2018 noggrant studerat hur algoritmen radikaliserar och polariserar.

"Vår algoritm utnyttjar hur den mänskliga hjärnan dras till oenighet." står det på en av bilderna som The Wall Street Journal kommit över.

Sen beslutade Facebooks högsta chef Mark Zuckerberg att inte ändra detta.

För att tjäna mer pengar på reklam, gissningsvis. Ju argare vi blir desto längre hänger vi på Facebook.

Efter att den franske läraren Samuel Paty, 47, visade karikatyrer av profeten Muhammed under en lektion om yttrandefrihet blev han utsatt för just ett sådant drev i sociala medier, på Facebook, Youtube och Twitter. Han mördades av en 18-årig tjetjensk flykting som bodde över 10 mil från mordplatsen och som inte visste hur Paty såg ut.

Efter mordet lade mördaren ut en bild av det avhuggna huvudet på nätet.

Mönstret känns igen från andra terrordåd, både islamistiska och högerextrema. IS använde effektivt sociala medier och under terrordådet mot två moskéer i Christchurch, Nya Zeeland, sände terroristen direkt på Facebook.

Så vem är ansvarig?

Terroristerna självklart, men frågan måste ändå ställas. Om sociala medier inte aktivt hade underlättat just sådana drev som det Samuel Paty utsattes för, hade han levt idag?

Jag tror tyvärr vi alla vet svaret.