På samme måde som læger har et etisk ansvar, bør udviklere også have det.
Hvor lægen kun besøges, når man er syg, er algoritmerne nemlig allestedsnærværende i blandt andet smartphones, og derfor skal der etik ind i softwareudvikling, så det ikke bliver misbrugt.
Det var budskabet fra den tidligere amerikanske efterretningsanalytiker og whistleblower Chelsea Manning, da hun torsdag talte på årets Roskilde Festival.
- Meget af den "machine learning" (når computere lærer af brugen af den, red.), som bliver brugt, er farlig, sagde den 30-årige amerikaner til de fremmødte festivalgæster.
- Vi fodrer algoritmerne med data, og de tager den partiskhed, vi har over for grupper af mennesker, og forstærker den.
Hun plæderer derfor for, at der skal et etisk aspekt ind i designet af algoritmerne, som blandt andet ligger bag, hvilket indhold brugere på sociale medier som Facebook bliver vist.
- Designerne og udviklerne bag de her algoritmer ser det ske, og det kan der gøres noget ved.
- Ligesom der vurderes, om den kan bygges, skal der også laves en etisk vurdering: Kan denne her algoritme, vi er ved at bygge, blive misbrugt?, sagde Manning til bifald fra de fremmødte.
- Det skal tænkes som en professionel standard. Folk, der arbejder med software, har et etisk ansvar for at forstå disse ting og gøre noget ved det.
En af dem, der hørte Mannings oplæg, var den 46-årige seniorkonsulent Kathrine Stokholm. Hun synes, at den mængde viden og fordomme, der indføres i algoritmer, er skræmmende.
- Jeg er ikke bange for maskiner, men jeg er bange for de mennesker, der programmerer maskinerne, forklarer hun.
Hun mener, at Manning har en "meget stærk pointe i", at teknologiglæden og troen på, at en automatisering heraf kan løse mange ting, ikke kommer til at skabe noget godt:
- Og det er, selv om jeg ellers er optimist, når det kommer til teknologi.
Manning blev i 2013 idømt 35 års fængsel for at offentliggøre hemmelige filer om USA's krigsførelse i Afghanistan og Irak i 2007 og 2009.
I 2017 - efter at have siddet fængslet i syv år - blev hun benådet af den daværende amerikanske præsident, Barack Obama.
Siden sin løsladelse har Manning markeret sig som aktivist inden for blandt andet transkønnedes rettigheder og statslig overvågning.
/ritzau/