Seks ting du må vite om algoritmer men ikke våger å spørre om

KUNNSKAP FRA Kristiania: Teknologi og samfunn

Algoritmer er overalt. De kjører biler, oppdager kreft, avslører svindel og avgjør hvor lenge du skal sitte i fengsel. Alt uten involvering fra mennesker. Dermed forsvinner jobber, vi blir algoritmiske analfabeter og viljeløse dukker i markedsførernes makt. Eller?

Algoritmer er ikke mer mystisk enn en oppskrift på å løse en oppgave. Vaskemaskinen din har brukt algoritmer til å gå gjennom flere trinn siden den ble styrt av mekanisk urverk. I dag kan algoritmer gjøre mye mer enn å få klærne dine rene.

En av de innovasjonene er maskinlæring men begrepene brukes om hverandre. Uansett: maskinlæring bruker algoritmer, men en algoritme trenger ikke å være del av maskinlæring.

Krasjkurs til å forstå algoritmer

Her er seks temaer som hjelper oss til å forstå algoritmer.

1) En algoritme blir aldri sliten, sulten eller utålmodig

Juryer dømmer strengere rett før lunsj, som i Israel hvor innsatte hadde høyere sjanse for løslatelse hvis de ble vurdert rett etter frokost. En algoritme påvirkes ikke av sult. IBMs Watson leser utrettelig igjennom tekster og avslører kreft på minutter.

2) En algoritme lar seg ikke påvirke av beslutningsfeller og har ikke følelser
Mennesker liker å tro at vi tenker rasjonelt, men det gjør vi ikke. Våre beslutninger tas ofte på grunnlag av følelser og dette er det skrevet flere bøker om. Sjekk ut Daniel Kahnemanog Dan Ariely. Algoritmen bruker kun data i sine avgjørelser.

3) En algoritme kan være mer eller mindre avansert
Maskinlæringsalgoritmer gjør en systematisk dataanalyse og ser etter mønstre. Resultatet blir ofte en klassifisering: er dette en hund eller en katt? Hvis en datamaskin skal lære seg å gjenkjenne katter, må den mates med veldig mange kattebilder. Et av problemene til utviklere er overfitting som betyr at datamaskinen henger seg opp i tilfeldige fellestrekk. Hvis 80% av kattene ligger på en sofa vil maskinen tro den gjenkjenner katt, men lærer seg egentlig å identifisere sofa. Bakgrunn må være variert, men tilgangen på kattebilder på nettet er nærmest uendelig. Vanskeligere er øyesykdommen grå stær. Diagnosen krever uttalelse fra spesialist (kalles ground truth, eller grunnlagssannhet).

4) En algoritme kan la seg «bestikke» av inndata og bli manipulert
Brukere kan bevisst sabotere algoritmen ved å manipulere datagrunnlaget, slik vi så med Microsofts ungdomschat Tay. En gruppe gikk sammen for å ødelegge chatbot’en ved å mate den med upassende fraser. Etter bare 16 timer måtte Microsoft legge ned tjenesten.

5) En algoritme kan bli diskriminerende

Maskinlæring er forsøkt brukt for å velge ut hvem skal stoppes i tollen, hvorvidt du skal få jobbtilbud, og lengde på fengselsstraff. Så langt har algoritmer som vurderer mennesker vist seg å forlenge fordommer og diskriminere. En algoritme som skulle velge ut jobbsøknader endte raskt opp med å favorisere menn fra flertallsbefolkningen.

6) En algoritme kan være vanskelig å forstå
Det er ofte vanskelig for oss å forstå om beslutninger er tatt av en algoritme eller av et menneske. Det finnes beslutninger som vi forventer at en algoritme skal ta alene, slik som søkeresultatet på Google. Det har nå kommet frem at Google har en gruppe av mennesker som sitter og justerer hvilke resultater du får opp. Den nye personopplysningsloven GDPR gir forbrukere rett til innsyn i hvordan bedrifter håndterer data og forskere snakker algoritmisk gjennomsiktighet, men folk flest vil antageligvis ikke forstå opp-ned på algoritmen om de fikk den presentert.

Tre nye spørsmål vi må stille

Felles for disse seks temaene er at både algoritmer og mennesker har sine styrker og svakheter, og det er skrevet og forsket mye på dette.

Derfor bør vi stille oss tre nye spørsmål:

1) Hva godtar vi at algoritmer gjør uten menneskelig involvering?
Jeg har sammen med Hanne Sørum spurt 194 deltakere om hvilke beslutninger de godtar at algoritmer tar alene. 8 av 10 personer aksepterte at en algoritme foreslår filmer på Netflix, mens færre enn 2 av 10 godtar at en algoritme leser eksamen og bestemmer karakter.

2) Hvem bestemmer kursen på «valutaen» Personlige Data?
Sosiale medier bruker algoritmer for å tilpasse reklame for brukerne. Dina Marie Vatne og jeg fant ut at de fleste brukere ikke ønsker å betale for å være på Facebook gitt at dette sikret personvern. De vil heller betale med «valutaen» Personlige Data. Men hvem skal bestemme kursen? Betaler vi overpris i dag? Uansett er det skjevhet i hvor mye vi mener at våre data er verdt og hva aktørene bak sosiale medier mener de er verdt. Dessuten utsettes vi for algoritmer selv om vi betaler for tjenesten, slik som filmforslag på Netflix. Når det gjelder jobbsøk rådes du faktisk til å «alderssikre» søknaden ved å holde tilbake noen personlige opplysninger for å lure algoritmen slik at du ikke blir sortert vekk grunnet alder. Gå på nettet og søk på «how to age-proof your résumé» hvis du skal søke jobb.

3) Hvordan skal vi unngå en befolkning som er algoritmiske analfabeter?
For at vi borgere skal kunne styre denne utviklingen, trenger vi fra nå av en blanding av sunn skepsis og god kunnskap om teknologi. De nye læreplanene for barne- og ungdomsskolen skal fremme kritisk tenkning og programmering. Bra er det, og så får vi håpe at resten av befolkningen også skaffer seg kunnskap.Den jevne borger trenger ikke å være ekspert på maskinlæring, men i et demokrati har alle et ansvar for være informert om, og ta valg om, store endringer i samfunnsstruktur. I mellomtiden venter vi på at vaskemaskinen lærer seg å oppdage den røde sokken som har lurt seg med i hvitvasken.

Referanser:

• Presthus & Sørum (2019) Consumer perspectives on information privacy following the implementation of the GDPR. International Journal of Information Systems and Project Management.
• Presthus & Vatne (2019) A Survey on Facebook Users and Information Privacy. Procedia Computer Science.
• Denne formidlingsartikkelen er publisert som kommentarartikkel i Dagens Perspektiv 24. Januar 2020 under vigneten “Ideer & Innsikt”.

Tekst: Førsteamanuensis Wanda Presthus, Institutt for teknologi ved Høyskolen Kristiania.