Roberta Sinatra bliver tildelt Villum-bevilling til kampen mod diskriminerende algoritmer
De algoritmer, som bruges til rangordne forskere på baggrund af deres videnskabelige udgivelser og citeringer, er langt fra retvisende. Villum Fonden har tildelt lektor på IT-Universitetet, Roberta Sinatra, en Young Investigators-bevilling, som hun skal bruge til skabe grundlag for en mere fair rangering.
Skrevet 25. januar 2021 08:51 af Jari Kickbusch
De algoritmer, som bruges til at rangordne videnskabelige udgivelser, er hurtige og effektive, men de også er baserede på citationer, som er prægede af menneskelige bias; dvs. skævvridende faktorer. Derfor vil resultaterne også ofte være skævvredet, hvilket potentielt kan føre til ulighed og diskrimination, forklarer lektor på IT-Universitetet, Roberta Sinatra:
- Fx er det videnskabeligt bevist, at kvinder høster mindre anerkendelse end mænd, selv om de er kvalitativt ens. På samme måde vil en forsker fra et dansk universitet, som er på samme kvalitative niveau som en forsker fra Harvard University, få en lavere anerkendelse. Generelt bliver citationer misfortolkede, fordi deres værdi ikke nødvendigvis er baseret på kvalitet, men på faktorer som køn, etnisk oprindelse og ansættelsessted. Det er et problem, fordi vi bruger algoritmer og målinger til at finde de bedste forskningsresultater og forskere – uafhængigt af hvilket køn forskerne har og hvilket universitet, de er ansat på, fortæller hun.
Young Investigators
Roberta Sinatra er blandt årets 19 modtagere af Villum Fondens Young Investigator-bevillinger, som bliver tildelt "særligt talentfulde yngre forskere indenfor teknisk og naturvidenskabelig forskning".
Fonden har bevilliget knap 6 mio. kr. til Roberta Sinatras projekt
Bias Explained: Pushing Algorithmic Fairness with Models and Experiments. I projektet vil hun forsøge at afdække de matematiske biasmekanismer, som forårsager misvisende rangeringer samt at udvikle nogle mere retvisende algoritmer.
- Vi ved alle, at bias eksisterer. Alligevel har vi ikke nogen kvantitativ forståelse af, hvad de betyder for vores "anerkendelse" over en årrække. Langsigtet, forventer jeg, at min forskning vil kunne bruges til at identificere uligheder, ikke kun indenfor videnskaben, men indenfor alle områder, hvor vi bruger skævvredne informationer til at nå frem til et kvantitativt resultat, fx kunst, film. Vi er moralsk forpligtede til at udvikle systemer, som skaber lige muligheder for alle og som ikke bliver underminerede af vores egne bias og dårlige algoritmer. Dette projekt har til formål at skabe et mere retfærdigt samfund ved at skabe nogle retvisende rammer, som man kan bruge til at identificere ægte talent og til at fordele ressourcer på en retfærdigfærdig måde, slutter hun.
Få mere information om Villum Fondens
Young Investigator-program
Få mere information om årets
19 Young Investigators Jari Kickbusch, Forskningskommunikatør, telefon 7218 5304, email jark@itu.dk