Definisjon
Skjevhet i AI refererer til systematiske feil i AI-utdata forårsaket av skjeve data, feilaktig design eller samfunnsmessige ulikheter som gjenspeiles i datasett. Det kan føre til urettferdige eller diskriminerende resultater.
Formål
Formålet med å studere skjevheter er å identifisere og redusere urettferdighet i AI-systemer. Organisasjoner tar sikte på å bygge mer rettferdige modeller ved å ta tak i disse problemene.
Viktigheten
- Fører til diskriminering i ansettelser, utlån eller helsetjenester hvis det ikke tas tak i.
- Undergraver tilliten til AI-systemer.
- Krever samsvar med regelverk i sensitive bransjer.
- Relatert til rettferdighet og ansvarlig AI-praksis.
Slik fungerer det
- Identifiser potensielle kilder til skjevhet (datainnsamling, merking, modellering).
- Analyser datasett for ubalanse.
- Bruk rettferdighetsbevisste opplæringsmetoder.
- Test utfall med rettferdighetsmålinger.
- Juster design og omskoler om nødvendig.
Eksempler (den virkelige verden)
- COMPAS risikovurderingsverktøy: kritisert for rasemessig skjevhet.
- Amazons ansettelsesalgoritme: forkastet på grunn av kjønnsskjevhet.
- Ansiktsgjenkjenning: kjent for å feilklassifisere visse demografiske grupper.
Referanser / Videre lesning
- AI-skjevhet — NIST.
- Rettferdighet og maskinlæring — Barocas, Hardt og Narayanan (bok).
- Algoritmisk skjevhet — ACM FAccT-konferanseprotokollen.
- Mangfoldige AI-opplæringsdata: Nøkkelen til å eliminere skjevhet
