Human-in-the-loop

Definisjon

Human-in-the-loop (HITL) refererer til systemer der menneskelig vurderingsevne er integrert i AI-arbeidsflyter for oppgaver som opplæring, evaluering eller beslutningstaking.

Formål

Hensikten er å kombinere menneskelig ekspertise med effektivitet innen kunstig intelligens. Det sikrer kvalitet, etisk tilsyn og sikkerhet i sensitive applikasjoner.

Viktigheten

• Reduserer feil i høyrisikodomener (f.eks. helsevesen, forsvar).
• Forbedrer trening gjennom menneskelig tilbakemelding.
• Gir ansvarlighet i automatiserte systemer.
• Tregere og dyrere sammenlignet med full automatisering.

Slik fungerer det

1. Definer områder der menneskelig tilsyn er nødvendig.
2. Samle inn AI-utdata eller forslag.
3. Mennesker validerer, korrigerer eller gir tilbakemeldinger.
4. Tilbakemeldinger integreres for å omskolere eller forbedre modeller.
5. Overvåk systemytelsen med kontinuerlig menneskelig gjennomgang.

Eksempler (den virkelige verden)

• Innholdsmoderering: Mennesker gjennomgår flaggede innlegg fra AI.
• Medisinsk AI: leger validerer AI-genererte diagnoser.
• Forsterkende læring fra menneskelig tilbakemelding (RLHF): trener språkmodeller som ChatGPT.

Referanser / Videre lesning

• Amershi et al. «Makt til folket: Menneskenes rolle i interaktiv maskinlæring.» AI Magazine.
• NIST AI-risikostyringsrammeverk.
• IEEE-standarder for Human-in-the-Loop-systemer.
• Forståelse av menneske-i-løkken