Problemløsning har vært en av de medfødte evnene til mennesker. Helt siden våre primitive dager, da våre store utfordringer i livet ikke var å bli spist av et rovdyr til samtiden for å få noe levert hjem raskt, har vi kombinert vår kreativitet, logiske resonnement og intelligens for å finne løsninger på konflikter .
Nå, mens vi er vitne til opprinnelsen til AI-følere, står vi overfor nye utfordringer med hensyn til deres beslutningsevner. Mens det forrige tiåret handlet om å feire mulighetene og potensialet til AI-modeller og -applikasjoner, handler dette tiåret om å gå et skritt videre – å stille spørsmål ved legitimiteten til beslutninger tatt av slike modeller og å utlede resonnementet bak dem.
Etter hvert som forklarbar kunstig intelligens (XAI) får stadig større fremtredende rolle, er dette tidspunktet for å diskutere et nøkkelkonsept i utviklingen av AI-modeller som vi kaller Chain-of-Thought Prompting . I denne artikkelen vil vi i stor grad avkode og avmystifisere hva dette betyr og enkle begreper.
Hva gir tankekjede?
Når menneskesinnet står klar med en utfordring eller et komplekst problem, prøver det naturlig å bryte det ned i fragmenter av mindre sekvensielle trinn. Drevet av logikk etablerer sinnet forbindelser og simulerer årsak-og-virkning-scenarier for å planlegge best mulig løsning for utfordringen.
Prosessen med å replikere dette i en AI-modell eller et system kalles tankekjede-promptering.
Som navnet antyder, genererer en AI-modell en serie eller en kjede av logiske tanker (eller trinn) for å nærme seg en spørring eller konflikt. Visualiser dette som å gi en sving-for-sving-instruksjon til noen som ber om en rute til en destinasjon.
Dette er den dominerende teknikken som brukes i OpenAIs resonneringsmodeller. Siden de er konstruert til å tenke før de genererer et svar eller et svar, har de vært i stand til å knekke konkurrerende eksamener tatt av mennesker.
[Les også: Alt du trenger å vite om LLM ]
Fordeler med Chain-of-Thought-oppfordring
Alt som er logikkdrevet gir en betydelig fordel. På samme måte tilbyr modeller som er trent på tankekjede-påminnelser ikke bare nøyaktighet og relevans, men en rekke fordeler, inkludert:
Forbedrede problemløsningsevner , der deres betydning er avgjørende innen felt som helsevesen og finans. LLM-er som bruker tankekjedeoppfordringer forstår bedre eksplisitte og underliggende utfordringer og genererer svar etter å ha vurdert forskjellige sannsynligheter og verst tenkelige scenarier.
Avbøtende antagelser og resultater generert fra antagelser fordi modeller bruker logisk og sekvensiell tenkning og prosessering for å konkludere i stedet for å trekke forhastede konklusjoner.
Økt allsidighet ettersom modeller ikke trenger å trenes grundig på et nytt brukstilfelle, ettersom de baseres på logikk og ikke formål.
Optimalisert sammenheng i oppgaver som involverer flerfoldige/flerdelte svar.
Anatomien til kjede-of-thought prompting-teknikkens funksjon
Hvis du er kjent med den monolittiske programvarearkitekturen, vil du vite at hele programvareapplikasjonen er utviklet som en enkelt sammenhengende enhet. Å forenkle en så kompleks skatt kom med mikrotjenester-arkitekturmetoden som innebar å bryte ned programvare til uavhengige tjenester. Dette resulterte i raskere utvikling av produkter og sømløs funksjonalitet også.
CoT-promptering i AI er liknende, der LLM-er veiledes gjennom en rekke sekvensielle resonneringsprosesser for å generere et svar. Dette gjøres gjennom:
- Eksplisitte instruksjoner, der modeller blir direkte instruert til å nærme seg et problem sekvensielt gjennom enkle kommandoer.
- Implisitt instruksjon er mer subtil og nyansert i sin tilnærming. I dette blir en modell tatt gjennom logikken til en lignende oppgave og utnytter dens slutnings- og forståelsesevner for å gjenskape logikken for de presenterte problemene.
- Demonstrative eksempler, der en modell vil legge ut trinn-for-trinn-resonnement og generere inkrementell innsikt for å løse et problem.
3 Reelle tilfeller der CoT-forespørsel brukes
Finansbeslutningsmodeller
| Multimodal barneseng i roboter
| Helsetjeneste
|
|---|---|---|
| I denne svært volatile sektoren kan CoT-forespørsel brukes til å forstå den potensielle økonomiske banen til et selskap, gjennomføre risikovurderinger av kredittsøkere og mer | Chatbots som er utviklet og distribuert for bedrifter krever nisjefunksjonalitet. De må vise frem evner til å forstå ulike formater for input. CoT-forespørsel fungerer best i slike tilfeller, der roboter må kombinere tekst- og bildemeldinger for å generere svar for spørringer. | Fra diagnostisering av pasienter fra helsedata til generering av personlig tilpassede behandlingsplaner for pasienter, kan CoT-spørring utfylle helsevesensmål for klinikker og sykehus. |
Eksempel
Kundeforespørsel: Jeg har lagt merke til en transaksjon på kontoen min som jeg ikke kjenner igjen, debetkortet mitt er mistet, og jeg vil sette opp varsler for kontotransaksjonene mine. Kan dere hjelpe meg med disse problemene?
Trinn 1: Identifiser og kategoriser problemene
- Ukjent transaksjon.
- Mistet debetkort.
- Sette opp transaksjonsvarsler.
Trinn 2: Adresser den ukjente transaksjonen
Be om detaljer: Kan du oppgi dato og beløp for transaksjonen?
- Gren 1: Hvis detaljer er oppgitt:
- Gjennomgå transaksjonen. Hvis det er uredelig, spør om kunden ønsker å bestride det.
- Gren 2: Hvis ingen detaljer:
- Tilby å gi en liste over nylige transaksjoner.
Trinn 3: Adresser det tapte debetkortet
Frys kortet: Anbefaler umiddelbar frysing.
- Gren 1: Hvis kunden samtykker:
- Frys kortet og spør om de vil ha en erstatning. Bekreft leveringsadresse.
- Gren 2: Hvis kunden avslår:
- Råd til å overvåke kontoen for uautoriserte transaksjoner.
Trinn 4: Sett opp transaksjonsvarsler
Velg varslingsmetode: SMS, e-post eller begge deler?
- Gren 1: Hvis en kunde velger:
- Angi varsler for transaksjoner over et spesifisert beløp. Be om beløpet.
- Gren 2: Hvis usikker:
- Foreslå et standardbeløp (f.eks. $50) og bekreft.
Trinn 5: Gi et sammendrag og neste trinn
- Undersøker den ukjente transaksjonen.
- Frysing av debetkortet og eventuelt utstedelse av erstatning.
- Sette opp transaksjonsvarsler som forespurt.
Begrunnelse:
Denne prosessen adresserer flere kundespørsmål effektivt gjennom klare trinn og beslutningsgrener, og sikrer omfattende løsninger.
Begrensninger for CoT-forespørsel
Tankekjeder er riktignok effektive, men de er også avhengige av bruksområdet de brukes på og flere andre faktorer. Det er spesifikke utfordringer knyttet til CoT-prompting i AI som hindrer interessenter i å utnytte potensialet fullt ut. La oss se på de vanlige flaskehalsene:
Overkomplisere enkle oppgaver
Selv om CoT-spørring fungerer best for komplekse oppgaver, kan det komplisere enkle oppgaver og generere feil svar. For oppgaver som ikke krever resonnement, fungerer direktesvarsmodeller best.
Økt beregningsbelastning
Behandlingen av CoT-oppfordringer krever betydelig beregningsbelastning, og hvis teknikken brukes på mindre modeller som er bygget med begrensede prosesseringsevner, kan den overvelde dem. Konsekvensene av slike distribusjoner kan inkludere langsommere responstider, dårlig effektivitet, usammenheng og mer.
Kvaliteten på AI Prompt Engineering
CoT-promptering i AI fungerer under antagelsen (eller prinsippet) om at en spesifikk prompt er godt formulert, strukturert og tydelig. Hvis en prompt mangler disse faktorene, mister CoT-prompteringen evnen til å forstå kravet, noe som resulterer i generering av irrelevante sekvensielle trinn og til slutt svar.
[Les også: Hva er små språkmodeller? Eksempler fra den virkelige verden og treningsdata ]
Reduserte evner i stor skala
Interessenter kan oppleve at modellene deres sliter hvis de må utnytte tankekjede-anmodninger for enorme mengder datasett eller kompleksitet av problemer. For oppgaver som involverer større resonnementtrinn, kan teknikken redusere responstiden, noe som gjør den uegnet for applikasjoner eller brukssaker som krever generering av svar i sanntid.
CoT-prompting er en fenomenal teknikk for å optimalisere ytelsen til store språkmodeller . Hvis slike mangler kan håndteres og løses gjennom optimaliseringsteknikker eller løsninger, kan de gi utrolige resultater. Etter hvert som teknologien utvikler seg, vil det være interessant å se hvordan Chain-of-Thought-prompting utvikler seg og blir enklere, men også mer nisjepreget.
