Ordlista · Så byggs och publiceras det
Hallucination
När AI:n skriver något som låter helt rimligt men helt enkelt inte stämmer.
Modellen producerar det som passar mönstret, och ett självsäkert påstående passar nästan alltid mönstret bättre än jag vet inte. Därför kan den hitta på ett funktionsnamn, en källa eller en siffra utan minsta tvekan i tonen. Motmedlet är inte att lita mindre på tekniken utan att kontrollera: kör det, läs det, och be den ange vad den bygger på.
I Appentizer
Just därför bygger Appentizer på att AI föreslår medan bestämda kontroller granskar och du godkänner. Ingen publicering sker för att modellen tyckte att det var klart.
Kallas också påhitt · AI-fel · konfabulering
Se även
- Språkmodell
- Programmet som skriver text och kod genom att förutsäga vad som rimligen kommer härnäst.
- Prompt
- Det du skriver till AI:n — beskrivningen av vad du vill ha.
- Säkerhetsgranskning
- En genomgång av koden efter kända svagheter innan den läggs ut.