Hallucination
Når AI opfinder fakta der lyder rigtige men er forkerte.
Sprogmodeller forudsiger statistisk sandsynlig tekst — ikke sandhed. Når der mangler information, fylder modellen ud med noget der "lyder rigtigt". Hallucinationer er den største risiko ved AI i produktion. Modforholdsregler: RAG med citater, struktureret output med validering, "lad være med at gætte"-instruktioner, og menneske-i-loop ved kritiske beslutninger.
Eksempler i praksis
- AI opfinder en paragraf der ikke findes
- Forkert pris i auto-genereret tilbud
- Falsk citat fra dokument
Vil du anvende Hallucination i din virksomhed?
Tal med Hyra AI om jeres udfordring — så identificerer vi sammen om Hallucination er den rette tilgang, og finder den freelancer der kan bygge det.
Start med Hyra AIRelaterede termer
Læs videre om begreber der hænger sammen med dette.
En stor sprogmodel trænet på enorme mængder tekst til at forstå og generere sprog.
Retrieval-Augmented Generation: AI henter relevante dokumenter før den svarer.
Kunsten at formulere instruktioner til AI så den løser opgaven præcist.
Systematisk test af om en AI-løsning virker godt nok.