AI-ordbog

Hallucination

Når et AI-system genererer fiktivt indhold som det selv påstår er fakta. En chatbot kunne helt selvsikkert citere en falsk undersøgelse eller give et navn på en person der ikke findes. Hallucinations er et stort problem i praksis og løses ofte ved at kombinere AI med verificerbare informationskilder som RAG.

01. Definition

Om Hallucination

Hallucinationer opstår fordi sprogmodeller genererer tekst baseret på statistiske sandsynligheder – ikke på faktisk viden. Modellen forudsiger det næste ord i en sekvens og kan dermed producere grammatisk perfekte men faktuelt forkerte udsagn. Problemet forværres når modellen spørges om emner der er dårligt dækret i dens træningsdata eller hvor spørgsmålet er tvetydigt.

02. I praksis

Hvordan opstår AI-hallucinationer?

En sprogmodel kan opfinde kilder der ikke eksisterer, citere fiktive paragraffer fra love eller præsentere forkerte tal med stor selvsikkerhed. I en virksomhedskontekst kan dette være katastrofalt – forestil dig en AI-rådgiver der citerer en ikke-eksisterende paragraf i en kontrakt. RAG-systemer og kildeverifikation er de vigtigste værktøjer mod hallucinationer.

03. Forretningsværdi

Hvorfor skal virksomheder tage hallucinationer alvorligt?

Hallucinationer er den største risiko ved at implementere AI i kundekontakt eller beslutningsstøtte. En forkert oplysning kan koste penge, skade relationer eller have juridiske konsekvenser. Alle virksomheder der bruger AI bør have en strategi for at minimere og opdage hallucinationer.

Udforsk videre i AI-ordbogen

Se hele ordbogen

Chain-of-Thought (CoT) / Reasoning

En teknik hvor AI-modeller udarbejder deres svar trin for trin i stedet for at springe til konklusioner. Chain-of-Thought forbedrer nøjagtighed især ved komplekse problemer som matematik og logik.

Temperature

En indstilling der kontrollerer hvor kreativ eller forudsigelig et AI-system er. Lav temperatur (0.1) = fokuseret og konsistent; høj temperatur (1.0) = kreativ men mindre pålidelig.

Large Language Model (LLM)

En LLM er en stor sprogmodel trænet på enorme mængder tekst, der kan forstå og generere naturligt sprog – fundamentet for moderne AI-assistenter og chatbots.

Indlæs mere

Klar til at komme i gang?

Lad os tage det første skridt sammen

Hos AIgentur møder vi jer dér, hvor I er, og hjælper jer med at omsætte jeres mål og udfordringer til konkrete løsninger.

Måske har I allerede en idé eller et konkret behov. Måske er I bare nysgerrige på, hvordan AI kan bruges i jeres forretning.

Uanset hvad, tager vi gerne en uforpligtende snak, og viser jer, hvordan en struktureret og fleksibel tilgang kan skabe resultater.