AI-ordbog

Hallucination

Når et AI-system genererer fiktivt indhold som det selv påstår er fakta. En chatbot kunne helt selvsikkert citere en falsk undersøgelse eller give et navn på en person der ikke findes. Hallucinations er et stort problem i praksis og løses ofte ved at kombinere AI med verificerbare informationskilder som RAG.

01. Definition

Om Hallucination

Hallucinationer opstår fordi sprogmodeller genererer tekst baseret på statistiske sandsynligheder – ikke på faktisk viden. Modellen forudsiger det næste ord i en sekvens og kan dermed producere grammatisk perfekte men faktuelt forkerte udsagn. Problemet forværres når modellen spørges om emner der er dårligt dækret i dens træningsdata eller hvor spørgsmålet er tvetydigt.

02. I praksis

Hvordan opstår AI-hallucinationer?

En sprogmodel kan opfinde kilder der ikke eksisterer, citere fiktive paragraffer fra love eller præsentere forkerte tal med stor selvsikkerhed. I en virksomhedskontekst kan dette være katastrofalt – forestil dig en AI-rådgiver der citerer en ikke-eksisterende paragraf i en kontrakt. RAG-systemer og kildeverifikation er de vigtigste værktøjer mod hallucinationer.

03. Forretningsværdi

Hvorfor skal virksomheder tage hallucinationer alvorligt?

Hallucinationer er den største risiko ved at implementere AI i kundekontakt eller beslutningsstøtte. En forkert oplysning kan koste penge, skade relationer eller have juridiske konsekvenser. Alle virksomheder der bruger AI bør have en strategi for at minimere og opdage hallucinationer.

Udforsk videre i AI-ordbogen

Se hele ordbogen

MCP (Model Context Protocol)

En åben standard for hvordan AI-modeller forbinder til eksterne værktøjer og data-kilder uden at skulle tilpasses helt.

Clustering

Clustering er en AI-teknik, der grupperer data baseret på ligheder – uden mærkede data – og afslører skjulte mønstre i virksomheders datasæt.

Graphics Processing Unit (GPU)

En GPU er en specialiseret processor, der muliggør massiv parallel databehandling og er en afgørende komponent i moderne AI, maskinlæring og deep learning.

Indlæs mere

Klar til at komme i gang?

Lad os tage det første skridt sammen

Hos AIgentur møder vi jer dér, hvor I er, og hjælper jer med at omsætte jeres mål og udfordringer til konkrete løsninger.

Måske har I allerede en idé eller et konkret behov. Måske er I bare nysgerrige på, hvordan AI kan bruges i jeres forretning.

Uanset hvad, tager vi gerne en uforpligtende snak, og viser jer, hvordan en struktureret og fleksibel tilgang kan skabe resultater.