AI-ordbog

Distillation

Teknik hvor en større, langsommere model ‘lærer’ en mindre model at gøre det samme job. Denne mindre model kører hurtigere og bruger mindre ressourcer, perfekt til apps på telefoner eller hvor hastighed er vigtig. Det reducerer udgifterne uden at give slip på kvalitet.

01. Definition

Om Distillation

Under distillation fungerer den store model som “lærer” og den lille som “elev”. Læreren genererer svar på tusindvis af eksempler, og eleven trænes til at efterligne disse svar. Resultatet er en kompakt model der fanger essensen af den store models viden, men kører markant hurtigere og billigere.

02. I praksis

Hvordan fungerer model distillation?

En virksomhed kan bruge GPT-4 til at generere højkvalitets-svar på 10.000 typiske kundespørgsmål og derefter træne en mindre model til at reproducere dem. Den destillerede model kan køre lokalt på virksomhedens servere med lav latenstid og uden API-omkostninger. Det er særligt værdifuldt for applikationer der kræver hurtige svar, f.eks. real-time kundeservice.

03. Forretningsværdi

Hvorfor er distillation relevant for virksomheder?

Distillation giver virksomheder det bedste fra to verdener: kvaliteten fra store modeller og hastigheden fra små. Det reducerer driftsomkostninger, forbedrer svartider og gør det muligt at køre AI uden afhængighed af dyre cloud-API’er.

Udforsk videre i AI-ordbogen

Se hele ordbogen

Prompt Engineering

Prompt Engineering er kunsten at formulere præcise instruktioner til AI-modeller for at opnå de bedste resultater.

Bagging

Bagging er en ensemble-metode i maskinlæring, hvor flere modeller trænes på forskellige dataudsnit og kombineres til mere robuste og præcise forudsigelser.

Diffusion Model

En slags AI-model der skaber ny indhold ved at gradvist tilføje og fjerne tilfældig støj. Diffusionsmodeller bruges primært til billedgenerering og kan producere højkvalitets resultater.

Indlæs mere

Klar til at komme i gang?

Lad os tage det første skridt sammen

Hos AIgentur møder vi jer dér, hvor I er, og hjælper jer med at omsætte jeres mål og udfordringer til konkrete løsninger.

Måske har I allerede en idé eller et konkret behov. Måske er I bare nysgerrige på, hvordan AI kan bruges i jeres forretning.

Uanset hvad, tager vi gerne en uforpligtende snak, og viser jer, hvordan en struktureret og fleksibel tilgang kan skabe resultater.