AI-ordbog

Guardrails

Sikkerhedsmekanismer der begrænser hvad et AI-system kan gøre eller sige for at forhindre uønskede resultater. Guardrails kan blokere farligt indhold, sikre at systemet holder sig indenfor sit fagområde eller forhindrer det i at udsende private data. De er vigtige for at gøre AI sikker for forretningsbrug.

01. Definition

Om Guardrails

Guardrails implementeres som filtre der kontrollerer hvad der går ind i og ud af en AI-model. Input-guardrails kan blokere forsøg på jailbreaking eller upassende forespørgseler. Output-guardrails kan forhindre modellen i at dele fortrolige oplysninger, give medicinsk rådgivning eller love noget virksomheden ikke kan holde.

02. I praksis

Hvordan fungerer AI-guardrails?

En kundeservice-chatbot kan have guardrails der forhindrer den i at diskutere konkurrenter, give juridisk rådgivning eller tilbyde rabatter uden godkendelse. Guardrails kan implementeres som regelbaserede filtre, separate AI-modeller der vurderer output, eller en kombination. Mange virksomheder bruger frameworks som NeMo Guardrails eller Guardrails AI til at opsætte dem.

03. Forretningsværdi

Hvorfor er guardrails uundværlige i produktion?

Uden guardrails kan en AI-model sige hvad som helst – inklusive ting der skader dit brand, overtræder lovgivning eller lækker fortrolig information. Guardrails er den vigtigste sikkerhedsforanstaltning mellem en AI-model og virkeligheden. De er et krav for ansvarlig AI i erhvervslivet.

Udforsk videre i AI-ordbogen

Se hele ordbogen

Overfitting / Underfitting

Når en AI-model enten lærer træningsdataene alt for godt uden at kunne generalisere (overfitting) eller ikke lærer nok (underfitting). Overfitting er som at huske svarene til eksamen uden at forstå faget.

Embedding / Vector Embedding

En matematisk repræsentation af tekst, billeder eller anden data som tal som AI-systemer kan arbejde med. Embeddings lader modeller forstå betydning og ligheder mellem ord uden at arbejde med rå tekst.

Pre-training

Pre-training er den indledende træningsfase, hvor en AI-model lærer generelle mønstre fra store datamængder før specialisering.

Indlæs mere

Klar til at komme i gang?

Lad os tage det første skridt sammen

Hos AIgentur møder vi jer dér, hvor I er, og hjælper jer med at omsætte jeres mål og udfordringer til konkrete løsninger.

Måske har I allerede en idé eller et konkret behov. Måske er I bare nysgerrige på, hvordan AI kan bruges i jeres forretning.

Uanset hvad, tager vi gerne en uforpligtende snak, og viser jer, hvordan en struktureret og fleksibel tilgang kan skabe resultater.