Mandragore Learning Academy
DE EN ES FR IT NL PT PT-BR
Beroepen en loopbanen

Veiligheid van AI: modellen, gegevens, agenten en toepassingen beschermen

AI-beveiliging omvat risico's die ontstaan of toenemen door applicaties met modellen: datalekken, prompt injection, gevaarlijke uitvoer, te ruime machtigingen voor agenten, componenten van derden en gebrekkige governance.

Voor wie is dit artikel bedoeld?

Dit artikel is bedoeld voor professionals en leerlingen die deze vaardigheid willen begrijpen voordat zij deze in de praktijk brengen of een opleiding kiezen.

Wat je moet begrijpen

Het onderwerp moet worden opgevat als een gestructureerde beroepsvaardigheid, niet als een eenvoudige lijst met hulpmiddelen. De fundamenten omvatten onder andere AI Security, Prompt injection, RAG, Agents.

Beheersing ontstaat stap voor stap: de principes begrijpen, oefenen met een praktijkvoorbeeld, resultaten controleren en de oplossing vervolgens kunnen gebruiken en onderhouden.

Waarom deze vaardigheid vandaag belangrijk is

Deze competentie is rechtstreeks van toepassing op huidige digitale projecten en op het vermogen van teams om betrouwbare, integrabele en onderhoudbare systemen te produceren.

Professionele waarde komt voort uit de combinatie van begrip, uitvoering, kwaliteitscontrole, veiligheid en de mogelijkheid om keuzes te verklaren.

Wat je in de praktijk met deze vaardigheid doet

Beperking van de blootgestelde gegevensVerminderen van de gegevens die naar het model worden verzonden, filteren van RAG-bronnen en toepassen van dezelfde toegangsrechten als in de oorspronkelijke systemen.
Weerstand bieden tegen prompt injectionOpgehaalde documenten, webpagina's en e-mails als onbetrouwbare inhoud behandelen en voorkomen dat ze systeeminstructies opnieuw definiëren.
Beveiliging van de agentenBeperken van elk gereedschap tot minimale acties, controleren van parameters en vereisen van menselijke bevestiging voor een onomkeerbare of gevoelige operatie.
Gedrag evaluerenHet bouwen van misbruiksscenario's — exfiltratie, omzeiling, kwaadaardige inhoud, escalatie — En de weerstand van het systeem meten.
Toepassingen bewakenOproepen, hulpmiddelen, fouten, gevoelige beslissingen en beveiligingssignalen loggen, terwijl u niet onnodig vertrouwelijke gegevens opslaat.

Concrete voorbeeld: het beveiligen van een aan gereedschap gekoppelde agent

Gebruikers, gegevens, bestaande systemen, veiligheidsproblemen, kwaliteit en werking.

Probleem : Het maken van een proces of systeem betrouwbaarder, onderhoudbaarder en minder afhankelijk van handmatige bewerkingen.

Context : Gebruikers, gegevens, bestaande systemen, veiligheidsproblemen, kwaliteit en werking.

Vaardigheden : AI-beveiliging, prompt injection, RAG, agenten, RBAC.

Voorbeeld : Een beperkte, waarneembare en testbare oplossing bouwen voor de generalisatie.

Toepassing in de praktijk : Het testen van nominale gevallen en fouten, het documenteren van het resultaat en het vaststellen van de onderhoudscontroles.

Te beheersen vaardigheden

Beheersing ontstaat stap voor stap: de principes begrijpen, oefenen met een praktijkvoorbeeld, resultaten controleren en de oplossing vervolgens kunnen gebruiken en onderhouden.

BeginnerBegrip van de basis, het vocabulaire en de eerste operaties.
Gemiddeld niveauBouw gestructureerde, geïntegreerde en geteste workflows.
Gevorderd / zelfstandig werkenOntwerpen, beveiligen, exploiteren en verbeteren van de oplossing in een professionele omgeving.

Fouten, beperkingen en aandachtspunten

  • Controles en tests overslaan.
  • Onbeheersbare permissies of geheimen gebruiken.
  • Wijzigingen zonder traceerbaarheid.
  • Verwaarlozen documentatie en onderhoud.
  • Afhankelijk zijn van een gereedschap zonder de grenzen ervan te begrijpen.

Hoe je verder komt

BeginnerBegrip van de basis, het vocabulaire en de eerste operaties.
Gemiddeld niveauBouw gestructureerde, geïntegreerde en geteste workflows.
Gevorderd / zelfstandig werkenOntwerpen, beveiligen, exploiteren en verbeteren van de oplossing in een professionele omgeving.
Mandragore Learning Academy

Leren met Mandragore Learning Academy

Mandragore Learning Academy verbindt dit artikel met de opleidingen die daadwerkelijk in haar catalogus staan, volgens de productieconfiguraties.

De doelstelling is om van begrip naar een praktische, gecontroleerde en in een professionele context herbruikbare vaardigheid te gaan.

Bekijk de bijbehorende opleiding →
Bijbehorend vaardighedentraject

Bijbehorend vaardighedentraject

Het bijbehorende vaardighedentraject plaatst deze vaardigheid in een breder beroepsdoel en toont de essentiële, aanbevolen en aanvullende onderdelen.

Bekijk het vaardighedentraject →
Bronnen en referenties

Mandragore-bron: de config-bestanden van de catalogus blijven de gezaghebbende bron voor de opleidingen die daadwerkelijk worden aangeboden.

  • OWASP — OWASP Top 10 voor LLM Applicaties
  • Microsoft Learn — Veiligheid voor kunstmatige intelligentie