AI-agenten worden steeds populairder bij bedrijven. Enkele jaren geleden ging het over eenvoudige chatbots, terwijl die vandaag steeds vaker autonoom werken en toegang hebben tot databanken, code en externe diensten.
Volgens technologiebedrijf Enoki vergroot zo het risico op datalekken en misbruik. De druk om nieuwe AI-functionaliteiten te lanceren is groot voor bedrijven. Terwijl beveiligingsincidenten voor de betrokken bedrijven betekenen reputatie en operationele schade.
“Bedrijven beseffen vaak te laat hoe groot het aanvalsoppervlak van AI‑agenten is”
Audrey Stampaert – EnokiHet Gentse technologiebedrijf ontwikkelde beveiligingstechnologie voor AI-applicaties om deze risico’s te beperken. De start-up werkt daarvoor met een autonome AI-hacker die systemen op maat aanvalt. Zo wil het bedrijven helpen om veilig chatbots en AI-agenten te bouwen en die in productie brengen. “Bedrijven beseffen vaak te laat hoe groot het aanvalsoppervlak van AI‑agenten is”, aldus Audrey Stampaert.
Gepersonaliseerde aanvallen
“Statische codescans zijn noodzakelijk, maar onvoldoende”, zegt medeoprichter Sander Noels. “Een AI-agent kan met één slim geformuleerde instructie gevoelige data lekken of acties uitvoeren die nooit zo bedoeld waren. Een klantenservicebot kan hooguit verkeerde antwoorden geven. Een AI-agent die namens de klant betalingen uitvoert, contracten leest of code schrijft, kan echte schade aanrichten.”
“Een AI-agent die namens de klant betalingen uitvoert, contracten leest of code schrijft, kan echte schade aanrichten”
Sander Noels – EnokiConcreet zal Enoki honderden gepersonaliseerde aanvallen simuleren op chatbots en AI-agenten. Het gaat van een promptinjectie tot datadiefstal. Eens de toepassing live staat, bewaakt het Enoki-systeem alle input en output. De Gentse start-up toetst de risico’s aan de wetgevende kaders.
Enoki bereidt ook een kapitaalronde voor. De AI-cybersecuritymarkt breidt tegen 2030 vermoedelijk uit tot 86 miljard euro, vergelijkbaar met het huidige bruto binnenlands product van Slovenië.
