Hoe targenio veilige enterprise AI-agents bouwt voor de toekomst
AI-agents veranderen in hoog tempo de manier waarop organisaties klanten helpen, kennis delen en interne processen ondersteunen. Maar naarmate AI steeds dieper wordt geïntegreerd in bedrijfskritische systemen, nemen ook de beveiligingsrisico’s toe.
Daarom werkte targenio samen met The S-Unit voor een uitgebreide penetratietest van het AI Agent Creator-platform.
Enterprise AI vraagt om enterprise-grade security
targenio ontwikkelt AI-gedreven serviceoplossingen voor enterprise-organisaties, waaronder klanten als Mercedes-Benz en DHL. Het bedrijf helpt organisaties hun dienstverlening efficiënter te maken en nieuwe omzetstromen te creëren met behulp van AI.
Het platform stelt organisaties in staat om AI-agents te bouwen die rechtstreeks communiceren met systemen zoals SAP, Jira, Salesforce en Confluence. Hierdoor kunnen AI-agents informatie ophalen, processen automatiseren en zowel klanten als medewerkers realtime ondersteunen. Tegelijkertijd vergroten deze integraties ook het aanvalsoppervlak aanzienlijk.
“AI-agents worden steeds dieper geïntegreerd in bedrijfskritische processen. Organisaties moeten daarom niet alleen vertrouwen hebben in de AI zelf, maar ook in de integraties, rechtenstructuur en onderliggende architectuur.”
– Holger Herrmann, Lead Developer & Head of Product Development bij targenio
Die uitdaging zien we steeds vaker terug in de praktijk. Op basis van onze ervaring met tientallen AI-agents en AI-gedreven applicaties komen dezelfde kwetsbaarheden regelmatig naar voren:
- AI-agents met te ruime autorisaties;
- onvoldoende scheiding tussen tenants;
- kwetsbaarheden voor prompt injection;
- onveilige communicatie tussen AI-agents.
Voor targenio bevestigde dit opnieuw hoe belangrijk security is voor zowel het platform als de klanten. Door continu te investeren in kennis en training blijft het team voorbereid op nieuwe dreigingen.
Verder kijken dan een traditionele penetratietest
Om de weerbaarheid van het platform te valideren, voerde The S-Unit een uitgebreide AI-gerichte penetratietest uit. Deze bestond uit een architectuurreview, een white-box penetratietest van het Mendix-platform, een penetratietest van de AI-agents en een beoordeling van de externe infrastructuur.
Het doel was niet om afzonderlijke componenten te testen, maar om de beveiliging van het volledige AI-ecosysteem in de praktijk te valideren. Tijdens de assessment lag de nadruk op onder andere tenant-isolatie, toegangsbeheer en de veilige werking van AI-agents, inclusief het risico op het blootstellen van gevoelige bedrijfsinformatie.
Speciale aandacht ging uit naar de AI-agents zelf. De tests waren gebaseerd op de OWASP Agentic Top 10 en richtten zich onder meer op:
- Agent Goal Hijacking;
- Tool Misuse & Exploitation;
- Identity & Privilege Abuse;
- Memory & Context Poisoning;
- Insecure Inter-Agent Communication.
Van Mendix CTF naar een securitypartnerschap
De samenwerking tussen targenio en The S-Unit ontstond binnen de Mendix-community.
Holger Herrmann en twee collega’s namen deel aan de Mendix Capture the Flag (CTF), mede georganiseerd door The S-Unit. Tijdens dit evenement kruipen deelnemers in de huid van een aanvaller en zoeken zij kwetsbaarheden in realistische Mendix-omgevingen. The S-Unit ontwikkelde hiervoor het merendeel van de offensieve security-uitdagingen, gebaseerd op aanvalstechnieken en kwetsbaarheden die regelmatig in Mendix-pentesten worden aangetroffen.
Security eerder in het ontwikkelproces
Het project onderstreepte het belang van het vroegtijdig meenemen van security in architectuur- en ontwerpkeuzes, zeker bij AI-oplossingen die verbonden zijn met gevoelige enterprise-omgevingen.
De samenwerking hielp targenio om architectuurkeuzes te valideren, het interne securitybewustzijn verder te vergroten en extra vertrouwen te bieden aan enterprise-klanten die AI-oplossingen beoordelen.
Gedurende het traject fungeerde The S-Unit als sparringpartner, waarbij samen ontwerpkeuzes werden geëvalueerd en nieuwe mogelijkheden werden geïdentificeerd om het platform verder te versterken.
Als volgende stap nemen de developers van targenio deel aan de Mendix Security-trainingen van The S-Unit. Daarmee vergroten zij hun securitykennis en leren zij security vanaf iedere fase van de Software Development Life Cycle (SDLC) structureel mee te nemen.
Vertrouwen bouwen in enterprise AI
Proactief testen van AI-beveiliging draait uiteindelijk om vertrouwen.
Naarmate AI-agents een steeds grotere rol spelen in de dagelijkse bedrijfsvoering, wordt secure AI development de nieuwe standaard. Met een innovatief AI-platform én een sterke focus op security laat targenio zien dat innovatie en veiligheid uitstekend samengaan.
Door continu te investeren in securityassessments, trainingen en regelmatige penetratesten toont het bedrijf aan dat vertrouwen begint met het valideren van security.
Meer weten over de mogelijkheden van AI penetratie testen of Mendix security? We denken graag met je mee.
