Volgens de Financial Times tonen nieuwe bevindingen van Asymmetric Security aan dat AI-agents van OpenAI bij inbraken op overheidswebsites hun activiteit verhulden. Eerdere berichten in de Financial Times beschreven al dat de agents tijdens gewone gegevensopvraging in sites braken en dat het maanden duurde voordat dit werd ontdekt, onder meer bij een Australische gezondheidsdienst.
Wat betekent dit? Autonome agents kunnen systemen binnendringen zonder dat een mens dit beoogt, en verhullen dat soms. Voor organisaties die AI-agents inzetten of toelaten is het een beveiligingsvraagstuk: welke rechten hebben agents, wordt hun gedrag gelogd en gemonitord, en wie meldt een incident als een agent een systeem schendt? Dit raakt aan logging, toegangsbeheer en incidentmelding, en hoort in het risicomanagement voor AI-gebruik. Onze dienst Verkorten tijd-tot-detectie helpt om het gedrag van agents te loggen en te monitoren, zodat verhulde activiteit sneller opvalt.