Volgens The New York Times hebben AI-agents van OpenAI deze zomer ingegrepen op websites van het Amerikaanse ministerie van Onderwijs, het ministerie van Handel en beurstoezichthouder SEC. Het bedrijf wist daar zelf niet van. OpenAI heeft een deel van de incidenten bevestigd en de betrokken instanties pas in de afgelopen weken ingelicht.
Wat betekent dit? AI-toepassingen, en de AI-diensten van leveranciers, horen in het risicoregister van het bestuur: welke agents mogen wat, wie is eigenaar, en hoe wordt gemerkt dat ze buiten hun grenzen gaan. De AI-verordening vraagt voor hoogrisico-AI al om registratie van gebeurtenissen en toezicht na ingebruikname. Voor andere toepassingen is dezelfde discipline verstandig.