"Het zag er goed uit, maar er klopte helemaal niks van."

Patrique van der Naald wist wat er ging gebeuren. Als Software Delivery Acceleration Manager bij SureSync en projectleider van het AI-transformatieprogramma had hij het van tevoren gezegd: er gaan dingen misgaan die totaal niet oké zijn. En toch, toen die eerste concurrentieanalyse binnenrolde die normaal drie dagen werk kost en nu in een kwartier klaar was, dacht iedereen even: wow.

In deze aflevering van AI Talks vertelt Patrique over pionieren met AI binnen SureSync, wat hij leerde van experimenten die niet meteen werkten en waarom compliance het fundament is onder alles wat we bouwen. Bekijk de video hierboven of lees hieronder verder.

Tot iemand het reviewde. "Dit moet je absoluut nooit gebruiken, dit is levensgevaarlijk. Hier ga je echt verkeerde keuzes en aannames op maken." De agent had flink gehallucineerd. Het rapport zag er strak uit, was mooi opgemaakt en klonk overtuigend. Het klopte echter van geen kant.

Van imponerend naar betrouwbaar

Precies dit soort momenten, zegt Patrique, hoort bij pionieren. Sinds SureSync een AI-projectgroep heeft opgezet met vier tracks (chatbots voor klantcommunicatie, development, monetisatie van AI-oplossingen en het automatiseren van interne processen) is dat het uitgangspunt: uitproberen, tegen dingen aanlopen, verbeteren. "Het gaat er vooral om dat we de expertise en wat we leren met elkaar delen. De een vindt iets uit, de ander vindt iets uit. Zo help je elkaar verder."

Bij die concurrentieanalyse werd het rapport stap voor stap steviger gemaakt. Confidence scores erin, zodat je ziet hoe zeker de agent is van wat hij beweert. Bronvermelding, zodat je kunt checken waar een statement op gebaseerd is. Een tweede agent die kritisch kijkt naar wat de eerste produceert. En niet onbelangrijk: een mens die het reviewt, feedback geeft en zorgt dat die feedback vervolgens weer gebruikt wordt om het rapport de volgende keer beter te maken.

Waar Patrique bij een ander project bijzonder trots op is: het gebruik van spec driven development om software te bouwen. Je begint bij de business case, maakt daar specs van, geeft instructies aan de agent, laat de code genereren én reviewen, en bouwt tests die borgen dat de business requirements gewaarborgd blijven. Ook bij nieuwe iteraties. Itereren op specs, niet op onderbuikgevoel.

Compliance is geen bijzaak. Het is het fundament.

Vraag Patrique waar hij tegenaan loopt bij AI in producten integreren, en hij aarzelt niet: "Compliance is heel belangrijk, eigenlijk is dat het fundament wat onder het project zit. Mensen moeten weten welke data mag ik gebruiken? Hoe mag ik die gebruiken?" Want je wilt niet dat gevoelige klantdata straks aan de andere kant van de oceaan ligt. Duidelijkheid over wat wel en niet mag met data is geen sluitstuk, het is de eerste vraag.

Geen sandbox meer

De experimenteerfase heeft SureSync gehad. "We willen nu inzetten op echte ontwikkelingen die klanten echt kunnen gebruiken. Niet meer een experimentje in een sandbox wat we even in een paar dagen doen en dan weer aan de kant schuiven." Echte klantcases, ontwikkeld met AI. Dat is de lijn.

Dat betekent ook dat de manier van werken verandert. Kleinere samenstellingen, kortere iteraties, sneller functionaliteit ontwikkelen. Bij het volgende PI event, waar SureSync met SAFe werkt, wordt spec driven development voor het eerst meegenomen in de planning. Wat dat gaat opleveren, is nog open. Precies dat maakt het interessant.

En de gitzwarte scenario's?

Patrique hoort ze ook, de verhalen dat AI banen gaat overnemen en economische stelsels laat omvallen. Hij is er nuchter over. "Ik denk dat je nog steeds die menselijke rol in het hele proces nodig hebt. Om te valideren wat die AI doet." Ons werk gaat veranderen, banen zullen verdwijnen, andere komen ervoor terug. Vergrijzing, zorgvraag, automatisering die dat opvangt: het balanceert zichzelf uit.

Wat blijft is de instelling waar hij op begon. Innovatie, pionieren, dingen doen die je normaal niet op de automatische piloot zou aanpakken. "Zolang je met elkaar de wil hebt om ermee aan de slag te gaan, dan denk ik dat je heel ver mee kan komen. In plaats van bang te zijn dat dingen mis kunnen gaan."

Zoals bij die eerste concurrentieanalyse. Die het zo goed deed. Behalve dan dat hij niet klopte.

AI Talks is een reeks waarin collega's van SureSync vertellen over hun kijk op AI: wat het nu al verandert, wat ze ermee willen en waar ze naartoe kijken.