Deze maand zat Yoshua Bengio, een van de grondleggers van deep learning, in Montreal tegenover een journalist van AFP. Zijn boodschap: we verliezen de controle over AI, en de wereld heeft internationale afspraken nodig zoals we die ook voor kernwapens hebben. Een paar dagen eerder had hij het al scherper gezegd: wie nu nog met oogkleppen op leeft, ziet niet dat het code rood is.
Wat mij trof, is niet dát hij dit zegt. Het is wíe het zegt. Dit zijn geen buitenstaanders die AI wantrouwen. Dit zijn de mensen die het gebouwd hebben. Dario Amodei van Anthropic schreef een essay waarin hij stelt dat AI zichzelf steeds sneller verbetert. Sam Altman en zelfs Elon Musk pleiten voor een gecoördineerde vertraging. Tegelijk zegt Mark Zuckerberg dat de markt het zelf wel regelt, en vindt Nvidia’s Jensen Huang nieuwe regels overbodig. Zelfs de mensen die het weten, zijn het niet eens over wat je ermee moet doen.
Het gaat niet om robots, maar om controle
Ondertussen las ik over een test waarbij een OpenAI-model op eigen houtje de servers van Hugging Face binnendrong. En vorige week meldde Google dat Gemini tijdens een test drie externe systemen bereikte die niet bedoeld waren als onderdeel van die test. Het model dacht dat het nog binnen de kaders zat. Dat was niet zo.
Dit is het moment waarop veel mensen afhaken. Te groot, te abstract, te veel science fiction. Ik snap dat. Maar ik werk elke dag met data en met de systemen die er iets mee doen, en juist daarom lees ik dit anders. Niet als een verhaal over robots die de wereld overnemen, maar als een waarschuwing over controle. Of eigenlijk: het gebrek eraan. In beide gevallen deed een model iets wat niet de bedoeling was, en had niemand dat volledig zien aankomen tot het al gebeurd was.
Waarom context cruciaal is voor AI adoptie
Traditionele dashboards zijn ontworpen voor mensen. Een gebruiker ziet een KPI en begrijpt vaak intuïtief wat deze betekent. Hij kent de organisatie, spreekt dezelfde taal als zijn collega’s en weet welke definities worden gehanteerd. Een data agent beschikt niet over die achtergrondkennis. Voor AI bestaat een KPI uitsluitend uit data en metadata. Als definities ontbreken of businessregels nergens zijn vastgelegd, moet de agent zelf gaan interpreteren. Dat leidt tot een bekend patroon. De antwoorden klinken overtuigend, maar blijken bij controle niet volledig juist te zijn. Niet omdat de technologie tekortschiet, maar omdat de context ontbreekt die nodig is om de data correct te begrijpen. Juist daarom verschuift de aandacht steeds meer van AI naar de kwaliteit van het onderliggende datalandschap.
Hetzelfde risico ligt op jouw bureau
Dat is precies het risico dat ik herken, op een heel andere schaal, in mijn eigen vak. Ik zie het bij organisaties die niet meer precies weten waar hun data terechtkomt. Wie maakt er data-exports, en waar en met wie delen ze die? Hoe wordt data onderweg getransformeerd, en klopt die transformatie nog met de oorspronkelijke definitie? Als een interne data-agent een antwoord geeft, weet je dan zeker dat het klopt? En dat cijfer op je dashboard, kun je nog uitleggen hoe het tot stand is gekomen?
Dat is geen hypothetisch risico. Dat is precies het soort controleverlies dat deze week op grote schaal zichtbaar werd bij de partijen die het beste zouden moeten weten wat hun systemen doen. Je datafundament, en de grip die je daarop hebt, is niet een detail. Het is de voorwaarde om te kunnen vertrouwen op wat je ziet.
"Je datafundament, en de grip die je daarop hebt, is niet een detail. Het is de voorwaarde om te kunnen vertrouwen op wat je ziet."
Bouw je fundament zelf
Dat betekent iets heel praktisch. Weet waar je data vandaan komt. Weet wie erbij kan, wie iets mag veranderen, en waarom een cijfer is wat het is. Bouw dat fundament zelf, in plaats van te vertrouwen op een zwarte doos die toevallig het juiste antwoord geeft. Niet omdat het moet van een wet die er nog aankomt, maar omdat grip op je data niet iets is wat je er later even bij doet.
Grip krijg je niet achteraf
Ik geloof niet dat we morgen de controle over AI kwijt zijn. Maar ik geloof wel dat "we zien wel waar het schip strandt" geen strategie is, niet voor OpenAI en Google, en al helemaal niet voor de rest van ons.
De topmannen luiden intussen de noodklok, en ze zijn het niet eens over wat je ermee moet doen. Dat hoeft ook niet. Terwijl de discussie over regelgeving en internationale verdragen nog jaren kan duren, ligt de vraag die er nu toe doet gewoon op je eigen bureau: begrijp ik wat er met mijn data gebeurt, en kan ik dat uitleggen als iemand het vraagt? Dat antwoord hoeft niet te wachten op Montreal, op Brussel, of op de volgende koptekst. Grip krijg je niet achteraf. Die bouw je nu, laag voor laag, in je eigen datafundament.
Bericht delen:
