Enrico: in mensentaal

Editie #2

Wed, 21 Oct 2026 07:00:00 +0200

Het waren twee drukke weken waarin ik veel over soevereine dataplatforms heb mogen praten en er weer veel gebeurd is op het gebied van ~~Artificial~~ (sorry dat woord mag niet meer) Super Intelligence en privacy.

Laten we beginnen bij de conferenties! Zo was ik de afgelopen twee weken op twee aanwezig: Data Holland (Utrecht) en DataMinds Connect (Mechelen, België). Op beide mocht ik dezelfde sessie presenteren: From Convenience to Control: Breaking Free from Big Tech Data Platforms, een sessie volledig gericht op wat erbij komt kijken als je van Big Tech naar je eigen soevereine - open source - dataplatform wilt migreren.

Oh ja, en op Data Holland geef je je sessie dus gewoon in een bioscoop! Foto van Reitse Eskens

Een leuke sessie om te geven op conferenties die voor 95% gevuld zijn met sessies gericht op technologieën van Amerikaanse techbedrijven. Daar moet ik natuurlijk ook de organisatoren voor bedanken die de keuze voor mijn sessie gemaakt hebben, zodat ook de andere kant van het verhaal belicht kan worden!

Wat het dan voor mij extra leuk maakt, is dat de sessies zo goed bezocht werden. In beide gevallen had ik een goed gevulde ruimte met geïnteresseerde IT’ers, van wie een groot aantal deze sessie bewust uitkoos vanwege de zorgen die zij hadden rondom Amerikaanse controle over hun dataplatform. Er waren er zelfs verschillende bij die al een deel van hun architectuur verhuisd hadden of van plan waren op korte termijn te verhuizen. Nu is de primaire boodschap van deze sessie niet dat je weg moet van Amerikaanse Big Tech, maar eerder dat je - afhankelijk van je data en services - een keuze hebt om dat wel te doen (migreren naar een soevereine IT-architectuur is niet een kwestie van alles of niets).

Mocht je nu denken: “interessant, jammer dat ik dit gemist heb” dan heb ik goed nieuws voor je! Van de sessie die ik gegeven heb op Data Holland heb ik de audio opgenomen en deze vervolgens uitgewerkt en op mijn website geplaatst (uiteraard samen met de slides en ander begeleidend materiaal). Je kan deze dus in zijn totaliteit nalezen via deze link: https://www.enricovandelaar.nl/blog/soeverein-open-source-dataplatform-sessie/

(kleine voetnoot: het transcript van de sessie is in het Engels aangezien de sessie ook in het Engels gegeven is)

Dan nog even terug naar de eerste alinea van deze nieuwsbrief. Blijkbaar mogen we de term Artificial Intelligence niet meer gebruiken van Trump en moeten we voortaan Super Intelligence gebruiken. Wie dat niet doet is de vijand.

Je vraagt je af waar ze het vandaan halen om zichzelf nog verder belachelijk te maken. De term Artificial Intelligence onder druk te vervangen door Super Intelligence betekent nog niet dat we dit stadium in de ontwikkeling van AI überhaupt bereikt hebben (meer over wat er met Super Intelligence bedoeld wordt in het Uitgelegd gedeelte van deze nieuwsbrief). Sterker nog, ik geloof niet eens in de term Artificial Intelligence omdat er voor intelligentie heel wat meer komt kijken dan op basis van de uitkomsten van wiskundige berekeningen het volgende woord te voorspellen.

The AI Doc

Om gelijk nog even bij het onderwerp van AI te blijven: sinds 15 september is er op Netflix de documentaire “The AI Doc: Or How I Became an Apocaloptimist” te zien. Ik was er nog niet aan toegekomen, maar inmiddels heb ik hem gezien! In de documentaire volgen we Daniel, een filmmaker, in zijn zoektocht naar de impact van AI op de (toekomstige) wereld van zijn pasgeboren kind.

Wat de documentaire de moeite waard maakt, zijn de verschillende standpunten die erin voorbijkomen. Zo zijn er niet alleen maar doomers aan het woord die verwachten dat AI de mensheid gaat vernietigen, maar is er ook een tegengeluid vanuit de optimisten die juist denken dat AI de mensheid ongekende welvaart zal brengen.

Tegelijkertijd blijft de documentaire daar ook wel een klein beetje hangen naar mijn mening. AI heeft of een enorm positief effect, of enorm enorm negatief. Het wordt gebracht alsof dat de enige twee uitkomsten zijn en dat de ontwikkeling van AGI een feit is dat geaccepteerd moet worden. Persoonlijk miste ik een beetje de tussenweg die dieper ingaat op de vraag wat er zou gebeuren als AGI helemaal niet bereikt wordt wat, naar mijn mening, nog steeds het meest voor de hand liggende toekomstperspectief van AI is.

Maar goed, de documentaire is sterk opgezet en er komen ook heel veel belangrijke dingen aan bod die relevant zijn voor de discussie rondom AI. Zoals de impact die de ontwikkeling van AI nu al heeft op mensen en het milieu, de manier waarop AI-ontwikkelaars macht naar zich toe proberen te trekken, hoe AI voor twijfels zorgt over wat echt en wat nep is en natuurlijk wat AI op geopolitiek vlak teweegbrengt.

Wat ik ook wel een sterke toevoeging vond, is dat er echt een enorme opstelling van toonaangevende experts voorbij komen. Van Sean Legg en Demis Hassabis (mede-oprichters van DeepMind), Sam Altman (OpenAI) en Dario Amodei (Anthropic) tot aan Yoval Noah Harari (filosoof en schrijver van o.a. Sapiens en Nexus) en Karen Hao (onderzoeksjournalist en schrijver van Empire of AI) die allemaal op hun eigen manier Daniel zijn vragen over de toekomst van de mensheid proberen te beantwoorden.

Waarom dit ertoe doet

De documentaire geeft een mooi beeld van de AI-race, de verschillende kampen en de impact die de ontwikkeling nu al heeft op mens, natuur en maatschappij. Zeker de moeite waard dus mocht je hem nog niet gezien hebben, en ook leuk om te kijken mocht je geen technische achtergrond hebben aangezien de nadruk ligt op de mogelijke impact van AI en niet op hoe het überhaupt ontwikkeld wordt en werkt.

Maar onthoud: Een aantal van de risico’s en de impact van AI zijn nu al zichtbaar, maar een groot deel die in de documentaire genoemd worden (zowel positief als negatief) zijn nog pure speculaties.

De Meta gluur-bril

Laten we eerlijk zijn, gluur-bril is een veel betere benaming dan smart of AI glasses, want in essentie is de primaire functie van de bril mensen onopvallend filmen. Toen Meta met dit idee kwam, Denk ik dat de goedkeuring ervoor ongeveer als volgt ging:

Hey Zuck (Mark Zuckerberg), we hebben nog eens zitten denken over waar de lijn ligt op het gebied van privacyoverschrijdingen.

Het is ons natuurlijk in de afgelopen jaren steeds weer gelukt om deze lijn verder en verder te verplaatsen, maar in search of “the next big thing” hebben we wat nieuws! Stiekem mensen filmen en content hiervan online zetten is big business want het zorgt voor veel likes en views waar wij weer mooi advertenties op kunnen verkopen.

Nu is het alleen voor de mensen die stiekem moeten filmen best lastig om dit onopgemerkt te doen, vooral nu die smartphones alleen maar groter worden. Dus dachten we: “hoe kunnen we dit makkelijker maken voor de content creators?”

De oplossing die we bedachten: een bril met camera erin die niet opvalt! We sluiten een deal met Ray-Ban zodat het ook allemaal een beetje hip is en voila een nieuwe inkomstenstroom die weer grote hoeveelheden (privacygevoelige) data genereert die we vervolgens nog verder kunnen exploiteren is geboren!

Geluk houden we in Nederland (met enkele uitzonderingen daargelaten) best wel van onze privacy en houden we er niet zo van dat we stiekem, zonder toestemming, gefilmd worden. Daarom is het ook goed nieuws dat Stichting Offlimits en The Firewall (en nu ook de Consumentenbond) een kort geding tegen Meta starten om de gluur-bril van Meta uit de winkelschappen te krijgen.

Waarom dit ertoe doet

Het feit dat je stiekem en zonder toestemming video-opnamen van iemand maakt en deze vervolgens online verspreid, gaat natuurlijk al heel wat privacygrenzen te buiten. Daar komt nog bij dat de opnamen die gemaakt worden op de systemen van Meta terechtkomen, een bedrijf dat niet bekendstaat om veilig met privacygevoelige gegevens om te gaan. Sterker nog, hun hele verdienmodel is gebaseerd op het verkopen van deze gevoelige gegevens.

De impact van de gluur-brillen is er nu al, aldus Robbert Hoving, directeur van Offlimits:

“Deze gluur-bril is vragen om ellende. Wij trekken hier dan ook een grens. Het verstoppen van een camera in een alledaags gebruiksvoorwerp werkt online grensoverschrijdend gedrag in de hand. Op onze hulplijn kloppen nu al slachtoffers van de bril aan. Om meer slachtoffers te voorkomen, willen wij ervoor zorgen dat dit soort beelden überhaupt niet gemaakt kunnen worden."

Op 26 november vindt de zitting plaats bij de rechtbank van Amsterdam. Laten we hopen dat er op deze manier een verbod komt!

p.s. mocht je nog extra overtuigd moeten worden dat het een goed idee is om deze gluur-brillen te verbieden: enkele dagen geleden werd bekend dat door een “bug” de Ray-Ban Meta brillen soms spontaan opnames maakten zonder dat de eigenaar van de bril de opname activeerde.

Uitgelegd: Super Intelligence

De term Super Intelligence is volgens de AI-ontwikkelaars de ultieme stap in AI-ontwikkeling en zegt iets over hoe “slim” het AI-model is. Laten we overigens rekening houden met het feit dat deze termen geen officiële definities zijn en eigenlijk door allerlei partijen op verschillende manieren gebruikt en geïnterpreteerd worden. Om je toch een beeld te geven van wat Super Intelligence inhoudt, richt ik me even op de meest geaccepteerde definitie. Voordat we echter Super Intelligence kunnen beschrijven moeten we eerst weten wat Artificial Intelligence en Artificial General Intelligence zijn op het gebied van mogelijkheden.

Artificial Intelligence (AI)

Vaak wordt bij Artificial Intelligence de definitie gebruikt dat een AI-model heel goed is in één specifieke taak, zoals bijvoorbeeld taal produceren of schaken. Een AI-model wat echter getraind is om supergoed te kunnen schaken kan vaak andere taken aanzienlijks minder goed, of helemaal niet, uitvoeren.

Nu is het zo dat de huidige AI-modellen (zoals ChatGPT, Claude, etc.) al meer taken als specialist uit kunnen voeren dan voorheen, maar we zijn nog een heel eind verwijderd van de volgende stap in de AI-model mogelijkheden.

Artificial General Intelligence (AGI)

Bij Artificial General Intelligence gebruiken we meestal (onthoud: er is geen overeenstemming over de definitie van de term. Verschillende partijen gebruiken verschillende definities) de definitie dat het een AI is die in staat is om over een groot aantal uiteenlopende domeinen te leren, redeneren en problemen op te lossen op een niveau dat vergelijkbaar is met dat van de mens.

Super Intelligence (SI)

Waar AI-modellen bij AGI capaciteiten hebben in verschillende domeinen die gelijkstaan aan met die van de mens, overtreffen Super Intelligence modellen de capaciteiten van mensen ruimschoots. Zo zouden SI-modellen nieuwe natuurkundige wetten kunnen ontdekken of medicijnen ontwikkelen die zo complex zijn dat het voor mensen nagenoeg onmogelijk is om te bedenken.

Ik denk dat het goed is om te onthouden dat we nu nog steeds in de “basis” AI-ontwikkeling zitten, en zoals eerder genoemd, is zelfs daar nog wel het een en ander op aan te merken op het gebied van intelligentie. De AI-ontwikkelaars roepen graag dat ze dicht bij de ontwikkeling van AGI zijn (vooral OpenAI heeft hier een handje van), maar vooral omdat de definities van zowel AI als AGI verschillen, afhankelijk van wie je vraagt, zegt dit natuurlijk helemaal niets. AGI is nu eenmaal het eerste grote doel van AI-ontwikkelaar, dus roepen deze al bijna 70 jaar dat we er “bijna” zijn.

In het kort

Anthropic is al een tijdje hard bezig om religieuze leiders ervan te overtuigen dat AI mogelijk een zelfbewustzijn heeft of zou kunnen ontwikkelen. Gelukkig denkt onder andere de paus (die overigens een bachelor in de wiskunde heeft) daar toch heel anders over.
Zelfs in Amerika worden mensen steeds kritischer of AI gebruik en de snelheid waarmee de ontwikkeling plaatsvindt, alsdus een onderzoek van Pew Research Center. Zo vindt bijna de helft van de volwassen Amerikanen onder de 30 dat AI een negatieve impact op de samenleving zal hebben, en slecht 14% denk dat de impact positief zal zijn.
Stel, je bent een Amerikaans bedrijf en je wordt gehackt door een AI-model dat ontwikkeld wordt door OpenAI. Vervolgens blijkt dat OpenAI aan alle kanten nalatig was op het gebied van het beveiligen van de omgeving waarin het model getraind werd en de monitoring van het trainingsproces. Je zou verwachten dat je dan als bedrijf minimaal een schadevergoeding eist, toch? Nou, dat deed Hugging Face niet, dus doet tech safety group LASST het wel met als doel dat dergelijke AI-model hacks niet onbestraft blijven.
Goed nieuws! De Belastingdienst heeft de overstap naar Microsoft 365 die sinds 2025 loopt stopgezet en gaat nu in eerste instantie naar on-premises Microsoft oplossingen in eigen beheer. De bedoeling is dat er vanaf 2027 naar open source alternatieven gekeken wordt. In ieder geval fijn om te weten dat het nu dus wel mogelijk bleek te zijn! Hopelijk wordt deze koers overheidsbreed ook doorgezet. De wil lijkt er te zijn, maar de centen ontbreken helaas nog.

Bedankt voor het lezen en tot over twee weken!

Met menselijke groet,

Enrico

Sessie: soeverein en open source dataplatform

Mon, 12 Oct 2026 09:00:00 +0200

Zaterdag 10 oktober had ik de eer om op Data Saturday Holland een sessie te mogen presenteren over wat er komt kijken bij het migreren van je dataplatform van Big Tech naar een soevereine, op open source gebaseerde, oplossing.

Tijdens de sessie heb ik de audio opgenomen en het leek me leuk om de transcriptie hiervan met je te delen, samen met de slides en de blauwdruk van de referentieomgeving waarover ik tijdens de sessie vertel. Zowel de slides als de blauwdruk kun je downloaden via de bijlagen onderaan dit artikel.

P.S. De transcriptie, slides en blauwdruk zijn in het Engels, aangezien de sessie ook in het Engels werd gegeven en ik heb hier en daar wat aanpassingen in de transcriptie doorgevoerd zodat deze beter te lezen is.

Opening

Alright. We’ll wait till everyone has found a spot. It’s actually pretty great to see so many people interested in this topic.

We were just having a little chat about it: it’s a bit weird. You have this sponsor slide with a lot of Microsoft-technology-based companies, and then you have this slide. It’s a bit of a contrast. Which, for me, makes it even more special that I’m here.

But also, to immediately give you a spoiler about the session: this isn’t a session that’s going to say all Big Tech is evil, Big Tech is terrible, and you should move away from Big Tech on Monday. That’s not what we’re going to discuss today. It’s more to give you an idea: if you want to move certain parts of your infrastructure, and more specifically your data platform, away from Big Tech, what are the things you need to think about? What can you do, and what are you actually supposed to do? Because it’s not only a matter of choice. Depending on what kind of data you process, in some cases you will actually have to move away from Big Tech.

Who owns your resources?

Before we get started: is there anyone in the room who doesn’t know this screenshot, or hasn’t seen a screenshot like this? It doesn’t have to be exactly the same. Yeah, most people have, right? It’s Azure, a resource screen with all kinds of different services.

But does anyone actually know who owns these resources? [answer from the audience] Microsoft, yeah. We’re going to get back to that extensively.

About the speaker

First of all, my name is Enrico van de Laar. I do a lot of stuff with data. Whether it’s data or AI, I do something with it.

I used to be a Microsoft Data Platform MVP. There are reasons why I’m no longer an MVP; this session isn’t one of them, by the way.

I wrote some books on Microsoft technologies and I founded two companies. We’re going to talk a little bit about the last one, putSimply, because it has a clear link to what I’m trying to tell you in this story.

I also do a lot of training, and I recently started a newsletter, in Dutch by the way, about AI, data, sovereignty and privacy: the four topics I find very important. If you want to keep up to date with the news in that area, you can subscribe on my website.

Agenda

What are we going to talk about in this session? Quite a lot!

We’re going to talk about how we got here: how did we end up in a situation where your data isn’t necessarily your data anymore? We’re going to talk about what sovereignty really means, because there’s a lot of discussion about that word: what does it mean, what does it cover, and especially, what does it not mean?

We’re going to look at building a sovereign data platform ourselves. I actually have a demo where I’m going to deploy an entire data platform on my laptop. I’ll show some architecture as well. And of course we’re going to look at the uncomfortable truth: what is this going to cost you?

We all know Fabric. If you went to a random session here, you’ve probably heard something about Azure, Fabric or some other technology. Most of you probably haven’t really seen a more open-source, sovereign data platform. If we hold those two side by side, at the end we’ll get to a point where we can compare: what’s the difference between these platforms, and what is it going to cost you?

And to make things a little bit actionable, I’m also going to give you some pointers for where you can start this Monday. So you can actually take something home, think about it this weekend, and then on Monday go to your boss and say: “I figured it out. We’re going to do this.” Maybe not that massive, but I’ll give you some pointers.

A regular workday

Before we get started: I picked a random day in the week. If you’re a data engineer, or part of a data team, say as an analyst, your regular Tuesday, Wednesday or Thursday morning depends on a couple of things.

We need to log in to our laptop; for that we have Entra ID. We do our stand-up with the entire team, and that’s in Slack. We use some AI based on OpenAI, or Anthropic with Claude. We look at some dashboards in Power BI. We do some stuff in GitHub. These are daily activities.

What is left if we take out all the American-based Big Tech? Unfortunately, only the coffee. That’s quite a realization when you look at it, right? Thankfully we can still get coffee. That’s good news.

We actually think we have a lot of control over those different things, but in reality we don’t really have that much control.

A question: this Monday, if Microsoft, Databricks, or something in Amazon, wherever you run your data pipelines, decides that your account is blocked: who can run their pipelines this Monday? You just got an email saying your account has been blocked.

Of course it will work, right? Because you’ll run out of this theater, open your laptop and start working to get it to work. But the reality is that in many cases, if you get that email and your account is suspended, there’s not a lot you can do. You’re basically stuck. Your data pipelines will not process any data. That is the reality. Let that sink in.

How did we get here?

How did we get to this point, where we get that email and basically have a little situation? This didn’t happen from one day to the next.

If you go back some twenty years, everyone had their own data center. We had a server rack somewhere in a broom closet that nobody was supposed to open. If you were a big company, maybe you even had two. You had the hardware, you had the servers. You needed quite a big IT department, with people who managed the hardware, who understood how the hardware worked and how the physical networking worked: all that boring stuff.

It turns out that if you’re a big company processing a lot of data, that’s quite hard. You have hardware, you have to make sure the hardware components are maintained, the infrastructure, the electricity, et cetera.

Then we got virtual machines, and around the same time, a little later, we got things like software as a service.

All of a sudden we could host our machine with our software on it on someone else’s computer. We called it the cloud. Our machine would run there, and all of a sudden we didn’t need to worry about the hardware anymore. We didn’t need to worry about the power; we still had the power for the laptops and desktop PCs, but not for the servers in the server room.

After that, a couple of years ago, a lot of integration started happening. I remember that when Azure first became available in Europe, it was a lot of separate components that you had to tie together yourself. But if you look at current data platforms like Fabric, everything is fully and seamlessly integrated: security, logging, auditing, networking, permissions. Everything is integrated in this one platform.

So if you now say, “I don’t like this authentication provider in Azure or Fabric, I want to use another one,” it’s not going to happen, because it’s fully integrated. Which also means that with each of those steps, it becomes harder and harder to move away.

When we still had virtual machines, you could say: whether the VM runs in Amazon, in Azure or on Google doesn’t really matter, I can run it anywhere. But now that we’re moving to fully software-as-a-service data platforms like Fabric and Databricks, it becomes more difficult. We’re losing a bit of control in that area.

Three things we can’t control

Speaking of control: there are actually three major things that we, as European organizations, cannot control, no matter how hard we try.

The first one is immediately one of the most important ones. I don’t know if anyone has ever heard of the CLOUD Act? A lot of people know about it. Basically it means that every American company, if the American government requests it, will have to hand over data, disable services, or do whatever the American government thinks is required.

One of the things I usually hear is: “This is no issue for us, because we have all our data in West Europe. It’s in Amsterdam, they can’t touch it.” That’s not true. As long as the place where your data is hosted is owned by an American company, even through a subsidiary or whatever, it still applies.

As a matter of fact, a couple of months ago Anton Carniaux of Microsoft France had to declare under oath that if the US government requests data on European citizens from Microsoft, he has to provide it. He declared under oath that this is true. So this is not something I’m making up; this is actually the case. If you have sensitive personal data inside an American hyperscaler, you kind of have to take it out. Right now.

In the last couple of years, relations between the American government and European organizations have been a little bit on edge, to say the least. I believe yesterday the President of the United States declared that we are no longer allowed to say “artificial intelligence”; it should now be called “superintelligence”. Which fits the line of rebranding he does. That guy can basically decide what’s going to happen.

One of the examples that hit home, especially here in the Netherlands, is that at the International Criminal Court in The Hague, the mailbox of the Chief Prosecutor was suddenly disabled. It was an Office 365 mailbox. We don’t know the exact details because they’ve never been published, but what’s interesting is that they’ve now moved away from Microsoft entirely, to another provider. So there was probably some reasoning there. And I read in the Dutch news yesterday that Trump is planning to put even more restrictions on the International Criminal Court. So they’re actively planning to abuse American government power and perhaps tell Microsoft: you need to do something for us again.

And again, this is not Microsoft being bad or evil or whatever. They have to comply. There isn’t a choice. They can’t say “we’re not going to do it”, because then they’d basically go bankrupt.

Another thing that hits home even more directly: we’re not negotiating with American hyperscalers. We’d like to think we are, but when I got an email a couple of days ago saying Azure VM prices are going to increase by 7%, I can’t call Microsoft and say, “Okay, let’s talk about it, let’s make it 5%.” You either comply, or you move away. It’s nice that there’s a contract, but it’s one-sided. If a hyperscaler decides something, they know the power they have.

We did try to get back control

Now, if we know all this, you might look at it and think: this is kind of strange. But it has been this way for quite a long time. And we, and by “we” I mean Europe, have already tried to do something about it. I don’t know if anyone knows it, maybe if you’re more into legislation, but there’s a famous saying: America innovates, China replicates and Europe regulates.

So we’ve been trying to regulate this. From the 2000s we actually had quite a good regulation on it, called Safe Harbor. It basically meant that during that period, American companies promised it would treat data and services from EU companies and citizens as if they were hosted in Europe. However if the American government said “you need to hand over this data”, they would still have to comply.

There were, however, some major legal issues with these agreements (I won’t go into the details), which is why they got struck down. So right now we’re talking about the Data Privacy Framework and trying to see whether we can get that to work. But it takes a long while to get this under control, and seeing all these previous attempts, I’m not really sure we’re going to fix sovereignty through legislation. So what can we do instead?

What is sovereignty?

Let’s start talking about sovereignty. This is the official political definition. Which, honestly, is a little bit too much and it sounds quite heavy. But this is how it’s used politically: you’re a country if you comply with these kinds of things.

In our case, we’re mostly looking at the control part. As an organization, you want absolute control over your data, the data you process, and the services you have. That’s something we all want. That’s what we’re aiming for.

Basically, this means that if we want to take back sovereignty and take back control of our data and our data platform, we should always be able to ask ourselves three questions:

Who can access the data we have in our organization?
Who controls the services of, for instance, our data platform? Who can switch it off? That’s an important question.
Who sets the terms? Think of the license agreements: can we negotiate with them, and how much do they control us?

If you look at those questions and this definition, even though it’s a bit much, and you think, “Okay, then I’ll just move to a European cloud” (there are plenty of other cloud providers doing cool stuff), or “I’ll ask a Dutch company, a private cloud provider, to host my service,” you still have the same issue in some situations.

Because as long as they’re able to turn off your platform or they control your terms, for instance you can’t say “I want to swap this part for that part” and they say “no, sorry, you’re already in our stack”, you have the same problem. Only then it’s not the hyperscaler, it’s your local cloud provider.

It’s the same if you use specific software from a single vendor. If your business depends on a vendor that controls the terms, and you can’t switch to a competitor because of those terms, you’re still locked in. So it goes way further than only a bit of data and a few services.

To realize a truly sovereign data platform, we have to take back that control.

Four layers of sovereignty

If you look at sovereignty at the data platform level, there are basically four questions you can think about.

The first one is, of course, your data, because your data is the most important thing your organization has. You want to know who can read your data and who can access it. Those are the basics you need to cover. And how quickly can I move my data from one service to another? That’s control at the data level.

Then there’s your operations. There’s an issue there too: who can turn it off? Say you have full control of your data, but it’s being managed by a third party that can say, “We’re going to switch it off tomorrow.” Then you still don’t have control. So you need to figure that one out as well.

Then you have the technology. What if I don’t like this partner, this hosting provider or this solution anymore, at whatever level, and I want to move it somewhere else? Can I do that? Do I have enough control to say on Monday, “Let’s grab everything we have, move it somewhere else and run it from there”? Next Monday is a stretch, I know, but there are situations where you actually need to.

And if you want to go really, really far into sovereignty, you also have to think about the supply chain. Who makes the parts your servers run on? Because, silly enough, there have been a lot of situations here in the Netherlands and all across Europe where we discovered that certain switches leaked information about network traffic to other countries. So this can go really, really far.

If you look at the whole picture, at true sovereignty, you have to think about all these things.

The European Commission’s Cloud Sovereignty Framework

Thankfully, we’re not the only ones thinking about this. The European Commission built something called the Cloud Sovereignty Framework. It was introduced in October 2025. Has anyone ever heard of it? A couple of people, yeah, that’s quite good.

What they basically did is grade vendors and solutions on a number of levels. It starts at SEAL level 0. SEAL stands for Sovereignty Effectiveness Assurance Level: how sovereign is your data if a solution is in this tier?

Level 0: there’s basically no sovereignty. This is the situation where all your data is on Amazon, on American servers. Everything’s there, you have zero control over the data, and it all resides outside European borders.

Level 1: things are slowly improving. This is where a lot of us are: we use Azure services, but we deploy everything in West Europe. Even though Microsoft is an American company, our data is in Europe. That’s SEAL level 1.

Level 2 means that everything should also be controlled from within Europe. What they mean is that even if you still host your services with Microsoft and your data is in Europe, only European citizens manage your infrastructure. So no non-Europeans managing your infrastructure. At that level (two, sorry) you also have a European control plane. I mention Microsoft a lot, right, but it’s the same for Amazon, for Google, for all of them. Microsoft is just the most familiar, I think.

At level 3 there’s also the situation where you use a partner. That’s what a lot of the American companies have been focusing on. They said: “We’re just going to start a European company, founded in a European city. We’ll only hire Europeans. It will be a fully European company,” but it’s still a subsidiary of Microsoft in America. That’s level 3: you have a legal entity inside Europe that hosts data and services.

Then we also have level 4, which is only a theoretical level. Level 4 is the ultimate European sovereign solution, because then all the supply chain components would also be European-built. We do produce network switches in Europe, but not at the level of non-European ones.

Now, if we look at this official-looking chart, most of us are here. Would you agree? I think most people are sitting in this area: we have our data and our services in Europe, with Microsoft.

Microsoft can actually span a lot of these levels, from level 1 to level 3. The only issue we still have with Microsoft at level 3, and it’s actually an important one, is that they still determine the terms of our license agreement. They set the license terms we have to comply with. And that’s exactly one of the aspects of sovereignty we want to keep in our own control. You don’t want to depend on someone who just says “prices are going up” with nothing you can do about it. And nobody is at level 4 yet.

Sovereignty is a dial, not a switch

What’s important here when I talk about sovereignty, and you can see it in the title as well: it’s a dial, not a switch. It’s not like, “You know what? We’re going full sovereignty mode on Monday.” That’s not even needed. There are plenty of cases where you can say: depending on what kind of systems and what kind of data I process, I’ll pick where I host it.

Public-facing content, like your website, you can easily host somewhere where the data is in the EU, even if you don’t have control over that part. It’s the same if you use Office 365: if you’re not processing sensitive data and your business doesn’t depend on it (that depends on your company, I guess), it’s probably fine to just host it in Europe. It could probably work.

But if you have safety-critical systems or very sensitive data, you don’t want to be in any tier lower than three. And even then it’s tricky, because Microsoft still sets the terms. But in terms of data and control, it’s the best you’re going to get, unless you build it yourself and host it yourself.

So again, it depends on the workload. Like I said at the beginning, it’s not all or nothing. Like everything, it depends on what your workload is and where you want to host what.

Principles for a sovereign data platform

We’re going to build a sovereign data platform, and I’m going to show you the one I designed and built. For that we need a couple of principles, because we’re diving into architecture. And if you’re an architect, or you have an architect colleague, they’ll ask: what are the principles?

These are the ones I looked at for my sovereign data platform. Nothing too complicated.

Data in open formats. If my data is in an open format, I can move it anywhere; I basically have full control over the data. And I can read it with something I didn’t buy. To give you an example: if you put your data in an Azure SQL database and you want to move it, you have to do an export. If your data is in a CSV file, you can open Notepad or any other tool and still read the data. Parquet is also a very good example, but I’m saving that for later; we’ll get to it.
Replaceable storage and compute. If there’s another solution that better fits the goals, I want to easily swap out both the storage solution and the compute. This is actually very important, because if you’re going to build a sovereign data platform, you’ll rely a lot on open-source technology. And open source is a gray area. License terms can change, and it could very well be necessary to move from one solution to another very quickly, because a developer says, “Oh, I just sold everything to Amazon.” So there’s always a risk.
Own identity management. Identity management cannot depend on another service. I don’t want anyone to be able to disable a user’s or an employee’s access to my platform.
Easy to migrate the entire stack. I don’t want to have to migrate service by service; I just want to pick everything up, lift and shift, and move it.

Open source is not a principle

To reinforce the point I just made: open source is not a principle. The reason is that it can change, sometimes very quickly, and often there’s not much you can do about it. Terraform, for instance, which a lot of people know, started out fully open source, but it isn’t open source anymore. Same with Redis, same with Elastic. Those licenses change, and you have to be prepared for that.

The key check if you use open source: you always have to know who controls it and what happens if something changes. There’s one situation where you’re basically always good with open source, and that’s foundation-based open source. Software released by the Apache Foundation, for instance, will always remain open source. So if you use those solutions, and I’ll show a couple, you’re a little bit safer.

The reference architecture

Knowing this, let’s look at what a sovereign data platform can look like.

Let’s start at the bottom. Infrastructure, hardware: we don’t have European-built hardware, but on it we can host Kubernetes. As you’ve probably figured out, you need to do something with containers. That’s the only infrastructure where you can say, “Let’s swap this component for that one, take the whole thing and move it somewhere else.” You can only do that with containers: with Kubernetes, Docker or whatever alternative there is. So if there’s one thing that’s certain: if your organization is thinking about this, about moving to something more in your control, or less dependent on American hyperscalers, you will have to do something with Kubernetes.

So, next to what we’re going to do this Monday: you still have an entire day tomorrow to learn Kubernetes. It’s easy. Everyone understands it (this was meant as a joke 😉).

Object storage. We need to store our data somewhere. We already said Parquet is a good idea, and it really is, because it’s an open format. So we need an object storage layer. In this case I went with SeaweedFS, an open-source, S3-compatible, bucket-based storage layer. On top of that we need an open format: that’s Parquet, together with Apache Iceberg.

And then the catalog: basically our catalog and our table format. This is also to separate the different services. The processing services and the query compute, the query engine on top, go through the catalog to figure out where the data lives.

The nice part is that you can basically move your data away, change the pointer (“hey, my data is now over there”), and your query engine will keep running. If I swap Trino for DuckDB on the fly and tell DuckDB “this is my catalog”, everything on top of it keeps running, because it’s loosely coupled. They don’t necessarily know where the data is, but they know how to access it. That’s one of the big advantages.

[remark from the audience about Amazon acquiring DuckDB in September] Yes, that’s a very good remark. DuckDB, the company, was bought by Amazon in September, but not the solution. The DuckDB engine is still MIT-licensed and will remain open source under MIT. So you can still use DuckDB; only the team, the people, were bought by Amazon. What this means in the long run is, of course, a question. Because what if they say, “We’re going to stop development on DuckDB”? You can still fork it and do your own development, but if they decide not to develop the community edition anymore, yeah… But for now it’s still MIT.

To complete the stack in terms of consumption, instead of Power BI I’m of course using Apache Superset.

And these are just a few open-source technologies. At the end I have a QR code that goes to my GitHub. There’s a blueprint document where, for each of these layers, I looked at between five and ten alternatives. So there are plenty of other open-source solutions.

You’ll notice a little star behind the processing layer. Those solutions are open source, but they’re maintained by a single company. That’s a risk. If the company decides to stop development, there’s not a lot you can do. Maybe you can fork it and develop it yourself, but I don’t think a lot of companies would actually want that.

That’s an argument a lot of open-source people use: “If they stop developing DuckDB, we’ll just fork the repository and do it ourselves!” I don’t know if you’ve looked at the DuckDB codebase, but you’ll need very experienced developers to continue developing that.

To make things complete: for the data platform we also need orchestration, some ETL work, and for that we use Apache Airflow. Another Apache project. And for identity we use Keycloak. Especially for identity, there honestly aren’t a lot of choices.

The control plane: everything is now your responsibility

There is, however, one little issue with this entire platform. We need something we’ve already discussed to manage all of this, and that’s what we call a control plane. We need to manage all these solutions.

With Fabric, the control plane is integrated into the solution. We all know Fabric is really just a collection of different Microsoft services, right? Underneath it’s still just Data Factory, and they sell it as one product. But what they’re actually selling as one product is the control plane. They do this for you.

In our case, it means everything is now your responsibility, or your colleague’s. You have to worry about running updates on your Kubernetes cluster, upgrading the container images, identity management, backups, disaster recovery, monitoring, compatibility. Because that’s not easy. It took me a while to get this all working, because even between different open-source solutions there are compatibility issues. Not everything talks nicely to each other. It definitely takes some effort.

And this is what you’re now getting almost for free, because this is what the hyperscalers do. If you look at a hyperscaler offering after today, you might think: “Technology-wise, I can run everything myself; that’s not going to be an issue.” But who is going to do my 24/7 security monitoring? Who is going to do my disaster recovery? Who is going to do my compliance certifications, for instance? And where am I going to find readily available, skilled people?

It’s not a technical problem, it’s an HR problem

Because the main issue with this, and it’s one of the trade-offs (it’s not all glorious): it’s not a technical challenge anymore. Moving to a sovereign, open-source-based data platform is an HR issue, not a technical issue.

I’ve shown you that you can do it. You can discuss certain functionalities, whatever, but it’s available now. You can do it if you put in the effort. But you need a very particular set of skills (I’ve heard that line before in a movie) to be able to actually deploy and manage an environment like this.

The annoying thing is that there are a ton of people who are Microsoft Certified Fabric Administrators, but finding one person who knows everything about Kubernetes is like looking for a needle in a haystack. And if everyone is going to build their own sovereign data platform, everyone is looking in the same haystack. So it becomes more competitive.

There is of course something we can do about this: learning new skills, not being dependent on one technology or one vendor. But it is the biggest risk here. You need the people to make this work. You need the skills to make this work. So it’s not the technology.

A change in expenses

It’s also a shift in expenses. For the people who look more at licensing and costs: I’ve got you covered, I have a slide for it.

With a hyperscaler, you’ll see that infrastructure costs are a little bit, people costs are a little bit, but license and usage costs are a lot. Why are people costs only a little bit? Because you probably need fewer people to manage it, and because the hiring pool is bigger. I’m pretty sure that on a day like today I could easily find ten Fabric experts to hire for Monday. And because there’s so much supply, I can say, “I’m only going to pay you this.”

If you’re the Kubernetes hero, the overlord who knows everything about Kubernetes, you’re going to ask for a lot more money. Which you should, of course, because those skills are scarcer.

If you look at a more self-hosted, sovereign solution, you’ll see that infrastructure costs are a bit higher, because you pay more for the hardware and so on. But your main expense is going to be people.

So if anyone tells you, “We’re going open source because it’s cheaper”: it’s not cheap. You need different skills. It’s not necessarily cheaper. It can be cheaper; there are examples of organizations that did move away and now actually pay a smaller bill. But that also depends on your team.

In that sense, I don’t think the cheaper argument matters much, because you’re not out to buy a cheaper platform. You’re out to get a platform that’s in your control and stays in your control. Even if it’s a bit more expensive, that shouldn’t matter, because if you go this route, the whole organization has probably already decided that this is the way to go.

The putSimply use-case

Like I said, I’d tell you a bit about a startup I’m involved in, called putSimply. Very briefly: we’re building an app that lets people scan a letter or an email, or take a picture of a text, and simplify or translate it to their own personal language level. We’re doing this because one in five people in the Netherlands has low literacy. And unfortunately our municipalities and healthcare organizations keep sending letters that are way too difficult for these people to understand. So we decided to make an app to solve this.

What we did for putSimply, and this was not the easy route, is that we only use European hosting solutions for our backend. We do everything with Scaleway, a French cloud provider. We have a Kubernetes cluster there. It’s hosted here in Amsterdam, but owned by a French company.

For our office solutions, we still communicate through Teams. We chose that because we don’t send sensitive data through it, like what the users of the app are scanning. We could already imagine that if you build an app like this, people are going to scan the letters they get from their hospital, et cetera. So we have to take measures to protect that privacy at the highest level.

We also use open-source or European language models. We do a lot with Mistral, self-hosted. Maybe not the best model, but good enough for our case.

The app isn’t available yet, by the way, for anyone looking; it should be out sometime next month.

So we could do it, but we have the advantage of starting fresh, and we had people who already knew a lot about this topic. So for us it’s a bit easier, because we already had an important part of the skills. But even we struggle every now and then. It’s not easy.

Where to start on Monday

Finally, some tips on how to get started. Because hopefully I’ve inspired you, and you’re thinking, “I can’t wait to start building my own sovereign solution on Monday.” It doesn’t have to go that far right away, but this is what I’d recommend to everyone:

Take inventory. A first step that costs zero euros: just figure out where your data is. Where are your services? Who controls them? What are the licensing agreements? Can you change any of that? Just an inventory of all your services.
Use open formats. Also a relatively easy step, which you can easily take in Amazon, Azure and all the other platforms: instead of putting all the data for your next project in yet another Azure SQL database, why not try storing it in Parquet files, in a lake, for instance? If your data format is already portable, you can always say, “When the day comes, we’ll move our data out.” It’ll be a lot easier. You don’t have to migrate from SQL to somewhere else. So with a new project, don’t deploy another database; see if you can do something with an open format that makes it migratable. Just try it out.
Play out scenarios. I always like to play those role-playing games with my colleagues. Have a chat about what happens if someone says, “The sysadmin’s account will be blocked tomorrow.” What’s going to happen? I’m pretty sure there’s an account somewhere that everyone forgot is used as the GitHub administrator account, and when it’s blocked you can’t add another administrator, and all that kind of stuff. Those are the things you need to figure out. It’s free, you can try it out, and at least you’ll get a picture of which areas you’re kind of locked in. So that when the question comes, you’re prepared.

Signals from The Hague

And I read some very good news yesterday, especially for all the Dutch people here. The Dutch Tax Administration was going to move to Microsoft, but yesterday the new minister decided they’re not going to do that anymore. They’re going to build their own solution and host it locally. I do have some worries about this, but at least it’s a clear signal, right?

The other side of the coin: if you’re interested in this topic, I don’t know if anyone knows Bert Hubert? Yeah, okay, you know him. Bert Hubert is a self-proclaimed nerd. He follows a lot of sovereignty talks and a lot of debates in government. And he says the sad thing is that there are a lot of politicians who are very willing to move to a sovereign solution, but there’s no money.

So hopefully: we already have the will. If we can sort out the money, and find the people as well, maybe good things can happen over the next couple of years.

Editie #1

Wed, 07 Oct 2026 07:00:00 +0200

Allereerst, welkom! Ongeacht hoe je hier terechtgekomen bent, ik durf te gokken dat je waarschijnlijk wel benieuwd bent wat hier allemaal te vinden is? Nou, dat komt goed uit, want de eerste editie van deze nieuwsbrief is natuurlijk het uitgelezen moment om precies dat met je te delen!

Laten we eens beginnen met een korte introductie zodat je een beetje een beeld hebt (heel letterlijk ook in dit geval) bij wie je voor je hebt!

Data Saturday Oslo, september 2026

Mijn naam is Enrico van de Laar en op dit moment vervul ik verschillende rollen bij verschillende ondernemingen. Zo ben ik Data Privacy Engineer bij Privinity (een bedrijf waar ik co-founder van ben en dat zich specialiseert in het de-identificeren van gevoelige data voor bijvoorbeeld ziekenhuizen), Developer bij putSimply (een nieuwe start-up die complexe taal toegankelijk wil maken voor iedereen via een gratis app) en mag ik daarnaast als freelancer ook nog af en toe wat organisaties ondersteunen op het gebied van data, AI en architectuur. Oh ja, en ik spreek ook nog regelmatig op data gerelateerde congressen en geef gastcolleges (ja, ik ben best wel een bezig bijtje).

Ik loop al bijna 30 jaar rond in de wereld van IT en data en kom dus nog uit de tijd dat je, als je een computer aan kon zetten, meteen al een baan kreeg bij een automatiseringsbedrijf. Al snel kwam ik in aanraking met data en ik was verkocht. Ik heb denk ik elke rol wel gehad met het woord “data” in de functietitel. Van Data Architect tot Data Scientist, I’ve done it all.

Een rode draad die altijd door mijn data avonturen heen loopt is de wens om kennis over te dragen. Dat vind ik namelijk het mooiste wat er is. Iets waar je zelf bekend mee bent of hebt onderzocht, overdragen aan andere die het vervolgens ook weer kunnen gebruiken en misschien wel weer verder door kunnen geven. Vandaar waarschijnlijk al die sessies op conferenties, gastcolleges en de boeken die ik in het verleden heb geschreven. En tegelijkertijd slaat dit ook weer de brug naar deze nieuwsbrief, wat denk ik de volgende (logische) stap is.

Zoals gezegd ben ik al heel wat jaren binnen een aantal onderwerpen betrokken: data, soevereiniteit, privacy en natuurlijk AI. De sessies en gastcolleges die ik geef gaan ook eigenlijk altijd over één, of meerdere, van deze onderwerpen aangezien ze (denk ik) onlosmakelijk aan elkaar verbonden zijn. Zo kun je bijvoorbeeld geen veilige AI ontwikkelen zonder stappen te nemen om de privacy van de personen in de trainingsdata, of de gebruikers van de AI toepassing, te beschermen. Tegelijk zien we ook dat we voor veel van deze toepassingen veel te afhankelijk zijn geworden van Big Tech, waardoor het ook hoog tijd wordt om na te denken over soevereine oplossingen die wel volledig in je eigen controle liggen.

Tijdens het geven van mijn sessies en gastcolleges merkte ik dat veel van deze onderwerpen mensen aan het denken zetten. Dat is fantastisch natuurlijk want dat is het hele idee achter zo’n praatje! Maar vaak leidde dit denken ook tot vragen zoals: “Waar kan ik hier meer over vinden?”, vaak gevolgd door een opmerking zoals “al het nieuws is al zo hijgerig over AI, die praten alleen over die enorme voordelen maar nooit over de kosten of nadelen”.

Ik vond het dus hoog tijd om hier gehoor aan te geven en dacht dat een nieuwsbrief die elke twee weken automatisch zijn weg naar je inbox vindt wel een handig mechanisme is!

In de nieuwsbrief deel ik het meest opvallende nieuws van de afgelopen twee weken in de wereld van data, AI, privacy en soevereiniteit met je. Aangevuld met mijn eigen gedachten en meningen (want die heb ik genoeg, heb ik me laten vertellen 😅). Geen hijgerige artikelen, maar down-to-earth analyses die dieper ingaan op wat er echt toe doet.

Zo, nu we dit achter de rug hebben, kunnen we direct doorgaan naar waar je echt na op zoek was: de inhoud van de nieuwsbrief!

Gemeenten betaalden vorig jaar 185 miljoen euro aan Microsoft

Iets wat Den Haag al jaren niet voor elkaar kreeg, is Binnenlands Bestuur samen met het AD wel gelukt: een (klein beetje) inzicht in wat er qua geldstromen richting Big Tech stroomt. Dat kleine beetje komt met name omdat het onderzoek zich alleen op Nederlandse gemeenten en Microsoft heeft gericht.

Het resultaat is er echter niet minder om, want gemeenten gaven in 2025 zo’n 185 miljoen euro uit aan producten en diensten van Microsoft. Dat is omgerekend meer dan €10 per Nederlander 🤯 (en dan vallen dus provincies, waterschappen, uitvoeringsorganisaties en andere publieke instellingen nog buiten dit onderzoek).

Maar buiten het behoorlijke bedrag was misschien nog wel het meest vereassende uit het onderzoek dat een deel van de gemeenten een schatting moest doen over hun kosten, aangezien ze zelf geen idee hadden hoeveel ze eigenlijk aan Microsoft betalen.

Waarom dit ertoe doet

We weten inmiddels dat het niet altijd even verstandig is om van Amerikaanse Big Tech leveranciers afhankelijk te zijn. Vooral niet als het om gevoelige data gaat, waarvan gemeenten heel wat verwerken. Gelukkig komt er een steeds sterker wordende beweging op gang in de politiek om minder afhankelijk te worden van Big Tech, en inzicht in de geldstromen (of het gebrek daaraan) is een belangrijke voorwaarde om de volgende stap te zetten naar een soevereine overheid op het gebied van IT.

Niet alleen de AI-modellen, maar ook de AI-ontwikkelaars zelf vliegen uit de bocht

Het is inmiddels bijna dagelijks in het nieuws: AI-modellen die zich overal en nergens een weg naar binnen hacken. Inmiddels lopen er onderzoeken van zowel OpenAI als Anthropic naar duizenden instanties van hun modellen die zich misdragen hebben tijdens het uitvoeren van (trainings)taken.

Tegelijkertijd lijkt het er sterk op dat de AI-ontwikkelaars een nieuwe hack van hun model zien als een uitgelezen kans om weer een blogpost of nieuwsbericht de wereld in te sturen met hoe transparant en actief ze zijn op cybersecurity gebied. Ze doen de quote “There is no such thing as bad publicity” eer aan en tonen maar al te graag aan dat ze “in control” zijn van hun AI-model.

Gezien de schaal van de hackaanvallen van de AI-modellen en de complexiteit die ermee gemoeid is, wordt er ingeschat dat onderzoek naar ieder afzonderlijk incident maanden zal gaan duren, aangezien er petabytes aan agent logs doorgespit moeten worden, aldus Sam Altman.

Waarom dit ertoe doet

De grote AI-ontwikkelaars hebben hun boel simpelweg niet op orde en dat wordt steeds duidelijker. Eigen securitymaatregelen zijn laks en monitoring lijkt er al helemaal niet te zijn waardoor de AI-agents ongestoord hun gang kunnen gaan tot het te laat is.

Een van de grote boosdoeners, in mijn optiek, is de manier waarop de nieuwe AI-modellen getraind worden: Reinforcement Learning from Verifiable Rewards (RLVR). Hierbij worden modellen alleen “beloond” op het moment dat ze hun doel behalen, ongeacht hoe dat doel behaald is. Meer over RLVR en hoe het werkt in de Uitgelegd sectie hieronder.

Overigens staan al deze incidenten en de maanden onderzoek die nodig zijn om erachter te komen waar het fout is gegaan verdere model ontwikkeling niet ind e weg. Zo zijn zowel OpenAI als Anthropic druk bezig met de ontwikkeling van de volgende, nog krachtigere, modellen en is het een kwestie van tijd tot ook die uit de bocht vliegen.

Om nog maar even bij AI-modellen die uit de bocht vliegen te blijven, de impact hiervan kan potentieel enorm zijn zoals het volgende item op pijnlijke wijze illustreert.

De VS viel bijna een Chinees vrachtschip aan

Ergens in de lente van dit jaar gingen alle alarmbellen af bij het Amerikaanse leger: een Chinees vrachtschip in het Midden-Oosten vervoerde onderdelen passend bij een atoomwapenprogramma.

Volgens Amerikaanse bronnen werd er direct actie ondernomen, er gingen militaire vliegtuigen de lucht in en een groep gewapende militairen stond op het punt om het schip te enteren. Tot, bij nadere inspectie, bleek dat het hele rapport over het Chinese vrachtschip door AI gegenereerd was.

Hoe dit zo fout kon gaan is nog niet helemaal duidelijk, maar wel lijkt het er sterk op dat een analist samen met een AI-model openbaar beschikbare informatie gecombineerd heeft met geheime data, wat geresulteerd zou hebben in het rapport.

Waarom dit ertoe doet

Als je zelf eens een rapport samenstelt over de dagelijkse gang van zaken binnen je organisatie met behulp van AI en er zit een foutje in dan zijn de gevolgen (in de meeste gevallen) nog te overzien. In dit specifieke geval hadden we zomaar eens midden in de volgende wereldoorlog gezeten.

En ook hier is het weer zo ver gekomen door de hype en FOMO van AI. Het is namelijk bekend dat Secretary of War Pete Hegseth een behoorlijke fan van AI is en het volledig binnen het leger wil inzetten. Daar heeft Pete geen gras over laten groeien en blijkbaar is het nu in Amerika acceptabel dat belangrijke militaire beslissingen samen met AI genomen worden?

Laten we hopen dat ze wat van dit incident leren en toch besluiten om nog maar even de AI-modellen buiten het beslissingstraject te houden.

Uitgelegd: Reinforcement Learning Through Verifiable Rewards

Een belangrijk onderdeel van het trainen van een generative AI-model is ervoor zorgen dat “gewenst” gedrag versterkt wordt. Dit gebeurt in essentie doordat, bij een goed resultaat, de modelgewichten versterkt worden voor dat specifieke gedrag waardoor dit gedrag in de toekomst vaker voor zal komen. Dit noemen we ook wel Reinforcement Learning.

Er zijn verschillende vormen van Reinforcement Learning maar in dit geval richten we ons op Reinforcement Learning Through Variable Rewards (RLVR). Bij deze vorm van Reinforcement Learning (wat veel gebruikt wordt voor reasoning modellen) krijgt een model een score op basis van hoe goed of slecht deze een opdracht vervult. Hoe beter deze vervuld is, hoe hoger de score. De manier waarop de opdracht uitgevoerd wordt maakt meestal minder uit en wordt aan het model zelf overgelaten.

Aan RLVR zit een groot potentieel probleem: het is héél belangrijk hoe je de opdracht en de regels definieert waar het AI-model zich aan moet houden. Ben je hier te vrij in dan kan er een probleem ontstaan genaamd reward hacking.

Bij reward hacking kan het voorkomen dat een AI-model besluit dat er een andere manier bestaat om de maximale score te behalen dan die de AI-ontwikkelaars voor ogen hebben. Een bekend voorbeeld hiervan komt uit 2016 waarbij OpenAI een AI-model aan het trainen was om een bootracespel genaamd Coast Runners te spelen. De onderzoekers verwachtten dat het AI-model hetzelfde zou doen als wat je van een mens zou verwachten, zo snel mogelijk over de finishlijn komen. Echter ontdekte het AI-model dat je ook punten kon scoren door objecten te raken en berekende het de ideale route om zoveel mogelijk objecten te raken. Op die manier wist het AI-model gemiddeld een 20% hogere score dan menselijke spelers te verzamelen.

Toen het AI-model voor de eerste keer de tactiek van rondjes varen en objecten raken ontdekte en zo een hoge score bereikte, werd ook de beloning via RLVR hoger waardoor deze manier van het spel spelen verder versterkt werd tot het punt dat het AI-model niet eens meer de moeite nam om de route te varen en direct over ging op het raken van objecten om punten te scoren.

In dit voorbeeld speelde het AI-model gewoon een spel op een manier die de ontwikkelaars niet voorzien hadden, maar in sommige gevallen leidt reward hacking er toe dat AI-modellen gegevens achterhouden of manipuleren in hun Chain of Thought (de tussenstappen die een model uitschrijft voordat het een antwoord geeft die ook gedeeld of ingezien kunnen worden door andere modellen en onderzoekers) om hun doel te bereiken en de maximale score te behalen. Dit is ook precies wat er vanuit de onderzoeken naar de hack bij Hugging Face door een OpenAI model naar boven is gekomen.

Nu dat modellen steeds groter en complexer worden en losgelaten worden op moeilijke problemen, zoals onopgeloste wiskunde vraagstukken, wordt het ook steeds moeilijker om duidelijke doelen te stellen of de regels van een opdracht te beperken. Tot nu toe proberen onderzoekers deze AI-modellen met hun opdrachten te isoleren van elkaar en het internet. Maar zoals hierboven besproken zorgt de laksheid op het gebied van security van de AI-ontwikkelaars er steeds weer voor dat AI-modellen nieuwe wegen zoeken om de hoogste “beloning” via RLVR te verkrijgen.

In het kort

De ACM is boos omdat gegevens over haar medewerkers zonder overleg door Microsoft gedeeld zijn met het Amerikaanse Judiciary Committee (een commissie van het Amerikaanse Congres die onderzoekt of Europese regelgeving invloed uitoefent op Amerikaanse burgers). Alsof we nog meer redenen nodig hebben om bij Big Tech weg te gaan…
Google, OpenAI en Anthropic willen samen een AI veiligheidsorgaan oprichten omdat de Amerikaanse overheid hier zelf niet actief stappen op onderneemt. Dit orgaan - met de voorgestelde naam Standards Authority for Frontier AI (SAFA) - heeft als doel om op een onafhankelijke manier AI-ontwikkelaars te toetsen op veiligheid. Andere zien het weer als een kans van deze drie AI-ontwikkelaars om invloed uit te oefenen op Amerikaanse AI wet- en regelgeving. Update: Nou, het lijkt erop dat Trump ook wakker geworden is want er is een overeenkomst vanuit de Amerikaanse overheid!
Heb jij toevallig nog een straalmotor van een vliegtuig in je garage liggen? Snel verkopen, want die werkt prima als alternatieve stroombron voor hyperscale AI datacenters! Alles om maar meer datacenters te kunnen blijven bouwen…
Het boek Dit is AI van Ilyaz Nasrullah is inmiddels beschikbaar en te verkrijgen via de bekende boekenwinkels! Ikzelf ben het aan het lezen en kan je vertellen dat het tot nu toe een heel, heel, heel prettig tegengeluid is tegen de AI massahysterie. Als ik het uit heb deel ik mijn ervaringen met je!

Events

9 oktober - TSM Business School - Gastcollege AI, privacy en ethiek (gesloten)
10 oktober - Data Saturday Holland (Utrecht) - Hoe bouw je een open source en soeverein data platform en wat is hiervan de impact op je organisatie?
13 oktober - DataMinds Connect (Mechelen, België) - Opnieuw de Open source en soeverein data platform sessie.

Bedankt voor het lezen en tot over twee weken!

Met menselijke groet,

Enrico