Editie #2

Het waren twee drukke weken waarin ik veel over soevereine dataplatforms heb mogen praten en er weer veel gebeurd is op het gebied van Artificial (sorry dat woord mag niet meer (opent in een nieuw tabblad)) Super Intelligence en privacy.

Laten we beginnen bij de conferenties! Zo was ik de afgelopen twee weken op twee aanwezig: Data Holland (opent in een nieuw tabblad) (Utrecht) en DataMinds Connect (opent in een nieuw tabblad) (Mechelen, België). Op beide mocht ik dezelfde sessie presenteren: From Convenience to Control: Breaking Free from Big Tech Data Platforms, een sessie volledig gericht op wat erbij komt kijken als je van Big Tech naar je eigen soevereine - open source - dataplatform wilt migreren.

Oh ja, en op Data Holland geef je je sessie dus gewoon in een bioscoop! Foto van Reitse Eskens (opent in een nieuw tabblad)

Een leuke sessie om te geven op conferenties die voor 95% gevuld zijn met sessies gericht op technologieën van Amerikaanse techbedrijven. Daar moet ik natuurlijk ook de organisatoren voor bedanken die de keuze voor mijn sessie gemaakt hebben, zodat ook de andere kant van het verhaal belicht kan worden!

Wat het dan voor mij extra leuk maakt, is dat de sessies zo goed bezocht werden. In beide gevallen had ik een goed gevulde ruimte met geïnteresseerde IT’ers, van wie een groot aantal deze sessie bewust uitkoos vanwege de zorgen die zij hadden rondom Amerikaanse controle over hun dataplatform. Er waren er zelfs verschillende bij die al een deel van hun architectuur verhuisd hadden of van plan waren op korte termijn te verhuizen. Nu is de primaire boodschap van deze sessie niet dat je weg moet van Amerikaanse Big Tech, maar eerder dat je - afhankelijk van je data en services - een keuze hebt om dat wel te doen (migreren naar een soevereine IT-architectuur is niet een kwestie van alles of niets).

Mocht je nu denken: “interessant, jammer dat ik dit gemist heb” dan heb ik goed nieuws voor je! Van de sessie die ik gegeven heb op Data Holland heb ik de audio opgenomen en deze vervolgens uitgewerkt en op mijn website geplaatst (uiteraard samen met de slides en ander begeleidend materiaal). Je kan deze dus in zijn totaliteit nalezen via deze link: https://www.enricovandelaar.nl/blog/soeverein-open-source-dataplatform-sessie/

(kleine voetnoot: het transcript van de sessie is in het Engels aangezien de sessie ook in het Engels gegeven is)

Dan nog even terug naar de eerste alinea van deze nieuwsbrief. Blijkbaar mogen we de term Artificial Intelligence niet meer gebruiken van Trump en moeten we voortaan Super Intelligence gebruiken. Wie dat niet doet is de vijand.

Je vraagt je af waar ze het vandaan halen om zichzelf nog verder belachelijk te maken. De term Artificial Intelligence onder druk te vervangen door Super Intelligence betekent nog niet dat we dit stadium in de ontwikkeling van AI überhaupt bereikt hebben (meer over wat er met Super Intelligence bedoeld wordt in het Uitgelegd gedeelte van deze nieuwsbrief). Sterker nog, ik geloof niet eens in de term Artificial Intelligence omdat er voor intelligentie heel wat meer komt kijken dan op basis van de uitkomsten van wiskundige berekeningen het volgende woord te voorspellen.

The AI Doc

Om gelijk nog even bij het onderwerp van AI te blijven: sinds 15 september is er op Netflix de documentaire “The AI Doc: Or How I Became an Apocaloptimist” te zien. Ik was er nog niet aan toegekomen, maar inmiddels heb ik hem gezien! In de documentaire volgen we Daniel, een filmmaker, in zijn zoektocht naar de impact van AI op de (toekomstige) wereld van zijn pasgeboren kind.

Wat de documentaire de moeite waard maakt, zijn de verschillende standpunten die erin voorbijkomen. Zo zijn er niet alleen maar doomers aan het woord die verwachten dat AI de mensheid gaat vernietigen, maar is er ook een tegengeluid vanuit de optimisten die juist denken dat AI de mensheid ongekende welvaart zal brengen.

Tegelijkertijd blijft de documentaire daar ook wel een klein beetje hangen naar mijn mening. AI heeft of een enorm positief effect, of enorm enorm negatief. Het wordt gebracht alsof dat de enige twee uitkomsten zijn en dat de ontwikkeling van AGI een feit is dat geaccepteerd moet worden. Persoonlijk miste ik een beetje de tussenweg die dieper ingaat op de vraag wat er zou gebeuren als AGI helemaal niet bereikt wordt wat, naar mijn mening, nog steeds het meest voor de hand liggende toekomstperspectief van AI is.

Maar goed, de documentaire is sterk opgezet en er komen ook heel veel belangrijke dingen aan bod die relevant zijn voor de discussie rondom AI. Zoals de impact die de ontwikkeling van AI nu al heeft op mensen en het milieu, de manier waarop AI-ontwikkelaars macht naar zich toe proberen te trekken, hoe AI voor twijfels zorgt over wat echt en wat nep is en natuurlijk wat AI op geopolitiek vlak teweegbrengt.

Wat ik ook wel een sterke toevoeging vond, is dat er echt een enorme opstelling van toonaangevende experts voorbij komen. Van Sean Legg en Demis Hassabis (mede-oprichters van DeepMind), Sam Altman (OpenAI) en Dario Amodei (Anthropic) tot aan Yoval Noah Harari (filosoof en schrijver van o.a. Sapiens en Nexus) en Karen Hao (onderzoeksjournalist en schrijver van Empire of AI) die allemaal op hun eigen manier Daniel zijn vragen over de toekomst van de mensheid proberen te beantwoorden.

Waarom dit ertoe doet

De documentaire geeft een mooi beeld van de AI-race, de verschillende kampen en de impact die de ontwikkeling nu al heeft op mens, natuur en maatschappij. Zeker de moeite waard dus mocht je hem nog niet gezien hebben, en ook leuk om te kijken mocht je geen technische achtergrond hebben aangezien de nadruk ligt op de mogelijke impact van AI en niet op hoe het überhaupt ontwikkeld wordt en werkt.

Maar onthoud: Een aantal van de risico’s en de impact van AI zijn nu al zichtbaar, maar een groot deel die in de documentaire genoemd worden (zowel positief als negatief) zijn nog pure speculaties.

De Meta gluur-bril

Laten we eerlijk zijn, gluur-bril is een veel betere benaming dan smart of AI glasses, want in essentie is de primaire functie van de bril mensen onopvallend filmen. Toen Meta met dit idee kwam, Denk ik dat de goedkeuring ervoor ongeveer als volgt ging:

Hey Zuck (Mark Zuckerberg), we hebben nog eens zitten denken over waar de lijn ligt op het gebied van privacyoverschrijdingen.

Het is ons natuurlijk in de afgelopen jaren steeds weer gelukt om deze lijn verder en verder te verplaatsen, maar in search of “the next big thing” hebben we wat nieuws! Stiekem mensen filmen en content hiervan online zetten is big business want het zorgt voor veel likes en views waar wij weer mooi advertenties op kunnen verkopen.

Nu is het alleen voor de mensen die stiekem moeten filmen best lastig om dit onopgemerkt te doen, vooral nu die smartphones alleen maar groter worden. Dus dachten we: “hoe kunnen we dit makkelijker maken voor de content creators?”

De oplossing die we bedachten: een bril met camera erin die niet opvalt! We sluiten een deal met Ray-Ban zodat het ook allemaal een beetje hip is en voila een nieuwe inkomstenstroom die weer grote hoeveelheden (privacygevoelige) data genereert die we vervolgens nog verder kunnen exploiteren is geboren!

Geluk houden we in Nederland (met enkele uitzonderingen daargelaten (opent in een nieuw tabblad)) best wel van onze privacy en houden we er niet zo van dat we stiekem, zonder toestemming, gefilmd worden. Daarom is het ook goed nieuws dat Stichting Offlimits en The Firewall (en nu ook de Consumentenbond) een kort geding tegen Meta starten (opent in een nieuw tabblad) om de gluur-bril van Meta uit de winkelschappen te krijgen.

Waarom dit ertoe doet

Het feit dat je stiekem en zonder toestemming video-opnamen van iemand maakt en deze vervolgens online verspreid, gaat natuurlijk al heel wat privacygrenzen te buiten. Daar komt nog bij dat de opnamen die gemaakt worden op de systemen van Meta terechtkomen, een bedrijf dat niet bekendstaat om veilig met privacygevoelige gegevens om te gaan. Sterker nog, hun hele verdienmodel is gebaseerd op het verkopen van deze gevoelige gegevens.

De impact van de gluur-brillen is er nu al, aldus Robbert Hoving, directeur van Offlimits:

“Deze gluur-bril is vragen om ellende. Wij trekken hier dan ook een grens. Het verstoppen van een camera in een alledaags gebruiksvoorwerp werkt online grensoverschrijdend gedrag in de hand. Op onze hulplijn kloppen nu al slachtoffers van de bril aan. Om meer slachtoffers te voorkomen, willen wij ervoor zorgen dat dit soort beelden überhaupt niet gemaakt kunnen worden."

Op 26 november vindt de zitting plaats bij de rechtbank van Amsterdam. Laten we hopen dat er op deze manier een verbod komt!

p.s. mocht je nog extra overtuigd moeten worden dat het een goed idee is om deze gluur-brillen te verbieden: enkele dagen geleden werd bekend dat door een “bug” de Ray-Ban Meta brillen soms spontaan opnames maakten zonder dat de eigenaar van de bril de opname activeerde (opent in een nieuw tabblad).

Uitgelegd: Super Intelligence

De term Super Intelligence is volgens de AI-ontwikkelaars de ultieme stap in AI-ontwikkeling en zegt iets over hoe “slim” het AI-model is. Laten we overigens rekening houden met het feit dat deze termen geen officiële definities zijn en eigenlijk door allerlei partijen op verschillende manieren gebruikt en geïnterpreteerd worden. Om je toch een beeld te geven van wat Super Intelligence inhoudt, richt ik me even op de meest geaccepteerde definitie. Voordat we echter Super Intelligence kunnen beschrijven moeten we eerst weten wat Artificial Intelligence en Artificial General Intelligence zijn op het gebied van mogelijkheden.

Artificial Intelligence (AI)

Vaak wordt bij Artificial Intelligence de definitie gebruikt dat een AI-model heel goed is in één specifieke taak, zoals bijvoorbeeld taal produceren of schaken. Een AI-model wat echter getraind is om supergoed te kunnen schaken kan vaak andere taken aanzienlijks minder goed, of helemaal niet, uitvoeren.

Nu is het zo dat de huidige AI-modellen (zoals ChatGPT, Claude, etc.) al meer taken als specialist uit kunnen voeren dan voorheen, maar we zijn nog een heel eind verwijderd van de volgende stap in de AI-model mogelijkheden.

Artificial General Intelligence (AGI)

Bij Artificial General Intelligence gebruiken we meestal (onthoud: er is geen overeenstemming over de definitie van de term. Verschillende partijen gebruiken verschillende definities) de definitie dat het een AI is die in staat is om over een groot aantal uiteenlopende domeinen te leren, redeneren en problemen op te lossen op een niveau dat vergelijkbaar is met dat van de mens.

Super Intelligence (SI)

Waar AI-modellen bij AGI capaciteiten hebben in verschillende domeinen die gelijkstaan aan met die van de mens, overtreffen Super Intelligence modellen de capaciteiten van mensen ruimschoots. Zo zouden SI-modellen nieuwe natuurkundige wetten kunnen ontdekken of medicijnen ontwikkelen die zo complex zijn dat het voor mensen nagenoeg onmogelijk is om te bedenken.

Ik denk dat het goed is om te onthouden dat we nu nog steeds in de “basis” AI-ontwikkeling zitten, en zoals eerder genoemd, is zelfs daar nog wel het een en ander op aan te merken op het gebied van intelligentie. De AI-ontwikkelaars roepen graag dat ze dicht bij de ontwikkeling van AGI zijn (vooral OpenAI heeft hier een handje van (opent in een nieuw tabblad)), maar vooral omdat de definities van zowel AI als AGI verschillen, afhankelijk van wie je vraagt, zegt dit natuurlijk helemaal niets. AGI is nu eenmaal het eerste grote doel van AI-ontwikkelaar, dus roepen deze al bijna 70 jaar dat we er “bijna” zijn.

In het kort

• Anthropic is al een tijdje hard bezig om religieuze leiders ervan te overtuigen dat AI mogelijk een zelfbewustzijn heeft of zou kunnen ontwikkelen (opent in een nieuw tabblad). Gelukkig denkt onder andere de paus (die overigens een bachelor in de wiskunde heeft) daar toch heel anders over (opent in een nieuw tabblad).

• Zelfs in Amerika worden mensen steeds kritischer of AI gebruik en de snelheid waarmee de ontwikkeling plaatsvindt, alsdus een onderzoek van Pew Research Center (opent in een nieuw tabblad). Zo vindt bijna de helft van de volwassen Amerikanen onder de 30 dat AI een negatieve impact op de samenleving zal hebben, en slecht 14% denk dat de impact positief zal zijn.

• Stel, je bent een Amerikaans bedrijf en je wordt gehackt door een AI-model dat ontwikkeld wordt door OpenAI. Vervolgens blijkt dat OpenAI aan alle kanten nalatig was op het gebied van het beveiligen van de omgeving waarin het model getraind werd en de monitoring van het trainingsproces. Je zou verwachten dat je dan als bedrijf minimaal een schadevergoeding eist, toch? Nou, dat deed Hugging Face niet, dus doet tech safety group LASST het wel (opent in een nieuw tabblad) met als doel dat dergelijke AI-model hacks niet onbestraft blijven.

• Goed nieuws! De Belastingdienst heeft de overstap naar Microsoft 365 die sinds 2025 loopt stopgezet (opent in een nieuw tabblad) en gaat nu in eerste instantie naar on-premises Microsoft oplossingen in eigen beheer. De bedoeling is dat er vanaf 2027 naar open source alternatieven gekeken wordt. In ieder geval fijn om te weten dat het nu dus wel mogelijk bleek te zijn! Hopelijk wordt deze koers overheidsbreed ook doorgezet. De wil lijkt er te zijn, maar de centen ontbreken helaas nog (opent in een nieuw tabblad).

Bedankt voor het lezen en tot over twee weken!

Met menselijke groet,

Enrico