Dat is het antwoord van president Zelensky op de eis van president Trump dat Oekraïne stopt met het aanvallen van Russische olieraffinaderijen:

Het is niet voor het eerst dat Zelensky dit zegt, maar het komt nu na de aanval van Trump op hem gisteren. De Amerikaanse president zei gisteren dat het tijd is dat Oekraïne een nieuwe leider krijgt.

Dat moet volgens Trump iemand zijn die vrede met Rusland kan sluiten, "iets dat Zelensky om de een of andere reden nooit doet". Ook zei hij dat de oorlog in Oekraïne nooit zou zijn begonnen als hij op dat moment president van de VS was geweest. "Het is begonnen dankzij incompetentie."

Oekraïners beslissen

Zelensky zwijgt over die uitspraken, maar zijn minister van Buitenlandse Zaken Sybiha zegt op X: "President Zelensky leidt onze natie in een tijd van oorlog, een oorlog voor onafhankelijkheid, vrijheid en waardigheid. Hij heeft de steun van het Oekraïense volk, en zij hebben het recht om te beslissen."

Trump liet Oekraïne vrijdag al vallen door met president Poetin een akkoord te sluiten over de levering van olie door Rusland aan de VS. Trump hoopt dat door het grotere aanbod de dieselprijs in de VS omlaag gaat. Die is sinds het begin van de Amerikaans-Israëlische aanval op Iran in februari verdubbeld. Trump is bang dat zijn partij daardoor over een paar weken de tussentijdse verkiezingen in de VS verliest.

Na de reeks van aanvallen op Russische olieinstallaties en magazijnen, lijkt Oekraïne zich nu op datacentra te richten. Het viel voor de derde keer in vier dagen een datacentrum van de Russische techgigant Yandex aan.

Door de aanval op het centrum in Vladimir, op zo'n 175 kilometer ten oosten van Moskou, kunnen Yandex-gebruikers in tientallen Russische steden en in Kazachstan, Belarus en Armenië niet hun bankrekeningen of andere online diensten gebruiken. "De activiteiten in het datacentrum zijn volledig tot stilstand gekomen", zegt Yandex.

Het Yandex-datacentrum in Rjazan, 230 kilometer ten zuidoosten van Moskou, ging donderdag na een Oekraïense aanval volledig offline. Vrijdag raakte het centrum in Kaluga, 160 kilometer ten zuidwesten van Moskou, deels onbruikbaar.

Het watermerk, genaamd textGrain, wordt komende tijd verwerkt in AI-teksten van gebruikers in de Europese Unie. Daarbuiten bevatten de teksten geen watermerken.

Het herkenningsteken is voor normale gebruikers niet te zien: het is namelijk geen fysiek stempel of speciaal teken, maar zit ingebouwd in de woordkeuzes van het generatieve AI-model.

Korte teksten

Een speciale detector kan dat watermerk, en daarmee door AI-gegenereerde woorden en teksten, wel oppikken. Die tool is vooralsnog alleen toegankelijk voor goedgekeurde onderzoekers en expertorganisaties, schrijft OpenAI.

Het systeem is volgens het bedrijf achter ChatGPT sterk, maar niet foutloos, schrijft het bedrijf. Onder meer korte en bewerkte teksten maken betrouwbare detectie lastig.

Anthropic, het bedrijf achter chatbot Claude, voerde twee maanden geleden een vergelijkbaar watermerk in: ook onzichtbaar voor mensenogen, maar wel waarneembaar voor computersystemen. Deze is wereldwijd toegepast.

Concurrentie

De bedrijven zeggen met hun watermerken de nieuwe Europese AI-transparantieregels te volgen. Een van die regels is dat content die door kunstmatige intelligentie is gemaakt een markering krijgt, zoals een watermerk.

Volgens tech-expert Bert Hubert mag je in Europa nog best teksten maken die door kunstmatige intelligentie zijn geproduceerd zonder watermerk, maar dan moet je het onder sommige omstandigheden zelf vermelden.

Dat de bedrijven nu massaal watermerken toevoegen, komt volgens Hubert dan ook vanwege onderlinge concurrentie. "Anders moet je nu als OpenAI haast uitleggen waarom je dit als bedrijf niet hebt. Zoiets kan slecht zijn voor je verkoopproces."

Fraudezaken

De watermerken komen in een tijd waarin veel discussie is over de authenticiteit van content en wat de gevolgen zijn als content niet authentiek is. "Dit legt de lat wat hoger", zegt Hubert.

Volgens hem kunnen de watermerken vooral helpen bij fraudezaken. "Denk aan mails van een zogenaamd energiebedrijf die er geloofwaardig uitzien, maar door kunstmatige intelligentie zijn geproduceerd. Dan is het heel handig als je mailsysteem kan zeggen: let op, dit is een door AI-gegenereerde mail."

Luisteren?

Deze aflevering van De Dag luister je via NPO Luister en alle andere podcastapps. Bevalt het? Vergeet je dan niet te abonneren.

Koen Kandelaars is ethische hacker. Hij brak eerder dit jaar in in de systemen van de NOS en nadat daar online berichten over verschenen kreeg hij een aantal schimmige voorstellen in zijn dm. In de podcast vertelt hij voor wat voor keuzes je komt te staan als (vaak jonge) ethische hacker.

Barry van Kampen is van het ethisch-hackerscollectief DIVD en probeert via verschillende initiatieven hackers op het rechte pad te houden. En in die hoedanigheid leerde hij ook Pepijn van der S. leren kennen. Hij pleit voor meer aandacht voor dit onderwerp in het onderwijs.

Reageren? Mail dedag@nos.nl

Presentatie en montage: Elisabeth Steinz

Redactie: Max Smedes

Eindredactie: Judith van de Hulsbeek

Zo'n AI-bril lijkt op een gewone bril maar heeft een ingebouwde camera en microfoon. Ook is de bril voorzien van een AI-assistent.

Het tijdelijk verbod geeft de regering "de tijd om grondig onderzoek te doen" voor het maken van regelgeving, zegt minister Micaelsen van Digitalisering.

Het tijdelijk verbod zal gelden voor plekken die door een groot publiek worden bezocht. Het gaat om onder meer parken, winkelcentra en op plekken waar veel kinderen komen, zoals kinderdagverblijven en speeltuinen.

Het verbod kan ook worden toegepast op privacygevoelige plekken, zoals ziekenhuizen en kleedkamers. Overwogen wordt of het verbod ook gaat gelden voor universiteiten en hogescholen.

Onveilig

De minister zegt dat mensen zich geen zorgen zouden moeten maken om stiekem opgenomen te worden op plekken en in situaties waar dat normaal gesproken ook niet gebeurt. "Zo'n samenleving kan als onveilig worden ervaren en ons ertoe aanzetten om ons terug te trekken", aldus Micaelsen.

De Noorse regering onderzoekt voor welke technologische onderdelen het verbod precies zal gelden. Bijvoorbeeld of het verbod geldt voor brillen met camera en die geluid kunnen opnemen of voor brillen die kunnen opnemen en een AI-functie hebben.

Er wordt een expertgroep opgericht die de regering gaat adviseren over permanente regelgeving.

De regering benadrukt dat het geen algeheel verbod wil op de slimme brillen. Het gebruik van de brillen moet in privégebruik mogelijk zijn. Ook kwetsbare groepen, zoals blinden en slechtzienden, kunnen worden uitgezonderd omdat de AI-bril voor hen nuttig kan zijn.

Rechtszaak

In Nederland wil de Tweede Kamer een duidelijker verbod op de slimme brillen. Het kabinet wacht dit najaar op een advies daarover.

Vorige week werd bekend dat meerdere organisaties eisen dat techbedrijf Meta de verkoop van de brillen stillegt. Gebeurt dat niet binnen twee weken dan beginnen ze een rechtszaak.

Het gaat om de Consumentenbond, hulporganisatie Offlimits en actiegroep The Firewall, die zich keert tegen de macht van Big Tech.

"Als we dat niet doen, gaan we failliet", zegt Nathan Walmsley, de manager van supermarktketen Filco in Wales. "Zo extreem is het", vertelt hij. "Er wordt hier elke dag gestolen. Als we niet flink investeren in beveiliging, verliezen we simpelweg te veel geld aan diefstal om het hoofd boven water te houden."

En hij is niet de enige. Door het hele land worden ondernemers geraakt door de toename van winkeldiefstal. Volgens de officiële cijfers gaat het om een half miljoen diefstalincidenten per jaar, maar de sector zelf schat het werkelijke aantal incidenten op twintig miljoen.

Dief gaat vaak vrijuit

Door een gebrek aan politiecapaciteit gaat de dief veelal vrijuit. "Zwaardere criminaliteit krijgt voorrang op winkeldieven", zegt Walmsley. "En dus moeten we het zelf oplossen."

De supermarktketen in Wales heeft in alle filialen camera's geïnstalleerd die met AI-software 'verdachte' handelingen kunnen herkennen. Als iemand iets wegstopt in een broekzak, onder een shirt of in een tas, dan herkent het systeem de handeling en krijgt het personeel binnen seconden een melding op telefoon of tablet.

Werkt het? In de video testen we het:

Het werkt goed, zegt Walmsley. "Dan stappen we op de dief af, laten we zien dat we het stelen gefilmd hebben en vragen we om het gestolen product terug te leggen of ervoor te betalen." Volgens de manager wordt nu zeker de helft minder gestolen en voelt het personeel zich veiliger.

Daarnaast heeft de supermarkt ook geïnvesteerd in gezichtsherkenning. De technologie scant gezichten in de supermarkt en zoekt vervolgens naar overeenkomsten in een database.

Als er mensen in de winkelketen binnenlopen die eerder hebben gestolen, dan krijgt het personeel een melding binnen en kunnen zij deze persoon de toegang weigeren. De beelden van de gezichtsherkenning plus de opgenomen incidenten worden vanuit de supermarkt naar de politie gestuurd.

Privacy

In Nederland mogen winkels geen gezichtsherkenning inzetten voor beveiligingsdoeleinden. Dat verschil komt doordat de Britse privacywet het 'gerechtvaardigd belang', bijvoorbeeld het voorkomen van diefstal, als wettelijke grondslag accepteert. In de EU is dat niet zo.

Maar de inzet van gezichtsherkenning in Britse winkels roept wel discussie over privacy op. Burgerrechtenorganisaties waarschuwen dat gewone klanten in supermarkten op 'zwarte lijsten' kunnen belanden, zonder dat daar de politie of de rechterlijke macht aan te pas komt.

Fouten

En het blijkt dat de technologie ook fouten kan maken. Er zijn inmiddels meerdere gevallen bekend van mensen die verkeerd zijn geïdentificeerd en onterecht uit een winkel werden gezet. Zo moest Sainsbury's, een grote Britse supermarktketen die sinds kort ook gezichtsherkenning gebruikt, onlangs excuses aanbieden. Daar was een nietsvermoedende klant door de beveiliging naar buiten gewerkt.

Critici wijzen er bovendien op dat gezichtsherkenningssystemen niet evenredig op verschillende huidskleuren zijn getraind, waardoor er voor bepaalde huidskleuren een grotere foutmarge zou kunnen zijn.

Maar ondanks dit soort fouten en privacyvraagstukken is het volgens David Spencer, voormalig rechercheur en tegenwoordig adviseur bij de vooraanstaande Britse denktank Policy Exchange, absoluut noodzakelijk om dit soort technologie in te zetten tegen winkeldiefstal in het Verenigd Koningrijk.

"Momenteel verliezen winkeliers en retailers jaarlijks 4,5 miljard euro aan diefstal. Dat heeft een enorme economische impact", zegt hij.

Weinig prioriteit

Volgens Spencer is er een klimaat van 'straffeloosheid' ontstaan, omdat daders te vaak vrijuitgaan. Dat komt volgens hem door een wet uit 2014, die feitelijk diefstal onder de 200 Britse pond minder prioriteit gaf, door het gebrek aan politiecapaciteit en de achterstanden bij de rechtbanken.

Daardoor zijn er ook georganiseerde diefstalbendes ontstaan in het VK, die goederen stelen om ze vervolgens door te verkopen. De technologie die winkeleigenaren nu installeren, kan volgens Spencer een groot verschil maken bij het opsporen van deze criminele groepen.

"Eigenlijk helpen winkeleigenaren de politie zo bij het in kaart brengen en ontmantelen van dit soort criminele netwerken." En voegt hij toe: "Uiteindelijk is het niet de technologie die beslist of iemand wordt gearresteerd, daar moet eerst een politieagent naar kijken en vervolgens, waar nodig, een rechter over oordelen."

Ondanks die zorgen gaat zelfs mail van de Europese Commissie langs servers van Amerikaanse bedrijven. De Europese Commissie antwoordde niet op vragen van de NOS over de fysieke locatie waar de mail is opgeslagen.

Ook het Europees Defensie-agentschap, verschillende toezichthouders op de financiële markten en de toezichthouder tegen terrorisme en witwassen hebben hun mailservers bij Microsoft ondergebracht. De Europese Centrale Bank deed dat bij een andere Amerikaanse maildienst.

Meekijken in de VS

Dat betekent dat Amerikaanse inlichtingendiensten kunnen meekijken in e-mail, maar ook dat de Amerikaanse overheid de dienstverlening zou kunnen verstoren.

Eerder dit jaar zei commissievoorzitter Von der Leyen dat "we niet afhankelijk kunnen zijn van anderen voor technologie die onze ziekenhuizen laat draaien, ons energienet laat werken en onze dienstverlening veilig houdt."

Europarlementariër Bart Groothuis (VVD) toont zich bezorgd over de mail van de Europese Commissie die langs Amerikaanse bedrijven gaat. "Dit is een dienst die het altijd moet doen en er komt geregeld gevoelige informatie langs, dus de controle moet je in Europese handen houden", zegt hij.

"Het lijkt mij verstandig als dit binnen de Europese Unie wordt ondergebracht", zegt zijn collega Kim van Sparrentak (Pro). "Blijkbaar voelen we de urgentie niet genoeg. Ik zou denken dat er inmiddels wel genoeg aanleiding is om over te stappen."

Het Europees Parlement gebruikt geen Amerikaanse mailservers, evenals Europol en het Hof van Justitie van de EU.

Stekker eruit

De keus voor Amerikaanse bedrijven ligt in toenemende mate onder vuur. De afgelopen tien jaar stapten overheden en bedrijven massaal over op Microsoft voor het fysiek opslaan van hun e-mail. Kritiek kwam toen vooral uit de hoek van privacy-organisaties.

Tijdens Trumps tweede termijn als president van de VS blijkt hoe kwetsbaar Europese instellingen zich maken door die samenwerking met Amerikaanse bedrijven.

De VS dreigt het Internationaal Strafhof in Den Haag op de sanctielijst te zetten, in navolging van individuele rechters en de voorzitter van het Strafhof. Eerder kwam ook al een links-anarchistische Italiaanse provider, die onder meer mailboxen aan activisten aanbood, op de sanctielijst te staan.

Amerikaanse bedrijven mogen niet samenwerken met personen en organisaties op de sanctielijst. Dat betekent dat techbedrijven hun diensten moeten staken zodra de Amerikaanse regering sancties tegen iets of iemand instelt. "De Amerikaanse regering kan elk moment de stekker eruit trekken", zegt Europarlementariër Van Sparrentak.

Een woordvoerder van Microsoft wijst erop dat het bedrijf daar altijd bezwaar tegen zal maken. "Daartoe heeft Microsoft zich via bindende contractuele voorwaarden verplicht."

Gevoelige informatie

Een andere zorg is dat de Amerikaanse overheid toegang kan krijgen tot gevoelige informatie die in mailboxen is opgeslagen. De Amerikaanse wet verplicht Microsoft en andere internetbedrijven om in bepaalde gevallen informatie te overhandigen die buiten de Verenigde Staten is opgeslagen.

"De Europese Unie handhaaft ook op bigtech", benadrukt Van Sparrentak. Zo kreeg Google dit jaar nog een boete van 900 miljoen euro. "Dat is allemaal in te zien door de Amerikanen." Eerder voerde de Amerikaanse regering de druk op vanwege EU-boetes voor Amerikaanse techbedrijven.

Europarlementariër Groothuis is niet voor een totaalverbod op Amerikaanse tech, benadrukt hij. "Soms kun je er gewoon niet omheen en het is goede technologie. Maar je moet je niet technologisch afhankelijk maken van één land."

VN-instellingen

Ook VN-instellingen gebruiken nog veel Amerikaanse clouddiensten. Het Internationaal Strafhof stapte afgelopen jaar over van Office 365 naar een Europees alternatief, maar veel andere VN-organisaties en aanverwante instellingen gebruiken nog Amerikaanse mail.

Daaronder zijn onder meer de VN-vluchtelingenorganisatie UNRWA en de instanties die zijn belast met toezicht op de nucleaire sector en chemische wapens.

Als alle mail in Europa staat, zoals de Europarlementariërs hopen, is nog niet alles opgelost. "Intussen gooit iedereen in het Europees Parlement en bij Europese instellingen de hele dag alles in ChatGPT", zegt Europarlementariër Groothuis. "Je soevereiniteit gaat dan alsnog het raam uit."

Er moeten dus meer Europese alternatieven komen, op alle terreinen, bepleit Groothuis. "We moeten drie of vier Europese spelers hebben die de concurrentie kunnen aangaan."

Dan helpt het als de overheid Europees inkoopt, benadrukt Van Sparrentak (Pro). "Nu schuiven we miljarden naar Amerikaanse bedrijven. Dat hadden we beter in Europa kunnen investeren."

Reactie Microsoft

In een reactie laat Microsoft weten achter plannen voor meer Europese digitale soevereiniteit te staan. "Dat moet gebeuren op basis van openheid, samenwerking, eerlijke concurrentie en keuzevrijheid", aldus de Amerikaanse techgigant. "Wij blijven ons inzetten voor een sterk, weerbaar, innovatief en internationaal verbonden technologisch ecosysteem in Europa."

Verantwoording

Voor dit artikel onderzocht de NOS de domeinnamen van 70 EU-instellingen en 60 VN-organisaties en aanverwante instellingen. We onderzochten daarvoor de zogenoemde DNS-gegevens, ook wel het telefoonboek van het internet genoemd.

Met die DNS-gegevens kan worden bekeken waar de infrastructuur achter een website is ondergebracht. We keken naar de DNS-gegevens die worden gebruikt voor het ontvangen en verzenden van e-mail.

De Europese Commissie had tot dinsdag 10.30 uur een Microsoft-server ingesteld voor het ontvangen van e-mail, evenals twee andere Amerikaanse servers. Na vragen van de NOS werd de Microsoft-server verwijderd.

De andere twee ingestelde servers worden in de regel gebruikt om mail te filteren op spam en digitale dreigingen, voordat die naar de echte mailservers wordt doorgestuurd. In dit geval mogelijk dus die van Microsoft.

Dat de Europese Commissie Office 365 van Microsoft gebruikt, is breed gedocumenteerd, onder andere door de Europese privacy-toezichthouder.

Het gaat om de Consumentenbond, hulporganisatie Offlimits en actiegroep The Firewall, die zich keert tegen de macht van Big Tech.

Offlimits staat slachtoffers van online-misbruik bij en is onder meer aangewezen als meldpunt voor kinderpornografisch materiaal. Slachtoffers van misbruik kunnen bellen met een hulplijn.

"We hebben de eerste verhalen van slachtoffers over de camerabrillen al ontvangen", zegt een woordvoerder. Daarbij zouden mensen op straat zijn lastiggevallen en stiekem zijn gefilmd met de camerabrillen. Daarom moet de verkoop stoppen, vindt de hulporganisatie.

Onder vuur

De videobrillen, waarmee mensen kunnen worden gefilmd zonder dat ze dat per se doorhebben, liggen de afgelopen tijd onder vuur. Zo wil de Tweede Kamer een duidelijk verbod. Het kabinet deelt de zorgen, maar vindt een verbod te ver gaan.

Vorige week waarschuwde de Autoriteit Persoonsgegevens (AP) dat foto's en video's die gemaakt worden met camerabrillen niet zomaar openbaar gemaakt mogen worden. Ook omdat ze steeds meer op gewone brillen lijken, hebben veel mensen het niet door dat ze worden gefilmd, zegt de privacywaakhond.

De afgelopen jaren is de verkoop van camerabrillen flink toegenomen. Vooralsnog zijn die van Meta, ook in samenwerking met fabrikanten Ray-Ban en Oakley, verreweg het populairst.

Ook Samsung en Google zeggen aan camerabrillen te werken. Apple doet dat naar verluidt ook, maar zou nog sleutelen aan beperkingen om privacyproblemen te voorkomen.

Bronnen van de NOS zeggen dat het gaat om Pepijn van der S. Die werd in 2023 veroordeeld tot vier jaar celstraf voor afpersing, witwassen en het hacken van bedrijven. Sinds begin dit jaar is hij weer op vrije voeten.

Van der S. deed zich eerder voor als legitieme hacker, werkte bij securitybedrijf Hadrian en deed onderzoeken voor de ethische hackersgroep DIVD. Intussen perste hij bedrijven af en verkocht hij gestolen datasets met persoonsgegevens, bijvoorbeeld van klanten van autobedrijven.

ShinyHunters

Bij de aanval op telecomprovider Odido in februari werden data van miljoenen Nederlanders gestolen. Het hackerscollectief eiste miljoenen losgeld van Odido, maar het bedrijf weigerde dat te betalen. Vervolgens publiceerde ShinyHunters een deel van de gegevens op het darkweb.

In mei werd een grote cyberaanval uitgevoerd op het moederbedrijf achter de Canvas-software. Dat bedrijf, Instructure, sloot wel een deal met de hackers.

Vorige week kwam het hackerscollectief ShinyHunters opnieuw in het nieuws toen het claimde de gegevens van duizenden medewerkers en sollicitanten van de FBI te hebben bemachtigd.

De agents van OpenAI hadden geen opdracht gekregen om websites aan te vallen, dat deden ze om de taak te volbrengen die aan hen was gevraagd, werd gisteren bekendgemaakt door het non-profit AI-onderzoeksbureau Transluce.

OpenAI zei in een reactie dat er geen sprake was van hacks, maar volgens The New York Times wisten de agents bij het ministerie van Handel informatie te vergaren door gebruik te maken van online gevonden login-gegevens. Andere AI-onderzoekers ontdekten dat OpenAI-agents actief waren op een Duits online forum. Ook dat was niet de bedoeling.

OpenAI zegt dat de training alleen wordt hervat "als we er zeker van zijn dat we extra beveiligingsmaatregelen hebben". Het bedrijf verwacht dat het opnieuw op de pauzeknop moet drukken als AI zich verder ontwikkelt en zich nieuwe problemen voordoen.

Hugging Face

Het is de tweede keer in drie maanden dat Open AI op de ontwikkeling van modellen moet stopzetten. De eerste keer was in juli toen 1200 agents van Open AI bij het AI-bedrijf Hugging Face wist in te breken.

Topmannen van Amerikaanse AI-bedrijven pleitten eerder deze maand voor een vertraging in de ontwikkeling van nieuwe AI-modellen omdat AI-agents binnen zes tot twaalf maanden het hele internet zouden kunnen overnemen.

President Trump wil die ontwikkeling juist versnellen. Een speciale 'AI Force' moet op dat gebied advies gaan uitbrengen.

Maandag zou er in Alabama een rechtszaak tegen TikTok starten. Daarin werd het sociale mediabedrijf ervan beschuldigd dat de app opzettelijk verslavend is gemaakt voor kinderen en slecht is voor het mentale welzijn van kinderen. Met deze schikking is de rechtszaak van de baan.

Onderdeel van de schikking is dat er in de staat Alabama nieuwe beperkingen worden doorgevoerd, zoals een dagelijks gebruikslimiet van twee uur voor kinderen, strengere leeftijdsverificatie en gebruiksvriendelijkere ouderlijke controle.

Verbod op cosmetische filters

Ook gaat de app voor kinderen tussen middernacht en zes uur 's ochtends op slot en kinderen krijgen na vijftien minuten onafgebroken gebruik de tip om een pauze te nemen. Verder krijgen tieners de mogelijkheid om een niet-gepersonaliseerde feed te selecteren en komt er een verbod op alle cosmetische filters voor kinderen.

De afgesproken aanpassingen in de app komen grotendeels overeen met wijzigingen die Meta, het moederbedrijf van Instagram en Facebook vorige maand heeft toegezegd in een schikking. Meta kocht toen een zaak die tal van Amerikaanse staten hadden aangespannen af met een bedrag van ruim 15 miljard euro.

De procureur-generaal van de staat noemt het een "geweldige dag voor ouders in Alabama". De beperkingen die TikTok in deze schikking zijn opgelegd, gelden officieel alleen voor Alabama. Maar mogelijk voert het bedrijf ze in de hele Verenigde Staten door, omdat het lastig kan zijn om grote platformwijzigingen per staat door te voeren.

Het is niet voor het eerst dat TikTok een schikking treft. In augustus werd bekend dat het bedrijf bijna 350 miljoen euro betaalt in een zaak die het Amerikaanse ministerie van Justitie had aangespannen, omdat de privacy van kinderen niet goed werd beschermd.

Ook in Europa ligt TikTok onder vuur. Volgens de Europese Commissie schermt de app accounts van minderjarigen niet genoeg af. Als gebruikers bijvoorbeeld hun account op 'openbaar' zetten, kan iedereen de video's van die gebruikers zien, ook als ze minderjarig zijn. Het bedrijf is het niet met die kritiek eens.

Het gaat om een bedrag van circa 10 tot 15 euro aan cryptovaluta per persoon, blijkt uit communicatie van de hackersgroep die de NOS heeft ingezien. "Het is een klein bedrag voor je gemoedsrust", aldus de hackers. De hackers eisen dat klanten voor 2 oktober betalen.

Pim Takkenberg van beveiligingsbedrijf Northwave adviseert om niet te betalen. "Je weet als klant totaal niet waar je aan toe bent als je betaalt en of ze jouw gegevens ook echt verwijderen", zegt Takkenberg, die door internetcriminelen getroffen bedrijven bijstaat.

Dat individuele klanten worden benaderd, is een nieuwe methode. Eerder perste de criminele hackersgroep Shinyhunters wel universiteiten af die klant waren van een gehackt softwareplatform. "Maar dat individuele consumenten worden benaderd, heb ik nog niet eerder gezien", zegt Takkenberg.

Volgens het Duitse vakblad Retail News kwamen de hackers binnen door gebruik te maken van "gecompromitteerde inloggegevens", wat erop duidt dat ze in wisten te breken via het account van een Flink-werknemer.

1 miljoen klanten

De hackers claimen de gegevens van een miljoen klanten en 13.000 medewerkers in handen te hebben. Of dat klopt, is onbekend, maar het bedrijf heeft naar eigen zeggen in Nederland anderhalf miljoen klanten.

Het is niet bekend hoeveel klanten inmiddels een mail hebben ontvangen, en of er nog meer klanten volgen.

"We weten dat criminelen momenteel misbruik maken van dit incident door contact op te nemen met klanten en medewerkers", bevestigt Flink in een schriftelijke reactie. "We adviseren dringend om niet op dergelijke berichten in te gaan."

Het bedrijf schrijft in een mail aan klanten dat de hackers mogelijk naam, e-mailadres, postadres en telefoonnummers van slachtoffers in handen hebben, evenals mogelijk de bestelgeschiedenis. Wachtwoorden en betaaldata zijn niet getroffen, stelt het bedrijf in een bericht aan zijn klanten.

Als Flink zelf of alle klanten samen in totaal 100 ether overmaken, worden alle data verwijderd. 100 ether, een cryptovaluta, is circa 238.000 euro. De hackers roepen klanten op om Flink onder druk te zetten. "Je kunt deze mail doorsturen naar Flink om hun aandacht te trekken", schrijven de hackers.

Joey Fennis van Responders, dat ook gehackte bedrijven bijstaat, sluit niet uit dat het de hackers daar om te doen is. "Dat klanten zich ermee gaan bemoeien en er onrust bij Flink ontstaat." Dat bedrijf wil niet aangeven of het is benaderd door de hackers.

Op het cryptovaluta-adres van de hackers was vrijdag rond 15.30 nog geen geld binnengekomen, maar de hack is ook van zeer recente datum. Betalingen met cryptovaluta zijn doorgaans openbaar.

De ontmoeting tussen Trump en Xi komt op een moment van wrijvingen tussen Peking, Washington en de Amerikaanse techbedrijven, die momenteel vooroplopen in de race. Hoe staat die race ervoor, hoe verschilt de Amerikaanse benadering van de Chinese en wat kunnen we vandaag uit Washington verwachten?

Wat willen China en de VS doen met AI?

Daar zit een verschil tussen, maar eerst moeten we iets uitleggen over AI zelf. Dat is namelijk een parapluterm voor allerlei soorten taken die computers uitvoeren en waar ontzettend veel rekenkracht voor nodig is. Met al die rekenkracht is AI veel beter en sneller dan oudere computertechnologie in patronen herkennen, situaties analyseren en nieuwe producten en oplossingen creëren.

In de kern vindt zowel de Amerikaanse als de Chinese regering dat AI cruciaal is voor de economische concurrentiekracht en nationale veiligheid. Het komt dan ook deels voort uit angst om economisch achterop te raken of van elkaars technologie afhankelijk te zijn, dat beide landen vol inzetten op eigen AI-ontwikkeling.

Amerikaanse bedrijven leggen de nadruk op het zo goed mogelijk nabootsen van de menselijke intelligentie. Daarmee zijn er veel commerciële- en overheidstoepassingen mogelijk. Denk aan het gebruik van gezichtsherkenning in de beveiliging, of een systeem dat menselijk gedrag als bluffen kan herkennen en imiteren voor gebruik in zakelijke onderhandelingen.

Peking daarentegen heeft een praktischer insteek. Die probeert de ontwikkeling van veel AI-toepassingen te stimuleren waar de samenleving meteen baat bij heeft. Met AI-experimenten in de zorg, het onderwijs en in het opsporen van financiële fraude, wil de regering AI in de maatschappij integreren.

Hoe probeert China voorloper te worden in AI?

In China wordt de ontwikkeling van AI gedreven door grote bedrijven die innovaties doen gecombineerd met een sterke sturing van de overheid. De overheid stelt subsidies en investeringen beschikbaar voor bedrijven die innovaties doen zolang die passen bij overheidsplannen.

Daarnaast stimuleert de Chinese overheid opensourcemodellen. Dit houdt in dat ontwikkelaars wereldwijd gebruik kunnen maken van de Chinese modellen, waardoor het gebruik wijdverspreid raakt en de bedrijven erachter van de ervaringen kunnen leren.

Pas als het gevaar dreigt dat modellen op een manier gebruikt worden waar de Chinese overheid het niet mee eens is, zullen er beperkingen opgelegd worden. Wat Peking vooral níet wil, is dat de ontwikkeling en toepassingen van AI de Communistische Partij in gevaar brengen.

Hoe probeert de VS wereldleider-AI te worden?

In tegenstelling tot de sterk gereguleerde aanpak van China, krijgt de markt vrij spel in Amerika. De overheid wil het speelveld niet dichttimmeren, maar juist de voorwaarden scheppen zodat allerlei techbedrijven erop los kunnen innoveren met AI. De houding is vooral: probeer het maar, test je product in de praktijk, fouten maken mag. De nadruk ligt sterk op snelheid, vooral om China voor te blijven.

Dat is te zien in de manier waarop AI-bedrijven worden behandeld als ze in opdracht werken van het Amerikaanse ministerie van Defensie. Toen AI-ontwikkelaar Anthropic eerder dit jaar pleitte voor "vangrails" om te voorkomen dat zijn eigen technologie door de overheid zou worden misbruikt, liet het Pentagon het bedrijf als een baksteen vallen. Het ministerie opende meteen een aanbesteding voor de concurrenten van Anthropic, dat daarmee een contract verloor ter waarde van 200 miljoen euro.

Daarnaast probeert de VS ervoor te zorgen dat China achterblijft wat betreft de rekenkracht van zijn computers. Dat doet Washington door het invoeren van wereldwijde exportbeperkingen op de meest geavanceerde chips en chipmachines.

Het in Nederland gevestigde ASML weet daar alles van. Het bedrijf uit Veldhoven is een van de vele techbedrijven die daardoor een deel van hun verkoop aan China hebben moeten staken. Voorlopig werkt deze aanpak. Als het gaat om rekenkracht lopen de Amerikaanse AI-bedrijven tot een half jaar voor op hun Chinese concurrenten, denken Chinese experts.

Wat zijn de verwachtingen voor de gesprekken tussen Trump en Xi vandaag?

De techbedrijven in de VS die onlangs nogmaals hebben gepleit voor een veiliger aanpak, met vangrails en een langzamer tempo van AI-innovatie, zullen hun zin waarschijnlijk niet krijgen. Trump vindt het niet opportuun om zo de Amerikaanse voorsprong op China te verspelen.

Ook Xi ziet hun oproep niet zitten, want volgens hem is het een verkapte poging om Chinese innovatie af te remmen.

Tegelijkertijd zijn Washington en Peking wel kleine stappen aan het zetten om de veiligheid van AI in de gaten te houden en erover te communiceren. Afgelopen weekend spraken de Amerikaanse minister van Financiën Bessent en de Chinese vicepremier He af om een AI-veiligheidsmechanisme in het leven te roepen. De krant van de Chinese Communistische Partij schreef daarna dat AI "een nieuw terrein voor Chinees-Amerikaanse samenwerking" moet worden.

In samenwerking met het Duitse agentschap SPRIND stelt NADI 40 miljoen euro beschikbaar voor de AI-Native Chip Design Challenge. Uit alle aanmeldingen zullen NADI en SPRIND zeven teams selecteren die een idee hebben voor energiezuinige AI-chips. Zij krijgen ieder 2,6 miljoen euro om dat idee uit te werken.

Na acht maanden worden de drie beste teams uitgekozen. Die krijgen elk nog eens 7 miljoen euro. Naast geld krijgen de teams begeleiding van de innovatieagentschappen.

Zelfrijdende auto's

NADI is opgericht om innovaties te financieren die te risicovol zijn voor private investeerders. Het kabinet trekt in totaal 500 miljoen euro uit voor het agentschap.

Het NADI is geïnspireerd op het Amerikaanse DARPA, dat al bijna zeventig jaar een rol speelt bij innovaties als gps en zelfrijdende auto's. In Europa zijn de afgelopen jaren soortgelijke organisaties opgericht, zoals ARIA in het Verenigd Koninkrijk en SPRIND in Duitsland, dat projecten financierde in onder meer de geneeskunde en de duurzame energiesector.

Op dit moment is Europa sterk afhankelijk van AI-chips uit de VS en Azië. Daarnaast kosten AI-modellen veel energie. "Het is alsof je boodschappen doet met een verhuiswagen", zegt Jelle Prins, medeoprichter van NADI.

Dat hoge energieverbruik leidt tot kritiek. Sommige experts pleiten voor een rem op de bouw van datacentra en de ontwikkeling van AI.

De verwachtingen van de opdracht zijn hooggespannen, zegt SPRIND-oprichter Rafael Laguna de la Vera. "Nederland is dankzij ASML enorm sterk in de chipfabricage. Maar we hebben nauwelijks chips uit Europa die op ASML-machines gemaakt kunnen worden. En de uitdaging is om zulke ontwerpen te produceren in een markt die net explosief is gegroeid."

Europa loopt in de AI-markt ver achter op China en de VS:

Wat Prins betreft is NADI een succes "als we uiteindelijk een aantal van de grote maatschappelijke problemen die we hebben oplossen, of bijvoorbeeld hele nieuwe industrieën creëren".

Vanuit Duitsland komt een dringend advies aan de Nederlandse politiek: bemoei je niet te veel met NADI. Laguna de la Vera: "Je moet geduld hebben. Soms moet je zelfs vijftien jaar wachten tot een baanbrekende innovatie zich ontvouwt. En dat is een lange tijd. Het is niet altijd makkelijk om de politieke aandacht zo lang vast te houden."

Teams kunnen zich tot 30 november aanmelden voor het chipprogramma.

Econoom Mathijs Bouman:

"NADI vloeit voort uit aanbevelingen in het Rapport-Wennink over het toekomstige verdienvermogen van Nederland. 500 miljoen euro is veel geld, maar het is een stuk minder dan in het rapport werd aanbevolen. Daarin werd een bedrag genoemd van 1,5 tot 2 miljard.

Een volgend kabinet kan natuurlijk besluiten meer geld in het agentschap te stoppen, maar het kan juist ook besluiten erop te bezuinigen. Dat is eerder gebeurd bij het Nationaal Groeifonds. Verder hebben de Tweede Kamer en de Rekenkamer eerder kritiek geuit op dit soort uitgaven, waar de politiek weinig controle over heeft. Aan de andere kant kun je ook beargumenteren dat er met de politici aan het roer geen garantie is op succes."

Wat wil de Europese Commissie?

Dat kinderen pas op 15-jarige leeftijd volledige toegang hebben tot sociale media. Jongere kinderen zouden helemaal niet meer op diensten zoals Instagram of TikTok mogen, vindt de Europese Commissie. Pas vanaf 13 jaar mogen kinderen een account hebben, als het aan de wetmakers van de Europese Unie ligt.

Dat account is dan niet van kinderen zelf, maar van hun ouders of verzorgers. Daarmee kunnen zij hun kind online laten op bijvoorbeeld Facebook of TikTok, maar die toegang is wel beperkt. Zo zijn de microfoon en camera standaard uitgeschakeld, waardoor kinderen niet zomaar foto's, video's of geluidsopnamen kunnen maken. Alleen de ouder kan die instellingen aanpassen.

Ook mogen kinderen er maar maximaal één uur per dag spenderen. Of zelfs minder, als de ouder dat te veel vindt. Ook mag de ouder bepalen wie de volgers of vrienden van het account zijn. Vanaf 15 jaar kunnen kinderen een eigen account aanmaken.

De regels gaan gelden voor onder meer Facebook, Instagram, Snapchat, TikTok en X. Ook videodiensten zoals YouTube krijgen strengere regels. WhatsApp valt buiten deze wet.

Hoe gaan de sociale media de leeftijd controleren?

De sociale media zijn verantwoordelijk voor het controleren van de de leeftijd van accounteigenaren. Ze mogen dat van de Commissie niet doen met een eigen systeem, maar moeten gebruikmaken van andere systemen.

De bedrijven zouden dat kunnen doen via leeftijdsapps. De Europese Commissie wil dat in elk land minstens één app beschikbaar komt waarmee je kunt aantonen dat je een bepaalde leeftijd hebt, zonder verder informatie te delen.

Maar de Europese Commissie denkt ook aan andere manieren. Bijvoorbeeld dat organisaties of instanties die betrouwbaar kunnen zeggen hoe oud iemand is, dat op een digitale manier kunnen doorgeven aan het sociale medium. Denk aan een bank, de huisarts of de school. Het idee is dat een ouder daar een digitale verklaring krijgt. Die kan gebruikt worden om het kindaccount te maken.

Het is op dit moment nog onduidelijk welke mogelijkheden er komen en hoe die in de praktijk gaat uitpakken.

Kunnen kinderen die controle omzeilen?

Ja, en daar houdt de Europese Commissie ook rekening mee. Maar, zeggen ze: het gaat erom dat we anders naar sociale media kijken en dat we er anders mee omgaan. Met deze regels wil de Commissie veel strenger zijn tegen bedrijven achter Facebook, Instagram, TikTok, Snapchat en X.

Moeten de socialemediabedrijven nog meer doen?

Ja, vindt de Europese Commissie. In het plan voor de wet staat dat de bedrijven het ontwerp van hun platforms moeten aanpassen. Een aantal functies wordt verboden, zoals het oneindig door kunnen scrollen om steeds weer nieuwe foto's, berichten of video's te zien. Ook moeten de bedrijven maatregelen nemen waardoor sociale media onder schooltijd of 's nachts minder of niet meer gebruikt worden.

Ook moeten onder meer Facebook, Instagram, Snapchat, TikTok en X voortaan aantonen dat zij hun platform veilig hebben vormgegeven. Ze moeten opschrijven op welke manier ze daarvoor hebben gezorgd. Als de Europese Commissie daar ontevreden over is, kunnen aanpassingen worden geëist.

Wanneer gaan de regels in?

Dat gaat nog maanden duren. De Europese Commissie heeft nu bedacht hoe de wet eruit zou moeten zien. Maar het Europees Parlement, waarin politici uit allerlei landen zitten, moet nog akkoord gaan. Ook alle 27 landen van de Europese Unie moeten het ermee eens zijn. Waarschijnlijk zullen zij nog vragen hebben over hoe de wet in de praktijk gaat uitpakken.

CCIA Europe, een organisatie van grote techbedrijven waarvan onder meer Meta (Facebook en Instagram) en Google (YouTube) lid zijn, zegt ook dat het onduidelijk is hoe de bedrijven de leeftijdscontrole en instellingen voor ouders er in de praktijk uit moeten zien. De organisatie wijst er bijvoorbeeld op dat socialemediabedrijven met deze regels moeten controleren of ouder en kind echt familie van elkaar zijn.

Als het Europees Parlement en de 27 lidstaten akkoord zijn over de definitieve tekst van de wet, kunnen de regels van kracht worden. Vermoedelijk gebeurt dat op zijn vroegst eind 2027 of in 2028. Op dat moment moeten de bedrijven controleren welke accounts van kinderen onder de 15 zijn, en die uitschakelen.

Anthropic-topman Dario Amodei publiceerde zaterdag een artikel waarin hij schrijft dat de koplopers van de AI-industrie moeten vertragen, maar dat daarvoor steun van de Amerikaanse overheid nodig is. Onder anderen Sam Altman van OpenAI (ChatGPT) en Elon Musk van SpaceXAI (Grok) zeiden het met hem eens te zijn.

"Jongens, ga je gang", reageerde de invloedrijke Trump-adviseur David Sacks bij tv-zender Bloomberg. "Het is jullie verantwoordelijkheid om ervoor te zorgen dat jullie producten veilig zijn. Als jullie het gevoel hebben dat je moet vertragen, doe dat dan. Je hebt daar geen toestemming van iemand anders voor nodig."

Amodei schrijft dat hij zijn oproep doet omdat hij zich zorgen maakt dat AI-technologie binnen zes tot twaalf maanden "in staat is om het hele internet over te nemen". Daarbij moet worden aangetekend dat het schetsen van doemscenario's een beproefde marketingstrategie van Anthropic en OpenAI is.

Amodei onderbouwt zijn zorg verder ook niet: hoe dat zou gaan, waarom mensen dat niet zouden opmerken of kunnen tegenhouden en hoe een 'overgenomen internet' er dan uitziet, schrijft hij er niet bij.

Twijfel over oprechtheid

Je kunt betwijfelen of Amodei's oproep oprecht is, zegt Felienne Hermans. Zij is hoogleraar informatica aan de Vrije Universiteit Amsterdam en volgt de AI-industrie. "Als je je werkelijk zo veel zorgen maakt, kun je ook gewoon stoppen. Ze kunnen zeggen: dit is waar wij ons als Amerikaanse AI-bedrijven aan gaan houden. Ze kunnen zeggen: als we mensen niet met deze AI-technologie kunnen vertrouwen, moeten we mensen dit misschien ook niet geven. Waarom hebben ze daar de overheid voor nodig?"

Na Amodei's oproep zette Facebook-oprichter Mark Zuckerberg een bericht online waarmee hij laat zien dat de AI-bedrijven elkaar of de overheid volgens hem niet nodig hebben. Hij schrijft dat Meta het uitbrengen van zijn laatste AI-model enkele maanden heeft uitgesteld om zich te concentreren op de veiligheid ervan.

"We hebben niet eerst andere bedrijven opgeroepen om dit te doen, voordat we het zelf zouden doen", schrijft Zuckerberg. "We hebben het gewoon gedaan, als onderdeel van onze dagelijkse werkzaamheden, omdat het duidelijk het juiste was om te doen."

"Dat is wat ik bedoel", zegt Hermans. "Als je je écht zorgen maakt als bedrijf, dan kun je zeggen: we stoppen er zelf mee. En we onderhandelen met elkaar dat we er samen mee stoppen. Maar in plaats daarvan zeggen ze: 'Overheid, kom alsjeblieft met wetten en regels'. En Trump heeft al gezegd dat hij dat niet van plan is."

Invloed op regels uitoefenen

Hermans vermoedt dat de AI-bedrijven de verantwoordelijkheid van zich af willen schuiven. "Stel dat er straks iets misgaat, dan kunnen ze zeggen: we hebben de overheid gevraagd om regels. Die kwamen er niet, dus het is niet onze schuld."

Dat is een strategie die eerder succesvol is gebleken, zegt Roel Dobbe van de TU Delft. Hij onderzoekt hoe de AI-bedrijven beeldvorming en regelgeving proberen te beïnvloeden. "De bedrijven zeggen: geef ons regels. Of er in de praktijk wat van terechtkomt, is een ander verhaal. En als dat wel zo is, blijkt uit ons onderzoek dat deze bedrijven veel geld hebben om de regelgeving te beïnvloeden, zodat de regels in hun voordeel uitpakken."

Hermans en Dobbe denken dat de concurrentie met China mogelijk ook een rol speelt. In Amodei's oproep om te vertragen, schrijft hij ook dat de AI-ontwikkelingen in China tegengewerkt moeten worden.

"Anthropic en OpenAI hebben veel geld geïnvesteerd in hun AI-modellen", zegt Dobbe. "Dat moeten ze terugverdienen. Hun klanten betalen daar hoge rekeningen voor." Ondertussen brengen Chinese AI-bedrijven goedkope of gratis modellen op de markt die een serieuze concurrentie zijn voor de Amerikaanse AI-technologie, legt Dobbe uit.

"Je kunt je voorstellen dat de bedrijven enthousiast zijn over regulering waardoor de Chinese AI-modellen beperkt worden", zegt Hermans. "Dat zou goed zijn voor de marktpositie van de grote Amerikaanse AI-bedrijven."

Trump-adviseur: 'Smoesje'

"We moeten ervoor zorgen dat we China een stap voor blijven en geen onnodige regelgeving invoeren waardoor China een voorsprong kan krijgen", zegt Trump-adviseur Sacks bij Bloomberg. Hij wijst er ook op dat er al regels zijn en dat de AI-bedrijven verantwoordelijk kunnen worden gehouden voor gevaarlijke producten.

"Ik denk dat elk bedrijf in Amerika ervoor moet zorgen dat hun producten veilig zijn wanneer ze op de markt komen. Dat is gewoon een basisverantwoordelijkheid voor bedrijven", zei hij. "Ik geloof niet echt dat zij hun producten pas veilig kunnen maken als de overheid zich ermee bemoeit. Het voelt als een smoesje. We staan niet in de weg. Ze moeten hun verantwoordelijkheid nemen en het doen."

Dat betekent dat de teksten zijn geschreven door een AI-tool als ChatGPT of Claude. De inzet van AI varieert van enkele zinnen tot volledige lijsten met vragen.

Het aandeel neemt toe: het afgelopen halfjaar bevatte 26 procent van de Kamervragen AI, tegen 17 procent het halfjaar daarvoor. Alleen in de afgelopen twee maanden werden er weer wat minder 'AI-Kamervragen' gesteld.

Pangram detecteert op een betrouwbare manier de schrijfstijl van AI-modellen, maar kan niet inschatten hoeveel denkwerk de modellen hebben overgenomen. Zolang Kamerleden zelf verantwoordelijk zijn voor de inhoud, hoeft AI-gebruik niet erg te zijn, stellen deskundigen.

Vorige week bleek uit onderzoek van de Volkskrant dat premier Jetten zijn socialemediaberichten mede door AI laat schrijven. Ook opiniestukken in kranten worden mede door AI geproduceerd, meldde de Nederlandse nieuwsbrief AI-Report.

Denkproces

"Als Kamerleden AI helemaal niet zouden gebruiken, zou ik dat ergens ook wel kwalijk vinden", zegt AI-ontwikkelaar Maarten Sukel, die zelf een taalmodel ontwikkelde en op verzoek van de NOS meekeek naar met AI geformuleerde Kamervragen. De grote AI-taalmodellen kunnen Kamerleden helpen om sneller de goede vragen te stellen, denkt hij.

Maar er zijn wel risico's. "Als je bezig bent met een dossier waar je zelf minder van weet en je laat AI je helpen met het bedenken van Kamervragen is dat een risico. Je moet je ergens in blijven verdiepen en het denkproces niet uit handen geven."

Techdenker Marleen Stikker ziet ook vooral daar de risico's. "We outsourcen onze democratische systemen naar algoritmes van Amerikaanse AI-bedrijven, die ook nog eens niet neutraal zijn, maar gekleurd. Dat is toch absurd?"

Critici wijzen ook op de kans dat er foutieve informatie in Kamervragen terecht kan komen, doordat AI-modellen ondanks maatregelen van AI-bedrijven nog steeds foutieve informatie kunnen geven.

Sneller en verstandiger

Tweede Kamerlid Daniël van den Berg van JA21 bevestigt AI te gebruiken, maar vindt dat geen probleem. "Niet om me er makkelijker van af te maken en snel weer thuis te zijn", verzekert hij. "Ik zou het zonde vinden om zelf urenlang door notulen en Kamerdocumenten te ploegen, om media-items terug te zoeken. AI helpt me dat sneller en verstandiger te doen."

Hoewel meerdere van zijn Kamervragen volgens de analyse voor een groot deel door AI zijn geschreven, is hij zelf verantwoordelijk voor de inhoud, verzekert Van den Berg. "Ik heb die vragen tot op de bodem uitgezocht. Maar als ik niet uit een formulering kom, dan vraag ik AI om daarbij te helpen."

Ook een aantal andere Kamerleden bevestigt inmiddels AI-hulpmiddelen te gebruiken. "Mijn team en ik gebruiken AI om iets uit te zoeken of in te korten, of voor een spellingscheck", bevestigt VVD-Tweede Kamerlid Renate den Hollander. "Maar alles wat ik inbreng in de Kamer is onder mijn verantwoordelijkheid bedacht en uitgewerkt."

Ook D66-Kamerlid Marieke Vellinga-Beemsterboer doet dat. "AI helpt haar bij het aanscherpen van schriftelijke vragen en om ervoor te zorgen dat ze begrijpelijk zijn", zegt haar woordvoerder, die eraan toevoegt dat "heel Nederland dat inmiddels doet". Het Kamerlid laat geen complete vragenlijsten door AI opstellen, verzekert de woordvoerder.

Wie communiceert met wie?

Het door de NOS gebruikte AI-detectieprogramma Pangram detecteert de schrijfstijl van AI-modellen. Volgens kenners is het programma goed in staat om in grote hoeveelheden data AI-sporen te herkennen, maar op individueel niveau kan het programma weleens fout zitten.

"Als je een mens achter een computer zet en hem in AI-stijl laat antwoorden, dan zal Pangram zeggen: AI-tekst", aldus AI-kenner Sukel. "Rook betekent in dit geval dus niet altijd vuur. Tegelijkertijd herkent Pangram meer dan de mens, en zal het formuleringen herkennen die een mens niet herkent."

Techdenker Stikker ziet meer heil in zelf blijven schrijven. "Je moet je afvragen of je dit soort energieslurpende AI-systemen moet gebruiken voor alledaagse dingen. Als straks ook nog de antwoorden op Kamervragen met AI worden geformuleerd, kun je je afvragen: wie communiceert er nou met wie?"

Verantwoording

Voor dit artikel analyseerde de NOS 2500 documenten met Kamervragen, die tot en met de vorige zomer werden ingediend. Die haalden we geautomatiseerd door AI-detector Pangram.

Die grote hoeveelheid teksten kozen we omdat Pangram vooral goed werkt op grote schaal: bij een individuele Kamervraag kan Pangram er weleens naast zitten, maar bij duizenden Kamervragen geeft de detectietool een betrouwbaar beeld.

Ter verificatie analyseerden we ook een controleset van 468 documenten met Kamervragen. Die vragen zijn afkomstig uit het "pre-AI-tijdperk" en dus vrijwel zeker door mensen geschreven.

Op die manier wilden we zeker weten dat Pangram menselijke Kamervragen kan onderscheiden van AI-Kamervragen. In alle gevallen bestempelde Pangram de oude teksten terecht als "100 procent menselijk".

We hebben ervoor gekozen om in dit onderzoek geen ranglijst te tonen met Kamerleden die de meeste "AI-vragen" stelden, omdat de kans op zogenoemde valspositieven daar te groot was.

Met die waarschuwing komt Anthropic-topman Dario Amodei, de ontwikkelaar van Claude, in een essay. OpenAI-topman Sam Altman (ChatGPT), SpaceXAI-baas Elon Musk (Grok) en voorzitter Demis Hassabis van Google DeepMind (Gemini) hebben zich achter de oproep van Amodei geschaard.

Meer doen aan risicopreventie

Amodei zegt dat hij gelooft dat kunstmatige intelligentie veel voordelen kan brengen, maar dat de ontwikkeling ervan op dit moment te snel gaat. "De laatste maanden ben ik ervan overtuigd geraakt dat we nog voorzichtiger moeten zijn als we de risico's willen aanpakken."

Hij zegt dat bedrijven niet alleen moeten investeren in risicopreventie, maar ook ervoor moeten zorgen dat risicopreventie niet gaat achterlopen op de ontwikkeling van de technologie. Met andere woorden: "We moeten de mogelijkheden van onze AI-modellen minder snel verbeteren. De vooruitgang zal nog steeds snel lijken, en we moeten verstandig omgaan met de tijd die we daarmee winnen."

Zo pleit Amodei voor onafhankelijke controleurs die bedrijven moeten gaan toetsen aan veiligheidsnormen. Ook wil hij meer wereldwijde samenwerking bij het opstellen van regels voor de ontwikkeling van AI.

Incident met losgebroken AI

De afgelopen weken wordt er steeds luider opgeroepen om de pauzeknop in de drukken als het gaat om AI-ontwikkelingen. Aanleiding is een incident rond een losgebroken AI-programma van OpenAI, dat deze zomer in het nieuws kwam. Honderden AI-agents braken uit hun testomgeving en hackten een week lang een ander bedrijf, Hugging Face.

OpenAI zei het incident te zien als "waarschuwingsschot, voor ons en voor de wereld".

Daar kwam bij dat deze week een onderzoeker van Anthropic ontslag nam bij het bedrijf omdat hij naar eigen zeggen had gezien hoe onverantwoord de topbedrijven omgaan met veiligheid en zo mensenlevens op het spel zetten. De 27-jarige Jacob Coxon zette zijn ervaringen op sociale media, die de afgelopen dagen miljoenen keren werden gelezen. Dit weekend zei hij in een interview met de BBC dat andere AI-onderzoekers ook "oprecht bang" zijn over de snelheid van de technologische ontwikkelingen.

De vrees bestaat dat er een dag komt waarop AI-systemen zichzelf verder ontwikkelen, zonder tussenkomst van mensen. Over het ontstaan van artificial general intelligence, kunstmatige algemene intelligentie, wordt al langer gesproken.

De AI-industrie die gelooft in artificial general intelligence, koppelt die vaak ook aan allerlei doemscenario's, maar in de wetenschap worden die niet heel serieus genomen. Hoe dat zit, zie je in deze video die NOS op 3 eerder maakte:

"Als we hier niet bovenop zitten, zou de ontwikkeling van AI ons vermogen om deze systemen te begrijpen en te beheersen kunnen overstijgen", zegt Anthropic-baas Amodei. Altman van OpenAI is het met hem eens. "Het idee om onafhankelijke inspecteurs toegang te geven, is uitstekend. Wij zullen dat ook doen." Elon Musk plaatste simpelweg "Dario heeft gelijk" op zijn X-account.

Binnen Silicon Valley klinkt ook dat de AI-topmannen niet oprecht bezorgd zijn. Zo denken sommige critici dat Anthropic en OpenAI door angst te zaaien ervoor willen zorgen dat de Amerikaanse regering gaat reguleren, wat er in de praktijk op zou neerkomen dat kleinere bedrijven niet meer met de AI-reuzen zouden kunnen concurreren.

Het is ook maar de vraag of het indrukken van de pauzeknop een realistisch scenario is. De Verenigde Staten en China zijn verwikkeld in een race om de beste AI te ontwikkelen. Het is onbekend of China het ook ziet zitten om de ontwikkeling te vertragen ten behoeve van veiligheid. Anthropic-topman Amodei zegt dan ook dat zijn plan gecoördineerd moet worden met China, iets waar onderzoeker Coxon ook op wijst.

De overheidsorganisaties zeggen dat onder meer de Chinese bedrijven DeepSeek, Moonshot, Alibaba en Z.ai op grote schaal kennis "onttrekken" uit Amerikaanse AI-modellen zoals Claude (van Anthropic), GPT (van OpenAI) en Gemini (van Google).

"De enorme omvang van deze operaties en de gespecialiseerdheid, wijzen erop dat onttrekking geen aanvulling is op de ontwikkeling van AI-modellen door deze bedrijven, maar juist de kern ervan vormt", schrijven de Amerikaanse veiligheidsdiensten.

AI-model ontwikkelen

'Onttrekking' is een methode waarbij een AI-toepassing wordt ontwikkeld op basis van een ander krachtig AI-model. Het krachtige AI-model genereert antwoorden die gebruikt worden om een nieuw AI-model te ontwikkelen.

De techniek wordt veel gebruikt in onderzoek en ontwikkeling rond kunstmatige intelligentie, maar de Chinese AI-industrie gebruikt de methode volgens de Amerikaanse veiligheidsdiensten om "het gat tussen hun AI-modellen en de krachtigste Amerikaanse modellen te overbruggen".

Amerikaanse AI-bedrijven klagen al langer over kopieergedrag door Chinese concurrentie. In februari beschuldigde Anthropic, het bedrijf achter AI-model Claude, de Chinese bedrijven DeepSeek, Moonshot en MiniMax van het "illegaal onttrekken van Claudes vaardigheden om hun eigen modellen te verbeteren".

Politieke discussie

De Chinese AI-bedrijven hebben de aandacht van het Witte Huis. In juli beschuldigde een belangrijke adviseur van president Trump het Chinese bedrijf Moonshot al van het kopiëren van AI-technologie van Anthropic.

Een woordvoerder van de Chinese overheid spreekt van valse beschuldigingen, meldt persbureau Reuters. De kwaliteit van AI-technologie uit China is volgens haar het resultaat van "wetenschap op hoog niveau en technologische zelfstandigheid".

"De term AGI gaat voor sommigen in de AI-industrie over veel meer dan alleen intelligentie", zegt Jan Broersen, hoogleraar kunstmatige intelligentie aan de Universiteit Utrecht. "Dat gaat vaak samen met doembeelden van kwaadaardige robots die de wereld gaan overnemen."

"En dan zeggen de AI-bedrijven daarna: 'Laat ons die AGI maar maken, wij zorgen dat het goedkomt.' Daarvoor trekken ze heel veel geld en macht naar zich toe."

Vergelijken met menselijke intelligentie

Kunstmatige intelligentie vergelijken met menselijke intelligentie is heel raar, vindt AI-adviseur Ilyaz Nasrullah. "Alsof je een duikboot vergelijkt met een mens. Een mens kan zwemmen, een duikboot kan ook in het water bewegen. Het heeft geen zin om dat met elkaar te vergelijken."

Daarmee zegt hij niet dat AI-programma's nutteloos zijn. "Als je bijvoorbeeld informatie wilt vinden op het internet, heb je computers nodig om door al die informatie heen te gaan. Dat zullen computers altijd sneller kunnen dan mensen."

Dus computers zijn heel nuttig, vindt Nasrullah: "Maar het is heel raar om te zeggen: computers zijn beter dan mensen. Het ene is een machine die werkt op basis van rekenkracht en de ander een levend wezen."

Betekenis van AGI onduidelijk

Daar komt nog bij dat er geen betekenis van AGI is waarover iedereen het eens is. "De term bestaat al tientallen jaren", zegt Broersen. "In het begin ging het om een vorm van kunstmatige intelligentie die niet één ding kan, maar meerdere dingen. Later zijn daar allemaal dingen aan toegevoegd. Sommige mensen spreken van AGI als het allerlei menselijke eigenschappen heeft, zoals bewustzijn of verlangens. Niemand weet meer wat het betekent."

Ook OpenAI-topman Brockman kan het aanbreken van het AGI-tijdperk niet onderbouwen. In een gesprek met onder meer de Amerikaanse nieuwssite TechCrunch noemde hij het "een spiritueel concept". Met andere woorden: het gevoel dat het zover is en iedereen mag zelf bepalen of je er ook zo over denkt. "Persoonlijk denk ik van wel", zei hij.

Brockman zegt dus dat je zelf mag bepalen wat AGI is, terwijl zijn bedrijf OpenAI zegt dat het zijn doel is om AI-systemen te ontwikkelen die "beter presteren dan mensen". "Heel verwarrend", zegt Nasrullah. "Wat moet je daar nou mee?"

"Het is moeilijk om te weten wat in het hoofd van Brockman omgaat. Mijn conclusie is: AGI bestaat niet, want je kan niet inhoudelijk vaststellen wat het inhoudt. Dat doet Brockman zelf ook niet."

Marketing of religie

Waarom zegt Brockman dan dat het "AGI-tijdperk" is aangebroken? Nasrullah denkt dat het vooral bedoeld is als marketing. "Het zorgt ervoor dat mensen over OpenAI praten. Sommige mensen gaan er heel serieus op in: het is wel zo, het is niet zo."

"Het maakt voor OpenAI niet uit of mensen voor of tegen zijn, er wordt in ieder geval over het bedrijf gepraat. En dan ook nog rond een AI-systeem dat 'beter presteert dan mensen', dat klinkt heel aantrekkelijk. Alle reclame is goede reclame."

Dat, of hij maakt er een soort religie van, zegt Nasrullah: "Je moet geloven dat AGI gemaakt is."

Broersen denkt dat dat een serieuze optie is. "Een aantal mensen in de AI-industrie gelooft echt dat zij AI-systemen kunnen ontwikkelen die in alle opzichten beter zijn dan mensen", zegt hij. "Het geld is leuk, maar ze vinden het vooral fantastisch dat ze dit kunnen doen. Zij komen in de geschiedenisboeken als de mensen die AGI hebben gemaakt. Ze willen God spelen."

De AI-industrie die gelooft in AGI, koppelt die vaak ook aan allerlei doemscenario's, maar in de wetenschap wordt AGI niet heel serieus genomen. Hoe dat zit, zie je in deze video die NOS op 3 eerder maakte:

De game Rio Run is gebaseerd op de bekende game Snake. In het nieuwe spel achtervolgt de Amerikaanse grensbaas Tom Homan migranten langs de Rio Grande, de grensrivier tussen de Verenigde Staten en Mexico. In Build the wall, een imitatie van Tetris, kunnen spelers een muur bouwen om de grens "te beschermen tegen de naderende horde".

'Spelen met levens'

De Amerikaanse ngo Frontera Federation, die zich inzet voor de rechten van migranten, reageert kritisch. "Ik word er misselijk van", zegt een van de directeuren tegen persbureau AFP. "Ze spelen al jaren spelletjes met het leven van mensen en nu hebben ze er een videogame van gemaakt."

Een organisatie uit San Diego die projecten doet in Latijns-Amerika zegt tegen AFP dat de games een "gebrek aan ernst" van de Amerikaanse regering aantonen. "Hier wordt de kwestie voorgesteld alsof het een spel is, terwijl dat in feite niet zo is."

Deportaties

De games promoten het strenge anti-immigratiebeleid van de regering-Trump. Het aantal immigranten dat het land in mag, is flink omlaag geschroefd en de immigratiedienst ICE arresteerde afgelopen maand 50.000 mensen.

Trump spreekt zelf van de "grootste deportatiecampagne in de geschiedenis van Amerika". Die heeft grote gevolgen. In de ICE-detentiecentra kwamen al tientallen mensen om het leven, zo werd deze week bekend. "Vele honderdduizenden immigranten zijn opgepakt en onder erbarmelijke omstandigheden vastgezet", zei Minky Worden van Human Rights Watch.

Populaire cultuur

Het Witte Huis gebruikt vaker uitingen uit de populaire cultuur om draagvlak te creëren. Vorig jaar werd zonder toestemming de animatieserie Pokémon gebruikt in een video waarin te zien was dat ICE migranten arresteert.

Ook rapper Jay-Z, autosportorganisatie IndyCar (Indianapolis 500) en socialemediapersoonlijkheid Theo Von waren eerder niet te spreken dat zij werden ingezet door het Witte Huis.