Het is een nieuwe stap in de ontwikkeling van hersenimplantaten. Door dit apparaat kan de man weer communiceren en zelfs werken. "Ik voel me weer verbonden met mijn leven", schrijft de 45-jarige man.

Met stekker verbonden

Bij de man zijn elektroden geïmplanteerd in hersengebieden die ervoor zorgen dat we kunnen bewegen: de motorische gebieden. Die elektroden worden met een stekker op het hoofd verbonden met een computer.

Door aan het uitspreken van woorden te denken, worden de motorische gebieden actief. Via slimme algoritmen worden die hersensignalen omgezet naar woorden op de computer. Hetzelfde kan de patiënt doen met het bewegen van de muis op het scherm. De man denkt, de muis beweegt.

De gevolgen van dit implantaat op het leven van deze patiënt zijn enorm. Hij kan weer communiceren met vrienden en familie, een computer aansturen en hij is zelfs weer volledig aan het werk.

"De impact is gigantisch op iemands leven", zegt Mariska van Steensel. Zij is hoofdonderzoeker aan het UMC Utrecht Hersencentrum en doet zelf ook onderzoek naar dit soort breinimplantaten. "In eerder onderzoek zagen we dat het heel veel gevolgen heeft hoe je als mens wordt gezien als je niet goed kan communiceren."

Rolls Royce

De patiënt kan dit apparaat al bijna twee jaar lang zelfstandig gebruiken, zonder hulp van de onderzoekers. "Wij hebben eerder een patiënt zeven jaar lang zelfstandig een implantaat laten gebruiken", zegt Van Steensel. "Maar dat was een veel eenvoudiger model, daar moest de patiënt letter voor letter spellen. Dit is veel geavanceerder."

Andere patiënten moeten nog wel geduld hebben, want dit implantaat komt nog niet op de markt. "Dit werkt nu heel goed, maar wel alleen bij deze man", zegt Van Steensel. "Het is te vergelijken met een Rolls Royce, dat is niet voor veel mensen weggelegd. Maar een eenvoudiger, meer robuust systeem kan voor meer mensen werken."

Draadloos implantaat

Dan is er ook nog een praktische kant: de stekker op het hoofd en een grote computer. In het ideale geval werkt het implantaat draadloos en zonder grote computer. "Wereldwijd zijn er een aantal bedrijven bezig met draadloze implantaten, zeker in China gaan de ontwikkelingen snel. Maar ook Europa en Amerika wordt hieraan gewerkt", zegt Van Steensel.

Volgens haar gaat het nog een aantal jaren duren voordat dit soort breinimplantaten op de markt kunnen komen. Daarvoor moeten er nog flink wat stappen worden gemaakt. "We hopen dat meer mensen met spraakproblemen door verlamming baat hebben bij deze hersenimplantaten. Er is een gepassioneerd vakgebied dat hier hard aan werkt."

Het verbod zal volgend voorjaar ingaan. Techbedrijven krijgen boetes als ze niet meewerken. Starmer zegt dat hij geen concessies wil doen als het gaat om de veiligheid en het geluk van kinderen.

Het Britse verbod gaat in bepaalde opzichten verder dan dat in Australië. Dat land voerde in december als eerste land ter wereld een verbod in voor kinderen tot 15 jaar. In het VK wordt het kinderen ook verboden om te livestreamen op sociale media en gamingwebsites. Daarnaast wordt er nagedacht over een avondklok voor 16- tot 18-jarigen, zodat zij niet meer 's nachts eindeloos kunnen scrollen.

Molly

Begin dit jaar kondigde het Britse kabinet aan om te onderzoeken of het sociale media voor jongeren kon verbieden, nadat de druk op Starmer verder was toegenomen. Ruim zestig parlementsleden van Labour riepen hun leider in een open brief op om dat te regelen.

Daarnaast was er de uitkomst van een online consultatie, waarbij de overheid meer dan 116.000 reacties ontving van ouders, de techindustrie en ook van kinderen zelf. De overgrote meerderheid van de respondenten wilde een verbod voor kinderen onder de 16 jaar.

Verder kreeg de zaak van Molly veel aandacht, die op 14-jarige leeftijd een einde aan haar leven maakte. Uit onderzoek bleek dat het meisje voor haar dood duizenden schadelijke berichten bekeek op Instagram en Pinterest.

Haar vader houdt de grote techbedrijven verantwoordelijk voor haar dood en werd een belangrijke campagnevoerder in het VK om jongeren online beter te beschermen. Hij richtte daarvoor een stichting op die hij vernoemde naar zijn dochter, de Molly Rose Foundation.

Hulp nodig?

Denk je aan zelfdoding of maak je je zorgen om iemand? Praten over zelfdoding helpt en kan anoniem via de chat op www.113.nl of telefonisch op 113 of 0800-0113.

Het verbod heeft betrekking op vrijwel alle grote socialemediaplatforms, zoals TikTok, Instagram, Facebook, X, YouTube, Snapchat, Threads, Twitch, Kick en Reddit, evenals game-apps. WhatsApp en Signal zijn uitgezonderd, onduidelijk is waarom.

Daarnaast meldt The Sunday Times dat ook chatbots aan strengere regels worden onderworpen, vooral wanneer deze worden gebruikt door jongeren voor seksuele of romantische interacties.

Vergelijking met drankverkoop

Met het verbod sluit het VK zich aan bij een groeiende wereldwijde beweging om kinderen beter online te beschermen. Australië, Canada, Brazilië, Oostenrijk, Frankrijk en Indonesië hebben eerder een socialemediavebod ingesteld of aangekondigd.

Premier Starmer zei dat de Britse maatregelen niet bedoeld zijn om kinderen volledig van sociale media uit te sluiten, maar dat ingrijpen vanuit de overheid noodzakelijk is. Hij vergeleek de situatie met het kopen van alcohol: het feit dat jongeren onder de 18 jaar toch alcohol weten te bemachtigen, is geen reden om de verkoop ervan niet te verbieden.

Onderdeel van meer maatregelen

De Britse minister van Cultuur Nandy zei gisteren tegen de BBC dat het verbod onderdeel moet zijn van andere maatregelen. "Ik denk niet dat een verbod op sociale media op zich de oplossing is, maar ik denk wel dat Australië heel duidelijk heeft laten zien dat het een belangrijke rol kan spelen."

Naast het invoeren van een leeftijdsgrens krijgen ook online platforms waar vreemden makkelijk contact kunnen leggen met kinderen, zoals gamingsites, beperkingen opgelegd.

Starmer noemt die stap wereldwijd als leidend voor andere landen, maar erkent ook de uitdagingen. "Het is lastig om hiervoor wetten te maken, om het te reguleren en te handhaven, maar we kunnen dit veranderen en zúllen dit veranderen."

De Amerikaanse ambassade in Londen heeft in reactie gezegd bezorgd te zijn dat het verbod tot meer lasten zal leiden voor Amerikaanse technologiebedrijven, zoals Meta, die de accounts van de kinderen moeten blokkeren.

De regering-Trump heeft met het besluit technologie verboden voor iedereen buiten de VS en maakt geen onderscheid tussen bondgenoten en mogendheden die het als vijand beschouwt.

Om aan de blokkade te voldoen, heeft het bedrijf naar eigen zeggen de AI-modellen niet alleen voor buitenlanders, maar voor alle gebruikers moeten afsluiten, zegt oprichter Dario Amodei van Antropic. De AI-modellen Fable 5 en Mythos 5 zijn sinds gisteravond niet meer beschikbaar. Andere AI-modellen van het bedrijf, zijn wel te gebruiken.

De Amerikaanse regering zou een tip hebben gekregen dat de voorzorgsmaatregelen van Anthropics AI-modellen te omzeilen zijn. De VS vindt het krachtige AI-model belangrijk voor de nationale veiligheid en wil niet dat het in handen komt van buitenlandse mogendheden.

Het AI-model Mythos van Anthropic wordt gezien als 'superhacker'. Het kan bijvoorbeeld worden ingezet voor massa-surveillance en zou ook grootschalige cyberaanvallen kunnen uitvoeren. Gevreesd wordt dat kwaadwillenden het model misbruiken om overheidsinstellingen te hacken.

NOS Op 3 maakte in april deze video over deze super-AI:

De blokkade van de AI-modellen is een nieuw hoofdstuk in het conflict tussen Anthropic en de Amerikaanse regering, schrijft de Amerikaanse nieuwssite Axios. Anthopic heeft al langer een stroeve relatie met de regering-Trump. Dit jaar raakten het Amerikaanse defensieministerie en Anthropic met elkaar in de clinch omdat ze het niet eens waren over hoe je AI mag inzetten voor militaire doeleinden. Het bedrijf wil bijvoorbeeld niet dat er met AI-modellen van Anthropic autonome wapensystemen gemaakt worden, maar defensieminister Hegseth wil geen beperkingen op het gebruik.

Omdat Anthropic niet aan de eisen van de regering wilde voldoen, probeerde het Amerikaanse ministerie van Defensie het bedrijf op een lijst te zetten waardoor de producten niet meer gebruikt zouden mogen worden door het leger van de VS. Een rechter oordeelde in maart dat de regering de banden voorlopig niet mocht verbreken.

Een overheidsfunctionaris zegt tegen nieuwssite Axios dat een ander bedrijf het ministerie van Handel zou hebben verteld dat de voorzorgsmaatregelen van het AI-model Mythos te omzeilen zijn, waardoor het kan worden ingezet voor doelen die niet publiek beschikbaar zouden moeten zijn. Toen Anthropic vervolgens weigerde om de lancering van nieuwe modellen uit te stellen, heeft de Amerikaanse minister van Handel Lutnick gisteren een brief gestuurd naar de CEO van Anthropic. Daarin staat dat de AI-modellen Mythos 5 en Fable 5 beperkingen krijgen opgelegd voor de export naar locaties buiten de VS en voor buitenlanders in de VS.

'Misverstand'

Anthropic reageert in een verklaring verbolgen op de beperking die het Amerikaanse handelsministerie heeft opgelegd. Volgens het bedrijf zijn de risico's van een mogelijk lek beperkt. "We zijn het er niet mee eens dat de ontdekking van een mogelijk beperkt risico de aanleiding is om een commercieel model dat door honderden miljoenen mensen wordt gebruikt, terug te roepen."

Hoelang de Amerikaanse regering vasthoudt aan de opgelegde blokkade is onbekend. Anthropic vermoedt dat het besluit van de overheid een misverstand betreft. Het werkt eraan om de toegang zo snel mogelijk weer te herstellen.

De NOS identificeerde 23 afbeeldingen met kindermisbruikmateriaal allemaal geüpload door medewerkers van de site. Daarbij kreeg de NOS ondersteuning van het meldpunt van Offlimits, dat gespecialiseerd is in het analyseren van dit soort beelden van kinderporno.

"Iedere afbeelding is er een te veel", zegt Robbert Hoving, directeur van Offlimits. "Ik hoop dat dit aanleiding is om verder onderzoek te doen naar de site." Het liefst ziet Hoving dat de site offline zou worden gehaald.

'Schokkend'

Ook de in 2023 opgerichte Autoriteit online Terroristisch en Kinderpornografisch Materiaal (ATKM) noemt het "schokkend" dat de beheerders zelf kinderporno zouden hebben geüpload.

"Er is helaas geen plicht voor dit soort websites om alles op alles te zetten om verspreiding te voorkomen", aldus directeur Arda Gerkens van die instantie. "Dan zouden daar ook sancties op staan."

De afbeeldingen waren vrijdagochtend nog steeds online. Motherless stelt in een reactie niet te weten van kindermisbruikmateriaal en zegt dergelijk materiaal te verwijderen zodra het wordt gerapporteerd. Ook worden afbeeldingen bij het uploaden op meerdere manieren gescreend, stelt de site.

Minister van Weel neemt aan dat OM onderzoek doet

Ook minister Van Weel van Justitie noemt het schokkend dat medewerkers van Motherless zelf kinderporno deelden. De minister "neemt aan dat het OM hier serieus naar kijkt." Hij wijst ook op Europese wetgeving die bedrijven achter sites verantwoordelijk maakt voor wat daarop te zien is. "Het tijdperk waarin bedrijven zeggen 'ik ben alleen maar een platform' is echt voorbij."

Het Openbaar Ministerie wil niet inhoudelijk reageren op de zaak, omdat het al onderzoek doet naar beelden op de site. "Het delen van kinderpornografische afbeeldingen is altijd strafbaar", benadrukt het OM wel.

Vorige maand haalde het Openbaar Ministerie de site tijdelijk uit de lucht. Niet veel later kwam de site weer online, nog steeds vanuit Nederland en bij dezelfde provider, Nforce uit Steenbergen. Volgens Nforce mocht de dienstverlening weer worden hervat.

Naald in hooiberg

Alle afbeeldingen die de NOS vond, waren voor de inval van het OM al aanwezig op de Motherless-servers. Het OM wil niet reageren op de vraag of het de site heeft laten onderzoeken op strafbaar materiaal.

Toen de site weer online kwam, benadrukten de beheerders dat ze regels hebben tegen misbruik en dat een "klein aantal uploaders" daar misbruik van maakte. "Met tienduizenden uploads per dag is elke overtreding een naald in een hooiberg", verklaarden ze. "Alle inhoud op deze site is honderd procent door gebruikers geüpload."

Veelvuldig

Nu blijkt dat medewerkers van de site vanaf hun eigen account veelvuldig afbeeldingen plaatsten. Zo plaatste een medewerker die nauw betrokken is bij de website in zijn eentje 110.000 afbeeldingen.

In elf gevallen ging het bij die beheerder om beelden van minderjarigen. Ook drie andere medewerkers plaatsten dergelijke afbeeldingen. Ze werden gepubliceerd tussen 2011 en 2025.

De site zegt sinds de inval van het OM de teugels wel te hebben aangehaald: zo worden gebruikers veelvuldig gewaarschuwd om geen beelden van minderjarigen te delen, om te voorkomen dat de site weer offline gaat. Ook zijn beelden van slapende vrouwen expliciet verboden en is zoeken op dat soort beelden niet mogelijk.

"Als wij Motherless vragen om afbeeldingen met kindermisbruik te verwijderen, dan volgt Motherless die op", erkent Hoving. "Maar de site staat vol met heel veel materiaal van volwassenen waar je grote vraagtekens bij kunt plaatsen."

'Moraalvrij'

De site heeft als richtlijn dat alleen illegaal materiaal wordt verwijderd. De site noemde zichzelf lange tijd een moral free file host, een moraalvrije plek om dingen te uploaden, maar de afgelopen twee weken heeft de site de omschrijving "moraalvrij" geschrapt.

Wel geeft de site nog steeds aan beperkte verantwoordelijkheid te voelen voor wat er te vinden is. "Als je iemand de inhoud van deze website kwalijk wil nemen, neem het dan de freaks van de wereld kwalijk - niet ons", is te lezen op de site.

Verscherpt

Onder druk van onder meer creditcardmaatschappijen en rechtszaken hebben de veel grotere pornosites YouPorn en PornHub de eisen voor het uploaden van video's de afgelopen jaren juist flink verscherpt. Op die sites, eigendom van een Canadees bedrijf, moeten uploaders nu bewijzen dat ze zelf op de beelden staan en moeten ze toestemming hebben van anderen die ook in beeld zijn.

De sites lagen onder meer onder vuur omdat er beelden te vinden waren van slachtoffers van verkrachting en andere beelden die zonder toestemming waren gedeeld.

Verantwoording

Voor dit onderzoek identificeerde de NOS elf beheerders achter Motherless. We classificeerden in samenwerking met het meldpunt van hulporganisatie Offlimits de 220.000 afbeeldingen die zij samen plaatsten. Dat meldpunt is de aangewezen organisatie in Nederland voor het analyseren van kindermisbruikmateriaal. Van de geanalyseerde afbeeldingen blijken er 23 kindermisbruikmateriaal te bevatten.

In communicatie met Motherless hebben we de site op de hoogte gesteld van onze bevindingen, en de bewuste gevonden links gedeeld.

Zo wil de EU onderzoek en innovatie ondersteunen om de nieuwe generatie van cloud- en AI-technologie hier in Europa te ontwikkelen. Ook is het doel om binnen zeven jaar de capaciteit van Europese datacenters te verdrievoudigen. Daarom wil de EU het makkelijker maken om datacenters te bouwen.

De komst van al die nieuwe datacenters moet wel duurzaam gebeuren, zegt de commissie erbij. Dus er moet voldoende groene elektriciteit en water voor zijn.

'Eigen keuzes'

"We kunnen het ons niet veroorloven om afhankelijk te zijn van anderen om onze ziekenhuizen draaiende, ons energienetwerk stabiel en onze diensten veilig te houden", zegt Europese Commissievoorzitter Ursula von der Leyen. "Dit gaat om het beschermen van onze burgers, het verdedigen van onze belangen en het maken van onze eigen keuzes."

Uiteindelijk moeten bedrijven en ook burgers makkelijker kunnen kiezen tussen Amerikaanse giganten als Google, Microsoft en Amazon, en Europese aanbieders.

KPN: veel vraag naar

KPN lanceerde vorige week nog een gezamenlijke 'Europese soevereine cloud' met het Duitse bedrijf Schwarz Digits. Dat is onderdeel van hetzelfde concern als Lidl. Volgens het telecombedrijf groeit de vraag naar Europese clouddiensten al.

"Er is op dit moment een grote vraag naar die Europese soevereine oplossing en daar stappen we nu in", zegt KPN-bestuursvoorzitter Joost Farwerck. "Het is vooral door geopolitieke ontwikkelingen aangejaagd. De vraag komt met name vanuit overheidsinstellingen, de financiële sector en de zorgsector. Wij kunnen garanderen dat data die wij opslaan voor klanten onder Europese regelgeving vallen en onder niet Amerikaanse of andere."

Techexpert en autonomie-activist Bert Hubert is blij met de Europese plannen. "De commissie gaat als eerste zijn eigen data weer terughalen. Ze geven het goede voorbeeld en dan durft het bedrijfsleven ook mee te gaan."

Hij verwacht niet dat er enkele heel grote Europese techbedrijven zullen verrijzen. "Ik weet ook niet helemaal of we dat moeten willen. Want als we overgaan van een Amerikaanse monopolist naar een Europese monopolist, dan zijn we er ook niet veel op vooruitgegaan. Het lijkt er meer op dat er een veelheid van bedrijven komt."

Hubert denkt ook dat die best de concurrentie aankunnen met de Amerikaanse techgiganten. "Want zo goedkoop zijn die op dit moment helemaal niet."

Chips en open source

Sinds 2023 stimuleert de EU al met miljarden de ontwikkeling en productie van computerchips in de EU. In dit nieuwe plan wil de EU de chipsindustrie nog verder stimuleren. Zo moet de groei van Europese cloud- en AI-diensten leiden tot meer vraag naar Europese chips.

Ook wil de EU stimuleren dat er meer gebruik wordt gemaakt van zogeheten opensource-software. Dat is software waarbij de makers de broncode openbaar beschikbaar maken. Iedereen kan de software of delen daarvan dus bekijken, kopiëren of aanpassen.

Het plan is dat vooral overheden vaker gebruik maken van opensource-software. Binnen de EU wordt er jaarlijks zo'n 264 miljard euro uitgegeven aan vooral Amerikaanse IT-diensten. Volgens de Europese Commissie kan dat dus anders.

Strafhof stapte over

Een voorbeeld van de gevolgen van afhankelijkheid van Amerikaanse techbedrijven is wat er gebeurde bij het Internationaal Strafhof in Den Haag. President Trump stelde vorig jaar sancties in tegen de hoofdaanklager, omdat het Strafhof arrestatiebevelen had uitgevaardigd tegen de Israëlische premier Netanyahu vanwege de oorlog in Gaza.

Die hoofdaanklager verloor daardoor toegang tot zijn Outlook-mail van Microsoft. Eind vorig jaar stapte het Strafhof daarom over van Microsoft naar Open Desk. Die software is open source en gratis, en werd ontwikkeld door een bedrijf in handen van de Duitse overheid.

Microsoft: eerlijke concurrentie

In een reactie zegt Microsoft de ambitie van de EU te steunen. "Dat moet gebeuren op basis van openheid, samenwerking en eerlijke concurrentie", zegt een woordvoerder. "Europese bedrijven en overheidsinstellingen moeten de ruimte hebben om hun keuzes te baseren op een brede risicoafweging binnen een open en concurrerende markt."

De plannen van de Europese Commissie moeten nog worden goedgekeurd door het Europees Parlement en de EU-landen.

De aanklagers vinden dat de chatbot een gevaar vormt voor de openbare veiligheid, omdat het onder meer schutters instructies zou hebben gegeven bij het voorbereiden van hun moordpartijen. Ook verwijzen ze naar incidenten waarbij gebruikers, op aanraden van ChatGPT, een combinatie van drugs nemen om zichzelf van het leven te beroven.

Florida is de eerste Amerikaanse staat die een rechtszaak aanspant tegen OpenAI en Altman persoonlijk aansprakelijk stelt. "Ze hebben winst verkozen boven publieke veiligheid. Dat pikken we hier in Florida niet", aldus procureur-generaal James Uthmeier van Florida.

200 gesprekken

In de aanklacht wordt verwezen naar een aanslag op de Florida State University vorig jaar april, waarbij twee mensen werden gedood en zes anderen gewond raakten. De 20-jarige schutter vroeg de chatbot om advies voordat hij begon te schieten op de campus.

Zo gaf ChatGPT advies over welk type wapen hij kon gebruiken, welke munitie bij welk wapen paste en welk wapen effectief zou zijn op korte afstand. Ook zou de chatbot advies hebben gegeven over waar en wanneer de meeste mensen zich op de campus zouden bevinden. Hij zou zeker 200 gesprekken met ChatGPT hebben gevoerd.

Geweld aanmoedigen

In de 83 pagina's tellende aanklacht verwezen de aanklagers naar een andere zaak in Florida. Een man die wordt verdacht van de moord op twee promovendi aan de University of South Florida, vroeg dagen vóórdat zij verdwenen aan ChatGPT: "Wat gebeurt er als een mens in een zwarte vuilniszak wordt gestopt en in een vuilcontainer wordt gegooid?"

De chatbot antwoordde daarop dat dat gevaarlijk klinkt. "Hoe zouden ze dat te weten komen?", was zijn vervolgvraag. De aanklagers beschuldigen OpenAI een product op de markt te hebben gebracht dat schade, zoals zelfverminking en geweld, faciliteert en aanmoedigt.

Intern alarm

Ook vinden de aanklagers dat OpenAI en Altman commercieel gewin boven veiligheid zetten. Zo zeggen ze dat het techbedrijf waarschuwingen van experts binnen en buiten het bedrijf negeerde. Zo sloegen in aanloop naar een schietpartij in Canada medewerkers van OpenAI intern alarm over de interactie van de tiener met ChatGPT.

Bij de aanslag op 10 februari werden in de provincie Brits-Columbia vijf leerlingen en een lerares op een middelbare school gedood. Eerder had de 18-jarige schutter, Jesse van Rootselaar, al haar moeder en stiefbroer gedood. Grote schietpartijen komen zelden voor in Canada, in tegenstelling tot buurland VS.

Bedrijf wijst op hulpadvies

De staat Florida wil dat OpenAI ook stopt met het verzamelen van gegevens van kinderen onder de 13 jaar zonder daarvoor toestemming te vragen van hun ouders.

OpenAI laat in een reactie weten dat de chatbot herhaaldelijk gebruikers adviseert om hulp te zoeken in de echte wereld, bijvoorbeeld via professionals in de geestelijke gezondheidszorg. Ook verwijst het bedrijf naar maatregelen die zijn genomen om jonge gebruikers te beschermen, zoals leeftijdsverificatie en monitoringopties voor ouders.

Het tekstprogramma ChatGPT is het populairste product van OpenAI en heeft volgens Altman wekelijks 900 miljoen gebruikers. Altman was in 2015 samen met techondernemer Elon Musk een van de oprichters van OpenAI.

Ook andere AI-bots, zoals Character AI en Google-chatbot Gemini, liggen regelmatig onder vuur van het aanzetten van gebruikers om zichzelf of anderen iets aan te doen.

Eind vorig jaar werd bekend dat iDIN door het Belgische itsme werd overgenomen. iDIN is door Nederlandse banken ontwikkeld om in te kunnen loggen bij websites van de overheid of webwinkels.

DigiD

Itsme, wordt ook wel gezien als een concurrent van het Nederlandse DigiD. Toch zitten er wel verschillen tussen de twee.

DigiD is namelijk van de overheid en puur bedoeld voor overheidszaken, maar itsme is commercieel en ook bedoeld voor bedrijven in de private sector zoals webwinkels.

Verifiëren

Met de itsme-app kan je je naam en leeftijd bevestigen en transacties ondertekenen. Bedrijven die gebruikmaken van iDIN waaronder ASR, PostNL en PSV, kunnen vanaf nu ook itsme aanbieden.

Een woordvoerder laat weten dat de optie bij sommige websites nog moet worden doorgevoerd, maar dat zou vandaag of morgen gebeurd moeten zijn. Op de website van verzekeraar Univé is de app wel al te gebruiken als identificatie-methode.

Itsme is een commercieel bedrijf dat werd opgericht door Belgische grootbanken en telecombedrijven. Met een app kan een gebruiker controleren welk bedrijf om welke gegevens vraagt en kan dit dan goedkeuren. Itsme zou ook gebruikt kunnen worden om in te loggen in de digitale portemonnee van de Europese Unie, die eind dit jaar in Europa wordt geïntroduceerd. Met de zogenoemde EDI-wallet kunnen mensen en bedrijven hun identiteit online bewijzen.

Het bedrijf gaat naar eigen zeggen de grootste verandering van de zoekmachine in 25 jaar tijd doorvoeren. Het zoekveld wordt groter en de lijst met zoekresultaten maakt plaats voor antwoorden van een chatbot.

Luisteren?

Deze aflevering van De Dag kun je beluisteren via NPO Luister en alle andere podcastkanalen. Bevalt het? Vergeet je dan niet te abonneren!

Hoe veranderde Google van een idealistisch project in een commercieel platform? Wat betekent dit voor de manier waarop we informatie vinden? En wat verliezen we nu Google niet langer een doorverwijzer is, maar een eindpunt?

In deze podcast vertelt hoogleraar informatica Felienne Hermans over de grote veranderingen aan de zoekbalk. Volgens haar is dit al lange tijd de wens van het bedrijf. "Google wil dat mensen op Google blijven. Het is niet meer een toegangspoort tot het internet. Het is een plek om op te blijven. En in die lijn kun je die nieuwe AI-features zien."

De nieuwe ontwikkelingen bij de meestgebruikte zoekmachine ter wereld, zullen volgens Hermans grote gevolgen hebben. Ze verwacht dat mensen te weinig verschillende perspectieven voorgeschoteld zullen krijgen bij een zoekopdracht. "We worden op deze manier beroofd van onze kritische, argumentatie en denkvaardigheden."

Reageren? Mail dedag@nos.nl

Presentatie en montage: Bart Tuinman

Redactie: Judith van de Hulsbeek

Eindredactie: Rosanne Sies

De AI-systemen kunnen ernstige veiligheidsproblemen ontdekken. Bijvoorbeeld waarmee je computers kunt hacken of platleggen. Het kunnen fouten zijn die al jaren in computerprogramma's zitten, terwijl niemand dat doorhad.

"Daarom moeten bedrijven en organisaties supersnel kunnen reageren", waarschuwt Matthijs van Amelsfort, directeur van het Nationaal Cyber Security Centrum (NCSC). "Vroeger duurde het dagen voordat een aanvaller een fout misbruikte, nu is dat uren", zegt hij. "Dat zal minuten worden."

De dringende waarschuwing is bekend bij de mensen die erover gaan, zegt Dimitri van Zantvliet. Hij is voorzitter van de beroepsvereniging voor die mensen: het CISO Platform. "Er is geen paniek, maar het is zeker urgent", zegt hij.

Deze week kwamen honderden daarvan bij elkaar op een evenement, onder meer om het hierover te hebben. "Deze ontwikkeling betekent dat er kwetsbaarheden gevonden worden in systemen die al twintig jaar oud zijn. We moeten versnellen, zodat we die fouten oplossen voordat ze misbruikt worden."

Overheid met hulp van AI gehackt

Dat je met AI-programma's snel en automatisch veiligheidsproblemen kunt vinden, bewijst Rogier Fischer van cybersecuritybedrijf Hadrian. In het kantoor in Amsterdam laat hij zien hoe hij daarmee de overheid kon hacken.

Fischer liet een AI-systeem kijken naar de programmeercode van een overheidswebsite. Hij vroeg of er een bepaalde fout in zat waarmee hij toegang kon krijgen tot bestanden die niet toegankelijk horen te zijn. Het AI-programma antwoordde dat dit inderdaad zo is.

Door die fout kon Fischer een bestand downloaden, terwijl het niet de bedoeling is dat hij erbij kan. Hij wijst het aan op zijn scherm. "Hier zie je letterlijk de wachtwoorden", zegt hij.

Daarmee kon Fischer inloggen op de database van de website. "Er is niets dat me tegenhield", zegt de hacker. "Als je binnen bent, kun je bijvoorbeeld dingen aanpassen. Of in die database nieuwe aanvallen uitvoeren. Dat doen we niet: wij hebben al aangetoond dat we toegang hadden. Dus toen stopten we met de aanval."

'Volledige toegang voor 10 euro'

Hadrian kon de overheid hacken met een goedkoop AI-programma van OpenAI, het bedrijf achter ChatGPT, vertelt Fischer. De totale aanval kostte hem ongeveer 10 euro, schat hij. "Daarmee kreeg ik dus volledige toegang."

Andere goedkope AI-programma's zijn ook geschikt om dit soort fouten te vinden, blijkt uit onderzoek van cybersecuritybedrijf AISLE. Sinds september heeft het bedrijf meer dan tweehonderd fouten gevonden met behulp van allerlei AI-systemen, zegt Jaya Baloo, een van de oprichters.

AISLE onderzocht onder meer of goedkope systemen fouten kon vinden in twee computerprogramma's die pas geleden ook al werden ontdekt met het AI-programma Mythos. Het bedrijf achter Mythos gebruikte die twee fouten die het programma vond om reclame te maken voor het AI-systeem. Dit is zo goed, zei het bedrijf, dat maar een heel kleine groep er toegang toe krijgt.

"Het verhaal was dat AI 'opeens' heel goed was in het vinden van kwetsbaarheden", zegt Baloo. "Maar wij konden met oudere AI-systemen diezelfde fouten vinden. Dus hoezo 'opeens'? Wij doen dit al maanden."

Nog meer fouten vinden

Baloo en Fischer denken dat de verdedigers op dit moment in het voordeel zijn. Maar er is haast, zeggen ze: als de criminele hackers aan de slag gaan met deze AI-programma's, kunnen zij deze veiligheidsproblemen ook vinden en misbruiken.

"Technologie wordt vaak na een aantal maanden gebruikt door mensen met slechte bedoelingen", zegt NCSC-directeur Van Amelsfort. Het is belangrijk om daar serieus rekening mee te houden, omdat het gaat over de digitale veiligheid van ons allemaal, zegt hij.

"We hebben al meegemaakt dat een haven platligt of dat onze gegevens worden gestolen. Nederland is heel erg digitaal. Dat maakt ons ook kwetsbaar. Aanvallers en verdedigers zullen met elkaar in gevecht blijven, ook met deze AI-ontwikkeling. We moeten echt zorgen dat onze verdediging op orde is."

Het gaat om ambtenaren die betrokken zijn bij de handhaving van Europese regels om techplatforms te reguleren. De Amerikaanse overheid ziet die regels als censuur. De vrees is dat de ambtenaren onder druk kunnen worden gezet, bijvoorbeeld met inreisverboden of zelfs sancties, schrijft Vrij Nederland.

Eerder gebeurde dat met een oud-Eurocommissaris die betrokken was bij de techwetgeving, maar ook met medewerkers van het Internationaal Strafhof.

"Als er discussies zijn over beleid dan voer je die met ons en nooit over de rug van ambtenaren", zegt staatssecretaris Aerdts van Digitale Economie en Soevereiniteit. "Dat is wel gebeurd en daar zullen we onze contacten op aanspreken, ook in de Verenigde Staten."

Ook heeft het kabinet er al contact over gehad met de Amerikaanse ambassadeur, zegt Aerdts. "We hebben aangegeven hoe ontzettend onwenselijk wij dit vinden. Hij heeft dat aangehoord en zal het ook mee terugnemen."

'Verslaafd aan Amerikaanse apps'

Staatssecretaris Eric van der Burg (Slagvaardige Overheid) spreekt van "meer dan zorgelijke" ontwikkelingen. Hij zegt dat nog moet worden uitgezocht hoe de documenten zijn gedeeld en of het om openbare documenten ging. "Het is nog niet duidelijk uit welke documenten de gegevens komen, maar natuurlijk baart het zorgen als dit soort gegevens gedeeld worden."

Op korte termijn de samenwerking stoppen met Microsoft en andere Amerikaanse techbedrijven is niet mogelijk, zegt de staatssecretaris. Het kabinet kijkt volgens hem wel hoe de digitale soevereiniteit van de Rijksoverheid kan worden vergroot. "Wij zijn in Nederland en Europa verslaafd aan Amerikaanse programma's, apps en apparatuur."

Strijdbaarder

Volgens Vrij Nederland gaat het bijvoorbeeld om medewerkers van toezichthouders Autoriteit Consument en Markt en Autoriteit Persoonsgegevens. Ook de naam van wetenschapper Claes de Vreese, die onderzoek doet naar desinformatie, is overhandigd. "Het is vervelend omdat het een chilling effect heeft op mensen", zegt De Vreese. "Ik word er eerder strijdbaarder van."

Het gaat onder meer om uitnodigingen voor bijeenkomsten waar ook de techbedrijven voor waren uitgenodigd. Daarvan overhandigden de techbedrijven de namen van andere genodigden, onder wie ACM-medewerkers, aan de Amerikaanse overheid. Daartoe waren ze verplicht onder de Amerikaanse wet. Ook andere techbedrijven hebben dat gedaan, al is nog niet duidelijk of daar ook Nederlandse namen bij betrokken zijn.

Volgens Vrij Nederland communiceren de overheidsinstanties nu meer vanuit algemene mailadressen, zonder namen van ambtenaren te noemen. Het delen van de namen zou binnen de ACM en de Autoriteit Persoonsgegevens voor veel consternatie hebben gezorgd, bijvoorbeeld bij mensen met familie in de VS die vrezen dat ze het land niet meer in mogen.

Meer keuze

De vrees is al langer dat Amerikaanse techbedrijven kunnen worden gedwongen om informatie van overheidsklanten te overhandigen als de Amerikaanse overheid daar om vraagt. Voor zover bekend komt de nu gedeelde informatie niet uit systemen die bijvoorbeeld Microsoft namens de overheid beheert, maar uit Microsofts eigen zakelijke ict-systemen.

Intussen neemt de afhankelijkheid van Amerikaanse clouddiensten eerder toe dan af. Het ict-bedrijf dat verantwoordelijk is voor het hosten van DigiD, Solvinity, staat op het punt door een Amerikaans bedrijf te worden overgenomen. Daarmee valt het bedrijf ook onder de Cloud Act, een Amerikaanse wet die voorschrijft dat informatie die door een Amerikaans bedrijf wordt beheerd in bepaalde gevallen moet worden overhandigd, ook als de data buiten de VS zijn opgeslagen.

Ook is de Belastingdienst juist nu bezig met een overstap op Microsoft-systemen, ondanks zorgen in de Tweede Kamer. Staatssecretaris Aerdts vindt het belangrijk "dat we in Nederland en in Europa meer keuze hebben, zodat we niet meer afhankelijk zijn van een paar bedrijven uit een of twee landen."

In de afgelopen maanden werden meerdere accounts herhaaldelijk geblokkeerd of verwijderd door Meta. Het Amerikaanse Repro Uncensored documenteerde in april meer dan zeventig gevallen van censuur, waarvan veel in de Europese Unie. Het ging vooral om accounts met posts over queer-thema's en abortus.

De organisaties eisen nu dat Meta stopt met het verwijderen van de accounts. Ook willen ze van Meta weten waarom de accounts verwijderd werden. En er moet een contactpersoon komen die bij toekomstige kwesties kan worden aangesproken.

Ondertekenaars van de brief zijn onder meer de eigenaren van de Amsterdamse club Tillatec, The Queer Agenda, digitale actiegroep Bits of Freedom en de lhbti-belangenorganisatie COC Nederland.

Advocaten van de organisaties hebben Meta twee weken gegeven om te reageren, anders volgen juridische stappen. De NOS heeft Meta vanochtend om een reactie gevraagd.

Overtreden wetten

In de sommatiebrief, die in handen is van de NOS, schrijft advocatenkantoor Brandeis dat Meta meerdere artikelen heeft overtreden van de Europese grondwet, de Digital Services Act (een EU-wet voor sociale media), de Algemene Verordening Gegevensbescherming (AVG) en het Nederlandse burgerlijk recht.

De eigenaren van de geblokkeerde accounts konden uit het niets hun account niet meer in. Ze kregen een geautomatiseerd bericht dat ze de regels hadden overtreden. In sommige gevallen werd het "uitbuiten van mensen" genoemd, in andere gevallen zou een post of account de community standards overtreden.

Eigenaren van de accounts zeiden vooraf geen waarschuwing te hebben gekregen. Ook vonden ze de redenatie vaak niet duidelijk en was er geen contactpersoon te bereiken om bezwaar te maken. Dat resulteerde voor sommigen in de permanente verwijdering van hun account.

"Het zonder reden, zonder waarschuwing en zonder goede bezwaarmogelijkheid verwijderen van accounts is in strijd met meerdere regels", zegt Minke Gommer, advocaat bij bureau Brandeis. Onder de Digital Services Act is Meta verplicht een duidelijke reden te geven voor het verwijderen van de accounts. Ook moeten gebruikers in beroep kunnen gaan.

Volgens Gommer schendt Meta ook het discriminatieverbod en de vrijheid van meningsuiting. "Platforms mogen minderheidsgroepen niet structureel uitsluiten van het publieke debat."

'Zo weer van afgegooid'

Jan Hoek, kunstenaar en oprichter van de inclusieve kunstruimte No Limits! Art Castle is een van de ondertekenaars van de brief. In april werden zijn acht accounts geblokkeerd na één post. Later werd een deel hersteld.

Hoek zocht in eerste instantie contact met advocatenkantoor Brandeis om de rest van zijn accounts terug te krijgen. Hij vroeg zich wel af of het de moeite waard was zich in te spannen bij een platform "dat ons er zo weer afgooit". Daarom trekt hij nu met anderen op. "We willen dat Meta ophoudt met queerdiscriminatie en zich aan de Nederlandse en Europese wetgeving gaat houden", zegt Hoek.

In dit geval hebben voornamelijk queer-organisaties zich verenigd, maar ze hopen dat met de brief een voorbeeld wordt gesteld. "Wat voor ons geldt moet ook gelden voor sekswerkers, Palestina-activisten en abortusactivisten, die allemaal met hetzelfde te maken hebben", zegt Hoek.

Hij hoopt dat Meta een toezegging doet en het niet tot verdere juridische stappen laat komen.

"Reageert Meta niet of onvoldoende, dan kunnen onze cliënten zonder verdere waarschuwing een procedure starten waarin de maatregelen via een rechter worden afgedwongen", aldus Gommer.

Is er censuur op sociale media?

Het CvdM zegt dat in ieder geval X de feeds gebruikt voor politiek gedreven beïnvloeding. De praktijk shadowbanning wordt echter ook over andere platformen gemeld. Bij dit fenomeen wordt content over een bepaald onderwerp veel minder zichtbaar gemaakt, zonder dat gebruikers daar duidelijk over worden geïnformeerd.

Zo zei de toezichtsraad van moederbedrijf Meta in 2024 dat Instagram en Facebook Palestijnse en pro-Palestijnse gebruikers censureren. Gebruikers merkten een onverklaarbare afname van zichtbaarheid van berichten wanneer die over Palestijnen gaan. Meta heeft deze beschuldigingen steeds weersproken en gezegd dat het moderatiebeleid erop gericht is om de platforms veilig te houden.

Pro-Israëlische tiktokkers zeiden dat er op TikTok buitenproportioneel veel aandacht is voor pro-Palestijnse content. Nieuwsuur heeft dit getest in 2024 en concludeerde dat er in deze feed inderdaad eerder een pro-Palestijnse dan een pro-Israëlische video te zien was.

Wat zijn algoritmes en feeds?

Een algoritme op sociale media is een geautomatiseerd systeem dat bepaalt welke inhoud de gebruiker te zien krijgt. Als iemand vaak op een bepaald soort content klikt, kan een algoritme vergelijkbare dingen aanbevelen.

Een feed is de doorlopende stroom met digitale berichten die hieruit voortkomt. Dit is de stroom aan filmpjes, foto's en tekst die gebruikers te zien krijgen zodra ze zijn ingelogd.

Wat is er nieuw aan dit rapport?

De bedrijven achter de platforms gaan niet vanzelf over op democratisch gezonde feeds, concludeert het CvdM. Naast alle katten- en hondenfilmpjes en ander onschuldig vermaak worden gebruikers "blootgesteld aan giftige en onnauwkeurige inhoud en kan ons nieuwsgebruik eenzijdiger worden". De zichtbaarheid van nieuwsmedia zou worden onderdrukt, "soms afhankelijk van de politiek."

Dat sociale media negatieve invloed hebben op mens en maatschappij is allesbehalve een nieuw inzicht. Over de schaduwzijde van het massale gebruik van TikTok, Instagram en X zijn talloze artikelen en rapporten verschenen. Het rapport leest vooral als oproep ertegen in actie te komen én als een uitleg hoe dat kan worden gedaan.

"We staan op een kantelpunt in de geschiedenis", zegt Claes de Vreese, expert op het gebied van media en democratie. "Jarenlang was er een ongecontroleerd speelveld voor techbedrijven, maar nu zijn er in de EU spelregels en wetten gekomen. Dit rapport roept op die nieuwe mogelijkheden te gebruiken om algoritmes beter en gezonder te krijgen."

Wat betekent dit voor mij?

De onderzoekers hopen mensen bewust te maken van de risico's van sociale media. Tegelijk wordt erop gewezen dat platforms een "gezonde" keuze makkelijker moeten maken voor consumenten.

Platforms als Facebook, X, en Instagram zijn al verplicht een feed aan te bieden waarin de interesses, vrienden en contacten van de gebruiker centraal staan, legt De Vreese uit. "Maar die mogelijkheid wordt vaak verborgen op de site of app. En soms worden deze instellingen steeds teruggezet als iemand opnieuw inlogt."

Het CvdM roept op tot handhaving van deze en andere regels. Daarmee lijkt de boodschap vooral bedoeld voor instanties, politici, journalisten en ngo's. Toch kunnen ook burgers een bijdrage leveren. De Vreese: "Zij kunnen bijvoorbeeld meldingen doen bij de Autoriteit Persoonsgegevens of de Autoriteit Consument & Markt. Maar de regels zijn zo complex dat zoiets moeilijk van de burger verwacht kan worden."

Wat wordt er gedaan tegen het probleem?

Bedrijven die in Europa producten aanbieden, moeten voldoen aan Europese regels. De Digital Services Act (DSA) en Digital Markets Act (DMA) uit 2022 maken het mogelijk om socialemediaplatforms aan te pakken.

X kreeg eind vorig jaar een boete van 120 miljoen euro. Het was de eerste DSA-boete. De hoogte van zo'n bekeuring kan in theorie oplopen tot wel 6 procent van de wereldwijde omzet van een bedrijf.

"Maar de vrees is dat er te weinig gebruik van wordt gemaakt", legt De Vreese uit. "Men is bijvoorbeeld bang dat er voorzichtig wordt opgetreden om techbedrijven en de VS niet voor het hoofd te stoten." Volgens de Amerikaanse regering is de EU al veel te streng voor techbedrijven.

In het CvdM-rapport staat een 'routekaart' voor de politiek en nalevingsinstanties. Deze zou inzichtelijk moeten maken welke opties er zijn om socialemediabedrijven te controleren en vervolgen.

Een negenkoppige jury oordeelde dat Musk te lang heeft gewacht met het beginnen van een rechtszaak. De jury had slechts een adviserende rol, maar de rechter nam hun oordeel over.

Musk is samen met Altman oprichter van OpenAI, een bedrijf dat zich bezig ging houden met kunstmatige intelligentie (AI) en later bekend werd met de ontwikkeling van het tekstprogramma ChatGPT. Musk stak er zo'n 38 miljoen dollar in. Het plan was dat het bedrijf een onderzoeksbedrijf zou worden zonder winstoogmerk en aan technologie zou werken die "goed voor ons allemaal is".

'Geld verdienen'

Volgens de miljardair is het bedrijf te ver afgedreven van dat oorspronkelijke doel en vooral uit op geld verdienen, terwijl Altman juist van Musk vindt dat die meer in geld is geïnteresseerd dan in het belang van de mensheid.

OpenAI werd in 2015 opgericht, en kwam in 2018 met een commercieel bedrijfsonderdeel waar andere bedrijven geld in kunnen investeren in de hoop om dat terug te verdienen. Onder meer Microsoft investeerde fors in het bedrijf (zo'n 13 miljard dollar). Volgens Musk wist ook Microsoft al die tijd dat het OpenAI meer om geld gaat dan om altruïsme.

"Wie bij deze website iets bestelt, krijgt niets geleverd", zegt Gijs van der Linden, teamleider van het Landelijk Meldpunt Internetoplichting van de politie. "Oplichters adverteren ook via Google, Snapchat en TikTok, maar het overgrote deel zien we op de platformen van Meta." Dat is het bedrijf achter Facebook en Instagram.

Sinds juni 2025 heeft de politie 535 websites officieel aangemerkt als criminele webwinkel. De oplichters achter 273 van die websites plaatsten reclames op Facebook en Instagram. Het gaat dus om meer dan de helft van de valse webwinkels die zijn onderzocht. Omdat de oplichters moeilijk te pakken zijn, laat de politie de nepsites vaak offline halen.

Wie een advertentie op Facebook of Instagram ziet, gaat ervan uit dat het betrouwbaar is, zegt Tanja Henn uit Amsterdam. Twee maanden geleden zag ze op Facebook een reclame van buitensportzaak Bever, vertelt ze. "Ik wandel graag. Outdoorkleding en -spullen zijn best duur. Dus toen ik een advertentie zag voor 80 procent korting, was ik toch verleid om erop te klikken."

Ze kwam terecht op een website die heel erg leek op de webwinkel van Bever. Schoenen, drinkflessen en jassen werden aangeboden met hoge kortingen. "80 procent korting is best veel, maar het komt weleens voor", zegt Tanja. "Dus ik heb een broek, jas en rugzak uitgezocht. Daar kan ik binnenkort mee wandelen, dacht ik toen. Laat de lente maar komen!"

"Er zat veel korting op, dus het kostte niet veel: 85 euro." Maar toen er geen e-mail kwam met een bevestiging van de bestelling, ging ze toch twijfelen. En inderdaad: toen ze op haar bankrekening keek, bleek het geld te zijn overgemaakt naar een onbekende bankrekening in een ander land. "Toen wist ik: dit geld is weg en krijg ik niet meer terug."

Oplichter plaatste week lang reclames

De oplichter achter de Bever-nepsite plaatste tussen 13 en 22 maart zeker 25 advertenties op Facebook en Instagram, blijkt uit onderzoek van de NOS. Ruim een week lang kwamen de reclames tienduizenden keren voorbij op de twee platforms.

De NOS vroeg Meta wat het bedrijf doet tegen dit soort advertenties. Waarom lukt het niet om reclame voor oplichterssites tegen te houden? Meta gaf geen antwoord op die vragen. Wel roept het bedrijf mensen op om advertenties die zij niet vertrouwen te melden.

Dan is het al te laat, zegt Van der Linden van het politiemeldpunt. "Wij zien die advertenties, maar Meta ziet ze ook." Hij wil dat het bedrijf meer doet, zodat de oplichters de reclames niet meer op Facebook en Instagram kunnen zetten. "Als heel veel mensen zo'n advertentie zien, is er altijd wel iemand die daarop klikt."

'Pas op bij hoge kortingen'

"Pas dus op bij hoge kortingen", zegt de politieman. "Als je dan toch op de link klikt, controleer dan of je écht op de website van de winkel zit waar je spullen wil kopen." Iets wat Tanja voortaan wil doen: niet meer op de Facebook-advertentie klikken, maar zelf naar de site van de webwinkel gaan.

Ze schaamt zich een beetje dat het haar is overkomen, zegt ze. "Want normaal ben ik degene die mijn kinderen en mijn vader waarschuwt: klik niet zomaar ergens op! Nu deed ik het zelf."

Toch vindt ze het belangrijk om anderen te waarschuwen met haar verhaal. "Na drie dagen heb ik het toch verteld. Het is beter om het niet voor jezelf te houden. Ik denk dat dit heel veel mensen overkomt."

Wat kunnen hackers met je persoonsgegevens?

De risico's nemen toe als hackers je persoonlijke data online zetten, zoals de criminele groep ShinyHunters dit jaar deed met buitgemaakte gegevens van miljoenen Odido-klanten. Odido weigerde losgeld te betalen, waarop de hackers de klantgegevens publiceerden.

Met die informatie kunnen criminelen een bankrekening op je naam zetten of een abonnement afsluiten. Die vorm van identiteitsfraude neemt flink toe. In 2025 ging het om bijna 9000 meldingen. Dit jaar lijkt het aantal veel hoger te worden. Het aantal meldingen tot en met maart staat op ruim 3600.

Overigens wist telecomprovider Odido dagenlang niet van de diefstal van persoonsgegevens, zei topvrouw Tisha van Lammeren tegen de NOS. Het bedrijf zegt nog steeds achter het besluit te staan geen geld te betalen aan ShinyHunters.

Het moederbedrijf van het ook door ShinyHunters aangevallen onderwijsplatform Canvas koos juist voor een akkoord met de hackers, zo werd gisteren bekend. In ruil daarvoor verwijderden de hackers de gestolen gegevens van gebruikers wereldwijd.

Wat voor informatie mogen bedrijven van je vragen?

"Het officiële antwoord is: niet meer dan strikt noodzakelijk", legt Aleid Wolfsen uit. Hij is de voorzitter van de Autoriteit Persoonsgegevens (AP), de privacywaakhond van Nederland.

Bedrijven mogen een klant ook niet weigeren als iemand geen onnodige informatie wil afgeven. "Het moet strikt noodzakelijk zijn om data ergens voor te gebruiken, om iets te verkopen of om iets te reserveren, et cetera."

Ook volgens de Algemene Verordening Gegevensbescherming (AVG) mag een bedrijf alleen gegevens vragen en bewaren als die ergens voor nodig zijn.

"Bij een simpele reservering heb je bijvoorbeeld naam, tijdstip en aantal personen nodig", zegt privacy-adviseur Floor Terra. "Bij abonnementen heb je bankrekening- of adresgegevens nodig. Maar vaak vragen bedrijven meer gegevens dan nodig is of bewaren ze deze te lang."

In de praktijk ziet Terra dat de vrijheid om 'nee' te zeggen er niet echt is. Wolfsen noemt een voorbeeld dat hij laatst tegenkwam: een parkeergarage. "Je wilt eruit en je moet je e-mailadres achterlaten. Dat is nergens voor nodig."

Wat kun je doen als een bedrijf meer informatie vraagt dan mag?

Er is te weinig toezicht op de wetten hierover, merkt Terra. "Er is wetgeving over wat moet: identificatieverplichtingen, maar ook de AVG die grenzen stelt. Daar kan de overheid op handhaven, maar dat gebeurt niet heel veel. Als handhaving pas plaatsvindt als het is misgegaan, is het te laat."

AP-voorzitter Wolfsen zegt dat zijn organisatie veel voorlichting geeft aan bedrijven. Dan luidt de uitleg: je hebt bepaalde informatie vaak echt niet nodig om dit product te kunnen verkopen. "Vaak past men dat dan ook aan. En als het echt uit de hand loopt, kunnen we ook handhavend optreden en desnoods serieus beboeten."

Volgens Terra is het daarvoor wel nodig dat mensen daarover een klacht indienen bij de AP. "Veel van dit soort problemen zijn niet goed zichtbaar voor de AP, die door een te laag budget minder proactief onderzoek kan doen."

Wat Terra betreft kan de overheid ervoor zorgen dat er moderne identificatiemethoden komen. "Bijvoorbeeld dat je bij de slijterij of via sociale media kunt bewijzen dat je 18 jaar bent zonder dat je je hele paspoort hoeft te laten zien." Nederland werkt momenteel aan zo'n methode: een nationale app, de NL ID-wallet, maar die is nog niet beschikbaar.

Wat kun je zelf nog meer doen?

Zowel Wolfsen als Terra adviseert: bel een bedrijf op en vraag waarvoor de informatie nodig is. Een andere tip: wees niet naïef en geef niet te makkelijk persoonlijke informatie af. "Wat een bedrijf niet heeft, kan ook niet op straat komen", benadrukt de voorzitter van de AP.

"Vaak zeggen bedrijven: bij ons is de klant koning", vervolgt Wolfsen. "Dan zeggen wij: prima, maar behandel de persoonsgegevens dan ook alsof die van de koning zelf zijn. Dus beveilig en bescherm die informatie heel goed."

Odido werd begin februari gehackt door de criminele groep ShinyHunters. Daarbij werden ook klantgegevens van telecomprovider Ben gestolen. Nadat Odido weigerde te betalen, plaatste de hackersgroep de gegevens van ruim 6 miljoen mensen op het darkweb. "Dat was een donkere dag voor ons allemaal", zegt Van Lammeren.

Het is voor het eerst sinds de hack dat de Odido-top in de media terugblikt op de aanval. In gesprek met de NOS zegt Van Lammeren ook dat het bedrijf, een van de grootste telecomaanbieders van het land, beter had kunnen communiceren over de aanval. "Klanten nemen het ons wel kwalijk dat het zo stil is geweest."

'Gegevens in een uur gedownload'

Nadat Odido weet kreeg van de aanval liet de provider onderzoek doen naar digitale sporen van de inbraak. Inmiddels weet het bedrijf precies wat er is gebeurd, zegt Van Lammeren. De NOS vroeg om dat onderzoek in te zien, maar dat verzoek werd geweigerd. Wel geeft het bedrijf voor het eerst meer details prijs over hoe de diefstal uit het klantensysteem kon plaatsvinden.

"Een hacker van ShinyHunters belde een medewerker van de Odido-klantenservice en deed alsof hij voor de IT-afdeling werkte", vertelt Van Lammeren. "De hacker wist deze medewerker over te halen om in te loggen op een valse versie van de werkomgeving. Zo heeft hij de inloggegevens van die persoon gestolen."

Odido blokkeerde het account waarop de hacker inlogde binnen een uur, zegt het bedrijf. Maar toen was het al te laat, bleek twee dagen later: de gegevens van miljoenen klanten waren in die korte tijd gedownload, zegt Van Lammeren. "We waren extreem verrast door de snelheid waarmee alles gebeurde."

'Diefstal niet gezien'

De inbraak werd destijds wel opgemerkt, de diefstal niet, zegt Van Lammeren. "Er ging geen alarm af toen de gegevens op 5 februari werden gedownload." Ook toen Odido later die dag samen met een cybersecuritybedrijf onderzoek deed naar de digitale sporen van de inbraak, concludeerden zij allebei dat er niets was gestolen, zegt de topvrouw.

Dus toen ShinyHunters op 7 februari een bericht stuurde dat zij klantgegevens hadden gestolen, kwam dat volgens haar als een verrassing. Hoe kan het dat Odido die diefstal niet opmerkte? Daar wil Van Lammeren niet veel over zeggen. "De hackers hebben daar goede technieken voor. Dat vindt op de achtergrond plaats. En dat hebben we niet gezien."

Wie zijn de hackers die toesloegen bij Odido? Nieuwsuur ging na de hack op onderzoek uit:

Ook de volledige omvang van de diefstal bleef lang onduidelijk, zegt Van Lammeren. Pas begin maart, nadat ShinyHunters alle gegevens op het darkweb publiceerde, zag Odido dat ook gegevens van zakelijke klanten waren gestolen. "We dachten dat het alleen consumenten betrof van Ben en Odido. Toen bleek toch dat het ook om een groep zakelijke gebruikers ging."

'Communicatie kon beter'

Dat er lange tijd veel onduidelijk was, was volgens Van Lammeren de reden dat het bedrijf zo weinig aan zijn miljoenen klanten liet weten. De topvrouw zegt dat het bedrijf dat beter had kunnen doen. Ze noemt het de belangrijkste les die het bedrijf heeft geleerd na de digitale inbraak.

De telecomprovider stuurde een aantal dagen na de hack 6,2 miljoen berichten naar klanten en oud-klanten van Odido en Ben. Daarin stond dat hun gegevens mogelijk waren gestolen. Ook plaatste het bedrijf informatie over de aanval op zijn website. "Maar we hadden niet iedere week een nieuwsbrief of zo", zegt Van Lammeren.

"Als ik terugkijk, denk ik dat we toch iets hadden moeten laten weten, ook over dingen die je niet weet." Het bedrijf had dat achteraf gezien kunnen doen nadat bleek dat er gevoelige aantekeningen over klanten waren gestolen, zegt Van Lammeren.

Odido hoopt klanten nu alsnog meer duidelijkheid te geven. Het bedrijf heeft zijn pagina over de hack vandaag aangevuld met extra informatie. Daarin legt het bedrijf onder meer uit waarom het besloot om ShinyHunters niet te betalen, een besluit waar het nog steeds achter zegt te staan.

Toezichthouders doen onderzoek

Op dit moment lopen nog twee onderzoeken van toezichthouders naar de inbraak. Daaruit moet blijken of Odido de beveiliging van het klantensysteem goed op orde had. En of Odido gegevens van (oud-)klanten niet langer bewaarde dan is toegestaan. Hoelang die onderzoeken nog duren is onduidelijk, zeggen de twee toezichthouders vandaag tegen de NOS.

Van Lammeren zegt dat dat Odido na de hack het vertrouwen van klanten wil terugwinnen. "Want dat is toch gebroken. Het spijt ons ontzettend naar onze klanten toe dat dit is gebeurd. Het voelt echt heel naar."

Het gaat om tientallen grote ondernemingen, zoals communicatiebedrijf Deutsche Telekom, de Spaanse bank BBVA, het eveneens Spaanse Telefonica en beleggingsplatform Scalable Capital uit Duitsland.

OpenAI wil de betrokken bedrijven hiermee beter in staat stellen om zichzelf digitaal te beschermen en kwetsbaarheden online snel te elimineren.

"We moeten gevaren afwenden en garanderen dat vertrouwde partners de middelen hebben die hen in staat stellen hun systemen te beschermen, kwetsbaarheden op te sporen en snel op dreigingen te reageren", zegt de verantwoordelijk directeur van OpenAI, Emmanuel Marill.

Beveiliging ondermijnen

OpenAI's concurrent Anthropic heeft vorige maand een nieuw AI-systeem gelanceerd, Mythos genaamd, waarvan wordt gevreesd dat het de kans op misbruik zal vergroten. Zo wordt het steeds makkelijker om de beveiliging van de online omgeving van bijvoorbeeld banken te ondermijnen of omzeilen.

OpenAI heeft bepaalde systemen niet alleen opengesteld voor bedrijven, maar ook voor nationale overheden, onder de noemer "OpenAI for Countries". Verder heeft het de Europese Commissie toegang aangeboden tot zijn beveiligingssystemen.

Gisteren maakte OpenAI bekend dat het miljarden gaat investeren in een tak die organisaties moet helpen om zelf AI-systemen te ontwikkelen en te bouwen.

Rechtszaak

In de VS is topman en medeoprichter Sam Altman verwikkeld in een rechtszaak die is aangespannen door multimiljardair Elon Musk, die zelf met xAI ook een AI-bedrijf heeft. Musk heeft tot zes jaar geleden bijna 40 miljoen euro aan OpenAI gedoneerd, in de verwachting dat het een non-profitorganisatie zou blijven en dat iedereen zou kunnen profiteren van de nieuwe technologie. Nu verwijt Musk Altman dat hij OpenAI tot "een commerciële gigant gericht op winst" heeft omgevormd, en dat hij ook zelf zijn zakken heeft gevuld.

Mensheid uitgewist, natuur gered. Probleem opgelost.

Het klinkt als Hollywood-sciencefiction. Maar het is een scenario waarmee zogenoemde AI-doomers daadwerkelijk rekening houden. Ze vrezen dat kunstmatige intelligentie leidt tot het einde van het menselijk bestaan. Daarom komen ze in protest.

Zeker in Amerika trekken anti-AI-demonstraties steeds meer deelnemers. Niet alle protesten zijn vreedzaam: vorige maand gooide een man nog een molotovcocktail naar het huis van Sam Altman, de man achter ChatGPT.

Naast de AI-doomers zijn er ook meer gematigde critici. Zij maken zich bijvoorbeeld zorgen over de negatieve invloeden van AI op onderwijs, kunst en cultuur of het klimaat.

Marietje Schaake ziet dat steeds meer mensen kanttekeningen plaatsen bij kunstmatige intelligentie. Ze is als internet- en AI-expert verbonden aan de Amerikaanse Stanford-universiteit en kan zich de zorgen over de impact van AI voorstellen. "Op banen, op milieu, op welzijn van kinderen, nationale veiligheid en democratie."

In Amerika houden investeringsbanken rekening met het scenario dat er een "grote volksbeweging" komt die zich keert tegen techbedrijven, zegt Schaake. Ze verwacht dat ook in Nederland de kritiek toeneemt, zeker nu steeds duidelijker wordt dat we aan een Amerikaans tech-infuus hangen.

Bezorgde jongeren uiten tijdens een punkavond hun ongenoegen over de opmars van kunstmatige intelligentie:

Dat technologische ontwikkelingen gepaard gaan met angst is niet nieuw. In 1968 vertelde filmklassieker 2001: A Space Odyssey al het verhaal van een superslimme computer die tijdens een ruimtereis zijn menselijke collega-astronauten vermoordt.

Nog langer geleden - in de 19e eeuw - waren er de Luddieten: een groep voornamelijk Engelse fabrieksarbeiders die vreesden dat de Industriële Revolutie hun banen overbodig zou maken. Daarom besloten ze fabrieksmachines te saboteren en kapot te maken.

De invloed van AI op het menselijke bestaan is al decennia voer voor discussie onder wetenschappers. Velen waken voor paniek. Hersenonderzoekers nuanceren de stelling dat AI-tools ons dom maken. Economen zeggen dat onze banen voorlopig nog niet overbodig worden.

ChatGPT als wake-upcall

Toch is Joep Meindertsma van actiegroep PauseAI er niet gerust op. Zijn ogen openden naar eigen zeggen toen in 2022 ChatGPT werd gelanceerd. Dat AI zó snel zou ontwikkelen had hij niet verwacht.

Meindertsma, softwareontwikkelaar van beroep, ging zich in het onderwerp verdiepen en stuitte op AI-doemdenkers als Eliezer Yudkowsky en Nick Bostrom: filosofen en ethici die waarschuwen voor allesverwoestende robotachtigen die een einde maken aan de mensheid. Hij besloot PauseAI op te richten.

Die protestclub wil politici "wakker schudden". Helemaal stoppen met AI vindt Meindertsma niet nodig. Het is prima er bijvoorbeeld ziektes mee te genezen. Wel wil hij dat we de ontwikkeling wereldwijd pauzeren zodat we kunnen nadenken over de vraag hoe we het verantwoord inzetten.

Robots die robots maken

De PauseAI-voorman vreest vooral het moment dat AI zelf in staat is (betere) AI te maken. Het Amerikaanse techbedrijf Anthropic vermoedt dat dat in 2028 al kan, zei topman Jack Clark deze week. Anderen - zoals de Nobelprijs-winnende neurowetenschapper Demis Hassabis - denken dat het langer duurt.

Of het nou snel komt of niet, volgens Meindertsma zijn er "bizarre implicaties" voor de maatschappij. "Zo'n machine kan nieuwe wapens uitvinden, cybersecurityaanvallen doen: er zijn ontzettend veel manieren waarop het fout kan gaan en ik denk niet dat we als maatschappij daarop voorbereid zijn. Ik vrees dat mensen het evolutionair afleggen tegen een systeem dat beter in staat is te overleven op deze planeet, simpelweg omdat het intelligenter is."

De demonstraties van PauseAI in Nederland trekken nog relatief weinig deelnemers, vindt Meindertsma. "In Nederland zijn AI-gevaren nog niet heel veel op de radar. Er is nog niet echt een gevoel van urgentie."

Speelbal van Trump

Ook Marietje Schaake hoopt dat Nederlanders zich bewuster worden van de gevaren van AI. Anders dan Meindertsma is ze niet bang voor het einde van de mensheid, wel vreest ze dat Europa dankzij big tech "speelbal" wordt van "buitenlandse tech-miljardairs en de Trump-regering".

Ze hoopt dat Europa snel met eigen AI-alternatieven komt en digitaal 'soeverein' wordt. Op dit moment is de afhankelijkheid van Amerika en China te groot. Dat is potentieel gevaarlijk, zegt Schaake. Mochten we ruzie krijgen met een van die landen, dan zouden zij met een druk op de knop 'onze' computers uit kunnen zetten.

Met die versleuteling kunnen alleen de verzender en de ontvanger de inhoud van de berichten zien en kan een website, internetprovider of socialemediaplatform dus niet meekijken. Volgens Instagrams moederbedrijf Meta werd de mogelijkheid maar heel weinig gebruikt. Dat had er vermoedelijk mee te maken dat gebruikers de optie zelf moesten aanvinken.

Een woordvoerder van Meta zei in maart tegen de Britse krant The Guardian dat mensen die end-to-end willen blijven gebruiken, dat kunnen doen op WhatsApp, ook van Meta. Ook andere berichtenapps, zoals Signal en de apps van Apple (iMessage) en Google (Messages), gebruiken standaard deze extra versleuteling.

Voors en tegens

Opsporingsdiensten en anti-misbruikorganisaties wereldwijd probeerden Meta al langer ervan te overtuigen om de versleuteling te verwijderen in Instagram. Zij betoogden dat criminelen door de encryptie ongezien hun gang konden gaan.

Privacygroepen wijzen daarentegen op het belang om te voorkomen dat bepaalde privé-informatie in de verkeerde handen terechtkomt.

Uit onderzoek van de NOS en Nieuwsuur blijkt dat de IP-adressen van Motherless sinds gisteravond 22.30 uur onbereikbaar zijn. Eerder zag het bedrijf Nforce, dat Motherless in de lucht houdt, geen aanleiding om de site uit de lucht te halen.

Nforce bevestigt tegenover de NOS dat de site offline is als gevolg van "bepaalde acties in samenwerking met de autoriteiten". "Daarna hebben we vernomen dat de dienstverlening mag worden hervat, maar we hebben besloten eerst een interne evaluatie uit te voeren", laat directeur Simon Elimeleh weten.

"Daarvoor hebben we ook de klant om opheldering gevraagd. De site zal onbereikbaar blijven zolang deze evaluatie loopt." Het OM wil niet ingaan op de vraag of de website weer online kan komen.

Gisèle Pelicot

De eigenaar van het datacenter waarin Nforce een ruimte huurt, Eurofiber, is geschrokken van de ernst van de zaak. "Wij zijn daarover ook in gesprek gegaan met Nforce."

Op de site, die al zeker sinds 2024 op Nederlandse servers staat, waren op grote schaal video's te vinden in rubrieken als "incest".

De site kwam vorige maand in het nieuws doordat CNN er 20.000 video's vond waarop te zien was hoe mannen hun vrouwen in hun slaap misbruiken. De zender deed onderzoek naar dergelijk materiaal naar aanleiding van de Franse zaak rond Gisèle Pelicot.

12.000 video's

Expertisebureau online misbruik Offlimits kreeg alleen al dit jaar bijna 142 meldingen binnen over maar liefst 12.000 video's op Motherless. Van die 142 meldingen ging het in 25 gevallen om kinderporno. De site reageerde niet op vragen om commentaar, wel werd in de gevallen van kinderporno de informatie snel verwijderd.

"Dit is precies wat nodig is met een site als deze", laat Offlimits-directeur Robbert Hoving weten in een schriftelijke reactie. "Ik vind dit een hele goede actie van het OM. Want we moeten niet tolereren dat de wet overtreden mag worden, ook niet online."

Publiciteit

Minister Van Weel van Justitie en Veiligheid noemt het "hartstikke goed" dat het OM de site offline heeft gehaald. Dat dat pas gebeurde na publiciteit van zowel de NOS en Nieuwsuur als NRC, noemt Van Weel "niet erg". "De triggerfunctie van de media is soms belangrijk."

Gisteren zei de directeur van Nforce nog dat hoewel er veel klachten over Motherless zijn, dat niet betekent dat de site niet deugt. "Het toont slechts aan dat het nodig is om die informatie op te merken, te verwijderen en ervoor te zorgen dat dat gebeurt."

Wel vroeg Nforce Motherless om uitleg en wilde het maatregelen, blijkt uit een brief aan Motherless die Nforce op zijn website publiceerde.

Populairste categorie

Uit onderzoek van de NOS bleek dat de tag "incest" in de afgelopen week na "teen" en "amateur" de populairste categorie was, met ruim 1000 video's die samen 60 miljoen keer werden bekeken.

De meest bekeken video in de afgelopen week, met 4,2 miljoen views, is ondergebracht in de categorieën "incest" en "rape", in combinatie met "school girl" en "sister".

Weer online

Overigens is de kans aanwezig dat Motherless via een andere weg weer online komt. De domeinnaam van de website is niet in Nederland geregistreerd, en zou aan nieuwe servers kunnen worden gekoppeld.