De AI-systemen kunnen ernstige veiligheidsproblemen ontdekken. Bijvoorbeeld waarmee je computers kunt hacken of platleggen. Het kunnen fouten zijn die al jaren in computerprogramma's zitten, terwijl niemand dat doorhad.

"Daarom moeten bedrijven en organisaties supersnel kunnen reageren", waarschuwt Matthijs van Amelsfort, directeur van het Nationaal Cyber Security Centrum (NCSC). "Vroeger duurde het dagen voordat een aanvaller een fout misbruikte, nu is dat uren", zegt hij. "Dat zal minuten worden."

De dringende waarschuwing is bekend bij de mensen die erover gaan, zegt Dimitri van Zantvliet. Hij is voorzitter van de beroepsvereniging voor die mensen: het CISO Platform. "Er is geen paniek, maar het is zeker urgent", zegt hij.

Deze week kwamen honderden daarvan bij elkaar op een evenement, onder meer om het hierover te hebben. "Deze ontwikkeling betekent dat er kwetsbaarheden gevonden worden in systemen die al twintig jaar oud zijn. We moeten versnellen, zodat we die fouten oplossen voordat ze misbruikt worden."

Overheid met hulp van AI gehackt

Dat je met AI-programma's snel en automatisch veiligheidsproblemen kunt vinden, bewijst Rogier Fischer van cybersecuritybedrijf Hadrian. In het kantoor in Amsterdam laat hij zien hoe hij daarmee de overheid kon hacken.

Fischer liet een AI-systeem kijken naar de programmeercode van een overheidswebsite. Hij vroeg of er een bepaalde fout in zat waarmee hij toegang kon krijgen tot bestanden die niet toegankelijk horen te zijn. Het AI-programma antwoordde dat dit inderdaad zo is.

Door die fout kon Fischer een bestand downloaden, terwijl het niet de bedoeling is dat hij erbij kan. Hij wijst het aan op zijn scherm. "Hier zie je letterlijk de wachtwoorden", zegt hij.

Daarmee kon Fischer inloggen op de database van de website. "Er is niets dat me tegenhield", zegt de hacker. "Als je binnen bent, kun je bijvoorbeeld dingen aanpassen. Of in die database nieuwe aanvallen uitvoeren. Dat doen we niet: wij hebben al aangetoond dat we toegang hadden. Dus toen stopten we met de aanval."

'Volledige toegang voor 10 euro'

Hadrian kon de overheid hacken met een goedkoop AI-programma van OpenAI, het bedrijf achter ChatGPT, vertelt Fischer. De totale aanval kostte hem ongeveer 10 euro, schat hij. "Daarmee kreeg ik dus volledige toegang."

Andere goedkope AI-programma's zijn ook geschikt om dit soort fouten te vinden, blijkt uit onderzoek van cybersecuritybedrijf AISLE. Sinds september heeft het bedrijf meer dan tweehonderd fouten gevonden met behulp van allerlei AI-systemen, zegt Jaya Baloo, een van de oprichters.

AISLE onderzocht onder meer of goedkope systemen fouten kon vinden in twee computerprogramma's die pas geleden ook al werden ontdekt met het AI-programma Mythos. Het bedrijf achter Mythos gebruikte die twee fouten die het programma vond om reclame te maken voor het AI-systeem. Dit is zo goed, zei het bedrijf, dat maar een heel kleine groep er toegang toe krijgt.

"Het verhaal was dat AI 'opeens' heel goed was in het vinden van kwetsbaarheden", zegt Baloo. "Maar wij konden met oudere AI-systemen diezelfde fouten vinden. Dus hoezo 'opeens'? Wij doen dit al maanden."

Nog meer fouten vinden

Baloo en Fischer denken dat de verdedigers op dit moment in het voordeel zijn. Maar er is haast, zeggen ze: als de criminele hackers aan de slag gaan met deze AI-programma's, kunnen zij deze veiligheidsproblemen ook vinden en misbruiken.

"Technologie wordt vaak na een aantal maanden gebruikt door mensen met slechte bedoelingen", zegt NCSC-directeur Van Amelsfort. Het is belangrijk om daar serieus rekening mee te houden, omdat het gaat over de digitale veiligheid van ons allemaal, zegt hij.

"We hebben al meegemaakt dat een haven platligt of dat onze gegevens worden gestolen. Nederland is heel erg digitaal. Dat maakt ons ook kwetsbaar. Aanvallers en verdedigers zullen met elkaar in gevecht blijven, ook met deze AI-ontwikkeling. We moeten echt zorgen dat onze verdediging op orde is."

Het gaat om ambtenaren die betrokken zijn bij de handhaving van Europese regels om techplatforms te reguleren. De Amerikaanse overheid ziet die regels als censuur. De vrees is dat de ambtenaren onder druk kunnen worden gezet, bijvoorbeeld met inreisverboden of zelfs sancties, schrijft Vrij Nederland.

Eerder gebeurde dat met een oud-Eurocommissaris die betrokken was bij de techwetgeving, maar ook met medewerkers van het Internationaal Strafhof.

"Als er discussies zijn over beleid dan voer je die met ons en nooit over de rug van ambtenaren", zegt staatssecretaris Aerdts van Digitale Economie en Soevereiniteit. "Dat is wel gebeurd en daar zullen we onze contacten op aanspreken, ook in de Verenigde Staten."

Ook heeft het kabinet er al contact over gehad met de Amerikaanse ambassadeur, zegt Aerdts. "We hebben aangegeven hoe ontzettend onwenselijk wij dit vinden. Hij heeft dat aangehoord en zal het ook mee terugnemen."

'Verslaafd aan Amerikaanse apps'

Staatssecretaris Eric van der Burg (Slagvaardige Overheid) spreekt van "meer dan zorgelijke" ontwikkelingen. Hij zegt dat nog moet worden uitgezocht hoe de documenten zijn gedeeld en of het om openbare documenten ging. "Het is nog niet duidelijk uit welke documenten de gegevens komen, maar natuurlijk baart het zorgen als dit soort gegevens gedeeld worden."

Op korte termijn de samenwerking stoppen met Microsoft en andere Amerikaanse techbedrijven is niet mogelijk, zegt de staatssecretaris. Het kabinet kijkt volgens hem wel hoe de digitale soevereiniteit van de Rijksoverheid kan worden vergroot. "Wij zijn in Nederland en Europa verslaafd aan Amerikaanse programma's, apps en apparatuur."

Strijdbaarder

Volgens Vrij Nederland gaat het bijvoorbeeld om medewerkers van toezichthouders Autoriteit Consument en Markt en Autoriteit Persoonsgegevens. Ook de naam van wetenschapper Claes de Vreese, die onderzoek doet naar desinformatie, is overhandigd. "Het is vervelend omdat het een chilling effect heeft op mensen", zegt De Vreese. "Ik word er eerder strijdbaarder van."

Het gaat onder meer om uitnodigingen voor bijeenkomsten waar ook de techbedrijven voor waren uitgenodigd. Daarvan overhandigden de techbedrijven de namen van andere genodigden, onder wie ACM-medewerkers, aan de Amerikaanse overheid. Daartoe waren ze verplicht onder de Amerikaanse wet. Ook andere techbedrijven hebben dat gedaan, al is nog niet duidelijk of daar ook Nederlandse namen bij betrokken zijn.

Volgens Vrij Nederland communiceren de overheidsinstanties nu meer vanuit algemene mailadressen, zonder namen van ambtenaren te noemen. Het delen van de namen zou binnen de ACM en de Autoriteit Persoonsgegevens voor veel consternatie hebben gezorgd, bijvoorbeeld bij mensen met familie in de VS die vrezen dat ze het land niet meer in mogen.

Meer keuze

De vrees is al langer dat Amerikaanse techbedrijven kunnen worden gedwongen om informatie van overheidsklanten te overhandigen als de Amerikaanse overheid daar om vraagt. Voor zover bekend komt de nu gedeelde informatie niet uit systemen die bijvoorbeeld Microsoft namens de overheid beheert, maar uit Microsofts eigen zakelijke ict-systemen.

Intussen neemt de afhankelijkheid van Amerikaanse clouddiensten eerder toe dan af. Het ict-bedrijf dat verantwoordelijk is voor het hosten van DigiD, Solvinity, staat op het punt door een Amerikaans bedrijf te worden overgenomen. Daarmee valt het bedrijf ook onder de Cloud Act, een Amerikaanse wet die voorschrijft dat informatie die door een Amerikaans bedrijf wordt beheerd in bepaalde gevallen moet worden overhandigd, ook als de data buiten de VS zijn opgeslagen.

Ook is de Belastingdienst juist nu bezig met een overstap op Microsoft-systemen, ondanks zorgen in de Tweede Kamer. Staatssecretaris Aerdts vindt het belangrijk "dat we in Nederland en in Europa meer keuze hebben, zodat we niet meer afhankelijk zijn van een paar bedrijven uit een of twee landen."

In de afgelopen maanden werden meerdere accounts herhaaldelijk geblokkeerd of verwijderd door Meta. Het Amerikaanse Repro Uncensored documenteerde in april meer dan zeventig gevallen van censuur, waarvan veel in de Europese Unie. Het ging vooral om accounts met posts over queer-thema's en abortus.

De organisaties eisen nu dat Meta stopt met het verwijderen van de accounts. Ook willen ze van Meta weten waarom de accounts verwijderd werden. En er moet een contactpersoon komen die bij toekomstige kwesties kan worden aangesproken.

Ondertekenaars van de brief zijn onder meer de eigenaren van de Amsterdamse club Tillatec, The Queer Agenda, digitale actiegroep Bits of Freedom en de lhbti-belangenorganisatie COC Nederland.

Advocaten van de organisaties hebben Meta twee weken gegeven om te reageren, anders volgen juridische stappen. De NOS heeft Meta vanochtend om een reactie gevraagd.

Overtreden wetten

In de sommatiebrief, die in handen is van de NOS, schrijft advocatenkantoor Brandeis dat Meta meerdere artikelen heeft overtreden van de Europese grondwet, de Digital Services Act (een EU-wet voor sociale media), de Algemene Verordening Gegevensbescherming (AVG) en het Nederlandse burgerlijk recht.

De eigenaren van de geblokkeerde accounts konden uit het niets hun account niet meer in. Ze kregen een geautomatiseerd bericht dat ze de regels hadden overtreden. In sommige gevallen werd het "uitbuiten van mensen" genoemd, in andere gevallen zou een post of account de community standards overtreden.

Eigenaren van de accounts zeiden vooraf geen waarschuwing te hebben gekregen. Ook vonden ze de redenatie vaak niet duidelijk en was er geen contactpersoon te bereiken om bezwaar te maken. Dat resulteerde voor sommigen in de permanente verwijdering van hun account.

"Het zonder reden, zonder waarschuwing en zonder goede bezwaarmogelijkheid verwijderen van accounts is in strijd met meerdere regels", zegt Minke Gommer, advocaat bij bureau Brandeis. Onder de Digital Services Act is Meta verplicht een duidelijke reden te geven voor het verwijderen van de accounts. Ook moeten gebruikers in beroep kunnen gaan.

Volgens Gommer schendt Meta ook het discriminatieverbod en de vrijheid van meningsuiting. "Platforms mogen minderheidsgroepen niet structureel uitsluiten van het publieke debat."

'Zo weer van afgegooid'

Jan Hoek, kunstenaar en oprichter van de inclusieve kunstruimte No Limits! Art Castle is een van de ondertekenaars van de brief. In april werden zijn acht accounts geblokkeerd na één post. Later werd een deel hersteld.

Hoek zocht in eerste instantie contact met advocatenkantoor Brandeis om de rest van zijn accounts terug te krijgen. Hij vroeg zich wel af of het de moeite waard was zich in te spannen bij een platform "dat ons er zo weer afgooit". Daarom trekt hij nu met anderen op. "We willen dat Meta ophoudt met queerdiscriminatie en zich aan de Nederlandse en Europese wetgeving gaat houden", zegt Hoek.

In dit geval hebben voornamelijk queer-organisaties zich verenigd, maar ze hopen dat met de brief een voorbeeld wordt gesteld. "Wat voor ons geldt moet ook gelden voor sekswerkers, Palestina-activisten en abortusactivisten, die allemaal met hetzelfde te maken hebben", zegt Hoek.

Hij hoopt dat Meta een toezegging doet en het niet tot verdere juridische stappen laat komen.

"Reageert Meta niet of onvoldoende, dan kunnen onze cliënten zonder verdere waarschuwing een procedure starten waarin de maatregelen via een rechter worden afgedwongen", aldus Gommer.

Is er censuur op sociale media?

Het CvdM zegt dat in ieder geval X de feeds gebruikt voor politiek gedreven beïnvloeding. De praktijk shadowbanning wordt echter ook over andere platformen gemeld. Bij dit fenomeen wordt content over een bepaald onderwerp veel minder zichtbaar gemaakt, zonder dat gebruikers daar duidelijk over worden geïnformeerd.

Zo zei de toezichtsraad van moederbedrijf Meta in 2024 dat Instagram en Facebook Palestijnse en pro-Palestijnse gebruikers censureren. Gebruikers merkten een onverklaarbare afname van zichtbaarheid van berichten wanneer die over Palestijnen gaan. Meta heeft deze beschuldigingen steeds weersproken en gezegd dat het moderatiebeleid erop gericht is om de platforms veilig te houden.

Pro-Israëlische tiktokkers zeiden dat er op TikTok buitenproportioneel veel aandacht is voor pro-Palestijnse content. Nieuwsuur heeft dit getest in 2024 en concludeerde dat er in deze feed inderdaad eerder een pro-Palestijnse dan een pro-Israëlische video te zien was.

Wat zijn algoritmes en feeds?

Een algoritme op sociale media is een geautomatiseerd systeem dat bepaalt welke inhoud de gebruiker te zien krijgt. Als iemand vaak op een bepaald soort content klikt, kan een algoritme vergelijkbare dingen aanbevelen.

Een feed is de doorlopende stroom met digitale berichten die hieruit voortkomt. Dit is de stroom aan filmpjes, foto's en tekst die gebruikers te zien krijgen zodra ze zijn ingelogd.

Wat is er nieuw aan dit rapport?

De bedrijven achter de platforms gaan niet vanzelf over op democratisch gezonde feeds, concludeert het CvdM. Naast alle katten- en hondenfilmpjes en ander onschuldig vermaak worden gebruikers "blootgesteld aan giftige en onnauwkeurige inhoud en kan ons nieuwsgebruik eenzijdiger worden". De zichtbaarheid van nieuwsmedia zou worden onderdrukt, "soms afhankelijk van de politiek."

Dat sociale media negatieve invloed hebben op mens en maatschappij is allesbehalve een nieuw inzicht. Over de schaduwzijde van het massale gebruik van TikTok, Instagram en X zijn talloze artikelen en rapporten verschenen. Het rapport leest vooral als oproep ertegen in actie te komen én als een uitleg hoe dat kan worden gedaan.

"We staan op een kantelpunt in de geschiedenis", zegt Claes de Vreese, expert op het gebied van media en democratie. "Jarenlang was er een ongecontroleerd speelveld voor techbedrijven, maar nu zijn er in de EU spelregels en wetten gekomen. Dit rapport roept op die nieuwe mogelijkheden te gebruiken om algoritmes beter en gezonder te krijgen."

Wat betekent dit voor mij?

De onderzoekers hopen mensen bewust te maken van de risico's van sociale media. Tegelijk wordt erop gewezen dat platforms een "gezonde" keuze makkelijker moeten maken voor consumenten.

Platforms als Facebook, X, en Instagram zijn al verplicht een feed aan te bieden waarin de interesses, vrienden en contacten van de gebruiker centraal staan, legt De Vreese uit. "Maar die mogelijkheid wordt vaak verborgen op de site of app. En soms worden deze instellingen steeds teruggezet als iemand opnieuw inlogt."

Het CvdM roept op tot handhaving van deze en andere regels. Daarmee lijkt de boodschap vooral bedoeld voor instanties, politici, journalisten en ngo's. Toch kunnen ook burgers een bijdrage leveren. De Vreese: "Zij kunnen bijvoorbeeld meldingen doen bij de Autoriteit Persoonsgegevens of de Autoriteit Consument & Markt. Maar de regels zijn zo complex dat zoiets moeilijk van de burger verwacht kan worden."

Wat wordt er gedaan tegen het probleem?

Bedrijven die in Europa producten aanbieden, moeten voldoen aan Europese regels. De Digital Services Act (DSA) en Digital Markets Act (DMA) uit 2022 maken het mogelijk om socialemediaplatforms aan te pakken.

X kreeg eind vorig jaar een boete van 120 miljoen euro. Het was de eerste DSA-boete. De hoogte van zo'n bekeuring kan in theorie oplopen tot wel 6 procent van de wereldwijde omzet van een bedrijf.

"Maar de vrees is dat er te weinig gebruik van wordt gemaakt", legt De Vreese uit. "Men is bijvoorbeeld bang dat er voorzichtig wordt opgetreden om techbedrijven en de VS niet voor het hoofd te stoten." Volgens de Amerikaanse regering is de EU al veel te streng voor techbedrijven.

In het CvdM-rapport staat een 'routekaart' voor de politiek en nalevingsinstanties. Deze zou inzichtelijk moeten maken welke opties er zijn om socialemediabedrijven te controleren en vervolgen.

Een negenkoppige jury oordeelde dat Musk te lang heeft gewacht met het beginnen van een rechtszaak. De jury had slechts een adviserende rol, maar de rechter nam hun oordeel over.

Musk is samen met Altman oprichter van OpenAI, een bedrijf dat zich bezig ging houden met kunstmatige intelligentie (AI) en later bekend werd met de ontwikkeling van het tekstprogramma ChatGPT. Musk stak er zo'n 38 miljoen dollar in. Het plan was dat het bedrijf een onderzoeksbedrijf zou worden zonder winstoogmerk en aan technologie zou werken die "goed voor ons allemaal is".

'Geld verdienen'

Volgens de miljardair is het bedrijf te ver afgedreven van dat oorspronkelijke doel en vooral uit op geld verdienen, terwijl Altman juist van Musk vindt dat die meer in geld is geïnteresseerd dan in het belang van de mensheid.

OpenAI werd in 2015 opgericht, en kwam in 2018 met een commercieel bedrijfsonderdeel waar andere bedrijven geld in kunnen investeren in de hoop om dat terug te verdienen. Onder meer Microsoft investeerde fors in het bedrijf (zo'n 13 miljard dollar). Volgens Musk wist ook Microsoft al die tijd dat het OpenAI meer om geld gaat dan om altruïsme.

"Wie bij deze website iets bestelt, krijgt niets geleverd", zegt Gijs van der Linden, teamleider van het Landelijk Meldpunt Internetoplichting van de politie. "Oplichters adverteren ook via Google, Snapchat en TikTok, maar het overgrote deel zien we op de platformen van Meta." Dat is het bedrijf achter Facebook en Instagram.

Sinds juni 2025 heeft de politie 535 websites officieel aangemerkt als criminele webwinkel. De oplichters achter 273 van die websites plaatsten reclames op Facebook en Instagram. Het gaat dus om meer dan de helft van de valse webwinkels die zijn onderzocht. Omdat de oplichters moeilijk te pakken zijn, laat de politie de nepsites vaak offline halen.

Wie een advertentie op Facebook of Instagram ziet, gaat ervan uit dat het betrouwbaar is, zegt Tanja Henn uit Amsterdam. Twee maanden geleden zag ze op Facebook een reclame van buitensportzaak Bever, vertelt ze. "Ik wandel graag. Outdoorkleding en -spullen zijn best duur. Dus toen ik een advertentie zag voor 80 procent korting, was ik toch verleid om erop te klikken."

Ze kwam terecht op een website die heel erg leek op de webwinkel van Bever. Schoenen, drinkflessen en jassen werden aangeboden met hoge kortingen. "80 procent korting is best veel, maar het komt weleens voor", zegt Tanja. "Dus ik heb een broek, jas en rugzak uitgezocht. Daar kan ik binnenkort mee wandelen, dacht ik toen. Laat de lente maar komen!"

"Er zat veel korting op, dus het kostte niet veel: 85 euro." Maar toen er geen e-mail kwam met een bevestiging van de bestelling, ging ze toch twijfelen. En inderdaad: toen ze op haar bankrekening keek, bleek het geld te zijn overgemaakt naar een onbekende bankrekening in een ander land. "Toen wist ik: dit geld is weg en krijg ik niet meer terug."

Oplichter plaatste week lang reclames

De oplichter achter de Bever-nepsite plaatste tussen 13 en 22 maart zeker 25 advertenties op Facebook en Instagram, blijkt uit onderzoek van de NOS. Ruim een week lang kwamen de reclames tienduizenden keren voorbij op de twee platforms.

De NOS vroeg Meta wat het bedrijf doet tegen dit soort advertenties. Waarom lukt het niet om reclame voor oplichterssites tegen te houden? Meta gaf geen antwoord op die vragen. Wel roept het bedrijf mensen op om advertenties die zij niet vertrouwen te melden.

Dan is het al te laat, zegt Van der Linden van het politiemeldpunt. "Wij zien die advertenties, maar Meta ziet ze ook." Hij wil dat het bedrijf meer doet, zodat de oplichters de reclames niet meer op Facebook en Instagram kunnen zetten. "Als heel veel mensen zo'n advertentie zien, is er altijd wel iemand die daarop klikt."

'Pas op bij hoge kortingen'

"Pas dus op bij hoge kortingen", zegt de politieman. "Als je dan toch op de link klikt, controleer dan of je écht op de website van de winkel zit waar je spullen wil kopen." Iets wat Tanja voortaan wil doen: niet meer op de Facebook-advertentie klikken, maar zelf naar de site van de webwinkel gaan.

Ze schaamt zich een beetje dat het haar is overkomen, zegt ze. "Want normaal ben ik degene die mijn kinderen en mijn vader waarschuwt: klik niet zomaar ergens op! Nu deed ik het zelf."

Toch vindt ze het belangrijk om anderen te waarschuwen met haar verhaal. "Na drie dagen heb ik het toch verteld. Het is beter om het niet voor jezelf te houden. Ik denk dat dit heel veel mensen overkomt."

Wat kunnen hackers met je persoonsgegevens?

De risico's nemen toe als hackers je persoonlijke data online zetten, zoals de criminele groep ShinyHunters dit jaar deed met buitgemaakte gegevens van miljoenen Odido-klanten. Odido weigerde losgeld te betalen, waarop de hackers de klantgegevens publiceerden.

Met die informatie kunnen criminelen een bankrekening op je naam zetten of een abonnement afsluiten. Die vorm van identiteitsfraude neemt flink toe. In 2025 ging het om bijna 9000 meldingen. Dit jaar lijkt het aantal veel hoger te worden. Het aantal meldingen tot en met maart staat op ruim 3600.

Overigens wist telecomprovider Odido dagenlang niet van de diefstal van persoonsgegevens, zei topvrouw Tisha van Lammeren tegen de NOS. Het bedrijf zegt nog steeds achter het besluit te staan geen geld te betalen aan ShinyHunters.

Het moederbedrijf van het ook door ShinyHunters aangevallen onderwijsplatform Canvas koos juist voor een akkoord met de hackers, zo werd gisteren bekend. In ruil daarvoor verwijderden de hackers de gestolen gegevens van gebruikers wereldwijd.

Wat voor informatie mogen bedrijven van je vragen?

"Het officiële antwoord is: niet meer dan strikt noodzakelijk", legt Aleid Wolfsen uit. Hij is de voorzitter van de Autoriteit Persoonsgegevens (AP), de privacywaakhond van Nederland.

Bedrijven mogen een klant ook niet weigeren als iemand geen onnodige informatie wil afgeven. "Het moet strikt noodzakelijk zijn om data ergens voor te gebruiken, om iets te verkopen of om iets te reserveren, et cetera."

Ook volgens de Algemene Verordening Gegevensbescherming (AVG) mag een bedrijf alleen gegevens vragen en bewaren als die ergens voor nodig zijn.

"Bij een simpele reservering heb je bijvoorbeeld naam, tijdstip en aantal personen nodig", zegt privacy-adviseur Floor Terra. "Bij abonnementen heb je bankrekening- of adresgegevens nodig. Maar vaak vragen bedrijven meer gegevens dan nodig is of bewaren ze deze te lang."

In de praktijk ziet Terra dat de vrijheid om 'nee' te zeggen er niet echt is. Wolfsen noemt een voorbeeld dat hij laatst tegenkwam: een parkeergarage. "Je wilt eruit en je moet je e-mailadres achterlaten. Dat is nergens voor nodig."

Wat kun je doen als een bedrijf meer informatie vraagt dan mag?

Er is te weinig toezicht op de wetten hierover, merkt Terra. "Er is wetgeving over wat moet: identificatieverplichtingen, maar ook de AVG die grenzen stelt. Daar kan de overheid op handhaven, maar dat gebeurt niet heel veel. Als handhaving pas plaatsvindt als het is misgegaan, is het te laat."

AP-voorzitter Wolfsen zegt dat zijn organisatie veel voorlichting geeft aan bedrijven. Dan luidt de uitleg: je hebt bepaalde informatie vaak echt niet nodig om dit product te kunnen verkopen. "Vaak past men dat dan ook aan. En als het echt uit de hand loopt, kunnen we ook handhavend optreden en desnoods serieus beboeten."

Volgens Terra is het daarvoor wel nodig dat mensen daarover een klacht indienen bij de AP. "Veel van dit soort problemen zijn niet goed zichtbaar voor de AP, die door een te laag budget minder proactief onderzoek kan doen."

Wat Terra betreft kan de overheid ervoor zorgen dat er moderne identificatiemethoden komen. "Bijvoorbeeld dat je bij de slijterij of via sociale media kunt bewijzen dat je 18 jaar bent zonder dat je je hele paspoort hoeft te laten zien." Nederland werkt momenteel aan zo'n methode: een nationale app, de NL ID-wallet, maar die is nog niet beschikbaar.

Wat kun je zelf nog meer doen?

Zowel Wolfsen als Terra adviseert: bel een bedrijf op en vraag waarvoor de informatie nodig is. Een andere tip: wees niet naïef en geef niet te makkelijk persoonlijke informatie af. "Wat een bedrijf niet heeft, kan ook niet op straat komen", benadrukt de voorzitter van de AP.

"Vaak zeggen bedrijven: bij ons is de klant koning", vervolgt Wolfsen. "Dan zeggen wij: prima, maar behandel de persoonsgegevens dan ook alsof die van de koning zelf zijn. Dus beveilig en bescherm die informatie heel goed."

Odido werd begin februari gehackt door de criminele groep ShinyHunters. Daarbij werden ook klantgegevens van telecomprovider Ben gestolen. Nadat Odido weigerde te betalen, plaatste de hackersgroep de gegevens van ruim 6 miljoen mensen op het darkweb. "Dat was een donkere dag voor ons allemaal", zegt Van Lammeren.

Het is voor het eerst sinds de hack dat de Odido-top in de media terugblikt op de aanval. In gesprek met de NOS zegt Van Lammeren ook dat het bedrijf, een van de grootste telecomaanbieders van het land, beter had kunnen communiceren over de aanval. "Klanten nemen het ons wel kwalijk dat het zo stil is geweest."

'Gegevens in een uur gedownload'

Nadat Odido weet kreeg van de aanval liet de provider onderzoek doen naar digitale sporen van de inbraak. Inmiddels weet het bedrijf precies wat er is gebeurd, zegt Van Lammeren. De NOS vroeg om dat onderzoek in te zien, maar dat verzoek werd geweigerd. Wel geeft het bedrijf voor het eerst meer details prijs over hoe de diefstal uit het klantensysteem kon plaatsvinden.

"Een hacker van ShinyHunters belde een medewerker van de Odido-klantenservice en deed alsof hij voor de IT-afdeling werkte", vertelt Van Lammeren. "De hacker wist deze medewerker over te halen om in te loggen op een valse versie van de werkomgeving. Zo heeft hij de inloggegevens van die persoon gestolen."

Odido blokkeerde het account waarop de hacker inlogde binnen een uur, zegt het bedrijf. Maar toen was het al te laat, bleek twee dagen later: de gegevens van miljoenen klanten waren in die korte tijd gedownload, zegt Van Lammeren. "We waren extreem verrast door de snelheid waarmee alles gebeurde."

'Diefstal niet gezien'

De inbraak werd destijds wel opgemerkt, de diefstal niet, zegt Van Lammeren. "Er ging geen alarm af toen de gegevens op 5 februari werden gedownload." Ook toen Odido later die dag samen met een cybersecuritybedrijf onderzoek deed naar de digitale sporen van de inbraak, concludeerden zij allebei dat er niets was gestolen, zegt de topvrouw.

Dus toen ShinyHunters op 7 februari een bericht stuurde dat zij klantgegevens hadden gestolen, kwam dat volgens haar als een verrassing. Hoe kan het dat Odido die diefstal niet opmerkte? Daar wil Van Lammeren niet veel over zeggen. "De hackers hebben daar goede technieken voor. Dat vindt op de achtergrond plaats. En dat hebben we niet gezien."

Wie zijn de hackers die toesloegen bij Odido? Nieuwsuur ging na de hack op onderzoek uit:

Ook de volledige omvang van de diefstal bleef lang onduidelijk, zegt Van Lammeren. Pas begin maart, nadat ShinyHunters alle gegevens op het darkweb publiceerde, zag Odido dat ook gegevens van zakelijke klanten waren gestolen. "We dachten dat het alleen consumenten betrof van Ben en Odido. Toen bleek toch dat het ook om een groep zakelijke gebruikers ging."

'Communicatie kon beter'

Dat er lange tijd veel onduidelijk was, was volgens Van Lammeren de reden dat het bedrijf zo weinig aan zijn miljoenen klanten liet weten. De topvrouw zegt dat het bedrijf dat beter had kunnen doen. Ze noemt het de belangrijkste les die het bedrijf heeft geleerd na de digitale inbraak.

De telecomprovider stuurde een aantal dagen na de hack 6,2 miljoen berichten naar klanten en oud-klanten van Odido en Ben. Daarin stond dat hun gegevens mogelijk waren gestolen. Ook plaatste het bedrijf informatie over de aanval op zijn website. "Maar we hadden niet iedere week een nieuwsbrief of zo", zegt Van Lammeren.

"Als ik terugkijk, denk ik dat we toch iets hadden moeten laten weten, ook over dingen die je niet weet." Het bedrijf had dat achteraf gezien kunnen doen nadat bleek dat er gevoelige aantekeningen over klanten waren gestolen, zegt Van Lammeren.

Odido hoopt klanten nu alsnog meer duidelijkheid te geven. Het bedrijf heeft zijn pagina over de hack vandaag aangevuld met extra informatie. Daarin legt het bedrijf onder meer uit waarom het besloot om ShinyHunters niet te betalen, een besluit waar het nog steeds achter zegt te staan.

Toezichthouders doen onderzoek

Op dit moment lopen nog twee onderzoeken van toezichthouders naar de inbraak. Daaruit moet blijken of Odido de beveiliging van het klantensysteem goed op orde had. En of Odido gegevens van (oud-)klanten niet langer bewaarde dan is toegestaan. Hoelang die onderzoeken nog duren is onduidelijk, zeggen de twee toezichthouders vandaag tegen de NOS.

Van Lammeren zegt dat dat Odido na de hack het vertrouwen van klanten wil terugwinnen. "Want dat is toch gebroken. Het spijt ons ontzettend naar onze klanten toe dat dit is gebeurd. Het voelt echt heel naar."

Het gaat om tientallen grote ondernemingen, zoals communicatiebedrijf Deutsche Telekom, de Spaanse bank BBVA, het eveneens Spaanse Telefonica en beleggingsplatform Scalable Capital uit Duitsland.

OpenAI wil de betrokken bedrijven hiermee beter in staat stellen om zichzelf digitaal te beschermen en kwetsbaarheden online snel te elimineren.

"We moeten gevaren afwenden en garanderen dat vertrouwde partners de middelen hebben die hen in staat stellen hun systemen te beschermen, kwetsbaarheden op te sporen en snel op dreigingen te reageren", zegt de verantwoordelijk directeur van OpenAI, Emmanuel Marill.

Beveiliging ondermijnen

OpenAI's concurrent Anthropic heeft vorige maand een nieuw AI-systeem gelanceerd, Mythos genaamd, waarvan wordt gevreesd dat het de kans op misbruik zal vergroten. Zo wordt het steeds makkelijker om de beveiliging van de online omgeving van bijvoorbeeld banken te ondermijnen of omzeilen.

OpenAI heeft bepaalde systemen niet alleen opengesteld voor bedrijven, maar ook voor nationale overheden, onder de noemer "OpenAI for Countries". Verder heeft het de Europese Commissie toegang aangeboden tot zijn beveiligingssystemen.

Gisteren maakte OpenAI bekend dat het miljarden gaat investeren in een tak die organisaties moet helpen om zelf AI-systemen te ontwikkelen en te bouwen.

Rechtszaak

In de VS is topman en medeoprichter Sam Altman verwikkeld in een rechtszaak die is aangespannen door multimiljardair Elon Musk, die zelf met xAI ook een AI-bedrijf heeft. Musk heeft tot zes jaar geleden bijna 40 miljoen euro aan OpenAI gedoneerd, in de verwachting dat het een non-profitorganisatie zou blijven en dat iedereen zou kunnen profiteren van de nieuwe technologie. Nu verwijt Musk Altman dat hij OpenAI tot "een commerciële gigant gericht op winst" heeft omgevormd, en dat hij ook zelf zijn zakken heeft gevuld.

Mensheid uitgewist, natuur gered. Probleem opgelost.

Het klinkt als Hollywood-sciencefiction. Maar het is een scenario waarmee zogenoemde AI-doomers daadwerkelijk rekening houden. Ze vrezen dat kunstmatige intelligentie leidt tot het einde van het menselijk bestaan. Daarom komen ze in protest.

Zeker in Amerika trekken anti-AI-demonstraties steeds meer deelnemers. Niet alle protesten zijn vreedzaam: vorige maand gooide een man nog een molotovcocktail naar het huis van Sam Altman, de man achter ChatGPT.

Naast de AI-doomers zijn er ook meer gematigde critici. Zij maken zich bijvoorbeeld zorgen over de negatieve invloeden van AI op onderwijs, kunst en cultuur of het klimaat.

Marietje Schaake ziet dat steeds meer mensen kanttekeningen plaatsen bij kunstmatige intelligentie. Ze is als internet- en AI-expert verbonden aan de Amerikaanse Stanford-universiteit en kan zich de zorgen over de impact van AI voorstellen. "Op banen, op milieu, op welzijn van kinderen, nationale veiligheid en democratie."

In Amerika houden investeringsbanken rekening met het scenario dat er een "grote volksbeweging" komt die zich keert tegen techbedrijven, zegt Schaake. Ze verwacht dat ook in Nederland de kritiek toeneemt, zeker nu steeds duidelijker wordt dat we aan een Amerikaans tech-infuus hangen.

Bezorgde jongeren uiten tijdens een punkavond hun ongenoegen over de opmars van kunstmatige intelligentie:

Dat technologische ontwikkelingen gepaard gaan met angst is niet nieuw. In 1968 vertelde filmklassieker 2001: A Space Odyssey al het verhaal van een superslimme computer die tijdens een ruimtereis zijn menselijke collega-astronauten vermoordt.

Nog langer geleden - in de 19e eeuw - waren er de Luddieten: een groep voornamelijk Engelse fabrieksarbeiders die vreesden dat de Industriële Revolutie hun banen overbodig zou maken. Daarom besloten ze fabrieksmachines te saboteren en kapot te maken.

De invloed van AI op het menselijke bestaan is al decennia voer voor discussie onder wetenschappers. Velen waken voor paniek. Hersenonderzoekers nuanceren de stelling dat AI-tools ons dom maken. Economen zeggen dat onze banen voorlopig nog niet overbodig worden.

ChatGPT als wake-upcall

Toch is Joep Meindertsma van actiegroep PauseAI er niet gerust op. Zijn ogen openden naar eigen zeggen toen in 2022 ChatGPT werd gelanceerd. Dat AI zó snel zou ontwikkelen had hij niet verwacht.

Meindertsma, softwareontwikkelaar van beroep, ging zich in het onderwerp verdiepen en stuitte op AI-doemdenkers als Eliezer Yudkowsky en Nick Bostrom: filosofen en ethici die waarschuwen voor allesverwoestende robotachtigen die een einde maken aan de mensheid. Hij besloot PauseAI op te richten.

Die protestclub wil politici "wakker schudden". Helemaal stoppen met AI vindt Meindertsma niet nodig. Het is prima er bijvoorbeeld ziektes mee te genezen. Wel wil hij dat we de ontwikkeling wereldwijd pauzeren zodat we kunnen nadenken over de vraag hoe we het verantwoord inzetten.

Robots die robots maken

De PauseAI-voorman vreest vooral het moment dat AI zelf in staat is (betere) AI te maken. Het Amerikaanse techbedrijf Anthropic vermoedt dat dat in 2028 al kan, zei topman Jack Clark deze week. Anderen - zoals de Nobelprijs-winnende neurowetenschapper Demis Hassabis - denken dat het langer duurt.

Of het nou snel komt of niet, volgens Meindertsma zijn er "bizarre implicaties" voor de maatschappij. "Zo'n machine kan nieuwe wapens uitvinden, cybersecurityaanvallen doen: er zijn ontzettend veel manieren waarop het fout kan gaan en ik denk niet dat we als maatschappij daarop voorbereid zijn. Ik vrees dat mensen het evolutionair afleggen tegen een systeem dat beter in staat is te overleven op deze planeet, simpelweg omdat het intelligenter is."

De demonstraties van PauseAI in Nederland trekken nog relatief weinig deelnemers, vindt Meindertsma. "In Nederland zijn AI-gevaren nog niet heel veel op de radar. Er is nog niet echt een gevoel van urgentie."

Speelbal van Trump

Ook Marietje Schaake hoopt dat Nederlanders zich bewuster worden van de gevaren van AI. Anders dan Meindertsma is ze niet bang voor het einde van de mensheid, wel vreest ze dat Europa dankzij big tech "speelbal" wordt van "buitenlandse tech-miljardairs en de Trump-regering".

Ze hoopt dat Europa snel met eigen AI-alternatieven komt en digitaal 'soeverein' wordt. Op dit moment is de afhankelijkheid van Amerika en China te groot. Dat is potentieel gevaarlijk, zegt Schaake. Mochten we ruzie krijgen met een van die landen, dan zouden zij met een druk op de knop 'onze' computers uit kunnen zetten.

Met die versleuteling kunnen alleen de verzender en de ontvanger de inhoud van de berichten zien en kan een website, internetprovider of socialemediaplatform dus niet meekijken. Volgens Instagrams moederbedrijf Meta werd de mogelijkheid maar heel weinig gebruikt. Dat had er vermoedelijk mee te maken dat gebruikers de optie zelf moesten aanvinken.

Een woordvoerder van Meta zei in maart tegen de Britse krant The Guardian dat mensen die end-to-end willen blijven gebruiken, dat kunnen doen op WhatsApp, ook van Meta. Ook andere berichtenapps, zoals Signal en de apps van Apple (iMessage) en Google (Messages), gebruiken standaard deze extra versleuteling.

Voors en tegens

Opsporingsdiensten en anti-misbruikorganisaties wereldwijd probeerden Meta al langer ervan te overtuigen om de versleuteling te verwijderen in Instagram. Zij betoogden dat criminelen door de encryptie ongezien hun gang konden gaan.

Privacygroepen wijzen daarentegen op het belang om te voorkomen dat bepaalde privé-informatie in de verkeerde handen terechtkomt.

Uit onderzoek van de NOS en Nieuwsuur blijkt dat de IP-adressen van Motherless sinds gisteravond 22.30 uur onbereikbaar zijn. Eerder zag het bedrijf Nforce, dat Motherless in de lucht houdt, geen aanleiding om de site uit de lucht te halen.

Nforce bevestigt tegenover de NOS dat de site offline is als gevolg van "bepaalde acties in samenwerking met de autoriteiten". "Daarna hebben we vernomen dat de dienstverlening mag worden hervat, maar we hebben besloten eerst een interne evaluatie uit te voeren", laat directeur Simon Elimeleh weten.

"Daarvoor hebben we ook de klant om opheldering gevraagd. De site zal onbereikbaar blijven zolang deze evaluatie loopt." Het OM wil niet ingaan op de vraag of de website weer online kan komen.

Gisèle Pelicot

De eigenaar van het datacenter waarin Nforce een ruimte huurt, Eurofiber, is geschrokken van de ernst van de zaak. "Wij zijn daarover ook in gesprek gegaan met Nforce."

Op de site, die al zeker sinds 2024 op Nederlandse servers staat, waren op grote schaal video's te vinden in rubrieken als "incest".

De site kwam vorige maand in het nieuws doordat CNN er 20.000 video's vond waarop te zien was hoe mannen hun vrouwen in hun slaap misbruiken. De zender deed onderzoek naar dergelijk materiaal naar aanleiding van de Franse zaak rond Gisèle Pelicot.

12.000 video's

Expertisebureau online misbruik Offlimits kreeg alleen al dit jaar bijna 142 meldingen binnen over maar liefst 12.000 video's op Motherless. Van die 142 meldingen ging het in 25 gevallen om kinderporno. De site reageerde niet op vragen om commentaar, wel werd in de gevallen van kinderporno de informatie snel verwijderd.

"Dit is precies wat nodig is met een site als deze", laat Offlimits-directeur Robbert Hoving weten in een schriftelijke reactie. "Ik vind dit een hele goede actie van het OM. Want we moeten niet tolereren dat de wet overtreden mag worden, ook niet online."

Publiciteit

Minister Van Weel van Justitie en Veiligheid noemt het "hartstikke goed" dat het OM de site offline heeft gehaald. Dat dat pas gebeurde na publiciteit van zowel de NOS en Nieuwsuur als NRC, noemt Van Weel "niet erg". "De triggerfunctie van de media is soms belangrijk."

Gisteren zei de directeur van Nforce nog dat hoewel er veel klachten over Motherless zijn, dat niet betekent dat de site niet deugt. "Het toont slechts aan dat het nodig is om die informatie op te merken, te verwijderen en ervoor te zorgen dat dat gebeurt."

Wel vroeg Nforce Motherless om uitleg en wilde het maatregelen, blijkt uit een brief aan Motherless die Nforce op zijn website publiceerde.

Populairste categorie

Uit onderzoek van de NOS bleek dat de tag "incest" in de afgelopen week na "teen" en "amateur" de populairste categorie was, met ruim 1000 video's die samen 60 miljoen keer werden bekeken.

De meest bekeken video in de afgelopen week, met 4,2 miljoen views, is ondergebracht in de categorieën "incest" en "rape", in combinatie met "school girl" en "sister".

Weer online

Overigens is de kans aanwezig dat Motherless via een andere weg weer online komt. De domeinnaam van de website is niet in Nederland geregistreerd, en zou aan nieuwe servers kunnen worden gekoppeld.

Van de Nederlandse universiteiten zijn er zeven getroffen, meldt koepelorganisatie Universiteiten van Nederland. Het gaat om Tilburg University, Maastricht University, de Universiteit van Amsterdam, de Vrije Universiteit Amsterdam, de Erasmus Universiteit Rotterdam, de Technische Universiteit Eindhoven en Universiteit Twente.

De universiteiten zeggen op de hoogte te zijn gesteld door Canvas, het bedrijf achter onderwijssoftware. De universiteit van Tilburg schrijft dat er namen, e-mailadressen, studenten-ID's en berichten tussen gebruikers zijn buitgemaakt.

"We vragen daarom om extra alert te zijn op verdachte berichten, bijvoorbeeld e-mails die onverwacht binnenkomen en/of waarin gevraagd wordt om persoonlijke gegevens", schrijft Maastricht University.

Gegevens van 275 miljoen studenten

Maandag maakte hackersgroep Shinyhunters bekend de gegevens van in totaal 275 miljoen studenten, docenten en onderwijsmedewerkers in handen te hebben door een hackaanval op Canvas. Eerder dit jaar vielen de hackers telecomprovider Odido aan, waarbij gegevens van miljoenen Nederlandse klanten werden gestolen.

Gisteren meldde BNR al dat de gegevens van tientallen Nederlandse onderwijsinstellingen zijn gestolen bij de hack bij Canvas. Dat maakte het nieuwsmedium op uit een lijst die werd gedeeld door Shinyhunters.

In totaal zou het om 44 instellingen gaan in het hele land. Het is niet duidelijk of die ook allemaal daadwerkelijk getroffen zijn door de aanval. De Hogeschool Windesheim staat ook op de lijst, maar die ontkent te zijn getroffen en zegt ten onrechte te worden genoemd door de hackersgroep.

Deadline onderhandelingen

Shinyhunters heeft laten weten dat onderwijsinstellingen zelf met de hackersgroep kunnen onderhandelen voordat hun gegevens worden vrijgegeven. De deadline hiervoor verloopt morgen.

Het lijkt erop dat het bedrijf achter Canvas, het Amerikaanse Infrastructure, de hackers niet wil betalen en dat Shinyhunters op deze manier toch aan geld wil komen.

Drie mensen probeerden de contractverlenging vandaag - zonder succes - nog tegen te houden met een spoedprocedure bij de rechtbank. Ze deden dat omdat ze bang zijn dat de Amerikaanse overheid na de overname bij gegevens in MijnOverheid kan of de toegang tot DigiD kan blokkeren. Als dat gebeurt kan iemand bijvoorbeeld niet meer inloggen bij de gemeente of het ziekenhuis.

In de Tweede Kamer is ook al maanden onrust over de overname. Dat komt omdat het nu nog Nederlandse Solvinity op het punt staat om te worden overgenomen door een Amerikaans bedrijf. In de VS gelden wetten waarmee de Amerikaanse overheid inderdaad de toegang kan blokkeren of gegevens kan opvragen.

Verlenging van het contract

Het contract met Solvinity loopt tot augustus van dit jaar, maar kan nog met twee jaar worden verlengd tot augustus 2028. De overheid moest dan wel vandaag aan Solvinity laten weten dat ze wil dat het bedrijf nog twee jaar de IT-dienstverlening voor Logius verzorgt.

Het kabinet liet twee weken geleden al weten dat het contract mag worden verlengd. Staatssecretaris Van der Burg (Slagvaardige Overheid) zegt dat er te weinig tijd is om uiterlijk augustus over te stappen naar een ander IT-bedrijf. Normaal gesproken zou dat zes tot twaalf maanden duren, liet hij aan de Tweede Kamer weten.

Spoedprocedure bij de rechtbank

Om te proberen de contractverlening tegen te houden, stapten drie mensen zonder succes naar de rechter. Een van hen is Karin Ramaker. Zij begon online een handtekeningenactie waarin zij ervoor pleit de overname van Solvinity tegen te houden. Die is op dit moment door ruim 190.000 mensen ondertekend. "Die zorgen zijn er dus onder heel veel burgers", zegt ze tegen de NOS.

Zodra Solvinity is overgenomen door het Amerikaanse bedrijf, valt het onder Amerikaanse wetgeving, zegt mede-initiatiefnemer van de rechtszaak Jacqueline Roig. "Dat wil niet zeggen dat ik denk dat er direct een database wordt verstuurd", zegt ze. "Helemaal niet. Maar waar ik bang voor ben: wanneer de overheid in Amerika data wil inzien of blokkeren van een Nederlander, dan kán ze dit doen."

Maar de rechter heeft nu dus beslist dat het contract toch mag worden verlengd. Omdat het om een spoedprocedure ging is er alleen een korte uitspraak gepubliceerd, nog zonder de motivering van de rechtbank. Die volgt binnen twee weken. De advocaat van de initiatiefnemers laat aan de NOS weten teleurgesteld te zijn in de uitspraak.

Overname nog niet definitief

De overname van Solvinity door het Amerikaanse bedrijf is nog niet definitief. Op dit moment loopt er nog een onderzoek van Bureau Toetsing Investeringen (BTI). Deze toezichthouder onderzoekt of de overname een risico is voor de nationale veiligheid.

Het is onduidelijk wanneer het onderzoek van het BTI klaar is. De toezichthouder kan de overname niet zelf tegenhouden, maar wel een advies uitbrengen aan de minister van Economische Zaken. Die beslist of de overname uiteindelijk wel of niet mag doorgaan.

De Canadese omroep kwam de Nederlanders op het spoor nadat de universiteiten van Toronto en Montreal hadden ontdekt dat twintig YouTube-kanalen zijn gewijd aan het verspreiden van video's die separatisme in Canada als onderwerp hebben.

Deze video's werden volgens de universiteiten in totaal zeker 40 miljoen keer bekeken. De onderzoekers spreken van "een gecoördineerd netwerk dat zich richt op separatisme in westelijke Canadese provincies".

Afscheidingsbeweging

Het doel ervan zou zijn om politieke verdeeldheid in het land te misbruiken. In Alberta, een westelijke provincie die grenst aan de VS, is een beweging actief die afscheiding van Canada nastreeft. Zo wil een deel van de inwoners dat de olierijke provincie zelfstandig wordt; een ander, kleiner deel wil zelfs dat Alberta zich aansluit bij de VS.

De onderzoekers spreken van "slopaganda", een nieuwe vorm van politieke beïnvloeding waarvoor ook AI wordt ingezet. Een van hen noemt noemt het "verontrustend dat deze stemmen zich in het debat mengen en de inwoners van Alberta misleiden, puur om geld te verdienen".

Bij YouTubevideo's zijn altijd advertenties te zien en beheerders van kanalen die video's uploaden krijgen een deel van de inkomsten daarvan. Hoe vaker een video wordt bekeken, hoe meer advertentie-inkomsten de kanalen krijgen.

Nepuitspraken

In de filmpjes komen acteurs voor die zich uitspreken voor de afscheiding van Alberta. Die zijn ingehuurd via verschillende platforms en niet allemaal Canadees. Ook is gebruik gemaakt van beelden van een Canadese acteur die helemaal geen voorstander is van afscheiding van de provincie. Zijn door AI vervormde stem is gebruikt als voice-over voor verschillende filmpjes.

In het rapport staat dat de video's doorspekt zijn van leugens en uit hun verband gehaalde nieuwskoppen. Ook wordt fel van leer getrokken tegen de Canadese premier Carney en wordt nepnieuws verspreid over de Canadese politiek. De video's staan vol met onechte uitspraken van Carney en andere hoogwaardigheidsbekleders, blijkt uit het onderzoek.

'Zal niet meer gebeuren'

De nieuwzender ontdekte dat Nederlanders achter de YouTube-accounts zitten doordat de daaraan verbonden X-accounts in Nederland zijn aangemaakt. Ook blijkt een van de scripts die naar een ingehuurde acteur is gestuurd, te zijn gemaakt door een Nederlander.

Die ontkent na vragen van CBC alle betrokkenheid en stelt dat iemand mogelijk zijn account heeft gehackt. Ook een andere Nederlander, die een Amerikaan had betaald voor het inspreken van filmpjes, beweert dat hij geen misleidende content op een van de YouTubekanalen heeft geplaatst.

Een van de Nederlanders bevestigt aan nieuwsmedium BNR dat hij achter een van de YouTube-accounts zit. Het was niet zijn bedoeling om zich te bemoeien met de politiek in Canada, zegt hij. Hij beweert ook geen banden met de separatisten te hebben. "Het zal niet meer gebeuren", zegt hij tegen BNR.

Referendum

De YouTube-accounts die werden onderzocht en genoemd door CBC zijn niet meer beschikbaar. De Nederlanders die CBC opvoert zijn lastig vindbaar op sociale media zoals LinkedIn en Instagram. Mogelijk hebben ze nadat het nieuws naar buiten was gekomen hun accounts offline gehaald.

Een woordvoerder van YouTube laat weten dat spam, oplichting of andere misleidende praktijken niet worden toegestaan op het platform. "We hebben de bevindingen in het rapport grondig bekeken en dertig kanalen beëindigd vanwege het schenden van onze communityrichtlijnen."

De separatistenbeweging kondigde gisteren aan dat er ruim 300.000 handtekeningen zijn verzameld voor een referendum over afscheiding. De premier van de provincie gaat nu de authenticiteit van de handtekeningen controleren. Mogelijk gaat het referendum daarna daadwerkelijk door.

Het lijkt erop dat de oude berichten, foto's en volgers bewaard zijn gebleven, meldt stadsomroep AT5.

De ergernis was groot toen Meta, moederbedrijf van Instagram en Facebook, vorige week zonder enige uitleg queer sites als Club Church, Tillatec en The Queer Agenda blokkeerde.

Onzichtbaar

"Je voelt je kwetsbaar, alsof je teruggedrongen wordt naar de jaren 50", reageerde Richard Keldoulis, mede-eigenaar van een aantal queer clubs zoals Club Church. "Je bent helaas heel afhankelijk van Instagram en Facebook. In de stad en in Nederland zijn we wel bekend, maar dit soort platformen zijn erg belangrijk voor ons om toeristen te trekken. Nu zijn we onzichtbaar."

The Queer Agenda, met nieuws over queer feestjes en fototentoonstellingen, werd vorige week zelfs al voor de tweede keer geblokkeerd door Meta. Oktober vorig jaar gebeurde dat ook al. The Queer Agenda was daarmee 11.000 volgers kwijt. Oprichter Jackie van Gemert: "Je bent ineens je werk en de toegang tot je community kwijt."

Mensenhandel

Uit een screenshot dat Van Gemert toen deelde met de NOS bleek dat een geautomatiseerd systeem van Meta The Queer Agenda aanmerkte als een account dat de regels overtrad, zoals het "promoten van mensenhandel voor seksuele doeleinden".

Zelf dacht Van Gemert dat het systeem was aangeslagen op foto's van mensen in een club met weinig kleding aan. Maar, zo zei ze, "ik weet niet wat daar anders aan zou zijn dan influencers in bikini op het strand." En die worden op Insta wel toegestaan.

Meta zei in december in de Britse krant The Guardian dat de regels op sociale media voor iedereen gelijk zijn, en ook zo worden gehandhaafd.

Sekswerkers

Het lijkt erop dat Meta zich richt op queer en lhbti-accounts en accounts die beheerd worden door sekswerkers of die informatie bieden over toegang tot abortus. Dat zegt Repro Uncensored, een organisatie die gevallen van censuur bijhoudt op sociale media, vooral op het gebied van gender en seksualiteit.

Het probleem is daarbij volgens die organisatie dat Meta een systeem van kunstmatige intelligentie gebruikt om overtredingen van de eigen regels vast te stellen, bijvoorbeeld als het gaat om naakt of mensenhandel. Maar dat systeem wordt gemanipuleerd doordat tegenstanders van abortus of genderdiversiteit campagne voeren om massaal te rapporteren dat zulke accounts de regels overtreden.

Korte mededeling

In februari verschenen veel queer pagina's, opnieuw zonder enige uitleg, weer op sociale media. Totdat een aantal accounts op 24 april dus voor de tweede keer geblokkeerd werd.

Overigens zijn niet alle queer accounts deze week terug. Wie Tillatec op Insta zoekt krijgt alleen een korte mededeling te zien: "De door jou gevolgde link is mogelijk buiten werking of de pagina is verwijderd."

Musk is de man achter automaker Tesla, ruimtevaartbedrijf SpaceX, het sociale medium X en het AI-bedrijf xAI. Hij is de rijkste persoon op aarde met een geschat vermogen dat in de honderden miljarden dollars loopt.

Altman is het gezicht van OpenAI, het bedrijf achter het AI-tekstprogramma ChatGPT. De ontstaansgeschiedenis en groei van het bedrijf staan centraal in de rechtszaak die Musk tegen hem is gestart.

Musk beweert dat hij door Altman is misleid toen hij in de beginjaren van OpenAI geld doneerde.

OpenAI als onderzoeksbedrijf

Musk en Altman kennen elkaar uit het Amerikaanse techwereldje in Californië. Ze hadden in het begin een goede relatie en bespraken de zorgen rond kunstmatige intelligentie (AI). Ze waren het erover eens dat de technologie goed moet uitpakken voor de mensheid.

Na maandenlange gesprekken hierover richtten ze in 2015 samen OpenAI op. De organisatie beschrijft zichzelf als een "non-profit onderzoeksbedrijf op het gebied van kunstmatige intelligentie". Het plan was om te werken aan AI-technologie die "goed voor ons allemaal" is, zonder het doel om winst te maken.

Musk werd een van de belangrijkste geldschieters van OpenAI. Tot september 2020 doneerde hij ongeveer 38 miljoen euro. OpenAI gebruikte het geld onder meer om personeel te betalen, de huur te betalen en om computerrekenkracht te kopen die nodig is om AI-technologie te ontwikkelen.

Tien jaar na de oprichting van OpenAI, laten de protesten bij de rechtbank van begin deze week zien dat deze vraag wie profiteert van AI nog steeds speelt. Gaat de mensheid profiteren van AI-technologie, of zijn dat vooral een paar rijken uit de techwereld? Demonstranten spreken zich daarbij niet alleen uit tegen Musk en Altman, maar ook tegen AI-technologie in het algemeen.

Musk: OpenAI heeft belofte gebroken

Musk zegt dat hij zijn geld doneerde omdat OpenAI een organisatie zou blijven die AI-technologie ontwikkelde die ten goede zou komen aan de hele mensheid en geen winst zou maken. "Zonder die wezenlijke beloften, zou Musk niet aan OpenAI hebben bijgedragen", schrijven zijn advocaten.

Die belofte is gebroken, zegt Musk. In 2018 richtte OpenAI een commercieel bedrijfsonderdeel op. Andere bedrijven kunnen daarin geld investeren, in de hoop dat terug te verdienen. OpenAI doet dat omdat het beseft dat alleen donaties niet genoeg geld opleveren om de doelen te halen.

Altman en OpenAI wisten of hadden moeten weten dat Musk zijn geld doneerde voor OpenAI's oorspronkelijke doel en "niet om investeerders rijker te maken", zegt Musk. Volgens hem heeft Altman zijn geld voor non-profit gebruikt om OpenAI te veranderen "in een commerciële gigant gericht op winst" en heeft ook Altman zelf daar veel geld mee verdiend.

OpenAI: Musk wilde macht

OpenAI zegt dat er helemaal geen harde afspraken waren over de donaties van Musk. Bovendien was Musk zelf betrokken bij de gesprekken over een nieuw op winst gericht bedrijfsonderdeel, zegt OpenAI.

In die periode wilde Musk volgens OpenAI de macht over dit nieuwe bedrijfsonderdeel hebben. Altman zou dit hebben geweigerd. Daarna zou Musk hebben geprobeerd om OpenAI onderdeel te maken van zijn autobedrijf Tesla. Ook dat mislukte, schrijft OpenAI, waarna Musk in februari 2018 opstapte uit het bestuur van OpenAI. Een halfjaar later werd het op winst gerichte bedrijfsonderdeel opgericht.

In de jaren daarna ontving OpenAI 3 miljard dollar aan investeringen van Microsoft. Dat was nog voordat het bedrijf bekend werd bij het grote publiek. Dat gebeurde pas nadat OpenAI eind 2022 het AI-tekstprogramma ChatGPT uitbracht. Het wordt gezien als een belangrijk moment in de aandacht voor allerlei vormen van kunstmatige intelligentie.

Volgens OpenAI voert Musk de rechtszaak uit eigen belang, omdat hij begin 2023 een eigen AI-bedrijf oprichtte: xAI. Dit bedrijf is onder meer de ontwikkelaar van ChatGPT-concurrent Grok. Een jaar geleden werd het bedrijf eigenaar van het sociale medium X, en In februari werd xAI onderdeel van Musks ruimtevaartbedrijf SpaceX.

Persoonlijk en zakelijk gevecht

Dat maakt de rechtszaak niet alleen een persoonlijke ruzie tussen Musk en Altman, maar ook een zakelijke gevecht. SpaceX en OpenAI hebben allebei plannen voor een beursgang.

Met de rechtszaak wil Musk bereiken dat OpenAI's aanpassing naar een op winst gericht bedrijf wordt teruggedraaid. Ook wil hij dat "alle onrechtmatig verkregen winst" terechtkomt bij het non-profitonderdeel van OpenAI.

Musk vraagt niet om een specifiek bedrag, maar liet de onrechtmatig verkregen winst eerder schatten op 78 miljard tot 134 miljard dollar. Het gaat waarschijnlijk weken duren voordat de rechter een oordeel velt. Als dat is gebeurd, gaat de zaak verder over welke oplossing daar goed bij past.

De commissie stelt dat het voor kinderen jonger dan dertien jaar te eenvoudig is om een account voor Instagram en Facebook aan te maken, omdat ze kunnen liegen over hun leeftijd. De Europese Commissie wijst naar onderzoek waaruit blijkt dat tussen de 10 en 12 procent van de Europese kinderen onder de dertien een account heeft bij een Meta-platform.

Ook hebben Facebook en Instagram geen goed werkende methode om accounts van minderjarige gebruikers te verwijderen, vindt de Commissie. Het wordt melders onnodig lastig gemaakt om die accounts te rapporteren en Meta lijkt weinig met meldingen te doen.

Megaboete

De Europese Commissie vindt dat Meta daarmee onverantwoordelijk omgaat met de risico's die minderjarigen lopen op sociale media. Kinderen lopen een verhoogd risico om te worden blootgesteld aan heftige beelden en zijn extra gevoelig voor de verslavende werking van Facebook en Instagram.

Meta moet met een nieuwe strategie komen om kinderen van zijn platforms te weren en betere methodes te ontwikkelen om accounts van jonge kinderen te verwijderen.

Het bedrijf van Mark Zuckerberg krijgt nu de tijd om zich te verdedigen tegen de conclusies uit het onderzoek. Maar als de Commissie de reactie onvoldoende acht, dreigt een boete die kan oplopen tot maximaal 6 procent van de jaaromzet van het socialemediabedrijf. De boete zou daarmee kunnen uitkomen in de miljarden.

Harde eisen

Het onderzoek dat de Europese Commissie deed, valt onder de internetwetgeving van de Digital Services Act (DSA). Die wetten uit 2022 zijn bedoeld om Europese burgers te beschermen tegen de macht van grote techbedrijven.

Eerder dit jaar werd TikTok ook geconfronteerd met een terechtwijzing op basis van de DSA. Het socialemediaplatform zou door het extreem verslavende ontwerp Europese regels overtreden en moet ook nog aanpassingen doorvoeren om een miljardenboete te voorkomen.

Het is een van de speerpunten van de Europese Commissie om kinderen van sociale media te weren. Eerder deze maand presenteerde de Commissie nog een online leeftijdscontrole-app. Die app moet het in de toekomst moeilijker maken om te liegen over je leeftijd, doordat gebruikers zich moeten legitimeren met een geldig identiteitsbewijs.

Plantenga reageert onder andere op kritiek dat Vinted niet zo duurzaam is als het lijkt. "Ik zie een heleboel mensen meningen naar buiten gooien die nergens op gebaseerd zijn", zegt hij geïrriteerd. "Het is misinformatie, het is gewoon niet waar."

Deze aflevering van De Dag kun je beluisteren via NPO Luister en alle andere podcastkanalen. Bevalt het? Vergeet je dan niet te abonneren!

Juist om de geloofwaardigheid van de duurzaamheidsmissie van Vinted te waarborgen voert het bedrijf naar zijn zeggen een gevecht tegen bijvoorbeeld dropshippers, die hij omschrijft als 'enorme machines die ons platform proberen te kraken'.

Reageren? Mail dedag@nos.nl

Presentatie en montage: Elisabeth Steinz

Redactie: Max Smedes en Lisa Konings

Manus werd nog geen vijftien maanden geleden gelanceerd. De chatbot die direct opdrachten kan uitvoeren werd opgericht door de Chinese programmeur Xiao Hong. In acht maanden zou Manus al een omzet van meer dan 100 miljoen dollar hebben gehad.

Overname van 2 miljard

Meta legde eind vorig jaar zeker 2 miljard dollar neer om Manus in handen te krijgen. Het was op twee na grootste aankoop ooit voor de Amerikaanse techgigant. Voor de overname verhuisde Manus in juli vorig jaar het hoofdkwartier van Peking naar Singapore. Het opende toen ook kantoren in Tokio en San Francisco.

Nadat oprichter Xiao Hong bij Meta de leiding had gekregen over de AI-strategie, werd in maart de technologie van zijn bedrijf geïntegreerd in Facebook, Instagram en WhatsApp.

Opvallend is dat China vorig jaar nog goedkeuring gaf voor de verhuizing naar Singapore, zo schreef de Financial Times vorige week in een reconstructie. De AI van Manus werd toen niet als cruciale techniek beoordeeld. Daarbij zou een verhuizing terug naar China eenvoudig te realiseren zijn. Maar de Chinese toezichthouders zouden nu vanuit de regering onder druk zijn gezet dit besluit "te corrigeren".

Oprichters vast in China

Onduidelijk is hoe het verder moet met Manus nu China de overname verbiedt. Volgens de FT zitten Xiao Hong en zijn mede-oprichter vast in China. De twee mochten het land niet uit tot er een besluit over de overname van hun bedrijf was genomen. In de korte verklaring melden de Chinese autoriteiten ook niet wat er nu moet gebeuren.

China en de Verenigde Staten liggen al enige tijd met elkaar overhoop wat betreft handel en de race om krachtigste kunstmatige intelligentie. De VS wil bijvoorbeeld niet dat de "super-AI" Mythos van het Amerikaanse Anthropic in China wordt gebruikt. Mogelijk gebruikt China nu de overname van Manus als drukmiddel tegen de VS.

Manus en Meta hebben zelf nog niet gereageerd op het overnameverbod.

Correspondent China Gabi Verberg:

"Om zowel economische als geopolitieke redenen was dit een gevoelige verkoop. Kunstmatige intelligentie geldt als één van de belangrijkste strategische ontwikkelingsgebieden voor China. De overheid doet er dan ook alles aan om zowel private als publieke bedrijven maximaal te faciliteren in hun groei. Het is dan vervolgens niet de bedoeling dat als deze bedrijven succesvol zijn, ze het land verlaten en hun verworven kennis in de verkoop doen. En zeker niet aan de VS.

Daarmee raken we aan een tweede gevoeligheid. De handelsoorlog tussen China en de VS mag tijdelijk dan afgekoeld zijn toen de landen hun importheffingen voor een jaar verlaagden, maar de technologische rivaliteit is onverminderd intens.

Beide landen werpen blokkades op om elkaars ontwikkeling te remmen: van exportrestricties op geavanceerde chips en kritieke grondstoffen tot het weren van technologieën en investeringen. De blokkade van de verkoop van Manus lijkt daar het laatste slachtoffer van."