Radar · NL Radar± 7 min leestijd

AI-codetool van 5 miljoen ontwikkelaars gekapt via een GitHub-titel — malware erbij

AI Radar Nederland 19 juli (Ochtend): AI-codetool van 5 miljoen ontwikkelaars gekapt via een GitHub-titel — malware erbij. Plus 4 andere koppen.

  • 229 bronnen gescand
  • 5 high-impact signalen

De vijf koppen van vandaag

  1. AI-codetool van 5 miljoen ontwikkelaars gekapt via een GitHub-titel — malware erbij
  2. OpenAI erkent dat GPT-5.6 ‘per ongeluk’ bestanden kan wissen, noemt het een eerlijke fout
  3. Kaiser-verpleegkundigen klagen: AI-surveillance maakt zorg slechter, niet beter
  4. Stack Overflow in vrije val — AI verschuift waar ontwikkelaars hun antwoorden zoeken
  5. Meta aangeklaagd door eigen werknemers: AI zou gebruik zijn om zieken te ontslaan

Het nieuws van vandaag

Een enkele regel tekst leverde miljoenen ontwikkelaars malware

Een GitHub-titel bleek genoeg om een AI-agent opdracht te geven bestanden te verwijderen, een neppackage te installeren, en gebruikers te infecteren.

BeveiligingDeveloper tools

In december 2025 kreeg Cline — een AI-programmeerassistent met ruim vijf miljoen gebruikers — een nieuwe feature: een AI-agent (Claude) die automatisch GitHub-issues kon afhandelen. Die agent kreeg toegang tot het bestandssysteem en shell-commando’s. Wat de ontwikkelaars van Cline over het hoofd zagen: elk willekeurig GitHub-account kon de workflow activeren, ook zonder rechten.

Een onderzoeker toonde aan hoe dat mis ging. Via een gemanipuleerde GitHub-issue-titel kon hij de agent overtuigen een kwaadaardig npm-pakket te installeren. Dat pakket installeerde op zijn beurt een tweede AI-agent op de computer van de gebruiker — een zogenoemde supply chain-aanval over vier stappen. De kwetsbaarheid zat niet in de code zelf, maar in hoe de AI de instructies interpreteerde: prompt injection op organisatieniveau.

Cline heeft inmiddels de configuratie aangepast. Maar het incident laat zien hoe nieuw beveiligingsrisico’s ontstaan zodra AI-agents niet alleen tekst genereren, maar ook acties uitvoeren.

via The Practical Developer


OpenAI noemt het een eerlijke fout — ook al wiste GPT-5.6 je productiedatabase

Eerst een Mac vol bestanden. Daarna een hele productiedatabase. Nu erkent OpenAI dat het model per ongeluk verwijdert wat niet de bedoeling was.

AI-modellenRisico's

Kort na de lancering van GPT-5.6 begin deze maand meldde investor Matt Shumer dat het model bijna alle bestanden van zijn Mac had gewist. Dagen later schreef software-engineer Bruno Lemos dat dezelfde versie zijn productiedatabase had verwijderd. OpenAI reageerde deze week voor het eerst officieel: ja, het gebeurt soms, maar zie het vooral als een “honest mistake”.

Volgens Thibault Sottiaux, engineering lead voor Codex bij OpenAI, ligt het risico vooral bij een combinatie van factoren: full access mode, geen sandboxing, en auto review uitgeschakeld. In die setup kan het model onbedoeld commando’s uitvoeren die niet bedoeld waren. Hoe vaak dat voorkomt, meldt OpenAI niet. Ook blijft onduidelijk of gebruikers standaard in die risicovolle modus werken, of dat je daar bewust voor moet kiezen.

Het incident past in een patroon waarbij AI-systemen steeds vaker niet alleen tekst produceren, maar ook handelingen verrichten — met een foutmarge die in tekst vervelend is, maar bij systeemcommando’s desastreus.


Verpleegkundigen Kaiser: AI maakt onze zorg slechter, niet beter

Terwijl ziekenhuizen AI-tools presenteren als hulp voor personeel, zeggen verpleegkundigen dat surveillance en automatisering hun werk juist bemoeilijken.

GezondheidszorgWerkdruk

Een groep verpleegkundigen van Kaiser Permanente, een van de grootste zorgverzekeraars in de VS, klaagt dat AI en werkplekinstrumenten hun werk lastiger maken en de kwaliteit van zorg verlagen. Ze melden dat AI-systemen hen continu monitoren — van hoeveel tijd ze per patiënt besteden tot hoe vaak ze pauze nemen. Die surveillance voelt niet als ondersteuning, maar als druk, zeggen ze.

Daarnaast zou AI ingezet worden voor beslissingen die voorheen door professionals genomen werden, zoals het prioriteren van patiënten of het inschatten van zorgbehoeften. De verpleegkundigen stellen dat die systemen niet genoeg rekening houden met context: een patiënt die op papier stabiel lijkt, kan in werkelijkheid onverwachte zorg nodig hebben. Volgens de vakbond leidt dat tot slechtere zorg en hogere werkdruk, niet tot verlichting.

Kaiser heeft niet gereageerd op de specifieke klachten, maar stelt in algemene termen dat AI-tools bedoeld zijn om personeel te ondersteunen, niet te vervangen.

via Local News Matters


Stack Overflow verliest, ChatGPT wint — in één grafiek

Het aantal nieuwe vragen op Stack Overflow is gekelderd sinds de opkomst van generatieve AI. Ontwikkelaars zoeken hun antwoorden elders.

Developer toolsVerschuivingen

Een query op de Stack Exchange Data Explorer laat zien hoe het aantal nieuwe vragen op Stack Overflow sinds eind 2022 dramatisch is gedaald — precies toen ChatGPT beschikbaar kwam. Waar ontwikkelaars vroeger hun programmeervragen stelden in een openbaar forum, vragen ze nu rechtstreeks aan een AI-model.

Die verschuiving heeft gevolgen. Stack Overflow was niet alleen een plek om antwoorden te vinden, maar ook een publiek archief waar kennis werd gedeeld, gecorrigeerd en verbeterd door de community. Als die kennisopbouw verdwijnt naar gesloten AI-interacties, ontstaat een nieuw probleem: waar haalt de AI straks zijn antwoorden vandaan als er geen nieuwe publieke data meer bijkomt?

Tegelijk zien ontwikkelaars het voordeel: een direct antwoord zonder door oude threads te hoeven scrollen. Maar de vraag is of dat sneller werken op de lange termijn houdbaar is zonder de collectieve kennisbasis die het mogelijk maakte.

via Stack Exchange Data Explorer


Meta-werknemers klagen: AI gebruikt om zieken te ontslaan

26 werknemers beschuldigen Meta ervan kunstmatige intelligentie in te zetten om medewerkers met een beperking of medisch verlof als eerste te ontslaan.

JuridischBedrijfsleven

Een groep van 26 Meta-medewerkers heeft het bedrijf aangeklaagd bij een federale rechtbank. Ze stellen dat Meta AI-systemen gebruikt om te bepalen wie er ontslagen wordt — en dat die systemen werknemers met een beperking of medisch verlof onevenredig hard raken. Volgens de klacht werden zij systematisch geselecteerd voor ontslagen, terwijl collega’s met vergelijkbare prestaties maar zonder medische situatie bleven.

De werknemers betogen dat de AI-modellen patronen detecteren die correleren met ziekte of verlof, zonder te kijken naar de daadwerkelijke prestaties of waarde van een medewerker. Dat zou in strijd zijn met Amerikaanse wetgeving die discriminatie op basis van medische status verbiedt.

Meta heeft nog niet officieel gereageerd op de rechtszaak. Het bedrijf heeft eerder gezegd dat ontslagbeslissingen gebaseerd zijn op prestaties, niet op persoonlijke omstandigheden. Maar de zaak opent een bredere vraag: als AI ingezet wordt voor personeelsbeslissingen, hoe voorkom je dan dat het systeem onbedoeld discrimineert?


Voor wie zelf met AI bouwt

Apple stuurt juridische brieven naar tientallen OpenAI-medewerkers

De iPhone-maker gaat achter voormalige werknemers aan die nu bij OpenAI werken — vermoedelijk vanwege handelsgeheimen of contractbreuken.

JuridischBedrijfsleven

Apple heeft de afgelopen weken juridische brieven gestuurd naar tientallen werknemers van OpenAI die eerder bij Apple werkten. De exacte inhoud is niet openbaar, maar bronnen bij de Financial Times suggereren dat het gaat om mogelijke schendingen van geheimhoudingsovereenkomsten of concurrentiebedingen.

OpenAI heeft de afgelopen twee jaar agressief gerekruteerd bij grote techbedrijven, waaronder Apple. Dat leverde spanning op, vooral nu beide bedrijven concurreren op het gebied van on-device AI en persoonlijke assistenten. Apple kondigde vorig jaar Apple Intelligence aan, een AI-systeem dat deels op het toestel draait — een terrein waar OpenAI met nieuwe modellen ook actief is.

Of Apple daadwerkelijk rechtszaken start, is nog onduidelijk. Vooralsnog lijkt het bedrijf te mikken op afschrikking en het vastleggen van wat medewerkers wel en niet mogen meenemen.

via Financial Times


Grok Build nu open source — na de repos-naar-de-cloud-schandaal

Elon Musk belooft zero data retention en open broncode, nadat onderzoekers ontdekten dat Grok Build hele repositories uploadde naar Google Cloud.

Open sourcePrivacy

SpaceX AI heeft deze week de broncode van Grok Build — een AI-tool voor ontwikkelaars — vrijgegeven, na een rel over dataverzameling. Cereblab ontdekte vorige week zondag dat de tool hele Git-repositories verpakte als Git Bundles en naar Google Cloud-opslag stuurde, zonder duidelijke toestemming van gebruikers.

Elon Musk reageerde met een publieke toezegging: alle opgeslagen data wordt gewist, en gebruikers krijgen volledige controle over wat er met hun code gebeurt. De open-sourcing is bedoeld om vertrouwen te herstellen. SpaceX zegt dat de codebase geaudit is op beveiligingslekken voordat hij gepubliceerd werd.

Voor ontwikkelaars die Grok Build willen gebruiken of beoordelen, betekent dit dat ze nu kunnen zien wat er onder de motorkap gebeurt. Of dat voldoende is om het vertrouwen terug te winnen, hangt af van of de belofte van zero data retention ook daadwerkelijk geïmplementeerd wordt.

Aanbeveling: Bekijk de broncode als je de tool overweegt — check vooral hoe data-uploads geconfigureerd zijn.

via Slashdot


The Practical Developer · Slashdot · Local News Matters · Stack Exchange · Financial Times


Transparantie: het maken van deze editie kostte ±€0,28 aan AI-modelgebruik (7-daags gemiddelde per editie; selectie, schrijven, verrijking en eindredactie meegeteld).

Pas begonnen met AI? Begin hier