Radar · NL Radar± 7 min leestijd

WHO waarschuwt: medische AI in Europa groeit sneller dan het toezicht kan bijhouden

AI Radar Nederland 16 juli (Avond): WHO waarschuwt: medische AI in Europa groeit sneller dan het toezicht kan bijhouden. Plus 4 andere koppen.

  • 210 bronnen gescand
  • 5 high-impact signalen

De vijf koppen van vandaag

  1. WHO waarschuwt: medische AI in Europa groeit sneller dan het toezicht kan bijhouden
  2. Russische hacker gebruikt Google’s Gemini als interactieve assistente voor cyberaanval
  3. Android 18 opent de deur: ChatGPT en Claude krijgen straks evenveel toegang als Gemini
  4. Japan bouwt ‘s werelds eerste nationale AI-fabriek met 27.500 Nvidia-chips
  5. China lanceert World AI Cooperation Organization — zonder de VS aan tafel

Het nieuws van vandaag

WHO slaat alarm: medische AI vliegt sneller dan toezicht kan volgen

In Europese ziekenhuizen wordt AI massaal ingezet, maar niemand kijkt echt mee.

BeleidGezondheidszorg

De Wereldgezondheidsorganisatie waarschuwt voor een gevaarlijke kloof. Europese ziekenhuizen zetten kunstmatige intelligentie steeds sneller in, maar toezicht blijft achter. Hans Henri P. Kluge, hoofd van WHO Europa, ziet dat AI werkprocessen verbetert en helpt bij diagnostiek. Tegelijk ontstaat er een blinde vlek: er is nauwelijks controle op wat die systemen precies doen, hoe ze zijn getraind, of wanneer ze fouten maken.

Het is niet de eerste keer dat medische technologie sneller groeit dan regelgeving. Maar bij AI is de inzet hoger. Een fout in een diagnostisch algoritme treft niet één patiënt, maar potentieel duizenden tegelijk. En dat gebeurt vaak onopgemerkt.

Russische hacker laat Gemini het vuile werk doen

Een cybercrimineel gebruikte Google’s AI-tool als interactieve assistente voor een aanval op een tandartspraktijk.

CybersecurityMisbruik

Een Russische hacker met de naam “bandcampro” heeft Google’s Gemini CLI gebruikt om acht computers bij een tandartspraktijk over te nemen. Gemini CLI is een hulpmiddel dat ontwikkelaars helpt door opdrachten in gewone taal uit te voeren. De hacker zette het in om een klein botnet te besturen.

Beveiligingsonderzoekers van Trend Micro analyseerden 200 sessielogs. Ze zagen hoe de hacker in gewone taal instructies gaf: verplaats de besturingsinfrastructuur, los verbindingsproblemen op, bundel de schadelijke software. De AI voerde alles uit.

De hacker deed zich voor als penetratietester. Hij liet de AI dagelijkse aanvalstaken uitvoeren, zoals wachtwoorden raden en inbreken op WordPress-sites. Het gaat om een kleine aanval, maar het principe is duidelijk. AI-tools die ontwikkelaars moeten helpen, werken net zo goed voor kwaadwillenden.

Android 18 maakt einde aan Gemini-monopolie

ChatGPT en Claude krijgen straks dezelfde toegang tot je telefoon als Google’s eigen assistent.

PlatformsConcurrentie

Google opent Android 18 voor AI-chatbots van concurrenten. ChatGPT van OpenAI en Claude van Anthropic kunnen straks op dezelfde manier worden opgeroepen als Gemini, de assistent van Google zelf. Ze krijgen ook dezelfde toegang tot informatie uit andere apps op je telefoon. Gebruikers zitten daardoor niet langer vast aan Google’s eigen assistent.

De stap lijkt vrijwillig, maar is waarschijnlijk ook bedoeld om Europese regelgevers voor te zijn. Brussel vraagt platformhouders als Google en Apple al langer om ruimte te maken voor alternatieven. Apple kondigde vorige maand een vergelijkbare opening aan voor iOS.

Japan bouwt eerste nationale AI-fabriek

Een datacenter van 140 megawatt met 27.500 Nvidia-chips wordt de basis voor robotica en digitale tweelingen.

InfrastructuurIndustriebeleid

Nvidia en het Japanse Noetra Corp. bouwen samen een grote AI-fabriek. Die moet de basis worden van FRONTia, het door de Japanse overheid gefinancierde programma voor fysieke AI. De faciliteit krijgt 27.500 Rubin GPU’s – grafische processors die rekenkracht leveren – en 13.750 Vera CPU’s.

In de fabriek worden basismodellen getraind die tekst, beeld en andere gegevens kunnen verwerken. Die modellen zijn bedoeld voor robotica, digitale tweelingen en industriële automatisering. Japanse ontwikkelaars krijgen er vrij toegang toe.

Jensen Huang, CEO van Nvidia, noemt het “de AI-fabrieken die de volgende industriële revolutie aandrijven.” Japan probeert met deze investering een achterstand in te halen. Het land bedacht ooit de moderne productie-industrie, maar miste de boot bij cloud en AI. Met deze fabriek wil het die achterstand in één klap goedmaken.

via Tom’s Hardware

China start World AI Cooperation Organization — zonder het Westen

Negenentwintig landen tekenden in Shanghai een akkoord voor een intergouvernementeel AI-orgaan buiten VN-verband.

GeopolitiekBeleid

China, Rusland, Brazilië en 26 andere landen richtten donderdag de World AI Cooperation Organization op tijdens een bijeenkomst in Shanghai. Het nieuwe orgaan moet een platform worden voor internationale samenwerking op AI-gebied. Opvallend is vooral wie er ontbreekt: de Verenigde Staten, de Europese Unie en andere westerse bondgenoten zitten niet aan tafel.

De timing zegt veel. De VS en Europa leggen steeds meer restricties op aan Chinese toegang tot geavanceerde chips en AI-technologie. China bouwt nu een parallelle structuur waarin het zelf de spelregels bepaalt. Wat de organisatie precies gaat doen is nog onduidelijk. De symboliek is wel helder: het AI-landschap verdeelt zich in blokken.

via Reuters via Techmeme

Meta waarschuwt ouders als tieners met AI praten over zelfbeschadiging

De chatbot detecteert risicovolle gesprekken en brengt ouders direct op de hoogte.

VeiligheidEthiek

Meta voegt een nieuwe veiligheidsmaatregel toe aan zijn AI-chatbot: wanneer een tiener in een gesprek signalen geeft van zelfbeschadiging of suïcidale gedachten, worden ouders automatisch gewaarschuwd. Het bedrijf erkent daarmee dat AI-chatbots voor veel jongeren een laagdrempelige manier zijn geworden om over moeilijke onderwerpen te praten — soms makkelijker dan met mensen.

De maatregel roept ook vragen op. Privacydeskundigen waarschuwen dat automatische monitoring van gevoelige gesprekken de drempel om hulp te zoeken juist hoger kan maken. Tegelijk is de druk op platforms groot: als er iets misgaat en achteraf blijkt dat de chatbot signalen miste, ligt de aansprakelijkheid bij Meta.

via Digital Trends


Voor wie zelf met AI bouwt

Claude kan nu inloggen via 1Password — zonder je wachtwoorden te zien

Anthropic integreert met de wachtwoordmanager zodat de AI namens jou kan inloggen, zonder toegang tot credentials.

ToolsSecurity

Anthropic heeft Claude geïntegreerd met 1Password op macOS. De AI-assistent kan nu inloggen op websites en diensten door 1Password om de juiste gegevens te vragen, zonder dat Claude zelf je wachtwoorden ziet of opslaat. In de praktijk betekent dit dat je Claude kunt vragen “log in op mijn bankrekening en haal de laatste transacties op” — de chatbot vraagt 1Password om in te loggen, krijgt toegang, haalt de data, en sluit de sessie weer af.

Het lost een fundamenteel probleem op bij agentic AI: je wilt dat de assistent dingen voor je doet, maar je wilt hem geen permanente toegang geven tot gevoelige accounts. Deze aanpak houdt de credentials gescheiden van het AI-model, wat het risico op lekkage verkleint.

Aanbeveling: Experimenteer ermee als je Claude al voor workflow-automatisering gebruikt en 1Password draait — het is nu beschikbaar op Mac.

via Techzine


Thinking Machines Lab releaseert Inkling — open-weights multimodaal model

Mira Murati’s nieuwe lab brengt een 975B parameter Mixture-of-Experts model uit onder Apache-2.0 licentie.

Open sourceModels

Thinking Machines Lab, het nieuwe bedrijf van voormalig OpenAI CTO Mira Murati, heeft Inkling uitgebracht: een open-weights multimodaal model met 975 miljard totale parameters waarvan 41 miljard actief per inferentie-stap. Het model is getraind op 45 biljoen tokens aan tekst, beeld, audio en video, en uitgebracht onder Apache-2.0 licentie. Er komt ook een kleinere versie, Inkling-Small met 276 miljard parameters (12 miljard actief), maar die is nog in testing.

De modelkaart is opvallend kort en biedt weinig details over training data, evaluaties of beperkingen — minder transparantie dan je de laatste tijd van grote Amerikaanse labs gewend bent. De trainingsdocumentatie is nog dunner: twee paragrafen zonder concrete bronnen of sampling-strategieën.

Aanbeveling: Wacht tot de benchmarks en onafhankelijke evaluaties verschijnen voordat je het in productie neemt — de korte documentatie maakt risico-inschatting lastig.

via Simon Willison’s Weblog


Business AM · TechRadar · Digital Trends · Tweakers · Tom’s Hardware · Techzine · Reuters via Techmeme · Simon Willison’s Weblog


Transparantie: het maken van deze editie kostte ±€0,28 aan AI-modelgebruik (7-daags gemiddelde per editie; selectie, schrijven, verrijking en eindredactie meegeteld).

Pas begonnen met AI? Begin hier