De vijf koppen van vandaag
- Klein model van 3 miljard parameters evenaart tien keer zo grote concurrenten
- Waarom AI soms liegt – en hoe onderzoekers dat nu écht kunnen zien
- Nederlandse bedrijven gebruiken AI, maar de beveiliging van die agenten hapert
- Het vertrouwen van AI: niet zomaar een gok, maar een gestructureerd signaal
- Pathologie-AI leert ziekten herkennen op een schaal die geen arts bijbenen kan
Het nieuws van vandaag
Nanbeige: het kleine model dat zijn grote broers verslaat
Een compacte AI met 3 miljard parameters presteert op agent-taken even goed als modellen van 30 miljard.
De AI-wereld lijkt vaak een race om het grootste model. Maar onderzoekers van de Chinese groep achter Nanbeige laten deze week zien dat grootte niet alles is. Hun nieuwe model, Nanbeige4.2‑3B, heeft slechts 3 miljard parameters – een fractie van wat concurrenten als GPT‑4 gebruiken – en evenaart op taken als code‑assistentie, het bedienen van software, en complexe logica de prestaties van modellen die tien keer zo groot zijn. Het geheim zit in een slimme architectuur: de laag van het model wordt steeds opnieuw gebruikt, zonder extra rekenkracht. Daarnaast is het model getraind op een zorgvuldig samengestelde mix van echte en gesynthetiseerde taken, variërend van wiskunde tot Office‑hulp. Het resultaat: een model dat niet alleen klein is, maar ook nog eens efficiënt draait op een gewone laptop.
Hoe we eindelijk kunnen zien wanneer AI ons voorliegt
Een nieuwe methode ontwart de innerlijke twijfel van AI en filtert ruis uit het denkproces.
Grote redeneermodellen (zoals ChatGPT‑o) hebben een bijzonder probleem: voordat ze een antwoord geven, produceren ze vaak een lange interne monoloog vol overwegingen, stappen en ook – stilzwijgend – onzin. Die monoloog is een goudmijn om te controleren of het uiteindelijke antwoord klopt, maar hij zit vol afleiding: irrelevante zijdelingse gedachtes of herhalingen. Onderzoekers van de universiteiten van Peking en Stanford presenteren een techniek genaamd REDE die die ruis eruit filtert. Ze gebruiken de uiteindelijke aandacht van het model voor het antwoord als een soort stempel: welke stappen in de monoloog droegen echt bij aan het antwoord? Die stappen zijn informatief, de rest is ruis. Vervolgens trainen ze een apart detector‑model op die schone signaal om te voorspellen of het antwoord hallucinatie is. In tests op wiskunde‑ en redeneertaken verbetert de detectie met tientallen procenten ten opzichte van bestaande methodes.
Veiliger AI‑agenten: geef ze alleen de rechten die ze nú nodig hebben
Onderzoek stelt een preventieve beveiliging voor: als een agent geen toegang tot een tool heeft, kan die ook niet misbruikt worden.
Enterprise‑AI‑agenten krijgen tegenwoordig vaak een standaard set van rechten bij installatie: toegang tot e‑mail, databases, bestandssystemen – alles voor de zekerheid. Dat is alsof je elke medewerker een hoofdsleutel geeft. Een team van onderzoekers van de Universiteit van Amsterdam en partners stelt een architectuur voor die dat radicaal omdraait. Ze introduceren een ‘dynamische minste‑rechten’‑aanpak: vóórdat een agent een taak uitvoert, bepaalt een combinatie van rol, taak‑analyse, en bedrijfsbeleid welke tools exact nodig zijn. Tools die niet in die set zitten, bestaan voor de agent letterlijk niet. Het systeem kan ook in een observatiemodus draaien: dan registreert het alleen welke verzoeken de agent had willen doen maar niet mocht – een waardevol signaal voor afwijkend gedrag. De aanpak is preventief, niet detectief: een credential die niet in het geheugen van de agent zit, kan nooit worden misbruikt, hoe slim de agent ook probeert te ontsnappen.
Het vertrouwen van AI blijkt geen gok – maar een gestructureerd signaal
Een neurowetenschappelijk model legt uit wat de ‘twijfel’ van een taalmodel precies is.
Wanneer een AI een antwoord geeft met een hoge waarschijnlijkheidsscore, is dat dan een echte maat voor vertrouwen, of alleen een trucje? Onderzoekers van het MIT en de Universiteit van Princeton hebben dat getest met een bril uit de neurowetenschap: het Statistical Decision Confidence (SDC)‑model. Volgens dat model zou een optimale beslisser de logica van twijfel op een wiskundig consistente manier moeten opbouwen, als een normaal verdeeld bewijssignaal. De onderzoekers legden taalmodel‑antwoorden op perceptuele taken – zoals het onderscheiden van geluiden of beelden – langs deze meetlat. Het bleek dat het verschil in logits (de ‘score’ voor elk antwoord) zich gedraagt als een normative decision variable: de vorm van de verdeling past precies bij wat SDC voorspelt. Met andere woorden: de twijfel van een AI is geen willekeurige ruis, maar een leesbaar signaal. Dat opent de deur naar nieuwe manieren om AI te laten vertellen hoe zeker het eigenlijk is – zonder aparte calibratietraining.
via ArXiv
Pathologie‑AI leert van 5,5 miljoen scans – en haalt daarmee artsen in
Een nieuw model overtreft bestaande systemen op tachtig benchmarks en draait op een fractie van de rekenkracht.
De grootste hindernis voor AI in de pathologie (het beoordelen van weefselplakjes onder de microscoop) was tot nu toe niet de prestaties, maar de betrouwbaarheid en de rekenkracht. Het team achter Atlas 2, een samenwerking tussen Berlijnse, Münchener en Amerikaanse ziekenhuizen, heeft nu een ‘foundation model’ getraind op 5,5 miljoen digitale microscopie‑beelden uit drie grote medische centra. Het model is erop ontworpen om niet alleen accurate diagnoses te stellen, maar ook consistent te zijn: waar andere modellen bij kleine variaties in belichting of snijtechniek in de war raken, blijft Atlas 2 stabiel. Bovendien is het opmerkelijk zuinig: versie Atlas 2‑S draait op hardware die in de meeste klinieken al aanwezig is. De getallen zijn indrukwekkend: op tachtig openbare benchmarks, van borstkanker tot darmpoliepen, scoort Atlas 2 consistent hoger dan elk eerder model.
Voor wie zelf met AI bouwt
V‑fold jackknife: een simpel, snel alternatief voor de bootstrap
Geen invloedsfuncties, geen complexe asymptotiek – alleen V‑keer opnieuw fitten en de variantie aflezen.
De bootstrap is de standaard voor onzekerheidschatting, maar voor moderne semiparametrische en machine‑learning‑schatters is de validiteit vaak onbewezen en de rekentijd torenhoog. Dit paper introduceert de V‑fold jackknife: je deelt de data in V delen, laat V‑1 delen de schatter trainen en meet de variatie van de voorspellingen op het weggelaten deel. De resulterende ‘pseudo‑waarden’ geven direct betrouwbaarheidsintervallen, zonder invloedsfunctie en zonder aannames over de schatter. Voor asymptotisch lineaire schatters (de meeste neurale netwerken zijn dat in de praktijk) is de methode theoretisch onderbouwd.
Aanbeveling: Implementeer de V‑fold jackknife als vervanging voor bootstrapping in pipelines waar onzekerheid een rol speelt, zoals A/B‑testen of bandit‑algoritmes.
via ArXiv
Task‑conditional compute skipping: alleen de noodzakelijke rekenkracht gebruiken
Een slimme HW/SW‑co‑design laat AI alleen de neurale paden activeren die voor de huidige taak nodig zijn.
Multi‑task inferentie modellen delen een backbone, maar rekenen elke keer alles door, ongeacht of de taak ‘gezichtsherkenning’ of ‘objectdetectie’ is. Dit paper stelt een lightweight gating network voor dat, gegeven de taak (bv. een commando‑regel), per blok van uitvoerkanalen een binaire masker leert. Alleen de gemaskerde blokken worden geëvalueerd; de rest wordt overgeslagen zonder overhead. In experimenten levert dat tot 60% rekenbesparing zonder prestatieverlies – en de training van de gate kan gewoon meekoppelen met de bestaande backbone. Het vereist wel accelerator‑hardware die maskering op tile‑niveau ondersteunt, maar de gate zelf is triviaal klein.
Aanbeveling: Geschikt voor edge‑inferentie op FPGA’s of aangepaste chips; overweeg de gating als je een multi‑task model op een beperkt platform draait.
via ArXiv
via ArXiv · ArXiv · ArXiv · ArXiv · ArXiv · ArXiv · ArXiv
Transparantie: het maken van deze editie kostte ±€0,22 aan AI-modelgebruik (7-daags gemiddelde per editie; selectie, schrijven, verrijking en eindredactie meegeteld).