De vijf koppen van vandaag
- OpenAI lanceert cybersecurity-model dat zichzelf rood laat testen
- Anthropic vraagt voortaan ID voordat je Claude mag gebruiken
- AI-wervingssystemen wijzen zwarte en Aziatische sollicitanten twee keer zo vaak af
- Meta volgde intern toetsenbordklikken van medewerkers – en dat lekte
- Specialized AI-model stelt zeldzame diagnoses voor symptomen überhaupt opvallen
Het nieuws van vandaag
OpenAI lanceert cybersecurity-model dat zichzelf rood laat testen
Een wapenwedloop waar beide partijen dezelfde maker hebben.
OpenAI maakte gisteren GPT-5.5-Cyber openbaar, een AI-model dat getraind is op cyberbeveiliging. Het systeem kan zowel aanvallen opsporen als zelf aanvalsscenario’s simuleren. Daarbij wordt het voortdurend getest door eigen teams die proberen zwakke plekken te vinden. De naam ‘DayBreak’ slaat op het idee dat bedreigingen eerder zichtbaar worden dan aanvallers kunnen toeslaan.
Opvallend is vooral hoe OpenAI het model presenteert: als wapen in een geopolitieke strijd. “China mag hier niet in vooroplopen,” zei CEO Sam Altman bij de lancering. De timing is geen toeval. De Amerikaanse overheid neemt cyberbeveiliging steeds serieuzer, en OpenAI wil zich profileren als strategische partner.
Anthropic vraagt voortaan ID voordat je Claude mag gebruiken
Privacy-belofte botst met identiteitsvereiste – en gebruikers merken het nu pas.
Anthropic heeft op 23 juni stilletjes de gebruikersvoorwaarden aangepast. Het bedrijf mag nu om verificatie van leeftijd of identiteit vragen bij gebruikers van Claude, zijn chatbot. Dat kan via een rijbewijs, paspoort of biometrische gegevens zoals gezichtsherkenning. Het bedrijf kondigde de wijziging niet apart aan. Gebruikers op techforum Hacker News ontdekten de aanpassing en sloegen alarm.
Wanneer Anthropic de verificatie invoert en voor welke gebruikers, is niet duidelijk. De timing valt samen met strengere AI-wetgeving in de VS en Europa. Daar wordt leeftijdscontrole bij chatbots steeds vaker verplicht. Anthropic positioneert zich als de veilige AI-aanbieder, maar raakt nu in een lastig parket. Veel gebruikers kozen juist voor Claude omdat het bedrijf privacy hoog in het vaandel heeft.
AI-wervingssystemen wijzen zwarte en Aziatische sollicitanten twee keer zo vaak af
Stanford-onderzoekers rekenden door: voor dezelfde CV’s, een voorspelbare scheefgroei.
AI-systemen die bedrijven helpen bij het selecteren van sollicitanten, wijzen zwarte kandidaten in 26 procent van de gevallen systematisch af. Aziatische kandidaten worden in 15 procent van de gevallen geweigerd. Dit gebeurt ook als hun CV’s identiek zijn aan die van witte kandidaten.
Dat blijkt uit onderzoek van Stanford’s Human-Centered AI Institute, deze week gepubliceerd. De onderzoekers testten acht commerciële wervingssystemen met duizenden fictieve sollicitatieprofielen.
Het probleem zit in de data waarmee deze systemen zijn getraind. Historische aannames over ‘culturele fit’ en ‘communicatiestijl’ werken door in de automatische selectie. Wat wervingsmanagers vroeger handmatig deden – met alle vooroordelen van dien – gebeurt nu geautomatiseerd en op grote schaal. Omdat de beslissing door software wordt genomen, oogt die objectiever dan hij is.
De onderzoekers pleiten voor verplichte controles op AI-wervingstools voordat bedrijven ze mogen gebruiken. New York heeft sinds 2023 zo’n wet. De rest van de VS en Europa hebben nog geen bindende regelgeving.
via Stanford HAI
Meta volgde intern toetsenbordklikken van medewerkers – en dat lekte
Het bedrijf wilde AI trainen op werkelijk gebruik. Medewerkers waren niet blij.
Meta heeft intern alle toetsaanslagen en muisbewegingen van medewerkers vastgelegd om daar AI mee te trainen. Het bedrijf wilde een systeem bouwen dat voorspelt welke actie een medewerker vervolgens uitvoert. Toen het programma deze week uitlekte via een intern memo, ontstond ophef. Meta heeft de dataverzameling nu ‘gepauzeerd’.
Het is niet de eerste keer dat een techbedrijf zijn eigen personeel als trainingsdata gebruikt. Maar de omvang was ongewoon groot: niet alleen product-interacties werden geregistreerd, maar alle computeractiviteit tijdens werktijd. Meta benadrukte dat de data geanonimiseerd zou worden. Interne critici wezen erop dat toetsenbordpatronen juist heel persoonlijk identificeerbaar zijn.
De ironie is opvallend. Gebruikers van Meta’s platforms kunnen tracking uitschakelen via privacyopties. De eigen medewerkers kregen geen keuze.
via Business Insider
AI-model stelt zeldzame diagnoses voordat artsen ze zelf zien
In zes van de tien gevallen had RaDaR de diagnose al voor de dokter überhaupt een vermoeden had.
Een nieuw AI-model genaamd RaDaR (Rare Disease navigatoR) stelde in een test bij 61 procent van de patiënten de juiste diagnose voordat de behandelend arts eraan dacht. Het model is getraind op bijna 50.000 klinische gevallen en ruim 100.000 kunstmatige scenario’s. Met 32 miljard parameters is het veel compacter dan de grote taalmodellen van OpenAI of Anthropic.
Zeldzame ziekten zijn lastig te herkennen. Patiënten zien gemiddeld vijf à zes specialisten voordat iemand de juiste richting wijst. RaDaR maakt niet alleen een lijst met mogelijke diagnoses, maar legt ook uit welke symptomen waarom relevant zijn. Het model is open source. Ziekenhuizen kunnen het daardoor zelf gebruiken zonder patiëntgegevens naar een externe cloudpartij te sturen.
De onderzoekers benadrukken dat RaDaR geen vervanging is, maar een second opinion. Het zou artsen kunnen helpen om sneller de goede richting op te gaan. Voor patiënten scheelt dat in de praktijk soms jaren.
Voor wie zelf met AI bouwt
AdversaBench: geautomatiseerde rode-team-tests met drievoudige jury
Één seed-prompt, vijf mutatie-operators, en een panel van drie judges met tiebreaker.
Researchers publiceerden AdversaBench, een end-to-end pipeline om grote taalmodellen te testen op resistentie tegen adversarial inputs. Het systeem neemt seed-prompts, past er vijf gestructureerde mutatie-operators op toe (zoals inject_distractor of paraphrase), en laat drie aparte judge-modellen beoordelen of het resultaat een échte fout is. Bij onenigheid komt er een meta-judge als tiebreaker.
Uit testen op 45 seeds bleek dat elke seed een bevestigde failure opleverde. Opvallend: de effectiviteit van operators verschilt enorm per categorie. De inject_distractor-operator scoorde 0.00 op instruction-following-taken, maar 0.80-0.83 op reasoning en tool-use. Dat suggereert dat je voor elke categorie andere tegenstanders nodig hebt.
Aanbeveling: Gebruik als onderdeel van je evaluatiepipeline als je modellen in productie hebt die veiligheidskritisch zijn. De code is open source en draait zonder externe API-calls.
via ArXiv
Mistral OCR 4: nieuwe benchmark voor tekst-in-beeld extractie
Outperformt GPT-4o op de DocVQA-benchmark, met focus op tabellen en handgeschreven tekst.
Mistral maakte gisteren OCR 4 beschikbaar, een multimodaal model gericht op tekstextractie uit afbeeldingen. Het model scoort hoger dan GPT-4o op DocVQA, een standaardbenchmark voor document-gebaseerde visuele vragen. Vooral bij tabellen en handgeschreven tekst zien de onderzoekers winst.
Mistral positioneert OCR 4 als embedded-vriendelijk: het model draait lokaal en vereist geen cloud-API. Dat maakt het interessant voor organisaties die documenten niet naar externe partijen mogen sturen, zoals notariskantoren of ziekenhuizen.
Aanbeveling: Test als je documenten met tabellen verwerkt en nu tegen de limieten van traditionele OCR aanloopt. Let op licentievoorwaarden bij commercieel gebruik.
via Mistral AI
CORE-Bench: testen of AI-agents onderzoeksresultaten kunnen reproduceren
Stanford-benchmark meet of agents wetenschappelijke code succesvol kunnen herschrijven en draaien.
Onderzoekers van Stanford publiceerden CORE-Bench, een benchmark die meet of AI-agents in staat zijn om gepubliceerd wetenschappelijk onderzoek computationeel te reproduceren. De taak: een agent krijgt een paper, de originele code, en moet het experiment opnieuw opzetten en dezelfde resultaten produceren.
De benchmark raakt een pijnpunt in de wetenschap: veel onderzoeksresultaten zijn niet reproduceerbaar, niet omdat de methode onduidelijk is, maar omdat de code niet goed gedocumenteerd is of afhankelijk is van oude dependencies. CORE-Bench test of agents daar doorheen kunnen navigeren – en of ze bugs opsporen die niet in het paper staan.
Aanbeveling: Relevant als je agents inzet voor code-analyse of interne audits. De benchmark geeft een realistisch beeld van hoe goed agents omgaan met legacy-code en impliciete assumpties.
via ArXiv
HackerNews · ArXiv AI · Stanford HAI · OpenAI · Anthropic · Mistral AI · Business Insider · South China Morning Post