Nvidia brengt nieuwe open modellen uit op GTC Berlin

Nvidia heeft op GTC Berlin een reeks nieuwe modellen met open gewichten aangekondigd, onder de noemer soevereine AI. De rode draad in de aankondiging is dat organisaties de modellen met eigen data moeten kunnen bijwerken en ze kunnen draaien op infrastructuur die ze zelf beheren, dus ook in eigen datacenters of bij een Europese aanbieder.

Wat er precies uitkomt

De aankondiging bundelt acht families. Nemotron 3.5 Super VL en Nemotron 3.5 Bolt zijn de taalmodellen; Nemotron Retriever bestaat uit modellen voor embedding, reranking en het uitlezen van documenten. Daarnaast is er Kumo voor voorspellingen op gestructureerde bedrijfsdata, Cosmos 3.5 voor robotica en simulatie, Alpamayo 2 Edge voor zelfrijdende auto's, BioNeMo RFD4-Proteina voor eiwitontwerp en Ising voor quantumcomputers.

Nvidia noemt bij Nemotron een coalitie van partners, waaronder de Europese bedrijven Mistral, Black Forest Labs en H-Company. Als afnemers die er al mee werken noemt het bedrijf onder meer SAP, Salesforce, Shopify, Dassault Systèmes, Synopsys en Palantir-klanten.

De saaiste modellen zijn hier de nuttigste

Voor wie zelf iets bouwt, zit het bruikbaarste deel in de Retriever-modellen. Embeddingmodellen zijn de motor onder retrieval-augmented generation: documenten worden in stukken gehakt, omgezet in vectoren en op relevantie gerangschikt voordat ze in de context van een taalmodel belanden. Volgens The Register werken de nieuwe modellen op zowel tekst als afbeeldingen, ondersteunen ze 34 talen en komen ze in varianten van één tot acht miljard parameters, met NVFP4-gequantiseerde versies voor Blackwell-hardware. Daarmee passen ze op aanzienlijk kleinere machines dan een eigen trainingscluster.

Nvidia zet daarnaast een apart model in tegen het eeuwige RAG-probleem: pdf's. Nemotron Parse is specifiek getraind om tekst en tabellen uit pdf-documenten te trekken. The Register noteert de claim van ongeveer 10,5 pagina's per seconde voor de variant van één miljard parameters op één H100.

Bij de benchmarkclaims hoort wel een voorbehoud: dat de nieuwe embedding- en rerankingmodellen de hoogst scorende dense modellen op ViDoRe V3.1 zouden zijn, is een opgave van de leverancier zelf, net als het snelheidscijfer voor Parse.

Niet alleen gewichten, ook data en recepten

Het opvallendste zit niet in de modellen maar in de manier van publiceren. Bij de meeste open modellen krijg je de gewichten en verder niets: hoe ze tot stand kwamen, blijft een zwarte doos. Nvidia publiceert bij een deel van zijn modellen ook de trainingsdata en de recepten, merkt The Register op, waardoor een organisatie niet alleen kan inspecteren wat erin zit, maar ook een eigen model op dezelfde architectuur kan bouwen in plaats van achteraf de gewichten bij te sturen. Het Allen Institute doet met zijn OLMo-modellen hetzelfde.

Dat raakt de kern van het Europese argument. Wie een model wil verantwoorden tegenover een toezichthouder of klant, heeft meer aan herleidbare trainingsdata dan aan een gratis download.

Waar het te vinden is

Nvidia noemt per familie een eigen vindplaats. Nemotron 3.5 Super VL staat op Hugging Face, ModelScope, OpenRouter en build.nvidia.com; Nemotron 3.5 Bolt E4B 4GB wordt volgens de aankondiging op vrijdag 23 oktober verwacht. De Retriever-modellen en Kumo staan op Hugging Face en als NIM-microservice, Cosmos op Hugging Face en GitHub, en Ising op GitHub, Hugging Face en build.nvidia.com. Alpamayo 2 Edge komt later deze maand.