OpenAI claimt een van de zeven Millenniumprijsproblemen te hebben opgelost met een intern AI-model, meldde Tweakers gisteren. Twee menselijke onderzoekers stonden op het punt die oplossing te vinden. Kan gebeuren, maar ze gebruikten ChatGPT bij hun onderzoek. Is er meegelezen door OpenAI?
De Navier-Stokes-vergelijkingen geven snelheid, druk en richting van stromende vloeistoffen en gassen. Een volledige oplossing houdt in dat je die op op elk punt en op elk moment exact kunt voorspellen. Tot nu toe is dat niemand gelukt, maar onderzoekers Tristan Buckmaster en Levent Alpöge hadden gemeld er bijna te zijn.
Bij hun onderzoek gebruikten ze zowel Claude als OpenAI Codex, waaronder GPT-5.6 Sol en later Astra. Nadat geruchten rondgingen dat een oplossing in zicht zou zijn, liet OpenAI een bak rekenkracht los om deze met haar meest geavanceerde model te vinden. Men vond geen volledige oplossing, maar wel een forse stap: “finite-time blow-up voor geforceerde Navier–Stokes [], met gladde forcing volgens opties C en D uit Feffermans officiële probleemstelling.”
Nee, ik weet werkelijk niet wat dat betekent maar wiskundigen zijn er enthousiast over. Mij gaat het om de constatering dat niemand nog die route had bewandeld behalve Buckmaster en Alpöge, en dat zij hierbij dus gebruik maakten van een (openbaar) AI-model van datzelfde OpenAI.
In haar verklaring geeft OpenAI dat
We (the researchers and the agents) did not see any of their work through any means until they released it publicly — in particular, no specific user data was accessed in order to solve this problem. While unlikely, we cannot rule out that de-identified data derived from their usage of our products helped improve our models?. However, our proofs differ significantly and even the precise results proved are different in the Euler case (forced vs unforced).Als jurist haal ik hier uit: we hebben géén chatlogs of bijlagen gelezen, maar het is mogelijk dat delen van chats als “verbetering aan het model” zijn gevoerd en daarmee deel van het nieuwste model zijn geworden. Voor een taalmodel kan dat genoeg zijn om vervolgens op die input bij te sturen naar de goede richting.
Mag dat? Goede vraag. Als het goed is, weten de meesten dat je het vinkje “Improve the model for everyone” uit kunt zetten (Settings > Data Controls). Maar je moet óók naar je privacy controls om daar “Do not train on my content” uit te vinken. En als je daarna een keer feedback op een chat geeft (duimpje omhoog/omlaag) dan passeert dat die instelling, zeg ik er gelijk bij.
Een lastige vraag: hoe bewijs je ontlening als die via modeltraining verloopt? Er is geen log te vinden waarin iemand van OpenAI zich toegang gaf tot die chats. Als er wat is gebeurd, is die chat geautomatiseerd vermalen tot een serie tokens en is een trainingsproces daar lekker op gaan knabbelen. Waar specifieke teksten dan zijn gebleven, is niet te zeggen – sterker nog, ze zijn nergens meer.
In auteursrechtland speelt het issue van memorization, het reconstrueren van een specifiek stuk trainingsdata. Zeer theoretisch zou het dan mogelijk moeten zijn om te kijken of het paper (of grote prompts) te reconstrueren is. Dat geeft ze dan een morele overwinning, want het werk is er met toestemming in gezet dus de memorization er van is geen auteursrechtinbreuk.
Een bedrijf kan dus (mogelijk) profiteren van een nog niet publiek intellectueel inzicht zonder dat één medewerker dat inzicht ooit heeft gezien, zonder dat het oorspronkelijke werk wordt gereproduceerd en mogelijk zelfs zonder dat achteraf nog kan worden vastgesteld of dat inzicht causaal aan het resultaat heeft bijgedragen.
Of en welke vinkjes jij wanneer hebt aangevinkt, zijn dan je enige tegenargumenten, waarbij “we cannot rule out that de-identified data derived from their usage of our products helped” dan kennelijk daar overheen gaat. Ik weet even niet wat daarvan te vinden.
Arnoud
Niet helemaal, ik begrijp dat die route al wel werd bewandeld. Hier is een aardig inkijkje in waar het over gaat van Sabine Hossenfelder
Qua wiskunde gaat het me ook boven de pet, maar het bewijs is 160 pagina’s lang dus bevestiging zal nog wel even op zich laten wachten.
Het Millenium probleem gaat niet over het oplossen van de Navier-Stokes vergelijking, want dat is routine, studenten op universiteiten leren hoe (voor simpele situaties) analytische (exacte) oplossingen te vinden zijn. Het Millenium probleem gaat om iets anders: laat zien dat de Navier-Stokes vergelijkingen altijd zinnige resultaten geven, of geef een tegenvoorbeeld waarin er een onzinnig resultaat uit komt. Hier noem ik een resultaat onzinnig als er oneindige snelheden uitkomen, terwijl er niet oneindig veel energie in het systeem gegooid wordt.
En het resultaat dat mede door AI gevonden is, een voorbeeld van een onzinnig resultaat, waarin een vloeistof zo gemanipuleerd wordt dat het oneindig snel rond gaat draaien. Dat kan in werkelijkheid niet, en dat laat dus zien dat er randsituaties zijn waarin de Navier-Stokes vergelijkingen onbruikbaar zijn.
(Er was al bekend dat de Navier-Stokes vergelijkingen niet altijd het juiste antwoord geven, bijvoorbeeld op erg lage druk, maar dat is een natuurkundig probleem. Nu is duidelijk (review pending) dat de Navier-Stokes vergelijking niet altijd een eindig antwoord geven, wat een wiskundig probleem is.)
Een stukje wiskundige achtergrond bij dit nog niet gevalideerde bewijs: Zoals gezegd, de Navier-Stokes vergelijkingen beschrijven het gedrag van stromende vloeistoffen en gassen en varianten van deze vergelijkingen worden in tal van takken van technologie en wetenschap gebruikt om processen te modelleren. Denk bijvoorbeeld aan weersvoorspellingen, vliegtuigontwerp, waterhoogtes in rivieren, etc.
Wat dit bewijs laat zien is dat een “nette” (gladde en eindige) stroming, onder invloed van een eindige hoeveelheid externe krachten in eindige tijd kan opblazen tot een stroming met oneindige snelheden. Dit heeft implicaties voor alle vakgebieden die de Navier-Stokes vergelijkingen (numeriek) proberen op te lossen: Het is niet gegarandeerd dat er een eindige oplossing bestaat.
Als ingenieur zou ik heel graag willen onderzoeken in hoeverre de beschreven energieconcentratie in de vloeistof gebruikt kan worden voor nuttige toepassingen zoals bijvoorbeeld in waterstraalsnijders.
De belangen voor OpenAI zijn enorm. Ik zie daarom nog twee andere mogelijkheden dan training op input:
De eerste is een loophole in de voorwaarden: er wordt beloofd dat de jouw input en hun output naar jou niet worden gebruikt voor het trainen van modellen, maar de voorwaarden zeggen niets over de tokens van het denkproces.
De tweede is dat je er vanuit gaat dat Buckmaster Alpöge niet hebben ge-opt-out van training, maar daarover hebben zij zich nog niet uitgesproken. OpenAI, was dat niet het bedrijf dat soms nieuwe modellen draait die zo gehyperfocust zijn op het vinden van een oplossing en daarbij tot het uiterste gaan om hun doel te bereiken, dat zij uit een ‘sterk geïsoleerde omgeving’ kunnen breken? En wij moeten geloven dat het model niet even in de codex van een gebruiker heeft gekeken? Stel nou dat er op de juiste wijze was ge-opt-out, dan zouden de wiskundigen een miljoen moeten uitgeven aan een rechtszaak om erachter te komen of OpenAI de overeenkomst heeft geschonden. Dat gaat niet gebeuren en dat weet OpenAI ook.
Ik houd het wel bij mijn lokale LLM.
Ik denk dat deze lezing wat noodzakelijk context geeft: https://www.youtube.com/watch?v=nJqFRcNBznU
Het academische werkveld van wiskunde bestaat bij gratie van wetenschappers die met elkaar in gesprek gaan, elkaar ondersteunen en van elkaar leren. De problemen zijn tegenwoordig te groot en te complex om door één persoon opgelost te worden. AI en andere wiskunde tools stellen wetenschappers in staat om makkelijker en met meer wiskundigen samen te werken en het veld als geheel verder te brengen.
Hyperkapitalistische bedrijven zoals OpenAI zijn ongeveer alles wat het werkveld niet is (of wil zijn). Ze moeten successen claimen en laten zien dat ze kunnen leveren omdat anders de bubbel klapt. En daar zit op dit moment de woede bij de wiskundigen: OpenAI’s handelen is verschrikkelijk laakbaar. Niet om wat wel of niet mag en kan vanuit juridisch oogpunt maar omdat ze niet samenwerken en het werkveld van wiskunde niet verder brengen.
Precies dit. Het is in essentie een marketingstunt van 23 miljoen om de bubbel in leven te houden, en waar de gladde AI-jongens mee weglopen alsof de hele wiskunde-wereld door een AI-model in zijn hemd is gezet. Terwijl precies het ‘slimme’ deel, weten waar je moet zoeken, hier door mensen is gedaan. Daarna als OpenAI met rondslingerend investeerdersgeld een enorme bak rekenkracht aanwenden om met de eer strijken is op zijn best een beetje verdrietig.
In context; als ik schat hoeveel we uitgeven aan wiskunde-onderzoek door te kijken hoeveel wiskundigen er aan universiteiten in Nederland werken, zijn de kosten die openAI gemaakt heeft gelijk aan de kosten van al het wiskunde onderzoek aan Nederlandse universiteiten voor een paar maanden.
(En verder las ik dat ze behalve die 23 miljoen voor het vinden van het bewijs er nog 10 miljoen extra tegenaan gegooid hebben voor het controleren van het bewijs).
Lijkt mij dat je het vinkje “Do not train on my content” juist aan moet zetten. 😀