OpenAI en topman Sam Altman worden aangeklaagd door Elon Musk, meldde BNR onlangs. Zij zouden afspraken hebben geschonden met Musk als medeoprichter van OpenAI. Die organisatie is opgericht als een nonprofit die Artificial General Intelligence op verantwoorde wijze zou realiseren, maar is nu verworden tot een Microsoft-puppet die alleen maar geld wil verdienen. Of zoiets.
Normaal zou je zeggen: je was inderdaad medeoprichter maar je bent weggegaan, dus helaas voor jou wij doen wat wij nu willen. Echter, als je aandeelhouder bent, dan kun je nog steeds klagen over zulke dingen want dat kan de koers aantasten. Alleen is OpenAI dus een stichting (nonprofit) en geen bedrijf – het bedrijf is een dochter van de stichting, en afspraken zoals met Microsoft zijn met die dochter.
Musk heeft niet echt een contract met OpenAI, dus wat dat betreft staat de claim ietwat op lemen voeten. Er waren wel wat emails met eisen en voorstellen, maar geraadpleegde juristen zijn skeptisch:
While contracts can be formed through a series of emails, the lawsuit cites an email that appears to look like a proposal and a “one-sided discussion,” said Brian Quinn, a law professor at Boston College Law School. “To the extent Musk is claiming that the single e-mail in Exhibit 2 is the ‘contract,’ he will fall well short,” Quinn said.Er is echter nog een interessant punt in die klacht van Musk: “GPT-4 is an AGI algorithm, and hence expressly outside the scope of Microsoft’s September 2020 exclusive license with OpenAI.” AGI in deze context staat dus voor “Artificial General Intelligence”, zeg maar een algemeen gerichte AI die ongeveer op mensniveau kan denken en doen.
AGI is iets waar Musk wakker van ligt, het was een van de redenen om OpenAI mede op te richten: verantwoorde ontwikkeling van AGI en niet zomaar voor de poen snel wat op de markt brengen. En dat is volgens mij de onderliggende boosheid die deze rechtszaak stimuleert. (Naast dat OpenAI had beloofd alle broncodes en parameters open te maken, wat dus niet gebeurd is.)
De constructie van OpenAI is namelijk dat ze pre-AGI technologie mag verkopen, maar niet AGI technologie. Microsoft heeft (exclusieve) toegang tot diverse AI modellen van OpenAI, en deel van de klacht van Musk is dus dat dat niet mag omdat GPT4 een AGI is, en anders in ieder geval het eerstvolgende model wel. Alleen: volgens de statuten bepaalt de raad van bestuur van OpenAI wanneer iets AGI is. Het is dus de vraag wat de rechter daar over mag zeggen, omdat een bestuur in principe zelf beslist.
Arnoud
Maakt het nog iets uit of Microsoft zelf toegeeft dat GPT-4 als AGI aanvoelt? “First Contact With an AGI System” is de oorspronkelijke titel van deze paper van Microsoft Research. Aangepast nadat “legal” ernaar keek? https://arxiv.org/abs/2303.12712 “Sparks of Artificial General Intelligence: Early experiments with GPT-4”
Of anders, de toonaangevende industrie zelf? Deze geeft formalisering van AGI en classificeert GPT-4 nabij AGI level 1 (emergente AGI). https://arxiv.org/abs/2311.02462 “Levels of AGI: Operationalizing Progress on the Path to AGI”
Of is AGI in deze echt AGIzoalsbevondendoorbestuur? Daar ben je dan mooi klaar mee, sinds dat bestuur een zooitje is, en men doet alsof Sutskever nooit bestaan heeft.
De releases van OpenAI voelen in ieder geval alsof ze achter de schermen reeds AGI hebben, en deze gradueel op de markt brengen, om zo de economie en maatschappij niet te ontregelen. AGI manueel gehandicapped zodat het simpele rekenfoutjes maakt, terwijl het tegelijkertijd de beste wiskundigen helpt om ingewikkelde bewijzen rond te brijen. Legal discovery voor “AGI” wordt dan ook erg lastig voor OpenAI, en daarom klinkt het meer als een strategische zet, dan een legitieme klacht.
Musk heeft het zelf ook niet zo netjes gespeeld. Hij hield beloofde investeringen achter, wanneer zijn wil niet werd gedeeld met de rest. Hij is vooral bang voor Google AI, omdat Google eigenaren AI als nieuwe dominante levensvorm zien die de mensheid overbodig maakt. Musk is een “human speciest” (racist voor mensen) en ziet liever een transhumane mensheid, die dan wel natuurlijk zijn neuralink chips gebruikt om met AI te interfacen.