Zorgde een AGI voor de chaos bij OpenAI?

Ontslagen, heroriënteerd en weer aangenomen in vier dagen: Als een werknemer van OpenAI, het bedrijf van de cryptocurrency Worldcoin, vorige week op vakantie was geweest - samen met een digitale detox, had hij de recente chaos in de directiekamer van het AI-bedrijf misschien niet opgemerkt.

Na een verrassende schorsing en een snelle tewerkstelling bij Microsoft, is Sam Altman nu terug op zijn positie bij OpenAI. De reden hiervoor: Meer dan 700 werknemers van het AI-bedrijf hadden de raad van bestuur bedreigd met ontslag - en een overstap naar Microsoft. Druk waar het bestuur duidelijk niet tegen bestand was.

Maar hoe is de chaos bij het bedrijf ontstaan? In dit verband komen er steeds nieuwe details aan het licht. Volgens een rapport van het Amerikaanse persbureau Reuters begon het allemaal met een brief die verontruste OpenAI-onderzoekers naar de raad van bestuur van het bedrijf stuurden. De precieze inhoud is niet bekend, maar mensen die bekend zijn met de zaak vertelden Reuters waar het over ging: Q*.

Wat is Q*?

Q* is een AI-tool waarvan de exacte functionaliteit op het moment van schrijven nog niet publiekelijk bekend is. Intern wordt echter gezegd dat Q* een zogenaamde AGI zou kunnen zijn - een Artificial General Intelligence, die OpenAI definieert als "AI-systemen die slimmer zijn dan mensen".

Q* kan nog steeds alleen wiskundeproblemen op basisschoolniveau oplossen, volgens de mensen die anoniem getuigden aan Reuters. Maar het potentieel van de tool is blijkbaar veel groter. Zo groot dat het "de mensheid zou kunnen bedreigen", volgens de eerder genoemde brief aan het bestuur.

Volgens bronnen bij Reuters was de brief slechts één factor in een langere lijst van klachten van het bestuur die leidden tot het ontslag van Altman, waaronder zorgen over het commercialiseren van vooruitgang voordat de gevolgen bekend waren. Het is dus goed mogelijk dat Altman Q* ook sneller wilde doorzetten dan de opstellers van de brief hadden gewild.