Tot ce tre’ să știi despre concedierea șefului OpenAI și scandalul din firma care a creat ChatGPT

Înainte de weekend, situația la OpenAI a făcut implozie într-un mod cu totul diferit de tot ce s-a întâmplat în istoria Silicon Valley. Organizația, care a devenit faimoasă odată cu ChatGPT și a programului DALL-E, s-a aflat brusc în mijlocul unei drame haotice, confuze și rapide, încât era greu de ținut evidența poveștii.

Am pus cap la cap detaliile ca să înțelegi un pic ce s-a întâmplat într-una dintre cele mai populare companii de AI din lume. 

Totul a început cu un comunicat de presă ciudat, dat vineri după-amiază de patru membri ai consiliului de administrație al companiei, în care se afirma că îl dau afară din companie pe directorul general și cofondatorul Sam Altman din cauza unor probleme nespecificate de „comunicare”.

Altman a fost de ceva vreme unul dintre cei mai bine conectați oameni din Silicon Valley. Din 2014 până în 2019, el a fost președintele Y Combinator, un influent accelerator de startup-uri, perioadă în care a ajutat, de asemenea, la înființarea organizației inițial non-profit OpenAI, pentru care el și Elon Musk au fost primii copreședinți ai consiliului de administrație. În 2019, a devenit CEO cu normă întreagă al companiei.

În anul care a trecut de atunci, Altman a devenit nu doar imaginea OpenAI, ci și a inteligenței artificiale în general. Faptul că a fost dat afară atât de brusc – el fusese pe scenă în prima zi a conferinței dedicate dezvoltatorilor OpenAI – a dus la speculații intense cu privire la faptul că ar fi comis un act oribil necunoscut. Altman a evitat să se scufunde în mizerie vineri, cu doar un status pe X: „mi-a plăcut foarte mult timpul petrecut la OpenAI. a fost transformator pentru mine personal și, sperăm, și pentru lume un pic. mai presus de toate, mi-a plăcut să lucrez cu oameni atât de talentați. voi avea mai multe de spus mai târziu despre ceea ce urmează.”

Dar Jack, fratele lui Altman și directorul general al Lattice, a fost mai agresiv. „Pentru toți oamenii care urăsc cu bucurie ziua de astăzi, vă rog să știți că pariați împotriva persoanei greșite”, a scris el.

Din punct de vedere tehnic, ar fi vorba de cei patru membri ai consiliului de administrație care nu sunt Altman și președintele OpenAI Greg Brockman, un alt cofondator și aliat al lui Altman. Unul dintre ei este directorul executiv al Quora Adam D’Angelo, iar ceilalți doi sunt Tasha McCauley, o antreprenoare care este căsătorită cu actorul Joseph Gordon-Levitt, și Helen Toner, director de strategie la Georgetown Center for Security and Emerging Technology. 

McCauley și Toner au fost legate de mișcarea Effective Altruism, făcută celebră de fostul director executiv al FTX Sam Bankman-Fried, un grup cunoscut, printre altele, pentru că se teme de potențialul apocaliptic al inteligenței artificiale. 

Cel de-al patrulea este cercetătorul șef și cofondator al OpenAI Ilya Sutskever care este acum singurul cofondator al OpenAI rămas în consiliu. Foarte respectat în domeniul inteligenței artificiale, Sutskever a fost recrutat personal pentru a se alătura OpenAI de către persoane precum Musk, după un stagiu la Brain Lab de la Google.  

În timp ce era interesat de dezvoltarea Inteligenței Artificiale Generale (AGI), Sutskever a reprezentat, de asemenea, omul din companie care s-a concentrat pe siguranța AI – atât de mult, încât ar fi comandat un simbol AGI să-l ardă la o întâlnire în afara sediului pentru conducerea companiei.

În timp, Sutskever a devenit din ce în ce mai îngrijorat de Altman, care se întâlnea cu fonduri suverane de investiții din Orientul Mijlociu și cu Masayoshi Son de la SoftBank pentru a finanța proiecte externe, potrivit unui raport detaliat al Bloomberg. În timp ce Sutskever se concentra pe siguranță, unii se temeau că Altman era prea concentrat pe creștere. 

Adăugând la frustrarea sa, Altman a încercat să „reducă rolul lui Sutskever în cadrul companiei” în ultimele luni, potrivit Bloomberg. 

Apoi, la Ziua Dezvoltatorilor OpenAI din noiembrie, Altman a anunțat planurile de a face versiuni personalizabile ale ChatGPT – o îngrijorare pentru cei care vorbesc de siguranța AI, inclusiv Sutskever. La scurt timp după aceea, Sutskever a mers la consiliul de administrație pentru a-și exprima, se pare, frustrările și îngrijorările și „în cele din urmă a obținut consiliul de partea sa”, potrivit reporterului de tehnologie Kara Swisher. 

Ca parte a remanierii, consiliul a anunțat că președintele Brockman se va retrage, de asemenea, din funcția de președinte al consiliului de administrație, deși va rămâne în cadrul companiei sub conducerea interimară a directorului general Mira Murati, care a fost director de tehnologie al OpenAI.

Vineri, Brockman a început să pună cap la cap seria de evenimente pe care el și Altman le-au trăit. Potrivit relatării sale, Sutskever îl contactase pe Altman joi, cerându-i să vorbească a doua zi la prânz. Când Altman s-a alăturat prin Meet, toți cei din consiliu, mai puțin Brockman, au participat la apel. Sutskever l-a informat apoi pe Altman că a fost concediat. 19 minute mai târziu, Sutskever i-a trimis un SMS lui Brockman, cerându-i să participe la un call, unde Sutskever l-a informat că a fost dat afară din consiliu, dar că rămâne „vital pentru companie”. 

Postarea de pe blog care anunța schimbările a fost publicată „cam în același timp”.  

Enervat, pe bună dreptate, Brockman a anunțat vineri personalul (și apoi a postat pe X) că demisionează. La scurt timp după aceea, a apărut vestea că și trei cercetători seniori au demisionat.

Haosul este, cel puțin în parte, un rezultat al structurii organizaționale ciudate a OpenAI, care este o manifestare a istoriei sale atipice și a facțiunilor ideologice concurente din cadrul companiei. Organizația a fost formată pentru prima dată în 2015 ca organizație non-profit de către un grup de persoane printre care se numărau Altman, Brockman și Sutskever, pentru a reflecta obiectivele sale importante autodeclarate și dorința de a nu se supune dorințelor corporatiste tipice.

Dar în 2019, organizația non-profit a anunțat că se transformă într-un nou tip de structură organizațională, pe care a descris-o ca fiind „un hibrid între o organizație cu scop lucrativ și una non-profit”. Ideea era să faciliteze strângerea de mai mult capital și, în schimb, să distribuie către investitori un procent plafonat din profituri. 

Ideea era de a „pune misiunea noastră generală – asigurarea creării și adoptării de AGI sigure și benefice – înaintea generării de profituri pentru investitori”.

Dar, în mod critic, așa cum OpenAI a anunțat la momentul reorganizării, consiliul organizației non-profit va continua să dețină controlul, ceea ce însemna că investitorii externi nu pot exercita nicio putere asupra deciziilor majore, iar consiliul nu are obligația tipică de a maximiza valoarea acționarilor. Mai important, asta însemna că doar câteva persoane dețineau o putere majoră.

În ciuda încercărilor de a crea un nou tip de organizație care să poată strânge capital fără presiunile tipice ale capitalismului, tensiunile s-au acutizat. În 2020, unii angajați OpenAI au plecat din cauza îngrijorărilor că societatea s-a îndepărtat de la misiunea sa inițială și au creat startup-ul de inteligență artificială Anthropic.

Noua structură a OpenAI a permis organizației să primească investiții de miliarde de dolari, în special de la Microsoft, care a investit în cele din urmă 13 miliarde de dolari în companie, ceea ce înseamnă că a ajuns să aibă 49% din companie.

Având în vedere că deține aproape jumătate din companie, ai putea crede că Microsoft știa că Altman era pe cale să fie dat afară înainte ca acest lucru să se întâmple. Dar acest lucru nu s-a întâmplat cu adevărat. Oamenii de acolo au fost informați doar cu câteva momente înainte de publicarea comunicatului. Din cauza legăturilor strânse și a investiției sale, prețul acțiunilor Microsoft a scăzut după aflarea veștii, reducând valoarea companiei cu zeci de miliarde de dolari. Printr-o declarație, Microsoft a spus că are încredere în parteneriat.

Nu. OpenAI s-a reunit pentru o ședință vineri după concediere, în timpul căreia angajații l-au întrebat pe Sutskever dacă acțiunea ar putea fi considerată o „lovitură de stat” sau o „preluare ostilă”. Sutskever ar fi „respins” astfel de idei, susținând că era necesar să protejeze misiunea principală a companie, care constă în a se asigura că inteligența artificială este dezvoltată în beneficiul umanității. 

Angajații nu au crezut absolut deloc. 

Sâmbătă dimineața, cei care încă se aflau la OpenAI erau în căutarea unor răspunsuri pentru ceea ce s-a întâmplat. Directorul operațional Brian Lightcap a distribuit un memo intern, obținut de Axios, prin care echipa știa că managementul fusese la fel de surprins ca oricine altcineva și că discuta cu consiliul de administrație pentru „a încerca să înțeleagă mai bine motivele și procesul din spatele deciziei lor”. 

Angajații nu au fost dispuși să aștepte să înțeleagă mai bine motivele și procesul și au început să ceară să îi aducă înapoi pe Altman și Brockman.

Câteva zeci de persoane, inclusiv unii angajați ai OpenAI, s-au alăturat lui Altman la conacul său de 27 de milioane de dolari pentru a încerca să afle tot ce puteau despre ultimele evoluții. „iubesc atât de mult echipa openai”, a scris Altman pe X. Online, angajații OpenAI au început să posteze emoji cu inimioare în weekend, despre care Alex Heath de la The Verge a relatat că au fost o modalitate ascunsă de a semnala „cine va pleca și îi va urma pe Altman și Brockman la o nouă companie dacă lovitura de stat în consiliul de administrație reușește”.

Ai putea crede asta. Dar nimic din această situație nu este normal. Investitorii au vrut, de asemenea, ca Altman să se întoarcă, iar până sâmbătă, The Verge relata că Altman se afla deja din nou în discuții cu consiliul de administrație pentru a se reîntoarce la OpenAI în calitate de CEO, deși era „ambivalent” în această privință. 

În mod surprinzător, în curând s-a aflat că consiliul de administrație a fost „de acord în principiu să demisioneze” și să le permită lui Altman și Brockman să se întoarcă, dar apoi „a ezitat”. Cu toate acestea, directorul de strategie Jason Kwon le-a spus angajaților sâmbătă seara că era „optimist” că se va ajunge la o înțelegere.

Până duminică, Altman și Brockman s-au întors la sediul companiei la invitația lui Murati, când Altman a postat o poză cu un badge de guest. „prima și ultima dată când port una din astea”, a scris el. Negocierile au continuat pe tot parcursul zilei, în timp ce curierii ar fi sosit cu Boba și, mai târziu, cu McDonald’s. 

Termenul limită de la prânz a devenit cel de la ora 17, după ce Sutskever a cerut mai mult timp, potrivit lui Kara Swisher. Se pare că Nadella de la Microsoft s-a „implicat destul de mult”. S-a discutat despre o nouă structură a consiliului de administrație, fiind vehiculate nume precum Marisa Mayer, Brian Chesky și Sheryl Sandberg. 

Până duminică seara, toate semnele păreau să indice că Murati era pe cale să îi aducă înapoi pe Altman și Brockman, deoarece a negociat termenii cu Adam D’Angelo, membru al consiliului de administrație.

Nu, nu s-a întâmplat! Duminică seara, Sutskever însuși a dat vestea personalului că Altman nu se va alătura echipei. În câteva ore, alte zeci de angajați ai OpenAI au demisionat. În schimb, cei patru membri rămași în consiliul de administrație au anunțat într-un memo intern că firma l-a angajat pe fostul director general al Twitch Emmett Shear ca nou director general interimar, punând capăt celor câteva zile de mandat ale lui Murati.

În memo, consiliul de administrație și-a apărat încă o dată decizia, fără a oferi prea multe informații specifice, spunând: „Pur și simplu, comportamentul lui Sam și lipsa de transparență în interacțiunile sale cu consiliul de administrație au subminat capacitatea consiliului de a supraveghea în mod eficient compania așa cum a fost mandatat să o facă”.

La scurt timp după aceea, Shear a publicat un tweet lung despre angajarea sa, spunând că a reflectat asupra deciziei timp de „câteva ore” înainte de a accepta „oportunitatea unică în viață”.

În mesajul său, el a spus că este „clar că procesul și comunicările în jurul înlăturării lui Altman au fost gestionate foarte prost” și a spus că consiliul „*nu* l-a înlăturat pe Sam din cauza unui dezacord specific privind siguranța”, deși nu a clarificat de ce l-a înlăturat, spunând doar că „raționamentul lor a fost complet diferit de asta”.

Pentru a afla adevărul despre ceea ce s-a întâmplat, el a vrut să angajeze un investigator independent.

Se pare că Shear a reprezentat o dorință de a dezvolta produsele OpenAI mai sigur și mai atent. VICE a săpat prin comentariile sale publice pe rețelele sociale despre AI și a descoperit că s-a descris ca fiind un „doomer” care este „în favoarea încetinirii” dezvoltării AI. O sursă a declarat pentru Bloomberg că convingerea sa că AI reprezintă o amenințare existențială a fost un motiv cheie pentru angajarea sa. (Este demn de remarcat că Altman a fost predispus să facă predicții la fel de apocaliptice cu privire la puterea potențială a AI, deși mandatul său a fost definit de împingerea pe piață a noilor produse de AI).

S-ar părea că motivul este că însuși consiliul de administrație se lupta cu ceea ce este corect să facă în continuare. Din nou, acest consiliu era compus din doar patru persoane. 

Din nou, nu. Angajații OpenAI au postat pe Twitter aceeași frază de nenumărate ori: „OpenAI nu este nimic fără oamenii săi”. Mai concret, luni dimineață, 550 dintre cei 700 de angajați ai OpenAI au semnat o scrisoare prin care cereau demisia întregului consiliu de administrație, spunând că sunt cu toții pregătiți să demisioneze și să se alăture Microsoft dacă nu-i repun pe Altman și Brockman în funcție, nu numesc doi directori principali independenți și apoi demisionează. 

„În ciuda numeroaselor solicitări de fapte specifice pentru acuzațiile aduse, nu ați furnizat niciodată nicio dovadă scrisă”, se arată în scrisoare. Chiar mai surprinzător, potrivit scrisorii, consiliul de administrație a spus conducerii că a permite ca societatea să fie „distrusă «ar fi în concordanță cu misiunea».”

„Acțiunile voastre au făcut evident faptul că sunteți incapabili să supravegheați OpenAI”, au scris semnatarii.

Printre aceștia se numărau Murati și, în mod șocant, Sutskever, care, cu doar câteva zile înainte, ar fi jucat un rol cheie în concedierea lui Altman și retrogradarea lui Brockman. 

Nu numai atât, dar a postat și despre ce mare greșeală a făcut. 

„Regret profund participarea mea în acțiunile consiliului”, a scris Sutskever într-o postare. „Nu am intenționat niciodată să fac rău OpenAI. Iubesc tot ceea ce am construit împreună și voi face tot ce pot pentru a reunifica compania.” Altman a răspuns cu două emoticoane de inimă.

Între timp, marți pe 21 noiembrie, Sam Altman a revenit la OpenAI. Înainte de asta, directorul Microsoft a anunțat că îi aduce pe Altman, Brockman și pe colegii lor pentru a conduce o „nouă echipă de cercetare avansată în domeniul inteligenței artificiale” la Microsoft, menționând în același timp cu atenție faptul că firma a rămas angajată în parteneriatul cu OpenAI. 

Decizia anunțată de Nadella poate fi înțeleasă și ca o preluare a OpenAI – prin lideri și a celor mai importante talente – fără să o preia propriu-zis. 

Între timp, Sam Altman și Greg Brockman au revenit la OpenAI, potrivit The Verge. Marți seară, anunțul OpenAI a fost că Altman va reveni și că va fi și un nou consiliu. Componența lui e: Bret Taylor, Larry Summers și Adam D’Angelo. D’Angelo există acolo ca vechiul consiliu să aibă continuitate. Acest nou consiliu ar trebui să numească nouă oameni care să asigure noul tip de conducere pentru OpenAI.