Cosa succede ad OpenAI🔥? Perchè hanno licenziato Altman 💔 e quali sono le conseguenze per lo sviluppo dell'intelligenza artificiale?🤔

Venerdì 17 novembre 2023 è arrivata la notizia bomba del licenziamento di Sam Altman.

Il CEO di OpenAI dopo aver portato l'azienda a dominare il mondo dell'intelligenza artificiale (con una valutazione di 80mld), è stato destituito dal consiglio di amministrazione, al suo posto, dopo un brevessimo interim di Mira Murati (chief technology officer), è stato nominato il 19 novembre il nuovo CEO Emmett Shear (ex. CEO di Twitch, ex-cofondatore di Justin.tv e partner di Y Combinator).

Probabilmente sia Murati che Shear saranno ricordati come i due CEO dalla carriera più breve in OpenAI.

La motivazione del licenziamento di Altman riportata ufficialmnete è:

"Altman non è stato sempre candido nelle sue comunicazioni con il consiglio di amministrazione, ostacolando quest'ultimo nell'esercizio delle sue responsabilità. Il cda non ha fiducia nelle sua capacità di continuare a guidare OpenAI"

Leggendo tale motivazione fa sembrare che Altman abbia potuto fare qualcosa borderline o non abbia comunicato qualcosa di pericoloso per l'azienda, per esempio un problema di sicurezza.

Ma è cosi? Quali sono le motivazioni reali?

Il tema, oltre che avvincente, è da seguire in quanto può impattare non solo sul business ma sul futuro stesso dell’umanità.

Dopo l’uscita di Altman è successo il delirio, Greg Brockman (presidente di OpenAI) si è dimesso seguito a ruota da altri 3 ricercatori senior.

La cosa che, sulla carta, può sembrare pazzesca è che Microsoft , il principale finanziatore di OpenAI, non sapeva nulla della decisione del consiglio di amministrazione e, sebbene non ne faccia parte, nessuno ha informato Satya Nadella.

Subito dopo il licenziamento Sam Altman e Brockman si sono attivati per creare una nuova società concorrente a OpenAI.

I due hanno la fila dei finanziatori che vogliono entrare nella nuova società e di talenti che vogliono seguirli abbandonando OpenAI. Ricordiamoci che Altman è stato presidente di Y Combinator, il principale acceleratore di startup al mondo, quindi conosce come pochi il mercato dei capitali per finanziare una nuova attività (basti pensare all'accordo che è stato in grado di concludere per farsi finanziare da Microsoft).

Sono bastati pochi giorni ed OpenAI si è subito resa conto degli impatti nefasti del licenziamento sul futuro dell’azienda e sono corsi ai ripari per trattare il rientro di Sam Altman in azienda.

Microsoft ha dichiarato di continuare a sostenere e finanziare OpenAI ma allo stesso tempo si sta muovendo con il suo CEO, Satya Nadella, per convincere Sam a tornare.

Nel video che segue estratto dal DevDay di novembre 2023 si evince l'entusiasmo del CEO di Microsoft verso OpenAI.

I colloqui tra Nadella ed Altman hanno portato ad una svolta a sorpresa.

Il 20 novembre Satya Nadella scrive il seguente tweet:

Come si legge dal tweet, l'ex-CEO di OpenAI e l'ex-presidente, Brockman, si uniranno a Microsoft per guidare un nuovo team di ricerca sull'intelligenza artificiale avanzata (simpatico il commento del solito Elon Musk).

In pratica Microsoft rimarrà come principale investitore di OpenAI e dall'altro in parallelo svilupperà un suo team di ricerca.

La notizia ha creato molta instabilità e la gran parte dei dipendenti di OpenAI manifestano la volontà di passare a Microsoft per seguire Altman e Brockman.

Il nuovo CEO Emmett Shear non ha fatto in tempo a capire dov'era il suo ufficio che arriva una nuova notizia.

Il 22 novembre arriva la notizia del RITORNO di Altman comunicato con il seguente tweet:

Finito tutto il cinema mi rimane la forte curiosità di capire il perchè di tutto questo gran baccano e quali saranno le conseguenze per la nostra società nel breve e nel medio/lungo periodo.

Perchè il leader indiscusso che ha portato una startup nell’olimpo del business mondiale fino ad una valutazione di 80 miliardi sia stato licenziato!🤔

Cosa è successo e chi ha voluto cacciare Altman?🕵️ C'è qualcosa che non conosciamo e che può impattare sul nostro futuro?

Partiamo dalle certezze.

Il promotore del licenziamento è lo scienziato Ilya Sutskever, co-fondatore di OpenAI e capo degli scienziati dell’azienda nonché importante membro del Consiglio di Amministrazione (se hai dubbi come me sulla pronuncia del suo nome ecco un piccolo aiutino).

Ma perchè? Ilya non sopporta Sam?🤔

Per capirlo dobbiamo approfondire chi è Ilya Sutskever e qual è la missione di OpenAI.

Chi è Ilya Sutskever e qual è la missione di OpenAI

Sutskever è nato in Russia e cresciuto in Israele, si è interessato all'intelligenza artificiale sin dagli albori.

Ha studiato all'Università di Toronto presso il Machine Learning Group capitanata dal pioniere dell'intelligenza artificiale: Geoffrey Hinton.

Hinton, nel 2018 ha vinto il premio Turing (in pratica il Nobel dell'informatica) per il suo lavoro sul deep learning e l'uso delle reti neurali. I suoi studi sono stati alla base dei nuovi modelli linguistici.

Nel 2013 Geoffrey è stato assunto da Google per effetto dell'acquisizione della società DNNresearch Inc., da lui fondata; nel maggio 2023 Hinton lascia Google per un preciso motivo da lui dichiarato:

la paura che l’intelligenza artificiale diventasse più intelligente degli umani.

Uscendo dall'azienda di Mountain View (di cui lo scienziato non rinnega la bellissima esperienza) Geoffrey si dedica alla sensibilizzazione dell'opinione pubblica sui gravi rischi che crede possano accompagnare la tecnologia da lui stesso introdotta.

Per esprimere la situazione attuale Hinton dice:

“Queste cose sono totalmente diverse da noi.
A volte penso che sia come se gli alieni fossero atterrati e la gente non se ne fosse accorta perché parlano molto bene l'inglese."

Parole che fanno riflettere, in particolare se dette da un uomo di scienza "leggermente" autorevole in materia.

Nel lavoro sul deep learning svolto all'università di Toronto (che gli è valso il premio Turing), Hinton lavorava insieme a due brillanti studenti, uno di questi era proprio Ilya Sutskever.

Ilya ha assorbito tutto il sapere di Geoffrey e, molto probabilmente, anche la sua visione sul futuro dell'AI.

Sutskever dopo il dottorato è stato alla Stanford University con Andrew Yan-Tak Ng, un altro grande esperto e leader riconosciuto nel campo dell'intelligenza artificiale, tra l'altro anche cofondatore di Coursera.

Seguendo le orme del suo mentore Hinton Ilya ha lavorato per 10 anni in Google contribuendo allo sviluppo di Brain.

L'evoluzione naturale del suo percorso lo porta a lasciare la sua brillante carriera in Google per abbracciare la nascente OpenAI.

E' importante leggere le motivazioni del cambiamento:

"sono entrato in OpenAI in parte a causa di un gruppo molto forte di persone e, in larga misura, a causa della sua missione."

Sutskever è uno scienziato molto apprezzato, Altman si riferiva a Ilya come uno dei ricercatori più rispettati al mondo mentre Elon Musk (co-fondatore di OpenAI) lo ha definito:

il “fulcro” del successo di OpenAI

Ma allora andiamo ad indagare su quale sia la missione di OpenAI che ha attirato Ilya e cosa sia successo nel tempo.

Mission: OpenAI è un'azienda non-profit che ha l'obiettivo di costruire un'intelligenza artificiale generale (AGI) sicura e che sia di beneficio e vantaggiosa per l'umanità.

Ci sono 3 elementi fondamentali nella missione: azienda senza scopo di lucro, creazione dell'AGI e garanzia di sicurezza.

E' importante ricordare che, a differenza delle società tradizionali, il Consiglio di Amministrazione di OpenAI non ha il compito di massimizzare il valore per gli azionisti e nessuno dei partecipanti detiene azioni di OpenAI.

Il board iniziale, ovviamente prima delle ultime vicende, era composto da: Greg Brockman (Chairman e President), Sam Altman (CEO), Ilya Sutskever (Chief Scientist), Adam D'Angelo (CEO di Quora), Tasha McCauley (ex-CEO di GeoSim Systems) e Helen Toner (direttrice della strategia presso il Center for Security and Emerging Technology di Georgetown).

I primi 3 hanno ruoli operativi nell'azienda mentre gli ultime 3 no e sono esterni.

Nel 2019 OpenAI è ad un bivio, come si legge dal sito, per i grossi investimenti necessari all'attività di ricerca decidono di creare OpenAI LP, una nuova società che opera con finalità di lucro sebbene a "profitto limitato" (il limite e non superare di 100 volte il valore delle quote dei soci).

La dichiarazione ufficiale dell'azienda è:

"Vogliamo aumentare la nostra capacità di raccogliere capitali pur continuando a servire la nostra missione, e nessuna struttura legale preesistente di cui siamo a conoscenza raggiunge il giusto equilibrio."

Quindi dal 2019 coesistono due entità, i fondatori sostengono però che OpenAI LP sarà "governato" dalla nonprofit OpenAI Inc., che dà la garanzia di sicurezza e la priorità al miglioramento dell'umanità rispetto al lucro.

Sappiamo che il nuovo assetto societario ha consentito l'ingresso di Microsoft con ingenti capitali (oltre 10 miliardi di dollari) e con una quota del 49% della società profit, ma non ha un posto nel consiglio di amministrazione (coerente con missione di OpenAI).

Microsoft ha portato i mezzi per proseguire gli sviluppi e la piattaforma cloud e di calcolo necessaria ai laboratori di OpenAI in cambio ha ottenuto i diritti di licenza esclusivi per GPT-X.

Poco prima di questa ristrutturazione è uscito dalla società nonprofit uno dei suoi grandi promotori e co-fondatori: Elon Musk.

La motivazione ufficiale dell'uscita del CEO di Tesla è stata l'incompatibilità a causa di un potenziale conflitto di interessi con le attività di ricerca e sviluppo sull'intelligenza artificiale di Tesla applicate alla guida autonoma.

Ma basta leggere nel tempo i tweet del vulcanico Musk per capire che la motivazione è ben diversa.

Per esempio nel tweet che segue critica OpenAI per essere nata come nonprofit e opensource e di non esserlo più; inoltre per questo motivo ha bloccato l'accesso del bot di GPT all'analisi dei contenuti su Twitter o meglio x.com.

Elon non era d'accordo sulla creazione di un'azienda profit per raccogliere i capitali necessari.

Sembrerebbe che abbia proposto di finanziare lui direttamente OpenAI e prenderne il controllo totale con l'obiettivo di contrastare l'azienda profit più potente del momento : Google.

Chiaramente la proposta "accentratrice" di Musk non è piaciuta al CdA di OpenAI e le strade si sono separate ma è rimasta la convinzione del primo della pericolosità dell'AI (ed in particolare dell'AGI) guidata da esigenze economiche/finanziarie.

Perchè è stato licenziato Altman e qual è il suo significato

Dopo le dovute premesse necessarie a poter capire meglio cosa sta succedendo possiamo passare a quella che IMHO potrebbe essere la principale motivazione del licenziamento di Sam Altman.

La motivazione ufficiale l'abbiamo letta all'inizio di questo articolo, ma non sembrerebbe che ci siano problemi sull'operato di Altman (in pratica non ha fatto ca...te) ma bensì alla base c'è una visione del futuro differente.

Altman e Sutskever sono in disaccordo su come sviluppare la tecnologia e allo stesso tempo come generare profitti.

Il primo sta accelerando molto gli sviluppi ed il lancio dei prodotti e servizi sul mercato (basti osservare quanto presentato all'ultimo DevDay), addirittura sembra già pronto il lancio del modello GPT-5!

Ilya invece reputa molto pericolosa questa velocità, c'è il rischio di perdere il controllo sull'evoluzione dell'intelligenza artificiale.

Ora se consideriamo la missione di OpenAI ed il background tecnico/filosofico di Sutskever ci rendiamo conto che non si tratta di un contrasto personale ma di visioni del futuro differenti.

Come Elon Musk, è chiaro che Ilya ha una visione dell'AI forte, significa che se non stiamo attenti, nel prossimo futuro, l'intelligenza delle macchina non solo supererà quella umana ma diventerà senziente con scelte che potrebbero nuocere all'umanità.

In tale ottica bisognerebbe procedere più lentamente di quanto voglia fare Altman.

Da fonti attendibili interne ad OpenAI la scintilla che ha scatenato il licenziamento è stata una lettera firmata da diversi ricercatori interni che hanno avvertito il board della scoperta di una nuova AI, nome in codice Q* (Q-Star), in grado di minacciare l'umanità.

Sembrerebbe che Q* è l'intelligenza generale artificiale (AGI), in grado di imparare qualsiasi argomento in autonomia senza addrestramento, superando l'essere umano in molte attività.

Fonti anonime dicono che sia stata in grado di imparare da sola e risolvere dei problemi di matematica.

Questa lettera ha accesso le paure del consiglio di amministrazione che ha deciso di allontanare Altman.

La cosa che non si comprende è se Sutskever sapesse di Q*, come dovrebbe essere essendo lui a capo degli scienziati.

Oppure il problema non è la presenza di questa tecnologia ma la velocità con cui Altman la vuole portare sul mercato e che non ha condiviso con il board.

Questo avrebbe più senso in quanto la parte marketing/commerciale non è seguita da Sutskever.

Sebbene possa sembrare dall'esterno molto strano, in particolare per chi è abituato alle normali dinamiche di business, trovo molto sano la possibilità che questo licenziamento sia potuto accadere.

Infatti se nel CdA ci fossero stati membri con interessi economici diretti sarebbe stato impossibile licenziare un CEO che ha avuto i suoi risultati.

La storia di Altman e di Sutskever ci raccontano due personaggi leggermente diversi, il primo più pragmatico e attento al business e alla finanza ed il secondo più scienziato e futurologo.

Conclusioni e riflessioni

Da un pò di tempo sto studiando molto intensamente il mondo dell'AI ed egoisticamente spero che con Altman in Microsoft ed il nuovo CEO in OpenAI ci siano tante altre novità interessanti nei prossimi mesi su cui giocare e sperimentare.

Dall'altra parte faccio un pensiero più prospettico, grandi scienziati e menti molto più brillanti della mia (non solo Musk, Hinton e Sutskever) temono fortemente sul futuro dell'umanità se non controlliamo gli sviluppi dell'intelligenza artificiale.

Consiglio vivamente a tutti la lettura di questo articolo/intervista al premio Turing Geoffrey Hinton fatta dall'MIT.

Usando un'analogia potremmo considerare l'AI come all'impatto che si potrebbe avere se tornassimo nel passato al tempo dei romani e dessimo dei fucili ai cacciatori.

Con tali armi possono sicuramente cacciare meglio e più velocemente, con una crescita di benessere immediata.

Ma se dessimo l'accesso a tali armi a tutti, a basso costo, e con novità continue (fucili a ripetizione, bazooka, mitragliatrici, ecc..), chi ci dice che non vengano usate per conquistare territori in luogo della caccia?

Chiaramente la visione del futuro è funzione della fiducia che abbiamo nell'umanità e sul nostro livello di ottimismo.

Il ritorno di Altman in OpenAI è la soluzione migliore che, in teoria, garantisce un percorso di evoluzione dell'AI più sicuro in linea, ci si augura, con la missione iniziale di OpenAI.

Da questa storia Satya Nadella ne esce molto bene e rafforza il suo peso nella partnership.

Altman ha mostrato un'amore autentico per l'azienda da lui co-fondata, come dimostra il suo bel tweet, ricambiato da tutti i suoi dipendenti che erano pronti a seguirlo in Microsoft.

Il tweet di SutSkever, che riporto di seguito, fotografa una situazione positiva e di rammarico dello stesso: "Rimpiango profondamente la mia partecipazione alle azioni del consiglio di amministrazione".

Se questo è il suo reale pensiero allora ha peccato di superficialità o eccessivo scrupolo.

SutSkever non siederà più nel board ma continuerà ad avere il suo ruolo in azienda.

Probabilmente questa storia, che si è sviluppata in meno di una settimana, rafforzerà l'azienda OpenAI e la leadership di Altman e spero anche l'importanza di rimanere coerenti con la missione iniziale.

Nonostante mi reputi una persona molto ottimista mi rendo conto dell'estrema complessità dell'evoluzione futura e penso che sia importante farsi un'idea per il bene delle prossime generazioni.

Ci diranno cos'è Q*? E' arrivata già l'AGI?

PS: sei hai letto questo articolo fino alla fine significa che sei una persona curiosa, teniamoci in contatto (connettiamoci su Linkedin) in modo da aggiornarti sulle evoluzioni.