Superintelligenza: reazioni degli esperti alla visione e alle sfide di OpenAI
La corsa all'intelligenza artificiale generale (AGI) e a qualcosa di molto al di là di essa ha catturato l'attenzione sia dei tecnologi che del pubblico. Come giornalista che copre il panorama in rapida evoluzione dell'IA, ho visto con i miei occhi l'ambizione e l'apprensione che accompagnano questi progressi. OpenAI, un attore di spicco in questo campo, si trova in prima linea in questa discussione, alle prese non solo con gli ostacoli tecnici, ma anche con le profonde implicazioni etiche e sociali di ciò che stanno costruendo.
Fonte: Illustrazione originale
Riassunto rapido
- OpenAI mira a sviluppare la "superintelligenza", definita come un intelletto che supera di gran lunga le prestazioni cognitive umane.
- L'amministratore delegato Sam Altman stima che la superintelligenza potrebbe arrivare in "un paio di migliaia di giorni" (da 5,5 a 11 anni).
- OpenAI ha istituito un team "Superalignment", dedicando il 20% della sua potenza di calcolo per quattro anni per garantire uno sviluppo sicuro dell'IA.
- L'azienda riconosce rischi significativi, tra cui sconvolgimenti economici, uso improprio e potenziale esautoramento o estinzione dell'umanità se la superintelligenza non è adeguatamente allineata.
- OpenAI sostiene nuove politiche industriali e un processo decisionale democratico sui valori dell'IA, andando oltre gli aggiustamenti incrementali.
- Le sfide interne, tra cui cambiamenti nella leadership e partenze di ricercatori, evidenziano le continue tensioni riguardo alla sicurezza e allo sviluppo rapido.
La ricerca della superintelligenza
OpenAI ha dichiarato pubblicamente la sua fiducia nello sviluppo dell'AGI, che definisce come un "sistema altamente autonomo che supera gli esseri umani nella maggior parte del lavoro economicamente valido" con le proprie parole. Tuttavia, l'ambizione dell'azienda va oltre la tradizionale AGI, concentrandosi su quella che definisce "superintelligenza". Sam Altman, CEO di OpenAI, ha suggerito che la superintelligenza potrebbe arrivare in "un paio di migliaia di giorni". Questa tempistica, che varia da circa 5,5 a quasi 11 anni, sottolinea l'urgenza che molti nel settore avvertono riguardo al suo sviluppo. La superintelligenza, come definita da Nick Bostrom nel suo libro del 2014
Superintelligenza: percorsi, pericoli, strategie, è "qualsiasi intelletto che supera di gran lunga le prestazioni cognitive degli esseri umani in quasi tutti i domini rilevanti."
Fonte: tedapp.ai
Il libro di Nick Bostrom del 2014 fornisce una definizione fondamentale di superintelligenza, delineandone i potenziali percorsi, pericoli e strategie.
Altman ha definito il libro di Bostrom "la cosa migliore che abbia visto sull'argomento".
OpenAI ritiene che la superintelligenza potrebbe accelerare scoperte scientifiche e mediche, aumentare significativamente la produttività e ridurre i costi. I costi associati alla costruzione della superintelligenza diminuiscono annualmente e il numero di entità che perseguono il suo sviluppo è in rapida crescita. L'azienda riconosce che i rischi di una tecnologia così potente sono significativi, tra cui sconvolgimenti economici, uso improprio da parte di attori malevoli, sistemi disallineati e concentrazione di potere e ricchezza. OpenAI ritiene che la superintelligenza possa esautorare l'umanità o addirittura portare alla sua estinzione se non adeguatamente allineata.
L'iniziativa Superalignment
Riconoscendo questi profondi rischi, OpenAI ha annunciato la formazione del suo team "Superalignment" il 5 luglio 2023, come dettagliato nel suo post sul blog. Inizialmente guidato da Ilya Sutskever e Jan Leike, la missione del team è risolvere il problema della governance e del controllo dei sistemi di IA molto più intelligenti degli esseri umani. OpenAI ha impegnato il 20% della sua attuale potenza di calcolo protetta per i prossimi quattro anni per affrontare la sfida del superallineamento. L'obiettivo del team è risolvere i problemi tecnici centrali dell'allineamento della superintelligenza entro quattro anni.
Le attuali tecniche di allineamento dell'IA, che si basano sulla supervisione umana, non saranno scalabili efficacemente per la superintelligenza. L'approccio del team Superalignment prevede la costruzione di un ricercatore di allineamento automatizzato di livello umano, lo sviluppo di un metodo di addestramento scalabile, la convalida del modello e lo stress-test dell'intera pipeline di allineamento. OpenAI ha pubblicato i primi risultati del suo team Superalignment il 14 dicembre 2023, descrivendo una tecnica in cui un modello linguistico di grandi dimensioni meno potente può supervisionare uno più potente. Ad esempio, il team ha utilizzato GPT-2 per supervisionare GPT-4 su vari compiti per esplorare come gli esseri umani potrebbero monitorare modelli sovrumani. I risultati hanno mostrato che GPT-4, addestrato da GPT-2, ha ottenuto prestazioni dal 20% al 70% migliori nei compiti linguistici, ma peggiori negli scacchi. Tuttavia, il ricercatore di IA Thilo Hagendorff ha sollevato preoccupazioni sul fatto che GPT-2 potrebbe essere troppo "stupido" per fungere da insegnante efficace.
OpenAI prevede di condividere ampiamente i risultati dei suoi sforzi di Superalignment per contribuire all'allineamento e alla sicurezza dei modelli non OpenAI. Per promuovere ulteriormente questa ricerca, OpenAI ha annunciato un fondo di 10 milioni di dollari per supportare i ricercatori che lavorano sul superallineamento.
Governance e politiche nell'era dell'intelligenza
OpenAI ha pubblicato un articolo sulla "Governance della Superintelligenza" il 22 maggio 2023, sottolineando la necessità di considerare la governance dei futuri sistemi di IA molto più potenti dell'AGI. L'azienda suggerisce tre approcci per governare la superintelligenza: coordinamento tra i principali sforzi di sviluppo, un'agenzia internazionale simile all'IAEA per gli sforzi di superintelligenza e la capacità tecnica di rendere la superintelligenza sicura. OpenAI sostiene che le persone in tutto il mondo dovrebbero decidere democraticamente i valori per i sistemi di IA.
Il 6 aprile 2026, OpenAI ha pubblicato un articolo su "Politica Industriale per l'Era dell'Intelligenza", presentando idee per plasmare il futuro con l'IA avanzata. Questo articolo suggerisce che gli aggiustamenti incrementali delle politiche saranno insufficienti man mano che la società si muove verso la superintelligenza. OpenAI offre sovvenzioni e premi di ricerca fino a 100.000 dollari e fino a 1 milione di dollari in crediti API per lavori basati su queste idee politiche. L'azienda ha anche annunciato un nuovo seminario a Washington, D.C., a maggio per ospitare discussioni sulla politica industriale per l'era dell'intelligenza.
OpenAI propone che una nuova politica industriale sia necessaria per affrontare le sfide e le opportunità presentate dalla superintelligenza. Ciò include dare voce ai lavoratori nella transizione dell'IA, promuovere l'imprenditorialità basata sull'IA e considerare l'accesso all'IA fondamentale per un'economia moderna. Raccomandano la modernizzazione della base imponibile per garantire finanziamenti continui per i programmi sociali e la creazione di reti di sicurezza sociale adattive. OpenAI sottolinea l'importanza delle salvaguardie prima e dopo l'implementazione dei sistemi di IA, inclusi il monitoraggio in tempo reale e l'integrazione nelle istituzioni esistenti. Propongono controlli più rigorosi, inclusi audit, per un piccolo numero di modelli ad alta capacità che potrebbero comportare rischi chimici, biologici, radiologici, nucleari o informatici.
Dinamiche interne e partenze
La ricerca della superintelligenza non è stata priva di sfide interne a OpenAI. Il team responsabile della governance dei sistemi superintelligenti è stato recentemente sciolto dopo che i suoi due co-leader, Ilya Sutskever e Jan Leike, hanno lasciato l'azienda.
Fonte: artificial-intelligence.blog
Ilya Sutskever, co-leader del team Superalignment, ha recentemente lasciato OpenAI, segnando un significativo cambiamento interno.
❝ negli ultimi anni, la cultura e i processi di sicurezza sono passati in secondo piano rispetto ai prodotti luccicanti. ❞
Ricercatore IA
Nel giugno 2024, Ilya Sutskever ha fondato una nuova società chiamata "Safe Superintelligence".
La breve estromissione di Sam Altman come CEO nel novembre 2023 è stato un momento significativo, che egli ha definito un "grave fallimento di governance". Un'indagine di WilmerHale ha attribuito la sua rimozione a un "fallimento della relazione e perdita di fiducia" tra il precedente consiglio e Altman. Dalla fine del 2023, diversi ricercatori di punta hanno lasciato OpenAI, tra cui Ilya Sutskever e Alec Radford. Queste partenze evidenziano le continue tensioni e le diverse prospettive all'interno dell'organizzazione riguardo alla sicurezza, allo sviluppo rapido e alla governance aziendale. OpenAI dispone attualmente di tre organismi di sicurezza: un gruppo di consulenza interna sulla sicurezza, un comitato di sicurezza e protezione a livello di consiglio e un comitato di sicurezza per la distribuzione.
Comitati di Sicurezza di OpenAI
OpenAI opera attualmente con tre distinti organismi di sicurezza, a testimonianza del suo impegno ad affrontare i complessi rischi associati allo sviluppo di IA avanzata:
| Nome del Comitato | Funzione Principale |
|---|---|
| Gruppo di Consulenza Interna sulla Sicurezza | Fornisce consulenza e raccomandazioni interne sui protocolli e la ricerca di sicurezza. |
| Comitato di Sicurezza e Protezione a Livello di Consiglio | Supervisiona strategie di sicurezza e protezione di alto livello, riferendo direttamente al consiglio. |
| Comitato di Sicurezza per la Distribuzione | Si concentra sulla sicurezza e sulle implicazioni etiche durante la distribuzione dei sistemi di IA. |
Conclusione
Il dibattito sulla superintelligenza e sul suo sviluppo è complesso e comprende potenziali benefici straordinari e rischi altrettanto profondi. OpenAI, un attore chiave di questo futuro, continua a navigare queste sfide, impegnando risorse significative nella ricerca sull'allineamento e sostenendo politiche di governance lungimiranti. Il cammino verso la superintelligenza richiede non solo progressi tecnologici, ma anche una conversazione sostenuta e globale sulle sue implicazioni etiche e su come garantire che essa serva in ultima analisi i migliori interessi dell'umanità.
Domande Frequenti (FAQ)
Qual è la differenza tra AGI e Superintelligenza?
L'AGI (Intelligenza Artificiale Generale) si riferisce a un sistema altamente autonomo in grado di superare gli esseri umani nella maggior parte del lavoro economicamente valido. La superintelligenza, come definita da Nick Bostrom, è qualsiasi intelletto che supera ampiamente le prestazioni cognitive umane in quasi tutti i domini rilevanti, implicando un livello di capacità molto più elevato rispetto all'AGI.
Quanto presto OpenAI prevede che arriverà la superintelligenza?
Sam Altman, CEO di OpenAI, ha suggerito che la superintelligenza potrebbe arrivare in "un paio di migliaia di giorni", che si traduce approssimativamente tra 5,5 e 11 anni dalla sua affermazione.
Qual è lo scopo del team Superalignment di OpenAI?
La missione del team Superalignment è risolvere il problema della governance e del controllo dei sistemi di IA molto più intelligenti degli esseri umani. Si dedicano a risolvere le sfide tecniche fondamentali dell'allineamento della superintelligenza entro quattro anni, garantendo che questi potenti sistemi rimangano sicuri e benefici.
Quali sono i principali rischi associati alla superintelligenza, secondo OpenAI?
OpenAI identifica diversi rischi significativi, tra cui sconvolgimenti economici, potenziale uso improprio da parte di attori malevoli, sistemi disallineati che non operano secondo i migliori interessi dell'umanità e la concentrazione di potere e ricchezza. Avvertono anche del potenziale della superintelligenza di esautorare l'umanità o persino di portarla all'estinzione se non adeguatamente allineata.