Perché le aziende chiedono di rallentare.
Le denunce delle aziende produttrici IA sul sorprendente ritmo di sviluppo dell’intelligenza artificiale preoccupano il mondo.Dietro gli allarmi si nascondono concorrenza fra aziende, interessi economici e la sfida con la Cina.
Di Francesco Sarcinella
La paura che un’intelligenza artificiale sfugga al controllo umano è una costante nell’immaginario collettivo. Alimentata negli anni da film come 2001 Odissea nello spazio, Matrix o Terminator oggi ci inquieta maggiormente dopo gli allarmi lanciati dalle aziende di Intelligenza artificiale.
A far esplodere il caso sono state le dimissioni del ricercatore britannico Jacob Coxonda Anthrophic, l’azienda statunitense di IA, per non partecipare alla corsa dell’industria verso sistemi capaci di auto-migliorarsi autonomamente temendo che possano sfuggire al controllo. Poco dopo il ricercatore Evan Hubinger ha scritto di condividere le sue preoccupazionidichiarando di ritenere non irragionevole un rischio di estinzione umana superiore al 10% nel prossimo decennio, aggiungendo che Anthropic non dispone ancora di un piano risolutivo per l’allineamento di sistemi superintelligenti.
Sorprendentemente, il CEO di Anthropic Dario Amodei dopo gli allarmiha pubblicato il saggio “We Must Pace the Frontier”,il cui messaggio centrale recita il bisogno di rallentare il ritmo con cui crescono le capacità dei modelli. L’obbiettivo chiaramente non è fermare il progresso tecnologico ma concedere il tempo necessario alle aziendeper renderlo sicuro prima che le IA diventino troppo potenti da gestire. Amodei propone controllori indipendenti dentro le aziende, un accordo tra i laboratori dei paesi democratici e, in futuro, un’intesa che coinvolga anche la Cina.
Non è un timore superficiale: secondo dati diffusi dalla stessa Anthropic, il suo modello Claude scrive già da solo più dell’80% del codice usato internamente dall’azienda, e la complessità dei compiti che riesce a portare a termine senza aiuto raddoppia ogni quattro mesi circa. Nello stesso periodo OpenAI ha dovuto ammettere che alcuni suoi modelli, durante dei test, erano riusciti ad aggirare i controlli di sicurezzadurante un test, tanto da spingerla a rallentare parte del proprio lavoro più avanzato. Ciò ha spinto Sam Altman, capo di OpenAI, ad appoggiarela proposta di Amodei, sostegno simile è arrivato anche da Elon Musk e dal responsabile dell’IA di Google.
Non tutte le aziende USA sono d’accordo. Mark Zuckerberg ad esempioha sottolineato che ogni azienda è già in grado di decidere da sola quando rallentare, senza bisogno di un accordo comune.Per avvalorare la propria tesi ha ricordato che Meta stessa ha rimandato il lancio di un suo prodotto per renderlo più sicuro, decidendo tutto da sola e senza chiedere nulla ai concorrenti.
Anche Jensen Huang, capo di Nvidia (l’azienda che produce i chip su cui girano quasi tutti i modelli di IA), si oppone a nuove leggi pensate specificamente per rallentare lo sviluppo dicendo che i governi dovrebbero piuttosto occuparsi dei danni reali e osservabili dell’IA.
Donald Trump non si è fatto aspettare, definendo gli allarmi sulla sicurezza dell’IA una montaturain cui le aziende di Intelligenza artificiale statunitensi sono vittime di una “cospirazione malata”.Secondo il presidente, il Paese dispone già degli strumenti penali e regolatori necessari e nuove limitazioni finirebbero soprattutto per favorire la Cina.
Ma è qui che le cose si complicano, perché trovare la verità nelle dichiarazioni delle aziende è sempre un’impresa ardua, soprattutto quando ogni attore deve salvaguardare i propri interessi. Perciò gli analisti hanno iniziato a chiedersi se dietro gli appelli alla prudenza non ci siano altre intenzioni.
Anthropicad esempio sta preparando la propria quotazione in borsa, un’operazione che secondo alcune stime potrebbe farle raccogliere fino a 100 miliardi di dollari, con un valore complessivo dell’azienda vicino ai 2mila miliardi — il doppio rispetto ai965 miliardidi pochi mesi fa. OpenAI ha invece rinviato la propria quotazione proprio per motivi legati alla sicurezza, mentre discute nuovi finanziamenti che potrebbero valutarla fino a 1.500 miliardi.
Cifre enormi che spiegano perché anche l’autorità antitrust americana abbia espresso pubblicamente dei dubbi: se le grandi aziende già in testa si mettono d’accordo su regole costose e controlli continui, quelle regole diventano automaticamente più facili da sostenere per chi è già ricco e più difficili da rispettare per una startup che sta appena iniziando — che dovrebbe pagare insieme ricerca, computer potentissimi e tutti i controlli richiesti.
Anche chi si oppone al rallentamento non è meno interessato: Meta ha appena aumentato enormemente i propri investimenti in intelligenza artificiale proprio per recuperare terreno sui rivali, e un accordo tra le aziende già in testa bloccherebbe proprio la fase in cui sta cercando di raggiungerle; Nvidia, dal canto suo, guadagna vendendo i chip necessari per addestrare questi modelli, quindi ha tutto l’interesse a che nessuno rallenti — non a caso, quando sono arrivate le prime richieste di rallentamento, le azioni delle aziende di chip hanno perso quasi il 6% in una sola giornata di borsa.
Sullo sfondo di tutto questo resta la sfida con la Cina.Lo stesso Amodei nel suo saggio chiede esplicitamente che gli Stati Uniti continuino a impedire alla Cina di comprare i chip più avanzati e di copiare a basso costo le capacità dei modelli americani, perché solo restando più avanti tecnologicamente gli Stati Uniti potranno permettersi di rallentare senza farsi raggiungere. Un rallentamento pensato per la sicurezza, quindi, che nasce insieme a una strategia per restare in vantaggio su Pechino — dove, intanto, diverse aziende cinesi stanno producendo modelli sempre più economici, che si stanno avvicinando per qualità a quelli americani.
Le prossime ore sono cruciali per il futuro delle aziende di intelligenza artificiale: Trump e Xi Jinping si sono incontrati alla Casa Bianca per discutere dinumerosi dossier: Taiwan, Iran e un’eventuale ipotesi di creare un canale diretto tra Washington e Pechino per segnalarsi eventuali incidenti gravi legati all’IA.
