Navigare i rischi urgenti dell'IA incontrollata: Appelli per una governance globale

I rapidi progressi dell'intelligenza artificiale (IA) hanno portato sia possibilità entusiasmanti che rischi preoccupanti. Una delle principali preoccupazioni è il potenziale dei sistemi di IA, in particolare i grandi modelli linguistici come ChatGPT, di generare disinformazione altamente convincente e manipolare il comportamento umano su larga scala.

Questi sistemi di IA possono creare narrative plausibili e prove false, rendendo sempre più difficile persino per gli editor professionisti distinguere la verità dalla finzione. L'esempio di ChatGPT che ha fabbricato uno scandalo di molestie sessuali su un vero professore evidenzia il potenziale allarmante di questi sistemi di diffondere informazioni false.

Un altro problema è il pregiudizio intrinseco presente in molti modelli di IA, come dimostrato dall'esempio in cui il sistema ha raccomandato lavori legati alla moda per una donna e lavori di ingegneria per un uomo. Tali pregiudizi possono perpetuare stereotipi dannosi e minare l'equità e l'inclusività che queste tecnologie dovrebbero perseguire.

Inoltre, lo sviluppo rapido delle capacità di IA, come la capacità di progettare prodotti chimici e potenzialmente armi chimiche, solleva gravi preoccupazioni circa il potenziale uso improprio e la necessità di solidi quadri normativi.

Per mitigare questi rischi, è necessario un approccio a due facce. In primo luogo, sul piano tecnico, c'è la necessità di riconciliare i punti di forza dell'IA simbolica, che eccelle nella rappresentazione dei fatti e nel ragionamento, con le capacità di apprendimento delle reti neurali. Combinando questi approcci, potrebbe essere possibile sviluppare sistemi di IA più veritieri e affidabili su larga scala.

In secondo luogo, l'istituzione di un'organizzazione globale, senza scopo di lucro e neutrale per la governance dell'IA è fondamentale. Questa organizzazione affronterebbe la mancanza di governance e gli strumenti di ricerca necessari per comprendere e gestire i crescenti rischi posti dall'IA. Potrebbe stabilire linee guida per lo sviluppo e la distribuzione responsabile dell'IA, inclusi requisiti per le valutazioni di sicurezza e le distribuzioni a fasi, simili all'industria farmaceutica.

Il braccio di ricerca di questa organizzazione sarebbe altresì essenziale, in quanto lavorerebbe per sviluppare gli strumenti e le metriche necessari per misurare l'entità e la crescita della disinformazione, nonché i contributi specifici dei grandi modelli linguistici a questo problema.

Il raggiungimento di questa visione richiederà la collaborazione e l'impegno di vari stakeholder, tra cui governi, aziende tecnologiche e il pubblico in generale. Il recente sondaggio che mostra che il 91% delle persone concorda sul fatto che l'IA dovrebbe essere gestita con attenzione fornisce una solida base per questo sforzo.

Adottando misure proattive per affrontare i rischi urgenti dell'IA incontrollata, possiamo lavorare verso un futuro in cui i benefici di queste tecnologie trasformative vengano sfruttati in modo responsabile ed etico, salvaguardando il benessere degli individui e della società nel suo complesso.