Bengio avverte: la frenesia sull’IA dopo DeepSeek minaccia la sicurezza

Il rapido sviluppo dell’intelligenza artificiale (IA) ha generato un clima di grande entusiasmo tra i giganti della tecnologia, ma questo fervore potrebbe avere conseguenze potenzialmente dannose. Le parole di Yoshua Bengio, uno dei padri fondatori dell’IA moderna e vincitore del prestigioso Premio Turing nel 2018, mettono in luce i rischi associati a questa corsa frenetica. Il suo recente intervento si è concentrato sull’emergere di modelli come DeepSeek, una soluzione cinese caratterizzata da prestazioni elevate e costi contenuti, che ha ulteriormente accelerato la competizione nel settore. Secondo Bengio, questa situazione non è favorevole alla sicurezza globale.

La figura di Bengio e il suo ruolo nella sicurezza dell’IA

Bengio non è solo un accademico, ma anche un’autorità riconosciuta a livello internazionale nella ricerca sull’IA. Attualmente, è professore all’Università di Montreal e supervisore dell’International AI Safety Report, un documento frutto del lavoro di circa 100 esperti provenienti da 30 paesi, che include rappresentanti di organizzazioni come l’OCSE, l’Unione Europea e le Nazioni Unite. Questo rapporto è il risultato di un’iniziativa avviata nel 2023 durante un summit britannico dedicato alla sicurezza dell’IA e sarà oggetto di discussione nel prossimo Summit di Parigi sull’IA, previsto per il 10 e 11 febbraio.

Rischi emergenti e necessità di regolamentazione

Nel suo intervento, Bengio ha evidenziato i rischi già ampiamente discussi in relazione all’IA, come la creazione di contenuti falsi o fuorvianti e l’impatto sulla forza lavoro. Tuttavia, ha avvertito che stanno emergendo nuove minacce, tra cui potenziali attacchi biologici e informatici. La sua preoccupazione più grande riguarda la possibilità di una “perdita di controllo” sull’IA, una situazione che potrebbe avere conseguenze catastrofiche per l’umanità.

1. Attacchi biologici: Potenziali minacce che potrebbero derivare dall’uso irresponsabile della tecnologia.
2. Attacchi informatici: L’uso dell’IA per compromettere sistemi e rubare dati sensibili.
3. Regolamentazione: La necessità di interventi governativi per garantire la sicurezza.

Bengio sostiene che la ricerca sulla sicurezza dell’IA rappresenta attualmente “una piccola parte” degli ingenti investimenti nel settore, e questo squilibrio deve essere affrontato con urgenza. La sua richiesta di una regolamentazione internazionale più severa è motivata dalla necessità di garantire che lo sviluppo dell’IA avvenga in un contesto di sicurezza e responsabilità.

L’importanza del dialogo globale

La questione della sicurezza dell’IA non è solo una preoccupazione teorica. L’implementazione di sistemi di IA in ambiti critici, come la salute, la finanza e la sicurezza nazionale, richiede una riflessione approfondita sui potenziali rischi. Le recenti notizie di attacchi informatici che sfruttano l’IA per compromettere sistemi e rubare dati sensibili evidenziano l’urgenza di una risposta globale coordinata. Bengio ha sottolineato che i governi devono svolgere un ruolo attivo nella definizione di normative che possano prevenire abusi e garantire l’uso etico della tecnologia.

Il rapporto internazionale sull’IA, di cui Bengio è supervisore, mira a raccogliere e analizzare le opinioni di esperti e ricercatori in tutto il mondo, ma anche a delineare raccomandazioni pratiche per mitigare i rischi. La diversità di opinioni sui pericoli dell’IA varia notevolmente, ma un tema comune si staglia: la necessità di un’azione concertata per proteggere la società dai potenziali danni che possono derivare da un utilizzo irresponsabile della tecnologia.

Quando ChatGPT di OpenAI ha fatto il suo debutto pubblico due anni fa, Bengio ha avvertito di aver avvertito immediatamente l’urgenza di affrontare la questione della sicurezza. Le sue preoccupazioni si sono amplificate nel tempo, portandolo a esprimere il timore che l’umanità possa affrontare un destino infausto nei prossimi dieci anni se non vengono adottate misure adeguate e tempestive.

La crescente potenza dell’IA, unita alla sua disponibilità a basso costo, pone interrogativi fondamentali sulla direzione futura della tecnologia. Con modelli sempre più sofisticati come DeepSeek che emergono sul mercato, la necessità di un approccio equilibrato che consideri sia l’innovazione che la sicurezza diventa cruciale. Bengio, insieme ad altri esperti, sta lavorando per garantire che il progresso nell’IA non avvenga a scapito della sicurezza collettiva e della responsabilità etica.

Il mondo dell’IA si trova dunque a un bivio: da un lato, l’entusiasmo per le possibilità offerte dalla tecnologia; dall’altro, la necessità di affrontare seriamente i rischi che essa comporta. La discussione che si svolgerà al Summit di Parigi avrà un’importanza fondamentale per il futuro dell’IA e per la sicurezza globale, e rappresenterà un’opportunità per i leader mondiali di prendere in considerazione le raccomandazioni del rapporto e avviare un dialogo costruttivo su come garantire un futuro più sicuro e responsabile.