Anthropic chiede una pausa nello sviluppo dell’intelligenza artificiale

“Pensiamo che sarebbe positivo per il mondo avere la possibilità di rallentare o sospendere temporaneamente lo sviluppo dell’intelligenza artificiale avanzata, in modo da permettere alla società di stare al passo con il progresso tecnologico” si legge in un comunicato pubblicato da Anthropic, una delle principali aziende statunitensi del settore.

L’azienda che ha realizzato il modello Claude, ha proposto la creazione di un meccanismo di coordinamento globale con gli altri leader per rallentare o sospendere l’evoluzione dell’intelligenza artificiale (IA), affinché nessun rivale ne approfitti per prendere il sopravvento. Secondo Anthropic, senza regole condivise, le decisioni sulla sicurezza rischiano di essere influenzate dalle tensioni geopolitiche e dalla pressione competitiva.

L’azienda, in particolare, mette in guardia dal rischio di una futura perdita di controllo sull’intelligenza artificiale e dalla possibilità che i sistemi diventino capaci di sviluppare autonomamente versioni sempre più sofisticate di se stessi. Il chatbot Claude di Anthropic, ad esempio, viene già sviluppato con un codice di cui circa l’80% viene già scritto dal sistema stesso. Intervistato dalla BBC, il cofondatore Jack Clark ha affermato che “raggiungere il 100% è possibile entro due anni e avrebbe implicazioni enormi”. E sempre Clark, ha avvertito che attualmente “il settore dell’IA ha solo un pedale dell’acceleratore, ma non quello del freno”.

Ci si aspetta che la proposta trovi resistenze negli Stati Uniti, dove numerosi responsabili e dirigenti del settore tecnologico rifiutano qualsiasi rallentamento che offrirebbe alla Cina un vantaggio decisivo. Ma il presidente Donald Trump sostiene di aver discusso la possibilità di cooperazione con la Cina in merito all’intelligenza artificiale durante una recente visita a Pechino.

Il rischio di un’intelligenza artificiale sviluppata dalle stesse macchine non è imminente, sottolinea l’azienda. Se però le attuali tendenze dovessero proseguire, questo scenario potrebbe diventare realtà. Le conseguenze sarebbero potenzialmente ambivalenti: da un lato enormi benefici nell’ambito scientifico, sanitario ed economico; dall’altro il rischio di una perdita di controllo sui sistemi di intelligenza artificiale più avanzati.