
Gli esperti chiedono una pausa nello sviluppo di sistemi di intelligenza artificiale potenti
Negli ultimi anni, lo sviluppo di tecnologie avanzate intelligenza artificiale (AI) ha sollevato preoccupazioni circa il loro impatto sulla società e sull'umanità. Di recente, un gruppo di esperti di AI e dirigenti del settore, tra cui Elon Musk, ha chiesto una pausa di sei mesi nell'addestramento di sistemi di AI più potenti di quelli di OpenAI. modello appena lanciato GPT-4, citando potenziali rischi per la società e la civiltà.
In un lettera aperta emesso dall'istituto no-profit Future of Life Institute e firmato da oltre 1,000 persone, tra cui i ricercatori di DeepMind, di proprietà di Alphabet, Yoshua Bengio, Stuart Russell ed Emad Mostaque, CEO di Stability AI, il gruppo ha sottolineato la necessità di protocolli di sicurezza condivisi per lo sviluppo di intelligenza artificiale avanzata, che devono essere sviluppati, implementati e verificati da esperti indipendenti.
La lettera sottolinea che i sistemi di intelligenza artificiale potenti dovrebbero essere sviluppati solo quando gli esperti saranno certi che i loro effetti saranno positivi e che i rischi saranno gestibili. La lettera invita inoltre gli sviluppatori a collaborare con i decisori politici sulla governance e le autorità di regolamentazione per mitigare i potenziali rischi.
Potenziali rischi dei sistemi di intelligenza artificiale competitivi con l'uomo
La lettera mette inoltre in guardia sui potenziali rischi per la società e la civiltà derivanti dai sistemi di intelligenza artificiale competitivi con gli esseri umani. Questi sistemi potrebbero causare sconvolgimenti economici e politici sotto forma di tentativi di phishing, disinformazione e criminalità informatica.
Le preoccupazioni sollevate dal gruppo di esperti giungono in un momento in cui la forza di polizia dell'UE Europol si è unita alle preoccupazioni etiche e legali sull'intelligenza artificiale avanzata come ChatGPTHanno messo in guardia dal potenziale uso improprio del sistema, sottolineando la necessità di cautela nello sviluppo di questi sistemi.
Mentre il rilascio di ChatGPT di OpenAI ha spinto i rivali ad accelerare lo sviluppo di modelli linguistici simili di grandi dimensioni, le aziende devono essere consapevoli dei rischi che derivano dall'aumento di potenza dei sistemi di intelligenza artificiale. Il gruppo di esperti sottolinea l'importanza di sviluppare protocolli di sicurezza condivisi che diano priorità a risultati positivi e alla gestione del rischio.
Gary Marcus, un professore della New York University che ha firmato la lettera, ha commentato che "La lettera non è perfetta, ma lo spirito è giusto: dobbiamo rallentare finché non comprendiamo meglio le ramificazioni. Possono causare gravi danni e i grandi attori stanno diventando sempre più riservati su ciò che stanno facendo, il che rende difficile per la società difendersi da qualsiasi danno possa materializzarsi".
Conclusioni
Poiché la tecnologia AI continua a progredire rapidamente, è fondamentale dare priorità a protocolli di sicurezza condivisi per garantire che lo sviluppo di potenti sistemi AI non comporti conseguenze negative per la società e la civiltà. Il gruppo di esperti che chiede una pausa nello sviluppo dell'AI è un passo nella giusta direzione e i decisori politici e gli sviluppatori devono lavorare insieme per sviluppare autorità di governance e di regolamentazione che diano priorità a risultati positivi e gestione del rischio.














