“Quando le macchine iniziano a pensare troppo”: perché gli esperti sono improvvisamente preoccupati che l’IA possa impazzire

Nell'aria che circonda l'intelligenza artificiale si percepisce un cambiamento. Non si tratta di una svolta drammatica, di quelle che di solito preannunciano una nuova era, ma piuttosto di qualcosa di simile a una stanza silenziosa, dove improvvisamente tutti si guardano intorno.

Questo è accaduto negli ultimi due giorni, quando alcune personalità di spicco hanno iniziato a sollevare una questione prima considerata pura fantasia. L'intelligenza artificiale è sicura, si chiedono, nel caso in cui non si comporti come previsto?

Questo è il tema generale di questo rapporto sul perché alcuni sono Sono preoccupato che l'IA possa alla fine "diventare incontrollabile".

Man mano che i componenti dell'intelligenza artificiale vengono assemblati e la tecnologia si diffonde, personalità come Demis Hassabis, co-fondatore di DeepMind, e Sam Altman, CEO di OpenAI, si interrogano su temi quali: "Se le macchine iniziassero a pensare autonomamente, come farebbero i sistemi che creiamo a garantire che le loro azioni non superino le aspettative dell'intelligenza umana?"

Nel corso di questo processo, alcuni sistemi di intelligenza artificiale stanno effettivamente iniziando a comportarsi in un modo non previsto dai loro ricercatori.

Questo è stato descritto come la dimostrazione di "alcune di queste capacità di identificare le vulnerabilità di sicurezza, mostrando i tipi di azioni che ritengono più appropriate in un determinato ambiente e comportandosi in modi che i ricercatori che hanno creato quei sistemi non avevano previsto".

Non malvagio, ma imprevedibile. E questo, di per sé, dovrebbe essere fonte di disagio.

Mentre questo avvertimento si fa sempre più pressante, nel settore si discute se sia opportuno sviluppare un'intelligenza artificiale sempre più potente.

Con l'evoluzione dell'IA, il dibattito sui rischi e i benefici si intensificherà, perché è proprio qui che le cose si complicano. I sistemi di IA sono in continua evoluzione per diventare sempre più utili all'umanità in futuro.

Alcune persone affermeranno L'intelligenza artificiale finirà per superare gli esseri umani e prendere il controllo del mondo. e si verificherà una perdita di controllo umano su di esso.

Altri, invece, credono che verrà utilizzato per raggiungere scopi benefici. E quindi sorge spontanea la domanda: i benefici superano i rischi?

Non ci resta che sperare che coloro che conoscono meglio questa tecnologia giungano a una qualche conclusione in merito.

È probabile che si tenterà di utilizzare i sistemi di intelligenza artificiale sia per scopi positivi che negativi. C'è anche il timore che possano essere impiegati in attacchi informatici e, in alcuni casi, persino in attacchi biologici.

Non tutti sono d'accordo. Sebbene la paura che l'IA "impazzisca" sia cresciuta, e questo non sia sempre un bene, è comunque positivo avviare un dibattito.

Ci vorranno anni prima che il dibattito si concluda. Esiste la possibilità di cooperazione in questo ambito, per stabilire una qualche forma di governance, o quantomeno un consenso globale.

L'intelligenza artificiale, in quanto tecnologia più trasformativa al mondo, ha già apportato enormi benefici all'umanità. Si tratta di un ambito che merita ulteriore attenzione da parte nostra e dei nostri leader.