Anthropic lancia l'allarme: l'IA sarà presto autoreplicante

La possibilità che l'IA diventi autonoma è una prospettiva da futuro prossimo: secondo il CEO di Anthropic ciò si potrà verificare tra il 2025 e il 2028. E' necessario un approccio responsabile allo sviluppo dei modelli
di Andrea Bai pubblicata il 17 Aprile 2024, alle 11:22 nel canale Scienza e tecnologiaAnthropicOpenAI
Dario Amodei, CEO di Anthropic, ha sollevato un allarme abbastanza inquietante riguardo al potenziale sviluppo incontrollato dell'intelligenza artificiale: nel giro di pochi anni, se non forse già dal prossimo, l'IA potrebbe avere la capacità di essere "autosufficiente" e "autoreplicante".
Amodei ha espresso le proprie considerazioni in occasione di una recente intervista al podcast di Ezra Klein del New York Times, cogliendo inoltre l'occasione per ricordare l'approccio che Antrhopic stessa adotta nello sviluppo dei modelli di Intelligenza Artificiale, che la società aveva illustrato alla fine dello scorso anno.

Secondo Amodei il mondo attualmente si trova al livello 2 di questa classificazione, ma il livello 4 - cioè quello in cui è particolarmente elevato il rischio di uso e comportamento catastrofico e la potenziale autonomia dei modelli - potrebbe essere raggiunto tra il 2025 e il 2028.
Il livello 4 implica una particolare attenzione verso l'uso (e possibile abuso) concreto dei modelli IA in particolare da parte degli Stati, che è ovviamente un compito molto più difficile e complesso rispetto alla prevenzione degli abusi da parte dei singoli infividui. Si tratta di una prospettiva, secondo Amodei, particolarmente preoccupante poiché potrebbe consentire a stati come Corea del Nord, Cina o Russia di potenziare notevolmente le loro capacità offensive attraverso l'IA, con serie implicazioni geopolitiche.
Ma al di là dei possibili impieghi potenzialmente catastrofici dell'IA, il livello 4 è anche lo scenario in cui l'Intelligenza Artificiale può avere capacità di replicarsi e sopravvivere "in natura", acquisendo un'autonomia che la porterebbe a sfuggire al controllo umano. Si tratta di una prospettiva tutt'altro che rassicurante e che richiede un approccio normativo e operativo responsabile, con un'attenta analisi dei rischi. "Non sto parlando di qualcosa che avverrà fra 50 anni, ma del futuro prossimo" ha affermato Amodei per sottolineare il senso di urgenza nell'affrontare adeguatamente lo sviluppo delle IA.

Per quanto dichiarazioni simili portino a prefigurare gli scenari più foschi tratteggiate in varie opere di fantascienza (qualcuno ha detto Skynet?) e, proprio per questo motivo, spesso vengano considerate come esagerate, va comunque tenuto presente che Amodei è una figura prominente nel panorama dell'intelligenza artificiale, avendo lavorato direttamente allo sviluppo di GTP-3 presso OpenAI e successivamente fuoriuscito con altri ex-dipendenti per fondare Anthropic con l'obiettivo di "garantire che l'intelligenza artificiale trasformativa aiuti le persone e la società a prosperare".
E' chiaro che l'approccio allo sviluppo di uno strumento con potenzialità tali non può essere lasciato al senso di etica e responsabilità dei singoli attori del panorama IA, ma implica un intervento politico di stampo sovranazionale, in maniera simile, come già suggerito lo scorso anno dal CEO di OpenAI Sam Altman, al modo in cui viene gestita oggi la ricerca e lo sviluppo dell'energia nucleare.
83 Commenti
Gli autori dei commenti, e non la redazione, sono responsabili dei contenuti da loro inseriti - infoPrima regalano al mondo uno strumento pericoloso poi escono dalle società dove lavoravano per motivi più o meno etici e chiedono regolamentazioni. Preferirei essere governato da AI piuttosto che da Stati o organismi Statali che controllano AI controllati da qualche persona potente
E basta con questi paragoni con Skynet, che ricordo nel film fu agganciata un'AI agli armamenti atomici. Ma quando mai ?
Poi vabbe, si sa che l'utente medio di HwUpgrade pensa di saperne di più del fondatore di una delle società più importanti a livello globale nell'ambito della AI generative.
Ci fanno spaventare con queste cazzate. Solo inutili allarmismi e alla fine non succederà niente di tutto questo perché le IA sono solo stupidi strumenti per generare immagini da testo e altre scemenze simili. Non sono nemmeno in grado di risolvere un problema matematico elementare come più volte ho dimostrato qui in questi mesi. Quella delle IA è una stupida moda passeggera come lo fu quella della Realtà Virtuale. Tempo qualche anno e sparirà. Tempo di racimolare profitti qua e là dalla gente credulona e vendergli cpu con IA, smartphone con IA e altre cazzate e poi questa moda sparirà. Altro che terminator...il tempo per sparare cazzate e generare inutili allarmismi è termineto (come dicono a bari)
Ci fanno spaventare con queste cazzate. Solo inutili allarmismi e alla fine non succederà niente di tutto questo perché le IA sono solo stupidi strumenti per generare immagini da testo e altre scemenze simili. Non sono nemmeno in grado di risolvere un problema matematico elementare come più volte ho dimostrato qui in questi mesi. Quella delle IA è una stupida moda passeggera come lo fu quella della Realtà Virtuale. Tempo qualche anno e sparirà. Tempo di racimolare profitti qua e là dalla gente credulona e vendergli cpu con IA, smartphone con IA e altre cazzate e poi questa moda sparirà. Altro che terminator...il tempo per sparare cazzate e generare inutili allarmismi è termineto (come dicono a bari)
tu si che hai capito tutto/niente dell'argomento
Per curiosità e perché devo essermi perso le dimostrazioni. Hai un link a precedenti thread o puoi fornire nuovamente un esempio?
uno dei più classici è quello della mamma bambino e latte
la mamma che abita al 14° piano di un palazzo chiede al bambino che sta in strada di lanciargli verso la finestra delle bottiglie di latte, il bambino lancia 2 bottiglie al giorno, quante bottiglie di latte avrà la mamma dopo una settimana? l'IA risponde 14
Gli esempi esistono ma il punto che li accomuna tutti è che sono problemi matematici che nascondono insidie nel testo. L'IA spesso non riesce a risolverli non perché non sarebbe in grado ma perché il testo fornitole la porta fuori strada.
Sono gli stessi problemi che a volte vengono usati per scherzo o come indovinello che ti portano a pensare a una soluzione semplice e immediata quando invece il senso reale del problema è tutt'altro.
Per farti un esempio:
Una lumaca vuole salire su un palo alto 5 metri; di giorno sale 3 metri e di notte scende 2 m. Quanto tempo ci metterà per raggiungere la cima del palo?
Risposta di Gemini:
Per risolvere questo problema, possiamo impostare un'equazione semplice che rappresenta la distanza percorsa dalla lumaca nel tempo.
Sia:
giorni il numero di giorni trascorsi
distanza la distanza percorsa dalla lumaca dal basso del palo
Ogni giorno, la lumaca sale 3 metri e poi scende di 2 metri, per un guadagno netto di 1 metro al giorno.
Possiamo esprimere la distanza percorsa dalla lumaca come:
distanza = giorni * 1 metro
La lumaca vuole raggiungere la cima del palo, che è alta 5 metri. Possiamo impostare questa condizione come:
distanza = 5 metri
Combinando queste due equazioni, otteniamo:
giorni * 1 metro = 5 metri
Dividendo entrambi i lati per 1 metro, troviamo il numero di giorni necessari:
giorni = 5 metri / 1 metro = 5 giorni
Quindi, ci vorranno 5 giorni alla lumaca per raggiungere la cima del palo.
Tuttavia, è importante notare che questo è un modello semplificato e non tiene conto di altri fattori che potrebbero influenzare la velocità della lumaca, come le condizioni meteorologiche o la sua condizione fisica.
Soluzione:
In realtà la soluzione è 3 giorni:
Il primo giorno sale di 3 e poi scende di 2 ed è a 1m
Il secondo giorno sale di 3 quindi arriva a 4 e scende di 2 quindi è a 2m
Il terzo giorno sale di 3 ed è arrivata a 5.
Ci fanno spaventare con queste cazzate. Solo inutili allarmismi e alla fine non succederà niente di tutto questo perché le IA sono solo stupidi strumenti per generare immagini da testo e altre scemenze simili. Non sono nemmeno in grado di risolvere un problema matematico elementare come più volte ho dimostrato qui in questi mesi. Quella delle IA è una stupida moda passeggera come lo fu quella della Realtà Virtuale. Tempo qualche anno e sparirà. Tempo di racimolare profitti qua e là dalla gente credulona e vendergli cpu con IA, smartphone con IA e altre cazzate e poi questa moda sparirà. Altro che terminator...il tempo per sparare cazzate e generare inutili allarmismi è termineto (come dicono a bari)
TI stai confondendo con le crypto fuffa mi sa..
Extra info, con l'IA l'unica cosa che spariranno sono migliaia o miliardi di posti di lavoro, senza contare tutto il resto.
Devi effettuare il login per poter commentare
Se non sei ancora registrato, puoi farlo attraverso questo form.
Se sei già registrato e loggato nel sito, puoi inserire il tuo commento.
Si tenga presente quanto letto nel regolamento, nel rispetto del "quieto vivere".