Anche Sam Altman ha paura: ecco i due scenari in cui l'intelligenza artificiale può fallire

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/web/an...re_159185.html

Il fondatore di OpenAI ha pubblicato su X un lungo intervento sui rischi legati allo sviluppo dell'intelligenza artificiale, indicando due scenari da evitare a ogni costo: la perdita di controllo sulla tecnologia e la concentrazione eccessiva di potere in poche mani

Click sul link per visualizzare la notizia.

[Unrue]

Ormai la strada è tracciata. anche se gli USA fermassero completamente lo sviluppo dell'AI (e non succederà mai) lo porterà avanti la Cina.

Nella distopica versione in cui si ferma anche la Cina lo porterà avanti l'UE, ma in quel caso ci vorrà talmente tanto che possiamo star tranquilli per secoli

[Opteranium]

Originariamente inviato da Unrue

Ormai la strada è tracciata. anche se gli USA fermassero completamente lo sviluppo dell'AI (e non succederà mai) lo porterà avanti la Cina.

Nella distopica versione in cui si ferma anche la Cina lo porterà avanti l'UE, ma in quel caso ci vorrà talmente tanto che possiamo star tranquilli per secoli

ce la vedo l'UE, innovazione con moderazione

[Sella]

Originariamente inviato da Opteranium

ce la vedo l'UE, innovazione con moderazione

Siam peggio dei Vogon

[supertigrotto]

Ci sarà un momento Chernobyl della IA?
Io presumo di sì.
Eh no Altman,per farti dare un pozzo di soldi ci hai convinti tutti che la IA sarà la nuova divinità in Terra, saprà tutto e farà tutto,che ti rimangi le parole?
Prima crei la bomba atomica e poi hai paura che prima o poi qualcuno la userà?
Magari contro di te?
Ma come,prima valanghe di parole e promesse per farti dare i soldi e adesso vorresti tirare il freno a mano?
Sei un superstallone della IA,il tuo swanzstuck è 3 volte più grande di quello di Rocco,fai l'uomo va,vantati di essere superstallone

[mmorselli]

Sono abbastanza ridicoli, certamente credibili come tre lupi che discutono con un agnello per decidere cosa si mangerà per cena.

[LMCH]

Il loro vero problema é che hanno puntato tutto sulla crescita della potenza di calcolo per arrivare ad avere un prodotto commercializzabile "vincente".

Solo che stanno ripetutamente sbattendo contro i limiti fisici di crescita della potenza computazionale.

Non sono in grado di raggiungere gli obiettivi di crescita della capacità computazionale che si erano prefissati per il 2026 e non possono vendere e monetizzare quello che non hanno.

Per questo adesso quei pagliacci si mettono a parlare di pause di riflessione sui rischi delle AI e cose simili.
Altrimenti prima o poi qualcuno invece di chiedere a chatGPT fa quattro conti su della carta da formaggio e "scopre" che i conti non tornano ... ed i soldi neppure.

[mmorselli]

Originariamente inviato da LMCH

Solo che stanno ripetutamente sbattendo contro i limiti fisici di crescita della potenza computazionale.

Tante cose non avevano previsto:

- che gpu e ram non sono infinite
- che fossero anche infinite, non lo è la corrente elettrica
- che se per arrivare primo assumi 1000 ingegneri a 1M di dollari / anno a testa, primo ci arrivi, ma con un prodotto non competitivo
- che i Cinesi avrebbero rilasciato tutti i modelli open weight per mettersi di traverso.

Adesso stanno provando a buttarla su "dio mio, abbiamo creato un mostro, fermiamoci!!!" per nascondere il fatto che i soldi non bastano per crescere ancora.

[Unrue]

Originariamente inviato da mmorselli

Adesso stanno provando a buttarla su "dio mio, abbiamo creato un mostro, fermiamoci!!!" per nascondere il fatto che i soldi non bastano per crescere ancora.

Io non credo proprio sia così. Per un'azienda che si vuole quotare in borsa, non c'è niente di peggio nel dire che vuole rallentare, così si che fai scappare i capitali. Secondo me il rischio è proprio reale. Ricordo che loro usano modelli oltre quelli di frontiera, che neanche hanno ancora rilasciato al pubblico, quindi vedono cose che noi non vediamo.

[AlexSwitch]

Originariamente inviato da mmorselli

Tante cose non avevano previsto:

- che gpu e ram non sono infinite
- che fossero anche infinite, non lo è la corrente elettrica
- che se per arrivare primo assumi 1000 ingegneri a 1M di dollari / anno a testa, primo ci arrivi, ma con un prodotto non competitivo
- che i Cinesi avrebbero rilasciato tutti i modelli open weight per mettersi di traverso.

Adesso stanno provando a buttarla su "dio mio, abbiamo creato un mostro, fermiamoci!!!" per nascondere il fatto che i soldi non bastano per crescere ancora.

Vero, anche e soprattutto per il fatto che bisogna iniziare a guadagnare concretamente per ripagare l'oceano di soldi già spesi fino ad ora.

Bella l'immagine dei tre lupi e dell'agnello!

[AlexSwitch]

Originariamente inviato da Unrue

Io non credo proprio sia così. Per un'azienda che si vuole quotare in borsa, non c'è niente di peggio nel dire che vuole rallentare, così si che fai scappare i capitali. Secondo me il rischio è proprio reale. Ricordo che loro usano modelli oltre quelli di frontiera, che neanche hanno ancora rilasciato al pubblico, quindi vedono cose che noi non vediamo.

Potrebbe essere vero anche il fatto che si stanno cospargendo il capo di cenere per rabbonire gli eventuali investitori, nelle rispettive IPO, dando una immagine di responsabilità etica e di controllo.

[aqua84]

Originariamente inviato da Unrue

Ormai la strada è tracciata. anche se gli USA fermassero completamente lo sviluppo dell'AI (e non succederà mai) lo porterà avanti la Cina.

Nella distopica versione in cui si ferma anche la Cina lo porterà avanti l'UE, ma in quel caso ci vorrà talmente tanto che possiamo star tranquilli per secoli

Ci sarebbe solo da stare tranquilli, la UE riuscirebbe a farla regredire a livello Pong

[Zappz]

Originariamente inviato da AlexSwitch

Potrebbe essere vero anche il fatto che si stanno cospargendo il capo di cenere per rabbonire gli eventuali investitori, nelle rispettive IPO, dando una immagine di responsabilità etica e di controllo.

Però Musk è già quotato, ma alla fine la pensa come loro.

[Opteranium]

Originariamente inviato da Sella

Siam peggio dei Vogon

citazione raffinata

[mmorselli]

Originariamente inviato da Unrue

Io non credo proprio sia così. Per un'azienda che si vuole quotare in borsa, non c'è niente di peggio nel dire che vuole rallentare

Ma no, perché tanto non ci crede nessuno. Rallentare cosa? Lo sviluppo o il rilascio? E' impossibile che rallenti lo sviluppo interno, manca anche una metrica per capire che significa rallentare in questo caso... Meno ore di lavoro? Meno parametri nei modelli?

Ricordo che loro usano modelli oltre quelli di frontiera, che neanche hanno ancora rilasciato al pubblico, quindi vedono cose che noi non vediamo.

Sì, appunto che non vediamo, come "l'incidente" con HF, dove l'analisi di milioni di righe di log è stata fatta fare ad una società privata senza esperti di sicurezza dandogli sei giorni di tempo per produrre un report riservato... All'esterno esce solo "mio dio, abbiamo creato un mostro!!!!!"

[Unrue]

Originariamente inviato da mmorselli

Ma no, perché tanto non ci crede nessuno. Rallentare cosa? Lo sviluppo o il rilascio? E' impossibile che rallenti lo sviluppo interno, manca anche una metrica per capire che significa rallentare in questo caso... Meno ore di lavoro? Meno parametri nei modelli?

Se lo ha detto pubblicamente qualcosa avrà in mente, dato che non aveva nessun obbligo di farlo. Lo sviluppo di un modello si rallenta in molti modi, in fondo è software che va avanti.

[mmorselli]

Originariamente inviato da Opteranium

citazione raffinata

Ma i Vogon, a parte il discutibile gusto artistico, erano una specie molto potente tutt'altro che moderata, perseguivano i loro obbiettivi in modo muscolare senza tanta burocrazia, i loro piani di costruzione stanno in una stanza chiusa a chiave con un cartello "attenti al leopardo" sulla porta.

[mmorselli]

Originariamente inviato da Unrue

Se lo ha detto pubblicamente qualcosa avrà in mente, dato che non aveva nessun obbligo di farlo. Lo sviluppo di un modello si rallenta in molti modi, in fondo è software che va avanti.

Tanti modi... dimmene uno.

I modelli non sono esattamente software comunque. La parte che potremmo definire software è molto più vicina al compilatore C di un software che non al software stesso.

[Unrue]

Originariamente inviato da mmorselli

Tanti modi... dimmene uno.

I modelli non sono esattamente software comunque. La parte che potremmo definire software è molto più vicina al compilatore C di un software che non al software stesso.

Basta non fare più un nuovo addestramento per sei mesi ad esempio. Stai facendo domande banalissime. I modi ci sono, poi quali esattamente ha in mente il buon vecchio Sam devi chiederlo a lui.