OpenAI ha sviluppato un'intelligenza artificiale troppo potente per essere rilasciata

[Redazione di Hardware Upg]

Link alla notizia: https://pro.hwupgrade.it/news/scienz...ata_80764.html

OpenAI è riuscita a sviluppare un'Intelligenza Artificiale in grado di scrivere articoli, news e molto altro; è diventata però troppo potente, tanto che i ricercatori si sono rifiutati di renderla totalmente totalmente Open Source.

Click sul link per visualizzare la notizia.

[Orko2]

Che addestrino una IA altrettanto potente per riconoscere il vero dal falso

[Paganetor]

[supermario]

hanno solo detto di non rilasciare il modello già addestrato, ognuno se lo può addestrare da se

[Luke1973]

Originariamente inviato da Orko2

Che addestrino una IA altrettanto potente per riconoscere il vero dal falso

Ecco...quella si sarebbe una IA molto più intelligente di tante persone!!

[supertigrotto]

É come se qualcuno avesse creato un reattore a fusione,sicuramente ad uso civile sarebbe una manna ma in mano ai militari o terroristi diventerebbe una arma.
Mettete che la ia fosse messa a disposizione di trafficanti di droga o delinquenti malavitosi....

[Opteranium]

«Il sistema andò online il 4 agosto 1997. Skynet cominciò a imparare a ritmo esponenziale. Divenne autocosciente alle 2:14 del mattino, ora dell'Atlantico, del 29 agosto.»

[Orko2]

Originariamente inviato da supermario

hanno solo detto di non rilasciare il modello già addestrato, ognuno se lo può addestrare da se

È la parte più lunga e complessa.

[MaxP4]

Originariamente inviato da Opteranium

«Il sistema andò online il 4 agosto 1997. Skynet cominciò a imparare a ritmo esponenziale. Divenne autocosciente alle 2:14 del mattino, ora dell'Atlantico, del 29 agosto.»

...è la frase che mi rimbalza in mente ogni volta che sento parlare di AI!

[Karandas]

Originariamente inviato da Opteranium

«Il sistema andò online il 4 agosto 1997. Skynet cominciò a imparare a ritmo esponenziale. Divenne autocosciente alle 2:14 del mattino, ora dell'Atlantico, del 29 agosto.»

Ma basta con ste uscite del menga, sinceramente hanno stufato. Qui stiamo parlando di intelligenze di tipo narrow ben lontane dalle capacità necessarie a far concretizzare gli scenari apocalittici che tanto vi piace tirare in ballo. Insomma fatevi furbi.

[raxas]

Originariamente inviato da Orko2

Che addestrino una IA altrettanto potente per riconoscere il vero dal falso

che addestrino una IA responsabile dei danni che potrebbe fare!
già, non è possibile, non è fisica, non può andare in prigione, non può pagare, tranne chi la istruisce e tiene in auge...
ovvero la libertà senza responsabilità inscritta in qualcosa che non è una intelligenza umana, a parte l'inteligenza (artificiale) era il sogno di qualsiasi umano?

[acerbo]

tanto finirà come in terminator, altro che fantascienza ...

[gd350turbo]

Originariamente inviato da Opteranium

«Il sistema andò online il 4 agosto 1997. Skynet cominciò a imparare a ritmo esponenziale. Divenne autocosciente alle 2:14 del mattino, ora dell'Atlantico, del 29 agosto.»

Speriamo...

[cignox1]

In realtá questa AI é riuscita a fuggire, ma ora sta riempiendo internet di falsi comunicati come questo, per impedirci di scoprirla!

[YetAnotherNewBie]

Magari hanno tirato fuori qualcosa di simile ad Ava (vedi Ex Machina), e per non fare la fine di Bateman, l'hanno soppressa.

[D4N!3L3]

Originariamente inviato da Karandas

Ma basta con ste uscite del menga, sinceramente hanno stufato. Qui stiamo parlando di intelligenze di tipo narrow ben lontane dalle capacità necessarie a far concretizzare gli scenari apocalittici che tanto vi piace tirare in ballo. Insomma fatevi furbi.

Al di là delle battute e della fantascienza non è escluso che una IA che abbia accesso ad armamenti di vario genere non decida di utilizzarli, non tanto perché prenda coscienza di se (fantascienza appunto) quanto perché magari sia una scelta derivata da elaborazioni logiche, che possono sfuggire anche ai programmatori.

Se non sbaglio poco tempo fa successe che hanno spento due macchine che avevano cominciato a dialogare tra loro in un linguaggio che nessuno riusciva a capire.

Non si parla di coscienza ma di matematica.

[gd350turbo]

Bè qualsiasi forma di intelligenza artificiale, che analizzi come gli esseri umani si comportano nei confronti del pianeta che gli ospita, e nei confronti degli altri esseri umani, non potrebbe non diventare pericolosa per gli stessi !

[Averell]

ma parlano dell'IA che è sfuggita al controllo di Corsini per animare la sezione news?

[pabloski]

Francamente sono motivazioni risibili. Evidentemente i ricercatori di OpenAI non hanno mai visto una troll farm cinese o indiana.

Non serve l'IA, basta pagare battiglioni di schiavi asiatici e il gioco è fatto. Piuttosto preoccupa, dal punto di vista scientifico, questa scelta. Perchè in genere si fa così quando si raccontano panzane.

La scienza è basata sulla peer review. Se non rilasci tutte le informazioni necessarie, gli altri non potranno convalidare o meno le tue affermazioni. Cioè siamo al livello degli spacciatori di scie chimiche.

[pabloski]

Originariamente inviato da D4N!3L3

Al di là delle battute e della fantascienza non è escluso che una IA che abbia accesso ad armamenti di vario genere non decida di utilizzarli, non tanto perché prenda coscienza di se (fantascienza appunto) quanto perché magari sia una scelta derivata da elaborazioni logiche, che possono sfuggire anche ai programmatori.

Se non sbaglio poco tempo fa successe che hanno spento due macchine che avevano cominciato a dialogare tra loro in un linguaggio che nessuno riusciva a capire.

Non si parla di coscienza ma di matematica.

Questo è possibile.

Ma l'amico di sopra usava appunto il termine "narrow". Cioè crei due chatbot e gli dai la possibilità di evolvere. Svilupperanno un linguaggio per comunicare tra di loro. Ma non svilupperanno mai un vaccino per l'AIDS.

Invece la stampa cerca di far passare l'idea che quei chatbot sono degli Einstein, implicando che la loro elevata intelligenza è generale. Invece no, sono intelligenti, ma solo relativamente a quella classe di problemi.

Detto questo, il problema degli armamenti si pone. Perchè un'IA narrow, esperta in cose militari, si può costruire e potrebbe essere molto intelligente ( sempre e solo in quello specifico ambito ), tanto da decidere di fare cose che per noi sarebbero distruttive.