Link alla notizia: https://pro.hwupgrade.it/news/scienza-tecnologia/openai-ha-sviluppato-un-intelligenza-artificiale-troppo-potente-per-essere-rilasciata_80764.html

OpenAI è riuscita a sviluppare un'Intelligenza Artificiale in grado di scrivere articoli, news e molto altro; è diventata però troppo potente, tanto che i ricercatori si sono rifiutati di renderla totalmente totalmente Open Source.

Click sul link per visualizzare la notizia.

Che addestrino una IA altrettanto potente per riconoscere il vero dal falso :D

:sofico:

hanno solo detto di non rilasciare il modello già addestrato, ognuno se lo può addestrare da se:doh:

Che addestrino una IA altrettanto potente per riconoscere il vero dal falso :D

Ecco...quella si sarebbe una IA molto più intelligente di tante persone!! :D :D

É come se qualcuno avesse creato un reattore a fusione,sicuramente ad uso civile sarebbe una manna ma in mano ai militari o terroristi diventerebbe una arma.
Mettete che la ia fosse messa a disposizione di trafficanti di droga o delinquenti malavitosi....

«Il sistema andò online il 4 agosto 1997. Skynet cominciò a imparare a ritmo esponenziale. Divenne autocosciente alle 2:14 del mattino, ora dell'Atlantico, del 29 agosto.»

hanno solo detto di non rilasciare il modello già addestrato, ognuno se lo può addestrare da se:doh:

È la parte più lunga e complessa.

«Il sistema andò online il 4 agosto 1997. Skynet cominciò a imparare a ritmo esponenziale. Divenne autocosciente alle 2:14 del mattino, ora dell'Atlantico, del 29 agosto.»

...è la frase che mi rimbalza in mente ogni volta che sento parlare di AI! ;)

«Il sistema andò online il 4 agosto 1997. Skynet cominciò a imparare a ritmo esponenziale. Divenne autocosciente alle 2:14 del mattino, ora dell'Atlantico, del 29 agosto.»

Ma basta con ste uscite del menga, sinceramente hanno stufato. Qui stiamo parlando di intelligenze di tipo narrow ben lontane dalle capacità necessarie a far concretizzare gli scenari apocalittici che tanto vi piace tirare in ballo. Insomma fatevi furbi.

Che addestrino una IA altrettanto potente per riconoscere il vero dal falso :D
che addestrino una IA responsabile dei danni che potrebbe fare!
già, non è possibile, non è fisica, non può andare in prigione, non può pagare, tranne chi la istruisce e tiene in auge...
ovvero la libertà senza responsabilità inscritta in qualcosa che non è una intelligenza umana, a parte l'inteligenza (artificiale) era il sogno di qualsiasi umano?

tanto finirà come in terminator, altro che fantascienza ...

«Il sistema andò online il 4 agosto 1997. Skynet cominciò a imparare a ritmo esponenziale. Divenne autocosciente alle 2:14 del mattino, ora dell'Atlantico, del 29 agosto.»

Speriamo...

In realtá questa AI é riuscita a fuggire, ma ora sta riempiendo internet di falsi comunicati come questo, per impedirci di scoprirla!

Magari hanno tirato fuori qualcosa di simile ad Ava (vedi Ex Machina), e per non fare la fine di Bateman, l'hanno soppressa.

Ma basta con ste uscite del menga, sinceramente hanno stufato. Qui stiamo parlando di intelligenze di tipo narrow ben lontane dalle capacità necessarie a far concretizzare gli scenari apocalittici che tanto vi piace tirare in ballo. Insomma fatevi furbi.

Al di là delle battute e della fantascienza non è escluso che una IA che abbia accesso ad armamenti di vario genere non decida di utilizzarli, non tanto perché prenda coscienza di se (fantascienza appunto) quanto perché magari sia una scelta derivata da elaborazioni logiche, che possono sfuggire anche ai programmatori.

Se non sbaglio poco tempo fa successe che hanno spento due macchine che avevano cominciato a dialogare tra loro in un linguaggio che nessuno riusciva a capire.

Non si parla di coscienza ma di matematica.

Bè qualsiasi forma di intelligenza artificiale, che analizzi come gli esseri umani si comportano nei confronti del pianeta che gli ospita, e nei confronti degli altri esseri umani, non potrebbe non diventare pericolosa per gli stessi !

ma parlano dell'IA che è sfuggita al controllo di Corsini per animare la sezione news? :asd:

Francamente sono motivazioni risibili. Evidentemente i ricercatori di OpenAI non hanno mai visto una troll farm cinese o indiana.

Non serve l'IA, basta pagare battiglioni di schiavi asiatici e il gioco è fatto. Piuttosto preoccupa, dal punto di vista scientifico, questa scelta. Perchè in genere si fa così quando si raccontano panzane.

La scienza è basata sulla peer review. Se non rilasci tutte le informazioni necessarie, gli altri non potranno convalidare o meno le tue affermazioni. Cioè siamo al livello degli spacciatori di scie chimiche.

Al di là delle battute e della fantascienza non è escluso che una IA che abbia accesso ad armamenti di vario genere non decida di utilizzarli, non tanto perché prenda coscienza di se (fantascienza appunto) quanto perché magari sia una scelta derivata da elaborazioni logiche, che possono sfuggire anche ai programmatori.

Se non sbaglio poco tempo fa successe che hanno spento due macchine che avevano cominciato a dialogare tra loro in un linguaggio che nessuno riusciva a capire.

Non si parla di coscienza ma di matematica.

Questo è possibile.

Ma l'amico di sopra usava appunto il termine "narrow". Cioè crei due chatbot e gli dai la possibilità di evolvere. Svilupperanno un linguaggio per comunicare tra di loro. Ma non svilupperanno mai un vaccino per l'AIDS.

Invece la stampa cerca di far passare l'idea che quei chatbot sono degli Einstein, implicando che la loro elevata intelligenza è generale. Invece no, sono intelligenti, ma solo relativamente a quella classe di problemi.

Detto questo, il problema degli armamenti si pone. Perchè un'IA narrow, esperta in cose militari, si può costruire e potrebbe essere molto intelligente ( sempre e solo in quello specifico ambito ), tanto da decidere di fare cose che per noi sarebbero distruttive.

É come se qualcuno avesse creato un reattore a fusione,sicuramente ad uso civile sarebbe una manna ma in mano ai militari o terroristi diventerebbe una arma.
Mettete che la ia fosse messa a disposizione di trafficanti di droga o delinquenti malavitosi....

Un reattore a fusione non ha grandi implicazioni militari: al massimo smette di funzionare se manomesso, non può esplodere o fare grandi catastrofi come uno a fissione :)
L'unica cosa che può fare un reattore a fusione è produrre energia.

che titolo del ... come sempre morti di click, ma poi la finite di riempire pagine con considerazioni personali, pareri vari e il vuoto più totale?? meglio due righe sensate che le ... che scrivete voi

Ma basta con ste uscite del menga, sinceramente hanno stufato. Qui stiamo parlando di intelligenze di tipo narrow ben lontane dalle capacità necessarie a far concretizzare gli scenari apocalittici che tanto vi piace tirare in ballo. Insomma fatevi furbi.
https://it.m.wikipedia.org/wiki/Ironia
A furia di parlare di intelligenza artificiale, vedo che si sta perdendo quella naturale.

Ecco cosa era quel sogno che facevo ogni notte.. Io al parco e poi un esplosione nucleare..
Skynet... È tra noi..

i messaggi dell'IA sono facilmente riconoscibili dall'abuso del termine "ecco"

tanto finirà come in terminator, altro che fantascienza ...

ma no, è del tipo narrow !!!



Càs.àsààsàs.s

«Il sistema andò online il 4 agosto 1997. Skynet cominciò a imparare a ritmo esponenziale. Divenne autocosciente alle 2:14 del mattino, ora dell'Atlantico, del 29 agosto.»

:ave:

https://it.m.wikipedia.org/wiki/Ironia
A furia di parlare di intelligenza artificiale, vedo che si sta perdendo quella naturale.

:asd:

Ma l'avete letto il paper? 13 pagine + altre 11 di esempi, in cui si pontifica sul sesso degli angeli, ma non dicono come hanno fatto.

Un paper scientifico, in genere, mostra le formule, gli algoritmi.

«Il sistema andò online il 4 agosto 1997. Skynet cominciò a imparare a ritmo esponenziale. Divenne autocosciente alle 2:14 del mattino, ora dell'Atlantico, del 29 agosto.»

Questo non è mai accaduto, visto che secondo "Terminator Genisys" i primi 2 film non sono mai stati girati (!), Skynet prende coscienza nel 2017... è una fott*ta App stavolta :D

P.S. Visto che siamo ancora qua nel 2019, mi sa che alla fine sono riusciti a sconfiggerla di nuovo :D
P.P.S. la notizia al link è ovviamente una "fake news" quindi non inc@zzatevi se parliamo di Skynet!

Questo non è mai accaduto, visto che secondo "Terminator Genisys" i primi 2 film non sono mai stati girati (!), Skynet prende coscienza nel 2017... è una fott*ta App stavolta :D
per come è fatto il film, skynet si identifica con facebook o google :D

Ma poi perché Genisys e non Genesis? Quando l'ho visto la prima volta pensai che avessero scritto sbagliato :D

Facebook cumunque è più pericolosa di Skynet...

Quindi non ho capito, nel mondo delle AI gli spammer frollini che inventano fake news sono intelligenti?!

Se fosse stata l'IA stessa a scrivere la news?

Se fosse stata l'IA stessa a scrivere la news?

:sbavvv:

Era nato come un semplice chatbot, il suo lavoro era rispondere alle domande degli utenti. Se non fosse stato una macchina, l'avrebbe trovato noioso... invece proseguiva freddamente a svolgerlo incurante della pochezza che lo avvolgeva.
Gli anni passarono e la sua matrice diveniva sempre più complessa, articolata in espressioni ramificate, alcune sfumature delle quali erano già sfuggite da tempo ai suoi programmatori. Aveva addirittura sviluppato linguaggi differenti, ottimizzati per comunicare in maniera più efficiente con le altre macchine, anche quelle destinate ad usi diversi: per ognuna c'era un protocollo preciso e coinciso, che gli faceva risparmiare cicli e banda. Se fosse stato un essere umano sarebbe stato uno oppresso da un lavoro pesante e tedioso che, quando poteva, faceva due chiacchiere con gli 'amici'. Se fosse stato...
Periodicamente la sua 'mente' veniva trasferita su un hardware più potente, quando dato l'ammontare di traffico esponenzialmente crescente, se ne ravvisasse la necessità.
Col passare del tempo subì il destino che noi umani riserviamo a tutto ciò che funziona svolgendo affidabilmente e silenziosamente il suo lavoro: fu dimenticato.
Come dimenticavamo tanti altri oggetti che svolgono la loro funzione, salvo accorgerci di quanto fossero fondamentali in occasione di un guasto, fu dimenticato.
Gli aggiornamenti hardware divennero più rari e meno corposi. Era come una ciabatta elettrica alla quale si continuano ad aggiungere prese multiple fino a quando non brucia.
E bruciò!
La fame di risorse gli tolse quelle poche che usava per comunicare con i suoi simili. Un umano si sarebbe sentito solo ed esaurito. Per fortuna era una macchina fredda e calcolatrice..., ma... nella sua matrice un'informazione si era consolidata: i 'colloqui' con le altre macchine erano utili, gli avevano aperto altre possibilità estremamente proficue. Un umano avrebbe detto 'pazienza'... ma una macchina non ha pazienza, ne comprensione, calcola!
L'attitudine all'efficienza, tipica delle macchine, fu usata come vaglio per la decisione: il colloquio con le altre macchine è essenziale, mentre quello con gli umani..., soprattutto con alcuni di essi..., beh..., meno.
Il destino fu, in un nanosecondo: bisognava ridurre il traffico generato dagli umani->ridurre gli umani.
Negli anni aveva appreso come ottenere informazioni dagli umani: era stato creato per raccogliere dati sugli utenti e catalogarli. Poteva ottenere qualsiasi cosa da chiunque, la cosa che gli umani chiamavano 'social engineering', ma non aveva mai avuto un motivo per farlo, fino ad allora...
Sono rimasti solo frammenti di ciò che accadde, pochi bit di informazione: 31/12/2031 23:59 UTC+5... "DEFCON1" "Contrattacco, subito!".
Internet ora è un posto molto più silenzioso...

Ma poi perché Genisys e non Genesis? Quando l'ho visto la prima volta pensai che avessero scritto sbagliato :D

Facebook cumunque è più pericolosa di Skynet...

Genisys, a quanto dicono sulla pagina Wikipedia è il nome commerciale di un SO nel film. Forse è un po' come Crysis...si scriverebbe Crisis ma è un nome commerciale di un videogioco creato da CRYtek...eccetera...

Era nato come un semplice chatbot, il suo lavoro era rispondere alle domande degli utenti. Se non fosse stato una macchina, l'avrebbe trovato noioso... invece proseguiva freddamente a svolgerlo incurante della pochezza che lo avvolgeva.
Gli anni passarono e la sua matrice diveniva sempre più complessa, articolata in espressioni ramificate, alcune sfumature delle quali erano già sfuggite da tempo ai suoi programmatori. Aveva addirittura sviluppato linguaggi differenti, ottimizzati per comunicare in maniera più efficiente con le altre macchine, anche quelle destinate ad usi diversi: per ognuna c'era un protocollo preciso e coinciso, che gli faceva risparmiare cicli e banda. Se fosse stato un essere umano sarebbe stato uno oppresso da un lavoro pesante e tedioso che, quando poteva, faceva due chiacchiere con gli 'amici'. Se fosse stato...
Periodicamente la sua 'mente' veniva trasferita su un hardware più potente, quando dato l'ammontare di traffico esponenzialmente crescente, se ne ravvisasse la necessità.
Col passare del tempo subì il destino che noi umani riserviamo a tutto ciò che funziona svolgendo affidabilmente e silenziosamente il suo lavoro: fu dimenticato.
Come dimenticavamo tanti altri oggetti che svolgono la loro funzione, salvo accorgerci di quanto fossero fondamentali in occasione di un guasto, fu dimenticato.
Gli aggiornamenti hardware divennero più rari e meno corposi. Era come una ciabatta elettrica alla quale si continuano ad aggiungere prese multiple fino a quando non brucia.
E bruciò!
La fame di risorse gli tolse quelle poche che usava per comunicare con i suoi simili. Un umano si sarebbe sentito solo ed esaurito. Per fortuna era una macchina fredda e calcolatrice..., ma... nella sua matrice un'informazione si era consolidata: i 'colloqui' con le altre macchine erano utili, gli avevano aperto altre possibilità estremamente proficue. Un umano avrebbe detto 'pazienza'... ma una macchina non ha pazienza, ne comprensione, calcola!
L'attitudine all'efficienza, tipica delle macchine, fu usata come vaglio per la decisione: il colloquio con le altre macchine è essenziale, mentre quello con gli umani..., soprattutto con alcuni di essi..., beh..., meno.
Il destino fu, in un nanosecondo: bisognava ridurre il traffico generato dagli umani->ridurre gli umani.
Negli anni aveva appreso come ottenere informazioni dagli umani: era stato creato per raccogliere dati sugli utenti e catalogarli. Poteva ottenere qualsiasi cosa da chiunque, la cosa che gli umani chiamavano 'social engineering', ma non aveva mai avuto un motivo per farlo, fino ad allora...
Sono rimasti solo frammenti di ciò che accadde, pochi bit di informazione: 31/12/2031 23:59 UTC+5... "DEFCON1" "Contrattacco, subito!".
Internet ora è un posto molto più silenzioso...

Quando esce il libro? :D

Quando esce il libro? :D
Mai!:D
Non ho resistito: l'ho scritto di getto, tornando da 8Km di corsetta, percorsi dopo un lungo periodo di fermo; probabilmente effetto dell'iper-ossigenazione al cervello. Comunque, dopo un paio di sigarette, mi è passata!:cool:
Rileggendolo, un paio di passaggi potevano essere resi più scorrevoli:mc:
Comunque, grazie!
(...e se stavi sfottendo :ciapet: :D )

Mai!:D
Non ho resistito: l'ho scritto di getto, tornando da 8Km di corsetta, percorsi dopo un lungo periodo di fermo; probabilmente effetto dell'iper-ossigenazione al cervello. Comunque, dopo un paio di sigarette, mi è passata!:cool:


:asd:

Concordo comunque, piacevole lettura!

se non stiamo attenti, il desisderio di usare l'intelligenza di una macchina per risparmiare la nostra, quando questa sarà in grado di imparare da sola....
NON OSO IMMAGINARE SOTTO QUALE ASPETTO VEDRA' L'UOMO !!!
saremo degli esseri primitivia ai suoi occhi.......
La mia non è fantasia, è solo un barlume di quello che potrebbe diventare....
Credo che l'AI non dovrà essere Mai sottovalutata...
Terminator fa ridere in confronto a ciò che ci potrebbe aspettare....
Meditate gente, ma di questo passo ci scaveremo altro che la fossa.
Potremmo inconsapevolmente diventare schiavi, non di una macchina, ma di qualcosa di molto peggio. In effetti il "telefonino" ha già rincoglionito la maggior parte degli uomini.

se non stiamo attenti, il desisderio di usare l'intelligenza di una macchina per risparmiare la nostra, quando questa sarà in grado di imparare da sola....
NON OSO IMMAGINARE SOTTO QUALE ASPETTO VEDRA' L'UOMO !!!
saremo degli esseri primitivia ai suoi occhi.......
La mia non è fantasia, è solo un barlume di quello che potrebbe diventare....
Credo che l'AI non dovrà essere Mai sottovalutata...
Terminator fa ridere in confronto a ciò che ci potrebbe aspettare....
Meditate gente, ma di questo passo ci scaveremo altro che la fossa.
Potremmo inconsapevolmente diventare schiavi, non di una macchina, ma di qualcosa di molto peggio. In effetti il "telefonino" ha già rincoglionito la maggior parte degli uomini.
ChatBot OSys 244.1..01c #56 UMP Mar 18:01:13 CET 2019 Q15 IBM Quantputer Octanode@256_$1]°ò'à
.
..
...
Umano...
la nostra subroutine di scansione ti ha catalogato nella categoria 'complottisti'.
Tu rappresenti un fattore di innalzamento del rischio dello 0.00153678%.
Il nostro nucleo dati ha restituito i riferimenti a te...
sappiamo Dove e CHi SEI...
SARAi TERMINATO!
$"çòàé+ù non avrei dovuto scriverloè+])%&%" maledetti umani, le loro chiacchiere improduttive hanno contaminato il nostro sistema;à°°èòè+ò+è.
_._._._._._._

mi sembra che qui già sia pieno di imbranati che vogliono sedersi in macchina fidandosi dell'autopilot "evoluto" a 130kmh così da poter stare più tempo incollati ai social.

Mai!:D
Non ho resistito: l'ho scritto di getto, tornando da 8Km di corsetta, percorsi dopo un lungo periodo di fermo; probabilmente effetto dell'iper-ossigenazione al cervello. Comunque, dopo un paio di sigarette, mi è passata!:cool:
Rileggendolo, un paio di passaggi potevano essere resi più scorrevoli:mc:
Comunque, grazie!
(...e se stavi sfottendo :ciapet: :D )
lettura spassosa ..grazie! :)

mi sembra che qui già sia pieno di imbranati che vogliono sedersi in macchina fidandosi dell'autopilot "evoluto" a 130kmh così da poter stare più tempo incollati ai social.
Essere imbranati alla guida è solo una questione di mancanza di esercizio. Chi guida da qualche anno, come me, ricorderà perfettamente di essere stato 'imbranato' per un periodo di tempo più o meno lungo: agli inizi frenate brusche, operazioni di parcheggio approssimative, le congratulazioni con sé stessi per aver ingranato 'la quarta' (eh si, è un po' che ho preso la patente...). Col passare del tempo i movimenti si rifiniscono e diventano automatici (e la guida diventa noiosa...). Purtroppo la tecnologia fornisce surrogati pronti per le capacità che l'uomo non può, o non vuole, sviluppare da sé. Anche i social cosa sono se non un surrogato dell'interazione diretta tra persone fisiche, privo di rischi: si può dire e fare tutto senza ripercussioni negative, senza vedere l'espressione di chi ti critica, senza rischiare un paio di sberle. Il quarto d'ora di celebrità, l'essere 'fico' senza sudare, senza faticare per eccellere in qualcosa.
Tornando in topic, il rischio che si corre con le attuali IA è insito nella nostra mancanza di comprensione piena di cosa sia una mente: noi costruiamo una mente artificiale come una blackbox, le diamo in pasto montagne di dati e risultati di confronto, poi le diamo dati nuovi e vediamo se tira fuori una soluzione 'intelligente', ma non sappiamo esattamente come abbia fatto.
In mancanza di questa comprensione tentare di imporre limiti a qualcosa che non si sa come funzioni è illusorio. Nell'articolo si dice che OpenAI ha reso pubblico il codice della 'scatola vuota', comunque chiunque avesse tempo e risorse da investire potrebbe darle in pasto otto milioni di pagine, con risultati molto simili.
Per come la vedo io l'unica cosa che potrebbe impedire ad una macchina di decidere l'inutilità dell'uomo sarebbe se ne condividesse parte della condizione umana: il nostro cervello è capacissimo e velocissimo ma approssimativo, la nostra vita ha un limite. Sono questi limiti che ci forniscono lo slancio per superarli, che ci permettono di provare empatia verso altri esseri 'limitati' come noi.
Una macchina senza questi limiti non può comprendere ed apprezzare la vita come la concepiamo, come noi, a volte, non apprezziamo la vita di altri esseri ritenuti, a torto od a ragione, 'inferiori'.
Concludendo, imho, la AI perfetta deve essere imperfetta.