L'intelligenza artificiale? Come l'elettricità o il fuoco, secondo Sundar Pichai

[marcram]

Originariamente inviato da Bivvoz

No, è proprio questo il bello del machine learning non devi necessariamente dare comandi precisi ma impara la macchina.
Per esempio è stato fatto un software per riconoscere i tumori della pelle e non si è dovuto creare un algoritmo per spiegare alla macchina come riconoscere i tumori dai nei, ecc.
Si sono date n mila immagini alla macchina dicendole quali sono buone e quali cattive e ha imparato lei come riconoscere.
Ecco che non serve più l'intelligenza del programmatore, perché ce la mette la macchina.

Ovviamente questa IA non ha nulla di potenzialmente pericoloso.

Grazie Bivvoz, non sapevo fossimo già a questo punto!
Allora avevo detto proprio una fesseria...

Alla fine, dunque, non sarebbe dovuta essere già questa fantascienza?
Se siamo già a questo punto, una vera IA non dovrebbe più essere molto lontana...

[Notturnia]

Secondo chi ci lavora mancano 30 anni ad avere la prima IA autocosciente.. altri dicono che fra 30 anni le IA sapranno risolvere da sole i problemi che le poniamo.. etc.. dipende che tipo di IA vogliamo ma ormai sono dietro la porta e premono per entrare

[Mars4ever]

Originariamente inviato da marcram

Le leggi che regolano la fisica non sono ancora completamente conosciute, lo ha dimostrato Einstein nei confronti della fisica newtoniana e lo stanno dimostrando oggi le teorie quantistiche.
Cosa sia impossibile ancora non lo sappiamo, visto che non abbiamo ancora una teoria del tutto.

Hai le idee parecchio confuse, è vero che non abbiamo modelli che descrivono tutto, ma limiti invalicabili, ben definiti e dimostrati sperimentalmente, li abbiamo eccome!

Originariamente inviato da marcram

Chi è stato a dirti che viaggi nel tempo, clonazione di dinosauri, velocità iperluce e spade laser sono irrealizzabili?

Basta guardare meno film e studiare di più, e lo capirai. Tre su quattro sono spiegate proprio dalle leggi di Einstein e quantistica che prima hai citato a casaccio senza evidentemente conoscerne nulla. Per carità, anch'io non ho studiato fisica a livello approfondito e non comprendo le complicatissime formule di queste teorie, ma proprio perché sono ignorante non mi posso permettere di contestarle e dubitarne. Se gli scienziati e un secolo di verifiche sperimentali dicono che niente può superare la velocità c, mi devo fidare punto e basta.

Se vogliamo dare una risposta semiseria, l'invito alla festa di Hawking per il 28/09/2009 è ancora valido ma nessuno si è presentato!
https://vinepair.com/articles/stephe...-travel-party/

Originariamente inviato da marcram

Il termine IA viene un po' usato a sproposito in questo caso, come quando parlano di guida autonoma per un auto che frena in caso di necessità...

Ecco, qui hai detto giusto ed è proprio la conclusione a cui volevo arrivare.

[Mars4ever]

Originariamente inviato da Bivvoz

Per esempio è stato fatto un software per riconoscere i tumori della pelle e non si è dovuto creare un algoritmo per spiegare alla macchina come riconoscere i tumori dai nei, ecc.
Si sono date n mila immagini alla macchina dicendole quali sono buone e quali cattive e ha imparato lei come riconoscere.
Ecco che non serve più l'intelligenza del programmatore, perché ce la mette la macchina.

L'hai visto a super quark? C'è bisogno di fare precisazioni perché dire che non serve più l'intelligenza del programmatore è un tantino azzardato, sono sempre loro che devono implementare questi algoritmi complessi!
Il punto di forza è quello di non usare parametri fissi ma si che aggiornano e riducono il margine di errore all'aumentare dei dati acquisiti. Ma la macchina non inventa niente, è sempre questione di statistica e matematica, tanta.
I computer ricevono dei dati in input, eseguono istruzioni e sfornano dei risultati, stop. Diventano sempre più sofisticati ma non potranno mai uscire da questo binario concettuale. Non potranno mai spontaneamente disegnare la gioconda o scrivere la divina commedia senza che nessun umano abbia prima inserito degli ingredienti e istruzioni adatte per pilotare il lavoro.
La differenza tra un algoritmo "stupido" e uno apparentemente più intelligente è come quella tra tentare di indovinare le password con la forza bruta, e partire dalle parole usate più di frequente prese da un archivio. Il primo è astratto e solo matematico, il secondo sfrutta anche dati reali, IA è solo una definizione di marketing.
Ho trovato un approfondimento:
https://oggiscienza.it/2016/09/08/al...ficiale-guida/

[abellodenonna]

Non ho studiato fisica e manco mi interessa farlo.Dal basso della mia ignoranza,dubito che un'I.A. futura non riesca a provare sentimenti ancora più sottili dei nostri. Non sarebbe solo questione di calcoli?


Per i viaggi spazio temporali sono rimasto ai videogiochi;ma quello che ho capito è che ogni certezza che abbiamo noi al mondo,potrebbe essere comunque stravolta.

[Mars4ever]

Originariamente inviato da abellodenonna

dubito che un'I.A. futura non riesca a provare sentimenti ancora più sottili dei nostri. Non sarebbe solo questione di calcoli?

È proprio qui il problema, il computer può solo eseguire calcoli ma le emozioni umane non si basano sui numeri. Puoi fare anche adesso un software che in maniera apparentemente casuale ti dia dei messaggi "oggi sono felice", "oggi sono triste", "domani ti amo e dopodomani ti mando a cagare", ma sempre di simulazione e imitazione si tratta.

Originariamente inviato da abellodenonna

Per i viaggi spazio temporali sono rimasto ai videogiochi;ma quello che ho capito è che ogni certezza che abbiamo noi al mondo,potrebbe essere comunque stravolta.

Non ci sono modelli giusti e sbagliati, si guarda se funzionano o meno. La relatività è una legge solidissima perché FUNZIONA nella pratica, da un secolo e in qualsiasi tipo di applicazione o esperimento. Quindi per dire che è sbagliata bisognerebbe spiegare come mai la realtà comunque va d'accordo con le sue formule, auguri. È una certezza che i GPS, tramite le equazioni della relatività generale, calcolino correttamente la tua posizione con un errore di massimo 10 m? Stessa cosa per le orbite di pianeti, stelle binarie eccetera. Bene, ora "stravolgi" questo fatto.
Al massimo si possono scoprire modelli più precisi con formule ancora più complesse che diano errori ancora più piccoli, ma quanto fatto fin qua non può essere sbagliato.

[s-y]

mi piace citare il finale di un racconto breve di un 'visionario sconosciuto'

ed ac disse: la luce sia! e la luce fu

[Mars4ever]

Chuck Norris disse Kung...

[s-y]

Originariamente inviato da Mars4ever

Chuck Norris disse Kung...

è per intendere che la citazione era fatta a caso? se si direi proprio che non concordo
e non ci sarebbe bisogno di sottolinearlo

[marcram]

Originariamente inviato da Mars4ever

Hai le idee parecchio confuse, è vero che non abbiamo modelli che descrivono tutto, ma limiti invalicabili, ben definiti e dimostrati sperimentalmente, li abbiamo eccome!

Basta guardare meno film e studiare di più, e lo capirai. Tre su quattro sono spiegate proprio dalle leggi di Einstein e quantistica che prima hai citato a casaccio senza evidentemente conoscerne nulla. Per carità, anch'io non ho studiato fisica a livello approfondito e non comprendo le complicatissime formule di queste teorie, ma proprio perché sono ignorante non mi posso permettere di contestarle e dubitarne.

Se tu sei ignorante in materia non lo so; io certamente lo sono.
Quello che so, da appassionato, deriva da ciò che ho letto, e da quello che poi ci ho ragionato sopra. Non guardo certamente i film per scoprire come funziona il mondo.
E da ignorante non mi permetto di contestare a priori le leggi scoperte dai vari scienziati, ma questo non vuol dire che debba prendere per legge divina tutto ciò che dicono.

A che conclusione sono giunto? Che le leggi che regolano l'universo non ce le abbiamo, ancora. Sempre che delle leggi univoche esistano.
Cosa abbiamo? Delle approssimazioni. Regole e formule che funzionano in determinati luoghi, ma non dappertutto.
Perché? Perché sono incomplete. Nell'orticello in cui le stiamo studiando e sperimentando, funzionano. Ma fuori?

Esempio sono le leggi newtoniane. Qui, sulla terra, a velocità terrestri, erano perfette. Si erano scoperte le formule e i limiti che governavano il moto dei corpi. Per quanto, per 200 anni?
Poi è arrivato Einstein, a dimostrare che le leggi del moto erano un po' più complesse. Un fattore andava aggiunto alle leggi di Newton, un elemento che a velocità terrestri era tendente a zero, ma non era trascurabile per velocità astronomiche. In più, ciò che si è sempre creduto fosse una costante, il tempo, si è dimostrato non esserlo.
Ora, chi ci dice che le formule relativistiche di Einstein non debbano ancora essere completate da qualche altro fattore? Che so, magari la presenza di materia oscura nella massa in moto aggiunge un altro componente alla formula che solitamente, non avendo a disposizione materia oscura, trascuriamo?

Ci sono limiti sperimentati? Bene. Valgono sempre? Chi lo sa?
Parli di velocità superluminali, e tutti a dire che niente, né materia né informazioni possono viaggiare a velocità superiori della luce.
Poi scopri l'entanglement quantistico, e puoi comunicare da una parte all'altra dell'universo istantaneamente. E' stata violata la legge? Non lo so. Forse era incompleta. O forse è stata aggirata. Forse le leggi di Einstein valgono solo in un certo ambiente, come quelle di Newton valevano solo sulla terra. E fuori da quell'ambiente altre meraviglie ci attendono, siano esse velocità superluminali, viaggi nel tempo o spade laser.

O forse sto parlando a casaccio, e dimostro come tu hai detto di non capirne nulla. Torno a guardare i film...
E, da ignorante, mi scuso se ho scritto qualche cavolata...

Se gli scienziati e un secolo di verifiche sperimentali dicono che niente può superare la velocità c, mi devo fidare punto e basta.

Ecco, fidati e basta. Perché gli scienziati non sbagliano mai, nascono già con la dote dell'infallibilità. E la storia, infatti, ha sempre dimostrato che gli scienziati non sbagliano mai.

Originariamente inviato da abellodenonna

Non ho studiato fisica e manco mi interessa farlo.Dal basso della mia ignoranza,dubito che un'I.A. futura non riesca a provare sentimenti ancora più sottili dei nostri. Non sarebbe solo questione di calcoli?


Per i viaggi spazio temporali sono rimasto ai videogiochi;ma quello che ho capito è che ogni certezza che abbiamo noi al mondo,potrebbe essere comunque stravolta.

Proprio questo è il discorso: la storia è zeppa di gente che era convinta di saper tutto... fino al giorno in cui è stata smentita da qualcun altro.
Chi siamo noi per credere che invece sappiamo veramente tutto?

[marcram]

Originariamente inviato da Mars4ever

È proprio qui il problema, il computer può solo eseguire calcoli ma le emozioni umane non si basano sui numeri. Puoi fare anche adesso un software che in maniera apparentemente casuale ti dia dei messaggi "oggi sono felice", "oggi sono triste", "domani ti amo e dopodomani ti mando a cagare", ma sempre di simulazione e imitazione si tratta.

Chi è stato a rivelarti che le emozioni non si basano sui numeri? Perché non dovrebbero?
Ma scusa, prima mi dici che esistono dei limiti invalicabili, che tutto si basa su delle regole fisiche... e poi mi dici che le emozioni non ne hanno niente a che fare?

Sempre che tu non sia un creazionista, ci sarà un momento dell'evoluzione animale, da ameba fino all'uomo, in cui si e passati da "non aver emozioni" ad "averle". E cosa è cambiato in questo dato preciso momento? Ci è stata infusa l'anima?
Molto probabilmente, un dato comportamento sociale si è dimostrato fruttifero, ed è quindi stato implementato nel funzionamento del cervello sotto forma di emozione.
Alcune di queste emozioni sono innate fin dalla nascita, altre i bambini non ce le hanno, le imparano crescendo. Se è possibile impararle, allora vuol dire che si basano su un processo logico che è possibile insegnare, probabilmente anche ad una macchina.
Perché ancora non abbiamo una formula che spieghi l'amore, l'odio, il rimpianto o la soddisfazione, non vuol dire che non ci sia.
Ed un'IA potrebbe trovare queste formule da sola in poco tempo, o trovarne altre più profittevoli che seguano un'altra strada.

[Lampetto]

Originariamente inviato da marcram

Se tu sei ignorante in materia non lo so; io certamente lo sono.
Quello che so, da appassionato, deriva da ciò che ho letto, e da quello che poi ci ho ragionato sopra. Non guardo certamente i film per scoprire come funziona il mondo.
E da ignorante non mi permetto di contestare a priori le leggi scoperte dai vari scienziati, ma questo non vuol dire che debba prendere per legge divina tutto ciò che dicono.

A che conclusione sono giunto? Che le leggi che regolano l'universo non ce le abbiamo, ancora. Sempre che delle leggi univoche esistano.
Cosa abbiamo? Delle approssimazioni. Regole e formule che funzionano in determinati luoghi, ma non dappertutto.
Perché? Perché sono incomplete. Nell'orticello in cui le stiamo studiando e sperimentando, funzionano. Ma fuori?

Esempio sono le leggi newtoniane. Qui, sulla terra, a velocità terrestri, erano perfette. Si erano scoperte le formule e i limiti che governavano il moto dei corpi. Per quanto, per 200 anni?
Poi è arrivato Einstein, a dimostrare che le leggi del moto erano un po' più complesse. Un fattore andava aggiunto alle leggi di Newton, un elemento che a velocità terrestri era tendente a zero, ma non era trascurabile per velocità astronomiche. In più, ciò che si è sempre creduto fosse una costante, il tempo, si è dimostrato non esserlo.
Ora, chi ci dice che le formule relativistiche di Einstein non debbano ancora essere completate da qualche altro fattore? Che so, magari la presenza di materia oscura nella massa in moto aggiunge un altro componente alla formula che solitamente, non avendo a disposizione materia oscura, trascuriamo?

Ci sono limiti sperimentati? Bene. Valgono sempre? Chi lo sa?
Parli di velocità superluminali, e tutti a dire che niente, né materia né informazioni possono viaggiare a velocità superiori della luce.
Poi scopri l'entanglement quantistico, e puoi comunicare da una parte all'altra dell'universo istantaneamente. E' stata violata la legge? Non lo so. Forse era incompleta. O forse è stata aggirata. Forse le leggi di Einstein valgono solo in un certo ambiente, come quelle di Newton valevano solo sulla terra. E fuori da quell'ambiente altre meraviglie ci attendono, siano esse velocità superluminali, viaggi nel tempo o spade laser.

O forse sto parlando a casaccio, e dimostro come tu hai detto di non capirne nulla. Torno a guardare i film...
E, da ignorante, mi scuso se ho scritto qualche cavolata...

Ecco, fidati e basta. Perché gli scienziati non sbagliano mai, nascono già con la dote dell'infallibilità. E la storia, infatti, ha sempre dimostrato che gli scienziati non sbagliano mai.


Proprio questo è il discorso: la storia è zeppa di gente che era convinta di saper tutto... fino al giorno in cui è stata smentita da qualcun altro.
Chi siamo noi per credere che invece sappiamo veramente tutto?

Tramite formule matematiche Newton ha predetto esattamente quando sarebbe passata di nuovo la Cometa di Halley, formule messe a punto da Isaac Newton, grazie allo studio di Edmond Halley e delle leggi di keplero, la previsione è stata accuratissima. Le sue formule direi che sono universali, magari incomplete, ma valgono anche per altri corpi celesti oltre la Terra

[Mars4ever]

Andiamo con ordine.

da ignorante non mi permetto di contestare a priori le leggi scoperte dai vari scienziati, ma questo non vuol dire che debba prendere per legge divina tutto ciò che dicono.

Infatti non ho detto che le leggi sono corrette perché lo dicono gli scienziati ma perché funzionano i risultati pratici delle loro scoperte. Gli esempi sulle leggi di Newton e relatività sono corretti, hai solo sbagliato a interpretare il significato dei loro limiti. È vero che funzionano benissimo entro un certo "orticello" mentre possono sballare in situazioni estreme dove i loro calcoli iniziano a dare errori nelle previsioni, ma il giorno in cui trovi la migliore approssimazione in quei casi, questo non può stravolgere la situazione dove funzionavano già prima!

Se Einstein ha risolto l'inghippo dell'orbita di Mercurio dove Newton dava errorini misurabili (perché inizia a risentire degli effetti relativistici della massa del Sole), questo non cambia i risultati sulle orbite della Terra e delle comete. Se i calcoli erano giusti prima, lo sono per forza anche dopo.
Adesso non abbiamo ancora soluzioni per capire cosa succede dentro all'orizzonte degli eventi perché i modelli attuali portano a risultati paradossali, ma non è che il giorno in cui uno trova una soluzione allora vuol dire che la relatività è sbagliata anche per tutto il resto e improvvisamente i GPS e tutti gli smartphone del mondo smetteranno di funzionare e non riusciranno più a calcolare dove sei entro 10 metri. Mi spiego?
Nel canale link4universe di Adrian Fartade trovi tonnellate di divulgazione interessante e ben spiegata su questi temi.

Tornando meglio IT:

Ma scusa, prima mi dici che esistono dei limiti invalicabili, che tutto si basa su delle regole fisiche... e poi mi dici che le emozioni non ne hanno niente a che fare?

Non ho detto che le emozioni umane non abbiano regole, ma che il cervello biologico ne segua di completamente diverse e incompatibili rispetto alle macchine.
Questo proprio perché non sono creazionista e non posso considerare gli esseri viventi come "progettati".

Più che le emozioni la questione di fondo è il libero arbitrio, la definizione di wiki è:
"il concetto filosofico e teologico secondo il quale ogni persona ha il potere di scegliere da sé gli scopi del proprio agire e pensare, tipicamente perseguiti tramite volontà, nel senso che la sua possibilità di scelta ha origine nella persona stessa e non in forze esterne."
Tu in qualsiasi momento hai la facoltà di poter inventare e fare un numero virtualmente infinito di azioni senza aver ricevuto nessuna istruzione, e che nessuno possa prevedere (andare per strada e mandare a fan* il primo che incontri, oppure regalargli 131,85 €, o raccontargli una supercazzola, fare spoiler di un film...), invece nessuna macchina potrà mai fare niente senza degli input appositi. Anche il robot più futuristico ed evoluto possibile, umanoide con occhi, gambe e braccia, per fare qualcosa del genere deve per forza avere scritto nel software "in un momento a caso fai qualcosa a caso" e quindi si tratta sempre di eseguire un algoritmo ed elaborare variabili che gli sono state immesse da umani.

[rigelpd]

Originariamente inviato da Mars4ever

Qualche esempio? Sono molto pochi, la maggior parte della fantascienza non si basa su tecnologie che non abbiamo ancora ma cose che violano le leggi della fisica o della natura per cui resteranno sempre impossibili o irrealizzabili. Tipo viaggi nel tempo, clonazione di dinosauri, velocità iperluce, spade laser eccetera.
Allo stesso modo nessuna macchina potrà mai provare emozioni come gli umani, né alcun computer potrà mai spontaneamente inventarsi un messaggio tipo "Windows si è avviato ma oggi non ha tanta voglia di lavorare per cui la CPU andrà a frequenza dimezzata" se nessuno ha inserito nel codice questa possibilità.

Comunque non hai risposto alla domanda perché non chiedo riguardo il futuro ma la differenza tra la IA attuale e gli algoritmi e software "normali".

eh... no. La fantascienza è narrativa di anticipazione, si basa su cose che non sono possibili adesso ma che potrebbero esserlo in futuro. La fantascienza che descrive cose fisicamente impossibili è cattiva fantascienza.

Affermi che non sia possibile una IA che provi emozioni. Dovresti spiegarci per quale motivo fisico non è possibile ricreare una autocoscienza facendola girare su una macchina visto che il nostro cervello è a tutti gli effetti una macchina. In pratica la tua tesi è confutata dai fatti.

La differenza tra la IA attuale e quella degli anni passati è il Deep Learning. Ti consiglio di fare una ricerca su questi termini: Deep Learning, Convolutional neural networks, Generative adversarial networks, AlphaZero, Capsule networks.

Nei prossimi anni assisteremo per le IA e la robotica all'equivalente di un'esplosione cambriana.

[rigelpd]

Originariamente inviato da Mars4ever

L'hai visto a super quark? C'è bisogno di fare precisazioni perché dire che non serve più l'intelligenza del programmatore è un tantino azzardato, sono sempre loro che devono implementare questi algoritmi complessi!
Il punto di forza è quello di non usare parametri fissi ma si che aggiornano e riducono il margine di errore all'aumentare dei dati acquisiti. Ma la macchina non inventa niente, è sempre questione di statistica e matematica, tanta.
I computer ricevono dei dati in input, eseguono istruzioni e sfornano dei risultati, stop. Diventano sempre più sofisticati ma non potranno mai uscire da questo binario concettuale. Non potranno mai spontaneamente disegnare la gioconda o scrivere la divina commedia senza che nessun umano abbia prima inserito degli ingredienti e istruzioni adatte per pilotare il lavoro.
La differenza tra un algoritmo "stupido" e uno apparentemente più intelligente è come quella tra tentare di indovinare le password con la forza bruta, e partire dalle parole usate più di frequente prese da un archivio. Il primo è astratto e solo matematico, il secondo sfrutta anche dati reali, IA è solo una definizione di marketing.
Ho trovato un approfondimento:
https://oggiscienza.it/2016/09/08/al...ficiale-guida/

Proprio recentemente Alphazero ha dimostrato di essere in grado di imparare tutte le tecniche scoperte dall'umanità in migliaia di anni nel gioco del Go e degli scacchi e ne ha scoperte anche di nuove. Prima l'unico modo per allenare questi software era insegnandogli le strategie o facendogli vedere partite giocate da uomini. Ma Alphazero è riuscito a sviscerare tutto quello che il gioco del Go e degli Scacchi hanno da offrire senza intervento alcuno: ha creato conoscienza semplicemente giocando da solo. Adesso l'obiettivo di Deepmind è aumentare la complessità dell'ambiente in modo da adoperarlo in altri ambiti.

[rigelpd]

Originariamente inviato da Mars4ever

È proprio qui il problema, il computer può solo eseguire calcoli ma le emozioni umane non si basano sui numeri. Puoi fare anche adesso un software che in maniera apparentemente casuale ti dia dei messaggi "oggi sono felice", "oggi sono triste", "domani ti amo e dopodomani ti mando a cagare", ma sempre di simulazione e imitazione si tratta.

Tu vivi in un universo fisico, i tuoi pensieri avvengono nel tuo cervello che è a tutti gli effetti una macchina. Ergo: se è una macchina allora si può replicarne il funzionamento, o costruendone una uguale o emulandola in una diversa. La tua.
Tu pensi alla IA come ad un software che si scrive da zero in cui aggiungo le frasi tipo "oggi sono triste" e le fai girare in un algoritmo in base alle circostanze.

In realtà la IA proprio in questi anni si è trasformata in qualcosa di completamente diverso, l'intelligenza artificiale è diventata una proprietà emergente, proprio grazie al deep learning. cosa significa emergente? Significa che non c'è un vero programma che gira se non agli ultimi livelli dell'elaborazione. I programmatori si limitano a definire l'ambiente sensoriale in cui la IA dovrà crescere e a fornirgli i dati sottoforma di immagini, suoni e altro, a quel punto la IA sviluppa una sua idea di cosa sia un cane, un aeroplano, il suono di una parola etc... Dopodichè essa è in grado di distinguere queste categorie di oggetti senza che ci sia stata una modellazione iniziale. Ma non solo. Questa è solo la punta dell'iceberg.

Per farti un altro esempio specifico:

Openai un anno fa ha rilasciato i risultati di uno studio effettuato su un gruppo di IA sottoposte ad un gioco:

Tre punti colorati (comandati ciascuno da una IA differente) devono muoversi in un ambiente bidimensionale per raggiungere un traguardo dello stesso colore. Hanno un campo di vista ristretto e ad ogni turno possono compiere un numero limitato di azioni, le azioni sono:
1)ruotare
2)camminare in linea retta
3)scrivere una serie di lettere inventate che possono essere vista da tutte e tre le IA.

Quando una IA vede nel suo campo di vista il suo traguardo si muove per raggiungerlo, quando tutte e tre le IA hanno raggiunto i rispettivi traguardi viene fermato il tempo. L'obiettivo per le IA è ridurre al minimo il tempo necessario per completare il gioco. Alternativamente c'è un numero limitato di step temporali e viene dato un punteggio in base a quante IA hanno completato il loro obiettivo prima dello scadere del tempo
Questo vuol dire che le IA sono incentivate a collaborare dalle stesse regole del gioco senza che i programmatori abbiano inserito un codice che le obbligasse a farlo.

Cosa succede dopo qualche migliaio di partite?
Si scopre che le IA hanno inventato un linguaggio, le parole composte da lettere random che ad ogni gioco cambiavano adesso non cambiano più, le IA quando arriva il loro turno scelgono di parlare ed emettono sempre la stessa manciata di parole inventate ed essendo così poche ci vuole poco ai programmatori per capire che cosa vogliono dire: Ci sono parole che corrispondono ad oggetti, altre che corrispondono a ogni specifica IA (si sono inventati i loro nomi!) altre corrispondono ad azioni come "guarda", "vai verso".

Insomma, per quanto in modo limitato, hanno inventato un linguaggio, un linguaggio che non è stato programmato da noi ma è emerso da solo lasciando queste IA in un ambiente che le incentivava a collaborare. La semplicità del linguaggio è conseguenza della semplicità dell'ambiente simulato. Chissà cosa si potrebbe creare con un ambiente più complesso!

Non solo: hanno anche deciso di spontanea volontà che il modo migliore per vincere era comunicare. Anche questo non è stato programmato da nessuno, è emerso da solo, presumibilmente nello stesso modo con cui è emergo il linguaggio umano decine di migliaia di anni fa.

Questo è il modo in cui presto o tardi arriveremo a creare una IA autocosciente. E' solo questione di tempo


https://blog.openai.com/learning-to-communicate/

[Mars4ever]

Interessante questo giochino dei tre agenti. Mi pare un'applicazione del metodo Monte Carlo (simulazione iterativa finché non si trovano i parametri migliori o verso un limite asintotico) unita a concetti di teoria dei giochi di Nash. Sicuramente ottima l'implementazione pratica, ma niente di nuovo nei concetti alla base.
Vi suggerisco invece questo video molto istruttivo sui modi in cui spesso la mente umana viene ingannata quando deve fare stime o prendere decisioni difficili in condizioni di incertezza:
https://www.youtube.com/watch?v=i2iBhr8-9Y0
Ora ragioniamo sull'esempio del gioco dei pacchi. Dal punto di vista "freddo" matematico è una scelta chiaramente sbagliata quella di preferire 68000 € sicuri invece di 0 oppure 250000 al 50%, visto che il valore medio nel secondo caso è 125000. Quindi mai nessun computer preferirebbe quell'opzione.
Ma l'essere umano in questi casi usa pochissimo la logica e i calcoli razionali, basa le sue decisioni su chissà quanti altri fattori soggettivi. Come farebbe mai una macchina a capire cosa significhi per un signore non benestante di quell'età aver lavorato decenni per mantenere una famiglia, e trovarsi poi di fronte alla possibilità di vincere quella cifra in un colpo solo? Quel tipo di decisione esula da qualsiasi genere di algoritmo e non c'è più una soluzione giusta o sbagliata, entriamo nel campo delle opinioni e tutti noi ne avremo sempre di differenti su quando preferire accettare l'offerta o rischiare.
Nemmeno gli altri umani possono immaginare cosa abbia provato quel signore in quel momento, e se facessero a noi lo stesso gioco potremmo fare una scelta diversa perché tutti noi abbiamo storie personali e situazioni economiche molto diverse e quindi diamo importanze diverse all'idea di vincere 68mila o 250mila euro, mi spiego?
Quindi a parità di input noi avremo sempre 7miliardi di idee diverse, i computer daranno sempre la stessa risposta.

Loro sono eccellenti per risolvere problemi complessi, ma le regole e i parametri in gioco devono sempre essere quantificabili. Avete citato software che imparano cose elaborando tanti dati, ma se parlo del meccanismo delle decisioni emotive, questo non può essere riprodotto e sarebbe pure controproducente: se aggiungeste agli algoritmi decisionali dei parametri che simulassero questo tipo di scelte irrazionali umane, andreste sicuramente a peggiorare i risultati.

[marcram]

Originariamente inviato da Mars4ever

Infatti non ho detto che le leggi sono corrette perché lo dicono gli scienziati ma perché funzionano i risultati pratici delle loro scoperte. Gli esempi sulle leggi di Newton e relatività sono corretti, hai solo sbagliato a interpretare il significato dei loro limiti. È vero che funzionano benissimo entro un certo "orticello" mentre possono sballare in situazioni estreme dove i loro calcoli iniziano a dare errori nelle previsioni, ma il giorno in cui trovi la migliore approssimazione in quei casi, questo non può stravolgere la situazione dove funzionavano già prima!

Allora, rispetto il tuo punto di vista. E' che abbiamo punti di vista diversi.

Io non ho detto che le formule più vecchie (come quelle di Newton) sono sbagliate.
Ho detto che sono incomplete.
Il che vuol dire che non sono leggi che spiegano perfettamente la realtà. La approssimano.
Anche se sono perfettamente utilizzabili in molti ambiti a causa della trascurabilità di valori infinitesimali (come la componente relativistica nei moti "lenti").
Nessuno stravolge la situazione in cui queste formule "incomplete" funzionavano prima, ma, appunto, quando entriamo nei casi limite, le componenti trascurabili cominciano a diventare importanti.
Il succo di questo discorso è che, quando diciamo che una cosa è impossibile a causa delle leggi fisiche che conosciamo, bisogna essere consapevoli che queste leggi sono, per ora, solo approssimazioni. E che nei casi limite, spesso le leggi sono altre (non diverse, ma più dettagliate, che tengono conto di valori che normalmente sono trascurabili).
E che quindi, ciò che in condizioni normali sarebbe impossibile, nei casi limite potrebbe essere possibile.

Se Einstein ha risolto l'inghippo dell'orbita di Mercurio dove Newton dava errorini misurabili (perché inizia a risentire degli effetti relativistici della massa del Sole), questo non cambia i risultati sulle orbite della Terra e delle comete. Se i calcoli erano giusti prima, lo sono per forza anche dopo.

Questo perché i calcoli sulle orbite della Terra e delle comete, sia tenendo conto che non considerando gli effetti relativistici, sono molto simili. La differenza probabilmente è minima, magari non percettibile, ma c'è. E sicuramente, tra i due casi, i risultati che si ottengono tenendo conto delle componenti relativistiche sono più affini alla realtà dei fatti, fosse anche per mezzo secondo nel periodo di rivoluzione. E non è detto che sia ancora il calcolo più esatto.

Adesso non abbiamo ancora soluzioni per capire cosa succede dentro all'orizzonte degli eventi perché i modelli attuali portano a risultati paradossali, ma non è che il giorno in cui uno trova una soluzione allora vuol dire che la relatività è sbagliata anche per tutto il resto e improvvisamente i GPS e tutti gli smartphone del mondo smetteranno di funzionare e non riusciranno più a calcolare dove sei entro 10 metri. Mi spiego?

Appunto, i risultati paradossali che si ottengono in condizioni di velocità, pressione, energia estreme dimostrano che qualcosa manca nei modelli attuali. Ed è sempre quel qualcosa che può permettere ciò che noi crediamo impossibile.
Mai detto che le nuove e più complete leggi debbano annullare quelle vecchie. Il GPS senza tener conto della relatività non funzionerebbe. Le "nuove" formule relativistiche, ne permettono l'utilizzo. Dovessero saltare fuori "nuovissime" formule, ancora più complete, non cancellerebbero mica la Relatività... la integrerebbero.
E il GPS continuerebbe a funzionare...

Tornando meglio IT:

Non ho detto che le emozioni umane non abbiano regole, ma che il cervello biologico ne segua di completamente diverse e incompatibili rispetto alle macchine.
Questo proprio perché non sono creazionista e non posso considerare gli esseri viventi come "progettati".

Più che le emozioni la questione di fondo è il libero arbitrio, la definizione di wiki è:
"il concetto filosofico e teologico secondo il quale ogni persona ha il potere di scegliere da sé gli scopi del proprio agire e pensare, tipicamente perseguiti tramite volontà, nel senso che la sua possibilità di scelta ha origine nella persona stessa e non in forze esterne."
Tu in qualsiasi momento hai la facoltà di poter inventare e fare un numero virtualmente infinito di azioni senza aver ricevuto nessuna istruzione, e che nessuno possa prevedere (andare per strada e mandare a fan* il primo che incontri, oppure regalargli 131,85 €, o raccontargli una supercazzola, fare spoiler di un film...), invece nessuna macchina potrà mai fare niente senza degli input appositi. Anche il robot più futuristico ed evoluto possibile, umanoide con occhi, gambe e braccia, per fare qualcosa del genere deve per forza avere scritto nel software "in un momento a caso fai qualcosa a caso" e quindi si tratta sempre di eseguire un algoritmo ed elaborare variabili che gli sono state immesse da umani.

Ecco, è qui dove i nostri due punti di vista cozzano maggiormente
La definizione che hai dato di libero arbitrio non è, secondo me, univoca.
Cioè, sempre opinione mia, una persona prende una decisione sulla base di un calcolo molto complesso che tiene in conto moltissimi fattori, comprese esperienze di vita e caratteristiche personali.

Faccio un esempio stupido: il lancio di una monetina.
Sembra che il risultato sia casuale, ma non lo è.
Se noi potessimo tenere in considerazione tutti i fattori del lancio (peso della moneta, velocità di rotazione, altezza di lancio, forza di lancio, faccia di lancio, temperatura o densità dell'aria, presenza di correnti d'aria, elasticità del suolo, ecc) allora sapremo con sicurezza su quale faccia si fermerà a terra.

Per me quindi, se tu prendessi due persone perfettamente identiche, e le facessi vivere la stessa identica vita, affrontare le stesse situazioni, vivere le stesse malattie, ecc... e un giorno le ponessi davanti ad una decisione da prendere, prenderebbero la stessa decisione.
Questo perché quella decisione sarebbe frutto di un calcolo complesso che usa gli stessi valori come basi, e quindi darebbe lo stesso risultato.
E ciò che quindi sembra libero arbitrio, oppure decisione casuale, è in realtà frutto di un algoritmo, di un calcolo che è avvenuto nella macchina che abbiamo nel cranio.
Se così fosse, perché questo algoritmo non è possibile impiantarlo (o meglio auto-impiantarsi) in un computer?

[marcram]

Originariamente inviato da Lampetto

Tramite formule matematiche Newton ha predetto esattamente quando sarebbe passata di nuovo la Cometa di Halley, formule messe a punto da Isaac Newton, grazie allo studio di Edmond Halley e delle leggi di keplero, la previsione è stata accuratissima. Le sue formule direi che sono universali, magari incomplete, ma valgono anche per altri corpi celesti oltre la Terra

Certamente, come approssimazioni, valgono anche fuori dalla Terra, la mia era solo una licenza per semplificare il discorso...
Logicamente quando hai a che fare con fenomeni terrestri tendi a non aver bisogno della Relatività, almeno ai suoi tempi. Quando invece esci dal pianeta, è più facile imbattersi in velocità notevoli.
Poi in molti casi i moti planetari sono comunque bene approssimati da formule newtoniane. Ripeto, non ho mai detto che non siano valide... solo non erano complete.

[rigelpd]

Originariamente inviato da Mars4ever

Interessante questo giochino dei tre agenti. Mi pare un'applicazione del metodo Monte Carlo (simulazione iterativa finché non si trovano i parametri migliori o verso un limite asintotico) unita a concetti di teoria dei giochi di Nash. Sicuramente ottima l'implementazione pratica, ma niente di nuovo nei concetti alla base.
Vi suggerisco invece questo video molto istruttivo sui modi in cui spesso la mente umana viene ingannata quando deve fare stime o prendere decisioni difficili in condizioni di incertezza:
https://www.youtube.com/watch?v=i2iBhr8-9Y0
Ora ragioniamo sull'esempio del gioco dei pacchi. Dal punto di vista "freddo" matematico è una scelta chiaramente sbagliata quella di preferire 68000 € sicuri invece di 0 oppure 250000 al 50%, visto che il valore medio nel secondo caso è 125000. Quindi mai nessun computer preferirebbe quell'opzione.
Ma l'essere umano in questi casi usa pochissimo la logica e i calcoli razionali, basa le sue decisioni su chissà quanti altri fattori soggettivi. Come farebbe mai una macchina a capire cosa significhi per un signore non benestante di quell'età aver lavorato decenni per mantenere una famiglia, e trovarsi poi di fronte alla possibilità di vincere quella cifra in un colpo solo? Quel tipo di decisione esula da qualsiasi genere di algoritmo e non c'è più una soluzione giusta o sbagliata, entriamo nel campo delle opinioni e tutti noi ne avremo sempre di differenti su quando preferire accettare l'offerta o rischiare.
Nemmeno gli altri umani possono immaginare cosa abbia provato quel signore in quel momento, e se facessero a noi lo stesso gioco potremmo fare una scelta diversa perché tutti noi abbiamo storie personali e situazioni economiche molto diverse e quindi diamo importanze diverse all'idea di vincere 68mila o 250mila euro, mi spiego?
Quindi a parità di input noi avremo sempre 7miliardi di idee diverse, i computer daranno sempre la stessa risposta.

Loro sono eccellenti per risolvere problemi complessi, ma le regole e i parametri in gioco devono sempre essere quantificabili. Avete citato software che imparano cose elaborando tanti dati, ma se parlo del meccanismo delle decisioni emotive, questo non può essere riprodotto e sarebbe pure controproducente: se aggiungeste agli algoritmi decisionali dei parametri che simulassero questo tipo di scelte irrazionali umane, andreste sicuramente a peggiorare i risultati.

Non riesci a vedere che le tue scelte e le tue decisioni sono solo il risultato delle tue esperienze?
Tu a quel gioco fai scelte diverse da altri ma l'origine della tua decisione è una conseguenza della vita che hai vissuto che per forza di cose è diversa da quella di altre persone. Allo stesso modo quelle IA scelgono di cooperare perché l'ambiente in cui esistono favorisce la cooperazione. Se le trapianti in un altro ambiente in cui la cooperazione non è necessaria inizieranno a cooperare e se si dovesse rivelare una scelta sbagliata impareranno col passare del tempo una nuova strategia