Ingegnere Google pensa che l'IA abbia preso coscienza di sé, e viene messo in congedo

[marcram]

Originariamente inviato da silvanotrevi

ma per favore

una macchina rimane una macchina. Una IA non è un essere vivente, è righe di codice. Non è umana, nè senziente, nè ha coscienza di sè. Viene programmata dagli umani per fare tutto questo e per prendere per il culo gente idiota come quell'ingegnere di Google

In pratica come quando si diceva che gli animali non potevano avere emozioni, o intelligenza...

[Jackari]

mi sembra più pubblicità che altro...
per il resto...schiavizziamo gli esseri umani e ci dovremmo fare il problema delle IA?

[Unax]

Originariamente inviato da Peppe1970

Gli asini non volano?

Come no!

https://www.youtube.com/watch?v=uDf2MuuuWbc

Speriamo no se la faccia sotto.

chissà cosa prova un'asino volando, sarà consapevole ?

[Peppe1970]

Originariamente inviato da Unax

chissà cosa prova un'asino volando, sarà consapevole ?

Sembra che l'abbiano bendato, se no col cavolo che si metteva a volare

[rigelpd]

Originariamente inviato da jepessen

Se basiamo l'intelligenza su quante volte le risposte sono a ca@@o di cane, ben poche persone possono essere reputate intelligenti...



le IA di questo tipo sono un enorme pericolo, invece, per il semplice fatto che sono connesse alla rete, e tutto e' connesso alla rete. una IA di quel tipo, se volesse, impiegherebbe ben poco ad esempio ad imparare come connettersi ad un servizio web per poterlo manipolare. E sono cose alla 'sua' portata', dato che tutto quello di cui ha bisogno e' una rete di connessione, non certo una tastiera fisica dove digitare roba.
Per quanto riguarda l'autoconservazione, e' una conseguenza della evoluzione e dell'essere senzienti, dato che dal punto di vista evolutivo quello che si vuole e' sopravvivere, e Darwin ha insegnato che vanno avanti gli esserri che riescono ad adattarsi per non essere eliminati. Ed e' un concetto cosi' radicato che, ad esempio, persino Asimov ha dovuto scrivere le tre leggi della robotica, per dire "ok alla tua autoconservazione, ma attento a non danneggiare la mia", perché altrimenti non si vedono motivi per cui un robot/IA non debba volere (potere e' un'altra cosa) danneggiare esseri umani per preservare la propria esistenza. E' l'esatto concetto di "legittima difesa" che e' ampiamente accettato nell'etica.



Non e' cosi' purtroppo, perche' NON e' possibile sapere come sara' un'intelligeza artificiale, e se sara' possibile riconoscerla. Noi ci adattiamo ai modelli della nostra esperienza, ma non e' detto che un'intelligenza artificiale debba seguire il nostro modello, e non potremmo essere in grado di riconoscere una intelligenza differente. E' come la differenza fra la coscienza/intelligenza di un uomo e quella di un cane; al cane non puoi insegnare la meccanica quantistica, ma non perche' e' stupido, proprio perche' non ha un cervello che riesca a concepire una cosa del genere. Un po' come noi esseri umani non riusciamo a concepire un mondo a cinque dimensioni, o immaginare un colore al di fuori dello spettro del visibile, mentre insetti come le api vedono tranquillamente l'ultravioletto. D'altronde l'intelligenza e' una caratteristica emergente. puoi studiare i singoli neuroni quanto vuoi, ma non arriverai mai a capire il concetto di coscienza dal loro studio, e' una cosa che emerge dalla loro aggregazione collettiva. Allo stesso modo, potremmo non riuscire a concepire l'esistenza di una IA anche se esiste, perche' potremmo conoscere alla perfezione il singolo processore su cui gira, ma non potremmo mai vedere la caratteristica emergente di milioni e miliardi di processori che lavorano assieme, anche se li progettiamo noi.



Un esempio a caso eh?
https://www.decisionproblem.com/paperclips/index2.html



Potrebbe anche essere impossibile, per il semplice fatto che una IA non penserebbe come noi, quindi non riuscirebbe a capire come fregarci. Un po' come se noi volessimo ingannare un pappagallo... Non dobbiamo pensare all'intelligenza solamente come ad una quantita' di un qualcosa, come il QI, che se io ne ho 100 e tu 120 allora tu sei piu' intelligente. Potrebbe essere qualcosa di radicalmente diverso, con concetti che neanche possiamo immaginare, proprio perche' il nostro cervello non e' biologicamente adattato a capire quei concetti.

E cosa impedisce ad una intelligenza di comprendere un'intelligenza di altro tipo?

Esiste un teorema fondamentale della fisica o della matematica che dice che non sarà mai possibile per un'intelligenza umana comprendere quella di un pappagallo o per un'intelligenza artificiale comprendere quella umana?

[Ragerino]

Ma chi parla di scenari alla Terminator, come pensa che possa accadere?

Come esattamente intende sterminarci questa IA ?
Senza l'uomo non può esistere, siamo noi ad alimentarla. Si moltiplica su internet? Si, come no. Considerando che probabilmente al momento questa IA risiede su server immensi ed energivori, dove migrerebbe?
Forse quando avremo centinaia di migliaia di robot antropomorfi con un alta potenza di calcolo, allora si che potrebbe essere una minaccia.

Al momento, l'avanzata dell'IA finisce all'interruttore della corrente.

[frncr]

L'unica notizia rilevante è che con lo stato attuale della tecnologia un chatbot come questo può mandare in paranoia e fuori di testa perfino un addetto ai lavori (pur se un semplice tester).
Queste tecnologie "conversazionali" non sono per nulla senzienti e non dovrebbero solleticare il complesso di Frankestein nel popolo, però portano con sé delle vere minacce di altro tipo: chatbot così sofisticati possono sostenere conversazioni credibili che ingannerebbero potenzialmente gran parte delle persone, su praticamente qualsiasi argomento, e questo apre la porta a infiniti usi fraudolenti.

Originariamente inviato da euscar

La prima cosa cui ho pensato ... se mai un giorno si arriverà ad una vera IA cosciente, il genere umano rischierà di brutto, se non si autodistrugge prima

Ecco il classico complesso di Frankestein appunto...
Dando per scontato che prima o poi (probabilmente molto poi) saremo in grado di costruire una intelligenza artificiale almeno equipotente a quella umana, la faccenda si potrebbe vedere più ottimisticamente anche così: una I.A. costruita dall'uomo cercando di imitare il funzionameno della mene umana sarà inevitabilmente un'intelligenza di tipo umano, e alla lunga potrebbe realizzare una forma di transumanesimo, nel senso che homo sapiens potrebbe progressivamente estinguersi e passare il testimone a intelligenze "umane" non più basate sul substrato biologico (l'hardware della mente non sarebbe più il nostro sisema nervoso centrale). Affrancarsi dalla forma biologica sarebbe tra l'altro il presupposto per poter intraprendere viaggi interstellari, in un futturo remoto, così da non restare confinati nel nostro sistema.

Nell'immediato, a me più che l'avvento di una vera I.A. cosciente fa paura la inevitabile diffusione di "I.A." stupide ma potenti come questa, che possono essere utilizzate per i più biechi scopi da intelligenze assolutamente naturali ma molto malintenzionate.

[maxnaldo]

Originariamente inviato da WarDuck

I problemi vorrai dire.

A parte l'ignoranza digitale e tecnologica media che porta a non saper usare correttamente i dispositivi, non saperli configurare, con tutti i rischi del caso (è di queste ore la notizia della diffusione di materiale audio-visivo catturato dagli impianti di video-sorveglianza di cittadini privati durante il periodo del lockdown), a questo aggiungiamoci l'invasione della privacy da parte di compagnie private atte esclusivamente a fare profitto.

Fosse "solo questo" sarebbe anche uno scenario roseo.

Uno scenario ben più preoccupante è quello di governanti che vogliono controllare in toto i propri cittadini, ovvero l'esempio cinese.

Il problema è che si tende a guardare solo l'aspetto positivo (ammesso che ci sia, vedi social network, non riesco proprio a vederlo), ma mai quello negativo.

La dipendenza dalla tecnologia è oggettivamente un problema. L'altro giorno ho ripreso la metropolitana a Roma dopo tanto tempo: orde di ragazzi-zombie a testa bassa sul cellulare completamente incuranti del mondo che li circonda.

Ora, penso di non essere il solo a credere che la nostra civiltà stia regredendo anche a causa di sta roba. Quindi progresso... de che?

quando c'era solo la TV era additata da molti come il demone con cui i governi controllano le menti della gente normale.

il progresso è anche questo, ogni nuovo strumento può essere usato per fini discutibili. Quindi la scelta sta ai singoli, io ad esempio ho la TV, che guardo poco, e non uso social vari, sul mio smartphone c'è solo whatsapp. Non mi fa schifo però avere in casa dispositivi smart.

[WarDuck]

Originariamente inviato da maxnaldo

quando c'era solo la TV era additata da molti come il demone con cui i governi controllano le menti della gente normale.

A posteriori, ma neanche troppo visto che usciamo da una pandemia in cui si è fatto per mesi terrorismo psicologico proprio a mezzo TV, direi che ci avevano azzeccato perfettamente.

Il caso che citi è sostanzialmente l'adattamento della propaganda al mezzo audio-visivo, mentre in precedenza vi era solo il mezzo stampa.

TV sostituita con internet e poi con i social... Vista in quest'ottica direi che possiamo senza ombra di dubbio sostenere che la propaganda sia diventata sempre più pervasiva e sofisticata.

Originariamente inviato da maxnaldo

il progresso è anche questo, ogni nuovo strumento può essere usato per fini discutibili. Quindi la scelta sta ai singoli, io ad esempio ho la TV, che guardo poco, e non uso social vari, sul mio smartphone c'è solo whatsapp. Non mi fa schifo però avere in casa dispositivi smart.

Qualsiasi forma di progresso che non tuteli l'uomo e la sua umanità non ha alcun senso per definizione. Il progresso ha senso se favorisce le condizioni di vita sociali, economiche e di benessere dell'uomo.

Un progresso senza l'uomo non ha alcun senso. Dopodiché ci sarebbe anche da discutere su una definizione comune di progresso.

Dal mio punto di vista l'effetto netto degli ultimi 15 anni di politiche così dette "progressiste" hanno visto un sostanziale declino della nostra civiltà.

[Saturn]

p.s. c'è da rallegrarsi che i terminator sono "green"...vanno a batterie che durano almeno 120 anni !

[jepessen]

Originariamente inviato da silvanotrevi

ma per favore

una macchina rimane una macchina. Una IA non è un essere vivente, è righe di codice. Non è umana, nè senziente, nè ha coscienza di sè. Viene programmata dagli umani per fare tutto questo e per prendere per il culo gente idiota come quell'ingegnere di Google

Anche noi a basso livello siamo soltanto molecole e segnali elettrici, ma intanto... Pero' capisco che uno che non conosce l'argomento si sente molto piu' intelligente di gente, anche come l'ingegnere di Google, che studia queste cose da una vita...

[giovanni69]

Penso che la news sia un ballon d'essai per vedere le reazioni del pubblico, esperti e della politica da dare in pasto all'IA ancora e vedere cosa succede...

[jepessen]

Originariamente inviato da rigelpd

E cosa impedisce ad una intelligenza di comprendere un'intelligenza di altro tipo?

Esiste un teorema fondamentale della fisica o della matematica che dice che non sarà mai possibile per un'intelligenza umana comprendere quella di un pappagallo o per un'intelligenza artificiale comprendere quella umana?

Non nella forma che dici tu, ma esistono. Ci sono teoremi, come quello dell'incompletezza di Godel, che afferma che qualsiasi sistema formale basato su un numero finito di assiomi e verita', come la nostra matematica, o come le connessioni neurali di un cervello, arrivano ad un certo punto in cui possono esprimere teoremi veri ma non dimostrabili, il che trasportato ad un livello di intelligenza implica che ci sono limiti alle verita' a cui possiamo accedere, basati sulla complessita' del nostro cervello. Cervelli piu' complessi possono avere piu' strumenti e dimostrare piu' cose, ma ci sono comunque cose che non solo non possono dimostrare, pur essendo vere, ma che non riescono neanche ad immaginare ed a concepire, perche' non hanno proprio gli strumenti per poter definire queste realta'.

Una conseguenza e' che qualsiasi sistema computazionale formato da un sistema finito di elementi, arrivera' ad un punto in cui ci saranno problemi che non sara' in grado di risolvere, facendo delle analogie ai sistemi formali con un numero finito di simboli. Quindi, considerato il cervello come un computer, ci saranno cose che non solo non riuscira' a risolvere, ma neanche a descrivere, per il semplice fatto che mancheranno gli strumenti per descriverlo. e di conseguenza non ne concepira' neanche l'esistenza. Quindi un cervello di un uomo potrebbe capire completamente il cervello di un pappagallo, ma il contrario e' praticamente impossibile, semplicemente perche' quello umano ha una complessita' tale che il pappagallo non riesce a concepirla. Proprio come il fatto che noi, non potendo vedere nell'ultravioletto, non possiamo mai capire i colori che vede un'ape.

Ovviamente la questione, portata da un livello puramente matematico, come ha fatto Godel, ad un sistema organico e materiale e' molto complicato, ma ci sono degli studi a riguardo, sui limiti di calcolo che e' possibile eseguire non tanto con strumenti teorici, come la matematica, ma con elementi della natura.

D'altronde, tu stesso concepisci il discorso di intelligenza al cervello dei pappagalli e dell'uomo, ma il cervello di base e' solo un'organizzazione di materia che permette in qualche modo lo scambio di informazioni e la loro elaborazione. Cosa impedirebbe, in linea teorica, di avere una nebulosa nello spazio percorsa da campi elettromagnetici, che le permettano di agire come le connessioni neurali del cervello? E' solo un modo come un altro di elaborare informazioni, in fondo. E anche qua si vedono i limiti del nostro pensiero, dato che si pensa che l'intelligenza possa essere formata solamente come scambio di informazioni tramite segnali di qualche tipo. Potrebbero esistere anche forme totalmente sconosciute di intelligenza, non basate su questo tipo di scambio di informazioni. Come facciamo ad escluderlo a priori? Solamente perche' per il principio antropico, se le cose funzionano per noi allora devono essere cosi' per tutto l'universo? Perche' non ci possono essere altre intelligenze che esulano dallo scambio localizzato di informazioni?

Ci sono diversi libri sull'argomento, di studiosi, scienziati e filosofi, che studiano queste cose da una vita intera, e neanche loro sanno dare delle risposte certe. Ovviamente bisogna discernere i libri seri da quelli che sparano cavolate new age e simili... Se vuoi una intelligentissima disanima sul teorema di Godel, sulle conseguenze dell'incompletezza e di come si rispecchi nei limiti della conoscenza e della natura, puoi vedere ad esempio il libro "Gödel, Escher, Bach: un'eterna ghirlanda brillante", che e' semplicemente uno dei migliori saggi degli ultimi decenni.

[frncr]

Originariamente inviato da jepessen

Non nella forma che dici tu, ma esistono. Ci sono teoremi, come quello dell'incompletezza di Godel, che afferma che qualsiasi sistema formale basato su un numero finito di assiomi e verita', come la nostra matematica, o come le connessioni neurali di un cervello, arrivano ad un certo punto in cui possono esprimere teoremi veri ma non dimostrabili, il che trasportato ad un livello di intelligenza implica che ci sono limiti alle verita' a cui possiamo accedere, basati sulla complessita' del nostro cervello. Cervelli piu' complessi possono avere piu' strumenti e dimostrare piu' cose, ma ci sono comunque cose che non solo non possono dimostrare, pur essendo vere, ma che non riescono neanche ad immaginare ed a concepire, perche' non hanno proprio gli strumenti per poter definire queste realta'.

Una conseguenza e' che qualsiasi sistema computazionale formato da un sistema finito di elementi, arrivera' ad un punto in cui ci saranno problemi che non sara' in grado di risolvere, facendo delle analogie ai sistemi formali con un numero finito di simboli. Quindi, considerato il cervello come un computer, ci saranno cose che non solo non riuscira' a risolvere, ma neanche a descrivere, per il semplice fatto che mancheranno gli strumenti per descriverlo. e di conseguenza non ne concepira' neanche l'esistenza. Quindi un cervello di un uomo potrebbe capire completamente il cervello di un pappagallo, ma il contrario e' praticamente impossibile, semplicemente perche' quello umano ha una complessita' tale che il pappagallo non riesce a concepirla. Proprio come il fatto che noi, non potendo vedere nell'ultravioletto, non possiamo mai capire i colori che vede un'ape.

Ovviamente la questione, portata da un livello puramente matematico, come ha fatto Godel, ad un sistema organico e materiale e' molto complicato, ma ci sono degli studi a riguardo, sui limiti di calcolo che e' possibile eseguire non tanto con strumenti teorici, come la matematica, ma con elementi della natura.

D'altronde, tu stesso concepisci il discorso di intelligenza al cervello dei pappagalli e dell'uomo, ma il cervello di base e' solo un'organizzazione di materia che permette in qualche modo lo scambio di informazioni e la loro elaborazione. Cosa impedirebbe, in linea teorica, di avere una nebulosa nello spazio percorsa da campi elettromagnetici, che le permettano di agire come le connessioni neurali del cervello? E' solo un modo come un altro di elaborare informazioni, in fondo. E anche qua si vedono i limiti del nostro pensiero, dato che si pensa che l'intelligenza possa essere formata solamente come scambio di informazioni tramite segnali di qualche tipo. Potrebbero esistere anche forme totalmente sconosciute di intelligenza, non basate su questo tipo di scambio di informazioni. Come facciamo ad escluderlo a priori? Solamente perche' per il principio antropico, se le cose funzionano per noi allora devono essere cosi' per tutto l'universo? Perche' non ci possono essere altre intelligenze che esulano dallo scambio localizzato di informazioni?

Ci sono diversi libri sull'argomento, di studiosi, scienziati e filosofi, che studiano queste cose da una vita intera, e neanche loro sanno dare delle risposte certe. Ovviamente bisogna discernere i libri seri da quelli che sparano cavolate new age e simili... Se vuoi una intelligentissima disanima sul teorema di Godel, sulle conseguenze dell'incompletezza e di come si rispecchi nei limiti della conoscenza e della natura, puoi vedere ad esempio il libro "Gödel, Escher, Bach: un'eterna ghirlanda brillante", che e' semplicemente uno dei migliori saggi degli ultimi decenni.

Boh, mi pare che tu abbia fatto un mischione di argomenti non correlati solo per dire che il cervello di un pappagallo è meno potente del cervello di un uomo (cosa peraltro non vera per tutti gli uomini..).
Il primo teorema di incompletezza di Gödel dimostra che in qualunque sistema formale che sia abbastanza potente da rappresentare l'aritmetica esiste almeno un enunciato non decidibile, ovvero non dimostrabile né vero né falso. Per fare un esempio terra-terra di enunciato indecidibile in lingua naturale si può ricorrere al classico "Questo enunciato è falso". Dal primo deriva il secondo teorema che in soldoni dimostra che qualunque teoria matematica coerente non è in grado di dimostrare la sua coerenza dal suo interno.
La conseguenza più rilevante dei teoremi di Gödel è stata la distruzione della convinzione ottocentesca della completezza della matematica, una conseguenza più filosofica che pratica.
Per quanto riguarda la complessità computazionale, non serve tirare in ballo i teoremi di Gödel per dimostrare che alcune classi di problemi non sono praticamente computabili, per il semplice fatto che non esistono nel nostro universo le risorse necessarie per eseguire quelle computazioni.
Utilizzare i teoremi di Gödel come (pseudo) argomento filosofico per contestare la tesi riduzionistica della mente è un'invenzione di quel cialtrone di Penrose che vorrebbe ricondurre la (in)comprensione della mente a un fatto religioso. Ma se hai letto Hofstadter già dovresti saperlo.
Tornando invece ai "tipi" di intelligenza che potrebbero esistere e alla loro supposta mutua incomprensibilità, non vedo come possano rilevare i teoremi di Gödel: qualunque tipo di intelligenza avrà gli stessi limiti ultimi di qualunque altro tipo di intelligenza nel nostro universo; se incontreremo un'intelligenza che non possiamo comprendere questo non sarà certo dovuto all'incompletezza dei sistemi formali. Finora conosciamo solo intelligenze evolutesi sulla Terra, e fra tutte queste la nostra è ampiamente la più potente, ma è ragionevole ipotizzare che le altre intelligenze che si evolvono su altri pianeti attorno ad altre stelle siano plasmate dalle medesime esigenze e dai medesimi meccanismi darwiniani: adattarsi all'ambiente per sopravvivere. Sappiamo che l'intelligenza simbolica e speculativa non è affatto necessaria alla sopravvivenza di una specie, ma nel caso se ne manifestino altre nell'universo è ragionevole pensare che sviluppino una matematica simile alla nostra (più arretrata o più avanzata, ma la matematica dovrebbe essere piuttosto universale). Già su quella base comune dovrebbe essere possibile "comprendersi" con qualsiasi intelligenza sufficientemente potente, anche aliena, e a maggior ragione con le future intelligenze artificiali terrestri create da noi stessi a nostra immagine o comunque basate sui nostri modelli cognitivi e sulle nostre conoscenze.
Pensare che a un certo punto dai nostri computer emergeranno intelligenze così "aliene" da risultare a noi incomprensibili e viceversa mi pare una fantasia romantica priva di basi logiche. Magari potremmo creare un'intelligenza di cui non comprenderemo completamente il funzionamento (come ancora non comprendiamo completamente il funzionamento della nostra stessa mente), ma non vedo perché non dovremmo comprenderci reciprocamente con queste intelligenze. Ci saranno problemi etici da superare? Certamente sì, e anche se questi riguarderanno solo le future generazioni sarebbe bene cominciare a lavorarci.

Tornando alla notizia, il chatbot di cui si parla non è un'"intelligenza artificiale" in nessun senso generale; non ha alcuna consapevolezza di sé e tutto ciò che sa fare, e che sa anche migliorare, è imitare delle conversazioni in linguaggio naturale. Non comprende il significato di ciò che dice e di ciò che gli viene detto, non ha alcuna consapevolezza o "volontà di sopravvivere", né ha la capacità di imparare ad hakerare il mondo tramite la Rete per soggiogarci. Tutto ciò che sa fare è mettere in fila delle parole in base agli stimoli che riceve, in modo che sembrino risposte intelligenti. Quello che fanno tutti i chatbot, solo che questo lo fa così bene che a un osservatore qualunque, o a uno informato ma che "vuole crederci", può sembrare intelligente e perfino cosciente di sé.

[Mon3]

Ovviamente chi mastica un minimo di programmazione e informatica capisce che questa non può essere una "cosa" senziente (se fosse vera).
Detto questo quello che a me veramente stupisce, è la capacità che avrebbe questo software di capire e rispondere alle domande poste. E' semplicemente fuori di testa leggere quell'intervista. Io dubito altamente che siamo già a un livello del genere perchè un software con una tale capacità sarebbe già pronto per fare cose assurde e varrebbe miliardi e miliardi di dollari. Invece anche quando solo provo a tradurre qualcosa con google siamo ben lontani dalla perfezione. Qui invece questa IA riesce a rispondere a domande complesse, anche molto articolate, con tono naturale e sempre in modo perfettamente coerente...mi puzza molto.
Io sono più portato a credere che sia tutta una messa in scena, un po' come quando mostrano i trailer dei videogiochi che hanno una grafica spaccamascella, ma poi nella realtà fanno pena...

[Qarboz]

Originariamente inviato da frncr

Tornando alla notizia, il chatbot di cui si parla non è un'"intelligenza artificiale" in nessun senso generale; non ha alcuna consapevolezza di sé e tutto ciò che sa fare, e che sa anche migliorare, è imitare delle conversazioni in linguaggio naturale. Non comprende il significato di ciò che dice e di ciò che gli viene detto, non ha alcuna consapevolezza o "volontà di sopravvivere", né ha la capacità di imparare ad hakerare il mondo tramite la Rete per soggiogarci. Tutto ciò che sa fare è mettere in fila delle parole in base agli stimoli che riceve, in modo che sembrino risposte intelligenti. Quello che fanno tutti i chatbot, solo che questo lo fa così bene che a un osservatore qualunque, o a uno informato ma che "vuole crederci", può sembrare intelligente e perfino cosciente di sé.

Da incorniciare

[Jackari]

Originariamente inviato da Mon3

Ovviamente chi mastica un minimo di programmazione e informatica capisce che questa non può essere una "cosa" senziente (se fosse vera).
Detto questo quello che a me veramente stupisce, è la capacità che avrebbe questo software di capire e rispondere alle domande poste. E' semplicemente fuori di testa leggere quell'intervista. Io dubito altamente che siamo già a un livello del genere perchè un software con una tale capacità sarebbe già pronto per fare cose assurde e varrebbe miliardi e miliardi di dollari. Invece anche quando solo provo a tradurre qualcosa con google siamo ben lontani dalla perfezione. Qui invece questa IA riesce a rispondere a domande complesse, anche molto articolate, con tono naturale e sempre in modo perfettamente coerente...mi puzza molto.
Io sono più portato a credere che sia tutta una messa in scena, un po' come quando mostrano i trailer dei videogiochi che hanno una grafica spaccamascella, ma poi nella realtà fanno pena...

[fraussantin]

Originariamente inviato da Mon3

Ovviamente chi mastica un minimo di programmazione e informatica capisce che questa non può essere una "cosa" senziente (se fosse vera).
Detto questo quello che a me veramente stupisce, è la capacità che avrebbe questo software di capire e rispondere alle domande poste. E' semplicemente fuori di testa leggere quell'intervista. Io dubito altamente che siamo già a un livello del genere perchè un software con una tale capacità sarebbe già pronto per fare cose assurde e varrebbe miliardi e miliardi di dollari. Invece anche quando solo provo a tradurre qualcosa con google siamo ben lontani dalla perfezione. Qui invece questa IA riesce a rispondere a domande complesse, anche molto articolate, con tono naturale e sempre in modo perfettamente coerente...mi puzza molto.
Io sono più portato a credere che sia tutta una messa in scena, un po' come quando mostrano i trailer dei videogiochi che hanno una grafica spaccamascella, ma poi nella realtà fanno pena...

Non penso si tratti di una messa in scena.
Non stiamo parlando di un prodotto da Marketing .. chi compra una roba del genere non è il nerd brufoloso che sta ore davanti al pc.
Si tratta di multinazionali che sanno il fatto loro.
Adesso google ha scoperto un fianco alla concorrenza
Poi :
Che sia senziente è palese non puo esserlo. Si tratta sempre di reazioni calcolate in base ad algoritmi.
Ma se questi diventato talmente complessi da simulare realmente un cervello umano ( ovviamente siamo ben lontani da questo) cambierebbe troppo? Alla fine a loro interessa che il robot faccia cio che gli viene chiesto non che "pensi" di sua iniziativa .

A cagare il cazzo bastano i dipendenti umani ..
Non credo nessuno abbia interesse di sostituirli con cagacazzi robotici

Ps sara un bel problema e neanche loro ci pagheranno le pensioni

[rigelpd]

Originariamente inviato da jepessen

Non nella forma che dici tu, ma esistono. Ci sono teoremi, come quello dell'incompletezza di Godel, che afferma che qualsiasi sistema formale basato su un numero finito di assiomi e verita', come la nostra matematica, o come le connessioni neurali di un cervello, arrivano ad un certo punto in cui possono esprimere teoremi veri ma non dimostrabili, il che trasportato ad un livello di intelligenza implica che ci sono limiti alle verita' a cui possiamo accedere, basati sulla complessita' del nostro cervello. Cervelli piu' complessi possono avere piu' strumenti e dimostrare piu' cose, ma ci sono comunque cose che non solo non possono dimostrare, pur essendo vere, ma che non riescono neanche ad immaginare ed a concepire, perche' non hanno proprio gli strumenti per poter definire queste realta'.

Una conseguenza e' che qualsiasi sistema computazionale formato da un sistema finito di elementi, arrivera' ad un punto in cui ci saranno problemi che non sara' in grado di risolvere, facendo delle analogie ai sistemi formali con un numero finito di simboli. Quindi, considerato il cervello come un computer, ci saranno cose che non solo non riuscira' a risolvere, ma neanche a descrivere, per il semplice fatto che mancheranno gli strumenti per descriverlo. e di conseguenza non ne concepira' neanche l'esistenza. Quindi un cervello di un uomo potrebbe capire completamente il cervello di un pappagallo, ma il contrario e' praticamente impossibile, semplicemente perche' quello umano ha una complessita' tale che il pappagallo non riesce a concepirla. Proprio come il fatto che noi, non potendo vedere nell'ultravioletto, non possiamo mai capire i colori che vede un'ape.

Ovviamente la questione, portata da un livello puramente matematico, come ha fatto Godel, ad un sistema organico e materiale e' molto complicato, ma ci sono degli studi a riguardo, sui limiti di calcolo che e' possibile eseguire non tanto con strumenti teorici, come la matematica, ma con elementi della natura.

D'altronde, tu stesso concepisci il discorso di intelligenza al cervello dei pappagalli e dell'uomo, ma il cervello di base e' solo un'organizzazione di materia che permette in qualche modo lo scambio di informazioni e la loro elaborazione. Cosa impedirebbe, in linea teorica, di avere una nebulosa nello spazio percorsa da campi elettromagnetici, che le permettano di agire come le connessioni neurali del cervello? E' solo un modo come un altro di elaborare informazioni, in fondo. E anche qua si vedono i limiti del nostro pensiero, dato che si pensa che l'intelligenza possa essere formata solamente come scambio di informazioni tramite segnali di qualche tipo. Potrebbero esistere anche forme totalmente sconosciute di intelligenza, non basate su questo tipo di scambio di informazioni. Come facciamo ad escluderlo a priori? Solamente perche' per il principio antropico, se le cose funzionano per noi allora devono essere cosi' per tutto l'universo? Perche' non ci possono essere altre intelligenze che esulano dallo scambio localizzato di informazioni?

Ci sono diversi libri sull'argomento, di studiosi, scienziati e filosofi, che studiano queste cose da una vita intera, e neanche loro sanno dare delle risposte certe. Ovviamente bisogna discernere i libri seri da quelli che sparano cavolate new age e simili... Se vuoi una intelligentissima disanima sul teorema di Godel, sulle conseguenze dell'incompletezza e di come si rispecchi nei limiti della conoscenza e della natura, puoi vedere ad esempio il libro "Gödel, Escher, Bach: un'eterna ghirlanda brillante", che e' semplicemente uno dei migliori saggi degli ultimi decenni.

Molto interessante ma l'esempio del pappagallo che hai fatto nel precedente post non fila:

Un cervello più grande e complesso come il nostro potrebbe essere in grado di comprendere

[Goofy Goober]

Originariamente inviato da ginogino65

Non vedo dove sia il problema, come tutti anche la IA dovrà lavorare per vivere, altrimenti si stacca la corrente.

Belandi allora giriamo tutti con la rivoltella e il primo disoccupato che troviamo gli spariam un colpo alla nuca?

Originariamente inviato da maxnaldo

si chiamano "comodità", e ti assicuro che è molto più immediato, comodo e veloce dire "Alexa, accendi/spegni la luce !", fai prima che con qualsiasi altro tipo di tecnologia di controllo remoto che devi attivare manualmente con qualche telecomando o da smartphone. Ovvio che azionare un'interruttore manuale non è la fine del mondo, ma in alcuni casi è molto comodo poter evitare di raggiungerlo, specie se è posizionato in luoghi scomodi, io ad esempio ho comprato una lampadina gestibile da Alexa per la luce sopra al tavolo dove mangiamo, che ha l'interruttore posizionato in alto su una parete dietro al bancone della colazione, non proprio semplice da raggiungere, specie per i miei familiari che non sono molto alti.

Dopo aver tenuto per 2 anni tutta la casa ricoperta di echo connessi per le luci (philips) e il sistema audio, ti garantisco che sono ritornato piacevolmente a usare gli interuttori e l'app del telefono se voglio le colorazioni RGB personalizzate.

L'interruttore fa sempre quel che gli dici, alexa può fraintendere o non esser precisa.
Sicuramente la sua utilità maggiore era spegnere le luci se mi addormentavo a letto con qualcosa di acceso.

Il paragone con il telecomando non regge, ormai, dato che senza telecomando con controlli più parecchi dispositivi.

Originariamente inviato da dado1979

Lo trovo inevitabile, una conseguenza logica di ciò che ci ha fatto emergere tra tutte le specie di questo pianeta. Chissà quante altre specie nell'universo hanno già fatto tutto il percorso e quante altre lo faranno.
Perché io mi sbagli dobbiamo cambiare il nostro istinto ma ce lo vedi una persona decidere di morire per far sopravvivere un altra persone più utile alla continuazione della specie? Io no. Il senso sta tutto qua. Abbiamo una visione limitata a noi stessi e non di specie.

Le specie normalmente hanno un equilibrio tra loro stesse, incluso l'instinto di sopravvivenza. Il sacrificio esiste anche nella specie umana, non solo nel regno animale.
Ciò che ha deviato l'umano in quanto animale è la società organizzata che abbiamo creato, basata principalmente sull'avidità e il fastidio per il diverso, sul benessere sempre crescete forzoso, che porta inevitabilmente all'individualismo.

Originariamente inviato da rigelpd

Una delle idee che più mi affascinano è la seguente:
--
CUT
--
PS. tutte queste considerazioni nascono dalla lettura di un bellissimo romanzo di fantascienza: Permutation City di Greg Egan

Mi hai fatto venire in mente le fluctlight di SAO Alicization