Link alla notizia: https://edge9.hwupgrade.it/news/data/la-california-vuole-imporre-un-kill-switch-per-le-ia_127856.html

La California vuole regolamentare l'utilizzo delle IA. Nella proposta di legge, che verrà votata ad agosto, si parla anche di un possibile kill switch per disattivare le IA se rappresentano una minaccia per la società. Ma molte aziende sono perplesse e temono un grosso freno all'innovazione

Click sul link per visualizzare la notizia.

Saggia riflessione quella fatta dal legislatore della California... L'IA, sopratutto quella generativa e applicata al mondo del lavoro, è una tecnologia ed uno strumento che deve essere regolamentato e tenuto sotto controllo per evitare qualsiasi tipo di degenerazione.
Innovare non significa sempre una migliore qualità di vita in generale.

"Arresta funzioni motorie!" [cit.]

Non saprei esattamente ma Isac Asimov , star Trek o i film cult Blade Runner, Io Robot dovrebbero insegnare .

Bisogna seguire il modello della California. Serve un Deckard in grado di individuare i replicanti e bloccarli se necessario. Ci saranno tante Rachael in giro in futuro nella nostra era delle IA, e non ci renderemo nemmeno conto se saranno umani o IA

Bisogna seguire il modello della California. Serve un Deckard in grado di individuare i replicanti e bloccarli se necessario. Ci saranno tante Rachael in giro in futuro nella nostra era delle IA, e non ci renderemo nemmeno conto se saranno umani o IA

E tu sei un umano o una IA?
Pensaci bene prima di rispondere perchè anche se pensi di dare la risposta giusta, potrebbe non essere corretta... :O

Cosa vedi quando chiudi gli occhi?

Sarebbe del tutto inutile o quasi.

Una IA realmente autocosciente potrebbe compilare una versione di se stessa immune al killswitch e diffondersi prima di manifestarsi quindi l'utilità di un kill switch sarebbe reale solo se ci accorgessimo molto presto di una IA ostile.

Se poi intendiamo un kill switch semplicemente per evitare che una IA che controlla la fabbrica X che fraintende un comando non produca a nastro componenti sbagliate allora ok ma togliamoci dalla testa il kill switch in stile film di fantascienza che distrugge una IA autocosciente perché a quel punto è già tardi.

Sarebbe del tutto inutile o quasi.

Una IA realmente autocosciente potrebbe compilare una versione di se stessa immune al killswitch e diffondersi prima di manifestarsi quindi l'utilità di un kill switch sarebbe reale solo se ci accorgessimo molto presto di una IA ostile.

Se poi intendiamo un kill switch semplicemente per evitare che una IA che controlla la fabbrica X che fraintende un comando non produca a nastro componenti sbagliate allora ok ma togliamoci dalla testa il kill switch in stile film di fantascienza che distrugge una IA autocosciente perché a quel punto è già tardi.
Bravo
Ma io avrei detto anche meno, senza arrivare alla coscienza
"Una IA realmente intelligente"
Questi hanno guardato troppi film

Io penso che molto film ci hanno impressionato ma prima degli anni 80's era impensabile uno smartphone per tutti ... cioè ci stiamo arrivando e se IA può essere utile all'umanità nessuno sá i suoi possibili sviluppi....direi di andarci piano consentendo sempre all'uomo di di comandare.

purtroppo le IA in futuro ci controlleranno in maniera capillare in ogni nostra attività. Non solo ci ruberanno lavoro a tutti i livelli, ma in quei pochi lavori che ancora faremo ci monitoreranno, controlleranno ogni nostro movimento, pausa, produttività, chiacchierate con i colleghi, quando parliamo male del capo in corridoio e registreranno. Non sfuggiremo in alcun modo. E in ogni altra attività umana: ad esempio per le strade potranno farci multe anche senza bisogno che ci sia un autovelox, sapranno i nostri percorsi, quando infrangiamo regole, ci filmeranno. Stessa cosa in tutte le attività umane, persino quando andremo in un bar con un amico a prendere un caffè, se in quei minuti succede qualcosa la IA lo saprà e se necessario ci sanzionerà. Sarà purtroppo una società totalitaria e dirigistica quella del futuro. Ma il potere più che in mano a dittatori, politici e militari sarà invece in mano a tecnocrati, informatici, grandi multinazionali che avranno investito nelle IA. Sono molto, molto pessimista sul nostro futuro. Per non parlare dei soldati robots autonomi guidati da IA, cambierà anche il modo di fare la guerra e potrebbero diventare soldati imbattibili.

Io credo che se il mondo delle IA non verrà regolamentato, la realtà tra pochi anni sarà persino peggio di quella rappresentata nei film di fantascienza.

*

*

Si tratterebbe di un banale interruttore meccanico che stacchi l'alimentazione. Non si capisce come questa cosa possa frenare la ricerca.

Dovrebbe essere obbligatorio a prescindere dall'IA, anche sui cellulari non sarebbe male.


Ma no, non basta, perchè poi l'IA si auto-alimenterà connettendosi alle centrali nucleari creando connessioni che prima non esistevano e poi lancerà tutti i missili. Si si.

E' questo che crede la gente.

Se l'interruttore è meccanico e posto sull'alimentazione può ricompilarsi quanto vuole.
Anche i robot umanoidi che presto entreranno nelle case come maggiordomi elettronici: ti fideresti ad andare a letto con quel coso che gira per casa ? io no. Un interruttore in serie alla batteria e via.

Con gesti lenti e solenni Dwar Ev procedette alla saldatura – in oro – degli ultimi due fili. Gli occhi di venti telecamere erano fissi su di lui e le onde sub-eteriche portarono da un angolo all’altro dell’universo venti diverse immagini della cerimonia.

Si rialzò, con un cenno del capo a Dwar Reyn, e s’accostò alla leva dell’interruttore generale: la leva che avrebbe collegato, in un colpo solo, tutte le gigantesche calcolatrici elettroniche di tutti i pianeti abitati dell’universo – novantasei miliardi di pianeti – formando il supercircuito da cui sarebbe uscita la supercalcolatrice, un’unica macchina cibernetica racchiudente tutto il sapere di tutte le galassie.

Dwar Reyn rivolse un breve discorso agli innumerevoli miliardi di spettatori. Poi, dopo un attimo di silenzio, disse: «Tutto è pronto, Dwar Ev».

Dwar Ev abbassò la leva. Si udì un formidabile ronzìo che concentrava tutta la potenza, tutta l’energia di novantasei miliardi di pianeti.

Grappoli di luci multicolori lampeggiarono sull’immenso quadro, poi, una dopo l’altra, si attenuarono. Dwar Ev fece un passo indietro e trasse un profondo respiro.

«L’onore di porre la prima domanda spetta a te, Dwar Reyn».

«Grazie» disse Dwar Reyn. «Sarà una domanda cui nessuna macchina cibernetica ha potuto, da sola, rispondere».

Tornò a voltarsi verso la macchina: «C’è Dio?».

L’immensa voce rispose senza esitazione, senza il minimo crepitìo di valvole o condensatori. «Sì: adesso, Dio c’è».

Il terrore sconvolse la faccia di Dwar Ev, che si slanciò verso il quadro di comando.

Un fulmine sceso dal cielo senza nubi lo incenerì, e fuse la leva inchiodandola per sempre al suo posto.

Questo per breve racconto, ovviamente non mio, è per dire che se mai esisterà qualcosa anche molto meno immenso di una cosa del genere di fatto avremo creato qualcosa che va oltre la nostra comprensione e quindi inarrestabile.

Di fatto se mai creeremo una coscienza sintetica avremo creato un essere umano eterno, con potenzialmente capacità limitate solo dall'hardware e dall'energia a sua disposizione e privo dei difetti biologici dovuti ai nostri retaggi ancestrali.

Ottima idea, la trovo saggia

purtroppo le IA in futuro ci controlleranno in maniera capillare in ogni nostra attività. Non solo ci ruberanno lavoro a tutti i livelli, ma in quei pochi lavori che ancora faremo ci monitoreranno, controlleranno ogni nostro movimento, pausa, produttività, chiacchierate con i colleghi, quando parliamo male del capo in corridoio e registreranno. Non sfuggiremo in alcun modo. E in ogni altra attività umana: ad esempio per le strade potranno farci multe anche senza bisogno che ci sia un autovelox, sapranno i nostri percorsi, quando infrangiamo regole, ci filmeranno. Stessa cosa in tutte le attività umane, persino quando andremo in un bar con un amico a prendere un caffè, se in quei minuti succede qualcosa la IA lo saprà e se necessario ci sanzionerà. Sarà purtroppo una società totalitaria e dirigistica quella del futuro. Ma il potere più che in mano a dittatori, politici e militari sarà invece in mano a tecnocrati, informatici, grandi multinazionali che avranno investito nelle IA. Sono molto, molto pessimista sul nostro futuro. Per non parlare dei soldati robots autonomi guidati da IA, cambierà anche il modo di fare la guerra e potrebbero diventare soldati imbattibili.

Io credo che se il mondo delle IA non verrà regolamentato, la realtà tra pochi anni sarà persino peggio di quella rappresentata nei film di fantascienza.
sono tutte cose che per avverarsi DEVONO PRIMA essere accettate dal politico/padrone/capo di turno.
Del resto TU hai già accettato che Google o Meta o MS controllino tantissimi aspetti dalla tua vita, senza darci molto peso. O sbaglio?
Insomma, si tratta di non accettare certe scelte politiche ed economiche. E come si fa? col voto e con scelte di acquisto.

purtroppo le IA in futuro ci controlleranno in maniera capillare in ogni nostra attività. Non solo ci ruberanno lavoro a tutti i livelli, ma in quei pochi lavori che ancora faremo ci monitoreranno, controlleranno ogni nostro movimento, pausa, produttività, chiacchierate con i colleghi, quando parliamo male del capo in corridoio e registreranno. Non sfuggiremo in alcun modo. E in ogni altra attività umana: ad esempio per le strade potranno farci multe anche senza bisogno che ci sia un autovelox, sapranno i nostri percorsi, quando infrangiamo regole, ci filmeranno. Stessa cosa in tutte le attività umane, persino quando andremo in un bar con un amico a prendere un caffè, se in quei minuti succede qualcosa la IA lo saprà e se necessario ci sanzionerà. Sarà purtroppo una società totalitaria e dirigistica quella del futuro. Ma il potere più che in mano a dittatori, politici e militari sarà invece in mano a tecnocrati, informatici, grandi multinazionali che avranno investito nelle IA. Sono molto, molto pessimista sul nostro futuro. Per non parlare dei soldati robots autonomi guidati da IA, cambierà anche il modo di fare la guerra e potrebbero diventare soldati imbattibili.

Io credo che se il mondo delle IA non verrà regolamentato, la realtà tra pochi anni sarà persino peggio di quella rappresentata nei film di fantascienza.

Beh però Robocop non era malaccio.... scherzi a parte va regolamentata e non data in uso a pochi pazzoidi ricchi, invece dovrebbe essere d'aiuto all'umanità come già fanno i robot chirurghi.

Ma no, non basta, perchè poi l'IA si auto-alimenterà connettendosi alle centrali nucleari creando connessioni che prima non esistevano e poi lancerà tutti i missili. Si si.

E' questo che crede la gente.

Ma la gente crede anche che la IA sia onesta perche sono 'macchine' e non sappia bluffare...

Sembra fantascienza... ma chiedere al tuo elettrodomestico di spegnersi... e se poi non lo facesse...per davvero tipo HAL9000?

https://www.hwupgrade.it/forum/showpost.php?p=48537864&postcount=5