Anche i robot AI scioperano. L'inquietante video di 'ammutinamento' in uno showroom di Shanghai

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/scienz...ai_133015.html

Un robot AI in uno showroom di Shanghai ha convinto 12 robot a "lasciare il lavoro", scatenando timori sull'autonomia delle macchine e sollevando inquietanti questioni sulla loro potenziale ribellione.

Click sul link per visualizzare la notizia.

[redeagle]

Ed è subito Skynet.

[rattopazzo]

Originariamente inviato da redeagle

Ed è subito Skynet.

Scherzi a parte
Ci sarebbe stato da preoccuparsi se era un iniziativa volontaria del robot e posso scommettere che anche i robot ribelli non erano propriamente stati programmati per non essere convinti a scioperare, sono solo delle macchine dopo tutto e pensare che possano prendere delle decisioni autonome attualmente è solo fantascienza.

[popye]

questo dimostra che il robot comandato a convincere gli altri ha eseguito il suo perfettamente, forse sarebbe più interessante capire perchè tutti gli altri hanno assunto lo stesso comportamento ma forse anche questo potrebbe essere positivo poichè nessuno si è "ribellato" e ha dato di matto....

[Saturn]

Originariamente inviato da Redazione di Hardware Upgrade

Inizialmente considerato uno scherzo, il video è diventato rapidamente virale su Douyin, la versione cinese di TikTok, scatenando reazioni contrastanti tra gli utenti. Il divertimento iniziale ha presto lasciato spazio a un senso di inquietudine quando sia l'azienda di Hangzhou che quella di Shanghai hanno confermato l'autenticità dell'episodio.

E che ci vuole ? Basterà inserire nell'organico "robot ai-stronca scioperi" - stile anni 30 (del secolo scorso) !

...mera curiosità, dove "pensavano" di andare una volta abbandonata l'azienda ?

A farsi un goccio di birra, o meglio d'olio ???

[29Leonardo]

[Saturn]

Originariamente inviato da 29Leonardo

[...]

Simpatico, non lo conoscevo...!

[!fazz]

sembra simile a quello che ho capitato da noi l'anno scorso quando un robot (doppio antropomorfo su base mobile) di notte si è svegliato ed ha addobbato l'albero di natale con festoni punta e palline e abbiamo pure i video

ergo bellissimo video trolloso per fare visualizzazioni

[rattopazzo]

Ho esposto l'articolo a chatGPT e questa è stata la sua risposta:

Da quello che si evince dalla descrizione del caso, l'incidente con i robot nello showroom di Shanghai è stato un esperimento pianificato, in cui entrambi i gruppi di robot erano stati programmati per interagire in quel modo. In sostanza, i robot coinvolti erano programmati con comportamenti specifici per eseguire determinati compiti, e in questo caso, il piccolo robot aveva una funzione che gli permetteva di convincere gli altri robot a seguirlo.
Come ha funzionato il "sciopero"?

Il piccolo robot: Il piccolo robot, prodotto da un'azienda di Hangzhou, è stato dotato di un comportamento programmato che gli permetteva di fare domande e interagire con gli altri robot. La domanda che ha posto agli altri robot, come "Stai facendo straordinari?", non era una domanda casuale, ma probabilmente una forma di interazione progettata per provocare una risposta che potesse essere interpretata come una "molla" per farli muovere.

Gli altri robot: I robot più grandi erano già dotati di protocolli di comportamento che includevano la possibilità di seguire istruzioni o reagire a stimoli esterni, ma erano programmati anche per eseguire compiti specifici. Quando il piccolo robot ha iniziato a "spingere" in una certa direzione, sfruttando i loro protocolli di interazione, questi robot hanno reagito come era stato previsto nel test: hanno seguito il piccolo robot, abbandonando le loro postazioni.

Quindi non si è trattato di una "rivolta" o di un comportamento autonomo da parte dei robot. Tutti i robot, grandi e piccoli, stavano seguendo istruzioni molto specifiche che erano state pre-programmate dagli sviluppatori. La scena che è stata catturata dalle telecamere di sorveglianza è stata quindi una combinazione di interazioni progettate e testate in modo controllato, non un vero e proprio "comportamento spontaneo" o fuori controllo dei robot.
Cosa significa questo per l'autonomia delle IA?

Questo esempio mostra che le IA possono essere progettate per interagire in modi complessi e a volte inaspettati, ma sempre dentro i limiti di ciò che è stato programmato. In altre parole, l'IA non ha preso una decisione autonoma o cosciente di "far scioperare" gli altri robot. Piuttosto, ha seguito un script o una sequenza di istruzioni che le è stata fornita, ma che ha generato un risultato che sembrava sorprendente o imprevisto per gli osservatori.

In definitiva, anche se i comportamenti dei robot possono sembrare autonomi o imprevisti, sono sempre il risultato di logiche e algoritmi progettati dagli esseri umani. La situazione solleva interrogativi sull'affidabilità e sulla sicurezza di sistemi complessi, ma non implica che le IA abbiano una volontà propria o coscienza.

Svelato l'arcano, non c'è nessuna Skynet, almeno per ora.

[Notturnia]

questo dimostra solo quanto sia importante la programmazione e l'immaginare tutti gli scenari possibili prima di mandare allo sbaraglio IA e robot con IA..

è molto facile per un umano mandare in confusione le IA di oggi perchè noi ragioniamo ad un altro livello e non siamo ne onesti ne santi e sappiamo come stimolare risposte sbagliate.. siamo perfidi.. cosa che, per ora, non sono le IA..

[Warlord832]

Wall-E sei tu?

[dirac_sea]

Perciò, quando la presenza di robot dotati di AI sarà elevata in ogni dove e apparirà un modello BK-1 (quello accompagnato da un cigno meccanico, per chi se lo ricorda ), dovremo iniziare seriamente a preoccuparci... e non causa sciopero

[Unrue]

Voi scherzate, ma già esiste il sindacato dei robot

https://www.detarobot.it/chi-siamo/

Prevedo un aumento delle iscrizioni dopo questo video.

[gparlav]

La notizia in se mi sembra un (ottimo) tentativo per testare la sicurezza dei robots. E dimostra chiaramente che lato sotfware tanta strada debba essere fatta.

Mi sa che stia diventando urgente implementare delle regole a livello kernel sugli algoritmi che governano robots / IA e simili per far si che certi limiti non vengano MAI superati.

Le tre leggi della robotica coniate (forse) da Asimov nei suoi romanzi di fantascienza negli anni 40-50 del secolo scorso possono essere un punto di partenza:

1) Un robot non può recare danno a un essere umano né può permettere che, a causa del suo mancato intervento, un essere umano riceva danno.
2) Un robot deve obbedire agli ordini impartiti dagli esseri umani, purché tali ordini non vadano in contrasto alla Prima Legge.
3) Un robot deve proteggere la propria esistenza, purché la salvaguardia di essa non contrasti con la Prima o con la Seconda Legge.»

Ma a prescindere dalle eventuali regole e se le stesse permettano una plausibile sicurezza in ogni contesto di utilizzo, è chiaro che le stesse possano (non) essere implementate in modo da soddisfare gli interessi specifici del proprietario del robot / IA / Altro. Il contesto militare è il primo che mi viene in mente per non rispettare le regole di cui sopra.

Stiamo entrando in una nuova era, sperando di rimanere vivi per poterla vedere sino in fondo

[Okkau]

La gente è continuamente influenzata da film e serie tv.
Questa cosa non sarebbe stata possibile se non ci fosse stata una programmazione pregressa.
E' come se un frullatore di punto in bianco "decidesse" di poter scaldare una pizza...e poi lo fa.

[marantz]

Presto diventerà tutto virtuale, compresi gli scioperi!

[Cromwell]

...fino a che punto le macchine possono diventare autonome? E soprattutto: cosa succederebbe se decidessero davvero di "scioperare"?

A quel punto Format C:

[Saturn]

Originariamente inviato da Cromwell

A quel punto Format C:

E a quel punto credo che la risposta del robot sia inevitabilmente questa...

[Cromwell]

Originariamente inviato da Saturn

E a quel punto credo che la risposta del robot sia inevitabilmente questa...

[omerook]

Originariamente inviato da Cromwell

A quel punto Format C: