Aerei in volo e truppe pronte all'assalto: la clamorosa cantonata dell'IA che ha rischiato una guerra

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/web/ae...ra_159421.html

Un modello generativo impiegato da analisti militari ha classificato per errore il carico di una nave cinese come materiale nucleare, spingendo le forze armate statunitensi a far decollare i caccia prima di scoprire l'allucinazione

Click sul link per visualizzare la notizia.

[Notturnia]

ma non hanno visto "War Games" ?????

[sociologo]

Ma si dai!
Diamo tutto in mano all'ai senza fare un minimo di test!
Anche il più ignorante tra i politci non farebbe mai una cosa del genere!
Senza contare che i militari non cederebbero mai il potere decisionale ad una macchina!

[AlPaBo]

Originariamente inviato da sociologo

Ma si dai!
Anche il più ignorante tra i politci non farebbe mai una cosa del genere!

Ehm, no. Difficile fare di peggio, ma quelli "ignoranti" ci provano.

[Ripper89]

Rischiato la guerra ? Il solito titolone

Anche se avessero assaltato quella nave mercantile o cargo e ucciso l'intero equipaggio figurati se la Cina rischierebbe di compromettere il proprio sviluppo economico e tecnologico per così poco.

E figurati se gli USA rischierebbero la guerra contro la più grande realtà industriale del pianeta da cui quasi il loro intero apparato militare dipende ( terre rare ), oltre ad essere una potenza nucleare.

[alexfri]

Ri-confermo quanto detto l’altro gg, una nazione con pochi personaggi estremamente capaci e tutti gli altri una marea di babbacchioni. Gente che se andassero a Napoli, nessuno, NESSUNO di loro tornerebbe a casa se non in mutande.

[Cfranco]

Ricordiamo che l'AI è quella che ha deciso che una scuola elementare era un impianto militare e ha fatto 170 morti, principalmente bambini tra i 7 e i 12 anni

Originariamente inviato da Notturnia

ma non hanno visto "War Games" ?????

Ma, secondo te, Hegseth ha mai avuto un cervello funzionante ?

[danylo]

senza condurre riscontri incrociati sulla veridicità del testo

Questo e' il punto.
L'AI e' uno strumento ed e' risaputo che a volte si inventa le cose.
Quindi la responsabilita' e' della persona che ha preso per buono il testo generato da un chatbot, senza fare un minimo di verifiche.

Se per appendere un quadro, mi do' una martellata sul pollice, la colpa non e' del martello (brutto e cattivo).


.

[AlPaBo]

Originariamente inviato da danylo

Questo e' il punto.
L'AI e' uno strumento ed e' risaputo che a volte si inventa le cose.
Quindi la responsabilita' e' della persona che ha preso per buono il testo generato da un chatbot, senza fare un minimo di verifiche.

Se per appendere un quadro, mi do' una martellata sul pollice, la colpa non e' del martello (brutto e cattivo).

Un difetto diffuso è quello di preoccuparsi delle "colpe" ma non della prevenzione.

È vero, la colpa è di chi non ha verificato. Ma vanno comunque presi provvedimenti sulle AI perché, come sbagliano loro, spagliano anche gli umani che le usano.

A me, le colpe interessano poco: che se ne occupino i tribunali. Quello che mi interessa è che si prendano provvedimenti prima che un evento del genere porti a un disastro.

[LMCH]

Originariamente inviato da Ripper89

Rischiato la guerra ? Il solito titolone

Anche se avessero assaltato quella nave mercantile o cargo e ucciso l'intero equipaggio figurati se la Cina rischierebbe di compromettere il proprio sviluppo economico e tecnologico per così poco.

E figurati se gli USA rischierebbero la guerra contro la più grande realtà industriale del pianeta da cui quasi il loro intero apparato militare dipende ( terre rare ), oltre ad essere una potenza nucleare.

Se ci sono le condizioni giuste una guerra scoppia anche per molto meno.

Hai presente come é scoppiata la Prima Guerra Mondiale, vero ?

[mmorselli]

Originariamente inviato da Notturnia

ma non hanno visto "War Games" ?????

Tu oltre ad averlo visto da ragazzo, lo ricordi?

La premessa era che a seguito di una fallita esercitazione gli umani sono stati dichiarati inaffidabili per i silos nucleari e quindi sono stati connessi ad un computer, Joshua, che ad un certo punto scambia un gioco per un attacco reale e rischia di scatenare la fine del mondo. Per fermarlo l'hanno dovuto convincere, perché nessuno tranne lui aveva il controllo dei missili.

Qui cosa è successo? Qualcuno ha usato una AI per valutare dei documenti, l'AI ha sbagliato, il tizio, umano, si è fidato e ha mandato delle truppe, umane, che sono state richiamate ancora prima di arrivare. I militari sono abituati ad agire in fretta e pensare ai dettagli dopo.

Troviamo le differenze? L'unica cosa in comune è il solito catastrofismo, che in un film è anche giustificato, nelle notizie spazzatura che nel titolo scrivono "la clamorosa cantonata dell'IA che ha rischiato una guerra" magari no.

La stessa svista l'avrebbe potuta fare un qualsiasi addetto alle comunicazioni, e l'esito sarebbe stato identico.

[rattopazzo]

Originariamente inviato da LMCH

Se ci sono le condizioni giuste una guerra scoppia anche per molto meno.

Hai presente come é scoppiata la Prima Guerra Mondiale, vero ?

C'è sempre un pretesto per far partire una guerra, se ci pensiamo però quel pretesto è quasi sempre infinitamente inferiore rispetto ai danni che poi provoca la guerra.
Ma noi puntualmente ci caschiamo e ci facciamo trascinare in guerre sanguinose, noi ci mettiamo il sangue mentre qualcun altro incassa o si becca la gloria...

Originariamente inviato da mmorselli

Tu oltre ad averlo visto da ragazzo, lo ricordi?

La premessa era che a seguito di una fallita esercitazione gli umani sono stati dichiarati inaffidabili per i silos nucleari e quindi sono stati connessi ad un computer, Joshua, che ad un certo punto scambia un gioco per un attacco reale e rischia di scatenare la fine del mondo. Per fermarlo l'hanno dovuto convincere, perché nessuno tranne lui aveva il controllo dei missili.

Qui cosa è successo? Qualcuno ha usato una AI per valutare dei documenti, l'AI ha sbagliato, il tizio, umano, si è fidato e ha mandato delle truppe, umane, che sono state richiamate ancora prima di arrivare. I militari sono abituati ad agire in fretta e pensare ai dettagli dopo.

Troviamo le differenze? L'unica cosa in comune è il solito catastrofismo, che in un film è anche giustificato, nelle notizie spazzatura che nel titolo scrivono "la clamorosa cantonata dell'IA che ha rischiato una guerra" magari no.

Ormai dovremmo averci fatto l'abitudine ai titoli clickbait o sensazionalistici, ma se siamo qui evidentemente ci caschiamo lo stesso

Originariamente inviato da mmorselli

La stessa svista l'avrebbe potuta fare un qualsiasi addetto alle comunicazioni, e l'esito sarebbe stato identico.

Anche gli esseri umani sbagliano, ma hanno una cosa che un'IA non ha e forse non avrà mai... la capacità di fermarsi e dubitare dei propri dati.
Un certo Petrov, nel 1983, ne è un esempio, quando il sistema d'allarme sovietico segnalò un attacco nucleare americano, ma lui pensò che fosse un falso allarme e decise di non trattarlo come un vero attacco, poteva sbagliarsi, ma quella volta per nostra fortuna ci vide giusto, e forse evitò che la situazione degenerasse in qualcosa di molto peggio...

[mmorselli]

Originariamente inviato da rattopazzo

Ormai dovremmo averci fatto l'abitudine ai titoli clickbait o sensazionalistici, ma se siamo qui evidentemente ci caschiamo lo stesso

nel mio caso è ragebait, però sì, funziona... Ma anche un pugno in faccia funziona, non vuol dire che sia giusto farlo

Anche gli esseri umani sbagliano, ma hanno una cosa che un'IA non ha e forse non avrà mai... la capacità di fermarsi e dubitare dei propri dati.

In realtà se leggi le catene di pensiero lo fanno tantissimo, fanno ipotesi e poi le negano, si accorgono di aver fatto errori concettuali e li correggono.

I militari poi spesso questa capacità, anche se ce l'hanno, non la usano, perché obbediscono agli ordini. Ci sono state eccezioni, infatti sono passate alla storia come quella che citi, e il tizio non è finito in corte marziale solo perché ha salvato il mondo, altrimenti se ti dicono butta giù un asilo e non lo fai, finisce male di solito.

Una AI potrebbe invece avere dei paletti etici predeterminati che sono superiori agli ordini, "butta giù un asilo" non lo esegue, e non la puoi nemmeno mandare al gabbio.

[rattopazzo]

Originariamente inviato da mmorselli

nel mio caso è ragebait, però sì, funziona... Ma anche un pugno in faccia funziona, non vuol dire che sia giusto farlo



In realtà se leggi le catene di pensiero lo fanno tantissimo, fanno ipotesi e poi le negano, si accorgono di aver fatto errori concettuali e li correggono.

I militari poi spesso questa capacità, anche se ce l'hanno, non la usano, perché obbediscono agli ordini. Ci sono state eccezioni, infatti sono passate alla storia come quella che citi, e il tizio non è finito in corte marziale solo perché ha salvato il mondo, altrimenti se ti dicono butta giù un asilo e non lo fai, finisce male di solito.

Una AI potrebbe invece avere dei paletti etici predeterminati che sono superiori agli ordini, "butta giù un asilo" non lo esegue, e non la puoi nemmeno mandare al gabbio.

Mi vengono in mente le catene di pensieri che si vedono nei film di fantascienza dove le macchine quasi combattono tra scegliere di rispettare gli ordini e seguire dei principi etici, certo nella realtà le catene di pensieri di cui parli sono un pò diverse, ma siamo noi a programmare le macchine e di conseguenza, siamo sempre noi a decidere se dargli dei paletti e quali dargli, quindi se la macchina distrugge un asilo e uccide dei bambini la responsabilità dovrebbe ricadere comunque in chi l'ha programmata.

Un'IA (anche se non comprende il significato) potrebbe avere dei paletti etici, ma secondo me anche un essere umano dovrebbe averli altrimenti diventa difficile parlare di responsabilità personale... "stavo solo eseguendo gli ordini" non dovrebbe mai essere una giustificazione per qualsiasi cosa, altrimenti olocausti o genocidi diventano la normalità.
Infatti nel caso di buttare giù un asilo, un ospedale o comunque uccidere deliberatamente dei civili è anche uno dei motivi per cui personalmente non riuscirei mai a fare carriera militare, eseguire gli ordini va bene, ma entro certi limiti.

[Notturnia]

Originariamente inviato da mmorselli

Tu oltre ad averlo visto da ragazzo, lo ricordi?

La premessa era che a seguito di una fallita esercitazione gli umani sono stati dichiarati inaffidabili per i silos nucleari e quindi sono stati connessi ad un computer, Joshua, che ad un certo punto scambia un gioco per un attacco reale e rischia di scatenare la fine del mondo. Per fermarlo l'hanno dovuto convincere, perché nessuno tranne lui aveva il controllo dei missili.

Qui cosa è successo? Qualcuno ha usato una AI per valutare dei documenti, l'AI ha sbagliato, il tizio, umano, si è fidato e ha mandato delle truppe, umane, che sono state richiamate ancora prima di arrivare. I militari sono abituati ad agire in fretta e pensare ai dettagli dopo.

Troviamo le differenze? L'unica cosa in comune è il solito catastrofismo, che in un film è anche giustificato, nelle notizie spazzatura che nel titolo scrivono "la clamorosa cantonata dell'IA che ha rischiato una guerra" magari no.

La stessa svista l'avrebbe potuta fare un qualsiasi addetto alle comunicazioni, e l'esito sarebbe stato identico.

l'ho rivisto qualche mese fa con mia figlia
ed era il concetto che accomuna queste due cose.. tu non lo vedi ?

[mmorselli]

Originariamente inviato da Notturnia

l'ho rivisto qualche mese fa con mia figlia
ed era il concetto che accomuna queste due cose.. tu non lo vedi ?

No, perché qui il computer ha solo fatto un report, poi quel report è stato letto da un umano che ha preso una decisione. Non c'è stato un computer che ha ordinato un attacco di sua iniziativa, ancora meno un computer in grado di eseguire un attacco di sua iniziativa. La decisione oltretutto non è stata "lanciate un missile", ma "andate a controllare", salvo poi richiamarli quando hanno visto che i documenti non coincidevano.

Ora, prendi la storia sopra e sostituisci l'AI con un sottoufficiale addetto alle informazioni operative che ha fatto confusione tra due report perché ha dormito poco la notte prima, farebbe differenza? A parte che nessuno avrebbe potuto titolare "clamorosa cantonata che ha rischiato una guerra", intendo.

[Gnubbolo]

Military Intelligence è una contraddizione in termini.
disse Lord Curzon discutendo con il Generale Douglas Haig su informazioni ottenute via lavoro di intelligence. 1918, WW1.

[Unrue]

Che cantonata, ma anche fosse stato vero, avrebbero abbordato una nave cinese? ma un ballino di cazzi loro gli USA proprio mai eh?

[raxas]

un esercito di scimmie, anche se la scimmia capo dice di attaccare una mandria di leoni
( lo so che i leoni non agiscono in mandria ), posto che il paragone è anche improprio, tra due potenze nucleari,
si fermerebbe, non sono così stupide
oggi l'intelligenzia artificiale pone le scimmie umane a scaricare le responsabilità,
perchè l'ha detto l'Intelligenzia Artificiale
ma anche per un discorso antropologico di "modelli", con deriva tecnopsicosociale

[AlexSwitch]

Originariamente inviato da Cfranco

Ricordiamo che l'AI è quella che ha deciso che una scuola elementare era un impianto militare e ha fatto 170 morti, principalmente bambini tra i 7 e i 12 anni


Ma, secondo te, Hegseth ha mai avuto un cervello funzionante ?

No o, meglio, funziona ma in maniera completamente bacata come quello del Vice Presidente Vance e quello del POTUS Donaldo Trump.

Per avere conferma di come ( non ) ragionano in termini strategici e tattici questi personaggi oggi è stata pubblicata una esclusiva del NYT sul fatto che questo fine settimana tutto era pronto per un attacco massiccio contro i ribelli Huti nel Mar Rosso. Trump ed Hegseth rientrati a Washington sabato, obiettivi definiti ed autorizzati, aerei armati e navi in posizione e all'ultimo è stato annullato tutto.
Nonostante ci fosse l'appoggio incondizionato dell'Arabia Saudita, che sta implorando da tempo una azione contro i ribelli filoiraniani yemeniti che agiscono come longa manus del Pasdaran per aumentare indirettamente la pressione nel Golfo Persico, dall'ufficio ovale è arrivato un inaspettato " no go "!
Questo perchè prima della decisione finale i vertici militari del Pentagono hanno presentato il conto preventivo al Presidente e al Segretario della Difesa, conto molto salato, dove si è reso palese l'insostenibilità dell'operazione a causa di una scarsità oramai cronica di armamenti e munizioni, rendendo difficile controllare efficacemente Hormuz.
Ciò inoltre dimostrerebbe che si è creata una frattura tra i vertici militari, il deep State, e la politica della Casa Bianca, ovvero uno dei peggiori scenari in una situazione di crisi globale a cui stiamo assistendo in questi tempi. Soprattutto dopo che Trump ha impantanato gli USA in un conflitto contro l'Iran per il controllo di Hormuz, cacciandosi in un vicolo cieco.