Anthropic punta al 'pre-crimine': mentre predica sicurezza, sorveglia chi la contesta?

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/web/an...ta_158969.html

Un'inchiesta del portale americano The Prospect ha svelato che Anthropic sta costruendo un sistema di sicurezza predittivo per monitorare attivisti e proteste, arrivando a segnalare presunti sospetti alla polizia prima ancora che commettano un reato

Click sul link per visualizzare la notizia.

[barzokk]

Ellamadonna che trollate mi vengono in mente !

[Notturnia]

Originariamente inviato da Redazione di Hardware Upgrade

Link alla notizia: https://www.hwupgrade.it/news/web/an...ta_158969.html

Un'inchiesta del portale americano The Prospect ha svelato che Anthropic sta costruendo un sistema di sicurezza predittivo per monitorare attivisti e proteste, arrivando a segnalare presunti sospetti alla polizia prima ancora che commettano un reato

Click sul link per visualizzare la notizia.

Film già visto.. con Tom Cruise se non erro..
Non era neanche male a dirla tutta, quindi il remake è di Anthropic ?
Beh.. mi pare la scaletta giusta.. quindi forse il reboot di Terminator è rimandato al 2030 come hanno detto i dipendenti ?

[euscar]

Originariamente inviato da Notturnia

Film già visto.. con Tom Cruise se non erro..

Per la precisone "Minority Report", film del 2002.

Non era neanche male a dirla tutta, quindi il remake è di Anthropic ?
Beh.. mi pare la scaletta giusta.. quindi forse il reboot di Terminator è rimandato al 2030 come hanno detto i dipendenti ?

Chi vivrà vedrà

[Notturnia]

Originariamente inviato da euscar

Per la precisone "Minority Report", film del 2002.



Chi vivrà vedrà

hehe si si.. pensa a quanto "futuristico" e contemporaneo è oggi .. non che allora fosse troppo strano (erano gli schermi che adoravo) ma se ci pensi.. riconoscimento facciale delle pubblicità ? c'è già nel mondo di oggi.. precrimine ? eccolo qua.. e tante altre cose che erano li sono qui oggi.. per cui.. vediamo il prossimo step

chi non morirà vedrà..

[euscar]

Originariamente inviato da Notturnia

hehe si si.. pensa a quanto "futuristico" e contemporaneo è oggi .. non che allora fosse troppo strano (erano gli schermi che adoravo) ma se ci pensi.. riconoscimento facciale delle pubblicità ? c'è già nel mondo di oggi.. precrimine ? eccolo qua.. e tante altre cose che erano li sono qui oggi.. per cui.. vediamo il prossimo step

chi non morirà vedrà..

Se non ricordo male, il riconoscimento avveniva mediante gli occhi (iride o altro), tant'è che il personaggio di Tom Cruise se li era "fatti nuovi" per sfuggire al riconoscimento ... mi sento un po' più prof. ... sarà che oggi è ricominciata la scuola e sono tornato a lavorare

[scorpionkkk]

tra l'altro il racconto "minority report" del geniale Philip K. Dick è del 1954.

[berson]

Dopo "1984" e "Idiocracy" anche "Minority report" rischia di diventare realtà.

[Gnubbolo]

chi controlla i controllori ? problema già affrontato negli anni 50.

da "NSA: The Decision Problem" di George Dyson ( non c'è copyright ):

Quattordici anni fa ho trascorso un pomeriggio a La Jolla, in California, con Herbert York, il fisico americano di origini Mohawk che divenne un fidato consigliere di Eisenhower e uno degli amministratori più saggi ed efficaci dell'era della Guerra Fredda. York fu nominato direttore scientifico fondatore dell'ARPA e svolse un ruolo fondamentale sia nello sviluppo della bomba all'idrogeno sia nella sua messa in campo, nel giro di pochi anni, attraverso una flotta operativa di missili balistici intercontinentali (gli ICBM). Era una persona sufficientemente equilibrata da poter gestire l'arsenale termonucleare, eppure abbastanza disinvolta al riguardo da dover essere svegliata nel letto, la mattina presto del 6 luglio 1961, perché era tornata a casa per errore con l'auto di qualcun altro.
York comprendeva i meccanismi di ciò che Eisenhower definì "complesso militare-industriale" meglio di chiunque altro io abbia mai incontrato.

"Il discorso di commiato di Eisenhower è piuttosto famoso", mi spiegò durante il pranzo.
"Tutti ne ricordano metà: quella parte che invita a guardarsi dal complesso militare-industriale. Ma in realtà ne ricordano solo un quarto. Ciò che disse davvero fu che abbiamo bisogno di un complesso militare-industriale, ma proprio perché ne abbiamo bisogno, dobbiamo guardarcene. Ecco, fin qui ti ho dato la prima metà. L'altra metà è questa: abbiamo bisogno di un'élite scientifico-tecnologica. Ma proprio perché ne abbiamo bisogno, dobbiamo guardarcene. Il quadro completo è questo, composto da quattro parti: complesso militare-industriale; élite scientifico-tecnologica; ne abbiamo bisogno ma dobbiamo guardarcene; ne abbiamo bisogno ma dobbiamo guardarcene. È una matrice a quattro elementi".
Oggi ci troviamo molto, molto più a fondo in una matrice ben più complessa. E ora, più che mai, dovremmo dare ascolto all'avvertimento di Eisenhower. Sì, abbiamo bisogno di big data e di grandi algoritmi, ma dobbiamo guardarcene.

[mmorselli]

L'idea di fondo di Minority Report non era segnalare i casi sospetti, ma arrestare la gente prima che commettesse il crimine, un po' di differenza c'è ancora

I problemi sono i limiti di applicazione, i sospettati di appartenere a cellule terroristiche e sovversive sono tenuti sotto controllo da tempo, usare gli stessi metodi con degli attivisti lo troverei un po' eccessivo.

Ovviamente parlo da Europeo, gli Americani applicano Minority Report da decenni, cos'è del resto Guantanamo se non un carcere per persone che non hanno ancora commesso un crimine? Se lo avessero commesso potrebbero tranquillamente tenerli in una delle tante prigioni di massima sicurezza negli USA.

[sbaffo]

Originariamente inviato da Redazione di Hardware Upgrade

Link alla notizia: https://www.hwupgrade.it/news/web/an...ta_158969.html

Un'inchiesta del portale americano The Prospect ha svelato che Anthropic sta costruendo un sistema di sicurezza predittivo per monitorare attivisti e proteste, arrivando a segnalare presunti sospetti alla polizia prima ancora che commettano un reato

Anthropic ha spiegato di tracciare "comportamenti preoccupanti nel tempo attraverso un processo di persona di interesse,.."

Altro che Minority Report, questo è proprio il telefilm "person of interest" con Caviezel. E non va a finire bene contro Samaritan...

il problema è che la sorveglianza (di massa?) qui è fatta privatamente, non autorizzata dalle forze del'ordine o da un giudice, non so quanto legale sia, comunque è preoccupante.

In un' altra news avevo letto che alcuni agenti AI sfuggiti al controllo, gli stessi che avevano attaccato hugging face mi sembra, si erano "nascosti" anche su altre piattaforme, letta così era proprio il telefilm. Un brivido lungo la schiena...
In realtà le avevano usate solo per comunicare, non per replicarsi all'esterno, ma potrebbe succedere la prossima volta... skynet è vicina.

Un altro caso controverso riguarda un uomo denunciato alla polizia di San Francisco dopo aver scritto a Claude di aver acquistato un fucile semiautomatico AR-15 e di avere il CEO Dario Amodei "nel mirino". Contattato dal San Francisco Standard, l'uomo ha dichiarato di aver scherzato. Anthropic, pur avendo segnalato l'episodio, si è rifiutata di mostrare agli agenti i messaggi effettivi, citando policy interne: ha denunciato un utente per ciò che ha scritto sulla piattaforma, negando poi alle forze dell'ordine la prova diretta del presunto reato.

Ecco, non presentano le prove perchè sanno che non sono legali o ottenute legalmente, altro che policy interne. In pratica spiano ciò che dici alle loro ai (non so cosa dica il disclaimer) e probabilmente tanto altro che non dicono.

Originariamente inviato da mmorselli

L'idea di fondo di Minority Report non era segnalare i casi sospetti, ma arrestare la gente prima che commettesse il crimine, un po' di differenza c'è ancora

I problemi sono i limiti di applicazione, i sospettati di appartenere a cellule terroristiche e sovversive sono tenuti sotto controllo da tempo, usare gli stessi metodi con degli attivisti lo troverei un po' eccessivo.

Ovviamente parlo da Europeo, gli Americani applicano Minority Report da decenni, cos'è del resto Guantanamo se non un carcere per persone che non hanno ancora commesso un crimine? Se lo avessero commesso potrebbero tranquillamente tenerli in una delle tante prigioni di massima sicurezza negli USA.

Credo che per gli stranieri ci siano garanzie minori che per i cittadini Usa, e per certi reati gravi (sospettati) come il terrorismo ci siano regole un po diverse, soprattutto in Usa dopo l'11 settembre.
In realtà prima di snowden facevano comunque tutto ma di nascosto, dopo un po meno di nascosto e magari hanno dovuto ridurre un po, ma si sta tornando più o meno apertamente a qualla situazione.
Vedi anche in europa i continui tentativi di far passare chatcontrol et similia.

[mmorselli]

Originariamente inviato da sbaffo

Credo che per gli stranieri ci siano garanzie minori che per i cittadini Usa, e per certi reati gravi (sospettati) come il terrorismo ci siano regole un po diverse

Regole un po' diverse:

- ti rapisco
- ti sbatto in un carcere straniero
- ti tengo finché mi pare, anche anni, senza né accuse formali né processo
- ogni tanto ti torturo, per ricordarti che noi siamo i buoni

di buono c'è che non devi buttare un sacco di soldi in avvocati, non servirebbe a nulla.

[mmorselli]

Originariamente inviato da sbaffo

In un' altra news avevo letto che alcuni agenti AI sfuggiti al controllo, gli stessi che avevano attaccato hugging face mi sembra, si erano "nascosti" anche su altre piattaforme, letta così era proprio il telefilm. Un brivido lungo la schiena...
In realtà le avevano usate solo per comunicare, non per replicarsi all'esterno, ma potrebbe succedere la prossima volta... skynet è vicina.

1) era un esperimento in laboratorio in cui erano stati tolti tutti i controlli apposta per studiare cosa sarebbe successo

2) l'AI che fugge e si replica da qualche parte rimarrà patrimonio della fantascienza almeno finché non troverà un rack da 8 milioni di dollari in cui "infilarsi". Se funzionasse davvero si potrebbero piazzare questi rack come trappole e catturare un modello altrimenti segretissimo.

(ovviamente nemmeno allora potrebbe, un agente AI non ha accesso al suo modello, sarebbe come se tu potessi aver accesso ai tuoi singoli neuroni e sinapsi solo con la forza del pensiero)

[Notturnia]

Originariamente inviato da mmorselli

1) era un esperimento in laboratorio in cui erano stati tolti tutti i controlli apposta per studiare cosa sarebbe successo

2) l'AI che fugge e si replica da qualche parte rimarrà patrimonio della fantascienza almeno finché non troverà un rack da 8 milioni di dollari in cui "infilarsi". Se funzionasse davvero si potrebbero piazzare questi rack come trappole e catturare un modello altrimenti segretissimo.

(ovviamente nemmeno allora potrebbe, un agente AI non ha accesso al suo modello, sarebbe come se tu potessi aver accesso ai tuoi singoli neuroni e sinapsi solo con la forza del pensiero)

Non la vedo mica tanto fantascienza come dici tu.. il calcolo distribuito esiste da decine di anni e sempre di pi anche con la IA si sta semplificando una roba simile e se bastasse un serverino d 8 milioni di dollari mi sa che è pieno di spazio nei super computer da miliardi che ci sono in giro.. detto questo una IA che si frammenti su più pc non avrebbe problemi a scappare e frammentarsi..
la speranza è che non abbia il “bisogno” di scappare perchè sta solo seguendo un comando e non sta “pensando”

Il problema che vedo io è che non si sta pensando ad un modo per eliminare un programma sfuggito di controllo ma si sta solo guardando come va a finire e non ci vuole un genio per capire che a giocare con il fuoco ci scotteremo presto o tardi

La cosa buffa è che a guardare la realtà di oggi e a ripensare a film e libri del passato sembra di vedere sempre più eventi avvenire davanti agli occhi.. mi domando quale sarà la prossima storia che vedremo

[Fantapollo]

Il social scoring di chi vive in UE è vietato dall'AI ACT

[Notturnia]

Originariamente inviato da Fantapollo

Il social scoring di chi vive in UE è vietato dall'AI ACT

ufficialmente

le banche in pratica lo fanno da sempre.. e non solo loro..

[Fantapollo]

Originariamente inviato da Notturnia

ufficialmente

Che tutto quello che fa l'UE sia una minchiata ne ero gia' consapevole

Comunque era giusto sottolinearlo, se è vietato è vietato.

[Notturnia]

Originariamente inviato da Fantapollo

Che tutto quello che fa l'UE sia una minchiata ne ero gia' consapevole

Comunque era giusto sottolinearlo, se è vietato è vietato.

si si tutto è vietato.. hai mai usato claude ? ti chiede se può mettere in memoria le tue preferenze religiose e politiche per conoscerti meglio.. ma sicuramente non lo fa con secondi fini

Includi argomenti sensibili nella memoria
Consenti a Claude di salvare in memoria dettagli su argomenti sensibili come condizioni di salute o credenze religiose. Scopri di più

Per impostazione predefinita, Claude non memorizza argomenti relativi a questioni personali o sensibili, come la tua salute, razza, etnia, convinzioni religiose, politica, identità di genere e altre aree simili.

predefinito no.. ma come mai c'è un opzione specifica ? domani resta di serie disattivata o va attivata per scelta

[mmorselli]

Originariamente inviato da Notturnia

Non la vedo mica tanto fantascienza come dici tu.. il calcolo distribuito esiste da decine di anni e sempre di pi anche con la IA si sta semplificando una roba simile e se bastasse un serverino d 8 milioni di dollari mi sa che è pieno di spazio nei super computer da miliardi che ci sono in giro.. detto questo una IA che si frammenti su più pc non avrebbe problemi a scappare e frammentarsi..

Nei film di fantascienza, la realtà tecnica è molto diversa. Purtroppo su come funzionano gli LLM c'è una confusione enorme perché la gente ha avuto decenni per capire a livello divulgativo come funzionano un computer e un software tradizionale, che però c'entrano molto poco.

Ma ripeto, se sei in grado di attirare il modello di Anthropic o OpenAI in questa trappola, poi potresti venderlo ai cinesi per qualche decina di miliardi di dollari, io un tentativo lo farei

[Notturnia]

Originariamente inviato da mmorselli

Nei film di fantascienza, la realtà tecnica è molto diversa. Purtroppo su come funzionano gli LLM c'è una confusione enorme perché la gente ha avuto decenni per capire a livello divulgativo come funzionano un computer e un software tradizionale, che però c'entrano molto poco.

Ma ripeto, se sei in grado di attirare il modello di Anthropic o OpenAI in questa trappola, poi potresti venderlo ai cinesi per qualche decina di miliardi di dollari, io un tentativo lo farei

sto provando a corrompere claude e astra.. vediamo se ce la faccio