Google: viene meno l'impegno a non utilizzare l'intelligenza artificiale per armi e sorveglianza

Google ha rimosso il divieto di usare l'intelligenza artificiale per armi e sorveglianza nei suoi principi aggiornati. In precedenza, l'azienda si impegnava a non sviluppare tali applicazioni. La decisione riflette la crescente competizione globale per il dominio dell'IA in un contesto geopolitico complesso.
di Manolo De Agostini pubblicata il 05 Febbraio 2025, alle 06:38 nel canale WebIntelligenza ArtificialeGoogle
Google ha fatto diverse modifiche al sito web in cui elenca i principi che regolano il modo in cui utilizza l'intelligenza artificiale e altre tecnologie avanzate. Nel 2018 l'azienda si era impegnata a non usare l'IA nelle seguenti aree:
- Tecnologie che causano o possono causare danni complessivi. In presenza di un rischio concreto di danno, procederemo solo se riteniamo che i benefici siano sostanzialmente superiori ai rischi e incorporeremo adeguati vincoli di sicurezza.
- Armi o altre tecnologie il cui scopo principale o la cui implementazione è causare o facilitare direttamente lesioni alle persone.
- Tecnologie che raccolgono o utilizzano informazioni per la sorveglianza in violazione di norme accettate a livello internazionale.
- Tecnologie il cui scopo contravviene a principi ampiamente accettati del diritto internazionale e dei diritti umani.
Tutti questi punti sono stati rimossi, e il cambiamento è stato segnalato in una nota in cima a un post sul blog del 2018 che svelava le linee guida. "Abbiamo apportato aggiornamenti ai nostri principi di intelligenza artificiale. Visita AI.Google per le ultime novità", si legge.
Sundar Pichai, AD di Alphabet
In un nuovo post firmato da James Manyika (SVP, Research, Labs, Technology & Society) e Demis Hassabis (CEO and Co-Founder, Google DeepMind), l'azienda spiega che l'uso sempre più diffuso dell'intelligenza artificiale e la competizione globale richiedono nuovi principi.
Google prese gli impegni del 2018 subito dopo una "rivolta interna" sulla decisione di correre per un contratto governativo chiamato Project Maven, che aiutava il governo ad analizzare e interpretare i video dei droni utilizzando l'intelligenza artificiale. A seguito delle proteste dei dipendenti, Google decise di uscire dalla gara d'appalto.
Nel post i dirigenti scrivono che è "imperativo perseguire l'intelligenza artificiale in modo responsabile durante l'intero ciclo di sviluppo e distribuzione, dalla progettazione al test, alla distribuzione all'iterazione, imparando man mano che l'intelligenza artificiale avanza e i suoi utilizzi si evolvono". In altro passaggio, si legge: "C'è una competizione globale in atto per la leadership dell'IA in un panorama geopolitico sempre più complesso. Crediamo che le democrazie dovrebbero guidare lo sviluppo dell'IA, guidate da valori fondamentali come libertà, uguaglianza e rispetto dei diritti umani. E crediamo che aziende, governi e organizzazioni che condividono questi valori dovrebbero lavorare insieme per creare un'IA che protegga le persone, promuova la crescita globale e supporti la sicurezza nazionale".
Nella pagina che elenca i nuovi principi, nella sezione "Sviluppo e implementazione responsabili", si legge:
- Implementare meccanismi appropriati di supervisione umana, due diligence e feedback per allinearsi agli obiettivi degli utenti, alla responsabilità sociale e ai principi ampiamente accettati del diritto internazionale e dei diritti umani.
- Investire in approcci leader del settore per far progredire la ricerca e i benchmark in materia di sicurezza e protezione, sperimentare soluzioni tecniche all'avanguardia per affrontare i rischi e condividere i nostri insegnamenti con l'ecosistema.
- Impiegare una progettazione, un test, un monitoraggio e delle salvaguardie rigorose per ridurre gli esiti involontari o dannosi ed evitare pregiudizi ingiusti.
- Promuovere la privacy e la sicurezza e rispettare i diritti di proprietà intellettuale.
La nuova terminologia, benché in apparenza rassicurante, è meno netta e dà maggiore margine di manovra a Google per applicare l'IA in ambiti sensibili. Un altro passaggio, inoltre, lascia spazio a decisioni arbitrarie: "Sviluppare e distribuire modelli e applicazioni in cui i probabili benefici complessivi superano sostanzialmente i rischi prevedibili". Definire il confine tra benefici e rischi può portare a scelte sbagliate e, potenzialmente, catastrofiche.
Infine, nel post si legge che Google continuerà a concentrarsi su progetti "che siano in linea con la nostra missione, il nostro focus scientifico e le nostre aree di competenza, e che rimangano coerenti con i principi ampiamente accettati del diritto internazionale e dei diritti umani".
Wired sostiene che diversi dipendenti di Google hanno espresso preoccupazione per i cambiamenti. "È profondamente preoccupante vedere Google abbandonare il suo impegno per l'uso etico della tecnologia IA senza il contributo dei suoi dipendenti o del pubblico più ampio, nonostante il sentimento di lunga data dei dipendenti secondo cui l'azienda non dovrebbe essere coinvolta in attività di guerra", afferma Parul Koul, un ingegnere informatico di Google e presidente dell'Alphabet Union Workers-CWA.
L'anno scorso Google ha licenziato più di 50 dipendenti dopo una serie di proteste contro il Progetto Nimbus, un contratto congiunto da 1,2 miliardi di dollari con Amazon che fornisce al governo e all'esercito israeliani servizi di cloud computing e intelligenza artificiale.
I dirigenti dissero ripetutamente che il contratto non violava nessuno dei "principi di intelligenza artificiale" dell'azienda, ma alcuni report dimostrarono che l'intesa permetteva di dare a Israele strumenti di IA che includevano la categorizzazione delle immagini, il tracciamento degli oggetti e disposizioni per i produttori di armi statali.
19 Commenti
Gli autori dei commenti, e non la redazione, sono responsabili dei contenuti da loro inseriti - infoCom'era ? Ah si, "se vuoi la pace devi prepararti per la guerra!" ("Si Vis Pacem Para Bellum"
Non mi sembra il caso. Gli usa si son sempre preparati alla guerra, in silenzio e senza dare troppo in escandescenza. Trump invece punta al caos, continui ordini insulsi al solo scopo di innervosire ed infastidire chiunque. Non ha idea di cosa sia la diplomazia. Un atteggiamento del genere te lo aspetti da un paese disperato. E' questo il caso? C'e' da preoccuparsene.
Più che motto è una ( saggia seppur triste ) constatazione, sempre attuale dopo millenni di storia.
Che piaccia o meno il conflitto, in varie forme e gradi d'intensità, è una delle basi delle relazioni tra stati o comunità organizzate.
la Cina sta invadendo il mercato
l'Europa è in declino sempre più velocemente
l'USA non ha intenzione di perdere il treno
non vedo che problema ci sia ad investire nelle armi tecnologiche in un momento in cui tutte le nazioni sbandierano l'ultima arma super fighissima..
chi poi da la colpa all'insediamento di Trump mi sa che negli ultimi 4 anni dormiva profondamente e non si è accorto che l'escalation è in atto da mo..
il caos lo ha creato prima il puffetto rosso e dopo quei quattro scalmanati di Hamas ammazzando e rapendo israeliani pensando che Israele non avrebbe risposto per le rime..
il caos lo fa Trump ?... suvvia.. dove viviamo ?
Piú che Trump, a me fa paura Musk vicino a situazioni di potere politico: quell'uomo é un megalomane e per quanto io abbia sempre guardato con una certa meraviglia quello che sta riuscendo a fare come imprenditore, lui deve essere costantemente moderato da forze sopra di lui come un bimbo iperattivo é giusto che si sfoghi ma sempre sotto la supervisione degli adulti.
Ora invece sta lui stesso al tavolo degli adulti...
la Cina sta invadendo il mercato
l'Europa è in declino sempre più velocemente
l'USA non ha intenzione di perdere il treno
non vedo che problema ci sia ad investire nelle armi tecnologiche in un momento in cui tutte le nazioni sbandierano l'ultima arma super fighissima..
chi poi da la colpa all'insediamento di Trump mi sa che negli ultimi 4 anni dormiva profondamente e non si è accorto che l'escalation è in atto da mo..
il caos lo ha creato prima il puffetto rosso e dopo quei quattro scalmanati di Hamas ammazzando e rapendo israeliani pensando che Israele non avrebbe risposto per le rime..
il caos lo fa Trump ?... suvvia.. dove viviamo ?
Gli usa non si sono mai fermati dall'investire in armamenti. Con trump sono cambiati i modi. E questi modi non vanno bene perche' indispettiscono e fanno sorgere preoccupazioni anche negli alleati storici.
la Cina sta invadendo il mercato
l'Europa è in declino sempre più velocemente
l'USA non ha intenzione di perdere il treno
non vedo che problema ci sia ad investire nelle armi tecnologiche in un momento in cui tutte le nazioni sbandierano l'ultima arma super fighissima..
chi poi da la colpa all'insediamento di Trump mi sa che negli ultimi 4 anni dormiva profondamente e non si è accorto che l'escalation è in atto da mo..
il caos lo ha creato prima il puffetto rosso e dopo quei quattro scalmanati di Hamas ammazzando e rapendo israeliani pensando che Israele non avrebbe risposto per le rime..
il caos lo fa Trump ?... suvvia.. dove viviamo ?
Mi sembra che anche tu stia facendo partire la narrazione degli eventi dal momento che più conviene a sostenere le tue tesi, quindi non esprimi un giudizio più utile di quello di chi attribuisce a Trump l'origine di tutti i mali.
Io credo che la storia abbia in generale mostrato che la pace, prodotto della diplomazia intesa come capacità di giungere ad un compromesso, porti cultura e ricchezza diffusa, mentre la guerra porti morte, distruzione e povertà per la stragrande maggioranza della popolazione.
Dunque credo che la diplomazia sia una dote fondamentale da ricercare in un politico, a meno di non appartenere a quella minuscola parte della popolazione che dalla guerra e dalla distruzione trae grandi profitti.
veramente non parlava di escalation ma di rapidissimo aumento delle tensioni ovvero di accellerazione di un moto gia in essere, e faceva notare la discrepanza co le stesse dichiarazioni di Trump di essere "un uomo di pace", che gia suonavano false come una moneta da 3 euro, oggi direi smentite (dalle altre news)
A pensare male degli altri si fa peccato, ma spesso si indovina e per me han lasciato creare il casus belli
appunto, non dice questo
____________________________________________________________
esattamente
Devi effettuare il login per poter commentare
Se non sei ancora registrato, puoi farlo attraverso questo form.
Se sei già registrato e loggato nel sito, puoi inserire il tuo commento.
Si tenga presente quanto letto nel regolamento, nel rispetto del "quieto vivere".