Waymo e l'approccio evoluzionistico all'allenamento dell'intelligenza artificiale

Waymo e l'approccio evoluzionistico all'allenamento dell'intelligenza artificiale

Due sussidiarie di Alphabet, Waymo e DeepMind, collaborano per sperimentare un approccio evoluzionistico al training di reti neurali e ottengono riscontri molto positivi

di pubblicata il , alle 18:41 nel canale Scienza e tecnologia
AlphabetWaymo
 

L'allenamento di un'intelligenza artificiale per un'auto a guida autonoma è un processo che può essere oneroso in termini di potenza computazionale e richiedere molto lavoro manuale da parte di ingegneri e ricercatori per ottimizzare le prestazioni delle reti neurali.

Queste ultime apprendono per prove ed errori. Il principio di base (l'implementazione pratica può avvenire con varie modalità) è quello per il quale ad una rete viene impartito un compito e in seguito viene giudicata sul risultato. La rete impara continuando a compiere nuovi tentativi, apportando leggere modifiche sulla base dei giudizi ricevuti, così che possa aumentare la probabilità di migliorare l'esito nelle successive iterazioni.

La prestazione di una rete neurale dipente in maniera significativa dal suo regime di allenamento: un ricercatore può determinare, per esempio, quanto una rete debba modificare il suo operato dopo ciascuna iterazione. L'obiettivo qui è trovare il corretto bilanciamento tra la portata delle modifiche e la variabilità delle prestazioni.

Riuscire ad individuare il miglior regime d'allenamento - e cioè la corretta hyperparameter scheduling - è spesso frutto dell'esperienza e dell'intuito dell'ingegnere, oppure di una ricerca estensiva. Per esempio in una ricerca casuale vengono applicati molte variazioni casuali su diversi tipi di iperparametri così da poter allenare reti indipendenti in parallelo e stabilire infine quale sia il modello di rete neurale in grado di mostrare la prestazione migliore. Si evince come questo tipo di approccio comporti una significativa richiesta di potenza computazionale. Per questo motivo i ricercatori modificano manualmente la ricerca casuale, monitorando le reti mentre sono in fase di allenamento al fine di eliminare periodicamente i modelli con prestazioni meno significative e liberando risorse per allenare da zero nuove reti con nuovi iperparametri casuali. Questo approccio permette di ottenere più velocemente risultati migliori, ma richiede molto lavoro.


Schema dell'approccio evoluzionistico PBT - Fonte: Medium

Ecco che Waymo, sussidiaria di Alphabet, ha collaborato con DeepMind (anch'essa nella scudereia di Big G) per sperimentare un approccio diverso e basato su principi, per così dire, darwinistici/darwiniani: mettere in competizione evoluzionistica varie reti neurali tra loro, eliminare periodicamente quelle con le prestazioni inferiori e sostituirle con una "progenie" di quelle a migliori prestazioni. Questa progenie non è altro che la copia delle reti neurali che si distinguono per prestazioni, con piccole modifiche. Le nuove reti "ereditano" quindi le capacità dei "genitori".

Il rischio principale di questo metodo, chiamato Population Based Training, è l'eccessiva attenzione sui miglioramenti a breve termine, con l'eventualità di allenare in ultima istanza reti poco differenziate tra loro. Per contrastare questo Waymo ha definito vari sottogruppi dove le reti neurali si sfidano nuovamente tra loro, così da poter ottenere prestazioni migliori ma al contempo preservare la diversità che potrebbe rivelarsi un fattore chiave per poi adattare l'intelligenza artificiale alle condizioni di guida del mondo reale.

Waymo ha riscontrato risultati molto promettenti applicando questo metodo ad un'AI che si è dovuta occupare del rilevamento di pedoni. I falsi positivi sono calati del 24%, a fronte di un tempo di apprendimento ridotto della metà circa. I risultati positivi hanno portato Waymo ad utilizzare il metodo PBT su altri modelli con la promessa che le auto a guida autonoma possano meglio rispondere alle complessità della guida ed evitare collisioni.

Resta aggiornato sulle ultime offerte

Ricevi comodamente via email le segnalazioni della redazione di Hardware Upgrade sui prodotti tecnologici in offerta più interessanti per te

Quando invii il modulo, controlla la tua inbox per confermare l'iscrizione.
Leggi la Privacy Policy per maggiori informazioni sulla gestione dei dati personali

0 Commenti
Gli autori dei commenti, e non la redazione, sono responsabili dei contenuti da loro inseriti - info

Devi effettuare il login per poter commentare
Se non sei ancora registrato, puoi farlo attraverso questo form.
Se sei già registrato e loggato nel sito, puoi inserire il tuo commento.
Si tenga presente quanto letto nel regolamento, nel rispetto del "quieto vivere".

La discussione è consultabile anche qui, sul forum.
 
^