Waymo e l'approccio evoluzionistico all'allenamento dell'intelligenza artificiale

L'allenamento di un'intelligenza artificiale per un'auto a guida autonoma è un processo che può essere oneroso in termini di potenza computazionale e richiedere molto lavoro manuale da parte di ingegneri e ricercatori per ottimizzare le prestazioni delle reti neurali.

Queste ultime apprendono per prove ed errori. Il principio di base (l'implementazione pratica può avvenire con varie modalità) è quello per il quale ad una rete viene impartito un compito e in seguito viene giudicata sul risultato. La rete impara continuando a compiere nuovi tentativi, apportando leggere modifiche sulla base dei giudizi ricevuti, così che possa aumentare la probabilità di migliorare l'esito nelle successive iterazioni.

La prestazione di una rete neurale dipente in maniera significativa dal suo regime di allenamento: un ricercatore può determinare, per esempio, quanto una rete debba modificare il suo operato dopo ciascuna iterazione. L'obiettivo qui è trovare il corretto bilanciamento tra la portata delle modifiche e la variabilità delle prestazioni.

Riuscire ad individuare il miglior regime d'allenamento - e cioè la corretta hyperparameter scheduling - è spesso frutto dell'esperienza e dell'intuito dell'ingegnere, oppure di una ricerca estensiva. Per esempio in una ricerca casuale vengono applicati molte variazioni casuali su diversi tipi di iperparametri così da poter allenare reti indipendenti in parallelo e stabilire infine quale sia il modello di rete neurale in grado di mostrare la prestazione migliore. Si evince come questo tipo di approccio comporti una significativa richiesta di potenza computazionale. Per questo motivo i ricercatori modificano manualmente la ricerca casuale, monitorando le reti mentre sono in fase di allenamento al fine di eliminare periodicamente i modelli con prestazioni meno significative e liberando risorse per allenare da zero nuove reti con nuovi iperparametri casuali. Questo approccio permette di ottenere più velocemente risultati migliori, ma richiede molto lavoro.

Schema dell'approccio evoluzionistico PBT - Fonte: Medium

Ecco che Waymo, sussidiaria di Alphabet, ha collaborato con DeepMind (anch'essa nella scudereia di Big G) per sperimentare un approccio diverso e basato su principi, per così dire, darwinistici/darwiniani: mettere in competizione evoluzionistica varie reti neurali tra loro, eliminare periodicamente quelle con le prestazioni inferiori e sostituirle con una "progenie" di quelle a migliori prestazioni. Questa progenie non è altro che la copia delle reti neurali che si distinguono per prestazioni, con piccole modifiche. Le nuove reti "ereditano" quindi le capacità dei "genitori".

Il rischio principale di questo metodo, chiamato Population Based Training, è l'eccessiva attenzione sui miglioramenti a breve termine, con l'eventualità di allenare in ultima istanza reti poco differenziate tra loro. Per contrastare questo Waymo ha definito vari sottogruppi dove le reti neurali si sfidano nuovamente tra loro, così da poter ottenere prestazioni migliori ma al contempo preservare la diversità che potrebbe rivelarsi un fattore chiave per poi adattare l'intelligenza artificiale alle condizioni di guida del mondo reale.

Waymo ha riscontrato risultati molto promettenti applicando questo metodo ad un'AI che si è dovuta occupare del rilevamento di pedoni. I falsi positivi sono calati del 24%, a fronte di un tempo di apprendimento ridotto della metà circa. I risultati positivi hanno portato Waymo ad utilizzare il metodo PBT su altri modelli con la promessa che le auto a guida autonoma possano meglio rispondere alle complessità della guida ed evitare collisioni.