Gli ingegneri del MIT hanno messo a punto un algoritmo il cui compito è 'sbagliare'

Più un sistema di controllo è complesso, più lo diventa anche trovare i suoi errori e correggerli: questa è la constatazione cui è arrivato il team di ingegneri in forza al MIT ( Massachusetts Institute of Technology) quando ha deciso di progettare un algoritmo il cui compito fosse "sbagliare".

Questo approccio che può essere utilizzato con qualsiasi sistema autonomo, per identificare rapidamente una serie di potenziali guasti in un determinato software, prima che questo venga implementato nel mondo reale. Inoltre, l’algoritmo propone eventuali soluzioni e riparazioni per evitare guasti al sistema.

Il team ha testato la validità del suo programma su diversi di sistemi autonomi simulati, tra cui una rete elettrica di medie dimensioni, un sistema di prevenzione delle collisioni aeree, una squadra di droni di salvataggio e un manipolatore robotico. In ciascuno dei sistemi, l’algoritmo di campionamento automatizzato, si è dimostrato in grado di identificare rapidamente una serie di probabili guasti, proponendo alcune soluzioni per evitarli.

Il nuovo algoritmo adotta una strategia diversa rispetto ad altre ricerche automatizzate, progettate per individuare i guasti più gravi in un sistema. Questi approcci, afferma il team, potrebbero non cogliere le vulnerabilità più sottili (ma significative) che il nuovo algoritmo è invece in grado di individuare.

"In realtà, c'è tutta una serie di disordini che potrebbero verificarsi per questi sistemi più complessi", ha spiegato Charles Dawson, uno studente laureato presso il Dipartimento di Aeronautica e Astronautica del MIT. “Vogliamo poter avere fiducia in questi sistemi per spostarci in giro, per far volare un aereo o per gestire una rete elettrica. È davvero importante conoscere i propri limiti e in quali casi è probabile che falliscano”.

I progettisti spesso testano la sicurezza dei sistemi autonomi identificandone i guasti più probabili e gravi; questo approccio comporta la messa a punto di una simulazione al computer del sistema che rappresenta la sua fisica sottostante e tutte le variabili che potrebbero influenzare il comportamento del programma.

Gli informatici a questo punto gestiscono la simulazione con un tipo di algoritmo che esegue l'"ottimizzazione antagonista", un approccio che ottimizza automaticamente lo scenario peggiore apportando piccole modifiche al sistema, ancora e ancora, fino a quando non riesce a restringere il campo a quei cambiamenti che sono associati ai guasti più gravi.

"Condensando tutti questi cambiamenti nel fallimento più grave o probabile, si perde gran parte della complessità dei comportamenti che potresti osservare", osserva Dawson. “[Noi] Volevamo invece dare priorità all’identificazione di una varietà di fallimenti”.

Per fare ciò, il team ha scelto un strategia più “sensibile” che ha portato alla nascita di un algoritmo che genera automaticamente cambiamenti casuali all’interno di un sistema e valuta la sensibilità, o il potenziale guasto del sistema, in risposta a tali cambiamenti.

Più un sistema è sensibile a un determinato cambiamento, maggiore è la probabilità che tale cambiamento sia associato a un possibile guasto.

Così facendo i ricercatori sono anche in grado di identificare eventuali correzioni, ripercorrendo la catena di modifiche che hanno portato a un particolare errore.

"Abbiamo dovuto riconoscere la dualità del problema", ha affermato Fan. "Le famose 'due facce della stessa medaglia': se puoi prevedere un fallimento, dovresti essere in grado di sapete cosa fare per evitarlo. Il nostro metodo ora sta chiudendo quel cerchio".

Per approfondimenti sulla ricerca, potete visitare la pagina ufficiale del MIT dedicata al progetto.