Utilizzo dell'apprendimento per rinforzo da simulazione a realtà per addestrare i robot a svolgere compiti semplici in ambienti ampi

Aggiornamento: 19 aprile 2024


Utilizzo dell'apprendimento per rinforzo da simulazione a realtà per addestrare i robot a svolgere compiti semplici in ambienti ampi
Distribuzione in ambienti esterni. Credito: Ilija Radosavov

Un team di robotici dell’Università della California, Berkeley, riferisce che è possibile addestrare i robot a svolgere compiti relativamente semplici utilizzando l’apprendimento per rinforzo da simulazione a realtà. Nel loro studio, pubblicato sulla rivista Scienza Robotics, il gruppo ha addestrato un robot a camminare in ambienti sconosciuti mentre trasportava carichi diversi, il tutto senza ribaltarsi.

Negli ultimi anni, gli esperti di robotica hanno utilizzato una varietà di tecniche per addestrare i robot a muoversi in modo efficiente e rapido in ambienti diversi. Ma come notano i ricercatori impegnati in questo nuovo sforzo, tali robot non hanno molte applicazioni utili. Suggeriscono che i robot in grado di svolgere compiti banali in modo lento ma efficiente sarebbero molto più utili. A tal fine, si sono rivolti all’apprendimento per rinforzo dalla simulazione alla realtà.






Distribuzione in ambienti esterni. Credito: Ilija Radosavov

La tecnica prevede l'addestramento di una versione simulata di un robot per svolgere i compiti desiderati esponendolo a miliardi di esempi in ambienti simulati. Il metodo prevede anche l'utilizzo di un sistema di ricompensa/penalità come parte dell'addestramento del robot: se fa qualcosa di giusto mentre tenta di raggiungere un obiettivo, viene ricompensato ricevendo, ad esempio, un "1". Se fa qualcosa di sbagliato, invece, riceve un “-1”. Nel corso del tempo, migliora le sue prestazioni mentre cerca di aumentare il numero dei premi.

Il gruppo di ricerca ha utilizzato questo approccio per addestrare un robot chiamato Digit a percorrere un percorso lungo un marciapiede in una parte sconosciuta di una città e a riprendersi dopo essere stato ripetutamente assalito da una grande palla, a superare un vincolo fisico, a camminare su materiali che potrebbero farlo inciampare, portare uno zaino, portare un sacco della spazzatura in un cestino e usare una borsa per portare in giro oggetti personali.






Esperimenti indoor e benchmark di simulazione. Credito: Ilija Radosavovic

I ricercatori suggeriscono che l’apprendimento per rinforzo da simulazione a realtà potrebbe essere utilizzato per addestrare i robot in ambienti del mondo reale come la casa, l’ufficio o la fabbrica. L’idea, notano, è quella di rendere i robot più utili.