Anche le intelligenze artificiali devono dormire

Un buon sonno è la perfetta conclusione di una giornata ricca di nuove esperienze: mentre il corpo riposa il cervello ha tutto il tempo necessario per lasciar depositare i nuovi ricordi e rafforzare così l’apprendimento. Vale per l’uomo ma anche per le IA: in base a uno studio in pubblicazione su PLoS Computational Biology, il sonno – o meglio, il suo equivalente artificiale – evita che le intelligenze artificiali dimentichino le conoscenze appena apprese.

Una cosa alla volta. Come sappiamo, molte intelligenze artificiali possono diventare iperspecializzate in un singolo compito, reiterando più volte la stessa procedura di addestramento su tutti i dati disponibili. Forse meno noto è che, spesso, le IA possono padroneggiare soltanto un set specifico di informazioni per volta. Non riescono ad aggiungere strati successivi di conoscenza a quello che hanno già imparato, senza perdere le capacità precedentemente acquisite.

Questa caratteristica è un problema quando si vuole imitare il tipo di apprendimento tipico dell’uomo, definito continuo: nel cervello umano i ricordi si stratificano, e ci basta osservare qualcosa anche una sola volta per conservarne un ricordo, seppure impreciso nella memoria. È questo il modo in cui accumuliamo conoscenza.

Dormici su. Pavel Sanda e i colleghi dell’Istituto di Informatica dell’Accademia ceca delle Scienze (Repubblica Ceca) hanno istruito un tipo particolare di rete neurale artificiale a imparare due compiti diversi senza “sovrascrivere” il secondo blocco di informazioni su quello appena acquisito.

Il team ha lavorato su una rete neurale spiking, in pratica un modello matematico e informatico per l’elaborazione delle informazioni, ispirato alle connessioni tra neuroni. Per riuscire in questa missione ed evitare che il secondo compito da imparare provocasse una catastrofica perdita di quello appena appreso, gli scienziati hanno provato a inserire nel training anche periodi di “sonno simulato”.

Ma come dormono le reti neurali? Per simulare il sonno, il team ha stimolato i neuroni artificiali in un modo caotico, riproducendo l’attività disordinata delle nostre cellule nervose mentre dormiamo. Non solo. Gli scienziati si sono assicurati che questa attività, nel suo disordine, ripercorresse comunque la sequenza di attivazione neurale della sezione di apprendimento – l’equivalente del “replay” dei ricordi che avviene nel nostro cervello durante il sonno e che consolida la memoria.

Quando è meglio dormire? Il pisolino artificiale ha aiutato l’IA a consolidare le connessioni imparate nel primo compito, che altrimenti sarebbero state dimenticate, e ad accumularne di nuove, ma solo quando gli scienziati hanno intervallato rapide sessioni di apprendimento e di sonno in sequenza.

Non ha funzionato invece quando il periodo di sonno è stato aggiunto alla fine (primo compito + secondo compito + sonno): in quel caso, le connessioni apprese nel primo compito sono andate perse. La rete neurale così istruita è riuscita a imparare due diverse strategie per cercare del cibo simulato evitando particelle velenose.

Siesta obbligatoria! La cura del sonno potrebbe aiutare ad addestrare le intelligenze artificiali ad accumulare conoscenze e a usarle per affrontare situazioni successive. Il prossimo passo sarà testare lo stesso approccio con compiti più complessi e sui network di reti neurali usati dalle grande aziende, come quelle di Google e Meta.