A New First-Order Meta-Learning Algorithm with Convergence Guarantees
Di cosa parla
Un nuovo metodo chiamato FO-B-MAML mostra come far apprendere a un sistema nuovi compiti sfruttando esperienze precedenti senza i calcoli pesanti e il grande uso di memoria delle versioni tradizionali. Riscrive la quantità usata per aggiornare il modello come la variazione della soluzione a un problema leggermente perturbato e la stima con due semplici approssimazioni (una diretta e una simmetrica); gli autori dimostrano convergenza e riportano prestazioni vicine ai metodi più costosi, mantenendo stabile l'uso di memoria anche su reti profonde e architetture a trasformatori.
Cosa permette di osservare
Permette di esplorare se è possibile ottenere apprendimento rapido basato su esperienze passate con metodi meno costosi e quali semplici approssimazioni e tecniche di stabilizzazione funzionano meglio quando il problema non rispetta le assunzioni standard.
Dalla fonte
Learning new tasks by leveraging prior experience is a fundamental trait of intelligent systems. While Model-Agnostic Meta-Learning (MAML) is a leading approach, it suffers from significant computational and memory overhead due to the requirement of computing second-order meta-gradients. We propose \textbf{FO-B-MAML}, a novel first-order variant of MAML derived from a bi-level optimization perspective. Our framework introduces a new expression of the meta-gradient, defined as the derivative of the solution of a perturbed optimization problem. This formulation allows the meta-gradient to be estimated using various finite difference methods; in this work, we propose and analyze two simple yet effective estimators: a forward and a symmetric approximation. Unlike existing first-order methods like FO-MAML and Reptile, which suffer from irreducible bias, we prove that FO-B-MAML converges to a…