Large language models reorganize representational geometry during in-context learning
Di cosa parla
Si verifica se grandi modelli di linguaggio possono adattare il modo in cui rappresentano i dati per risolvere semplici compiti di classificazione senza cambiare i parametri. Gli autori creano compiti in cui le etichette dipendono da diverse direzioni nello "spazio" interno del modello e mostrano che la facilità di apprendimento varia: quando il modello impara, riorganizza geometricamente le sue rappresentazioni per separare le classi. Modificare artificialmente l'attivazione lungo una direzione non basta.
Cosa permette di osservare
Consente di esplorare quanto le modalità interne di rappresentare le informazioni, acquisite durante l'addestramento, limitino o permettano l'adattamento "in contesto" e se l'apprendimento avviene riorganizzando queste rappresentazioni o semplicemente amplificando segnali esistenti.
Dalla fonte
Large language models (LLMs) show remarkable flexibility in adapting to novel tasks without parameter updates, a capacity known as in-context learning (ICL). Prior work has sought to understand ICL by studying the circuits, algorithms, and representations that support it. Yet why some ICL tasks are easy to solve while others are difficult remains unresolved. In this paper, we ask whether LLMs can adapt their representations arbitrarily to solve a simple linear classification task. Specifically, we construct a family of binary classification tasks in which labels are defined by projecting LLMs' own representations onto different axes. Surprisingly, although all tasks are linearly separable by construction, their in-context learnability varies systematically across axes. We find that successful ICL is accompanied by a geometric reorganization of internal representations that increases tas…