LEMUR: Latent Entropy-aware Multimodal Unlearning via Visual-anchored Reasoning Redirection
Di cosa parla
Alcuni grandi modelli che ragionano sulle immagini, potenziati dall’addestramento con rinforzo, generano spiegazioni interne molto esplorative che possono rivelare fatti sensibili anche quando la risposta finale è stata modificata. Gli autori mostrano che queste fughe lasciano segnali rilevabili nelle variazioni di incertezza del modello e propongono LEMUR, un metodo applicabile senza riaddestramento che individua quando intervenire e sostituisce i passaggi sensibili della spiegazione con versioni più sicure ancorate all’immagine, riducendo la perdita di utilità e la goffaggine del testo.
Cosa permette di osservare
Il lavoro invita a esplorare come individuare e rimuovere informazioni sensibili emerse durante il processo di ragionamento interno dei modelli d’immagine senza riaddestrarli, e come farlo mantenendo la qualità e la naturalezza delle risposte.
Dalla fonte
Reinforcement-learning (RL) post-training equips multimodal large reasoning models (MLRMs) with exploratory chains of thought (CoT), substantially improving visual reasoning. However, we find that this capability introduces a distinct privacy vulnerability: even when a sensitive fact is successfully unlearned from the final answer, the model may still reproduce it in its reasoning trace. This leakage is substantially more pronounced in natively RL-trained MLRMs than in their non -reasoning base models, revealing a privacy risk that existing unlearning methods are not designed to address. We show that RL-induced exploration leaves sensitive content with a distinctive token-level entropy signature that is largely absent from base models. Based on this observation, we propose LEMUR, a fully training-free, inference-time unlearning framework for natively RL-trained multimodal models. LEMUR…