Learning with Bilevel-Minimax Optimization for Efficient and Reliable Transfer Attacks
Di cosa parla
Si studiano attacchi costruiti su un modello "di prova" per ingannare modelli reali il cui funzionamento è sconosciuto. Gli autori propongono una formulazione a due livelli che mette in relazione l'avvio dell'attacco, l'adattamento del modello di prova e la modifica dell'immagine, e un algoritmo che coordina questi elementi per migliorarne l'efficacia tra architetture diverse. Test su compiti di riconoscimento e segmentazione mostrano miglioramenti nella trasferibilità; il codice è disponibile online.
Cosa permette di osservare
Permette di esplorare quanto la scelta del modello di prova e il suo adattamento influenzino la capacità di un attacco di funzionare su modelli diversi, e se coordinare questi passaggi renda gli attacchi più affidabili attraverso cambi di architettura.
Dalla fonte
Transfer-based adversarial attacks craft adversarial examples using surrogate models to mislead black-box victim models. Beyond perturbation generation, transferability is fundamentally governed by the coupling of initialization, surrogate adaptation, and gradient dynamics. We revisit this challenge from a bilevel-minimax perspective and propose BMAT (Bilevel-Minimax Adversarial Transfer). The bilevel formulation captures the dependency between initialization and perturbation, while the inner minimax problem promotes surrogate robustness for cross-architecture generalization. Algorithmically, we develop an integrated bottom-up solver that combines a Soft Weight Modulator and an Implicit Gradient Approximator to enable ternary coupling among initialization, surrogate adaptation, and perturbation optimization. We further provide theoretical insights into the optimization dynamics of the p…