Herding End-to-End Autonomous Driving via Neuro-Symbolic Safety Guards
Di cosa parla
Si aggiunge un modulo leggero chiamato «neuro-symbolic safety guard»: un controllore che usa regole esplicite invece di apprendimento, piazzato immediatamente prima che il comando di guida raggiunga il veicolo. Controlla ogni comando rispetto a regole di sicurezza e, solo quando necessario, lo sostituisce con l’alternativa più sicura eseguibile; ogni intervento è tracciabile alla regola che l’ha attivato. Il modulo non richiede riaddestramento del sistema esistente e non introduce componenti apprese.
Cosa permette di osservare
Permette di esplorare se controlli basati su regole possono correggere comportamenti rischiosi di agenti di guida 'end-to-end' senza modificarne l’addestramento, e come conciliare interventi di sicurezza tracciabili con la qualità complessiva della guida.
Dalla fonte
Modern end-to-end driving agents can achieve high average performance yet still violate basic traffic rules that a human driver would never miss. The reason is structural: they learn statistical patterns rather than the physical conditions that guarantee safe driving, leaving their decision-making process opaque and safety constraints unenforced. We introduce a neuro-symbolic safety guard, a lightweight module that attaches to the final command interface of an already-trained agent. Immediately before a command reaches the vehicle, it checks the command against explicit safety rules and, only when necessary, replaces it with the nearest safe alternative. Each intervention is directly executable and traceable to the rule that triggered it, while the guard itself requires no retraining and adds no learned component. Evaluated on the long-tail benchmarks Fail2Drive and Bench2Drive using th…