FQTree: Fine-grained Quantization and Hardware Generation of Boosted Decision Trees
Di cosa parla
Si parla di un modo per rendere più efficienti i modelli a alberi potenziati quando devono essere eseguiti su circuiti che devono rispondere molto in fretta. L’idea concreta è ridurre i valori numerici usati nelle foglie degli alberi a rappresentazioni più semplici e compatte (quantizzazione, cioè usare numeri meno precisi ma più piccoli), applicare questa scelta già durante l’addestramento in modo che gli alberi successivi si adattino, e poi convertire automaticamente il modello in un progetto hardware ottimizzato.
Cosa permette di osservare
Consente di esplorare il compromesso tra semplicità numerica dei modelli e accuratezza, e di capire come l’automazione nella generazione del progetto hardware possa cambiare le opzioni per distribuire modelli in contesti che richiedono risposte molto rapide.
Dalla fonte
Boosted decision trees (BDTs) are widely used in latency-critical applications, but efficient hardware deployment remains challenging. Existing designs often rely on uniform or manually tuned fixed-point formats, which can introduce unnecessary hardware cost or accuracy loss. This work presents the FQTree algorithm{https://github.com/ecs-bristol/FQTree} for fine-grained quantization-aware training of BDTs, together with the QXGB framework for automatic hardware generation. FQTree introduces a hardware-oriented leaf-value quantization scheme that uses a global quantization step together with a tree-wise shift, enabling compact non-negative integer leaf representations, controlled clipping/pruning, and bias folding to reduce datapath cost. This work further applies this quantization during boosting so that later trees adapt to the errors of the already-quantized ensemble, and then lowers…