Heterogeneous transfer learning for high-dimensional regression with feature mismatch
Di cosa parla
Si occupa di trasferire informazioni da un insieme di dati ricco a uno povero quando le variabili disponibili non coincidono. Impara dal set ricco una relazione per stimare le variabili mancanti nel dato di destinazione, le imputa e poi usa una regressione con controllo della complessità; considera relazioni lineari e non lineari e fornisce garanzie sugli errori. Estende il metodo a più sorgenti e aggiunge una difesa contro sorgenti dannose.
Cosa permette di osservare
Permette di esplorare quando conviene sfruttare dati esterni se le variabili non corrispondono, come la qualità della relazione che predice le variabili mancanti influisce sui risultati, e come evitare di trasferire da sorgenti che danneggiano il modello.
Dalla fonte
We study Heterogeneous Transfer Learning (HTL) for high-dimensional regression with differing feature sets. Such feature mismatch arises when some variables available in a data-rich source domain are unavailable in a data-poor target domain. Yet most homogeneous TL methods require the same feature space in both the source and target domains, limiting their practical applicability. Conversely, existing HTL methods lack statistical error guarantees, limiting their utility for scientific discovery. We propose an HTL method that first learns a feature map between the missing and observed features leveraging the vast source data, imputes the unavailable features in the target, and then performs a two-step TL for penalized regression. We consider both the linear and the nonparametric feature maps. We develop upper bounds on the estimation and prediction errors of HTL, assuming that the source…