Quantifying the Relationship Between Clinical Safety and Environmental Impact in Therapeutic LLMs
Di cosa parla
Mettono a confronto la sicurezza clinica di modelli di intelligenza artificiale usati per la salute mentale con il loro impatto ambientale, valutato su energia, emissioni, uso dell'acqua e consumo di risorse. Scoprono che, nella parte alta della scala di sicurezza, piccoli guadagni di sicurezza corrispondono a aumenti molto grandi dell'impatto ambientale, e che maggiore calcolo durante l'uso non migliora sempre la sicurezza. Propongono la selezione dinamica del modello — usare versioni più semplici nella maggior parte dei casi e passare a versioni più potenti solo quando serve — come possibile approccio.
Cosa permette di osservare
Questo lavoro invita a esplorare fino a che punto convenga aumentare la potenza dei modelli per ottenere più sicurezza clinica rispetto al costo ambientale e quali strategie operative (ad esempio scegliere dinamicamente il modello) possano bilanciare rischi clinici e impatto ambientale.
Dalla fonte
The deployment of large language models (LLMs) in mental health contexts raises questions about the relationship between clinical safety and environmental cost. In this paper, we examine this relationship by combining K-Bench clinical safety scores with EcoLogits life-cycle assessment estimates across 47 supported model configurations. We evaluate model performance and environmental impact across four dimensions: energy use, carbon emissions, water consumption, and abiotic depletion. The results indicate a non-linear trade-off at the upper end of the safety distribution: a 2.61 percentage-point increase in clinical safety score corresponded to an approximately 60-fold increase in estimated energy use per million output tokens. Row-level analyses further suggest that additional test-time compute did not consistently improve clinical safety and, in some configurations, was associated with…