Hallucination Mitigation with Agentic AI, Nested Learning, and AI Sustainability via Semantic Caching
Di cosa parla
Si sperimenta una strategia per ridurre le “allucinazioni” dei modelli, cioè le risposte che inventano fatti: si combina un’architettura a livelli con una memoria persistente e una cache che riusa risposte simili per significato, e si fa passare ogni risposta attraverso un flusso di revisione in tre fasi con annotazioni esplicite. I test segnalano un miglioramento complessivo, ma il guadagno deriva quasi interamente dal fatto che il sistema è diventato migliore nel collocare e spiegare il contesto; la tendenza a formulare affermazioni non supportate invece non si è ridotta, e la cache ha coperto una parte significativa delle chiamate al modello.
Cosa permette di osservare
Serve a esplorare se la “affidabilità” dei modelli va misurata su più aspetti o se i miglioramenti emergono soprattutto da una singola caratteristica; e come meccanismi di revisione, segnali espliciti e memoria condivisa influenzino la persistenza di affermazioni inventate.
Dalla fonte
This paper describes an approach to hallucination detection and mitigation using a HOPE-inspired Nested Learning architecture with Continuum Memory Systems (CMS) and semantic similarity caching, tested on a hybrid benchmark of 310 prompts (217 epistemic-uncertainty prompts, 93 fabrication-induction stress tests). A three-stage pipeline orchestrated via the Open Floor Protocol is evaluated with five KPIs; four score the response and aggregate into a Total Hallucination Score. The score improves end to end by 6.1% of its attainable range, but 83.5% of that gain is attributable to a single dimension, Explicit Contextualization, while Factual Claim Density, the dimension closest to unsupported content, stays flat; 97.7% of the gain arrives at the first review stage. The fifth indicator, observability, is reported separately, since it registers the presence of an OFP annotation channel rathe…