Governance e observability dell'AI agentica nel settore assicurativo
Quando un agente AI prende una decisione sbagliata e nessuno sa spiegarne il motivo, il problema smette di essere una questione IT e diventa una questione di governance, responsabilità e cultura aziendale. Attorno a questo tema si è costruita la seconda puntata di Insurance in the Mirror, il format di Insurzine dedicato all'innovazione assicurativa, che ha visto protagonista anche Davide delle Cave, Business Line Manager di S2E nell'area Data Analytics e Observability.
Al tavolo con lui, Raffaele Avila di Zurich Italia, Luca Magnoni di Axa Italia e Alberto Dominici di Bene Assicurazioni. La parola chiave attorno a cui si è sviluppato il confronto è una sola: observability. Ma dietro c'è molto di più.
Delle Cave ha inquadrato il fenomeno partendo da una distinzione che ha implicazioni concrete: gli agenti AI si dividono tra quelli orientati alla produttività interna e quelli integrati nei prodotti assicurativi, a diretto contatto con i clienti. Per entrambe le categorie, la sfida non è tecnica ma semantica. Un agente AI non opera su logiche deterministiche come il software tradizionale: ragiona in linguaggio naturale, elabora contesti, compone risposte a partire da catene di pensiero che non sono riducibili a una sequenza di istruzioni programmabili. L'errore, quando arriva, non sta in un log di sistema ma nella ricostruzione di un percorso cognitivo.
Le piattaforme di monitoraggio, spiega delle Cave, fino a ieri si occupavano di infrastrutture e applicazioni. Oggi devono occuparsi anche degli agenti, e la domanda cambia: non più "il sistema funziona?" ma "l'agente sta ragionando come avevo inteso?". Un salto di livello enorme, che richiede strumenti, KPI e competenze del tutto diversi.