Al Consumers’ Forum, il consigliere IVASS richiama i rischi della delega agli agenti intelligenti: capacità di analisi più ampie non significano necessariamente decisioni più consapevoli. Al centro, il possibile disallineamento tra le funzioni svolte dai sistemi e gli obblighi giuridici dei loro fornitori
L’intelligenza artificiale può aiutare il consumatore a confrontare polizze, individuare esclusioni e valutare le coperture. Ma quando l’assistenza si trasforma in delega della decisione, diventa meno chiaro chi debba rispondere di una scelta inadeguata. È il nodo posto da Maddalena Rabitti, consigliere IVASS, nell’intervento al Consumers’ Forum del 18 novembre a Roma, dedicato al «consumatore ibrido» nell’ecosistema assicurativo dell’intelligenza artificiale. «Forse la domanda non è più: chi decide? La domanda diventa: chi risponde della decisione?», osserva Rabitti.
Più strumenti, nuove vulnerabilità
Il ruolo del consumatore sta cambiando. Con l’IA generativa e, soprattutto, con i sistemi agentici, l’utente non dispone soltanto di strumenti che forniscono informazioni: può affidarsi a sistemi capaci di pianificare attività, ricercare dati, confrontare offerte, formulare raccomandazioni, negoziare e, in alcuni casi, compiere scelte operative nel suo interesse.
Nel settore assicurativo, queste capacità permettono anche a chi non possiede competenze tecniche o giuridiche di chiedere l’analisi di una polizza, il confronto tra prodotti o l’individuazione di clausole problematiche. Il risultato è un consumatore «più forte e più fragile allo stesso tempo»: più attrezzato sul piano informativo, ma esposto al rischio di scambiare la rapidità e l’apparente personalizzazione delle risposte per una competenza effettivamente acquisita.
La vulnerabilità nasce soprattutto dall’opacità della delega. Il consumatore riceve una raccomandazione senza conoscere realmente il percorso che l’ha prodotta e può percepire come propria una valutazione che dipende, invece, dalle elaborazioni del sistema. «L’intelligenza artificiale non si limita ad assistere la decisione: contribuisce a costruirla», sottolinea Rabitti. La fiducia nelle risposte automatizzate, la loro apparente autorevolezza e il bias di conferma possono accentuare questo fenomeno.
Secondo Rabitti, il quadro normativo sta progressivamente elaborando risposte per l’IA utilizzata da imprese e intermediari assicurativi, attraverso AI Act, DORA e presidi di vigilanza su governance, rischi e supervisione umana. Più complessa è la situazione in cui sia il consumatore a impiegare direttamente un agente intelligente per individuare le proprie esigenze e scegliere una copertura.
L’intermediario umano è un soggetto identificabile, inserito in un rapporto giuridico regolato e destinatario di obblighi professionali, doveri di diligenza e responsabilità specifiche. Non è invece scontato che il fornitore di un agente artificiale, soprattutto se generalista, sia sottoposto agli stessi obblighi. Può così crearsi, avverte Rabitti, «un disallineamento tra la funzione concretamente svolta dal sistema e la qualificazione giuridica del servizio offerto».
L’esempio proposto riguarda una richiesta di protezione dell’abitazione contro l’alluvione. Se un intermediario propone una polizza che esclude proprio quel rischio, la sua condotta può essere valutata alla luce degli obblighi professionali. Se la stessa indicazione arriva da un agente artificiale generalista, il quadro si complica: non è detto che possa risponderne l’assicuratore che abbia correttamente adempiuto ai propri obblighi, né è scontata l’applicazione delle regole sulla distribuzione assicurativa. L’intervento pone dunque un problema di attribuzione delle responsabilità, senza prospettare una soluzione automatica o univoca.
Esigenze del cliente e raccomandazioni ricostruibili
Il tema assume particolare rilievo nelle assicurazioni perché l’individuazione delle richieste e delle esigenze del contraente costituisce il fulcro della tutela. Rabitti richiama l’articolo 119-ter del Codice delle assicurazioni private e il Regolamento IVASS n. 40 del 2018, sottolineando la necessità di considerare concretamente situazione personale, coperture esistenti e rischi da assicurare. Richiama inoltre un recente chiarimento dell’Arbitro Assicurativo, che ha ribadito come una raccomandazione sia realmente personalizzata quando è possibile ricostruire il percorso logico che ha condotto alla conclusione.
Anche il ruolo dell’utente richiede attenzione. Non gli si può chiedere di comprendere il funzionamento tecnico dell’algoritmo, ma il semplice ricorso all’IA non può essere considerato sufficiente a escludere ogni responsabilità individuale. Per questo, secondo Rabitti, l’educazione assicurativa e finanziaria deve integrarsi con quella digitale: alla comprensione del contratto deve affiancarsi la capacità di valutare criticamente i risultati dei sistemi intelligenti.
Conflitti di interesse e nuovi rischi da assicurare
La qualità delle raccomandazioni dipende anche dall’ecosistema in cui opera l’agente. Rabitti richiama il rischio che conflitti di interesse o dark patterns, ossia meccanismi di orientamento delle scelte, indirizzino il consumatore verso determinati operatori o prodotti dietro l’apparenza di una risposta personalizzata. Su questi temi la riflessione dell’IVASS è già avviata, anche attraverso un progetto con la LUISS dedicato ai dark patterns nella conclusione dei contratti assicurativi e alle implicazioni dell’economia comportamentale.
Il consumatore potenziato dall’IA, infine, non è soltanto esposto a nuovi rischi: può anche generarli, contribuendo involontariamente alla diffusione di dati personali, a furti di identità, alla propagazione di informazioni inesatte o a danni economici e fisici. Rabitti segnala che la ricerca di quest’anno presentata nell’ambito del Forum affronta la responsabilità civile connessa a questi fenomeni e le possibili risposte assicurative, fino a prospettare coperture obbligatorie per alcune categorie di danni causati dall’IA. Si tratta di un’ipotesi esaminata dalla ricerca, non dell’annuncio di un nuovo obbligo assicurativo.
Prima ancora dell’attribuzione delle responsabilità, resta però una priorità: preservare l’autonomia del consumatore. Un obiettivo che, conclude Rabitti, richiede il confronto tra autorità, imprese, intermediari, università e associazioni dei consumatori, perché nessun soggetto può governare da solo una trasformazione di questa portata.
© Riproduzione riservata
