La intel·ligència artificial generativa està deixant de ser una tecnologia experimental per incorporar-se progressivament al funcionament habitual de les organitzacions.
El sector assegurador participa d’aquesta evolució. Segons dades publicades per EIOPA, el 65% de les 347 entitats asseguradores consultades ja utilitzaven solucions d’IA generativa i un 23% addicional preveia incorporar-les. Una part important dels casos d’ús es trobava encara en fase de prova o experimentació.
Atenció al client, gestió de sinistres, vendes, anàlisi de dades, generació de continguts o suport a processos interns formen part de les aplicacions que ja s’estan explorant.
Aquest escenari introdueix una nova prioritat per a les entitats: governar l’ús de la IA.
Per a una mutualitat, això significa establir criteris que permetin aprofitar les possibilitats de la tecnologia mantenint el control sobre les dades, els processos, les decisions i les responsabilitats.
De provar eines a definir una política
Moltes organitzacions han començat la seva aproximació a la IA de manera espontània.
Una persona utilitza una eina per resumir un document. Un equip experimenta amb la generació de textos. Una àrea prova un assistent per analitzar informació o preparar una presentació.
Aquest procés és comprensible i forma part de l’aprenentatge tecnològic.
Quan els usos augmenten, però, també creix la necessitat d’establir unes regles comunes.
Una política interna d’IA pot proporcionar aquest marc. La seva funció consisteix a determinar quins usos són adequats, quines precaucions s’han d’adoptar, quines responsabilitats existeixen i quins mecanismes de supervisió necessita l’organització.
El punt de partida pot ser relativament senzill.
1. Identificar els usos reals
Abans de desplegar noves solucions, resulta útil conèixer com s’està utilitzant ja la IA dins de l’organització.
Aquest inventari pot incloure eines corporatives i aplicacions externes utilitzades pels equips.
Els casos d’ús es poden agrupar, per exemple, en:
- redacció i revisió de documents;
- resum d’informació;
- traducció;
- cerca i anàlisi documental;
- programació i suport tecnològic;
- atenció al mutualista;
- anàlisi de dades;
- suport a processos de prestacions o sinistres;
- generació de continguts;
- assistència a la presa de decisions.
Aquest mapa permet obtenir una primera fotografia del nivell real d’adopció.
També ajuda a diferenciar usos de baixa complexitat d’altres que poden tenir conseqüències més importants per a les persones o per a l’entitat.
2. Classificar els usos segons el risc
Totes les aplicacions de la IA tenen implicacions diferents.
Utilitzar una eina per preparar una primera versió d’un text intern presenta un perfil diferent del d’un sistema que intervé en la valoració d’una prestació, la detecció de frau o una decisió que afecta directament una persona.
Una classificació interna pot distingir entre usos de risc baix, mitjà o elevat.
Entre els factors que poden determinar aquesta classificació es troben el tipus de dades utilitzades, l’impacte potencial sobre les persones, el grau d’automatització, la possibilitat d’errors i la rellevància de la decisió en què participa el sistema.
Aquesta graduació permet aplicar controls proporcionats.
Els usos més senzills poden requerir unes regles bàsiques. Els que tenen més impacte necessiten més documentació, validació, supervisió i seguiment.
3. Establir regles clares sobre les dades
Les eines d’IA generativa funcionen a partir d’informació.
Per això, la gestió de les dades constitueix un dels elements centrals d’una política interna.
L’organització ha de definir quina informació pot introduir-se en cada tipus d’eina i quina requereix entorns específicament autoritzats.
Aquesta precaució és especialment important quan es treballa amb dades personals, informació confidencial, documentació contractual, dades de salut o informació estratègica de l’entitat.
Una regla fàcil d’entendre resulta més efectiva que una política que els equips difícilment poden aplicar.
L’objectiu és que qualsevol persona de l’organització sàpiga quines eines pot utilitzar, per a quines finalitats i amb quin tipus d’informació.
4. Mantenir la supervisió humana
La IA generativa pot produir resultats convincents que contenen errors, omissions o interpretacions incorrectes.
EIOPA identifica precisament la fiabilitat dels resultats, la protecció de dades, la ciberseguretat i l’explicabilitat entre les qüestions que requereixen atenció en el desplegament d’aquestes tecnologies.
La supervisió humana continua sent, per tant, una peça essencial.
Aquesta supervisió ha de ser especialment clara quan la IA intervé en processos que poden afectar drets, prestacions, contractació, reclamacions o altres decisions rellevants per a les persones mutualistes.
La tecnologia pot donar suport al criteri professional. La responsabilitat sobre la decisió ha d’estar clarament assignada.
5. Conèixer els proveïdors
La incorporació de la IA també genera noves dependències tecnològiques.
Una entitat pot utilitzar models desenvolupats per tercers, serveis allotjats al núvol, aplicacions especialitzades o funcionalitats d’IA integrades en programes que ja utilitzava.
Aquesta realitat fa necessari incorporar els proveïdors al marc de governança.
Aspectes com la ubicació i el tractament de les dades, les condicions del servei, la seguretat, la continuïtat, les actualitzacions dels models o la possibilitat de canviar de proveïdor formen part de l’anàlisi.
Conèixer la tecnologia que utilitza l’organització inclou també conèixer de qui depèn.
6. Assignar responsabilitats
Una política d’IA necessita responsables identificables.
La governança pot implicar diferents funcions segons la dimensió i estructura de cada mutualitat: direcció, tecnologia, compliment normatiu, protecció de dades, gestió de riscos, seguretat o responsables de les diferents àrees de negoci.
El model concret pot variar.
El criteri essencial és que existeixi una responsabilitat definida per autoritzar usos, establir controls, gestionar incidències i revisar l’evolució dels sistemes.
A mesura que augmenta l’adopció de la IA, aquesta coordinació esdevé més important.
7. Formar les persones
La governança tecnològica també depèn del coneixement dels equips.
Una persona que utilitza IA ha de comprendre les possibilitats de l’eina i també les seves limitacions.
La formació pot abordar qüestions molt pràctiques: tractament de dades, verificació de resultats, identificació d’errors, seguretat, propietat intel·lectual, usos autoritzats i procediments davant d’una incidència.
També convé desenvolupar capacitat crítica.
La facilitat amb què aquests sistemes generen respostes pot crear una aparença de precisió superior a la seva fiabilitat real. Verificar fonts, contrastar informació i mantenir el criteri professional continuen sent competències essencials.
8. Revisar i aprendre
Una política d’IA difícilment pot concebre’s com un document estàtic.
Les eines canvien, apareixen nous usos, evolucionen els riscos i també ho fa el marc regulador.
Per això, resulta útil establir un mecanisme periòdic de revisió.
L’inventari de casos d’ús, les incidències detectades, els resultats obtinguts, els canvis en els proveïdors i l’experiència dels equips poden proporcionar informació molt valuosa.
La governança es converteix així en un procés d’aprenentatge institucional.
Un possible esquema per començar
Una mutualitat que vulgui ordenar l’ús de la IA pot estructurar el treball en set passos:
- Inventariar les eines i els casos d’ús existents.
- Classificar-los segons el seu nivell de risc.
- Definir els usos autoritzats i les limitacions.
- Establir criteris sobre dades i informació confidencial.
- Assignar responsabilitats i mecanismes de supervisió.
- Formar les persones que utilitzaran aquestes eines.
- Revisar periòdicament els usos, els riscos i els resultats.
Aquest esquema pot adaptar-se a la dimensió, activitat i complexitat de cada entitat.
L’objectiu és disposar d’un marc comprensible i aplicable.
La IA com a qüestió de governança
La incorporació de la intel·ligència artificial al sector assegurador continuarà avançant.
La diferència estarà cada vegada més en la capacitat de les organitzacions per seleccionar els usos que aporten valor, gestionar els riscos que comporten i integrar aquestes eines dins dels seus sistemes de govern.
Per a les mutualitats, aquest procés ofereix oportunitats en eficiència, anàlisi, servei i gestió del coneixement.
També exigeix preservar elements essencials com la confidencialitat, la supervisió professional, la responsabilitat i la qualitat de les decisions.
Passar de l’experimentació a la governança és, probablement, un dels passos més importants en aquesta etapa d’adopció de la IA.
La tecnologia continuarà evolucionant.
Disposar de criteris clars permetrà evolucionar amb ella.
