Torras.ai

Qui decideix què permetem que faci la intel·ligència artificial? En aquest episodi del Torras AI Podcast, parlo amb Francesc Aguilera, manager de governança de la IA i privacitat en una de les entitats financeres de referència a Europa. Francesc participa en aquesta conversa a títol personal. Les opinions expressades són seves i no representen la institució on treballa. Parlem de com les organitzacions poden posar la IA a treballar tot protegint les dades, escollint riscos acceptables i mantenint les persones responsables de les decisions.

Francesc aporta tres dècades d'experiència en grans organitzacions i una trajectòria tècnica que va evolucionar cap al treball en governança de dades, privacitat i IA. La seva perspectiva connecta la tecnologia amb les persones i els processos que determinen si aporta valor. La conversa és en català. A continuació apareix un resum de la conversa.

Mira la conversa

Aspectes destacats de la conversa

La curiositat connecta la tecnologia amb el negoci

Francesc va començar en la informàtica i va sentir curiositat per com funcionaven realment les grans empreses. Un MBA el va ajudar a entendre'n els mecanismes, mentre que els rols en projectes li van ensenyar a traduir les necessitats de negoci en requisits tècnics. Aquesta combinació de curiositat i capacitat per parlar ambdós llenguatges el va portar finalment al big data, la privacitat i la governança de la IA.

Descriu una gran organització com una mena d'organisme viu. Passar d'un rol a un altre pot semblar com canviar d'empresa, amb problemes nous per entendre i persones noves de les quals aprendre. La seva trajectòria recorda que entendre una organització és una part contínua de treballar amb la seva tecnologia.

La governança de la IA comença decidint què cal fer

Francesc dona a la governança un abast ampli. Inclou seleccionar els usos de la IA que donen suport a l'estratègia de l'empresa, decidir quins riscos són acceptables, identificar i mitigar aquests riscos i desenvolupar els coneixements que els empleats necessiten per fer servir bé la tecnologia.

Per exemple, una organització pot decidir que un sistema faci recomanacions mentre una persona conserva la decisió final. Aquest límit és una decisió de governança. També ho és la decisió de desenvolupar una aplicació i deixar-ne una altra de banda. Aquestes decisions han de formar part del treball quotidià dels equips de negoci, els desenvolupadors i les persones que utilitzen la IA.

La governança es guanya el seu lloc aportant valor

Quan li pregunto com pot la governança ajudar la innovació sense convertir-se en burocràcia, la resposta de Francesc és directa: l'equip de governança ha d'aportar alguna cosa útil. Implicar-s'hi a mesura que es desenvolupa una idea permet detectar riscos, aclarir requisits i ajudar l'equip a construir un sistema en què pugui confiar.

Assenyala la confiança com una contribució central: la confiança que un sistema compleix els estàndards i els compromisos ètics de l'organització, així com les seves obligacions legals. També parlem del Marc de gestió de riscos de la IA del NIST, un marc voluntari per incorporar la fiabilitat en el disseny, el desenvolupament, l'ús i l'avaluació de sistemes d'IA.

De la productivitat personal a l'ús organitzatiu

Francesc distingeix entre els usos individuals i organitzatius de la IA. Un empleat pot fer servir la IA per fer més ràpidament o millor una feina coneguda, mentre que un equip la pot incorporar en un pas específic d'un procés existent. Tots dos enfocaments comencen per entendre la feina i identificar on pot ajudar la tecnologia.

Abans de compartir dades amb la IA, pregunta't si són necessàries

La primera pregunta sobre privacitat que proposa Francesc és senzilla: el sistema necessita aquesta informació? Es podria completar la tasca amb menys dades o amb informació que no identifiqui una persona? Donar a un model tot el que hi ha disponible no hauria de ser l'opció per defecte.

Parlem de la minimització de dades, la finalitat del tractament i la importància de revisar com s'utilitzarà la informació personal. L'explicació de la Comissió Europea sobre els principis del RGPD ofereix informació de context útil sobre aquests temes.

Francesc també emfatitza la classificació i les metadades. Un sistema necessita informació útil sobre quines dades són personals, internes o confidencials si l'organització espera que s'hi apliquin normes de tractament diferents. Això connecta la governança de la IA amb la feina que els equips de dades fa anys que duen a terme.

Tria l'autonomia deliberadament i mantén visible la responsabilitat

Un assistent que redacta un correu electrònic i un agent que l'envia generen conseqüències diferents. Francesc planteja l'elecció en termes de beneficis i riscos acceptables. La seva preferència personal avui és utilitzar la IA per preparar feina, comprovar informació i verificar resultats, tot mantenint el control humà sobre les accions amb conseqüències.

La nostra conversa sobre la responsabilitat planteja preguntes difícils sobre qui va construir, adaptar, desplegar i utilitzar un sistema, i sobre com establir una connexió entre les seves accions i un resultat perjudicial. Explorem aquestes preguntes sense tractar-les com si estiguessin resoltes. Dir que una IA va actuar pel seu compte no explica els permisos, les instruccions i les decisions que van fer possibles les seves accions.

Mantén el judici humà quan un sistema sona humà

La conversa també aborda la nostra tendència a atribuir qualitats humanes als sistemes que es comuniquen amb fluïdesa. Francesc adverteix que no hem de suposar que la IA actual té judici humà o consciència social. Explorem breument preguntes especulatives sobre la consciència, tot mantenint la discussió pràctica centrada en els sistemes que la gent utilitza ara.

Comparo el programari convencional amb conduir un cotxe i treballar amb IA amb muntar a cavall: dirigir no sempre produeix la mateixa resposta previsible. L'analogia ens torna a la necessitat d'entendre els límits d'un sistema i de pensar amb cura en les accions que li permetem fer.

Surfeja l'onada escollint problemes que valgui la pena resoldre

Francesc considera que la velocitat i l'abast d'aquesta tecnologia són una diferència definidora respecte a onades anteriors. Les noves capacitats arriben directament a les mans de les persones, pressionant les organitzacions perquè prenguin decisions ràpidament. Compara el repte amb el surf: el moment, la direcció i el judici determinen si l'onada t'impulsa endavant.

Les grans organitzacions poden generar un nombre enorme d'idees. Seleccionar-ne entre elles comença preguntant quin problema resol cada idea i quin valor podria crear. Els costos també formen part d'aquesta avaluació. Parlem dels tokens com una despesa operativa real i de la importància d'escollir un model que sigui suficient per a la tasca, en lloc de suposar que cada aplicació necessita l'opció més capaç.

Connecta amb Francesc Aguilera

Francesc recomana LinkedIn com la manera més fàcil de contactar-hi. Gràcies, Francesc, per compartir la teva experiència i ajudar a fer concreta la governança de la IA: escollir feina útil, entendre les dades i decidir on correspon el judici humà.