Què fa realment un especialista en ètica de la intel·ligència artificial

La figura de l'especialista en ètica de la intel·ligència artificial ha passat de ser gairebé anecdòtica a convertir-se en un dels perfils més comentats en empreses tecnològiques, grans corporacions i organismes públics, on la intel·ligència artificial en empreses s'estén ràpidament. Cada cop que apareix una nova eina de IA generativa, un sistema de recomanació automatitzat o un model capaç de prendre decisions crítiques, torna la mateixa pregunta: qui s'assegura que tot això respecta els drets, els valors i les normes que considerem acceptables com a societat?

En aquest context han sorgit rols com a responsables d'ètica d'IA, directors d'alineació ètica, auditors de biaixos algorísmics o especialistes en impacte social de la IA. Tots ells comparteixen un mateix objectiu: que el desplegament de la intel·ligència artificial no vagi per lliure, sinó que estigui guiat per principis ètics sòlids, marcs legals clars i una supervisió humana real a l' ecosistema d'intel·ligència artificial . Lluny de ser un “fre” a la innovació, aquests professionals s'estan convertint en la cola que permet que la tecnologia avanci sense creuar línies vermelles.

Per què s'han posat de moda els especialistes en ètica d'IA

El gran punt d'inflexió en la visibilitat d'aquests perfils va arribar el novembre del 2023 amb l'abrupta sortida (i posterior tornada) de Sam Altman com a CEO d'OpenAI. A ulls del gran públic va ser una història de despatxos i poder, però per sota va posar en evidència un xoc de fons: el pols entre un desenvolupament de la IA cada cop més accelerat i la necessitat d'una supervisió responsable que marqui límits, com ara debats sobre l' ètica de Gemini.

Dins d'OpenAI van aflorar diferències filosòfiques profundes entre els que volien prioritzar el creixement ràpid dels models i els que defensaven un enfocament més prudent, amb més controls, més proves i més cauteles. Aquest xoc va cristal·litzar al voltant de projectes especialment sensibles, on l'impacte potencial de la tecnologia era tan gran que ja no valia dir “llances i veiem què passa”.

Un dels casos que més soroll va generar va ser l'anomenat projecte Q* (Q-Star) , presentat internament com un avenç clau cap a una possible intel·ligència artificial general. Es tractava d'un model capaç de resoldre problemes matemàtics bàsics de manera més flexible, interpretat com un primer pas cap a sistemes amb capacitats més àmplies i generalistes. Precisament per això es va considerar potencialment perillós si no es gestionava amb extrema cura.

Q* va revifar debats de fons que portaven temps sobre la taula : quina informació s'ha de fer pública i què s'ha de mantenir sota control per evitar usos maliciosos; a quina velocitat és raonable introduir innovacions de gran impacte; quin tipus d'auditories independents calen; o com avaluar de manera rigorosa els riscos abans de posar un sistema a mans de milions d'usuaris. Tot aquest brou de cultiu és terreny fèrtil per a perfils experts en ètica de IA.

El cas d'OpenAI va deixar clar que la governança ètica de la IA no pot recaure només en enginyers i executius . Sectors tan delicats com el legal, el sanitari, el financer o el dels recursos humans necessiten professionals capaços de traçar la línia entre aplicacions beneficioses i aplicacions perilloses; de dissenyar protocols d'auditoria per a models complexos; i de servir de mediadors entre desenvolupadors, reguladors i societat civil.

Un perfil híbrid: habilitats tècniques, legals i humanístiques

Qui aspiri a treballar com a especialista en ètica de la IA necessita un perfil clarament híbrid que combini comprensió tècnica dels sistemes d'intel·ligència artificial amb coneixements legals, sensibilitat social i una sòlida base en ètica aplicada. No n'hi ha prou de saber programar, ni de conèixer de memòria les lleis: cal entendre com tot això es connecta en contextos reals.

Els experts solen descriure aquests professionals com a “bilingües” : persones capaces de moure's amb soltesa tant en el món tècnic (models, dades, mètriques, arquitectura de sistemes) com en l'humanístic (drets humans, filosofia moral, impacte social, cultura). Actuen com a ponts entre equips que parlen llenguatges molt diferents, ajudant-los a entendre's ia prendre decisions informades.

L'entrada en vigor de la Llei d'IA de la Unió Europea (AI Act) encara ha accelerat més la demanda d'aquests perfils. Moltes empreses de l'IBEX 35 i grans organitzacions europees munten equips específics d'IA responsable que combinen enginyers, advocats, experts en protecció de dades i filòsofs o especialistes en ètica aplicada. La idea és no improvisar, sinó construir un marc estable per desenvolupar i desplegar sistemes de IA amb cap.

Professionals com Elena Ibáñez, fundadora de Singularity Experts, insisteixen que la IA ètica no és un cost extra , sinó “l'única manera de garantir que la tecnologia serveixi a la societat, i no al revés”. Des d'aquesta òptica, l'especialista en ètica d'IA es converteix en la persona encarregada de verificar que els sistemes intel·ligents utilitzats en diferents sectors no xoquen amb valors ètics bàsics ni vulneren els codis deontològics de cada professió.

No és imprescindible que aquest professional sigui el més gran expert en la part tècnica , però sí que comprengui com s'utilitzen els sistemes d'IA, quines dades consumeixen, quin tipus de decisions automatitzen i quines conseqüències poden tenir els seus errors o biaixos. Només així pot avaluar si el desenvolupament s'alinea amb drets humans, principis de justícia, normes de confidencialitat o estàndards de bona pràctica a cada sector.

Formació acadèmica recomanada per dedicar-se a l'ètica de l'IA

La formació de base més habitual en aquests perfils sol combinar disciplines com ara informàtica, filosofia, dret i ciències socials . No hi ha una única carrera d'ètica d'IA, però sí itineraris que aporten els pilars necessaris per entendre el fenomen des de diferents angles.

Des del costat tècnic, titulacions com Informàtica o Ciències de la Computació resulten especialment valuoses . Aporten els fonaments d'algorismes, aprenentatge automàtic, arquitectura de sistemes i ciència de dades que permeten comprendre com es dissenyen, s'entrenen i avaluen els models d'IA. Aquesta base és clau per poder dialogar de tu a tu amb els equips de desenvolupament.

En el pla humanístic, la Filosofia -especialment l'ètica, la filosofia de la tecnologia i la filosofia de la ment- proporciona eines per reflexionar sobre l'impacte moral de les decisions automatitzades, la relació entre humans i màquines i conceptes tan delicats com responsabilitat, autonomia o agència moral. També ajuden a identificar dilemes ètics ia estructurar arguments de manera rigorosa.

Des de la perspectiva legal, el dret centrat en regulació tecnològica, protecció de dades i propietat intel·lectual és pràcticament imprescindible. La IA es mou en un entorn on les normes evolucionen ràpidament (GDPR, AI Act, regulació sectorial) i on les sancions per incompliment poden ser molt elevades. Un especialista en ètica dIA ha de saber com encaixar els sistemes dins aquest marc.

Les ciències socials (sociologia, antropologia, psicologia) completen el quadre aportant comprensió sobre com els sistemes d'IA afecten de manera diferent diferents col·lectius, com poden reforçar desigualtats existents o generar noves formes d'exclusió, i com influeixen en la percepció pública, la confiança i la legitimitat de les institucions.

Competències tècniques clau: riscos, biaixos i governança

Més enllà de la formació de base, aquests especialistes necessiten manejar una sèrie de competències tècniques molt concretes relacionades amb l'avaluació i la mitigació de riscos en sistemes d'IA. No es tracta només d'entendre el model, sinó d'anticipar com pot fallar i qui pot perjudicar.

En primer lloc, han de conèixer els fonaments de la IA i la ciència de dades : tipus de models (xarxes neuronals, models de llenguatge, sistemes de recomanació), tècniques d'entrenament, enginyeria de dades, així com les mètriques d'avaluació principals (precisió, recall, mètriques d'equitat, robustesa, etc.). Sense aquesta base, és molt difícil valorar si un sistema és acceptable o no des del punt de vista ètic.

Una altra peça central és la gestió de riscos algorítmics . Inclou la identificació de biaixos en dades i models, l'anàlisi d'impacte en diferents grups poblacionals, la valoració de riscos de seguretat i privadesa, i el disseny de mecanismes de control (monitoreig continu, límits d'ús, revisions periòdiques, intervenció humana obligatòria en certs casos).

Segons un estudi de Gartner citat amb freqüència al sector, al voltant del 78% de les organitzacions europees ja exigeix ​​algun tipus de formació en identificació de biaixos per als seus equips relacionats amb IA i dades. Això dóna una idea de fins a quin punt la gestió de biaixos ha esdevingut un requisit de negoci, no un luxe acadèmic.

A més, els especialistes en ètica d'IA solen necessitar nocions de polítiques públiques i processos reguladors . Comprendre com es dissenyen les normes, com s'apliquen a cada país i sector, i què s'espera de les empreses en termes de documentació, explicabilitat i auditoria és clau per evitar problemes reguladors seriosos i sancions econòmiques.

Habilitats no tècniques: comunicació, mediació i pensament crític

Si la part tècnica és important, la part tova ho és encara més . Un especialista en ètica d'IA passa bona part del temps parlant amb persones molt diferents: directius, desenvolupadors, equips legals, responsables de negoci, reguladors externs o fins i tot col·lectius afectats per la tecnologia.

El pensament crític és una de les competències més valorades . Significa ser capaç d'analitzar problemes complexos des de diferents perspectives, detectar supòsits ocults, qüestionar decisions que “sempre s'han fet així” i plantejar alternatives que equilibrin objectius de negoci amb principis ètics i legals.

La comunicació clara, tant oral com escrita, és un altre pilar . Aquests professionals han de traduir explicacions tècniques complicades a un llenguatge accessible per a persones no especialistes, redactar polítiques internes, guies de bones pràctiques, informes dimpacte, respostes a autoritats reguladores i materials de formació interna.

La capacitat de mediació resulta crucial quan sorgeixen conflictes entre allò que volen els equips de producte (rapidesa, funcionalitats noves, més dades) i allò que exigeixen els marcs ètics o normatius (limitacions, proves extra, garanties de seguretat, transparència). Fan “àrbitres” que ajuden a arribar a acords raonables.

També es valora molt l'anticipació i l'adaptabilitat . La IA canvia a un ritme vertiginós i la regulació va al darrere. Qui treballi en ètica d'IA ha de ser capaç de preveure implicacions a llarg termini de tecnologies emergents, gestionar bé la incertesa i adaptar-se ràpidament a canvis reguladors, noves eines o canvis estratègics a l'organització.

Principals perfils professionals en ètica de la intel·ligència artificial

Tot aquest conjunt d'habilitats i coneixements es tradueix en una varietat de rols professionals que, encara que comparteixen la base ètica i tecnològica, tenen objectius i responsabilitats específiques dins de les organitzacions.

Un dels perfils més visibles és l'AI Ethics Officer (AEO) o responsable d'ètica d'IA. La seva principal missió és desenvolupar, implementar i supervisar les polítiques ètiques relacionades amb els sistemes d'intel·ligència artificial de l'empresa. Treballa colze a colze amb els equips tècnics perquè els productes i serveis d'IA compleixin estàndards ètics, normatius i de reputació.

Grans companyies tecnològiques com Microsoft, Google o IBM fa temps que incorporen aquest tipus de perfil a les seves estructures, ja sigui com a lloc individual o com a part d'un comitè més ampli d'IA responsable. La seva presència sol ser especialment important a organitzacions amb molts productes basats en dades o amb una forta exposició pública.

El consultor en governança d'IA és un altre rol en auge . En aquest cas, sol tractar-se de professionals que treballen per a consultores, despatxos especialitzats o com a assessors externs. La seva funció és ajudar les organitzacions a dissenyar marcs de governança que els permetin gestionar riscos ètics i legals associats a la IA, així com complir regulacions emergents com l'EU AI Act.

També trobem la figura del responsable d'IA responsable o responsable d'IA fiable , la missió de la qual és supervisar iniciatives de desenvolupament d'IA amb focus explícit en l'equitat, la seguretat i la transparència. S'encarreguen d'integrar principis ètics a tot el cicle de vida del producte, des del disseny inicial fins al desplegament i manteniment. Empreses com Salesforce, Amazon o Meta demanen cada cop més aquest tipus de perfil.

En l'àmbit acadèmic i de recerca apareixen els investigadors en ètica de la IA . Aquest grup es dedica a estudiar els aspectes ètics, socials i polítics de la intel·ligència artificial, desenvolupant marcs teòrics, metodologies davaluació dimpacte i propostes de regulació. Solen treballar a universitats, centres de recerca o laboratoris corporatius avançats.

Un perfil molt específic i en clara expansió és l'auditor de biaix algorísmic . El seu treball consisteix a avaluar sistemes de IA ja en funcionament (o en fase de proves) per detectar i mitigar biaixos estadístics i de disseny que puguin generar resultats injustos o discriminatoris. Desenvolupen mètriques i metodologies per mesurar l'equitat i solen ser especialment buscats en sectors com ara finances, salut o recursos humans.

L'especialista en impacte social de la IA va un pas més enllà de l'anàlisi de biaixos i se centra a avaluar de manera integral com afecten aquests sistemes comunitats concretes i la societat en conjunt. Identifica col·lectius vulnerables, analitza impactes diferenciats, dissenya indicadors per mesurar efectes positius i negatius, i proposa estratègies per minimitzar danys, especialment en grups històricament marginats.

També apareix l'especialista en transparència i explicabilitat de la IA , responsable de desenvolupar mètodes que permetin que models complexos —com ara xarxes neuronals profundes o grans models de llenguatge— siguin més comprensibles per a usuaris, reguladors i altres actors. Aquest rol és especialment crític en sectors regulats com a banca, salut o administració pública, on hi ha obligació de justificar decisions automatitzades.

Els gestors de riscos d'IA se centren en identificar, avaluar i mitigar riscos ètics, legals i de reputació associats a l'ús d'intel·ligència artificial. Elaboren estratègies de mitigació, plans de contingència i marcs de seguiment continu. Solen ser demandats en sectors com ara assegurances, banca o salut, on els riscos d'una mala decisió automatitzada poden ser enormes.

A nivell més estratègic, el director d'alineació ètica d'IA s'encarrega d'assegurar que els sistemes de l'organització estiguin alineats amb valors humans i principis ètics fonamentals. Defineix l'estratègia global d'alineació, la tradueix en guies pràctiques per als equips tècnics, resol conflictes entre objectius de negoci i consideracions ètiques i promou un enfocament holístic a tota la companyia.

Marcs internacionals: la Recomanació de la UNESCO i altres estàndards

La tasca de l'especialista en ètica d'IA no es desenvolupa al buit, sinó recolzada en marcs internacionals cada cop més robustos . Una de les fites va ser la "Recomanació sobre l'ètica de la intel·ligència artificial" aprovada per la UNESCO el novembre del 2021, la primera norma mundial d'aquest tipus aplicable als 194 Estats membres de l'organització.

L'eix central d'aquesta recomanació és la protecció dels drets humans i la dignitat de les persones . Sobre aquesta base, s'articulen principis com ara la transparència, l'equitat, la supervisió humana significativa dels sistemes automatitzats, la responsabilitat pels danys causats i la necessitat d'evitar discriminacions o impactes desproporcionats en col·lectius concrets.

Un dels punts forts de la Recomanació de la UNESCO és que no es queda en declaracions genèriques sinó que ofereix àmbits d'acció política molt concrets. Això permet als responsables públics transformar principis abstractes en mesures pràctiques en àrees com ara governança de dades, protecció del medi ambient, ecosistemes digitals, igualtat de gènere, educació, investigació, salut o benestar social.

En paral·lel, empreses i organismes com IBM han desenvolupat els seus propis marcs interns d'ètica de la IA que incideixen en qüestions com ara la responsabilitat, la protecció de dades, la imparcialitat, l'explicabilitat, la robustesa, la transparència, la sostenibilitat ambiental, la inclusió o l'alineació de valors. Molts especialistes en ètica d'IA treballen precisament per adaptar aquests marcs generals a la realitat concreta de la seva organització.

L'explosió del big data i l'automatització basada en dades ha fet que moltes empreses impulsin decisions algorítmiques a gran escala, sovint amb la intenció legítima de millorar resultats de negoci. No obstant això, un disseny deficient o conjunts de dades esbiaixades han donat lloc a conseqüències imprevistes: sistemes que discriminen certs grups, decisions opaques impossibles d'explicar o vulneracions greus de privadesa, des d'infraestructures i centres de dades a l'espai fins a problemes de governança.

Riscos de no comptar amb ètica d'IA: reputació, regulació i drets

L'acumulació de casos de resultats injustos o discriminatoris ha fet sonar les alarmes i ha impulsat l'elaboració de noves directrius, primer des de comunitats de recerca i de ciència de dades, i més tard des d'empreses i reguladors. Ignorar la dimensió ètica ja no és una opció innòcua.

Moltes grans companyies d'IA han hagut d'aprendre per les dolentes, cosa que suposa no mantenir estàndards ètics adequats als seus productes: campanyes de desprestigi, pèrdua de confiança dels usuaris, investigacions reguladores, demandes col·lectives i sancions econòmiques considerables.

La manca de diligència en ètica de la IA es pot traduir en una triple exposició : reputacional (dany a la marca), regulatòria (investigacions, advertiments, restriccions) i legal (multes, litigis, obligació de retirar productes). Tot això amb un cost econòmic i de confiança que, en molts casos, supera amb escreix allò que hauria suposat fer les coses bé des del principi.

A més, com passa amb qualsevol avenç tecnològic, la innovació sol anar per davant de la regulació . A camps emergents com la IA, les normes formals arriben amb retard respecte a les pràctiques del mercat. A mesura que els governs acumulen experiència i coneixement, es van aprovant noves lleis, protocols i estàndards que les empreses han de complir per evitar vulnerar drets humans i llibertats civils.

En aquest escenari, comptar amb un especialista en ètica d'IA dins de l'organització es converteix en una forma de reduir incertesa, anticipar-se a canvis regulatoris i assegurar que les solucions basades en IA estan dissenyades i operen d'acord amb normes ètiques i legals des del primer dia, no pas com un pegat d'última hora.

Què fa a la pràctica un especialista en ètica d'IA dins una empresa?

En el dia a dia, la tasca d'aquest professional va molt més enllà de redactar bonics codis de conducta . El seu treball es fica de ple en el disseny, desenvolupament, desplegament i supervisió de sistemes concrets: algorismes de recomanació, sistemes de presa de decisions automatitzades, eines de reconeixement facial, aplicacions de processament de llenguatge natural, curador de realitats sintètiques , models daprenentatge automàtic, xarxes neuronals, etc.

Una de les funcions bàsiques és participar des del disseny dels projectes d'IA perquè ètica, marc legal i rigor tècnic estiguin integrats des del principi. Això inclou identificar usos potencialment problemàtics, valorar si certes dades són adequades o no, discutir quin grau d'explicabilitat cal o quins controls humans s'han d'incorporar.

També s'encarrega d'identificar aplicacions i escenaris que puguin vulnerar drets fonamentals (discriminació per gènere, raça o edat; invasió de la privadesa; manca d'accés a recursos essencials; etc.), d'avaluar riscos en termes d'impacte, biaixos, privadesa, explicabilitat i seguretat, i de proposar mesures de control i governança acords.

Una altra part important de la seva feina consisteix a desenvolupar i facilitar eines pràctiques perquè equips tècnics i direcció puguin implantar una IA responsable de manera sostenible. Parlem de plantilles d'avaluació d'impacte, checklists de compliment, guies per a documentació de models, criteris de selecció de dades, protocols de revisió humana i similars.

Gràcies a aquest suport, l'alta direcció i les àrees tècniques poden compartir un marc comú a l'hora de decidir quins projectes tirar endavant, quines condicions, quins riscos acceptar, quins no i com monitoritzar els sistemes una vegada en producció. L'objectiu és reduir l'exposició a incidents greus i reforçar la confiança dels clients, els reguladors i la societat en les solucions d'IA que l'organització desplega.

Formació específica i continguts habituals de cursos d'ètica d'IA

Davant aquesta demanda creixent, han sorgit programes formatius específics per esdevenir especialista en ètica de la IA . Aquests cursos solen estar pensats per a perfils tècnics que volen reforçar la part ètica i legal, professionals legals que volen entendre millor la tecnologia, o directius que necessiten prendre decisions estratègiques informades.

Els objectius típics daquests programes inclouen aprendre a reconèixer aplicacions dIA que podrien vulnerar drets fonamentals; plantejar projectes que integrin components ètics, legals i tècniques; fomentar un ús crític i responsable de la IA; entendre principis ètics aplicats a sistemes intel·ligents; conèixer marcs regulatoris europeus i nacionals; disposar de ferramentes pràctiques per implementar IA responsable; i millorar la presa de decisions estratègiques en gerències i equips directius.

Quant a continguts, solen estructurar-se en mòduls com: fonaments d'IA ètica (conceptes bàsics, dilemes recurrents, exemples reals), principis ètics i gestió responsable (equitat, transparència, responsabilitat, supervisió humana), eines per al disseny d'algoritmes ètics i robusts (mètodes d'avaluació de biaix, tècniques d'explicabilitat, disseny Act, GDPR, normativa sectorial) i implementació pràctica i casos sectorials (finances, salut, administració pública, educació, etc.).

La metodologia d‟aquests cursos sol ser molt aplicada : anàlisi de casos reals, debats estructurats, activitats interactives, tallers, simulacions d‟avaluació d‟impacte, exercicis de redisseny de sistemes, etc. Sovint inclouen un projecte transversal que acompanya diversos mòduls i on l'alumnat ha de dissenyar, avaluar o corregir un sistema d'IA amb criteris ètics, legals i tècnics.

Tot això permet que els qui els cursen surtin amb una barreja de comprensió conceptual i eines concretes llestes per aplicar a les seves organitzacions, en lloc de quedar-se només amb un discurs teòric. Per a moltes empreses, formar perfils interns en aquestes competències és més realista que contractar des de zero grans equips d'ètica d'IA.

La figura de l'especialista en ètica de la intel·ligència artificial ha deixat de ser un luxe propi de gegants tecnològics per convertir-se en un component gairebé obligatori de qualsevol estratègia seriosa de l'IA. En un entorn marcat per regulacions cada cop més exigents, una opinió pública més crítica i tecnologies amb un potencial d'impacte enorme, comptar amb persones capaces d'estendre ponts entre tècnica, dret i valors humans marca la diferència entre innovar amb confiança o anar sempre al límit del precipici.