ECONSALUT: Ètica de la IA

10 d’agost 2026

Ètica de la IA

As If Human: Ethics and Artificial Intelligence

El llibre «As If Human: Ethics and Artificial Intelligence» (2024), escrit per Nigel Shadbolt i Roger Hampson, sosté que el món necessita urgentment un marc ètic per a la intel·ligència artificial (IA) basat a jutjar les màquines «com si fossin humanes». Aquesta premissa no implica que les IA siguin realment humanes o tinguin sentit, sinó que se les ha de subjectar als mateixos estàndards morals que aplicaríem a una persona.

Aquest és un resum exhaustiu i detallat de les tesis i anàlisis de l'obra:

1. El concepte «Com si» (As If) i la normalització

Origen del mètode: Els autors s'inspiren en la «normalització» de l'atenció sanitària dels anys 80, on es tractava pacients amb grans discapacitats (com l'exemple del jove «John») procurant oferir-los una vida el més ordinària possible, actuant «com si» tinguessin capacitats estàndard per garantir la seva dignitat.
Agnosticisme pràctic: De la mateixa manera que no cal entendre tota la biologia de John per saber que mereix amics i privadesa, els autors argumenten que podem jutjar els resultats ètics d'un algoritme sense haver de desxifrar cada línia de codi o cada connexió d'una xarxa neural.
Agència moral delegada: Atès que les màquines prenen decisions independents de forma creixent, hem de tractar-les com a agents morals en la pràctica, encara que la responsabilitat última segueixi sent dels humans que les han creat i desplegat.

2. Què és la IA i la il·lusió de la consciència

Evolució tecnològica: El llibre diferencia entre els sistemes basats en regles (caixes blanques i transparents) i el machine learning modern, que sovint actua com una «caixa negra» opaca on no sabem exactament per què s'ha pres una decisió.
El mite de la sentència: Els autors són escèptics davant les afirmacions que les IA són sentents; argumenten que un chatbot que diu tenir por a ser apagat és una simulació de dolor, no dolor real, ja que les màquines no tenen un sistema nerviós ni una biologia que "encarni" el sofriment.
La superació del test de Turing: Argumenten que aquest test és obsolet perquè les IA ja poden enganyar els humans fàcilment. Proposen, en canvi, «tests de Turing inversos» per detectar si una IA encarna valors respectuosos i diu la veritat.

3. Les virtuts a la màquina: operables i inoperables

Els autors apliquen l'ètica de la virtut per determinar quines qualitats humanes poden ser embolicades (simulades amb èxit en el comportament) per una IA:

Virtuts operables: Són aquelles que una IA pot executar mitjançant regles o aprenentatge estadístic, com la prudència (no esborrar un fitxer sense preguntar), la justícia/equitat (no discriminar en una assegurança) i l'autocontrol (seguir principis sense fatiga moral).
Virtuts inoperables: Qualitats que requereixen sentència o por a la mort, com el coratge (una màquina no pot ser valenta perquè no pot morir), la benevolència real o la misericòrdia (que implica una comprensió empàtica de la vulnerabilitat humana).
IA Respectuosa: La virtut principal que hem d'exigir a les màquines és el respecte pels humans, tractant-nos amb la dignitat que mereixem com a éssers biològics.

4. Privadesa, poder i les «set cares» de Google

Crítica a la vigilància: Els autors discuteixen la idea que les màquines ens "espiïn". Argumenten que una màquina mirant-nos no és una violació de privadesa en si mateixa (com una paret no ens espia), sinó que la violació es produeix quan les dades permeten que un altre humà ens jutgi o ens manipuli.
Asimetria d'informació: Analitzen entitats com Google des de set perspectives (com a màquina, corporació, activitat, IA, etc.) per mostrar com el control de la informació es tradueix en un poder tou que dissenya el nostre comportament.
Solucions: Proposen arquitectures descentralitzades com el projecte Solid de Tim Berners-Lee o eines com l'app X-ray per fer visibles els fluxos de dades i retornar el control a l'individu.

5. Màquines Socials i el Futur

Màquines Socials: Defineixen entitats com la Viquipèdia com a "màquines socials" on humans i algoritmes col·laboren per crear una intel·ligència col·lectiva que ha de ser governada èticament.
El dret a ser escoltat: S'adhereixen a la tesi de John Tasioulas segons la qual en decisions crítiques (com judicis o diagnòstics de vida o mort) els humans tenim el dret moral a una decisió humana que inclogui empatia i misericòrdia, elements que una IA no pot oferir.
Augment del cervell: Adverteixen que la IA ja està canviant la nostra ment, alterant com recordem (confiem en Google en lloc de la memòria) i com ens percebem a través de les xarxes socials.