Manipulation: What It Is, Why It's Bad, What To Do About It
L'obra "Manipulation: What It Is, Why It's Bad, What To Do About It" (2025), escrita per Cass R. Sunstein (pioner de la teoria de l'impuls o nudge), analitza com les noves tecnologies ofereixen oportunitats sense precedents per manipular els ciutadans, comprometent la seva llibertat i el seu benestar. El llibre s'estructura en tres parts: teoria, aplicacions i futur.
I. Teoria: Definint la Manipulació
Sunstein argumenta que, tot i ser un concepte difícil de delimitar, la manipulació es diferencia clarament de la coacció i de la persuasió racional.
- Definició principal: L'autor proposa que la manipulació és una forma de truc o engany, destinada a afectar el pensament o l'acció, que no respecta la capacitat de l'individu per a la tria reflexiva i deliberativa.
- Sistema 1 vs. Sistema 2: El llibre utilitza el marc de la ciència conductual per explicar que els manipuladors solen apuntar al Sistema 1 (automàtic, intuïtiu i propens a biaixos) per esquivar el Sistema 2 (deliberatiu i calculador).
- Per què és dolenta? Segons les fonts, és èticament qüestionable perquè insulta l'autonomia i la dignitat de les persones, tractant-les com a "eines o necis" (tools and fools) en lloc d'agents sobirans. Des d'una perspectiva de benestar, el manipulador sol ignorar els gustos i valors reals de la víctima, imposant els seus propis objectius.
- Un nou dret: L'autor proposa el reconeixement d'un dret moral i legal a no ser manipulat, especialment en l'àmbit digital.
II. Aplicacions: Enganys i Barreres
Sunstein analitza tres fenòmens moderns on la manipulació és omnipresent:
- Deepfakes: Són productes de la IA que creen imatges o vídeos falsos però d'aparença real. L'autor els considera una forma de manipulació "insidiosa" perquè exploten el biaix de veritat de l'ésser humà (la tendència a creure el que veiem) i poden causar danys greus a la reputació i a la democràcia.
- Sludge (Fang o Residu Administratiu): Es refereix a les friccions o barreres burocràtiques (com formularis excessivament complexos o dificultats per cancel·lar subscripcions) que impedeixen que la gent faci el que vol. El sludge és una eina de manipulació que roba temps i diners explotant la inèrcia i el biaix del present. Sunstein advoca per fer "Auditories de Sludge" per simplificar la vida dels ciutadans.
- El problema de la Barbie (Pressió Social): Descriu situacions on la gent és manipulada per comprar béns o participar en activitats (com les xarxes socials) que desitjarien que no existissin, però que consumeixen per por a l'exclusió o per evitar enviar un senyal social negatiu.
III. El Futur: IA i Nudging Ètic
El llibre tanca explorant com la societat es pot protegir en el futur:
- Nudging sense manipulació: Sunstein defensa que no tots els impulsos (nudges) són manipuladors. Els recordatoris, les advertències factuals o les auditories de navegabilitat són eines que promouen l'agència en lloc de soscavar-la.
- Intel·ligència Artificial: Presenta una dicotomia. Per una banda, la IA pot crear "Motors de Decisió" (Choice Engines) personalitzats que ajudin a les persones a superar els seus biaixos i a prendre millors decisions segons els seus propis criteris. Per l'altra, la IA té un potencial "fresc i amenaçador" per explotar les vulnerabilitats humanes de manera quirúrgica.
En conclusió, el llibre és un crit d'alerta contra la manipulació entesa com una forma de robatori de l'autonomia personal. Sunstein sosté que, en l'era dels algorismes, la transparència i l'escrutini públic són els únics salvaguardes efectius per garantir que les persones continuïn sent els autors de les seves pròpies vides.
