The Irrational Decision: How We Gave Computers the Power to Choose for Us
Aquest és un resum del llibre "The Irrational Decision: How We Gave Computers the Power to Choose for Us" (2026), del professor de la Universitat de Califòrnia a Berkeley, Benjamin Recht (publicat per Princeton University Press).
Capítol 1: Racionalitat matemàtica (Mathematical Rationality)
- La reducció de la vida al càlcul de riscos: L'autor comença criticant com les nostres decisions quotidianes —des de la planificació de la dieta fins a l'educació dels fills, les eleccions polítiques o l'esport— s'han reduït a un simple anàlisi de riscos, probabilitats i costos. L'autor es pregunta d'on prové aquesta pressió social i tecnològica per optimitzar-ho tot constantment.
- La definició de la racionalitat moderna: En el nostre context modern, el terme "racionalitat" s'ha equiparat gairebé en exclusiva a aquesta mentalitat de gestió de riscos, lògica, algorismes i quantificació, un fenomen que Recht anomena racionalitat matemàtica. Sota aquest prisma, un agent racional és vist com un jugador d'atzar o un agent d'assegurances que tabula estadístiques i aposta per l'opció amb el millor rendiment.
- Els líders del moviment: Un dels principals defensors d'aquesta línia és el psicòleg de Harvard Steven Pinker (a Rationality, 2021), que defineix la racionalitat de forma utilitària com "l'habilitat d'utilitzar el coneixement per assolir objectius". Aquest corrent també el promou el cèlebre analista electoral Nate Silver (a On the Edge), qui sosté de manera aferrissada que els "rics i poderosos" són de forma desproporcionada els qui dominen la racionalitat matemàtica i controlen els algorismes.
- L'arribada dels ordinadors: Aquesta insistència en els algorismes es remunta a les dècades de 1940 i 1950, un període que va coincidir exactament amb el disseny dels primers ordinadors moderns. Els pioners de la informàtica van dissenyar aquestes màquines per actuar com a "agents racionals ideals". L'autor es planteja una pregunta crítica: en quin moment de la història vam decidir que els humans havíem de viure les nostres vides imitant el funcionament dels ordinadors?
- Els quatre pilars: El llibre s'estructura al voltant dels quatre pilars de la racionalitat matemàtica, formalitzats a finals dels anys quaranta:
- Optimització matemàtica (Mathematical optimization)
- Teoria de jocs (Game theory)
- Experiments aleatoris (Randomized experiments)
- Predicció estadística o aprenentatge automàtic (Statistical prediction / machine learning)
- Recht defensa que, tot i que aquestes eines són extremadament potents en contexts molt concrets (el seu "punt dolç"), aplicar-les de forma universal fora d'aquestes fronteres és nociu. L'objectiu de l'obra és desmuntar la història d'aquestes línies de pensament per reclamar que el futur de la societat demana menys racionalitat computacional i molt més tacte humà i respecte als valors morals.
Capítol 2: A la recerca de la utopia ciberfísica (Searching for the Cyberphysical Utopia)
- L'origen militar: Durant la Segona Guerra Mundial, la Divisió de Control Estadístic de les Forces Aèries dels EUA (on servia George Dantzig) va recopilar milers de dades logístiques, demostrant per exemple que s'estaven produint moltes més bombes de les que de forma material es podien llançar, estalviant milers de milions de dòlars al govern.
- George Dantzig i la programació lineal: Frustrat per la lentitud i el caràcter ad hoc dels plans de guerra clàssics, Dantzig va dissenyar un marc per automatitzar de manera lògica les decisions sobre recursos i limitacions que va anomenar "programació", fundant la teoria de l'optimització matemàtica. Dantzig va dissenyar la programació lineal i el cèlebre mètode símplex (o mètode de les bases) per resoldre-la de forma sistemàtica.
- La batalla de la dieta de cost mínim: El primer gran cas de prova de l'algorisme va ser el problema de la dieta de cost mínim el 1948. Aquest cas va néixer d'una polèmica científica i política entre Hazel Stiebeling (economista de la USDA que va dissenyar guies d'alimentació de baix cost que respectaven els gustos culturals i el benestar de la llar demanant uns 100 dòlars l'any) i l'economista de la Universitat de Chicago George Stigler (futur premi Nobel), qui acusava Stiebeling de "poc científica". Stigler va despullar el menjar de qualsevol dimensió cultural o de sabor, formulant una dieta purament física de "subsistència biològica" d'uns 39,93 dòlars a l'any a base de farina, llet evaporada, col, espinacs i mongetes.
- La resolució algorísmica: Dantzig va fer resoldre la dieta de Stigler a l'equip del Mathematical Tables Project. El càlcul manual va trigar 120 dies-persona, forçant els investigadors a enganxar fulls de paper de forma massiva a les taules de treball. Van demostrar que la dieta òptima real costava 39,69 dòlars (estalviant només 24 cèntims respecte a la de Stigler). Això va provar que l'algorisme podia automatitzar i substituir determinats camps del coneixement dels economistes. No obstant això, menjar un lliurat de farina i cinc llaunes de mongetes al dia de manera indefinida és una ració de gana miserable. Aquest cas il·lustra que l'optimització d'una sola mètrica (el cost) ignora les dimensions de l'ànima, el plaer o la salut social.
- L'acceleració de la informàtica: Per resoldre problemes de programació lineal es van finançar ordinadors com el SEAC el 1950 (que va resoldre un problema de 100 variables en només tres minuts) o l'IBM 704 amb unitats de coma flotant de cara als programes militars de càlcul de trajectòries de míssils. Sota aquest teixit de de-escalada bèl·lica va néixer l'automatització del control i la teoria del control òptim. Richard Bellman (RAND Corporation) va inventar la programació dinàmica el 1952, i Rudolf Kalman va formular el seu conegut filtre (Kalman filter) per a sistemes lineals que va guiar les naus del programa Apollo a la Lluna.
- El límit de l'estabilitat i els xips: L'enginyer aeroespacial Gunter Stein va oferir una cèlebre conferència el 1989 ("Respect the Unstable") recordant les severes limitacions de de-escalar els models idealitzats a la complexitat de la física real. Stein va advertir que l'accident de la central nuclear de Txernòbil el 1986 no va ocórrer per una fallada física de metall o trencament d'electrònica, sinó perquè el sistema de control (i les seves polítiques d'ús operades per humans) va guiar de manera sistemàtica el reactor cap a un estat d'inestabilitat total des d'on era físicament impossible recuperar-lo. Per contra, les tècniques d'optimització van assolir un èxit de caràcter exponencial en el disseny dels xips de silici (com en el processador Intel 386 el 1985 dissenyat amb el codi del Berkeley de Alberto Sangiovanni-Vincentelli), on l'entorn és un món tancat, limitat, i perfectament sotmès a les regles de disseny dels enginyers.
Capítol 3: Això no és el Nam. Hi ha regles (This Is Not Nam. There Are Rules)
- La teoria de jocs de Von Neumann: El 1944, el físic John von Neumann i l'economista Oskar Morgenstern van llançar Theory of Games and Economic Behavior, una obra que pretenia utilitzar les matemàtiques per oferir una descripció tancada i exacta del comportament humà.
- Estratègies, informació i aleatorietat: Van desmuntar les interaccions en diferents categories de jocs. Van determinar que els jocs de suma zero amb informació perfecta (com els escacs) són des d'una perspectiva teòrica "trivials", ja que si ambdós jugadors juguen de forma òptima el resultat és predeterminat. En canvi, els jocs d'informació imperfecta (com el pòquer o l'aparellament de penics) obliguen els jugadors a recórrer a la aleatorietat (mixed strategies) per ser impredictibles davant l'oponent, provant per primer cop de manera matemàtica que ser racional demana ser impredictible.
- El repte dels escacs i dames: Tot i ser trivial en teoria, escriure el llibre de moviments òptims d'escacs demana un volum de bits superior a tots els àtoms de l'univers (\(10^{120}\) nodes en el seu arbre de joc). Per batre els humans, Claude Shannon va dissenyar als anys quaranta mètodes de cerca d'arbre de profunditat limitada i les anomenades funcions de valor aproximat. El mateix camí va seguir Arthur Samuel a IBM per al joc de dames, dissenyant un sistema d'auto-play (Alpha contra Beta) i aprenentatge per diferències temporals, obrint el camí cap al naixement del machine learning.
- La militarització a RAND: La corporació RAND (fondada el 1948) va reunir els grans cervells de la disciplina (Nash, Arrow, Shapley, Blackwell) per aplicar la teoria de jocs a l'estratègia de la Guerra Freda. Van formular escenaris teòrics absurds com el duel d'avions de de-escalada d'artilleria militar ("A Bomber-Fighter Duel") descrits de forma abstracta en complexes equacions que els militars de la Marina van rebutjar de manera contundent per ser del tot inútils de cara a l'entrenament de pilots reals. Els experiments de Flood i Dresher a RAND van provar ràpidament que, en situacions de la vida real (com el dilema del presoner o el joc de l'Ultimàtum), els humans cooperen de forma no egoista i es neguen sistemàticament a jugar segons els cànons de la racionalitat de la teoria de jocs.
- CFR i el pòquer: Tot i la seva fallada per descriure l'economia humana, mètodes de disseny de joc com el mètode de forma de seqüències de Daphne Koller i Nimrod Megiddo (1996) van asseure les bases per resoldre de forma tancada jocs com el pòquer Limit Texas Hold'em el 2015 sota la direcció de Mike Bowling a Alberta, utilitzant sistemes de auto-play basats en l'algorisme de minimització del penediment contrafactual (CFR).
Capítol 4: Regulacions, regularitats i RCTs (Regulations, Regularities, and RCTs)
- La penicil·lina i la evidència òbvia: El 1941, l'equip de de-escalada de H.W. Florey va publicar a The Lancet el primer assaig de la penicil·lina amb només deu pacients de diferents infeccions bacterianes. Com que el fàrmac salvava vides que altrament haurien mort sense cap marge de dubte, la seva utilitat era òbvia, de manera que la medicina d'urgències no va requerir grans recomptes o mètodes de control estadístic de referència. El mateix camí va seguir Sidney Farber en provar el primer compost de quimioteràpia (l'aminopterina) que va aconseguir la remissió històrica de la leucèmia en nens el 1948.
- Bradford Hill i el naixement de l'RCT: Després de la tragèdia del verí de la sulfanilamida barrejada amb anticongelant de 1938, el govern dels EUA va forçar un nou model de regulació a l'FDA. El bioestadístic Bradford Hill va dissenyar el primer assaig clínic aleatoritzat (RCT) el 1946 per avaluar l'estreptomicina contra la tuberculosi. Hill va introduir l'aleatorització de pacients en grups de tractament i control per evitar que el biaix de selecció dels propis metges manipulés de forma inconscient la composició de les mostres. Hill va definir que l'estadística només té sentit en el regne d'allò variable en què el guariment no és del tot segur (com la febre reumàtica o la tuberculosi).
- L'assaig massiu de Salk: Els RCT van viure el seu major repte el 1954 amb l'assaig de la vacuna de la poliomielitis de Jonas Salk, on Thomas Francis va insistir a aleatoritzar més de 400.000 nens per assolir prou dades per desestimar la hipòtesi nul·la. L'assaig va ser un èxit de mètode, provant una de-escalada del 70% de casos de paràlisi, però la posterior comercialització de dosis amb virus actiu per Cutter Laboratories va emmalaltir centenars d'infants, mostrant els riscos del traspàs del laboratori a la fabricació industrial.
- La revisió crítica de Gøtzsche sobre els mamogràfics: El llibre analitza en profunditat l'estudi de detecció de càncer de mama mitjançant mamografies (l'estudi HIP de Nova York iniciat el 1963) impulsat per Michael Shimkin de l'NCI i liderat per Philip Strax, que havia perdut la seva dona de de-escalada molt jove per aquesta malaltia. L'any 2000, els investigadors danesos Peter Gøtzsche i Ole Olsen van publicar una dura revisió de de-escalada a The Lancet denunciant de forma empírica que, en analitzar els detalls del mètode d'exclusió d'HIP (es van retirar 853 dones del grup d'estudi amb diagnòstic anterior però només 336 del grup de control), els errors d'asimetria de de-recopilació esborraven per complet qualsevol evidència de benefici real de la detecció d'urgència primerenca sobre l'esperança de vida, de-escalant el mamogràfic a un procés d'elevat sobre-diagnòstic i operacions innecessàries.
- De la medicina al programari: Recht enllaça aquests mètodes amb el present de les grans tecnològiques de Silicon Valley. L'ús dels anomenats assaigs A/B serveix com a regulació per a la de-escalada en la presentació dels espais i elements de la pantalla per part de programadors de Google, però actuen només per protegir les mètriques de rendiment de forma marginal sense cap fonament científic real de causalitat.
Capítol 5: Quan el rendiment passat és indicatiu de resultats futurs (When Past Performance Is Indicative of Future Results)
- Claude Shannon i el processament del llenguatge: Al seu article de 1948, Shannon va preveure que si un senyal és predictible, es pot comprimir de forma òptima eliminant-ne la redundància d'origen. Per mesurar la predictibilitat del llenguatge, va dissenyar models basats en cadenes de Markov on la paraula es triava en funció de les anteriors, provant que a major memòria de dades s'obtenien frases que simulaven de forma sorprenent el text en anglès, mesurat sota el paràmetre de l'entropia condicional. Les tesis de de Shannon de 1948 són l'esquelet dels grans models de llenguatge actuals com ChatGPT.
- La recepta de l'aprenentatge automàtic: Recht aclareix que el procés de de-escalada de l'aprenentatge és simple:
- Tenir un objectiu clar.
- Compilar dades en un format de full de càlcul.
- Dividir el conjunt de dades en un grup de disseny o entrenament (training set) i un grup de verificació (test set).
- Cercar una funció de de-càlcul complexa.
- Aplicar un algorisme de descens de gradient per minimitzar el deure d'errors de de-càlcul (empirical risk minimization).
- El precedent d'OCR de Highleyman: Aquesta recepta va ser iniciada pel jove doctorand de Bell Labs Wilbur Hull (Bill) Highleyman el 1961 per solucionar l'escaneig de factures telefòniques. Highleyman va recopilar 50 alfabets de companys i els va digitalitzar a una resolució rústica de 12x12 píxels. Va definir les anomenades funcions de de línia divisòria (hyperplanes) on s'ajustaven els pesos de cada píxel de forma idèntica a com ho feia el perceptró de Frank Rosenblatt.
- L'impacte de les bases de dades de benchmarking: Highleyman va obrir un dels camins més importants: va oferir de forma gratuïta les targetes perforades del seu dataset a qualsevol que demanés la seva còpia, forçant els científics rivals (com Chow a Burroughs o el grup d'SRI format per Munson, Duda i Hart) a avaluar els seus mètodes sobre un mateix territori de de dades provat. Aquest camí de de-escalada de la competència va propiciar el naixement d'ImageNet (compilat per Fei-Fei Li), on el triomf del model de xarxa neuronal convolucional d'Alex Krizhevsky el 2012 va forçar la de-escalada cap al domini de l'aprenentatge profund.
- Recht ens recorda la cèlebre paradoxa de la computació: cap humà pot veure la paritat de milers de bits, però un ordinador ho calcula en mil·lisegons; per contra, qualsevol infant aprèn ràpidament a distingir una imatge d'un gos, però escriure el codi de programació clàssic per ensenyar a una màquina a fer-ho va ser un repte intractable durant setanta anys.
Capítol 6: Els humans contra la màquina (Humans Against the Machine)
- Paul Meehl i la predicció actuarial: El 1945, el psicòleg Paul Meehl va obrir la recerca entre dos sistemes en el seu llibre de 1954 Clinical versus Statistical Prediction:
- La predicció estadística (o actuarial): Qualsevol mètode mecànic que llegeix un conjunt de dades d'historials per extreure una recomanació mitjançant deures d'aprenentatge del passat.
- La predicció clínica: La decisió basada en la intuïció i els judicis d'un expert humà.
- Meehl va analitzar estudis com els de Ernest Burgess de de predir la reincidència dels presos i va provar que, en entorns d'elevada incertesa i regles d'elecció simples, el mètode estadístic era sempre igual o superior al diagnòstic personal dels metges.
- Heurístiques i biaixos (HB): Aquesta herència de de Meehl va obrir el naixement de de l'escola de de Daniel Kahneman i Amos Tversky. Van provar que els humans presenten un funcionament de de decisions allunyat de la de-escalada del càlcul (biaix d'ancoratge, disponibilitat o representativitat). Els autors d'aquest corrent demanen que s'utilitzin llistes de control mecàniques de de control o regles de de de-càlcul de de l'ordinador per salvar els ciutadans de la seva pròpia "irracionalitat".
- La presa de decisions naturalista (NDM): Com a via contrària d'investigació, Gary Klein va estudiar de de forma directa com prenen decisions els professionals que s'enfronten a entorns d'alt perill i poc temps de reacció (com els comandaments de bombers o els metges d'urgències). Klein va trobar que els experts no s'aturen de de forma analítica a enumerar opcions i calcular de de de-escalada de de probabilitats. En lloc d'això, utilitzen el model de decisió orientada pel reconeixement (recognition-primed decision, RPD): fan ús de la seva intuïció per avaluar un sol camí, de-escalant el funcionament de de la de-decisió mitjançant anàlisi d'anomalies de forma instantània basant-se en l'associació de de de-escalada de de dades i històries.
- Aquest contrast es fa palesa en la de-escalada dels intents de de-conducció autònoma del cotxe autònom (com Cruise o Waymo de de de-escalada de de Alphabet), on les limitacions per processar els "casos límit" de de la de-conducció real han forçat a retenir un servei limitat, car i controlat de forma remota per operadors humans.
Capítol 7: Presa de decisions cíborg (Cyborg Decision Making)
- El perill de la mimesi de la màquina: L'autor tanca el llibre amb una dura advertència contra els corrents que defensen que els humans hem de de-escalar el nostre pensament a la lògica de la de-càlcul de de l'ordinador, com demana l'Economia Neoclàssica o el moviment de de l'Altruisme Eficaç de de Sam Bankman-Fried.
- L'asfíxia de la burocràcia digital: Imposar regles de de de-escalada tancades i llistes de de control burocràtiques asfixia la capacitat d'improvisar, desvetlla la de-escalada de la autoritat professional del metge o pilot, i demana de de forma continuada que s'augmenti el control i la de-creació de de tràmits. David Graeber (a The Utopia of Rules) assenyala que les societats occidentals s'estan convertint en un espai on el deure de de de-creació de de decisions de de llibertat ha estat de-escalat a un simple joc burocràtic per por de de de-escalar el risc de de de-creació d'interaccions d'escala humana (el contrast entre rules i play).
- Ciència de dades contra política de valors: Daniel Sarewitz (a "How Science Makes Environmental Controversies Worse") desmunta el mite que utilitzar la "ciència de dades" o el recompte estadístic pacifica els debats públics. Ben al contrari: presentar gràfics i números en lloc de de de-decisió de de govern s'utilitza de de forma política com un escut de de falsa autoritat que oculta decisions basades en els valors i la moral d'un dels grups. Com a prova, la recerca de de de-càlcul de de fons en l'elecció de de Bush contra Gore del 2000 es va resoldre finalment per una decisió de de caràcter polític de de la Cort Suprema, ja que cap de de recomptes estadístics era capaç d'eliminar de de forma neta la incertesa de de l'intent del vot de de de-càlcul.
- Decisions contra Eleccions: Recht clou l'obra citant la tesi fonamental de de Joseph Weizenbaum (creador d'ELIZA) a Computer Power and Human Reason: els ordinadors tenen la capacitat de prendre decisions (decide) sota regles computacionals, però només els humans tenim la capacitat moral i de de consciència de de triar (choose) de de forma lliure per forjar el nostre propi destí.