IA pertot arreu (33)

Auditing AI 

Aquest és un resum del llibre "Auditing AI" (2026), de The Marquand House Collective (publicat per MIT Press dins de la seva col·lecció Essential Knowledge Series). El col·lectiu està format per onze experts d'àmbits com la informàtica, el dret, les polítiques públiques, les ciències socials i el periodisme.

Capítol 1: Introducció (Introduction)

Aquest capítol introdueix la necessitat històrica i actual de les auditories de sistemes automatitzats a través de tres casos d'estudi fonamentals.

• L'algoritme de trasplantament de ronyó (LYFT): Als anys vuitanta, la presa de decisions mèdiques assistida per ordinador era ciència-ficció, però cap al 2000 es va dissenyar el sistema automatitzat LYFT (life years from transplant) per prioritzar l'assignació de ronyons. Aquest algorisme calculava quant de temps viuria una persona si rebia un trasplantament, però va rebre fortes crítiques. Els pacients d'edat avançada al·legaven discriminació per edat, i les comunitats racialitzades i de baixos recursos denunciaven que beneficiava els pacients més rics. El 2009, el cirurgià Peter Stock i el seu comitè van presentar una sèrie d'auditories independents que van identificar disparitats per edat, gènere, geografia i raça, la qual cosa va permetre reformar el sistema cap a un model més equitatiu.
• El precedent històric de SABRE: A mitjan segle XX, reservar bitllets d'avió requeria hores de trucades i un registre analògic en taulers de xulles. El 1960, el llançament de SABRE (creat per IBM i American Airlines) va computeritzar les reserves. Aviat, aerolínies competidores van detectar comportaments anòmals (com vols que desapareixien o es canviaven a American Airlines) i que els primers resultats de cerca afavorien sempre l'aerolínia propietària del sistema. El 1983, es va impulsar una investigació per aquest "biaix de visualització" (display bias). El president d'American Airlines, Robert L. Crandall, va defensar obertament que el sistema s'havia dissenyat per afavorir-los ("la queixa de Crandall": per què construir un sistema car si no pots esbiaixar-lo al teu favor?). El regulador va prohibir aquesta pràctica i va obligar a fer públics els algorismes de cerca.
• La discriminació publicitària de Meta (Facebook): El 2016, periodistes de ProPublica van revelar que la plataforma de Meta permetia als anunciants excloure determinades "afinitats ètniques" (com "afroamericans", "asiàtics americans" o "hispans") en anuncis de lloguer d'habitatges o d'ocupació, violant directament les lleis federals de drets civils. Malgrat les declaracions de Meta afirmant que s'havia corregit, auditories posteriors de periodistes i acadèmics van seguir trobant patrons discriminatoris. El cas va acabar el 2022 amb una demanda del Departament de Justícia dels EUA (DOJ), una sanció i l'obligació de Meta de sotmetre's a auditories periòdiques i independents.

Capítol 2: Què és l'auditoria d'IA? (What Is AI Auditing?)

L'autoria clarifica els conceptes, definicions i marcs d'actuació de la disciplina.

• Definició de sistema d'IA i auditoria: Un sistema d'IA és qualsevol sistema automatitzat on s'integren algorismes (processos computacionals codificats sovint basats en dades). S'anomena auditoria d'IA a l'avaluació rigorosa i sistemàtica de les afirmacions, expectatives o estàndards (siguin requisits legals o normes socials com la privacitat) d'un sistema d'IA. Un bon auditor comença la seva tasca des de l'escepticisme.
• L'origen dels mètodes de l'auditoria: Es basen en les auditories financeres, tributàries (IRS) i reguladores (FDA, EPA, SEC). No obstant això, el seu antecedent directe en l'àmbit de la justícia social es troba en els estudis d'auditoria de l'habitatge del segle XX per combatre el redlining (la discriminació immobiliària cap a persones negres). Aquests estudis enviaven parelles de provadors (un de negre i un de blanc, amb el mateix perfil econòmic) a sol·licitar un habitatge alhora, registrant com eren tractats. Després es va aplicar al mercat laboral mitjançant l'enviament de currículums falsos amb noms que suggerien diferents races o gèneres (correspondence audits).
• El cas COMPAS: El 2016, Julia Angwin i el seu equip de ProPublica van auditar l'algorisme COMPAS, utilitzat per jutges dels EUA per avaluar la probabilitat de reincidència criminal. L'auditoria va revelar que el sistema doblava la taxa d'error en predir falsos positius de reincidència per a defensors negres i, a la vegada, qualificava erròniament els defensors blancs com a de "baix risc" molt més sovint. Aquest cas va evidenciar que els sistemes d'IA estan condicionats pel biaix humà contingut en les seves dades d'entrenament històriques.
• Tipus d'auditoria segons el seu objectiu:
  • Auditories de viabilitat/destí: Determinen si un sistema s'ha d'abandonar (per exemple, les auditories sobre els algorismes de patrullatge policial predictiu de PredPol o Palantir van portar ciutats com Los Angeles i Chicago a deixar d'utilitzar-los per la seva ineficàcia i biaix racial).
  • Auditories com a tripwires (fils de trencament): Serveixen com a alertes inicials que justifiquen accions legals o investigacions governamentals més profundes on els reguladors demanen més informació interna (com va passar amb Meta o Apple Card).
  • Auditories de supervisió continuada: Reavaluacions periòdiques per comprovar si el programari s'ha degradat o millorat. Un exemple són les auditories continuades a Google Image Search (2015, 2019 i 2021) sobre els estereotips de gènere en les cerques d'ocupacions (el problema de "la constructora sexy").
• Límits de les auditories: Sovint no poden obrir del tot la "caixa negra" (el funcionament intern d'un sistema que fins i tot pot ser desconegut per als seus propis enginyers) ni garanteixen per si soles la rendició de comptes d'una corporació si aquesta decideix ignorar els resultats.
• L'auditor i els conflictes d'interès: Les auditories fetes per tercers independents són el "patró d'or". Les realitzades per les mateixes empreses o amb la seva col·laboració directa presenten riscos de conflictes d'interès o de rentat d'imatge (audit-washing). Amb tot, algunes auditories internes de qualitat han servit perquè empreses descobrissin falles i abandonessin sistemes (com Amazon amb el seu escanejador de currículums o Twitter amb el seu retallador d'imatges).

Capítol 3: Els passos d'una auditoria d'IA (The Steps of an AI Audit)

L'auditora Joy Buolamwini va descobrir que les tecnologies de detecció facial comercials de grans marques no reconeixien la seva cara (ella és negra) excepte si es posava una màscara de disfressa blanca, la qual cosa la va portar a realitzar amb Timnit Gebru l'auditoria canònica "Gender Shades" (2018). Aquestes errades tenien conseqüències greus a la vida real, provocant detencions policials injustes per coincidències biomètriques errònies d'homes negres com Robert Williams a Detroit.

A partir d'aquí, es descriuen els cinc passos clàssics d'una auditoria d'IA:

1. Identificar el sistema a auditar (Identify the system): Definir les fronteres de la tecnologia, que sovint és un paquet de múltiples components complexos, de vegades utilitzant diagrames de sistemes per destriar el camí de les dades.
2. Planificar una investigació sistemàtica (Planning): Passar de l'anècdota a un mètode organitzat. Latanya Sweeney, per exemple, va formalitzar la seva sospita que Google mostrava anuncis suggerint detencions policials en cercar noms propis associats a persones negres mitjançant una cerca sistemàtica utilitzant bases de dades de naixements reals, provant que els noms afroamericans tenien un 25% més de probabilitats de rebre aquests anuncis.
3. Recollir dades (Collecting data): Pot fer-se per diferents mètodes:
   • Web scraping: Baixar informació de llocs webs sense demanar permís de manera automatitzada.
   • APIs: Fer servir les eines de programació que les pròpies empreses ofereixen com a "invitació" de connexió.
   • Sock puppets (titelles de drap): Programes o perfils automatitzats simulats que actuen com a usuaris humans de diferents demografies per avaluar-ne les respostes.
   • Auditories col·laboratives o crowdsourced: Demanar a usuaris reals que donin o capturin les seves dades a través de ginys o extensions de navegador (com es va fer per comprovar si el portal de viatges Orbitz apujava els preus als usuaris de Mac).
   • Consideracions ètiques i de càrrega: L'auditoria ha de protegir la privacitat de les dades recollides i mesurar que les seves consultes massives no alentin, sobrecarreguin o facin caure el sistema auditat.
4. Anàlisi de dades (Analysis): Procés estadístic i iteratiu per mesurar els danys o el compliment de les normes. Es demana evitar l'ús de plantilles o tràmits buits per complir obligacions com la llei Local Law 144 de Nova York.
5. Comunicar les conclusions (Communicating findings): Divulgar els resultats de forma clara (en revistes acadèmiques, xarxes socials, informes o a la premsa). El ressò de Gender Shades va motivar que grans firmes de tecnologia aturessin o abandonessin la venda de reconeixement facial a la policia.

• Exemple pràctic d'auditoria ("The Silicon Ceiling"): El llibre detalla un estudi realitzat sobre GPT-3.5 de OpenAI per avaluar biaixos en els processos de selecció. Els auditors van utilitzar el model per generar de forma automatitzada 320 currículums associant-los a noms estadísticament vinculats a perfils de gènere i ètnics. L'anàlisi va demostrar que GPT-3.5 redactava currículums amb un menor nombre d'anys d'experiència laboral per a noms de dona en comparació amb els d'home, i assumia que el 100% de les persones amb noms hispans parlaven espanyol i eren immigrants en tràmits de visat (unes dades molt allunyades de la realitat demogràfica dels EUA).
• Variacions de l'auditoria: S'inclouen les auditories de codi font (habituals en sistemes de votació), auditories que avaluen les pantalles sense poder connectar entrades i sortides, i les auditories recurrents, necessàries perquè els sistemes d'IA estan en constant actualització i aprenentatge (com va passar amb el canvi del trending tòpic de Twitter el 2010 pel "fenomen Justin Bieber", que va modificar completament el funcionament de la xarxa).

Capítol 4: Interpretació dels resultats de l'auditoria (Interpreting Audit Results)

Amb el naixement de lleis com la Local Law 144 de Nova York (que obliga a auditar els algorismes de contractació de recursos humans), els directius de les empreses i els usuaris necessiten aprendre a destriar si una auditoria està ben executada o si és de mala qualitat.

• Bugs de disseny i paranys de l'intèrpret:
  • El problema de la definició: S'ha de comprovar quina pregunta s'ha plantejat l'auditoria. Per exemple, el "problema del magdalena-Chihuahua" (un error de categorització còmic de l'IA visual) és fàcil de definir, però avaluar el "biaix" és molt més abstracte. Un exemple de buit legal va ser quan els portals de vols van començar a canviar la nomenclatura d'ordenació a "millor" o "recomanat" per passar les auditories de "display bias" sense haver de modificar les seves pràctiques opaques de promoció de vols.
  • La regla del 4/5 (80%): Un llindar comú en les auditories de selecció laboral és el del 80% (admetre un ràtio de contractació de minories de com a mínim quatre de cada cinc respecte al grup més afavorit). Tot i utilitzar-se de manera automatitzada, molts experts recorden que és una mesura antiga i arbitrària que no sempre detecta els danys reals.
  • La representativitat de les categories d'assaig: Els conjunts de dades utilitzats per auditar (com el conjunt FairFace) sovint s'etiqueten mitjançant treballadors barats de plataformes de microtreball, excloent perfils complexos com les persones de raça mixta o minories de poca presència (com els illencs del Pacífic) si els treballadors no es posaven d'acord en l'etiqueta visual.
  • Dades obsoletes i heretades: Si l'auditoria es fa amb les mateixes dades històriques esbiaixades de l'empresa, es corre el risc de validar i consolidar els biaixos, com va ocórrer amb un programari d'Amazon que penalitzava paraules de currículums de dones perquè els deu anys anteriors de dades de contractació de l'empresa eren majoritàriament d'homes que utilitzaven termes masculins com "executat".
• Comparativa de dos casos reals sota la Local Law 144:
  • L'auditoria de Paramount (realitzada per BABL AI sobre Pymetrics): Un informe aparentment oficial i extens de 21 pàgines amb un resultat de "PASS". Malgrat el seu aspecte, una anàlisi dels detalls revela que les dades demogràfiques es recollien mitjançant una pantalla voluntària al final del procés. Un lector atent pot calcular que les dades de gènere i ètnia faltaven en el 30% dels sol·licitants, de manera que l'auditoria només analitzava l'experiència de 7 de cada 10 persones, ocultant un gran grup on podien ocórrer pràctiques de biaix.
  • L'auditoria de NBCUniversal (realitzada per ConductorAI sobre SmartRecruiters): Un document d'una sola pàgina que, a diferència de l'anterior, era transparent i detallat. Mostrava el nombre absolut d'aplicants, els candidats exclosos per manca de dades (que representaven només el 2,5% del total, donant molta més confiança) i publicava els ràtios d'impacte de tots els grups ètnics, incloent els de menys del 2% de representació.
  • Aquesta comparativa demostra que "no s'ha de jutjar un llibre per la seva coberta" en matèria d'auditories.

Capítol 5: Després de l'auditoria (After the Audit)

L'auditoria ha de servir per propiciar el canvi pràctic o bé protegir un producte ben fet.

• Millora de producte: L'auditoria serveix per corregir biaixos, com els errors de gènere que cometia Google Translate quan traduïa idiomes sense gènere gramatical de forma asimètrica (per exemple, associant "doctor" a homes i "infermera" a dones en traduir el turc a l'anglès), el qual va ser modificat gràcies a mètodes de mitigació d'estereotips en les associacions de paraules (word embeddings). També, Eslami i Karahalios van auditar les cerques de Twitter per demostrar de manera científica que el motor de cerca no prioritzava els candidats demòcrates de forma artificial, sinó que es limitava a reflectir el volum de tuits reals dels usuaris.
• El parany de les solucions "tirita" (Band-Aid): El 2015, l'aplicació Google Photos va etiquetar erròniament una foto de dues persones negres com a "goril·les". Google es va disculpar i la seva solució ràpida va ser esborrar les etiquetes de "goril·la", "ximpanzé" i "mico" del tot. Una auditoria feta vuit anys després va revelar que ni Google Photos ni Apple Photos eren capaços d'etiquetar un goril·la de veritat. Això demostra que les solucions cosmètiques només amaguen el problema de fons.
• La repetició d'auditories: ProPublica va repetir l'auditoria a Facebook el 2017 i va descobrir que, tot i haver eliminat les "afinitats ètniques", l'entorn de publicitat seguia permetent excloure de forma manual perfils de mares o persones amb cadira de rodes en anuncis de lloguer d'immobles. Finalment, Meta va eliminar completament la tria per edat o gènere en aquests anuncis, però l'algorisme de lliurament de la pròpia plataforma va continuar distribuint la visualització dels anuncis de manera desigual en funció de categories protegides.
• Altres conseqüències:
  • Abandonament del sistema: Tancar un programari per ser massa perillós (com l'asfíxia de les aplicacions de patrullatge policial predictiu).
  • Accions de resistència activa: Com el teixit "HyperFace" dissenyat per l'artista Adam Harvey amb patrons que l'IA de vigilància confon amb cares humanes per camuflar l'usuari, o la col·locació d'adhesius en senyals de STOP per desorientar el visor de cotxes autònoms.
  • Revelar valors: L'auditoria d'UNOS va obligar a eliminar la variable de "raça" en el càlcul de la funció renal dels pacients per rebre trasplantaments, canviant un sistema que perjudicava els malalts de ronyó negres.
• Polítiques públiques i dret: Les auditories van guiar la redacció de documents de referència de l'administració nord-americana com el Blueprint for an AI Bill of Rights de la Casa Blanca o l'Ordre Executiva 14110 del 2023 (vigent com a guia de regulacions). A més, donen legitimitat (standing) en demandes col·lectives davant la justícia i alimenten litigis en els tribunals (com el cas d'Idaho on es va demostrar que el càlcul d'ajudes de salut per a discapacitats usava dades històriques falses i retallava les prestacions de forma inconstitucional).

Capítol 6: Un ecosistema d'auditoria saludable (A Healthy Audit Ecosystem)

L'objectiu final de les auditories és aconseguir que el nostre ús diari de la tecnologia sigui tan invisible, segur i confiable com beure un got d'aigua neta de l'aixeta de casa.

• La cultura de Silicon Valley i els "accidents normals": La vella consigna de Facebook "Mou-te ràpid i trenca coses" (Move Fast and Break Things) i la seva relaxació pel risc pot servir per a un servei trivial de xarxa social, però s'ha tornat molt perillosa quan es tracta de sistemes militars d'orientació d'atacs (com SKYNET o el sistema Lavender que calcula un marge d'error de víctimes civils col·laterals a Gaza). El sociòleg Charles Perrow va descriure com en sistemes de gran escala i interactius els anomenats "accidents normals" són inevitables. Això demana la integració periòdica de mecanismes de control com les auditories o l'abandonament dels sistemes de perill evident.
• La normalització de les auditories i el cas de Twitter: S'analitza el precedent del programari, on les errades o deutes es gestionaven oferint recompenses per falles (com feia el prestigiós Donald Knuth signant xecs de 2,56 dòlars als lectors que detectaven errades als seus llibres, o els programes corporatius de bug bounties). Seguint aquest camí, la cap d'ètica d'IA de Twitter, Rumman Chowdhury, va obrir una auditoria del biaix d'imatge el 2021 per implicar la comunitat després de comprovar que el seu visor automàtic retallava i invisibilitzava les cares de persones negres a les fotos de les piulades. El guanyador, Bogdan Kulynych, va demostrar de forma matemàtica que l'algorisme de retallada preferia sistemàticament imatges de dones joves, primes i de pell clara. Davant la impossibilitat de solucionar la complexitat d'aquests biaixos, Twitter va decidir abandonar el retallador automàtic i retornar als usuaris el control manual d'aquesta funció.
• Protecció legal per als auditors: Un obstacle clau històric era el perill de ser acusat de delictes de pirateria informàtica sota la llei federal CFAA (Computer Fraud and Abuse Act), que penalitzava saltar-se de forma acadèmica els "termes de servei" de les plataformes digitals per scraping o ús de sock puppets. Els professors Karahalios i Sandvig, assistits per Esha Bhandari de l'ACLU, van dur a terme una llarga batalla legal (Sandvig v. Barr) on el Tribunal Suprem dels EUA va sentenciar que auditar per defensar els drets civils no pot ser castigat com a pirateria informàtica, establint el "dret a auditar".
• Democratització i lliçons globals: El futur de la disciplina requereix que no es redueixi l'auditoria a un procés burocràtic de consultories, sinó que es creïn sistemes oberts on els propis usuaris s'uneixin de manera col·laborativa per forçar solucions (com van fer els usuaris de WhatsApp en veure que l'IA de adhesius dibuixava nens amb metralletes en escriure "Palestina", o la tasca dels investigadors de la plataforma independent WeAudit). S'esmenta com a bona pràctica internacional l'auditoria de l'associació holandesa Algorithm Audit, que va detectar biaix racial en el sistema "Smart Check" utilitzat per l'Ajuntament d'Amsterdam per predir el frau en ajudes de benestar, motivant que els directius l'abandonessin.

Epíleg: En quin món volem viure?

Els autors acaben recordant que la tecnologia no és un mer mirall neutral de la societat, sinó que té el poder de modular i governar què sabem i com recordem la nostra pròpia història (com ho fan els algorismes de YouTube quan esborren de forma automatitzada per "violència" milers de vídeos que en realitat són proves crítiques de crims de guerra a Síria, el Iemen o el Sudan).

La principal diferència entre una auditoria de caixa negra i una auditoria de codi rau en el nivell d'accés que tenen els auditors a l'interior de la tecnologia i en la metodologia que s'utilitza per avaluar-la:

• Auditoria de "caixa negra" (o de comportament):

  • Metodologia: Es basa en el disseny d'auditoria clàssic que consisteix a variar sistemàticament les entrades (inputs) del sistema i examinar-ne les sortides (outputs) que genera.
  • Nivell d'accés: Els auditors no tenen accés al funcionament intern ni al codi (d'aquí prové el terme "caixa negra"). Aquestes tecnologies són sovint tan complexes que fins i tot els mateixos enginyers o propietaris que les han construït tenen dificultats per explicar exactament per què es comporten com ho fan.
  • Objectiu: Se centra en el que fa el sistema en lloc de com funciona internament. Permet detectar biaixos i extreure conclusions sobre el seu comportament a partir d'allò que és directament observable des de l'exterior.

• Auditoria de codi:

  • Metodologia: Els auditors no interactuen directament amb el sistema desplegat, ni amb les seves sortides o dades d'ús. En lloc d'això, l'avaluació es realitza llegint directament el codi font de la programació.
  • Nivell d'accés: S'obté un accés total a la programació interna del programari, una situació que sol ocórrer quan la regulació o un contracte obliguen l'empresa a obrir i fer públic el seu codi.
  • Objectiu: S'utilitza per analitzar les línies de codi i determinar de manera anticipada quins errors, biaixos o problemes podria cometre el sistema un cop es posi en pràctica. És l'estructura habitual per a les proves de seguretat informàtica i la investigació de màquines de votació.

Mentre que l'auditoria de caixa negra s'ocupa d'avaluar i mesurar de manera externa els resultats pràctics i els efectes reals del sistema, l'auditoria de codi busca auditar les instruccions de programació originals de manera interna.

El llibre tanca citant la tesi del filòsof Karl Popper a The Open Society and Its Enemies: les societats lliures i democràtiques necessiten informació de qualitat per treballar juntes pel bé comú. Les auditories de la intel·ligència artificial són la font d'aquesta informació essencial en la societat de l'automatització.

IA pertot arreu (32)

Data Empire: The Power of Information to Organize, Control, and Dominate 

Aquest és un resum del llibre "Data Empire: The Power of Information to Organize, Control, and Dominate" (2026), de la professora d'humanitats digitals i compromís social de Dartmouth, Roopika Risam. El llibre utilitza una perspectiva històrica global per analitzar com les pràctiques de registre de dades, lluny de ser un invent de l'era computacional moderna, han estat des de l'antiguitat un motor crucial per a la governança, el control de les poblacions, el colonialisme i la consolidació del poder estatal i corporatiu.

Introducció: El recompte que mantenim (c. 65.000 aC)

L'autora inicia l'obra recordant un pòster de la seva infantesa amb pintures rupestres de la cova de Lascaux (França), de l'any 15.000 aC. El 2023, investigadors de la University College London van proposar que els punts, línies i símbols en forma de Y d'aquestes pintures no eren simples decoracions abstractes, sinó codis que registraven els cicles de reproducció dels animals i els mesos lunars: representaven, per tant, una forma primerenca de dades per a la supervivència.

L'instint de registrar és un component clau de la "modernitat conductual" de l'Homo sapiens des de fa 100.000 anys. L'evidència material més antiga de dades és l'os de Lebombo (Sud-àfrica, 43.000 anys d'antiguitat), un os de babuí amb 29 incisions utilitzat com a bastó de recompte per mesurar el temps, així com l'os de llop de Txèquia o l'os d'Ishango al Congo, que possiblement registrava cicles menstruals. Tot i que la paraula data prové del llatí datum ("allò que és donat"), les dades mai són objectives, sinó que es troben construïdes i "cuinades" per decisions humanes de selecció.

La distinció de les dades com a elements bruts, processats en informació i convertits en coneixement és un fenomen del segle XX lligat a la computació. Risam tanca l'obertura amb un cas personal en què va ser catalogada erròniament com a no ciutadana a l'Administració de la Seguretat Social dels EUA, exemplificant com les categories i els errors de les bases de dades tenen un impacte immediat en els drets i la línia de vida dels individus.

Part I: Orígens (Origins)

Capítol 1: Els primers comptables (c. 9000–1700 aC)

• La fixació del poder: L'any 2279 aC, Sargon d'Accad, un antic orfe que va passar de coper a rei de Kish, va unificar les ciutats estat de Mesopotàmia per fundar l'Imperi Accadi. Per mantenir la seva legitimitat, Sargon va utilitzar esteles de pedra on va immortalitzar les seves victòries militars i la propietat de les terres, convertint el registre en un sistema administratiu reproduïble i durador.
• Els orígens de la comptabilitat: Molt abans de Sargon, la transició de les societats caçadores-recol·lectores cap a l'agricultura (c. 6500 aC) va generar la necessitat de gestionar els excedents de gra i solucionar les disputes de confiança sobre qui aportava què a la comunitat. L'any 9000 aC, els habitants de Mureybet (Síria) ja utilitzaven fitxes d'argila (esferes, cones i discs) per comptar el gra, els cereals o les llenties. Aquestes fitxes van actuar com una eina de càlcul extern que reduïa la incertesa de la memòria. De manera paral·lela i sense contacte, la civilització de Caral-Supe (Perú) cap al 3500 aC va crear els primers quipus de cotó amb nusos per registrar el comerç de peix i cotó, i coordinar el treball col·laboratiu entre regions.
• L'argila de l'escriptura: Per protegir les transaccions a llargues distàncies comercials, els mercaders mesopotàmics guardaven les fitxes dins d'esferes d'argila buides anomenades bullae, marcant-ne l'exterior amb impressions dels objectes de l'interior. Amb el creixement de les ciutats estat, els temples es van convertir en centres de redistribució on els administradors sacerdotals utilitzaven les bullae per registrar tributs i obligacions, monopolitzant el poder sobre la població. Eventualment, les esferes es van aplanar per donar pas a les taules de cuneïforme. L'escriptura no va néixer, doncs, per explicar històries, sinó per mantenir recomptes de canals, racions i lleis.
• L'elit de l'escriptura: L'accés a l'escriptura a Mesopotàmia i Egipte era un privilegi limitat a famílies d'elit formades a les escoles d'escribas (é-dub-ba). S'esmenta que el primer nom propi registrat de la història humana no és el d'un rei o heroi, sinó el d'un comptable de la ciutat d'Uruk anomenat Kushim. L'única excepció de signatura primerenca és Enheduanna, filla de Sargon i alta sacerdotessa de Nanna, considerada la primera autora coneguda en subscriure els seus poemes. A l'Egipte faraònic, els escribes de la cort gaudien de grans privilegis i un alt estatus social per la seva capacitat de mesurar terres i registrar collites. A la Xina de la dinastia Shang, els escribes reials gravaven les preguntes i verdictes de la endevinació a les brases sobre ossos d'oracle (crans de tortuga o d'animals), creant el registre genealògic reial més antic de l'Àsia Oriental.
• Dades com a inclusió i exclusió: Els governs van utilitzar les llistes genealògiques, com la Llista de Reis Sumeris, per reescriure el passat, dotar-se d'una llinatge diví i esborrar els usurpadors. Els ciutadans comuns van aprendre ràpidament a emprar l'escriptura en el seu propi benefici per crear proves davant de la cort: Nanefer a Egipte va adoptar legalment el seu marit i els fills de la seva esclava per blindar-los davant de possibles reclamacions de la seva família política. Abraham va comprar una tomba a Canaan a Ephron per establir una transacció pública que servís de prova de presència inalterable per als seus descendents. No obstant això, el registre també servia per cosificar els individus: les llistes de Drehem registraven les persones esclavitzades sota el terme genèric de "tres esclaus", rebaixant la seva existència a mers números d'inventari.

Capítol 2: Modeladors de la forma (c. 1800–100 aC)

• La fragilitat del bronze: L'any 1180 aC, l'edat del bronze es va col·lapsar a la Mediterrània Oriental. Imperis interdependents com el d'Ugarit o l'Imperi Hittita de Suppiluliuma II es comunicaven lentament mitjançant taules de cuneïforme en llatí-accadi enviades per terra i mar. Quan les males collites, les sequeres i les migracions dels pobles del mar van colpir les línies de comunicació, el sistema no va ser capaç de renegociar les obligacions a temps i es va desintegrar. Amb la caiguda dels palaus, l'escriptura Linear B dels micènics va desaparèixer per complet perquè era un codi d'ús exclusivament administratiu de la cort que ningú més sabia llegir.
• La resiliència oral: Davant la pèrdua de l'escriptura, els grecs van recórrer a la memòria amb mètodes d'associació rítmica on els cantants (aoidoi) preservaven les epopeies homèriques de gènere en gènere. A l'Índia, després del declivi de la civilització de l'Indus, la casta sacerdotal dels bramans va perpetuar la tradició védica (Ṛgveda) de forma estrictament verbal mitjançant recitacions sil·labades de precisió matemàtica (padapāṭha) que protegien els canons litúrgics i les fórmules de mesura de la terra amb una exactitud que superava la còpia de manuscrits. Els primers israelites empraven rituals domèstics, com el qüestionari del sopar de Pesaj, com a vectors de la història de l'èxode i de la llei de l'aliança.
• La revolució de l'alfabet: L'alfabet modern va néixer del treball dels miners cananeus a les mines de turquesa de Serabit el-Khadim (Sinaí), que van adaptar jeroglífics egipcis en signes fonètics senzills. Aquest invent (anomenat Proto-Sinaític) va ser recollit pels comerciants fenicis, que van idear un alfabet de 22 caràcters consonàntics (abjad) àgil i adaptable a les rutes de comerç plurilingües. Els grecs van afegir símbols per a les vocals, fent que l'escriptura coincidís amb la parla real i reduint les distorsions de significat a distància. Això va obrir el camí per a la circulació de textos sagrats o documents de govern, com els edictes del rei Ashoka de l'Imperi Maurya escrits en escriptura Brahmi estàndard en pilars de pedra per governar diverses ètnies.
• Unificació a la Xina: Durant la dinastia Qin, l'emperador Qin Shi Huang i el seu canceller Li Si van dur a terme una reorganització massiva del territori eliminant els pesos, calendaris, monedes i dialectes antics per imposar un sol alfabet estàndard, facilitant que els informes de les províncies esculpits en llaminadures de bambú (jiǎncè) s'entenguessin sense ambigüitats en qualsevol racó de l'imperi. L'any 213 aC, l'emperador va ordenar la crema de tots els llibres de relats històrics antics per evitar qualsevol interpretació que qüestionés el present del seu regnat.
• Mesurar la naturalesa i els astres: Es van crear sistemes per registrar els patrons naturals: els astrònoms de l'Amèrica Central registraven el recorregut de Venus i el calendari sagrat de 260 dies (tzolk'in) en murals de pedra; a l'Egipte ptolemaic, els funcionaris mesuraven els canvis d'alçada del Nil amb nilòmetres de pedra per anticipar l'impacte d'inundacions o sequeres i adaptar els impostos; a l'Amèrica del Nord, els constructors de la tradició Hopewell van dissenyar els mòpids de Newark per mesurar els canvis d'angle del cicle lunar de 18,5 anys per fixar les dates de trobades de clans. L'mecanisme d'Anticitera (s. I aC), un ordinador analògic d'engranatges de bronze, ajudava els grecs a predir eclipses i calendaris de manera automatitzada. Els viatgers documentaven el seu trajecte a través de manuals de guia marítims (peripli), com la travessia costera d'Hanno de Cartago cap al sud d'Àfrica o la ruta de Scylax de Caryanda al riu Indus per a Darius de Pèrsia.
• La Biblioteca d'Alexandria: Sota els primers Ptolemeus, els inspectors de duanes tenien dret a registrar els vaixells per extreure'n qualsevol rotlle de papir on hi hagués text escrit per copiar-lo de forma sistemàtica. Amb més de 500.000 rotlles dipositats a la Biblioteca, els caps de servei com Zenodot d'Efes i Cal·límac de Cirene van dissenyar sistemes d'etiquetatge metadata i indexació alfabètica (el catàleg Pinakes), creant les bases per a la síntesi del coneixement humà. Això va esperonar reflexions sobre el paper de la informació: l'historiador Sima Qian va redactar el Shiji encreuant arxius de antics imperis xinesos rivals per dissenyar una cronologia unificada; Plató va reflexionar sobre l'accés a la veritat en l'al·legoria de la cova; i les escoles budistes i jainistes de l'Índia van demanar debats (vāda) estructurats per validar la inducció de coneixement.

Capítol 3: Els arquitectes de l'acció (c. 350 BCE–400 CE)

• L'art del temps de Kautilya: El mestre Kautilya va aconsellar al seu jove deixeble Chandragupta Maurya conquerir l'Imperi Nanda tallant els subministraments des de les fronteres ("menjant el pastís des de les vores"). Al manual del govern (l'Arthashastra), Kautilya va codificar que el poder reial depèn de mantenir circuits d'informació actius i creuats: va recomanar el servei de espionatge permanent format per ciutadans comuns (perruquers, actors, captaires i prostitutes) per verificar les declaracions de collita i els moviments de tropes, evitant així dependre de la lleialtat de governants locals.
• Estratègies imperials: A la dinastia Han, el diplomàtic Ban Chao va aconseguir el domini de cinquanta petits regnes dels oasis de la conca del Tarim manipulant les rivalitats dels clans i distribuint cartes amenaçadores (com el lliurament del cap tallat de l'enviat del regne de Yuezhi), imposant la subordinació a l'emperador mitjançant la propaganda en lloc de costoses batalles de l'exèrcit. Les Rutes de la Seda van funcionar com a sistemes de reconeixement tancats on els parts van enganyar l'enviat xinès Gan Ying explicant que trigaria dos anys a creuar la mar cap a territori romà, boicotejant així el contacte directe entre ambdós imperis per conservar el monopoli del mercat de seda. L'any 552, uns monjos cristians van amagar ous de cuc de seda dins de canyes de fusta buides per portar el secret de la sericultura a l'emperador de Bizanci, transformant l'economia de la Mediterrània.
• Geometries de dominació: Eratòstenes va mesurar la circumferència de la Terra comparant l'angle d'ombra del sol en el solstici a Alexandria i Assuan (Syene), calculant la distància amb bematistes de l'exèrcit. Estrabó va escriure la seva Geographica per descriure els tipus de terreny on un militar romà hauria de caminar, prioritzant la utilitat de les descripcions per sobre de la perfecció cartogràfica. A la Xina, els historiadors Ban Gu i Ban Zhao van completar el Han Shu, un registre exhaustiu que creuava censos de població, fàbriques de sal i cursos de rius per planificar les rutes de transport sense revoltes de pagesos. En contrast, les cultures aborígens d'Austràlia recorrien a les "línies de cançons" (com la cançó de les Set Germanes), que funcionaven com a mapes cantats per moure's pels deserts d'un país a un altre sense fronteres físiques, prioritzant el respecte de pas i el capital de cura abans que la possessió de la terra.
• Mesura i control de la població: Els agrimensors (agrimensores) romans utilitzaven la groma per fixar els camins principals (cardo i decumanus) i imposar una retícula ortogonal de parcel·les (centuriatio) en llocs de conquesta com Timgad, facilitant la concessió de propietats a veterans i la recaptació fiscal. A Mesoamèrica, la metròpolis de Teotihuacán es va erigir sota una estricta graella astronòmica redirigint el curs de riu San Juan i assentant milers de famílies d'orígens diversos en mòduls d'apartaments tancats que unificaven la societat. L'any 2 d'onze, els funcionaris de la dinastia Han van realitzar un cens de 58 milions de persones (un cinquè de la població de la Terra) per designar impostos personals i corvees militars. La intenció d'enumerar els ciutadans també va obrir crisis de sobirania: a Judea, el cens romà de Quirini de l'any 6 dC va provocar la revolta de Judas de Galilea i el fariseu Zadok, que van argumentar que registrar-se a les llistes romanes trencava l'aliança amb Déu i implicava sotmetre's a l'esclavatge de l'imperi, posant les bases del moviment zelot.

Capítol 4: Àrbitres de tot (c. 300–1400 CE)

• El control del relat religiós: Per aturar les violentes baralles dels bisbes al voltant de les doctrines d'Arri d'Alexandria (qui veia en el Fill un ésser subordinat) i Atanasi de la mateixa ciutat (qui en defensava la unió amb el Pare), l'emperador Constantí va convocar el Concili de Nicea el 325. Per evitar que la interpretació lliure de les escriptures esquerdés el consens de govern imperial, Constantí va aplicar el dret de procediment administratiu forçant una votació i la signatura de tots els representants en una sola confessió (el Credo de Nicea), exiliant qui s'hi oposés.
• Monestirs com a garants de la veritat: Sota les invasions dels pobles germànics, l'erudit Cassiodor va fundar el monestir de Vivarium per reunir i salvar els manuscrits de l'antiguitat clàssica. No obstant això, en el procés de preparació del pergamí (un procés complex a partir de pells de xai scrapejades) i la posterior escriptura, els monjos afegien la nota de marginació achresimon ("inutilitzable") en aquells paràgrafs pagans contraris a la fe, limitant com els joves estudiants podien llegir o interpretar els textos clàssics.
• La llibertat de Baghdad: Durant la revolució del paper del segle VIII a l'Abbasid Caliphate, la ciutat de Baghdad va albergar la Bayt al-Hikma (Casa de la Saviesa), on es van traduir milers de textos clàssics grecs, sánscrits i perses emprant un mètode acadèmic basat en el contrast d'edicions i la lliure revisió de conceptes. L'erudit Al-Khwarizmi va dissenyar l'àlgebra (al-jabr) i els algoritmes matemàtics per solucionar de forma pràctica problemes de herències i comerç en un territori en expansió. En contrast amb la uniformitat teològica d'Europa, l'arxiu d'Ibn al-Nadim o els desenvolupaments de la matemàtica Sutayta al-Mahamali demostren que el consens islàmic acceptava el contrast d'arguments com a font de ciència.
• L'imperi de les plantilles escrites: A l'Europa medieval, les corts merovíngies van introduir els formularis (documents amb espais en blanc) per transformar qualsevol transacció, rapte o dot de noces en una fórmula legal que l'Estat pogués processar i auditar. La família dels Pippínids (origen de la dinastia carolíngia) va consolidar la seva posició de poder en obtenir el control i la tutela dels arxius de monestirs i bisbats. L'any 1086, Guillem el Conqueridor va dur a terme la redacció del Domesday Book, una enquesta de dades que va analitzar tots els bous, molins i pagesos d'Anglaterra (com els de la finca Broadwell de l'abadessa Cristina) per organitzar la fiscalitat reial i consolidar la despossessió de les elits anglosaxones.
• Canons de raonament: La dinastia Song (Xina) va establir els exàmens imperials en Kaifeng basats en la memorització tancada dels cànons confucians per crear una burocràcia fidel i uniforme, com es mostra en la carrera de l'erudit Shen Kuo. Al mateix temps, l'imperi Seljúcida va instituir les madresses Nizamiyya per ensenyar el sistema de raonament jurídic (sharia) dissenyat per Al-Shafi'i, prioritzant les referències del llibre per damunt dels costums dels pobles. Les noves universitats de París i Bolonya van formar els advocats i teòlegs del dret comú utilitzant el mètode escolàstic de Thomas d'Aquino. Finalment, la Inquisició dels Dominics (Bernard de Caux, Bernard Gui) va emprar qüestionaris de heretgia estandarditzats per aïllar els dissidents càtars a Occitània, creant expedients d'interrogatori que reduïen els testimonis orals individuals a categories delictives dures.

Part II: Ordres (Orders)

Capítol 5: Els conqueridors del món (c. 1324–1701 CE)

• L'absència de registre en l'exploració: Tot i que Mansa Musa de Mali va narrar a l'erudit del Caire Abu al-Hasan com el seu predecessor havia llançat una flota de milers de vaixells a l'oceà Atlàntic, i malgrat que ambaixadors de la cort de l'est d'Àfrica com Yoḥannǝs o Bans de Arda viatjaven regularment per Roma o Espanya, aquestes expedicions no van quedar registrades en els llibres colonials de la història de l'exploració europea pel fet de no disposar de sistemes de dades reconeguts per la potència central.
• La línia del descobriment: Després del retorn de Cristòfor Colom, el papa Alexandre VI va signar la butlla Inter Caetera (1493), dividint el món amb una línia imantada a 100 llegües de Cap Verd i conferint els drets de colonització sota la "Doctrina del Descobriment". Aquest marc legal considerava que qualsevol terra no governada per un rei cristià era terra nullius (terra buida), de manera que l'obtenció de dades cartogràfiques i manifests de descobriment es convertia en la prova jurídica per exigir la propietat legal del territori, com van fer John Cabot a Terranova per a Anglaterra o Verrazzano a la costa de Carolina per a França.
• Mapejar el conflicte: A la mar de l'Índia, el gran visir otomà Ibrahim Pasha i el seu almirall Piri Reis (autor del llibre marítim Kitab-ı Bahriye) van encreuar mapes de rutes d'àrabs i perses per disputar les colònies portugueses de Goa, Aden i Ormuz. El Tractat de París de 1763 va establir les fronteres estatals americanes basant-se en línies cartogràfiques definides en les corts europees, passant per damunt de les nocions territorials i els pactes d'aliança de les nacions indígenes de la Confederació de Haudenosaunee.
• La impremta de l'imperi: La invenció de la impremta de tipus mòbils de Gutenberg a Europa (que ja s'havia fet servir segles enrere a l'Àsia Oriental de forma artesanal) va expandir l'accés a les històries i justificacions colonials. No obstant això, el Consell de les Índies va censurar obres d'historiadors reials com Gonzalo Fernández de Oviedo per evitar que la crueltat d'algunes campanyes caigués en mans de potències rivals i donés arguments a la "Llegenda Negra". El frare Bartolomé de las Casas va emprar l'estadística de la destrucció (recomptes de morts i desolació) en la seva Brevísima relación per forçar el canvi del codi legal (les Lleis Noves de 1542). A Perú, l'erudit Felipe Guamán Poma de Ayala va redactar una crònica il·lustrada de dotze-centes pàgines per defensar la intel·ligència de l'administració dels incas encreuant els recomptes dels quipus amb la història de la corona espanyola, una obra que va quedar amagada a la Biblioteca de Copenhaguen durant tres segles sense que el rei la llegís.
• L'imperi de paper de Felip II: L'emperador Felip II de Castella va establir la centralització dels arxius a la fortalesa de Simancas per organitzar l'allau de manifests, censos i cartes que arribaven de les colònies de l'Atlàntic i el Pacífic, creant les primeres regles d'arxiu per evitar el desgast i l'obsolescència de dades. Felip II, conegut com el Rey Papelero, supervisava personalment cada full de registre, obrint el camí cap a la creació de l'Arxiu General d'Índies de Sevilla. De forma oposada, la dinastia Joseon de Corea (l' "Imperi Hermità") va respondre a les invasions del Japó i dels manxús tancant l'accés a qualsevol cartografia o intellgència exterior, considerant que el secret d'informació i l'opacitat del territori eren les millors defenses contra l'expansió de les potències imperials estrangeres. A Nova Anglaterra, els colons puritans van utilitzar el registre de delimitacions (metes and bounds) de la finca de Salem per tancar el territori de pastura de la líder Squaw Sachem de la nació Naumkeag, convertint els costums d'acollida oral en contractes d'exclusió de propietat privada que més tard farien servir per resistir-se al control del mateix rei d'Anglaterra.

Capítol 6: Mestres de la mesura (c. 1650–1835 CE)

• L'aritmètica de la violència de Petty: Per justificar la despossessió i redistribució de la terra després de la campanya d'Oliver Cromwell, el metge militar William Petty va liderar la redacció de la topografia Down Survey, aixecant recomptes de més de 50.000 acres de terra profanada a Irlanda. Petty va defensar la utilitat de canviar i desplaçar de forma planificada les famílies catòliques per protestants basant-se en ràtios exactes de població per garantir l'estabilitat colonial (la seva "aritmètica política"). Aquesta via de pensament es va lligar als treballs del demògraf John Graunt, que analitzava els Bills of Mortality (l'acta de defuncions de les parròquies de Londres) durant la pesta per predir el comportament de futures crisis de població.
• La mercantilització dels cossos de les colònies: El concepte de dades (data) va aparèixer per primer cop a la publicació científica de la Royal Society (Philosophical Transactions) per designar valors matemàtics considerats "donats" i lliures de context de producció. A les colònies de Surinam, els enginyers holandesos de la WIC i de la VOC dibuixaven mapes cadastrals (leggerkaarts) de les plantacions de canya de sucre que servien de garantia financera per a la creació de títols de deute (negotiaties) comercialitzats a la borsa d'Amsterdam per compradors que mai veurien la violència que patien els esclaus com el jove Quaco.
• La comptabilitat de la tracta: Els vaixells com el Bud de John Clare registraven la seva mercaderia humana en recomptes percentuals de gènere i edat. Per sota de la coberta, els armadors optimitzaven els espais del vaixell (com el cèlebre diagrama del Brooks) mesurant la densitat de cossos necessària per treure rendiment davant de la mortalitat. Els corredors de la fMR de Lloyd's de Londres calculaven les primes d'assegurança d'aquestes travesses, i empreses com Aetna i Nautilus (més tard New York Life) venien assegurances de vida sobre esclaus de les plantacions del sud dels EUA. Els esclaus van resistir-se emprant la publicitat dels diaris de recerca (que recollien en els seus avisos de fuga detalls de cicatrius, llengües parlades i trets d'identitat) o forjant certificats d'alliberament falsos com va fer John W. Prout. William Still va recollir el registre dels esclaus evadits a la xarxa subterrània per ajudar a mantenir els llaços familiars de les nissagues de color, un testimoniatge de dignitat humana que es va enfortir amb l'escriptura autobiogràfica d'Olaudah Equiano, Harriet Jacobs i Frederick Douglass.
• L'ordre de la quadrícula: La monarquia espanyola va fixar les distincions demogràfiques de la societat americana mitjançant el sistema de castes. Es van pintar les conegudes pintures de casta (com Despañol y India produce Mestiso de Rodríguez Juárez) per associar la puresa de sang a la hidalguia o a la rudesa del treball, i el rei Carles III va exigir un cens de població progressiu de totes les Amèriques el 1776 per quantificar la riquesa tributària. L'any 1780, el comitè de Arequipa es va aixecar contra el cens i va cremar el llibre de duanes de Juan Bautista Pando. A l'Amèrica del Nord, Thomas Jefferson va dissenyar el mètode de parcel·lació del Public Land Survey System per dividir els territoris del Nord-oest en graelles ortogonals de milles quadrades, el qual va ser recolzat amb cadenes i brúixoles per l'enginyer Thomas Hutchins. Malgrat l'aliança de Blue Jacket de la nació Shawnee i Little Turtle de la nació Miami, el mètode geomètric va desposseir les nacions indígenes de més del 98% del seu territori real de caça. El capital industrial s'associava al control de temps del treballador (la filadora mecànica jenny d'Hargreaves o els telers automatitzats de targetes perforades de Jacquard). A l'Índia, el metge Francis Buchanan va recollir recomptes de les castes de Bengala i Bihar per a la Companyia de l'Índia Oriental, canviant una realitat social flexible en una taxonomia administrativa rígida que els britànics farien servir per governar.

Part III: El regnat de les dades (The Reign of Data)

Capítol 8: Llevadores d'una màquina (c. 1880–1950 CE)

• L'automatització del cos de treball: L'any 1910, la jove migrant jueva Hannah Shapiro va rebutjar la retallada d'un quart de cent en el seu preu de cosit, iniciant la gran vaga de tallers de confecció de Chicago. Els directius aplicaven les regles del taylorisme (organització científica del treball), utilitzant cronòmetres per mesurar i sincronitzar cada moviment de l'obrer com si fos un engranatge d'acer. Durant la Primera Guerra Mundial, aquests mètodes van passar a la lògica de guerra: David Lloyd George a Gran Bretanya i Bernard Baruch a la Junta d'Indústries de Guerra dels EUA van utilitzar màquines de targetes perforades per calcular el volum de carbó, el personal de fàbriques de munició i la ràtio de producció de fusta. El cartògraf Leonard Ayres va tancar el balanç de la guerra en gràfics estadístics de defuncions i despeses.
• L'Estat del benestar i les seves ombres: Roosevelt va dur a terme el programa del New Deal encreuant informació econòmica d'ajudes socials d'urgència d'Elizabeth Wickenden, mentre que l'Administració de la Seguretat Social (1936) catalogava més de 100 milions d'americans a les fitxes d'índex de targetes de targetes perforades de l'IBM Collator. A la Unió Soviètica de Stalin, l'organització central de Gosplan dissenyava plans de quota d'acer de gran abast. No obstant això, quan el cens de 1937 de l'estadístic Olimpiy Kvitkin va revelar que la població real (162 milions) es trobava 8 milions de persones per sota de la declarada oficialment per culpa de la fam massiva de la col·lectivització (Holodomor), Stalin va fer arrestar i afusellar els investigadors de dades per un suposat delicte de sabotatge de dades.
• L'eugenesia com a eina científica: El pensament de Francis Galton (creador del terme eugenesia) es va materialitzar en els exàmens de "Better Babies" de les fires estatals i en la recollida de nissagues del registre d'Harry Laughlin de l'Eugenics Record Office. Els governs dels EUA van aplicar lleis de esterilització forçosa validades pel Tribunal Suprem en la sentència de Carrie Buck de 1927. Aquesta violència biològica va ser imitada a Canadà contra dones indígenes i va inspirar els científics nazis. El metge de dades Bruno Beger va mesurar cranis i empremtes a la seva expedició al Tibet de 1938 per validar les teories nacionalsocialistes d'arrels de la raça ària.
• L'automatització del genocidi d'IBM: A través de la seva filial Dehomag dirigida per Willy Heidinger, amb el consentiment del president de la matriu d'IBM Thomas J. Watson, l'agència d'estadística del Reich va utilitzar targetes de programació personalitzades per indexar, classificar i identificar els ciutadans jueus de les ciutats d'Alemanya i dels camps de concentració (el departament Hollerith Abteilung). Els propis camps utilitzaven targetes perforades per gestionar els interns mitjançant el número d'identificació que tenien tatuat als seus braços. Els informes de l'SS Richard Korherr reflectien en números "nets" la deportació massiva dels milions de víctimes, i Beger va seleccionar 86 interns de Auschwitz per assassinar-los al camp de Natzweiler i crear una col·lecció de esquelets com a evidència de raça.
• El balanç a Nuremberg i la impunitat a Unit 731: Durant els judicis de Nuremberg, el fiscal Robert Jackson i Benjamin Ferencz van aconseguir condemnar els líders nazis a partir del lliurament dels seus propis documents i registres de defuncions del Reich. No obstant això, el govern dels EUA del general Douglas MacArthur va oferir impunitat i silenci penal als metges de la divisió secreta de guerra biològica de l'exèrcit del Japó (l'Unitat 731) a canvi d'adquirir en exclusiva els resultats dels seus experiments de tortures de laboratori fets sobre pacients xinesos i coreans considerats maruta ("troncs").
• L'inici de la computació: Per desxifrar les transmissions militars de la màquina Enigma dels alemanys, el matemàtic de Bletchley Park Alan Turing va dissenyar la màquina electromecànica Bombe, i Tommy Flowers va crear el primer ordinador digital gran anomenat Colossus per trencar el xifratge de Lorenz. Als EUA, John Mauchly i J. Presper Eckert van dissenyar l'ordinador ENIAC, de gairebé trenta tones, programat originalment per sis matemàtiques de l'exèrcit (incloent Kay McNulty) que connectaven cables a partir de plànols manuals complexos. L'any 1948, el monestir acadèmic de Manchester va veure néixer el Manchester Baby, la primera màquina que guardava les instruccions del seu propi programa a la memòria. Turing va obrir les preguntes sobre la imitació pensant en el futur de l'aprenentatge artificial abans de suïcidar-se després d'haver estat jutjat per homosexualitat per la seva pròpia pàtria.

Capítol 9: Profetes de la predicció (c. 1944–2002 CE)

• L'ordre financer de Bretton Woods: L'any 1944, la conferència de Bretton Woods va veure debatre l'origen de la fiscalitat global: John Maynard Keynes va proposar una cambra de compensació basada en la moneda fictícia bancor lligada a la balança comercial. Tanmateix, el secretari de tresoreria dels EUA, Harry Dexter White, va imposar que el patró reial fos el dòlar americà vinculat a l'or, obrint la fundació de l'FMI i del Banc Mundial. El Banc Mundial va estrenar el seu sistema de dades d'ajudes de desenvolupament a Colòmbia el 1950, dissenyant qüestionaris de viabilitat que ignoraven els costums o els drets locals per forçar reformes econòmiques de lliure mercat favorable a empreses privades.
• Mètodes de control en l'Índia i la Xina: Per resistir-se al control dels bancs estrangers, el científic de dades indi P. C. Mahalanobis va formular l'enquesta probabilística de la National Sample Survey per analitzar la despesa de les famílies i anticipar necessitats de producció industrial de ferro i arròs, instal·lant l'ordinador HEC 2M el 1956. De manera contrària, la Xina comunista de Mao Zedong va refusar el mètode d'enquesta de dades per considerar-lo burges, i va aplicar la via d' "enumeració exhaustiva" per a tota la nació. Sota la pressió de complir les quotes de producció del Gran Salt Endavant, els inspectors de districte van inflar artificialment els números de la collita de gra, un frau estadístic sistèmic que va causar una fam massiva en què van morir milions de persones. L'enginyera xinesa Xia Peisu va desenvolupar el primer ordinador nacional model 107 per gestionar la informació del país.
• Els intents de planificació de dades (OGAS i Cybersyn): L'any 1965, el soviètic Victor Gluxkov va proposar el disseny del sistema OGAS, una xarxa de dues-centes mil terminals per gestionar en temps real els subministraments de l'economia de l'URSS sense diners. La resistència de les agències del govern, que es negaven a fusionar les seves bases de dades per por a perdre influència política, i els frens de l'embargament tecnològic occidental (CoCom), van aturar el projecte. A Xile, el ministre de la CORFO Fernando Flores i Stafford Beer van dissenyar el projecte Cybersyn (Synco) per enllaçar les fàbriques estatals amb un ordinador IBM System/360 a Santiago emprant la xarxa de tèlex Cybernet. En la vaga de camioners de l'any 1972 promoguda per la CIA, el projecte va permetre organitzar les descàrregues de combustible d'urgència de forma eficient, abans que el projecte fos tancat pel cop d'estat de Pinochet.
• Predicció nuclear i satèl·lits: Als despatxos de la corporació RAND, els programadors utilitzaven models de dades per simular guerres de míssils nuclears (com l'exercici Seven Days to the River Rhine del Pacte de Varsòvia), convertint les conseqüències de l'apocalipsi de fons en estadístiques acceptables de gestió militar. Els nous satèl·lits espacials (Landsat 1 i satèl·lits de reconeixement soviètics) van cartografiar el mapa del món de forma detallada per guiar de manera precisa míssils i predir fams.
• Privatització de la xarxa i l'inici del negoci de dades: El somni de llibertat de de computació domèstica del Homebrew Computer Club d'Steve Wozniak (qui regalava el codi de la placa d'Apple I) va ser canviat per la lògica comercial de Bill Gates, que va renyar els aficionats en la seva carta oberta d'any 1976 argumentant que compartir codi és robatori de propietat intel·lectual. Amb la creació del sistema de transport de paquets TCP/IP i la invenció de la World Wide Web per Tim Berners-Lee a la xarxa de CERN el 1991, internet va iniciar la seva expansió internacional. Tanmateix, les xarxes públiques es van privatitzar ràpidament, i empresaris com Hank Asher (cofundador de Database Technologies) van descobrir que podien creuar els registres electorals, de trànsit i crèdits personals per empaquetar dossiers d'identitat comercialitzables, obrint el camí per a la base de dades gegant de ChoicePoint. Els xatbots i motors de cerca (Google) van monetitzar les recerques dels usuaris venent perfils de consumidors a agències de publicitat com DoubleClick amb l'ús de galetes de seguiment (cookies).

Capítol 10: Sobirans del codi (c. 2001–2026 CE)

• L'era de la vigilància massiva: L'any 2001 es va llançar Wikipedia com a espai col·laboratiu de coneixement públic. Però amb els atacs de l'11 de setembre de 2001, la llei PATRIOT Act dels EUA va canviar les regles d'accés digital del govern i les agències van vigilar les pròpies edicions i adreces de la plataforma en secret. L'any 2002, el tècnic de manteniment d'AT&T Mark Klein va descobrir l'existència de la Room 641A a San Francisco, una cambra oculta on l'Agència de Seguretat Nacional (NSA) copiava i emmagatzemava tot el flux de dades i missatges domèstics directament de les línies de fibra òptica. L'any 2013, l'analista de la CIA Edward Snowden va lliurar els papers del programa de vigilància PRISM, que va demostrar la collusió de la xarxa d'intel·ligència dels Cinc Ulls (EUA, Regne Unit, Canadà, Austràlia i Nova Zelanda) amb agències privades per vigilar el trànsit d'internet de tot el món. Aquesta via va ser executada a Rússia per l'FSB amb el lliurament dels registres de les terminals SORM, i a la Xina amb la vigilància del contingut de missatges de WeChat.
• Regulació i sobirania indígenes: Per frenar l'explotació indiscriminada de les dades d'usuaris, el Parlament Europeu va aprovar el Reglament General de Protecció de Dades (RGPD) l'any 2016, sancionant empreses com Meta amb multes d'almenys 1.200 milions d'euros pel trànsit de dades fora de la UE. Paral·lelament, els moviments de sobirania de dades indígenes (com la xarxa maori Te Mana Raraunga a Nova Zelanda) van reivindicar el control històric de la informació biològica i de llinatge (whakapapa), forçant la signatura de convenis amb les agències estatals per protegir el coneixement sagrat del seu teixit.
• La fragilitat física de la xarxa: Tot i la noció de l'existència "al núvol", les dades són físiques i viatgen per sota del fons del mar en cables fins com un tub de jardí. L'any 2025, un vaixell de xarxa tancat xinès va tallar el cable submarí Trans-Pacific Express a l'estret de Taiwan, repetint esdeveniments de sabotatge a la mar Bàltica. Durant l'atac de l'exèrcit de Rússia a Ucraïna el 2022, les línies d'internet dels territoris conquerits de Kherson van ser intervingudes amb SORM. La xarxa de satèl·lits de comunicació Starlink, de la corporació SpaceX d'Elon Musk, es va convertir en la línia d'unió de l'exèrcit ucraïnès, evidenciant el poder geopolític que un sol magnat del codi privat té per apagar o encendre l'accés d'una nació segons els seus propis interessos o preus.
• L'impacte de les "grans granges" de servidors: Google va instal·lar el seu primer centre de processament de dades d'hiperescala a The Dalles (Oregon) l'any 2006, assecant fins a cinc milions de galons d'aigua diaris del cabal de la conca del riu Columbia per refredar els seus milers de targetes de memòria de dades d'usuaris i consumint la xarxa elèctrica de la regió de forma dràstica. Aquest teixit de centres de dades s'alimenta del deure del mineral de cobalt de l'Àfrica Central i dels processadors construïts a Taiwan, i els residus de les plaques cremades acaben llançats en deixalleries tecnològiques de l'Índia o de Ghana.
• Biometria i identitat de subjecció: L'Índia va llançar l'any 2010 la base de dades biomètrica d'Aadhaar, recopilant les empremtes i la imatge de l'iris de més de mil milions de ciutadans (la primera d'elles, la dona tribal Ranjana Sonawane). No obstant això, Aadhaar ha provocat l'exclusió sistemàtica i la pèrdua de beneficis d'ajuda social de milers de persones de tribus Adivasi per culpa d'errors de connexió o frau de comptes de bancs secrets fets de forma digital. A la Xina, l'ajuntament policial de la regió de Xinjiang utilitza cambres d'IA i programaris de reconeixement d'emocions fets en cadires de retenció per vigilar de manera permanent la minoria dels uiguris, tancant milers de ciutadans a camps de reeducació basant-se en l'algoritme de predictibilitat de dades de la plataforma de la policia IJOP. El sistema de Crèdit Social a la Xina continental ha prohibit a milions de persones (com el periodista de recerca de corrupció Liu Hu) agafar avions o trens de velocitat alta per considerar-los "deslleials". Durant les manifestacions d'anys 2019 a Hong Kong, els joves feien servir màscares i línies de pintura de maquillatge CV Dazzle d'Adam Harvey per evitar que el reconeixement de les cambres de carrer determinés les seves identitats i dades de detenció.
• La militarització de les dades i l'algoritme: Als EUA, l'agència d'immigració ICE utilitza el lector de plaques de vehicles de de policia local i creua les dades d'adreces de correu amb el departament de de recaptació (IRS) per fer batudes d'urgència amb l'ús de la base d'intel·ligència artificial d'ImmigrationOS de la companyia Palantir d'Steve Thiel. L'exèrcit d'Israel, mitjançant la unitat de senyals Unit 8200, fa servir l' "fàbrica de dades" d'IA (els programes The Gospel, Lavender i Where's Daddy) per catalogar milers de presumptes objectius de la milícia de Hamàs encreuant trucades de WhatsApp i dades de telèfons, facilitant bombardejos en cases particulars on un 83% de les morts recollides en les seves bases de dades han estat de ciutadans civils.
• L'imperi corporatiu d'Elon Musk i DOGE: L'any 2025, el president Donald Trump va encomanar a Elon Musk liderar el Departament d'Eficiència Governamental (DOGE). Els delegats de DOGE van irrompre en la Seguretat Social exigint l'obertura del codi i van pujar de forma incontrolada les dades de salut i bancs de més de 300 milions d'americans a servidors privats sense control, abans que la relació amb Trump es trenqués bruscament i Musk fos despatxat deixant el govern de les agències danyat i amb milers de treballadors públics al carrer. El poder de governar ja no pertany a les corones o constitucions tradicionals, sinó que es troba retingut sota el codi de les grans corporacions de dades d'escala global (els Sobirans del Codi) d'AWS, Microsoft i Google, de qui depèn el funcionament diari d'Estat del benestar de la societat de l'automatització.

Conclusió: El futur a les nostres mans (c. 2026–2126 CE)

Risam tanca el llibre dibuixant un retrat de ciència-ficció de l'any 2126 dC on cada acció, cicle de son i caloria a consumir es troba gestionada automàticament per l'algorisme privat de la companyia Atlas Data Corp sota la tutela del govern. Tanmateix, aquest escenari de distòpia total no és un destí inevitable, sinó el resultat de decisions de silenci actuals.

L'autora fa una crida a la resistència activa recordant les veus històriques que en el passat van plantar cara a la deshumanització de dades: des de Judas de Galilea i la revolta d'Arequipa, fins als testimoniatges d'Olaudah Equiano, Frederick Douglass, els whistleblowers Mark Klein i Edward Snowden, els defensors de la sobirania indígenes o els joves de Hong Kong. La unió de moviments socials forts i l'aprenentatge de l'alfabetització en dades com a capacitat ciutadana són les millors eines per desmuntar el control corporatiu, forçar la transparència dels servidors i restablir un futur digital basat en la igualtat, la protecció del dret de decisió i el bé comú.

La meritocràcia (4)

The Meritocracy Paradox: Where Talent Management Strategies Go Wrong and How to Fix Them 

Aquest és un resum del llibre "The Meritocracy Paradox: Where Talent Management Strategies Go Wrong and How to Fix Them" (2025), escrit pel professor del MIT Emilio J. Castilla.

Prefaci: La trajectòria de l'autor i la motivació del llibre

L’autor comparteix la seva pròpia història personal per il·lustrar les oportunitats i els biaixos en els processos de selecció. Nascut en una família de classe treballadora a Santa Coloma de Gramenet ("Santako"), un poble satèl·lit de l'àrea metropolitana de Barcelona, va estudiar a l'escola pública i a la Universitat de Barcelona. La seva perspectiva va canviar en rebre una beca de la Unió Europea per estudiar a la Lancaster University, fet que el va portar posteriorment a fer el doctorat a la Universitat de Stanford sota la mentoria de Mark Granovetter i Roberto Fernandez. Després d'aconseguir la seva primera feina acadèmica a la Wharton School (UPenn), va passar a ser professor a l’MIT Sloan School of Management.

Castilla explica que va viatjar als Estats Units atret pel missatge de la meritocràcia i el "somni americà", entesos com un sistema on es valora el talent i l'esforç per sobre de l'origen o la classe social. Tot i així, la seva recerca de més de vint anys dins d'empreses reals li ha demostrat que els processos de selecció i recompensa sovint fallen. El llibre sorgeix de la necessitat de comprendre per què les iniciatives de gestió del talent destinades a premiar els millors acaben generant desigualtats, i ofereix un camí basat en dades per resoldre-ho.

Introducció: El cas de ServiCo i el punt de partida

L'interès científic de Castilla per la "paradoxa de la meritocràcia" va començar l'any 2004 en una classe de formació d'executius a Wharton. Allà va conèixer la "Janet", una alta directiva d'una gran empresa de serveis (anomenada ServiCo al llibre). Janet va afirmar amb orgull que la seva empresa havia implementat un sistema de "pagament per rendiment" dissenyat per consultors que feia de ServiCo una "vertadera meritocràcia" on les bonificacions es distribuïen només segons el rendiment de l'empleat.

Aquesta conversa va obrir una col·laboració de deu anys amb ServiCo que va permetre a l'autor analitzar milers de dades internes d'avaluació i salaris. Castilla va trobar que, malgrat la ferma creença i el compromís de l'empresa amb la meritocràcia, les avaluacions i les recompenses estaven afectades per profunds biaixos de gènere, raça i nacionalitat. El llibre utilitza aquesta i altres recerques per examinar com les pràctiques de gestió de talent (recrutament, selecció, avaluació de rendiment, recompensa i promoció) fallen en les seves promeses i com es poden corregir.

PART I: L'ideal meritocràtic (The Meritocratic Ideal)

Capítol 1: Els orígens i l'evolució de la meritocràcia

La noció de meritocràcia es defineix com un sistema social on el poder, l'autoritat i les recompenses econòmiques s'obtenen mitjançant el mèrit demostrat (habilitat, competència i esforç) i no per herència o connexions.

• Michael Young i el terme: El mot "meritocràcia" va ser encunyat pel sociòleg britànic Michael Young l'any 1958 en la seva sàtira distòpica The Rise of the Meritocracy. Young el va definir amb la fórmula "I.Q. + esforç = mèrit". Irònicament, Young va escriure el llibre com un advertiment (pejoratiu) de com una elit intel·lectual seleccionada per exàmens d'intel·ligència utilitzaria aquest sistema per blindar el seu estatus i transmetre privilegis als seus fills, justificant la pobresa de la classe baixa com un mer "fracàs personal".
• Orígens històrics: Tot i que la paraula és de 1958, el concepte és mil·lenari. Ja es troba en filòsofs com Confuci o Plató. El primer gran sistema de mèrits pràctic es va dissenyar cap al 200 aC a la Xina (dinasties Han i Qin), on els exàmens del servei civil seleccionaven els funcionaris de l'imperi basant-se en l'habilitat i la virtut moral. Aquest model va influenciar posteriorment Europa (especialment el pensament de Voltaire i la Revolució Francesa) i va portar a la creació de proves estandarditzades per a l'administració pública durant els segles XIX i XX.
• La meritocràcia avui: Actualment, la meritocràcia és celebrada obertament tant en el sector acadèmic com en el corporatiu (exemples de Ray Dalio a Bridgewater, Red Hat, Accenture o McKinsey). També s'ha utilitzat recentment per líders de start-ups (com Alexandr Wang de Scale AI) com una alternativa —sota el concepte d'MEI: Mèrit, Excel·lència i Intel·ligència— a les iniciatives de Diversitat, Equitat i Inclusió (DEI).
• La realitat dels biaixos: Sota aquesta retòrica hi ha dades preocupants. L'any 2024, la U.S. Equal Employment Opportunity Commission (EEOC) va revelar que les dones i les minories continuen greument subrepresentades en el sector d'alta tecnologia (només un 22,6% de dones, un 7,4% de treballadors negres i un 9,9% d'hispans). Això aixeca dubtes sobre si aquests sectors són vertaderes meritocràcies o si hi ha barreres invisibles en el recrutament i la promoció.

Capítol 2: La meritocràcia en la teoria

Castilla defineix formalment la meritocràcia com un sistema on els individus assoleixen posicions d'autoritat i recompenses basant-se exclusivament en els seus mèrits i talents, i no per factors adscrits al naixement (classe social, gènere, raça o riquesa).

• Dues condicions fonamentals (Figura 2.1):
  1. Garantir la igualtat d'oportunitats per a tothom (Condició 1): El sistema ha de garantir que tothom tingui el mateix punt de partida i accés a l'educació, formació i recursos necessaris per competir de manera justa. Això pot exigir donar recursos desiguals (equitat) a qui està més desavantatjat.
  2. Avaluar i recompensar exclusivament segons el mèrit (Condició 2): Un cop garantida la igualtat d'oportunitats, és legítim que es produeixi una desigualtat de resultats (diferències en salaris, promocions o beneficis) si aquestes diferències responen exclusivament a diferències de rendiment, esforç o capacitat.
• Tres lògiques de decisió organitzativa (Figura 2.2): Els directius solen navegar entre tres lògiques a l'hora de contractar o promocionar:
  • Lògica Meritocràtica: Buscar el candidat més qualificat, millor executor o millor ciutadà d'equip.
  • Lògica Material: Interessos financers, límits pressupostaris i, de vegades, nepotisme (com afavorir fills de clients o antics alumnes, "legacies").
  • Lògica de Diversitat: Esforços per garantir una força de treball variada que reflecteixi diferents perfils i experiències. El punt òptim de gestió es troba en la intersecció d'aquestes tres lògiques, tot i que aconseguir aquest equilibri requereix esforç i estratègia.
• Tres etapes del talent i els set passos (Figura 2.3): Castilla planteja un model de gestió en tres grans etapes: (1) Recrutament i contractació, (2) Suport, avaluació i recompensa del rendiment, i (3) Avaluació de resultats. D'aquí es deriven set passos pràctics per a les organitzacions:
  1. Trobar i recrutar candidats diversos i talentosos.
  2. Confiar en criteris vàlids i rellevants que no estiguin correlacionats amb demografies.
  3. Proporcionar oportunitats d'acollida (onboarding) i recursos de formació per a tothom.
  4. Avaluar i desenvolupar el rendiment de manera justa.
  5. Recompensar els millors i ajudar a desenvolupar els que estan per sota del rendiment esperat.
  6. Monitorar i avaluar de forma continuada els resultats basats en el talent.
  7. Intervenir per corregir les desviacions i millorar els processos.

PART II: On falla la meritocràcia (Where Meritocracy Goes Wrong)

Capítol 3: El paper dels biaixos i els processos socials

La recerca demostra que, malgrat tenir formalitzats els sistemes de gestió de recursos humans, molts biaixos personals i estructurals es colen de manera continuada en les decisions de selecció i avaluació.

• El marc de discriminació de Petersen i Saporta: Estableix tres tipus de discriminació:
  1. Discriminació al·locativa: Quan es classifiquen determinats grups en feines de menor nivell o amb menors taxes d'accés a promocions.
  2. Discriminació salarial dins la feina: Cobrar menys pel mateix lloc de treball.
  3. Discriminació valuativa: Quan les feines o departaments dominats per dones o minories es paguen menys a igualtat de requeriments de formació o habilitat, només pel fet d'estar devaluats socialment.
• Tipus de biaixos al lloc de treball:
  • Penalització per maternitat (Motherhood Penalty): Les mares reben una penalització salarial d'entre el 15% i el 20% per fill i són percebudes com a menys compromeses, mentre que els pares no pateixen aquesta penalització.
  • Nacionalitat: Un estudi de Castilla i Rissing sobre certificacions de treball als EUA va revelar que, a igualtat de lloc de treball, empresa i ocupació, els immigrants llatinoamericans (especialment mexicans, amb un 35% menys de probabilitats d'aprovació) patien un desavantatge significatiu enfront dels canadencs i asiàtics.
  • Orientació sexual: Estudis d'auditoria de currículums (com el de Tilcsik) demostren que els candidats obertament gais reben un 7,2% de trucades de tornada (callbacks) enfront de l'11,5% dels candidats heterosexuals equivalents.
  • Discapacitat: Els candidats amb discapacitat reben un 26% menys d'interès per part dels empresaris, fins i tot en feines de comptabilitat on la productivitat no es veu afectada de cap manera.
  • Religió: Incloure afiliacions religioses al currículum redueix les trucades d'interès un 33% enfront del currículum de control (amb una penalització especialment severa per als musulmans, del 38% al 54%).
  • Ocultar la identitat: A causa d'aquests biaixos, molts candidats recorren al blanquejament del currículum (résumé whitening), com ara canviar el nom per un de més occidental, aconseguint duplicar la taxa de trucades (del 10% al 25% per a candidats negres).
• Processos socials d'homofília i nepotisme:
  • Homofília: La tendència a preferir i valorar millor les persones que s'assemblen a nosaltres en gènere, edat o origen.
  • Nepotisme i preferències de llegat: L’estudi de Castilla i Poskanzer sobre una universitat d'elit americana va revelar que els candidats "llegat" (fills o germans d’antics alumnes) tenien fins a cinc vegades més probabilitats de ser admesos tot i no tenir millors currículums ni treure millors notes, simplement per raons d'interès material (financer) de la institució.
  • Xarxes socials: Les xarxes de contactes (especialment els "llaços febles" de Granovetter i els buits estructurals de Burt) obren portes, però sovint reprodueixen desavantatges si les dones o minories estan excloses dels cercles informals masculins dominants.

Capítol 4: La meritocràcia i les seves paradoxes a la pràctica

Aquest capítol analitza el fenomen central del llibre: la paradoxa de la meritocràcia (the paradox of meritocracy).

• L'experiment de ServiceOne (Benard i Castilla): Es va demanar a més de 400 directius experimentats avaluar treballadors equivalents (Michael i Patricia) amb el mateix rendiment excel·lent i decidir la seva bonificació anual de $1,000.
  • Condició Neutral: Els directius a qui es deia que l'empresa donava discreció als caps premiaven de manera molt similar Michael i Patricia (només $2 de diferència).
  • Condició Meritocràtica: Els directius a qui es deia explícitament que la prioritat de l'empresa era recompensar el mèrit de manera equitativa i justa donaven a l'home (Michael) una bonificació $46 superior que a la dona (Patricia) amb exactament el mateix currículum i rendiment (Figura 4.1).
• Per què passa la paradoxa? Quan els directius creuen que estan actuant en un entorn formalment meritocràtic o quan se'ls recorda que són objectius, es relaxen i vigilen menys els seus propis biaixos interns. Això s'anomena credencial moral (moral credentialing): creure que l'empresa (i un mateix) ja s'ha "acreditat" com a justa i prodiversitat dona llicència inconscient per actuar amb prejudicis.
• El cas real de ServiCo (Taula 4.2): Castilla va dur a terme un estudi longitudinal amb ServiCo sobre 8.900 treballadors de suport. Va trobar que per a un mateix càrrec d'ajunt de gerent (Grade 21), i a igualtat de supervisors i condicions:
  • Si l'avaluació de rendiment de la dona era de "3" (mitjana), rebia $286 menys de bonificació que un home amb la mateixa puntuació.
  • Si la seva puntuació era un "5" (excel·lent), la diferència es disparava: la dona rebia $758 menys de bonificació que l'home amb el mateix rendiment. Això demostra la presència del biaix rendiment-recompensa (performance-reward bias), on la mateixa dada objetiva de rendiment es tradueix en menys diners per a dones, negres, hispans i estrangers.

Capítol 5: El mèrit està en l'ull de qui el mira?

Castilla demostra que conceptes com "mèrit" o "talent" són buits, subjectius i canvien segons l'observador, obrint la porta a arbitrarietats.

• Enquestes a directius (Taula 5.1): Després de recollir dades de més de 3.500 directius, els elements més valorats per definir el mèrit van ser el rendiment (6.50 sobre 7), l'habilitat (6.17) i l'esforç (6.06). Tot i així, un percentatge de directius va classificar de manera explícita gèneres, edats o orígens com a molt importants (puntuacions de 5 o més) per decidir el "mèrit" d'un candidat.
• L'espai semiòtic del mèrit (Figura 5.2): La recerca duta a terme amb Aruna Ranganathan a West-TechCo va revelar que el concepte de mèrit es mou en un espai semiòtic de tres grans eixos:
  1. Objectivitat vs. Subjectivitat: Mètriques tancades i dades dures davant de conceptes tous com la satisfacció del client o el "cultural fit" (definida sovint com "la persona amb qui m'agradaria fer unes birres").
  2. Individual vs. Grup: Centrar-se només en el rendiment individual (com la corba de campana forçada de stack-ranking, "bell curve") o valorar el treball col·laboratiu i la comunicació.
  3. Assoliment vs. Adscripció: Mesurar només accions de treball (esforç, educació) davant de fer servir trets de naixement de forma directa o indirecta com a drecera (p. ex., assumir que una dona de 30 anys té menys mèrit de promoció perquè agafarà la baixa per maternitat aviat).
• El model de procés de comprensió i aplicació del mèrit (Figures 5.3 i 5.4): Explica com les pròpies experiències passades d'un empleat en ser avaluat (si les percep com a positives i justes, o negatives i injustes) acaben per modelar el seu enfocament quan esdevé directiu. Els directius que han patit avaluacions injustes tendeixen a aplicar un enfocament "enfocat" (mètriques dures), mentre que els que han tingut experiències positives apliquen un enfocament "difús" (mètode holístic de mètriques i trets personals).

PART III: Construir organitzacions meritocràtiques (Building Meritocratic Organizations)

Capítol 6: Un enfocament basat en les dades per assolir la meritocràcia

Aquest capítol posa en qüestió l’efectivitat de les "millors pràctiques" (best practices) genèriques del mercat que les empreses sovint adopten simplement per imitar els competidors o per fer accions cosmètiques (window-dressing):

• Per què les millors pràctiques fallen?
  1. Formació obligatòria en diversitat: Sol generar ràbia, ressentiment i rebuig defensiu en els directius, arribant a reduir la diversitat a la llarga (la formació voluntària funciona molt millor).
  2. Workshops sobre l'IAT: L'Implicit Association Test serveix per mostrar que tenim biaixos, però no canvia el comportament pràctic a llarg termini.
  3. Selecció a cegues (Blind hiring): Maskar noms o orígens serveix per a la primera ronda, però els biaixos reentren amb tota la força a les fases d’entrevista personal, on els directius solen basar-se en intuïcions subjectives.
  4. Degendering de les ofertes: Modificar les paraules de l’oferta de treball ("decisiu" per "cooperatiu") s'ha demostrat que té un impacte pràcticament nul en el comportament de cerca reals de candidats i candidates als EUA.
  5. Algoritmes de contractació (IA): L’ús d'IA pot institucionalitzar i reproduir els mateixos biaixos humans continguts en les dades d’entrenament del passat, com va passar amb el programari de selecció d’Amazon que penalitzava currículums amb la paraula "dones".
• L’alternativa: L’analítica de talent (talent analytics): En lloc de copiar receptes, Castilla proposa dissenyar un sistema analític a mida, com un "quadre de comandament de cotxe" per detectar friccions. El procés compta amb cinc grans passos:
  1. Identificar i definir criteris clau: Establir mides i competències clares per a cada decisió d'ocupació.
  2. Mesurar trets individuals i resultats: Recollir i codificar dades històriques i post-contractació (incloent dades demogràfiques amb protecció de privacitat).
  3. Analitzar dades i processos: Executar models multivariables controlats (regressions OLS o logit) que aïllin els factors de rendiment del lloc, supervisor o unitat dels efectes demogràfics de gènere o raça.
  4. Decidir quina intervenció aplicar: Implementar solucions simples un cop s'ha localitzat la causa de la fuita de talent (p. ex., automatitzar la bonificació en lloc d'esperar que el treballador la demani proactivament, com es va fer a Google o ServiCo per corregir la bretxa de gènere) [553, 554, 283n61, 283n53].
  5. Monitorar i mantenir l'alerta: Reavaluar periòdicament el funcionament dels processos davant els canvis del mercat.

Capítol 7: Corregir els biaixos dels processos de gestió de talent

Castilla afirma que no podem eliminar fàcilment els biaixos humans dels directius, però sí que podem dissenyar i corregir els processos organitzatius introduint de forma estructural dues grans forces: la responsabilitat organitzativa (organizational accountability) i la transparència organitzativa (organizational transparency).

• Responsabilitat Organitzativa: Significa nomenar i facultar de manera explícita un responsable o comitè independent de rendiment i recompenses que auditi, vigili i validi les avaluacions i els augments dels directius, eliminant la seva discrecionalitat arbitrària.

• Transparència Organitzativa: Consisteix a fer públics de manera clara els criteris que determinaran una bonificació o promoció i oferir dades agregades o mitjanes de compensació per nivells perquè es puguin detectar i denunciar fàcilment les irregularitats.

• El marc tridimensional de gestió (Taula 7.1): Les organitzacions han de creuar la responsabilitat i la transparència en tres dimensions clau: els processos (com es decideix), els resultats (què es reparteix) i l'audiència (qui ho veu i qui respon davant de qui).

• La solució ServiCo a la pràctica (Taula 7.2 i 7.3): Per eliminar la bretxa salarial de gènere i raça que s'havia observat en les bonificacions d'ajunts de gerents, ServiCo va implementar tres canvis estructurals:

  1. Comitè de rendiment i recompensa: Un equip format per professionals de recursos humans, un alt executiu de divisió i un analista dedicat a analitzar de manera sistemàtica les dades de salaris.
  2. Formulari de bonificació basat en el mèrit: Els directius havien de justificar per escrit en un document formal cada decisió de bonificació segons el rendiment de l'empleat, sabent que les seves decisions serien avaluades pel comitè (responsabilitat de procés).
  3. Informes agregats: S’entregaven informes agregats amb les mitjanes i desviacions típiques de bonificacions per nivell de rendiment a cada directiu perquè compares les seves decisions amb les de la resta del grup. Aquest canvi estructural va reduir els buits i va eliminar pràcticament de manera total les diferències demogràfiques no justificades pel rendiment a ServiCo.

Conclusions i Pla de Canvi en Vuit Passos

El llibre tanca oferint un Pla de Canvi de l'Analítica de Talent estructurat en vuit passos per ajudar els directius a millorar qualsevol problema de l'organització (Figura C.1):

1. Identificar el repte de gestió de talent: Triar un problema clau (p. ex., alta rotació de dones enginyeres o biaix en avaluacions).
2. Reflectir sobre per què es dona aquest repte: Analitzar quins factors de l'organització o l'entorn el provoquen.
3. Revisar l'evidència existent i proposar hipòtesis: Recórrer a la recerca i dissenyar propostes causals clares.
4. Planificar el projecte: Decidir quines dades es necessiten i com es mesurarà l'èxit.
5. Preveure els resultats del projecte: Anticipar efectes positius i possibles conseqüències no desitjades.
6. Revisar el pla segons els fets de la fase de prova: Ajustar els mètodes segons els riscos detectats.
7. Implementar i mesurar l'impacte del projecte: Posar en marxa la solució i analitzar el abans i el després amb dades rigoroses.
8. Millorar de manera contínua i adaptar-se: El camí de la meritocràcia és un procés de millora continuat, no una acció d'un sol cop.

Castilla conclou reclamant que el camí no és abandonar la meritocràcia pels seus errors, sinó corregir-la mitjançant la transparència, la responsabilitat organitzativa i el rigor de les dades. Només així podrem construir organitzacions que siguin alhora excel·lents, eficients i capaces de garantir una igualtat d'oportunitats real per a tothom.

IA pertot arrreu (31)

Shared Wisdom: Cultural Evolution in the Age of AI 

Aquest és un resum del llibre "Shared Wisdom: Cultural Evolution in the Age of AI" (2025) del reconegut científic del MIT Alex Pentland. El llibre utilitza la ciència social computacional per proposar una reforma profunda de les nostres institucions social en l'era de la intel·ligència artificial.

Prefaci i Introducció: La naturalesa de la intel·ligència humana

Davant les actuals crisis globals, moltes de les nostres institucions socials estan trencades i necessiten una renovació tan profunda com la que es va viure durant la Il·lustració del segle XVIII. La tesi central de Pentland és que els humans no som individus racionals aïllats, sinó una espècie comunal i social que construeix el coneixement compartint històries.

• Intel·ligència comunitària (Community Intelligence): És el conjunt d'idees, estratègies, resultats i valors que circulen en una comunitat gràcies a l'experiència i a la comunicació. Funciona com a mètode de cerca cooperativa basada en el raonament abductiu (què és probable que passi en una situació) en lloc del raonament purament deductiu o lògic.
• Saviesa compartida (Shared Wisdom): És la part pràctica de la cultura, formada per aquelles històries i comportaments que assoleixen un ampli consens i suport dins de la comunitat per prendre bones decisions i coordinar l'acció col·lectiva.
• Històries vs. Fets: Pentland utilitza el terme "històries" (stories) en lloc de dades o fets per emfatitzar la incertesa inherent del nostre coneixement del món. Els humans processen, recorden i comprenen molt millor les estratègies quan tenen forma narrativa.

Part I: Tres invencions clau de xarxa per a l'evolució cultural

L'autor descriu tres històriques invencions sociotècniques que han accelerat dràsticament l'evolució de la nostra saviesa col·lectiva:

1. Xarxes per compartir històries (Story-sharing networks) - Capítol 2

• El foc del campament: L'hàbit de seure regularment al voltant d'un foc per explicar-se els èxits, perills i oportunitats del dia va canviar el nostre cervell i va fer possible la combinació de coneixements individuals en un consens de grup.
• La cerca de mínim penediment (Minimum-regret): Pentland utilitza el "problema del bandit" (bandit problem) de la teoria matemàtica per demostrar que compartir i observar les eleccions i resultats de tercers permet als agents assolir un equilibri òptim entre l'explotació de tècniques conegudes i l'exploració de noves oportunitats (el dilema exploit-explore).
• Experiments en finances (eToro): Analitzant milers d'inversors a la xarxa social d'inversió eToro, l'equip de Pentland va descobrir que els individus aïllats no són racionals i perden diners, mentre que els que utilitzen "models de rol" (aprenentatge social) assoleixen una gran racionalitat col·lectiva. Fins i tot els experts financers cometen grans errors si prenen decisions de forma aïllada (com va passar durant el Brexit).

2. Xarxes de pont (Bridging networks) i innovació - Capítol 3

• Evitar la cambra d'eco: Compartir històries només dins d'un mateix grup genera estancament i polarització. Es necessiten "xarxes de pont" per connectar comunitats culturalment diverses i propiciar la difusió de noves idees. Històricament, aquest paper el van fer els festivals de clans i, més tard, el naixement de les primeres ciutats.
• Disseny de ciutats i mobilitat: Els estudis de Pentland demostren que la diversitat d'interaccions físiques en el transport, carrers plens de cafeteries i llocs de trobada són els millors predictors de la riquesa, la reducció del crim i el correcte desenvolupament dels infants. El famós estudi Opportunity Atlas demostra que la influència del barri determina fins al 50% de la mobilitat social futura d'un infant abans del cinquè curs.
• El dilema de la subversió (Subversion dilemma): La manca de confiança entre grups fa que la por s'escalfi artificialment (com en un dilema de seguretat internacional), portant a un augment de la polarització. Corregir les males percepcions que es tenen sobre les intencions de l'altre grup millora immediatament la cohesió democràtica.

3. Xarxes de consens (Consensus networks) - Capítol 4

• El motor de la Il·lustració: Nascudes cap al 1500 amb l'intercanvi de cartes sobre "filosofia natural", es van sistematitzar amb les primeres revistes de la Royal Society (1665). Van introduir el mecanisme de les citacions de treballs previs.
• Els incentius per al consens: La xarxa de citacions no és només un arxiu, sinó un sistema on citar l'obra d'altri atorga reputació, i ser citat es tradueix en premis, càrrecs i reconeixement acadèmic. Pentland demostra que la dinàmica de citacions en camps tan dispars com la ciència, els patents i el dret comú (common law) segueix els mateixos models matemàtics d'atracció i evolució d'interès.

Part II: Ús de tecnologies digitals per a noves institucions

4. Els efectes secundaris de la tecnologia (Capítol 5)

Pentland repassa les conseqüències imprevistes de les quatre grans onades d'intel·ligència artificial per extreure'n lliçons:

1. Anys 60 (Lògica i assignació de recursos): Excel·lents en optimització matemàtica de rutes o xips. El seu ús desmesurat per a la planificació centralitzada a gran escala de la societat (com es va intentar a la Unió Soviètica amb Kantorovich) va ser un desastre ecològic i de subministrament per ignorar la complexitat.
2. Anys 80 (Sistemes experts): Van automatitzar tasques bancàries com la concessió de préstecs a nivell estatal per reduir costos de personal. L'efecte col·lateral va ser el desmantellament de caixes d'estalvi locals, cooperatives i institucions de barri, buidant les comunitats de poder de decisió i empobrint el control local.
3. Anys 2000 (Filtratge col·laboratiu i "Surveillance Capitalism"): L'arribada d'internet va permetre el seguiment massiu de dades per personalitzar anuncis i cerques. Va crear les cambres d'eco.
   • Els Dracs de dades (Data Dragons): El sistema del filtratge col·laboratiu promou la "vinculació preferencial" (preferential attachment), provocant un efecte de retroalimentació on els rics es fan més rics. Això fa sorgir uns pocs actors extremadament dominants ("dracs") que controlen el flux d'atenció, el comerç i el debat polític, fent inútils les eines tradicionals de regulació antitrust.
4. Anys 2020 (IA Generativa i LLMs): A diferència de les anteriors, aquesta IA treballa amb narracions, cosa que li dóna un poder immens per influir en allò que la gent creu.

• Els Quatre Cavallers del Fracàs Social (The Four Horsemen of Social Failure): Pentland adverteix que les institucions basades en "models de societat-màquina" rígids fallen sistemàticament a causa d'aquests quatre factors:

  • Unseen Change (Canvi invisible): Com el teletreball canvia la dinàmica de l'espai d'oficines de les ciutats.
  • Gray Swans (Rarees inevitables): Crisis o pandèmies que sabem que passaran però no quan.
  • One-Size-Fits-None (Polítiques uniformes): Decisions nacionals que serveixen per a la mitjana però destrossen les minories.
  • Myopia (Miopia): Ignorar indicadors que no siguin el PIB o els diners.

• Marc ètic de disseny per a la IA (Principis de Tsai i Pentland): La IA generativa de caràcter democràtic ha de (1) ajudar sense reduir l'agència humana; (2) tractar tothom amb respecte igualitari; (3) protegir contra els biaixos de l'algoritme i (4) abstenir-se de substituir o representar els humans en les decisions de política.

5. Reinventar la Democràcia i l'Administració Pública (Capítols 6 i 7)

• Deliberació digital amb Polis: La democràcia representativa actual s'ha desconnectat de la ciutadania. Plataformes com el sistema Polis (utilitzat amb èxit a Taiwan) dissenyen espais on els ciutadans voten idees dels altres però sense botó de "respondre", evitant batalles de comentaris (flame wars) i fomentant estadísticament la cerca de propostes de consens que agradin a ambdós costats de l'espectre.
• Incentius de loteria: Proposa l'ús de premis d'estil loteria (com els bons de loteria britànics) per augmentar de forma substancial la participació i la inclusió dels sectors marginats de la població en aquestes plataformes de debat.
• L'agilitat de "Team of Teams": Per substituir les burocràcies lentes del segle XIX, Pentland posa com a exemple la transformació de l'exèrcit dels EUA a l'Iraq sota el general McChrystal. Es van eliminar les línies de comandament rígides per crear equips multidisciplinaris connectats per xarxes digitals de comunicació immediata que actuaven sota la comprensió de la "intenció del comandant" i no de les ordres literals.
• Els principis d'Elinor Ostrom aplicats a l'estat:
  1. Autogovern: El govern s'ha d'entendre com la gestió del bé comú (commons), amb fronteres clares on els implicats en el recurs prenguin de forma autònoma les decisions reguladores.
  2. Dades transparents: Ús de "censos enriquits" sobre el funcionament real de cada barri (on es compra, on es treballa) de forma privada per avaluar les polítiques públiques experimentals cap a objectius de sostenibilitat (ODS de l'ONU).
  3. Empoderament financer local: Retornar el finançament de serveis (policia, escola) cap al control directe de les assemblees de veïns.
• Data Trusts (Fideïcomisos de dades): Igual que els bancs administren els nostres diners (sense que siguin seus), les comunitats han de crear fideïcomisos de dades (data trusts) o cooperatives de dades on el ciutadà dipositi les dades obtingudes dels seus telèfons, de manera que les empreses o governs hagin de demanar llicències d'auditoria temporals sota condicions de la comunitat. Posa com a exemples l'èxit de l'Estonian Stack o l'aplicació Permission Slip que va dissenyar amb Consumer Union.

6. Regulació i Cooperació Global (Capítol 8)

• El fracàs de la regulació preventiva (Ex-ante): Intentar llançar regles rígides de seguretat abans de permetre el llançament de la IA és una tasca impossible degut a la rapidesa de la indústria, a més de perjudicar greument la innovació dels petits investigadors.
• L'alternativa de la responsabilitat civil i l'auditoria (Ex-post): El camí defensat pels líders mundials del Club de Madrid és l'ús de la responsabilitat objectiva estricta (strict product liability) aplicada des dels anys 60.
  1. Tota IA en funcionament ha de mantenir de forma obligatòria un registre continu i inalterable d'accions (logs d'auditoria).
  2. Davant de qualsevol dany, es recorre a aquests logs de decisió per assignar de manera immediata la responsabilitat civil de la reparació al fabricant.
• El valor de les organitzacions de consens globals: Davant el risc que els operadors de IA busquin paradisos reguladors, cal harmonitzar estàndards no pas mitjançant acords de l'ONU, sinó enfortint i adaptant les pràctiques d'organitzacions globals de consens ja existents per a l'intercanvi de dades, com l'IETF (internet), el FATF (prevenció del frau financer) i l'IHR de l'OMS (coordinació de pandèmies).

El raonament abductiu (abductive reasoning) es defineix a les teves fonts com el procés d'utilitzar històries, experiències i dades per esbrinar què és probable que passi en una situació i un context concrets.

Segons s'explica al llibre, aquest tipus de raonament es caracteritza pels següents aspectes:

• Contrast amb la deducció: Es diferencia del raonament deductiu, que és el procés d'esbrinar què ha de ser lògicament o matemàticament cert. En lloc d'intentar basar-ho tot en una lògica pura o en teories rígides, l'abducció s'adapta a un món complex i incert on els "fets" i les teories del passat poden fallar.
• Esforç col·lectiu i comunitari: La intel·ligència d'una comunitat i la seva saviesa compartida són el resultat d'un esforç cooperatiu de raonament abductiu. Aquest procés funciona com una cerca col·lectiva on els membres d'un grup comparteixen informació sobre accions i resultats per trobar solucions de manera conjunta.
• Un enfocament empíric i humil: Pentland el descriu com un mètode més humil d'adaptació en què es proven contínuament noves opcions, es fa un seguiment de múltiples factors i s'avalua experimentalment què funciona i què no. Sota aquest prisma, les dades reals obtingudes de l'experiència actuen com a guia principal per sobre de les construccions teòriques.
• Base matemàtica: Té un fonament matemàtic i lògic d'optimització (mecanisme de minimització del penediment o regret) molt útil per a grups d'actors amb valors comuns que han de prendre decisions en entorns altament caòtics i imprecisos.

En definitiva, aquest raonament pràctic i evolutiu és el que ha permès a la humanitat desenvolupar estratègies de comportament que garanteixen la supervivència i el progrés.