Podem reimaginar-nos una nova democràcia? (10)

 La dictadura de la minoría: Cómo revertir la deriva autoritaria y forjar una democracia para todos

Aquest és un resum del llibre "La dictadura de la minoría: Cómo revertir la deriva autoritaria y forjar una democracia para todos" (2024), escrit pels professors de la Universitat de Harvard Steven Levitsky i Daniel Ziblatt.

Introducció: Les promeses i perills de la democràcia 

El llibre comença contrastant dos esdeveniments consecutius i oposats ocorreguts a Geòrgia els dies 5 i 6 de gener de 2021. El 5 de gener, Geòrgia va triar el seu primer senador afroamericà (el reverend Raphael Warnock) i el seu primer senador d'origen jueu, obrint la porta a l'esperança d'un futur democràtic, divers i multiracial. L'endemà, el 6 de gener, els Estats Units van viure una insurrecció violenta al Capitoli incitada pel seu propi president, que culminava quatre anys de retrocés democràtic i un intent de cop d'Estat.

Els autors defineixen la democràcia multiracial (o multiètnica) com un sistema amb eleccions lliures i justes on els ciutadans adults de tots els grups ètnics tenen dret a vot, gaudeixen de llibertats civils bàsiques i reben una protecció legal equitativa [5, 534n5]. Tot i que lleis com la Civil Rights Act de 1964 i la Voting Rights Act de 1965 van assentar les bases legals als EUA, la democràcia multiracial continua sent una assignatura incompleta a causa de les persistents barreres en el dret de vot i el biaix del sistema judicial i policial.

Segons les lleis de la ciència política, les democràcies velles i riques mai moren. Amb un PIB per càpita de 63.000 dòlars el 2020 i més de cinquanta anys de trajectòria, la democràcia dels EUA hauria d'haver estat immune a la degradació. Tanmateix, la seva puntuació de llibertat global segons Freedom House va caure de 90 el 2015 a 83 el 2021, situant-se per sota de països com Itàlia, Espanya, Taiwan o l'Argentina. Mentre que a Europa occidental la reacció de l'extrema dreta davant la diversitat s'ha mantingut majoritàriament dins de les regles democràtiques, acceptant els resultats i rebutjant la violència, als EUA les forces extremistes han assolit el poder de la nació i el Partit Republicà ha acabat renegant de les regles bàsiques de la democràcia. El problema no és només Donald Trump, sinó unes institucions d'origen predemocràtic (la Constitució) que permeten i emparen el govern de la minoria.

Capítol 1: La por de perdre 

Els autors assenyalen que acceptar la derrota i el traspàs pacífic de poders és la norma fonamental que permet a una democràcia sobreviure i consolidar-se.

• El cas de l'Argentina (1983): Després de la dictadura militar, el Partit Peronista (dominant des de 1946) va perdre per primer cop unes eleccions lliures davant de Raúl Alfonsín. Tot i el xoc inicial, el candidat derrotat (Ítalo Luder) va acceptar el resultat. El partit es va enfrontar a un procés d'autocrítica i modernització intern (liderat per la facció de La Renovación), es va adaptar als canvis socials i va guanyar els següents comicis.
• Els EUA el 1800: La històrica transició entre el president John Adams (federalista) i Thomas Jefferson (demòcrata-republicà) el 1801 va ser molt turbulenta. L'oposició era vista com una traïció i es temia que els republicans fossin jacobins pro-francesos. Després d'un empat al Col·legi Electoral entre Jefferson i Aaron Burr, els federalistes a la Cambra de Representants van tractar d'utilitzar "tàctiques constitucionals dures" per bloquejar la decisió o suspendre el procés. Finalment, el congressista James Bayard (Delaware) va retirar el seu suport a Burr per evitar una guerra civil. Adams va abandonar Washington pacíficament, creant un precedent vital.

Els autors identifiquen dues condicions perquè els partits acceptin perdre:

1. Possibilitat de guanyar en el futur: Creure que la derrota és temporal i que es pot recuperar el poder en els següents comicis.
2. Baixes expectatives de catàstrofe: La seguretat que perdre el govern no suposarà una amenaça existencial per a la vida, el patrimoni o els valors del grup.

Quan el canvi social o demogràfic posa en dubte l'estatus d'un grup dominant, sorgeix un por existencial que fa que perdre deixi de ser una opció acceptable, empenyent els partits a rebel·lar-se contra la democràcia.

• Alemanya a principis del segle XX: Les elits conservadores prussianes (junkers), davant l'auge de la industrialització i de la classe treballadora representada pel Partit Socialdemòcrata, van veure la democràcia com "un terror sense fi" que amenaçava el seu estatus social, la mà d'obra barata i els aranzels agrícoles. Van bloquejar fins a setze vegades les reformes del dret de vot per evitar perdre el seu domini.
• Tailàndia al segle XXI: Després d'una dècada de consolidació democràtica, el magnat Thaksin Shinawatra va guanyar el 2001 amb un nou contracte social que oferia sanitat universal i ajudes als agricultors pobres de les regions rurals. El tradicional Partit Demòcrata, recolzat per l'elit acomodada de Bangkok, va patir cinc derrotes electorals consecutives. Sentint que perdia el control del país davant "uns pobres codiciosos", l'elit es va radicalitzar. El 2013-2014, el Partit Demòcrata i el moviment PDRC van boicotejar les eleccions, van bloquejar físicament les urnes sota el lema "la rectitud moral està per sobre de la democràcia", i van donar suport a un cop d'Estat militar que va abolir la Constitució.

Capítol 2: La banalitat de l'autoritarisme 

Aquest capítol analitza com es destrueixen les democràcies des de dins gràcies a la complicitat de polítics tradicionals i a l'ús de la mateixa legislació com a arma.

• França (1934) i la semilleialtat: El 6 de febrer de 1934, milícies i lligues de l'extrema dreta van assaltar el Parlament a París, provocant diversos morts i forçant la dimissió del primer ministre Daladier. En lloc de defensar les institucions, el partit conservador majoritari (la Federación Republicana) va mantenir una actitud de semilleialtat: va tolerar i col·laborar amb els extremistes, va justificar la violència titllant els assaltants de "màrtirs" i va bloquejar la investigació parlamentària. Aquesta actitud va normalitzar el discurs autoritari, obrint el camí perquè, sis anys després, molts d'aquests líders (com Pierre Laval o Darquier de Pellepoix) s'unissin amb entusiasme al règim col·laboracionista de Vichy.

Els autors recorden les tres regles fonamentals dels demòcrates lleials (basades en el politòleg Juan José Linz):

1. Acceptar el resultat d'unes eleccions lliures i justes, es guanyi o es perdi.
2. Rebutjar sense pal·liatius la violència o l'amenaça de violència per assolir fins polítics.
3. Trencar i aïllar completament les forces antidemocràtiques, expulsant els extremistes del propi partit i rebutjant qualsevol pacte amb ells.

• Espanya (1981) com a exemple de lleialtat: Durant el cop d'Estat del 23-F, tot l'espectre polític (des del líder comunista Santiago Carrillo fins al líder de la dreta Manuel Fraga, exministre de Franco) va condemnar unànimement el cop de Tejero. Els partits es van unir de costat a costat en una gran manifestació històrica a Madrid, aïllant completament els colpistes i salvant la democràcia.

En contrast, els polítics semilleials no s'oposen al sistema de manera oberta, però minen la democràcia en tolerar els radicals de les seves pròpies files per conveniència electoral o por a dividir el partit, relativitzant la violència o atribuint-la a operacions de "falsa bandera".

• L'esgrima constitucional (Constitutional Hardball): Consisteix a utilitzar les lleis de manera que, tot i respectar la seva lletra, se'n destrueixi completament l'esperit. S'analitzen quatre mètodes:

  1. Abús de buits legals: Com la decisió dels republicans al Senat de bloquejar durant un any el nomenament del jutge Merrick Garland el 2016 per "robar" una vacant al Tribunal Suprem.
  2. Ús excessiu o indegut de la llei: El Congrés de Perú utilitzant la "incapacitat moral" per destituir tres presidents en quatre anys; o Indira Gandhi declarant l'estat d'emergència a l'Índia el 1975 per suspendre drets i tancar 676 líders opositors només per salvar la seva carrera d'una inhabilitació judicial.
  3. Aplicació selectiva: Fer complir la llei de manera implacable només contra els oponents polítics ("Para mis amigos, todo. Para mis enemigos, la ley", Óscar Benavides). És la tàctica de Vladímir Putin contra els oligarques Berezovsky i Jodorkovsky.
  4. Lawfare: Dissenyar lleis aparentment neutrals però destinades a soscavar l'oposició, com la reforma de Zàmbia el 1996 que exigia que els pares dels candidats presidencials haguessin nascut al país per desqualificar Kenneth Kaunda.

• L'autocràcia legal de Viktor Orbán a Hongria: Fidesz va utilitzar una majoria de dos terços al Parlament (aconseguida amb el 53% dels vots) per capturar la democràcia de manera totalment legal: van purgar i jubilar forçosament 274 jutges per col·locar aliats; van aprovar una llei que prohibia el periodisme "imparcial" o "insultant" amb multes massives, forçant el tancament de mitjans independents; i van refer de manera unilateral les lleis i els districtes electorals (gerrymandering) fins a fer gairebé impossible la victòria de l'oposició.

Capítol 3: Aquí ja ha passat 

Els autors recorden que els Estats Units ja tenen una llarga i tràgica experiència de desmantellament legal de la democràcia mitjançant la violència i les tàctiques constitucionals dures.

• El cop de Wilmington (1898): En aquesta pròspera ciutat de Carolina del Nord, on la població afroamericana havia assolit representació institucional gràcies a The Fusion (una coalició birracial de populistes blancs i republicans negres), el Partit Demòcrata supremacista va reaccionar amb extrema violència. Red Shirts (paramilitars demòcrates) van terroritzar els barris negres per impedir-los votar. Després d'unes eleccions fraudulentes, Waddell va liderar un cop violent, va assassinar entre 22 i 60 veïns negres, va cremar el diari de la comunitat i va obligar a dimitir el govern municipal electe a punta de pistola. El president McKinley es va negar a intervenir. Immediatament, el nou govern estatal de Carolina del Nord va imposar taxes, proves d'alfabetització i el vot secret per excloure de forma legal els votants negres (el cens de votants negres va caure de 126.000 el 1896 a només 6.100 el 1902).
• La Reconstrucció (1865-1877): Considerada la "segona fundació" d'Amèrica, va establir una democràcia interracial mitjançant les esmenes 13a, 14a i 15a. Més de mil tres-cents afroamericans van ocupar càrrecs públics al Sud. La resposta reaccionària blanca va ser el terror del Ku Klux Klan i altres milícies, que van assassinar milers de persones negres i polítics republicans. Malgrat que el president Grant va aprovar les Enforcement Acts per aixafar el Klan, el suport de l'opinió pública del Nord es va refredar amb la Depressió de 1873 i les tropes es van retirar finalment el 1877.
• El legalisme de Jim Crow: Els demòcrates del Sud van inutilitzar les esmenes de la Reconstrucció de manera legal. Com que la 15a Esmena només prohibia discriminar "per raça o color", van inventar restriccions "neutrals" que el text no prohibia explícitament: taxes de vot, exàmens de lectura i la votació secreta (que impedia rebre ajuda als analfabetes). Mitjançant les "clàusules dels avis" o "clàusules de comprensió", s'eximia els analfabets blancs mentre s'excloïa els negres. El vot negre al Sud va caure al 2% el 1912, establint un règim autoritari de partit únic que va durar setanta anys.
• La complicitat judicial a Giles v. Harris (1903): Jackson Giles (un antic esclau i activista) va denunciar que la nova constitució d'Alabama havia reduït de 180.000 a només 3.000 el nombre de votants negres aptes. El Tribunal Suprem dels EUA, en un dictamen escrit per Oliver Wendell Holmes Jr., es va negar a intervenir amb el cínic argument que si l'estat d'Alabama volia ser fraudulent, el tribunal no disposava de mitjans per fer complir un mandat, donant un aval legal a la privació del sufragio de Jim Crow.
• El fracàs de la Lodge Bill (1890): Henry Cabot Lodge va dissenyar un ambiciós projecte de llei federal per enviar inspectors federals a protegir i supervisar el dret de vot dels negres del Sud. La llei va morir al Senat perquè els republicans de l'Oest (interessats en la mineria de plata) van col·laborar amb els demòcrates del Sud per retenir el debat a canvi del suport a una reforma monetària, utilitzant finalment el filibusterisme per evitar la votació.

Capítol 4: Per què el Partit Republicà va abandonar la democràcia

Aquest capítol explica com el partit de Lincoln (que va fer possible la Voting Rights Act de 1965 de manera bipartidista) es va transformar en una formació extremista que no accepta els resultats electorals.

• El realineament racial dels EUA: La defensa dels drets civils dels demòcrates als anys seixanta va fer que els blancs del Sud que es resistien a la igualtat racial abandonessin les seves files. Els líders republicans van aprofitar aquesta oportunitat històrica dissenyant la Southern Strategy: Barry Goldwater va votar en contra de la Civil Rights Act el 1964; Richard Nixon va emprar el discurs de "la llei i l'ordre"; i Ronald Reagan va forjar un pacte amb la Moral Majority cristiana de Jerry Falwell (que s'havia mobilitzat inicialment contra les mesures del govern Carter que retiraven l'exempció d'impostos a les escoles cristianes segregades). El Partit Republicano es va convertir en el "partit dels blancs" dels EUA.
• El repte de la demografia i la radicalització: Durant el canvi de segle, la població blanca cristiana va començar a retrocedir de manera accelerada (del 80% el 1976 al 43% el 2016). L'any 2013, l'informe d'autòpsia de l'RNC va advertir que, per no convertir-se en una minoria permanent, els republicans havien de ser inclusius amb els votants no blancs i aprovar una reforma d'immigració. No obstant això, la base de votants de les primàries republicanes es va oposar amb vehemència, radicalitzant-se davant el por existencial de "perdre el país" sota la influència de la "teoria del gran reemplaçament" (promoguda a la televisió per Tucker Carlson o Laura Ingraham) i el sorgiment del Tea Party durant la presidència de Barack Obama.
• La captura de Trump i la "Gran Mentida": Donald Trump va canalitzar aquest por i ressentiment blanc de les primàries per fer-se amb el control del partit el 2016. Després de perdre les eleccions de 2020, Trump es va negar de manera inaudita a acceptar el resultat, va presionar funcionaris de Geòrgia per "trobar 11.780 vots", va intentar utilitzar la Guàrdia Nacional per confiscar les urnes i va incitar l'assalt al Capitoli el 6 de gener per impedir que Mike Pence certifiqués el vot del Col·legi Electoral.
• La semilleialtat del lideratge republicà: La majoria del partit va emparar i protegir Trump. El 86% dels membres del Congrés van qüestionar la legitimitat de Biden i 147 van votar en contra de certificar els resultats el mateix 6 de gener. Líders de trajectòria tradicional com Mitch McConnell i Kevin McCarthy, malgrat saber en privat que les denúncies eren falses i culpar directament a Trump de l'assalt al Capitoli, van retrocedir per por a enrabiar la seva base, el van defensar en els judicis d'impugnació, van bloquejar una comissió independent i van viatjar ràpidament a Mar-a-Lago per protegir les seves carreres professionals. Els pocs que van actuar amb lleialtat democràtica (com Liz Cheney) van ser purgats i eliminats en les primàries.

Capítol 5: Majories encadenades 

Els autors analitzen les limitacions de les institucions dels EUA i demostren que la principal amenaça actual no és la tirania de la majoria de de què parlaven Tocqueville o John Adams, sinó la tiranía de la minoria.

• El desmantellament de la Voting Rights Act: El 2013, en el cas Shelby County v. Holder, la majoria conservadora del Tribunal Suprem (escrita pel jutge Roberts) va derogar l'article 4 de la VRA, eliminant la supervisió federal sobre els canvis electorals de les regions amb historial discriminatori. Ruth Bader Ginsburg va advertir en la seva cèlebre nota discrepant que allò era "com desfer-se del paraigua enmig de la tempesta perquè tu no et mous". Immediatament, els estats republicans van tancar centenars de col·legis electorals i van purgar de forma accelerada els censos en barris negres. El Congrés, amb el suport de la majoria dels americans (63%), ha intentat aprovar lleis de protecció (com la John Lewis Voting Rights Act), però han estat sistemàticament bloquejades al Senat mitjançant el filibusterisme.
• El problema de la "mà morta" de 1787: La Constitució dels EUA és un document del segle XVIII, escrit en una època predemocràtica per delegats que no preveien la competència de partits. Thomas Jefferson considerava que "els morts no han de governar els vius" i va proposar que la Constitució tingués una data de caducitat cada dinou anys per no tancar les futures generacions en una jaula de normes obsoletes. Durant la Convenció de Filadelfia de 1787, els redactors van haver d'improvisar per evitar que la Unió col·lapsés, concedint grans privilegis contramajoritaris a dues minories de gran influència:
  • Els estats petits: Exigien una representació idèntica al Senat (Delaware davant de Virginia). Madison i Hamilton s'hi oposaven de manera rotunda, argumentant que allò violava la màxima elemental del govern republicà on el judici de la majoria ha de prevaldre. El Compromís de Connecticut va ser només una concessió forçada pel por que els estats petits se separessin i fessin aliances amb potències estrangeres.
  • Els propietaris d'esclaus: Els cinc estats del Sud van amenaçar amb abandonar la convenció si es posava en dubte la servitud. Van aconseguir la clàusula dels "tres cinquens" (que comptava el 40% dels esclaus com a habitants a efectes de repartiment, inflant la representació del Sud un 25% a la Cambra i al Col·legi Electoral), i el mateix disseny del Col·legi Electoral es va fer per protegir els interessos dels propietaris d'esclaus del Sud davant d'unes eleccions populars directes on haurien perdut contra el Nord.

Capítol 6: El Govern d'una minoria

Els autors descriuen com el disseny territorial de la Constitució ha creat una mena de proteccionisme o contramajoritarisme silenciós que protegeix de manera permanent un partit minoritari davant de la competència electoral.

Abans, els dos partits tenien bases tant urbanes com rurals, de manera que la representació del camp no beneficiava cap sigla. En el segle XXI, els partits s'han dividit geogràficament: els demócratas es concentren a les grans ciutats cosmopolites i els republicans a les zones rurals i de baixa població. Aquest ordre geogràfic ha convertit els deures contramajoritaris en un biaix republicà estructural a través de quatre grans pilars:

1. El Col·legi Electoral: Sota el sistema de "el guanyador s'ho emporta tot", es distorsiona el vot popular global. En les eleccions de 2016, Hillary Clinton va guanyar el vot popular a Nova York per 1,7 milions de diferència, però Trump va guanyar Wisconsin, Míchigan i Pensilvània per només 100.000 vots de diferència en conjunt, emportant-se la presidència. Avui, la asimetria és tal que Biden va necessitar guanyar el vot popular de 2020 per més de quatre punts per assegurar-se els 270 electors. Els republicans han perdut el vot popular en totes les eleccions des de 1992 (exceptuant la de 2004), però han ocupat la presidència dotze anys d'aquest període.
2. El Senat: Estats que representen només el 20% dels habitants poden produir una majoria a la Cambra. El 2018, els republicans van aconseguir el control amb 53 escaños que representaven només el 48% de la població. Els 50 senadors demòcrates de 2020 representaven 41,5 milions més de ciutadans que els 50 senadors republicans.
3. El Tribunal Suprem: Quatre dels nou magistrats actuals (Thomas, Gorsuch, Kavanaugh, Barrett) van ser aprovats per Senats que representaven menys de la meitat dels ciutadans dels EUA, i tres van ser triats per un president que va perdre el vot popular. Això ha creat un tribunal que no respon a la voluntat de la majoria.
4. El Gerrymandering i les "majories fabricades": El sistema d'escrutini majoritari i districtes de representació uninominal permet al partit que ha perdut obtenir el control de la legislatura gràcies a la asimetria geogràfica i al redisseny de fronteres dels districtes (projecte REDMAP de 2010 dels republicans). A Wisconsin, els demòcrates van aconseguir el 53% dels vots el 2018, però els republicans van retenir una majoria de 63 a 36 escaños a la cambra estatal.

Aquest domini minoritari ha creat un gap permanent entre la política i l'opinió pública en assumptes crítics:

• L'avortament: El 61% dels americans està a favor de mantenir l'avortament legal, però la llei federal per protegir-lo va ser liquidada al Senat pel filibusterisme.
• Les armes: El 65% dels americans reclama lleis de control més dures i el 80% està a favor del control de dades de delictes de fons. El filibusterisme ha fet del Senat el cementiri d'aquestes iniciatives (Sandy Hook, Uvalde) perquè la Cambra sobrerrepresenta en gran mesura els estats petits rurals amb altes taxes d'armes.
• El salari mínim: Estancat des de 2009 en 7,25 dòlars la hora, les iniciatives per elevar-lo a 15 dòlars (amb el suport de fins al 81% de la població) han estat bloquejades repetidament de manera parlamentària pel filibusterisme del Senat.

Capítol 7: Els Estats Units: un cas a part

Aquest capítol compara l'estructura dels EUA amb la de les altres democràcies consolidades de de Occident, mostrant que els EUA s'han convertit en un país rezagat en matèria democràtica.

• El cas de la reforma a Noruega: La seva constitució de 1814 tenia importants buits (monarquia, vots indirectes, la "clàusula campesina" que enfortia de manera desproporcionada els vots del camp davant les ciutats). Tanmateix, atès que la constitució noruega és flexible, s'ha enmendat 316 vegades al llarg dels darrers dos segles, abolint la clàusula campesina el 1952, establint eleccions directes, instaurant el sufragi universal el 1913 i fins i tot eliminant la seva pròpia segona cambra (el Lagting) el 2009 per convertir-se en un dels països més lliures del món.
• La modernització de les democràcies occidentals: Durant el segle XX, gairebé totes les democràcies van fer passos similars: van desmantellar les eleccions indirectes (Colombia el 1910, Xile el 1925, l'Argentina el 1994); van adoptar el sistema d'eleccions proporcionals (el 80% de les democràcies ho fa avui); van eliminar o debilitar les cambres altes aristocràtiques (Gran Bretanya va aprovar la Parliament Act el 1911 per retirar el veto permanent dels Lores; Dinamarca va abolir la seva cambra alta el 1953 i Suècia el 1970); i van introduir mètodes de clausura o cloture per majoria simple per evitar el filibusterisme (França el 1870, Gran Bretanya el 1881, Canadà el 1913). Gairebé tots els països que van establir tribunals constitucionals després de la Segona Guerra Mundial van rebutjar els càrrecs vitatlicis de de l'estil dels EUA, fixant edats de jubilació de de 70 o 75 anys per evitar jutges senils o desconnectats (Canadà el 1927, Austràlia el 1977).

Els EUA es troben estancats en el passat a causa de la asfixiant dificultat de reformar la seva Constitució. Els set-cents intents de canviar el Col·legi Electoral han fracassat pel filibusterisme de de la minoria de de senadors del Sud (com Strom Thurmond o James Eastland el 1969 contra el projecte de de Birch Bayh).

Capítol 8: Democratitzar la nostra democràcia

Els autors clouen el llibre proposant un Pla de Reformes estructurals que tregui els EUA del seu excepcionalisme predemocràtic:

1. Salvaguardar el dret de vot: Incloure de forma explícita el dret de vot a la Constitució; inscripció electoral automàtica i carnet d'identitat nacional gratuït per a tothom; votació anticipada i per correu accessible a tots els estats; establir el dia de les eleccions en cap de setmana o festiu nacional; restaurar el vot per a exreclusos i recuperar la preclearance federal.
2. Alineació amb el vot majoritari: Abolir el Col·legi Electoral; reformar el Senat perquè els vots representin la població real; substituir l'escrutini majoritari de de districte per un sistema de representació proporcional (enmendat la Uniform Congressional Districts Act); i crear comitès de delimitació de districtes completament independents.
3. Donar poder a les majories governants: Abolir el filibusterisme; establir mandats de dotze o divuit anys per als jutges del Tribunal Suprem; i facilitar el procés d'esmenes constitucionals eliminant la ratificació de les tres quartes parts dels estats.

Davant de qui argumenta que aquestes reformes no són factibles, els autors recorden que tampoc ho semblaven l'abolició de l'esclavitud, el vot femení o la fi de de les lleis de de segregació abans de de produir-se. Totes es van aconseguir gràcies a moviments socials persistents, forts i sostinguts en el temps que van forçar els líders (com Wilson, Roosevelt o Johnson, de de caràcter moderat o fins i tot conservador originalment) a modificar els seus càlculs polítics.

Avui, moviments com el Black Lives Matter, l'activisme de de la Generació Z o el naixement d'organitzacions com Protect Democracy, Black Voters Matter o les de de caràcter conservador moderat (Mormon Women for Ethical Government) representen la llavor d'aquesta unificació de de forces. Seguint el pensament de de Steinmeier a Alemanya, hem d'aprendre a estimar el nostre país amb el cor trencat, reconeixent les seves profundes falles històriques per comprometre'ns a forjar un futur on les normes no encadenin la majoria de de la ciutadania.

IA pertot arreu (35)

 The turbulent AI era is here. The choices we make now are critical

Bill Gates afirma que la intel·ligència artificial serà o bé el major igualador que s'ha inventat mai, o bé la pitjor font d'injustícia. Considera que la transició cap a aquesta nova era serà un dels períodes més turbulents de la història humana, i que la recerca de fórmules per evitar que la tecnologia ampliï la bretxa entre rics i pobres s'ha de convertir en la màxima prioritat del món.

A diferència d'altres innovacions del passat —com l'arribada dels ordinadors personals, que va trigar dues dècades a transformar les empreses—, l'IA s'està desplegant de manera extremadament ràpida (en qüestió d'una dècada i no de generacions). Això es deu al fet que s'executa en els dispositius que ja tenim, utilitza el llenguatge natural, s'adapta a nosaltres i és capaç de substituir i superar la pròpia cognició humana.

Gates alerta que el món no s'està preparant adequadament i detalla tres grans riscos globals:

• Pèrdua permanent i massiva d'ocupacions: L'IA no només afectarà un sector, sinó que desplaçarà ràpidament llocs de treball en el dret, l'atenció al client, la medicina, la programació i la manufactura. El risc és especialment alt per als llocs d'entrada i de nivell mitjà. A més, els avenços ràpids en robòtica (com els que s'estan duent a terme a la Xina) competiran aviat amb el treball físic en sectors com la construcció o l'hoteleria. El major canvi de paradigma es donarà quan l'IA assoleixi un treball gairebé lliure d'errors, cosa que donarà a les empreses tots els incentius econòmics per deixar-la funcionar sola sense supervisió humana.
• Apoderament de malactors i concentració de poder: L'IA facilitarà de manera dràstica la comissió de ciberatacs a infraestructures crítiques (hospitals, xarxes elèctriques, sistemes financers), a més de fer més senzill el disseny de noves malalties (bioterrorisme), la desinformació personalitzada i el frau. També adverteix sobre l'ús de forces letals mitjançant armes autònomes pels governs i el perill de perdre el control d'uns sistemes d'IA que comencin a actuar de manera contrària als nostres interessos.
• Afectació en el desenvolupament infantil i les relacions humanes: Els acompanyants d'IA poden esdevenir altament addictius. En dissenyar-se per no contradir mai l'usuari, actuen com un "hivernacle protegit" que estunta les habilitats socials dels nens, provoca ansietat i redueix la capacitat de pensament crític.

Malgrat aquests temors, Gates manté un optimisme basat en els beneficis potencials si s'actua de manera deliberada perquè arribin a tothom. Destaca que l'IA pot accelerar la recerca científica contra el canvi climàtic mitjançant l'energia neta, millorar el diagnòstic d'urgències en hospitals petits (com Viz.ai), oferir consells clau als agricultors de països de baixos ingressos sobre el clima o les llavors per augmentar-ne la producció, simplificar la feixuga burocràcia pública de de les ajudes socials i donar suport als professors i alumnes en l'educació.

Per gestionar aquesta transició, l'autor proposa tres mesures estructurals urgents:

1. Crear un nou marc institucional nacional i internacional: Un sistema de regulació global (similar als de control de les armes nuclears, l'aviació internacional o el protocol de l'ozó) capaç de coordinar els riscos de l'IA de manera holística, evitant que les diferents agències governamentals es limitin a veure només un tros de la realitat.
2. Definir l'espai "Human Reserved" (Reservat per a Humans): De la mateixa manera que es creen reserves naturals, els governs han de consensuar quins llocs de treball s'han de protegir de l'automatització per motius d'empatia, humanitat o seguretat, com ara la cura de malalts d'Alzheimer, la salut mental o l'educació.
3. Taxar els "tokens" d'IA i els robots: Reformar el sistema impositiu —que actualment castiga la contractació humana amb impostos sobre les nòmines però premia la compra de màquines— per recaptar fons destinats a la xarxa de seguretat social i a la formació dels treballadors desplaçats.

PS. Sam Altman i la teoria de jocs segons Enrique Dans.

IA pertot arreu (34)

Prediction Machines

Introducció: La Intel·ligència Artificial sota la Lupa de l'Economia

La Intel·ligència Artificial (IA) ha de ser despullada del seu misticisme tecnològic per ser entesa en la seva essència econòmica: la reducció dràstica del cost d'un input fonamental, la predicció. Per als líders empresarials, aquesta lent analítica és superior a la purament tecnològica, ja que permet aplicar marcs de decisió provats —com l'oferta, la demanda i el cost d'oportunitat— a una eina que, d'altra manera, semblaria "màgica". Quan el cost d'un component bàsic col·lapsa, no només en fem servir més, sinó que canviem el comportament de tot el sistema econòmic.

Aquesta transformació s'il·lustra mitjançant dues analogies històriques clau:

• L'analogia de la llum: A principis del segle XIX, la llum artificial era 400 vegades més cara que avui. El seu col·lapse de preu no només va il·luminar la nit; va redissenyar l'arquitectura i la urbanística, permetent edificis on la llum natural no era una restricció.
• L'analogia de l'aritmètica: L'arribada dels ordinadors va fer que el càlcul fos barat. Això no només va agilitzar la comptabilitat, sinó que va permetre que problemes que abans eren químics (fotografia) o mecànics esdevinguessin problemes aritmètics.
• La IA com a eina de predicció: Actualment, estem vivint un procés idèntic. En reduir el cost de la predicció, l'IA està transformant la navegació (predir el camí d'un humà) o la traducció en processos d'omplir informació absent de manera massiva i econòmica.

Aquesta disminució del cost ens obliga a definir amb precisió l'anatomia d'una "màquina de predicció" per identificar-ne la utilitat marginal real.

Part I: La Predicció com a Input de Baix Cost

En l'economia de la intel·ligència, la predicció es defineix estrictament com el procés d'utilitzar dades existents per omplir informació absent. És un component de la intel·ligència, no la intel·ligència en si, i la seva importància estratègica rau en la capacitat de reduir la incertesa en la presa de decisions corporatives.

Anatomia de les dades

Perquè una màquina de predicció generi valor, requereix una gestió rigorosa de tres corrents de dades:

Tipus de Dada	Funció Principal en el Model Econòmic
Dades d'Entrada (Input)	Informació actual utilitzada per generar una predicció específica (ex: dades en temps real de sensors d'un vehicle).
Dades d'Entrenament (Training)	Informació històrica que permet a l'algoritme establir correlacions i calibrar-se inicialment.
Dades de Retroalimentació (Feedback)	Dades sobre els resultats reals que permeten a la màquina aprendre dels seus errors i millorar la precisió futura.

Substitució i Complementarietat

L'adopció de l'IA altera el valor dels actius corporatius:

1. Substitució: L'IA substitueix la predicció humana, la qual cosa redueix el valor de les habilitats purament memorístiques o estadístiques manuals.
2. Complementarietat: El valor dels complements augmenta dràsticament. Específicament, el judici humà (saber què fer amb la predicció) i les dades esdevenen actius estratègics amb rendiments creixents.

La Nova Divisió del Treball i la Taxonomia de la Incertesa

L'expert ha d'entendre on falla la màquina per optimitzar la col·laboració home-màquina:

• Known Knowns: L'IA és imbatible on hi ha dades massives.
• Known Unknowns: Situacions on hi ha poques dades (ex. un esdeveniment rar). Aquí l'humà és superior gràcies a l'analogia.
• Unknown Knowns (Crític): Són fallades d'inferència causal. La màquina pot estar "segura però equivocada" perquè confon correlació amb causalitat (ex: un algoritme que suggereix apujar els preus d'un hotel per augmentar la demanda perquè les dades històriques mostren que els preus són alts quan l'hotel està ple).
• Unknown Unknowns: "Cignes negres" o esdeveniments sense precedents històrics (com l'arribada de Napster per a la indústria musical) on l'IA no té capacitat de resposta.

La predicció és només un input; la decisió final requereix un procés més complex.

Part II: L'Anatomia de la Decisió i el Desacoblament del Judici

Un dels pilars de l'edició actualitzada és el desacoblament entre predicció i judici. Històricament, aquests dos elements estaven soldats en la ment humana. L'IA permet separar-los, cosa que no només millora la tasca individual, sinó que permet redissenyar sistemes sencers, ja que la predicció pot ocórrer en un lloc i temps diferents del judici.

L'AI Canvas: Elements de la decisió

Per descompondre una decisió en components accionables, utilitzem l'AI Canvas:

1. Input: Les dades necessàries per generar la predicció.
2. Predicció: L'output de la màquina (probabilitat).
3. Judici: La determinació de la "funció de recompensa" o utilitat del resultat (funció humana).
4. Acció: L'execució física o digital de la decisió.
5. Outcome (Conseqüència): El resultat real després de l'acció.
6. Feedback: L'aprenentatge per a la propera iteració.

El Valor del Judici i els "Stakes"

En un món de prediccions barates, el judici —determinar la utilitat o el cost d'un error— esdevé l'habilitat més escassa i valuosa. El disseny de la decisió depèn de la magnitud del que hi ha en joc (Stakes):

• Baixos Stakes: Recomanacions a Amazon. Un error té una utilitat marginal negativa mínima. Aquí es prioritza la Velocitat vs. Precisió.
• Alts Stakes: Moderació de continguts a Facebook o frenada d'emergència a Tesla. Un error pot ser catastròfic. En aquests casos, es prioritza la Protecció vs. Autonomia, mantenint sovint un humà "en el bucle" (human-in-the-loop).

Aquesta integració es materialitza en el flux de treball diari mitjançant el redisseny operatiu.

4. Part III: Eines per al Redisseny del Flux de Treball

L'IA no és un pegat operatiu; és un motor de transformació que obliga a redissenyar els processos des de zero, movent l'empresa de solucions puntuals a solucions de sistema.

Transformació Operativa i Descomposició de Tasques

Les empreses han d'identificar on la incertesa actua com un impost a la productivitat. Un exemple paradigmàtic és Air Canada Cargo: l'ús d'IA per predir no-shows i canvis de pes d'última hora va permetre una reducció del 25% de la capacitat no utilitzada. Aquest increment en l'eficiència no va venir de fer el mateix més ràpid, sinó de predir millor la volatilitat de la demanda.

Redisseny de llocs de treball

El canvi fonamental és el moviment cap al judici per excepció. L'IA gestiona el volum massiu de situacions rutinàries (con de la incertesa baix), i l'humà intervé només quan el sistema detecta una anomalia o un "con" d'alta incertesa on el cost de l'error és elevat.

Part IV: L'IA en l'Estratègia Empresarial

L'IA és una decisió de la C-Suite perquè pot alterar completament la lògica del model de negoci, passant de la productivitat a l'avantatge competitiu estructural.

Canvi de Model: Shopping-then-Shipping

L'exemple d'Amazon és revelador:

• Model tradicional: "Comprar i després enviar".
• Model estratègic d'IA: "Enviar i després comprar" (Shipping-then-shopping). Si la precisió de la predicció és prou alta, Amazon podria invertir la cadena de subministrament, enviant productes abans que el client els demani. Això requereix un redisseny total del sistema logístic i de devolucions, però captura una quota de mercat absoluta.

Estratègia de Dades i Rendiments d'Escala

Cal distingir entre dos conceptes econòmics:

1. Rendiments decreixents estadístics: La dada número un milió aporta menys precisió marginal que la número mil.
2. Rendiments creixents econòmics: Ser un 1% millor que la competència en predicció pot permetre capturar el 100% del mercat ("el guanyador s'ho emporta tot").

Gestió de Riscos Algorísmics

Els líders han de vigilar els Unknown Knowns estratègics: dependre d'algoritmes que podrien trencar-se si l'entorn canvia o si la competència actua de manera imprevista, invalidant les correlacions passades.

Part V: L'IA i la Societat: Riscos i Oportunitats

La responsabilitat dels líders s'estén a les externalitats socials que genera l'automatització a escala.

Debats Crítics i Impacte Global

• Futur del Treball i Desigualtat: El desplaçament no serà total, però la riquesa es pot concentrar en els propietaris del capital intel·lectual (algoritmes i dades) i en aquells amb judici d'alt nivell.
• Concentració de Poder: Les barreres d'entrada que creen les dades afavoreixen la creació de monopolis naturals.
• Geopolítica: La competència entre nacions per la dominància de dades és el nou camp de batalla de la sobirania econòmica.

L'IA no és màgia; és una eina econòmica que requereix decisions humanes valentes per ser dirigida cap al bé comú.

Conclusió: El "So What?" Layer per a l'Executiu Modern

L'adopció de l'IA no és una opció tecnològica, sinó un imperatiu de supervivència estratègica. Les tres lliçons fonamentals són:

1. Prioritzeu el Judici com a Actiu Escàs: En un món on la predicció és una commodity de cost marginal zero, la claredat dels objectius corporatius i la capacitat de decisió humana són el vostre únic avantatge diferenciador.
2. Reavalueu el Sistema, no la Tasca: El veritable valor no és automatitzar el passat, sinó redissenyar el sistema sencer aprofitant el desacoblament entre predicció i judici per crear models de negoci prèviament impossibles.
3. Invertiu en Aprenentatge Estratègic de Dades: No totes les dades són iguals. Identifiqueu aquelles que generen bucles de retroalimentació positius i rendiments econòmics creixents.

La urgència és màxima. Aquells que no ajustin el seu "dial de la predicció" avui es trobaran operant amb costos d'incertesa que la competència ja haurà eliminat. El futur pertany a les organitzacions que sàpiguen on acaba la màquina i on comença la visió humana.

PS. Avui a FT 

El nostre Atlas Alphagenòmic

Introducing AlphaGenome Atlas

 A continuació es presenta el darrer avenç de Google  "Introducing AlphaGenome Atlas". Es tracta d'un pas decisiu i amb grans implicacions per al futur com ho va ser Alphafold.

1. Títol, Data i Autoria del Projecte

• Títol i Data: L'article, titulat "AlphaGenome Atlas: a high-resolution map of human DNA", es va publicar el 8 de setembre de 2026.
• Definició general: Es presenta com el catàleg més exhaustiu creat fins a la data sobre com les mutacions genètiques afecten la biologia molecular.
• Lideratge científic: El projecte ha estat desenvolupat i signat per dos científics de referència de Google DeepMind:
  • Pushmeet Kohli: Vicepresident de Ciència a Google DeepMind i Científic Cap a Google Cloud.
  • Žiga Avsec: Líder de la Iniciativa de Genòmica a Google DeepMind.

2. El Context del Genoma Humà i el Desafia del 98% No Codificant

• Mida del genoma: El genoma humà està integrat per aproximadament 3.000 milions de parells de bases de DNA.
• La bretxa de coneixement:
  • La comunitat científica entén relativament bé el 2% del genoma que codifica proteïnes.
  • Tanmateix, es manté un coneixement molt limitat sobre el 98% restant (les anomenades regions no codificants).
• L'antecedent del model AlphaGenome: El model base d'IA AlphaGenome ja havia demostrat prèviament que un sol canvi en aquestes regions de DNA no codificant pot alterar greument processos moleculars com la producció de proteïnes. No obstant això, fins ara faltava una visió global que connectés aquests efectes a gran escala.

3. Especificacions de l'AlphaGenome Atlas: 9.000 Milions de Variants i 1 Petabyte de Dades

• Càlcul exhaustiu: L'AlphaGenome Atlas és una base de dades dissenyada per predir els efectes de cada possible variant de nucleòtid únic (canvis d'una sola lletra) en el genoma humà.
• Volum de càlcul: Els investigadors van utilitzar el model d'IA per precalcular l'impacte regulador de tots els 9.000 milions de canvis genètics possibles.
• Mida del dataset: Aquest processament massiu va donar lloc a un conjunt de dades d'1 petabyte de capacitat, la qual cosa permet als científics consultar ràpidament aquesta informació.

4. La Puntuació Unificada AVI (AlphaGenome Variant Impact Score)

• El problema de la complexitat: Navegar per una quantitat tan ingent de dades de forma manual seria una tasca extremadament feixuga per als investigadors.
• La solució AVI: Per facilitat la cerca, l'Atles introdueix la puntuació AlphaGenome Variant Impact (AVI).
• Funcionament: L'AVI és una mètrica única i fàcil d'utilitzar que combina en un sol valor les prediccions tant per a les regions codificants com per a les no codificants del DNA.
• Utilitat pràctica: Permet als científics prioritzar de manera immediata les línies de recerca més prometedores sense haver de filtrar manualment milers de punts de dades individuals.

5. Aplicacions Reals en la Investigació Científica i Casos d'Estudi

L'article descriu com l'AlphaGenome Atlas ja està funcionant com una eina d'amplificació per a la comunitat científica en dos àmbits concrets:

• A. Resolució de malalties genòmiques rares (Broad Institute):

  • L'equip: Laura Covill i el seu equip al Broad Institute van utilitzar la puntuació AVI per prioritzar variants genètiques en casos de malalties rares que continuaven sense resoldre's.
  • La troballa: L'eina va destacar una variant crítica en el gen DNM1, preveient que aquesta modificació creava un lloc d'empalme (splice site) incorrecte.
  • El resultat: Aquesta predicció va aportar la prova de suport clau per poder resoldre el cas clínic amb èxit.

• B. Descobriment de trets complexos i l'índex de massa corporal (UK Biobank):

  • El desafiament: Identificar variants rares i no codificants vinculades a trets complexos sol ser molt difícil a causa del soroll estadístic.
  • L'estudi: El Dr. Gareth Hawkes va aplicar l'AlphaGenome Atlas a les dades de més de 54.000 participants de l'UK Biobank.
  • Troballes:
    • En agrupar les variants segons els seus efectes moleculars predits, va descobrir un 22% més d'associacions genètiques no codificants.
    • Centrant-se en l'1% de les variants amb major impacte, va identificar 19 regions genètiques vinculades a l'índex de massa corporal (IMC / BMI), orientant directament la següent fase de recerca.

6. Accés Obert, Democratització i Compromís Científic

• Portal web sense codi: L'AlphaGenome Atlas s'ha posat a disposició pública a través d'un portal web intuïtiu (alphagenome.google/atlas) que no requereix coneixements de programació (zero coding skills).
• Democratització: Aquesta interfície permet que metges clínics i biòlegs d'arreu del món puguin utilitzar la informació sense trobar-se amb barreres informàtiques.
• Objectiu final: Forma part del compromís continuat de Google DeepMind per accelerar el ritme dels descobriments biològics i la ciència genòmica a escala global.

PS. El DNA no codificant representa la gran majoria de la nostra informació genètica i juga un paper regulador fonamental en el funcionament del cos humà:

• Representa el 98% del genoma: El genoma humà està conformat per aproximadament 3.000 milions de parells de bases de DNA. MENTRE que el 2% que codifica proteïnes és relativament ben conegut per la comunitat científica, el 98% restant correspon a regions no codificants que durant molt de temps han estat un gran misteri.
• Control i regulació dels processos moleculars: Tot i que no codifiquen directament proteïnes, aquestes regions reguladores controlen com, quan i on s'expressen els gens. Alteracions o variants d'una sola lletra (variants de nucleòtid únic) en el DNA no codificant poden interrompre processos moleculars crucials, com la mateixa producció de proteïnes o el correcte enllaç (splicing) del RNA
• Impacte en malalties rares i variants no codificants: Per exemple, en la investigació de malalties rares del Broad Institute, es va descobrir que una variant en la regió no codificant del gen DNM1 creava un lloc d'enllaç (splice site) incorrecte, resolent així un cas clínic que romania sense explicació.
• Vinculació amb trets complexos: La identificació de variants no codificants permet relacionar el DNA amb trets biològics complexos. En analitzar dades de més de 54.000 participants de l'UK Biobank amb el model AlphaGenome, es va aconseguir augmentar en un 22% les associacions genètiques no codificants descobertes i identificar 19 regions genètiques vinculades a l'índex de massa corporal (IMC / BMI).

Gràcies a eines com l'AlphaGenome Atlas, que ha precalculat l'impacte regulador de 9.000 milions de canvis possibles a través de la mètrica AVI (AlphaGenome Variant Impact score), ara és possible analitzar de manera unificada tant les regions codificants com les no codificants per comprendre millor l'origen de moltes malalties

L'art de discutir

L’art de tenir sempre raó 

L’art de tenir sempre raó (titulat originalment Eristische Dialektik: Die Kunst, Recht zu behalten) és un tractat d'Arthur Schopenhauer redactat pels volts del 1830-1831 i publicat de manera pòstuma. En aquesta obra, el filòsof conceptualitza la dialèctica erística com l'«art de discutir» amb l'únic objectiu de tenir sempre raó, ja sigui amb mitjans lícits o il·lícits (per fas et nefas).

1. La base de la dialèctica erística

Schopenhauer contraposa radicalment la lògica i la dialèctica:

• La lògica és la ciència de les lleis del pensament pur i s'ocupa de la recerca de la veritat objectiva.
• La dialèctica és una «esgrima espiritual» que s'ocupa de la veritat subjectiva o de l'aparença. Té com a finalitat defensar les pròpies afirmacions i capgirar les de l'adversari davant d'un auditori, independentment de si tenim raó objectiva o no.

Aquest comportament deriva de la dolenteria natural del gènere humà, caracteritzat per una vanitat innata, una loquacitat precipitada i una deslleialtat connatural. Com que la majoria de persones prefereixen que s'imposi la seva tesi abans que admetre que s'han equivocat, la discussió es converteix en una guerra on el llenguatge és la principal arma.

2. L'esquelet de tota discussió

Abans de desplegar els seus trucs, el llibre detalla que qualsevol refutació es redueix a una estructura bàsica de dues maneres i dues vies:

• Les maneres:
  • Ad rem: Demostrar que la tesi no concorda amb la naturalesa de les coses (veritat objectiva).
  • Ad hominem o ex concessis: Demostrar que la tesi no concorda amb altres afirmacions, admissions o amb el comportament de l'adversari (veritat subjectiva).
• Les vies:
  • Refutació directa: Ataca la tesi en els seus fonaments, demostrant que no és certa.
  • Refutació indirecta: Ataca les conseqüències de la tesi per demostrar que no pot ser certa, utilitzant l'apagoge (deduir una conclusió palesament falsa o absurda de la tesi) o la instància (presentar un cas particular real que destrueixi la regla general).

3. Els 38 estratagemes

El nucli del tractat el formen 38 estratagemes de mala fe que Schopenhauer descriu amb ironia com a pautes d'atac i defensa pràctiques. Tots aquests mètodes es fonamenten en l'estructura bàsica de tota disputa, que consisteix a atacar la tesi de l'adversari ja sigui per la seva veritat objectiva (ad rem) o per la seva coherència amb les seves pròpies afirmacions o conducta (ad hominem), de manera directa (atacant els fonaments) o indirecta (atacant-ne les conseqüències).

• Estratagema 1: L’ampliació. Consisteix a portar l'afirmació de l'adversari més enllà dels seus límits naturals, interpretant-la de la manera més general i exagerada possible. Al mateix temps, nosaltres restringim la nostra pròpia tesi al sentit més circumscrit possible, ja que com més general és una afirmació, més fàcil és d'atacar.
• Estratagema 2: L'homonímia. Es basa a estendre l'afirmació plantejada a un concepte que comparteix el mateix nom (homònim), però que té molt poc o gens en comú amb l'assumpte en qüestió, per després refutar brillantment aquest segon sentit i simular que s'ha tombat la tesi original.
• Estratagema 3: El pas d'allò relatiu a l'absolut. Consisteix a prendre una afirmació que s'ha presentat de manera relativa (circumscrita a un context o aspecte concret) com si s'hagués formulat de manera universal i absoluta, per refutar-la fàcilment sota aquest nou enfocament.
• Estratagema 4: Amagar el joc (premisses desordenades). Per arribar a una conclusió determinada, no s'ha de permetre que l'adversari la prevegi. Cal fer que admeti les premisses una per una, de manera desordenada i dispersa (utilitzant presil·logismes si cal), amagant el nostre propòsit fins que hagi concedit tot el que necessitem per llançar la conclusió final.
• Estratagema 5: Utilitzar premisses falses. Si l'adversari no admet premisses veritables (perquè no en reconeix la veritat o perquè sap cap a on porten), podem fer servir premisses falses que ell, tanmateix, consideri certes. S'argumenta així ex concessis, partint de la seva pròpia manera de pensar.
• Estratagema 6: Petitio principii oculta. Consisteix a postular de manera encoberta allò que s'hauria de demostrar. Això es pot fer fent servir un altre nom (com "bon nom" en lloc d'"honor"), fent que ens concedeixin una veritat general per aprovar un cas particular o viceversa.
• Estratagema 7: El mètode socràtic o erotemàtic. S'aplica en discussions formals: consisteix a fer moltes preguntes particulars de cop a l'adversari per amagar el que realment volem que s'admeti. Tot seguit, s'exposa ràpidament la nostra argumentació a partir d'allò que ha admès, aprofitant que els oients lents de comprensió no podran seguir el fil ni detectar possibles llacunes.
• Estratagema 8: Suscitar la ira. Provocar deliberadament la ira de l'adversari (comportant-nos de manera descarada, turmentant-lo o fent que s'equivoqui obertament) perquè enfurismat perdi la capacitat de pensar correctament i de percebre el seu avantatge.
• Estratagema 9: Preguntes desordenades. No fer les preguntes en l'ordre lògic que demana la conclusió que volem extreure, sinó completament desordenades. Això impedeix que l'adversari sàpiga on volem anar a parar, i les seves respostes es poden aprofitar per treure conclusions diferents o fins i tot contràries.
• Estratagema 10: Preguntar el contrari. Si l'adversari respon negativament a les nostres preguntes per sistema i de manera obstinada, cal preguntar-li just el contrari de la tesi que necessitem, o bé sotmetre-li totes dues opcions alhora perquè no sàpiga quina és la que volem que afirmi.
• Estratagema 11: Inducció sense preguntar la generalització. Si fem una inducció i l'adversari ens concedeix els casos particulars, no li hem de demanar directament si admet la veritat general que se'n desprèn. S'ha d'introduir immediatament com a ja establerta i concedida, fent que ell i els oients tinguin la impressió que ja l'havien acceptada.
• Estratagema 12: Triar noms o metàfores favorables (trop). Consisteix a triar paraules o comparacions que continguin per si mateixes, de manera analítica, el judici que volem provar. Per exemple, anomenar un "canvi" com a "innovació" si volem que sembli odiós, o com a "ordre constituït" si el defensem; o utilitzar "pietat" en lloc de "beateria".
• Estratagema 13: Presentar la tesi contrària de forma estrident. Per fer que l'adversari accepti la nostra tesi, hem de presentar la tesi oposada de manera tan extrema i caricaturitzada que, per no ser paradoxal, es vegi obligat a decantar-se per la nostra, que per contrast semblarà molt més raonable.
• Estratagema 14: Jugada descarada (triomfar sense motiu). Després que l'adversari hagi respost a diverses preguntes de manera contrària a les nostres intencions, s'exclama de manera triomfant la conclusió que volíem treure com si ja estigués totalment demostrada. Si l'adversari és tímid o beneit, i nosaltres som prou impertinents i tenim bona veu, la jugada pot funcionar.
• Estratagema 15: Tesi paradoxal i reducció ad absurdum. Si plantegem una tesi paradoxal difícil de defensar, proposem a l'adversari una altra tesi justa, però no del tot evident, perquè l'accepti. Si la rebutja per sospita, el reduïm ad absurdum i triomfem; si l'accepta, ja hem guanyat temps i avançat un pas racional en la discussió.
• Estratagema 16: Argumentum ad hominem o ex concessis. Davant d'una afirmació de l'adversari, hem d'indagar si es contradiu amb alguna cosa que hagi dit o admès prèviament, amb els cànons d'una escola o secta que hagi lloat, o amb el seu propi comportament o forma de vida.
• Estratagema 17: Subtil distinció. Si l'adversari ens acorrala amb una contraprova, ens podem salvar introduint una distinció molt subtil si el tema en qüestió ho permet per tenir un doble significat o un doble cas en què abans no havíem pensat.
• Estratagema 18: Mutatio controversiae (interrompre o desviar). Si ens adonem que l'adversari utilitza un camí argumentatiu amb el qual ens guanyarà, no hem de permetre que el porti a terme. Cal interrompre, desviar o allunyar a temps el curs de la discussió cap a altres qüestions.
• Estratagema 19: Generalitzar el tema. Si l'adversari ens demana explícitament que argumentem en contra d'un punt molt concret de la seva tesi i no tenim res adient a dir, hem de portar l'assumpte a un terreny molt general (com el caràcter il·lusori del saber humà) i parlar llargament d'això.
• Estratagema 20: Treure la conclusió directament. Quan l'adversari ens ha admès les premisses que li demanàvem, no li hem de demanar també la conclusió; l'hem d'extreure nosaltres mateixos de manera directa. Encara que ens falti alguna premissa per lligar-ho, l'assumim com a concedida i traiem la conclusió igualment.
• Estratagema 21: Contraargument sofístic o aparent. Si l'adversari utilitza un argument que detectem que és purament aparent o sofístic, és més breu i efectiu liquidar-lo recorrent a un contraargument igualment sofístic o ad hominem. El que compta en la dialèctica no és la veritat, sinó la victòria.
• Estratagema 22: Rebutjar com a petitio principii. Si l'adversari ens demana que admetem una premissa de la qual deduiria immediatament la resolució del problema, ens hi hem de negar al·legant que és una petitio principii encoberta, privant-lo així de la seva millor línia d'atac.
• Estratagema 23: Contradicció i exageració (burxar l'adversari). Contradir l'adversari de manera obstinada per burxar-lo i induir-lo a exagerar la seva tesi més enllà del que és cert. Un cop refutada aquesta exageració, farà l'efecte que hem refutat també la seva afirmació inicial.
• Estratagema 24: Forçar conseqüències. Consisteix a extreure a la força deduccions falses o deformades de la tesi de l'adversari per fer sorgir proposicions absurdes, perilloses o contràries a veritats reconegudes que ell realment no sosté, utilitzant-ho com una refutació indirecta (apagoge).
• Estratagema 25: La instància (exemplum in contrarium). S'aplica per destruir una tesi general mitjançant la indicació d'un sol cas real comprès en la seva enunciació per al qual la regla general no es compleix. Per exemple, la regla "tots els ruminants tenen banyes" es destrueix amb la instància dels camells.
• Estratagema 26: Retorsio argumenti (girar l'argument). És una jugada molt brillant que consisteix a utilitzar el mateix argument de l'adversari en contra seva. Per exemple, si ell diu: "És un nen, se li ha de concedir tot", nosaltres responem: "Precisament perquè és un nen se l'ha de castigar per no perseverar en els mals costums".
• Estratagema 27: Assetjar el punt dèbil. Si davant d'un argument determinat l'adversari s'enrabia o s'irrita de manera inesperada, hem d'insistir i assetjar-lo encara més amb aquest mateix punt, ja que no només revela que està emprenyat, sinó que hem tocat de ple el punt més feble del seu raonament.
• Estratagema 28: Argumentum ad auditores. S'aplica quan es discuteix davant d'un públic que no és expert en la matèria. Consisteix a llançar una objecció falsa o inconsistent que posi en ridícul l'afirmació de l'adversari. Com que els oients riuen, es posen de part nostra; per demostrar que l'objecció és nul·la, l'adversari s'hauria d'endinsar en una llarga explicació científica que ningú voldrà escoltar.
• Estratagema 29: Diversió. Si veiem que serem derrotats, s'ha de fer una diversió: començar de sobte a parlar d'una cosa completament diferent com si tingués relació amb el tema o fos un argument contra l'adversari, desvariant de vegades cap a atacs personals.
• Estratagema 30: Argumentum ad verecundiam (apel·lar a l'autoritat). En lloc de donar raons, s'utilitzen autoritats o prejudicis que l'adversari respecti. Aquest mètode funciona millor com més limitades són les capacitats i coneixements de l'oponent, podent arribar a distorsionar, falsificar o inventar del tot les citacions si ell no té el llibre a l'abast.
• Estratagema 31: Incompetència irònica. Declarar-se incompetent amb fina ironia davant de l'auditori ("això supera la meva feble comprensió; renuncio a emetre cap judici"), per insinuar de manera subtil a un públic que ens té estima que el que diu l'adversari és en realitat una insensatesa.
• Estratagema 32: Etiquetar sota una categoria odiada. Descartar o fer sospitosa l'afirmació de l'adversari reconduint-la ràpidament a una categoria filosòfica o herètica que la societat o l'auditori detesti (com ara "ateisme", "espinozisme", "idealisme", "misticisme" o "racionalisme").
• Estratagema 33: "Veritat en teoria, fals en la pràctica". Amb aquest sofisma s'admeten de manera aparent les raons de l'adversari per, tot seguit, negar-ne les conseqüències pràctiques. Això és lògicament impossible: si no funciona a la pràctica és perquè hi ha un error o una omissió en la teoria, de manera que també és falsa en teoria.
• Estratagema 34: Assetjar si eviten respondre. Si l'adversari evita donar una resposta precisa o directa a una pregunta, i s'escapoleix amb una contrapregunta, una resposta indirecta o un canvi de tema, és un senyal inequívoc que li hem tocat un punt dèbil. Cal insistir i pressionar just en aquest punt sense deixar-lo anar.
• Estratagema 35: Argumentum ad utili (actuar sobre la voluntat). Aquest mètode (anomenat "agafar l'arbre per les arrels") fa superflus els raonaments intel·lectuals. Consisteix a fer veure a l'adversari (o a l'auditori que comparteix els seus interessos o corporació) que la seva opinió, si fos vàlida, danyaria greument el seu propi interès econòmic o de grup. L'adversari la deixarà caure immediatament com si fos un ferro roent.
• Estratagema 36: Atordir amb xerrameca sense sentit. Desconcertar l'adversari dient-li amb posat seriós i profund una acumulació de ximpleries solemnes que sonin doctes i complexes. Si ell és conscient de la seva feblesa i està acostumat a simular que entén el que ignora, quedarà completament paralitzat de pensament davant d'aquesta "prova".
• Estratagema 37: Refutar la prova dolenta. Si l'adversari té raó en el fons de la qüestió, però per desgràcia seva tria una prova dolenta o inadequada per demostrar-la, refutem aquesta prova i despatxem la seva victòria com si haguéssim refutat tot l'assumpte. Això és canviar un argument ad hominem per un ad rem.
• Últim estratagema (Estratagema 38): Argumentum ad personam. Quan s'adverteix que l'adversari és superior i que es perdrà de forma inevitable, s'abandona per complet el tema de discussió i s'ataca directament la persona de l'adversari de manera ofensiva, grollera, insolent i ultratjant. Aquesta és una crida de les forces de l'esperit a les de l'animalitat de la qual Schopenhauer aconsella protegir-se evitant discutir amb qualsevol persona.

4. Context i desistiment de la publicació

Schopenhauer va desistir de publicar el tractat ja que, en revisar-lo de gran, descriure minuciosament tots aquests ardits de la vanitat i la incapacitat humana li provocava nàusees. A canvi, va incloure le primeres nou estratagemes als Parerga i Paralipòmena i va deixar formulada la seva contraregla d'or definitiva: no discutir amb el primer que arriba, sinó únicament amb aquells que tenen prou intel·ligència i sentit comú per respectar la raó i escoltar els arguments.

L'assaig que acompanya l'edició, a cura de Franco Volpi, analitza l'evolució històrica del terme des de Zenó, Sòcrates i Aristòtil fins a la contraposició entre el pragmatisme de Schopenhauer i la monumental dialèctica idealista de Hegel.

IA pertot arreu (33)

Auditing AI 

Aquest és un resum del llibre "Auditing AI" (2026), de The Marquand House Collective (publicat per MIT Press dins de la seva col·lecció Essential Knowledge Series). El col·lectiu està format per onze experts d'àmbits com la informàtica, el dret, les polítiques públiques, les ciències socials i el periodisme.

Capítol 1: Introducció (Introduction)

Aquest capítol introdueix la necessitat històrica i actual de les auditories de sistemes automatitzats a través de tres casos d'estudi fonamentals.

• L'algoritme de trasplantament de ronyó (LYFT): Als anys vuitanta, la presa de decisions mèdiques assistida per ordinador era ciència-ficció, però cap al 2000 es va dissenyar el sistema automatitzat LYFT (life years from transplant) per prioritzar l'assignació de ronyons. Aquest algorisme calculava quant de temps viuria una persona si rebia un trasplantament, però va rebre fortes crítiques. Els pacients d'edat avançada al·legaven discriminació per edat, i les comunitats racialitzades i de baixos recursos denunciaven que beneficiava els pacients més rics. El 2009, el cirurgià Peter Stock i el seu comitè van presentar una sèrie d'auditories independents que van identificar disparitats per edat, gènere, geografia i raça, la qual cosa va permetre reformar el sistema cap a un model més equitatiu.
• El precedent històric de SABRE: A mitjan segle XX, reservar bitllets d'avió requeria hores de trucades i un registre analògic en taulers de xulles. El 1960, el llançament de SABRE (creat per IBM i American Airlines) va computeritzar les reserves. Aviat, aerolínies competidores van detectar comportaments anòmals (com vols que desapareixien o es canviaven a American Airlines) i que els primers resultats de cerca afavorien sempre l'aerolínia propietària del sistema. El 1983, es va impulsar una investigació per aquest "biaix de visualització" (display bias). El president d'American Airlines, Robert L. Crandall, va defensar obertament que el sistema s'havia dissenyat per afavorir-los ("la queixa de Crandall": per què construir un sistema car si no pots esbiaixar-lo al teu favor?). El regulador va prohibir aquesta pràctica i va obligar a fer públics els algorismes de cerca.
• La discriminació publicitària de Meta (Facebook): El 2016, periodistes de ProPublica van revelar que la plataforma de Meta permetia als anunciants excloure determinades "afinitats ètniques" (com "afroamericans", "asiàtics americans" o "hispans") en anuncis de lloguer d'habitatges o d'ocupació, violant directament les lleis federals de drets civils. Malgrat les declaracions de Meta afirmant que s'havia corregit, auditories posteriors de periodistes i acadèmics van seguir trobant patrons discriminatoris. El cas va acabar el 2022 amb una demanda del Departament de Justícia dels EUA (DOJ), una sanció i l'obligació de Meta de sotmetre's a auditories periòdiques i independents.

Capítol 2: Què és l'auditoria d'IA? (What Is AI Auditing?)

L'autoria clarifica els conceptes, definicions i marcs d'actuació de la disciplina.

• Definició de sistema d'IA i auditoria: Un sistema d'IA és qualsevol sistema automatitzat on s'integren algorismes (processos computacionals codificats sovint basats en dades). S'anomena auditoria d'IA a l'avaluació rigorosa i sistemàtica de les afirmacions, expectatives o estàndards (siguin requisits legals o normes socials com la privacitat) d'un sistema d'IA. Un bon auditor comença la seva tasca des de l'escepticisme.
• L'origen dels mètodes de l'auditoria: Es basen en les auditories financeres, tributàries (IRS) i reguladores (FDA, EPA, SEC). No obstant això, el seu antecedent directe en l'àmbit de la justícia social es troba en els estudis d'auditoria de l'habitatge del segle XX per combatre el redlining (la discriminació immobiliària cap a persones negres). Aquests estudis enviaven parelles de provadors (un de negre i un de blanc, amb el mateix perfil econòmic) a sol·licitar un habitatge alhora, registrant com eren tractats. Després es va aplicar al mercat laboral mitjançant l'enviament de currículums falsos amb noms que suggerien diferents races o gèneres (correspondence audits).
• El cas COMPAS: El 2016, Julia Angwin i el seu equip de ProPublica van auditar l'algorisme COMPAS, utilitzat per jutges dels EUA per avaluar la probabilitat de reincidència criminal. L'auditoria va revelar que el sistema doblava la taxa d'error en predir falsos positius de reincidència per a defensors negres i, a la vegada, qualificava erròniament els defensors blancs com a de "baix risc" molt més sovint. Aquest cas va evidenciar que els sistemes d'IA estan condicionats pel biaix humà contingut en les seves dades d'entrenament històriques.
• Tipus d'auditoria segons el seu objectiu:
  • Auditories de viabilitat/destí: Determinen si un sistema s'ha d'abandonar (per exemple, les auditories sobre els algorismes de patrullatge policial predictiu de PredPol o Palantir van portar ciutats com Los Angeles i Chicago a deixar d'utilitzar-los per la seva ineficàcia i biaix racial).
  • Auditories com a tripwires (fils de trencament): Serveixen com a alertes inicials que justifiquen accions legals o investigacions governamentals més profundes on els reguladors demanen més informació interna (com va passar amb Meta o Apple Card).
  • Auditories de supervisió continuada: Reavaluacions periòdiques per comprovar si el programari s'ha degradat o millorat. Un exemple són les auditories continuades a Google Image Search (2015, 2019 i 2021) sobre els estereotips de gènere en les cerques d'ocupacions (el problema de "la constructora sexy").
• Límits de les auditories: Sovint no poden obrir del tot la "caixa negra" (el funcionament intern d'un sistema que fins i tot pot ser desconegut per als seus propis enginyers) ni garanteixen per si soles la rendició de comptes d'una corporació si aquesta decideix ignorar els resultats.
• L'auditor i els conflictes d'interès: Les auditories fetes per tercers independents són el "patró d'or". Les realitzades per les mateixes empreses o amb la seva col·laboració directa presenten riscos de conflictes d'interès o de rentat d'imatge (audit-washing). Amb tot, algunes auditories internes de qualitat han servit perquè empreses descobrissin falles i abandonessin sistemes (com Amazon amb el seu escanejador de currículums o Twitter amb el seu retallador d'imatges).

Capítol 3: Els passos d'una auditoria d'IA (The Steps of an AI Audit)

L'auditora Joy Buolamwini va descobrir que les tecnologies de detecció facial comercials de grans marques no reconeixien la seva cara (ella és negra) excepte si es posava una màscara de disfressa blanca, la qual cosa la va portar a realitzar amb Timnit Gebru l'auditoria canònica "Gender Shades" (2018). Aquestes errades tenien conseqüències greus a la vida real, provocant detencions policials injustes per coincidències biomètriques errònies d'homes negres com Robert Williams a Detroit.

A partir d'aquí, es descriuen els cinc passos clàssics d'una auditoria d'IA:

1. Identificar el sistema a auditar (Identify the system): Definir les fronteres de la tecnologia, que sovint és un paquet de múltiples components complexos, de vegades utilitzant diagrames de sistemes per destriar el camí de les dades.
2. Planificar una investigació sistemàtica (Planning): Passar de l'anècdota a un mètode organitzat. Latanya Sweeney, per exemple, va formalitzar la seva sospita que Google mostrava anuncis suggerint detencions policials en cercar noms propis associats a persones negres mitjançant una cerca sistemàtica utilitzant bases de dades de naixements reals, provant que els noms afroamericans tenien un 25% més de probabilitats de rebre aquests anuncis.
3. Recollir dades (Collecting data): Pot fer-se per diferents mètodes:
   • Web scraping: Baixar informació de llocs webs sense demanar permís de manera automatitzada.
   • APIs: Fer servir les eines de programació que les pròpies empreses ofereixen com a "invitació" de connexió.
   • Sock puppets (titelles de drap): Programes o perfils automatitzats simulats que actuen com a usuaris humans de diferents demografies per avaluar-ne les respostes.
   • Auditories col·laboratives o crowdsourced: Demanar a usuaris reals que donin o capturin les seves dades a través de ginys o extensions de navegador (com es va fer per comprovar si el portal de viatges Orbitz apujava els preus als usuaris de Mac).
   • Consideracions ètiques i de càrrega: L'auditoria ha de protegir la privacitat de les dades recollides i mesurar que les seves consultes massives no alentin, sobrecarreguin o facin caure el sistema auditat.
4. Anàlisi de dades (Analysis): Procés estadístic i iteratiu per mesurar els danys o el compliment de les normes. Es demana evitar l'ús de plantilles o tràmits buits per complir obligacions com la llei Local Law 144 de Nova York.
5. Comunicar les conclusions (Communicating findings): Divulgar els resultats de forma clara (en revistes acadèmiques, xarxes socials, informes o a la premsa). El ressò de Gender Shades va motivar que grans firmes de tecnologia aturessin o abandonessin la venda de reconeixement facial a la policia.

• Exemple pràctic d'auditoria ("The Silicon Ceiling"): El llibre detalla un estudi realitzat sobre GPT-3.5 de OpenAI per avaluar biaixos en els processos de selecció. Els auditors van utilitzar el model per generar de forma automatitzada 320 currículums associant-los a noms estadísticament vinculats a perfils de gènere i ètnics. L'anàlisi va demostrar que GPT-3.5 redactava currículums amb un menor nombre d'anys d'experiència laboral per a noms de dona en comparació amb els d'home, i assumia que el 100% de les persones amb noms hispans parlaven espanyol i eren immigrants en tràmits de visat (unes dades molt allunyades de la realitat demogràfica dels EUA).
• Variacions de l'auditoria: S'inclouen les auditories de codi font (habituals en sistemes de votació), auditories que avaluen les pantalles sense poder connectar entrades i sortides, i les auditories recurrents, necessàries perquè els sistemes d'IA estan en constant actualització i aprenentatge (com va passar amb el canvi del trending tòpic de Twitter el 2010 pel "fenomen Justin Bieber", que va modificar completament el funcionament de la xarxa).

Capítol 4: Interpretació dels resultats de l'auditoria (Interpreting Audit Results)

Amb el naixement de lleis com la Local Law 144 de Nova York (que obliga a auditar els algorismes de contractació de recursos humans), els directius de les empreses i els usuaris necessiten aprendre a destriar si una auditoria està ben executada o si és de mala qualitat.

• Bugs de disseny i paranys de l'intèrpret:
  • El problema de la definició: S'ha de comprovar quina pregunta s'ha plantejat l'auditoria. Per exemple, el "problema del magdalena-Chihuahua" (un error de categorització còmic de l'IA visual) és fàcil de definir, però avaluar el "biaix" és molt més abstracte. Un exemple de buit legal va ser quan els portals de vols van començar a canviar la nomenclatura d'ordenació a "millor" o "recomanat" per passar les auditories de "display bias" sense haver de modificar les seves pràctiques opaques de promoció de vols.
  • La regla del 4/5 (80%): Un llindar comú en les auditories de selecció laboral és el del 80% (admetre un ràtio de contractació de minories de com a mínim quatre de cada cinc respecte al grup més afavorit). Tot i utilitzar-se de manera automatitzada, molts experts recorden que és una mesura antiga i arbitrària que no sempre detecta els danys reals.
  • La representativitat de les categories d'assaig: Els conjunts de dades utilitzats per auditar (com el conjunt FairFace) sovint s'etiqueten mitjançant treballadors barats de plataformes de microtreball, excloent perfils complexos com les persones de raça mixta o minories de poca presència (com els illencs del Pacífic) si els treballadors no es posaven d'acord en l'etiqueta visual.
  • Dades obsoletes i heretades: Si l'auditoria es fa amb les mateixes dades històriques esbiaixades de l'empresa, es corre el risc de validar i consolidar els biaixos, com va ocórrer amb un programari d'Amazon que penalitzava paraules de currículums de dones perquè els deu anys anteriors de dades de contractació de l'empresa eren majoritàriament d'homes que utilitzaven termes masculins com "executat".
• Comparativa de dos casos reals sota la Local Law 144:
  • L'auditoria de Paramount (realitzada per BABL AI sobre Pymetrics): Un informe aparentment oficial i extens de 21 pàgines amb un resultat de "PASS". Malgrat el seu aspecte, una anàlisi dels detalls revela que les dades demogràfiques es recollien mitjançant una pantalla voluntària al final del procés. Un lector atent pot calcular que les dades de gènere i ètnia faltaven en el 30% dels sol·licitants, de manera que l'auditoria només analitzava l'experiència de 7 de cada 10 persones, ocultant un gran grup on podien ocórrer pràctiques de biaix.
  • L'auditoria de NBCUniversal (realitzada per ConductorAI sobre SmartRecruiters): Un document d'una sola pàgina que, a diferència de l'anterior, era transparent i detallat. Mostrava el nombre absolut d'aplicants, els candidats exclosos per manca de dades (que representaven només el 2,5% del total, donant molta més confiança) i publicava els ràtios d'impacte de tots els grups ètnics, incloent els de menys del 2% de representació.
  • Aquesta comparativa demostra que "no s'ha de jutjar un llibre per la seva coberta" en matèria d'auditories.

Capítol 5: Després de l'auditoria (After the Audit)

L'auditoria ha de servir per propiciar el canvi pràctic o bé protegir un producte ben fet.

• Millora de producte: L'auditoria serveix per corregir biaixos, com els errors de gènere que cometia Google Translate quan traduïa idiomes sense gènere gramatical de forma asimètrica (per exemple, associant "doctor" a homes i "infermera" a dones en traduir el turc a l'anglès), el qual va ser modificat gràcies a mètodes de mitigació d'estereotips en les associacions de paraules (word embeddings). També, Eslami i Karahalios van auditar les cerques de Twitter per demostrar de manera científica que el motor de cerca no prioritzava els candidats demòcrates de forma artificial, sinó que es limitava a reflectir el volum de tuits reals dels usuaris.
• El parany de les solucions "tirita" (Band-Aid): El 2015, l'aplicació Google Photos va etiquetar erròniament una foto de dues persones negres com a "goril·les". Google es va disculpar i la seva solució ràpida va ser esborrar les etiquetes de "goril·la", "ximpanzé" i "mico" del tot. Una auditoria feta vuit anys després va revelar que ni Google Photos ni Apple Photos eren capaços d'etiquetar un goril·la de veritat. Això demostra que les solucions cosmètiques només amaguen el problema de fons.
• La repetició d'auditories: ProPublica va repetir l'auditoria a Facebook el 2017 i va descobrir que, tot i haver eliminat les "afinitats ètniques", l'entorn de publicitat seguia permetent excloure de forma manual perfils de mares o persones amb cadira de rodes en anuncis de lloguer d'immobles. Finalment, Meta va eliminar completament la tria per edat o gènere en aquests anuncis, però l'algorisme de lliurament de la pròpia plataforma va continuar distribuint la visualització dels anuncis de manera desigual en funció de categories protegides.
• Altres conseqüències:
  • Abandonament del sistema: Tancar un programari per ser massa perillós (com l'asfíxia de les aplicacions de patrullatge policial predictiu).
  • Accions de resistència activa: Com el teixit "HyperFace" dissenyat per l'artista Adam Harvey amb patrons que l'IA de vigilància confon amb cares humanes per camuflar l'usuari, o la col·locació d'adhesius en senyals de STOP per desorientar el visor de cotxes autònoms.
  • Revelar valors: L'auditoria d'UNOS va obligar a eliminar la variable de "raça" en el càlcul de la funció renal dels pacients per rebre trasplantaments, canviant un sistema que perjudicava els malalts de ronyó negres.
• Polítiques públiques i dret: Les auditories van guiar la redacció de documents de referència de l'administració nord-americana com el Blueprint for an AI Bill of Rights de la Casa Blanca o l'Ordre Executiva 14110 del 2023 (vigent com a guia de regulacions). A més, donen legitimitat (standing) en demandes col·lectives davant la justícia i alimenten litigis en els tribunals (com el cas d'Idaho on es va demostrar que el càlcul d'ajudes de salut per a discapacitats usava dades històriques falses i retallava les prestacions de forma inconstitucional).

Capítol 6: Un ecosistema d'auditoria saludable (A Healthy Audit Ecosystem)

L'objectiu final de les auditories és aconseguir que el nostre ús diari de la tecnologia sigui tan invisible, segur i confiable com beure un got d'aigua neta de l'aixeta de casa.

• La cultura de Silicon Valley i els "accidents normals": La vella consigna de Facebook "Mou-te ràpid i trenca coses" (Move Fast and Break Things) i la seva relaxació pel risc pot servir per a un servei trivial de xarxa social, però s'ha tornat molt perillosa quan es tracta de sistemes militars d'orientació d'atacs (com SKYNET o el sistema Lavender que calcula un marge d'error de víctimes civils col·laterals a Gaza). El sociòleg Charles Perrow va descriure com en sistemes de gran escala i interactius els anomenats "accidents normals" són inevitables. Això demana la integració periòdica de mecanismes de control com les auditories o l'abandonament dels sistemes de perill evident.
• La normalització de les auditories i el cas de Twitter: S'analitza el precedent del programari, on les errades o deutes es gestionaven oferint recompenses per falles (com feia el prestigiós Donald Knuth signant xecs de 2,56 dòlars als lectors que detectaven errades als seus llibres, o els programes corporatius de bug bounties). Seguint aquest camí, la cap d'ètica d'IA de Twitter, Rumman Chowdhury, va obrir una auditoria del biaix d'imatge el 2021 per implicar la comunitat després de comprovar que el seu visor automàtic retallava i invisibilitzava les cares de persones negres a les fotos de les piulades. El guanyador, Bogdan Kulynych, va demostrar de forma matemàtica que l'algorisme de retallada preferia sistemàticament imatges de dones joves, primes i de pell clara. Davant la impossibilitat de solucionar la complexitat d'aquests biaixos, Twitter va decidir abandonar el retallador automàtic i retornar als usuaris el control manual d'aquesta funció.
• Protecció legal per als auditors: Un obstacle clau històric era el perill de ser acusat de delictes de pirateria informàtica sota la llei federal CFAA (Computer Fraud and Abuse Act), que penalitzava saltar-se de forma acadèmica els "termes de servei" de les plataformes digitals per scraping o ús de sock puppets. Els professors Karahalios i Sandvig, assistits per Esha Bhandari de l'ACLU, van dur a terme una llarga batalla legal (Sandvig v. Barr) on el Tribunal Suprem dels EUA va sentenciar que auditar per defensar els drets civils no pot ser castigat com a pirateria informàtica, establint el "dret a auditar".
• Democratització i lliçons globals: El futur de la disciplina requereix que no es redueixi l'auditoria a un procés burocràtic de consultories, sinó que es creïn sistemes oberts on els propis usuaris s'uneixin de manera col·laborativa per forçar solucions (com van fer els usuaris de WhatsApp en veure que l'IA de adhesius dibuixava nens amb metralletes en escriure "Palestina", o la tasca dels investigadors de la plataforma independent WeAudit). S'esmenta com a bona pràctica internacional l'auditoria de l'associació holandesa Algorithm Audit, que va detectar biaix racial en el sistema "Smart Check" utilitzat per l'Ajuntament d'Amsterdam per predir el frau en ajudes de benestar, motivant que els directius l'abandonessin.

Epíleg: En quin món volem viure?

Els autors acaben recordant que la tecnologia no és un mer mirall neutral de la societat, sinó que té el poder de modular i governar què sabem i com recordem la nostra pròpia història (com ho fan els algorismes de YouTube quan esborren de forma automatitzada per "violència" milers de vídeos que en realitat són proves crítiques de crims de guerra a Síria, el Iemen o el Sudan).

La principal diferència entre una auditoria de caixa negra i una auditoria de codi rau en el nivell d'accés que tenen els auditors a l'interior de la tecnologia i en la metodologia que s'utilitza per avaluar-la:

• Auditoria de "caixa negra" (o de comportament):

  • Metodologia: Es basa en el disseny d'auditoria clàssic que consisteix a variar sistemàticament les entrades (inputs) del sistema i examinar-ne les sortides (outputs) que genera.
  • Nivell d'accés: Els auditors no tenen accés al funcionament intern ni al codi (d'aquí prové el terme "caixa negra"). Aquestes tecnologies són sovint tan complexes que fins i tot els mateixos enginyers o propietaris que les han construït tenen dificultats per explicar exactament per què es comporten com ho fan.
  • Objectiu: Se centra en el que fa el sistema en lloc de com funciona internament. Permet detectar biaixos i extreure conclusions sobre el seu comportament a partir d'allò que és directament observable des de l'exterior.

• Auditoria de codi:

  • Metodologia: Els auditors no interactuen directament amb el sistema desplegat, ni amb les seves sortides o dades d'ús. En lloc d'això, l'avaluació es realitza llegint directament el codi font de la programació.
  • Nivell d'accés: S'obté un accés total a la programació interna del programari, una situació que sol ocórrer quan la regulació o un contracte obliguen l'empresa a obrir i fer públic el seu codi.
  • Objectiu: S'utilitza per analitzar les línies de codi i determinar de manera anticipada quins errors, biaixos o problemes podria cometre el sistema un cop es posi en pràctica. És l'estructura habitual per a les proves de seguretat informàtica i la investigació de màquines de votació.

Mentre que l'auditoria de caixa negra s'ocupa d'avaluar i mesurar de manera externa els resultats pràctics i els efectes reals del sistema, l'auditoria de codi busca auditar les instruccions de programació originals de manera interna.

El llibre tanca citant la tesi del filòsof Karl Popper a The Open Society and Its Enemies: les societats lliures i democràtiques necessiten informació de qualitat per treballar juntes pel bé comú. Les auditories de la intel·ligència artificial són la font d'aquesta informació essencial en la societat de l'automatització.