Shared Wisdom: Cultural Evolution in the Age of AI
Aquest és un resum del llibre "Shared Wisdom: Cultural Evolution in the Age of AI" (2025) del reconegut científic del MIT Alex Pentland. El llibre utilitza la ciència social computacional per proposar una reforma profunda de les nostres institucions social en l'era de la intel·ligència artificial.
Prefaci i Introducció: La naturalesa de la intel·ligència humana
Davant les actuals crisis globals, moltes de les nostres institucions socials estan trencades i necessiten una renovació tan profunda com la que es va viure durant la Il·lustració del segle XVIII. La tesi central de Pentland és que els humans no som individus racionals aïllats, sinó una espècie comunal i social que construeix el coneixement compartint històries.
- Intel·ligència comunitària (Community Intelligence): És el conjunt d'idees, estratègies, resultats i valors que circulen en una comunitat gràcies a l'experiència i a la comunicació. Funciona com a mètode de cerca cooperativa basada en el raonament abductiu (què és probable que passi en una situació) en lloc del raonament purament deductiu o lògic.
- Saviesa compartida (Shared Wisdom): És la part pràctica de la cultura, formada per aquelles històries i comportaments que assoleixen un ampli consens i suport dins de la comunitat per prendre bones decisions i coordinar l'acció col·lectiva.
- Històries vs. Fets: Pentland utilitza el terme "històries" (stories) en lloc de dades o fets per emfatitzar la incertesa inherent del nostre coneixement del món. Els humans processen, recorden i comprenen molt millor les estratègies quan tenen forma narrativa.
Part I: Tres invencions clau de xarxa per a l'evolució cultural
L'autor descriu tres històriques invencions sociotècniques que han accelerat dràsticament l'evolució de la nostra saviesa col·lectiva:
1. Xarxes per compartir històries (Story-sharing networks) - Capítol 2
- El foc del campament: L'hàbit de seure regularment al voltant d'un foc per explicar-se els èxits, perills i oportunitats del dia va canviar el nostre cervell i va fer possible la combinació de coneixements individuals en un consens de grup.
- La cerca de mínim penediment (Minimum-regret): Pentland utilitza el "problema del bandit" (bandit problem) de la teoria matemàtica per demostrar que compartir i observar les eleccions i resultats de tercers permet als agents assolir un equilibri òptim entre l'explotació de tècniques conegudes i l'exploració de noves oportunitats (el dilema exploit-explore).
- Experiments en finances (eToro): Analitzant milers d'inversors a la xarxa social d'inversió eToro, l'equip de Pentland va descobrir que els individus aïllats no són racionals i perden diners, mentre que els que utilitzen "models de rol" (aprenentatge social) assoleixen una gran racionalitat col·lectiva. Fins i tot els experts financers cometen grans errors si prenen decisions de forma aïllada (com va passar durant el Brexit).
2. Xarxes de pont (Bridging networks) i innovació - Capítol 3
- Evitar la cambra d'eco: Compartir històries només dins d'un mateix grup genera estancament i polarització. Es necessiten "xarxes de pont" per connectar comunitats culturalment diverses i propiciar la difusió de noves idees. Històricament, aquest paper el van fer els festivals de clans i, més tard, el naixement de les primeres ciutats.
- Disseny de ciutats i mobilitat: Els estudis de Pentland demostren que la diversitat d'interaccions físiques en el transport, carrers plens de cafeteries i llocs de trobada són els millors predictors de la riquesa, la reducció del crim i el correcte desenvolupament dels infants. El famós estudi Opportunity Atlas demostra que la influència del barri determina fins al 50% de la mobilitat social futura d'un infant abans del cinquè curs.
- El dilema de la subversió (Subversion dilemma): La manca de confiança entre grups fa que la por s'escalfi artificialment (com en un dilema de seguretat internacional), portant a un augment de la polarització. Corregir les males percepcions que es tenen sobre les intencions de l'altre grup millora immediatament la cohesió democràtica.
3. Xarxes de consens (Consensus networks) - Capítol 4
- El motor de la Il·lustració: Nascudes cap al 1500 amb l'intercanvi de cartes sobre "filosofia natural", es van sistematitzar amb les primeres revistes de la Royal Society (1665). Van introduir el mecanisme de les citacions de treballs previs.
- Els incentius per al consens: La xarxa de citacions no és només un arxiu, sinó un sistema on citar l'obra d'altri atorga reputació, i ser citat es tradueix en premis, càrrecs i reconeixement acadèmic. Pentland demostra que la dinàmica de citacions en camps tan dispars com la ciència, els patents i el dret comú (common law) segueix els mateixos models matemàtics d'atracció i evolució d'interès.
Part II: Ús de tecnologies digitals per a noves institucions
4. Els efectes secundaris de la tecnologia (Capítol 5)
Pentland repassa les conseqüències imprevistes de les quatre grans onades d'intel·ligència artificial per extreure'n lliçons:
- Anys 60 (Lògica i assignació de recursos): Excel·lents en optimització matemàtica de rutes o xips. El seu ús desmesurat per a la planificació centralitzada a gran escala de la societat (com es va intentar a la Unió Soviètica amb Kantorovich) va ser un desastre ecològic i de subministrament per ignorar la complexitat.
- Anys 80 (Sistemes experts): Van automatitzar tasques bancàries com la concessió de préstecs a nivell estatal per reduir costos de personal. L'efecte col·lateral va ser el desmantellament de caixes d'estalvi locals, cooperatives i institucions de barri, buidant les comunitats de poder de decisió i empobrint el control local.
- Anys 2000 (Filtratge col·laboratiu i "Surveillance Capitalism"): L'arribada d'internet va permetre el seguiment massiu de dades per personalitzar anuncis i cerques. Va crear les cambres d'eco.
- Els Dracs de dades (Data Dragons): El sistema del filtratge col·laboratiu promou la "vinculació preferencial" (preferential attachment), provocant un efecte de retroalimentació on els rics es fan més rics. Això fa sorgir uns pocs actors extremadament dominants ("dracs") que controlen el flux d'atenció, el comerç i el debat polític, fent inútils les eines tradicionals de regulació antitrust.
- Anys 2020 (IA Generativa i LLMs): A diferència de les anteriors, aquesta IA treballa amb narracions, cosa que li dóna un poder immens per influir en allò que la gent creu.
-
Els Quatre Cavallers del Fracàs Social (The Four Horsemen of Social Failure): Pentland adverteix que les institucions basades en "models de societat-màquina" rígids fallen sistemàticament a causa d'aquests quatre factors:
- Unseen Change (Canvi invisible): Com el teletreball canvia la dinàmica de l'espai d'oficines de les ciutats.
- Gray Swans (Rarees inevitables): Crisis o pandèmies que sabem que passaran però no quan.
- One-Size-Fits-None (Polítiques uniformes): Decisions nacionals que serveixen per a la mitjana però destrossen les minories.
- Myopia (Miopia): Ignorar indicadors que no siguin el PIB o els diners.
-
Marc ètic de disseny per a la IA (Principis de Tsai i Pentland): La IA generativa de caràcter democràtic ha de (1) ajudar sense reduir l'agència humana; (2) tractar tothom amb respecte igualitari; (3) protegir contra els biaixos de l'algoritme i (4) abstenir-se de substituir o representar els humans en les decisions de política.
5. Reinventar la Democràcia i l'Administració Pública (Capítols 6 i 7)
- Deliberació digital amb Polis: La democràcia representativa actual s'ha desconnectat de la ciutadania. Plataformes com el sistema Polis (utilitzat amb èxit a Taiwan) dissenyen espais on els ciutadans voten idees dels altres però sense botó de "respondre", evitant batalles de comentaris (flame wars) i fomentant estadísticament la cerca de propostes de consens que agradin a ambdós costats de l'espectre.
- Incentius de loteria: Proposa l'ús de premis d'estil loteria (com els bons de loteria britànics) per augmentar de forma substancial la participació i la inclusió dels sectors marginats de la població en aquestes plataformes de debat.
- L'agilitat de "Team of Teams": Per substituir les burocràcies lentes del segle XIX, Pentland posa com a exemple la transformació de l'exèrcit dels EUA a l'Iraq sota el general McChrystal. Es van eliminar les línies de comandament rígides per crear equips multidisciplinaris connectats per xarxes digitals de comunicació immediata que actuaven sota la comprensió de la "intenció del comandant" i no de les ordres literals.
- Els principis d'Elinor Ostrom aplicats a l'estat:
- Autogovern: El govern s'ha d'entendre com la gestió del bé comú (commons), amb fronteres clares on els implicats en el recurs prenguin de forma autònoma les decisions reguladores.
- Dades transparents: Ús de "censos enriquits" sobre el funcionament real de cada barri (on es compra, on es treballa) de forma privada per avaluar les polítiques públiques experimentals cap a objectius de sostenibilitat (ODS de l'ONU).
- Empoderament financer local: Retornar el finançament de serveis (policia, escola) cap al control directe de les assemblees de veïns.
- Data Trusts (Fideïcomisos de dades): Igual que els bancs administren els nostres diners (sense que siguin seus), les comunitats han de crear fideïcomisos de dades (data trusts) o cooperatives de dades on el ciutadà dipositi les dades obtingudes dels seus telèfons, de manera que les empreses o governs hagin de demanar llicències d'auditoria temporals sota condicions de la comunitat. Posa com a exemples l'èxit de l'Estonian Stack o l'aplicació Permission Slip que va dissenyar amb Consumer Union.
6. Regulació i Cooperació Global (Capítol 8)
- El fracàs de la regulació preventiva (Ex-ante): Intentar llançar regles rígides de seguretat abans de permetre el llançament de la IA és una tasca impossible degut a la rapidesa de la indústria, a més de perjudicar greument la innovació dels petits investigadors.
- L'alternativa de la responsabilitat civil i l'auditoria (Ex-post): El camí defensat pels líders mundials del Club de Madrid és l'ús de la responsabilitat objectiva estricta (strict product liability) aplicada des dels anys 60.
- Tota IA en funcionament ha de mantenir de forma obligatòria un registre continu i inalterable d'accions (logs d'auditoria).
- Davant de qualsevol dany, es recorre a aquests logs de decisió per assignar de manera immediata la responsabilitat civil de la reparació al fabricant.
- El valor de les organitzacions de consens globals: Davant el risc que els operadors de IA busquin paradisos reguladors, cal harmonitzar estàndards no pas mitjançant acords de l'ONU, sinó enfortint i adaptant les pràctiques d'organitzacions globals de consens ja existents per a l'intercanvi de dades, com l'IETF (internet), el FATF (prevenció del frau financer) i l'IHR de l'OMS (coordinació de pandèmies).
El raonament abductiu (abductive reasoning) es defineix a les teves fonts com el procés d'utilitzar històries, experiències i dades per esbrinar què és probable que passi en una situació i un context concrets.
Segons s'explica al llibre, aquest tipus de raonament es caracteritza pels següents aspectes:
- Contrast amb la deducció: Es diferencia del raonament deductiu, que és el procés d'esbrinar què ha de ser lògicament o matemàticament cert. En lloc d'intentar basar-ho tot en una lògica pura o en teories rígides, l'abducció s'adapta a un món complex i incert on els "fets" i les teories del passat poden fallar.
- Esforç col·lectiu i comunitari: La intel·ligència d'una comunitat i la seva saviesa compartida són el resultat d'un esforç cooperatiu de raonament abductiu. Aquest procés funciona com una cerca col·lectiva on els membres d'un grup comparteixen informació sobre accions i resultats per trobar solucions de manera conjunta.
- Un enfocament empíric i humil: Pentland el descriu com un mètode més humil d'adaptació en què es proven contínuament noves opcions, es fa un seguiment de múltiples factors i s'avalua experimentalment què funciona i què no. Sota aquest prisma, les dades reals obtingudes de l'experiència actuen com a guia principal per sobre de les construccions teòriques.
- Base matemàtica: Té un fonament matemàtic i lògic d'optimització (mecanisme de minimització del penediment o regret) molt útil per a grups d'actors amb valors comuns que han de prendre decisions en entorns altament caòtics i imprecisos.
En definitiva, aquest raonament pràctic i evolutiu és el que ha permès a la humanitat desenvolupar estratègies de comportament que garanteixen la supervivència i el progrés.