The Handover: How We Gave Control of Our Lives to Corporations, States and AIs
El llibre, titulat "The Handover: How We Gave Control of Our Lives to Corporations, States and AIs" de David Runciman, explora la idea que la por contemporània a la Intel·ligència Artificial (IA) i els robots és, en realitat, una repetició de la història de la humanitat amb altres tipus d'agents artificials superhumans: els estats i les corporacions. L'obra argumenta que aquestes entitats artificials, desenvolupades a partir del segle XVII, comparteixen qualitats amb els robots i determinen el nostre futur.
Aquí teniu un resum detallat de les idees principals del llibre:
1. Els Superagents: Estats, Corporacions i Robots
El llibre defineix els estats i les corporacions com a "superagents" o "persones artificials" que han estat construïdes per la humanitat per superar les nostres limitacions i oferir-nos comoditat, eficiència i seguretat.
- Paral·lelismes amb la IA: La relació actual amb màquines intel·ligents (IA) és una història viscuda anteriorment amb estats i corporacions. Totes aquestes entitats posseeixen poders sobrehumans, han transformat la condició humana (fent-nos més rics, més longeus i més sans) i, tanmateix, tenen la capacitat de destruir-nos a causa de la seva naturalesa fonamentalment inhumana.
- La IA en l'Actualitat: Els avenços en la Intel·ligència Artificial (com DALL-E, GPT-3 i GPT-4) demostren capacitats com escriure text plausible, generar imatges, diagnosticar càncers i fins i tot aprovar exàmens (GPT-4 se situa en el 10% superior en els exàmens de dret). Aquests sistemes, tot i ser potents, manquen de "consciència, cor o ànima".
- La Tesi Central: Runciman argumenta que el món modern està dominat per estats (com el Regne Unit, l'Índia, la Xina i els Estats Units) i corporacions (com BP, Tata i Amazon) que són els precursors i els creadors de la nova generació de màquines pensants. La relació entre estats, corporacions i robots determinarà el nostre futur.
- El Leviatà com a Robot: L'autor es basa en la visió de Thomas Hobbes a Leviatà (segle XVII), que va descriure l'Estat com un "Home Artificial" o autòmat. L'Estat és una màquina construïda amb parts humanes (ciutadans vius que hi participen voluntàriament), amb una mida i una força superior a la natural. La seva superpotència no és la superintel·ligència, sinó la superagència (la capacitat d'actuar a escala sobrehumana i amb una durabilitat superior a la vida humana).
2. Agència, Acció i Intel·ligència Artificial
El llibre explora la distinció entre el pensament i l'acció, i com les entitats artificials es relacionen amb la responsabilitat.
- Pensament vs. Acció: Els estats i les corporacions són principalment màquines de presa de decisions i acció, no necessàriament d'intel·ligència. Hobbes creia que els grups humans tendeixen a ser més estúpids que els individus que els componen. El seu punt clau era que el mecanisme de l'Estat està dissenyat per funcionar independentment de l'aptitud dels seus components humans; l'important és que algú tingui el control de la màquina.
- Grupthink i Intel·ligència Col·lectiva: Els grups poden tenir "ment pròpia", que pot ser diferent de les opinions dels seus membres individuals (el dilema discursiu), com es veu en els jurats. La saviesa de les multituds (wisdom of crowds), com la que es manifesta als mercats o als motors de cerca, es produeix quan un gran nombre de persones independents generen coneixement superior a l'individual, sempre que el procés sigui artificialment estructurat.
- Decisions vs. Respostes: Una distinció clau és que algunes màquines i grups només proporcionen respostes (com el nombre de gominoles en un pot), mentre que altres prenen decisions (que canvien la realitat). La IA actual és excel·lent per donar respostes, però l'Estat és una màquina de decidir, i confondre ambdues funcions pot ser perillós (per exemple, tractar un prejudici algorítmic com un fet).
3. La Gran Transformació: Riquesa, Guerra i Deute
El llibre contextualitza el sorgiment dels estats i les corporacions dins d'un canvi històric massiu anomenat la "Primera Singularitat".
- Creixement Exponencial: A partir del segle XVIII, el món va experimentar un creixement econòmic exponencial (l'anomenat "pal de hoquei" o hockey stick), que va treure moltes societats de la "trampa de Malthus" (el cicle de creixement poblacional seguit per escassetat i mort).
- Institucions com a Motor: Aquest creixement es va produir en països amb estats moderns estables que proporcionaven una base per al compromís a llarg termini per part dels ciutadans i els inversors.
- Deute i Guerra: L'Estat pot assumir deutes gegants (com el deute nacional de 30 bilions de dòlars dels EUA) perquè la seva durabilitat transcendeix la vida dels seus ciutadans i governs. Aquesta capacitat d'endeutament es va desenvolupar juntament amb la capacitat de fer la guerra. L'Estat esdevé el contenidor on els humans dipositen la càrrega fiscal i la responsabilitat moral del conflicte.
- Innovació i Risc: L'Estat és la màquina que assumeix els riscos més grans, especialment en temps de guerra o crisi (com la Segona Guerra Mundial o la pandèmia de COVID-19), generant innovacions que les corporacions després porten al mercat. Tecnologies com l'Internet (ARPANET) i molts avenços en biomedicina van ser finançades inicialment per l'Estat.
4. La Dominació en l'Era Digital
El llibre examina com la IA Generativa (GAI) i altres tecnologies estan redefinint les interaccions entre els superagents.
- Monopolis Corporatius: Les empreses tecnològiques (com Amazon, Google i Meta) han aconseguit un domini gairebé monopolístic mitjançant els efectes de xarxa. Aquestes empreses operen amb models de negoci que depenen de la gratificació immediata i de l'addicció (per exemple, les xarxes socials), cosa que contrasta amb l'Estat, que va ser dissenyat per imposar temps i estabilitat.
- Competència i Co-opció: La relació entre estats i corporacions en l'era de la IA es caracteritza per la competència pel control.
- Model dels EUA: Es basa en la competència de mercat i la insistència legal que les corporacions són "extensions dels ciutadans" (com a l'assumpte Citizens United vs. FEC), cosa que els atorga llibertats immenses.
- Model de la Xina: Es basa en la co-opció; l'Estat ha intervingut per controlar empreses gegants com Alibaba i Tencent, amb l'objectiu de centralitzar la IA sota la personalitat "Leviatà" de l'Estat. Això amenaça de crear l'AI-estat, utilitzant la vigilància algorítmica per monitoritzar els ciutadans.
- El Risc Existencial: Els quatre principals riscos existencials (guerra nuclear, canvi climàtic, desastre biològic i IA descontrolada) estan en mans d'estats i corporacions, no d'individus aïllats. L'augment de la capacitat de destrucció (la Leviacene) es deu a la potència acoblada de l'agència artificial.
5. La Segona Singularitat i la Decisió Humana
El llibre conclou que, tot i que els avenços en IA (la Segona Singularitat) podrien transformar la humanitat biològicament i socialment, els estats i les corporacions d'avui determinen si aquesta transició serà beneficiosa o catastròfica.
- La Centralitat de l'Agència: El futur depèn de la relació entre la intel·ligència humana (HI), la intel·ligència artificial (AI) i l'agència artificial (AA: estats i corporacions).
- La Nostra Elecció: La solució no és optar per una "política més humana" (ja que l'acció purament humana sense mecanismes artificials és feble), sinó decidir quin tipus d'artificialitat volem.
- Si ens centrem en la intel·ligència (AI), obtenim millors respostes, però arrisquem una major pèrdua de control a les corporacions més intel·ligents.
- Si ens centrem en l'agència (AA), mantenim la capacitat de presa de decisions a través de l'Estat, però correm el risc que es prenguin decisions dolentes a escala massiva.
L'autor conclou que l'Estat és un "déu mortal" (com va dir Hobbes) creat per la humanitat per salvar-nos dels nostres conflictes interns. La Segona Singularitat serà el moment en què la transformació humana es produirà a través de la Intel·ligència Artificial, però l'únic pont cap a aquest futur són els estats i les corporacions, els "monstres" artificials que ja hem construït.
