The Handover: How We Gave Control of Our Lives to Corporations, States and AIs
El llibre The Handover: How We Gave Control of Our Lives to Corporations, States and AIs, de David Runciman, tracta sobre la relació complexa i definidora del futur entre els estats, les corporacions i les màquines intel·ligents (AIs).
La tesi central del llibre és que la nostra situació actual, on construïm màquines sobrehumanes que ens ofereixen conveniència i seguretat amb el risc de perdre'n el control, no és nova. Segons Runciman, ja hem viscut aquesta història abans, ja que els estats i les corporacions modernes són versions artificials de nosaltres mateixos, dotades de poders sobrehumans, construïdes per rescatar-nos de les nostres limitacions humanes.
El llibre explora aquesta idea comparant aquestes tres entitats, que tenen molt més en comú amb els robots i els algorismes del que podríem pensar.
La Primera Singularitat: Estats i Corporacions com a Agents Artificials
El llibre defineix la creació dels estats i les corporacions modernes com la "Primera Singularitat", una transformació de la condició humana comparable a la imminent revolució de la intel·ligència artificial (la "Segona Singularitat").
-
L'Estat com a Autòmat (El Leviatà): L'autor es basa en la filosofia de Thomas Hobbes, que veia l'Estat (el Leviatà) com un "Home Artificial" o "autòmat", de major estatura i força que l'home natural, creat per a la seva protecció i defensa.
- L'Estat és un "agent artificial" la superpotència del qual és la superagència (la capacitat d'actuar al món). La seva força no rau necessàriament en la superintel·ligència, sinó en la seva capacitat de prendre decisions humanes i fer-les supremament poderoses i duradores.
- L'Estat s'assembla a un rellotge o un algorisme: és un mecanisme dissenyat per funcionar de manera fiable i per durar molt més que la vida dels individus que el constitueixen. Aquesta durabilitat va ser essencial per fer front a la incertesa de la vida natural (la "guerra de tots contra tots" de Hobbes) i per permetre el creixement econòmic i la planificació a llarg termini.
- L'Estat és un agent artificial general (AGA), capaç de moure's per tota la gamma d'accions possibles i establir els seus propis propòsits. Aquesta generalitat el distingeix de les corporacions.
-
Corporacions (Agents Artificials Específics): Les corporacions són també "persones artificials" que amenacen l'autoritat de l'Estat en replicar la seva estructura duradora i coherent.
- La invenció de la societat de responsabilitat limitada (Limited Liability Company) al segle XIX va ser clau per a la seva expansió, ja que va permetre a les corporacions tenir la seva pròpia identitat legal i endeutar-se a llarg termini sense que els accionistes en fossin personalment responsables.
- A diferència dels estats, les corporacions són entitats amb un propòsit particular (agents artificials estretament definits). Per exemple, la seva raó de ser pot ser la maximització del valor per a l'accionista.
- El creixement econòmic exponencial (la "gràfica del pal d'hoquei") que va començar després del 1500 va ser impulsat per la interacció entre estats estables i corporacions amb credibilitat a llarg termini.
-
Intel·ligència de Grup i Presa de Decisions: El llibre examina si els col·lectius humans (com els jurats o els mercats) tenen ments pròpies.
- La saviesa de les multituds es produeix quan grans grups de persones independents poden arribar a la resposta correcta a preguntes fàctiques (com ara endevinar el nombre de jellybeans en un pot).
- Tanmateix, la intel·ligència de grup és diferent de la decisió. Per tal que els grups puguin actuar de manera fiable i evitar la "mentalitat de grup" (groupthink) o la "bogeria de les multituds" (com en el cas del dilema discursiu), han de ser estructurats mitjançant procediments artificials i mecànics.
La Segona Singularitat: IA i el Futur
La Segona Singularitat (la transformació per la IA) tindrà lloc en un món ja controlat pels agents de la Primera Singularitat (estats i corporacions).
- Risc i Innovació: Els estats són els agents que assumeixen els majors riscos i impulsen els canvis tecnològics més radicals, especialment a través de la despesa militar, que les corporacions posteriorment converteixen en productes comercialitzables (un exemple és la creació d'ARPANET, el prototip d'Internet). L'Estat pot permetre's la "despesa extravagant" i la "indiferència al malbaratament" perquè és un ens sense consciència que pot utilitzar els recursos i les vides dels altres.
- IA Actual i Consciència: Avui dia, la majoria dels avenços en IA (com GPT-4, DALL-E o AlphaZero) són intel·ligències artificials estretes (NAI) o imitadores brillants. Tot i que poden aconseguir capacitats sobrehumanes en tasques específiques (AlphaZero va superar 3.000 anys de coneixement d'escacs en un dia), no tenen consciència, cor, ni ànima; manquen de la capacitat de reflexió o de la comprensió del valor de les seves pròpies accions.
La Lluita pel Control d'Agents Artificials
El llibre assenyala que els grans riscos existencials (com la guerra nuclear, el canvi climàtic o la IA sense control) són en gran mesura el resultat de les accions d'aquests agents artificials —estats i corporacions— i no només d'individus aïllats.
- Models Competidors (EUA vs. Xina): La IA està donant forma a la competència geopolítica.
- Als Estats Units, el model es basa en la competència lliure, on les corporacions tecnològiques (com Amazon, Google o Meta) han utilitzat la seva riquesa i influència política (lobbying) per a evadir la regulació, presentant-se com a extensions dels drets dels ciutadans.
- A la Xina, el model busca la co-opció i el control estatal (el "Leviathan"), integrant les grans empreses tecnològiques (com Alibaba o Baidu) en la visió del "common prosperity" del govern per dirigir la innovació cap als objectius nacionals i militars.
- Decisions vs. Respostes: L'adopció de la IA a gran escala corre el risc de confondre les respostes (que els algorismes proporcionen) amb les decisions (que han de prendre els humans). Confiar en sistemes intel·ligents per a prendre decisions polítiques crucials (com la guerra) és perillós, ja que la seva lògica d'eficiència sense valor moral pot conduir a catàstrofes.
- El dilema final: Enfront del futur, la humanitat ha de triar quin tipus d'artificialitat pot acceptar. La decisió no és entre els humans i la tecnologia, sinó entre diferents híbrids artificials:
- Combinar Intel·ligència Humana (HI) + Agència Artificial (AA) (l'Estat): ofereix pitjors respostes i pot portar al desastre, però ofereix millor rendició de comptes (és més humà).
- Combinar Agència Artificial (AA) + Intel·ligència Artificial (AI): ofereix millors respostes, però menys rendició de comptes i una major inhumanitat.
El llibre conclou que, encara que el futur pot conduir a una transformació biològica (Homo deus) o a un món dominat per la IA, en el curt termini les nostres perspectives depenen encara dels estats i les corporacions, aquestes "màquines antiquades" amb les seves pròpies limitacions i la seva pròpia lògica de supervivència.
Analogia per Clarificar la Intel·ligència Artificial i l'Agència Artificial:
Podem veure els estats i les corporacions com un conjunt de daus (agents artificials). La seva superpotència no és la intel·ligència per trobar la millor resposta, sinó l'habilitat de generar una resposta (una decisió vinculant) i assegurar-se que aquesta es compleixi i perduri, independentment de si la decisió és "correcta" o no. La Intel·ligència Artificial (AI) és un GPS molt sofisticat que pot determinar la ruta correcta amb una saviesa gairebé perfecta. El dilema és que si deixem que el GPS condueixi, potser arribarem al destí més ràpid (millor resposta), però si el GPS no té consciència, podria decidir passar per sobre d'un gos (sense tenir en compte la moral), perquè la seva única funció és l'eficiència. La humanitat ha de decidir qui pren el volant, l'agent capaç de prendre decisions morals (encara que sigui estúpid) o la màquina capaç de trobar la veritat (encara que no tingui ànima).
