The Means of Prediction: How AI Really Works (and Who Benefits)
El llibre "The Means of Prediction: How AI Really Works (and Who Benefits)" (2025), escrit per Maximilian Kasy, ofereix una anàlisi crítica de la intel·ligència artificial (IA) allunyada dels relats de ciència-ficció. L'autor, professor d'economia a Oxford, sosté que la IA no és una força del destí ni una amenaça de "màquines contra humans", sinó un producte de decisions humanes determinades pel poder i la desigualtat.
A continuació se'n presenta un resum detallat estructurat en els eixos principals del llibre:
1. El marc conceptual: Els "mitjans de predicció"
Kasy defineix la IA de manera tècnica però entenedora: la construcció de sistemes per a la presa de decisions automatitzada que maximitzen una recompensa mesurable. La tesi central és que el problema clau de la IA no és l'optimització tècnica, sinó qui tria els objectius que aquests sistemes persegueixen.
L'autor introdueix el concepte de mitjans de predicció (en analogia als mitjans de producció de Marx), que són els recursos necessaris per construir IA:
- Dades: El recurs bàsic, sovint extret del domini públic o mitjançant vigilància.
- Infraestructura computacional: Processadors (com les GPU de NVIDIA) i servidors al núvol.
- Expertesa tècnica: El coneixement d'enginyeria i estadística.
- Energia: L'enorme consum elèctric necessari per entrenar i fer funcionar els models.
Qui controla aquests recursos controla els objectius de la IA.
2. Com funciona realment la IA (Sense mística)
El llibre desmitifica el funcionament tècnic de la IA en la seva segona part:
- Aprenentatge supervisat: Es basa a predir resultats ($Y$) a partir de característiques conegudes ($X$) analitzant patrons en grans conjunts de dades.
- Sobreajust (Overfitting) i sotaajust (Underfitting): El repte de qualsevol algoritme és trobar l'equilibri entre "supersticions" (extrapolar patrons aleatoris del passat) i la "caboneria" (no aprendre dels canvis).
- Deep Learning (Aprenentatge profund): No són "nuclis cerebrals artificials", sinó cadenes complexes de funcions matemàtiques simples que permeten modelar relacions molt complicades, com el reconeixement d'imatges o el llenguatge.
- Aprenentatge per reforç: Algoritmes que aprenen a planificar explorant el món i rebent recompenses, com els sistemes que juguen a escacs o al Go.
3. La política i l'economia de la IA
Kasy argumenta que el que sovint s'anomena "error d'optimització" és en realitat un conflicte d'interessos. Per exemple:
- Si un algoritme de xarxes socials promou la indignació per maximitzar els clics publicitaris, no és un error, sinó que està optimitzant els beneficis de l'empresa a costa de la salut mental de la societat.
- Obscuritat ideològica: Els relats sobre "l'extinció humana per IA" o que la IA és "massa complexa" serveixen per evitar que el públic hi intervingui i per mantenir el control en mans de les elits tecnològiques.
4. Reptes de regulació i justícia
L'autor analitza diversos dominis clau:
- Privadesa: Les lleis de propietat de dades individuals (com el GDPR) són insuficients perquè la IA es basa en "externalitats" (el que aprenc d'una persona serveix per predir el comportament d'una altra). La solució ha de ser la governança col·lectiva.
- Automatització al lloc de treball: La tecnologia pot servir per automatitzar (substituir treballadors i abaixar salaris) o per augmentar (millorar les capacitats humanes). L'elecció depèn de si els treballadors tenen veu en el disseny d'aquests sistemes.
- Justícia (Fairness): Kasy proposa passar d'una visió de "meritocràcia" o "maximització de beneficis" a una avaluació basada en el benestar social, analitzant qui guanya i qui perd amb cada decisió algorítmica.
- Explicabilitat: En lloc d'intentar entendre els milions de pesos d'una xarxa neuronal, la democràcia hauria d'exigir que s'expliqui el problema de decisió: quin és l'objectiu i amb quines dades es treballa.
5. Cap al control democràtic
El llibre conclou que l'única solució per a una IA beneficiosa és el control democràtic dels objectius de la IA. Això implica:
- Redistribució del poder: Donar veu a aquells que es veuen afectats per les decisions algorítmiques (treballadors, consumidors, ciutadans).
- Noves institucions: Kasy suggereix explorar formes de democràcia com el sorteig (sortition) o la democràcia líquida per gestionar els recursos tecnològics col·lectivament.
En resum, Kasy ens recorda que la IA és una eina política i que la societat ha de lluitar per triar quins objectius ha de perseguir aquesta tecnologia.
