Prophecy: Prediction, Power, and the Fight for the Future, from Ancient Oracles to AI
El llibre Prophecy: Prediction, Power, and the Fight for the Future, from Ancient Oracles to AI (2026), escrit per la professora de la Universitat d'Oxford Carissa Véliz, ofereix una anàlisi crítica sobre la naturalesa de la predicció des dels oracles de l'antiguitat fins als algorismes d'intel·ligència artificial actuals.
La tesi central de l'autora és que la predicció no és una recerca neutral de la veritat o del coneixement, sinó un mecanisme de poder i control social disfressat. En la societat digital, la intel·ligència artificial ha esdevingut el "nou Oracle de Delfos" i els executius tecnològics han après a actuar com els nous profetes.
1. La naturalesa de la predicció: Visió naïf vs. Visió sàvia
Véliz contraposa la visió naïf (que considera que predir ajuda a comprendre el món i anticipar fets) amb una visió sàvia de la predicció, definida per cinc característiques fonamentals:
- Les prediccions són estimacions, no fets: Els fets pertanyen al passat i al present; sobre el futur només hi ha hipòtesis.
- Són desitjos (wishful): L'interès o la gana de risc de qui prediu condiciona el resultat.
- Són moviments de poder: Es fan servir per influir en el comportament humà.
- Tenen una visió limitada: La incertesa és inherent al món.
- Tenen un impacte moral i polític: Condicionen oportunitats reals com fiances, feines o crèdits.
2. Part I: La història de la predicció i el poder (Dels oracles a la quantificació)
- Dels oracles antics als executius de Big Tech: A la antiga Grècia i Roma, l'Oracle de Delfos o els endevins sobre el terreny de batalla no només oferien consells, sinó que generaven negoci i servien als governants per legitimar decisions polítiques i Guerres. Avui dia, empreses com Google, Microsoft, Amazon o Palantir han ocupat aquest espai, signant contractes milionaris amb els governs i l'exèrcit per gestionar les seves dades i la presa de decisions.
- La matematització del risc i la desconfiança: Durant el Renaixement i la Il·lustració, el desenvolupament de la probabilitat (Cardano, Bayes, Laplace, Gauss) i de la estadística social (Quetelet, Galton) va sorgir de la desconfiança en el criteri humà. Es van inventar conceptes com la "persona normal" i la "societat", transformant la desviació estadística en un defecte o desviació moral.
- La IA com a màquina de predicció: L'aprenentatge automàtic (machine learning) no entén el món; es limita a analitzar grans volums de dades per predir la paraula, la imatge o el resultat més probable basant-se en patrons del passat.
3. Part II: Els perills de la predicció (Fabulació, profecies autocumplides i vigilància)
- Els LLM com a generadors de "fabulació" (bullshit): Models com ChatGPT no estan dissenyats per dir la veritat, sinó per oferir respostes versemblants que un humà trobi acceptables. Com que funcionen amb probabilitat, sempre contenen un marge d'error i d'al·lucinació.
- Les prediccions com a actes de parla (speech acts): Seguint la filosofia del llenguatge de J. L. Austin, les prediccions sobre éssers humans no són descriptives sinó prescriptives: funcionen com a ordres velades.
- Profecies autocumplides i vigilància massiva: Si un algorisme de denegació de crèdit o de policia predictiva avalua una persona o un barri com a "de risc", la manca d'oportunitats o l'excés de pressió policial acabaran provocant el resultat predit, tancant un cercle de discriminació. Tot plegat s'alimenta d'una economia de vigilància massiva on cada clic i moviment s'utilitza per predir i condicionar la conducta.
- El mite del "Data-Driven" i la pèrdua de varietat: Les dades no parlen per si soles; són artefactes creats per persones amb interessos i valors específics. Confiar cegament en la predicció redueix la diversitat cultural (com cafès o llibres que s'estandarditzen per agradar a l'algorisme) i trasllada els riscs del sistema cap als individus vulnerables.
4. Part III: Resistir la predicció (Ètica, autonomia i filosofia)
- Crítica a l'Altruisme Eficaç i l'Utilitarisme: Véliz critica corrents com l'Altruisme Eficaç (Effective Altruism) i el longtermism per pretendre calcular conseqüències a milers d'anys vista o utilitzar l'infinit per justificar sacrificis humans presents.
- Defensa de la deontologia i els drets humans: L'autora proposa prioritzar el respecte a l'autonomia humana (model kantià), la veritat, la Justícia i els drets fonamentals per damunt dels càlculs d'utilitat esperada.
- L'antídot de la curiositat, l'humor i la filosofia:
- Desafiar les probabilitats (Defying the Odds): La creativitat humana, el lliure albir i l'humor (analitzat en converses amb John Cleese) són elements imponderables que l'algorisme no pot captar.
- Eines de resistència: Llegir llibres en paper (que no recapten dades), conrear la curiositat benevolenta i recuperar la filosofia de figures com Epicur (centrada a reduir la por i el desig) per no dependre de les promeses dels falsos profetes.
5. Les lliçons pràctiques de l'Epíleg
El llibre es tanca amb deu consells per a la vida quotidiana:
- Viu en el present: No malgastis la vida intentant predir el futur.
- Detecta les profecies: Identifica quan una afirmativa no és un fet, sinó un interès prescriptiu.
- Recorda la naturalesa de les prediccions: Són especulatives i carregades de voluntat de poder.
- Pren les prediccions com una invitació a la desafiança: No obeeixis per avançat.
- Prepara't, no predisquis: Construeix una vida i negocis robustos en lloc de cercar una eficiència magra.
- Entén els algorismes: Cerca oportunitats en allò que la mitjana estadística passa per alt.
- Si predis, fes-ho èticament: Prediu sobre coses o grans poblacions, mai sobre individus.
- Evita ser el subjecte de prediccions: Redueix el contacte amb tecnologies de vigilància.
- Defensa les institucions de la veritat: Protegeix l'acadèmia, el periodisme i la democràcia.
- Viu bé: Actua amb virtut, curiositat i valor, sent l'autor de la teva pròpia vida.
