Esclavos del algoritmo: Manual de resistencia en la era de la inteligencia artificial
El llibre Esclavos del algoritmo: Manual de resistencia en la era de la inteligencia artificial (Debate, 2025), escrit per la periodista científica Laura G. de Rivera, és una investigació i assaig crític que desemmascara els mites al voltant de la intel·ligència artificial (IA) i analitza el seu impacte real sobre la privacitat, la democràcia, la salut mental i els drets humans.
1. Tesi central: «No és la IA, són les persones»
- Mite vs. Realitat: L'autora subratlla que la IA actual no té consciència ni sentit comú; és pura estadística i probabilitat matemàtica («opinions tancades en matemàtiques»).
- Els veritables amos dels fils: El perill no rau en una superintel·ligència robòtica rebel, sinó en les grans corporacions i oligarques tecnològics que utilitzen aquests algorismes per maximitzar els seus beneficis econòmics i acumular poder a costa de la llibertat dels ciutadans.
2. Què hem deixat a les seves mans (Dades i vigilància)
- Extractivisme de dades: Els usuaris s'han convertit en una font gratuïta de dades personalitzades (mèdiques, biomètriques, d'ubicació i de comportament) que alimenten el capitalisme de vigilància.
- Vigilància massiva i control social: L'ús del reconeixement facial i eines com Clearview AI, Palantir o les xarxes de càmeres de videovigilància (com el crèdit social a la Xina o les fronteres de l'ICE als EUA) atempta directament contra l'anonimat i els drets de la població civil i col·lectius vulnerables.
- Perfilat psicològic i manipulació: Mitjançant l'anàlisi de l'activitat a les xarxes socials (com els likes de Facebook), els algorismes poden determinar la personalitat, pors i opcions polítiques d'un individu millor que la seva pròpia família, facilitant la manipulació electoral com va demostrar l'escàndol de Cambridge Analytica.
3. Els perills i el cost ocult de la tecnologia
- Propaganda de precisió i la «bossa de filtrat»: Els algorismes de recomanació tanquen els usuaris en una burbulla de filtrat (filter bubble), prioritzant el contingut sensacionalista, la desinformació (fake news) i els deepfakes per augmentar el temps de connexió i la polarització social.
- Amplificació de biaixos i prejudicis: Com que els algorismes s'entrenen amb dades del passat, repliquen i intensificen les discriminacions de raça, gènere i classe en processos de selecció laboral, concessions de préstecs o decisions del sistema penal (com el programari COMPAS).
- Disseny addictiu i salut mental: Mecanismes com el scroll infinit o les notificacions push estan dissenyats per generar descàrregues de dopamina, provocant trastorns d'ansietat, depressió i adicció en adolescents i joves.
- Cost mediambiental i neoesclavisme digital: L'entrenament dels grans models de llenguatge (LLM) genera una petjada de carboni enorme i un consum d'aigua desmesurat. A més, aquesta tecnologia es manté gràcies a l'extracció de minerals com el cobalt al Congo i al treball mal pagat i traumàtic de milers de moderadors i etiquetadors de contingut a països en desenvolupament (ethics dumping).
4. Les solucions i la reconquesta de la llibertat
- El monopoli de les 'Big Tech': El mercat digital està controlat per un reduït grup de corporacions (Microsoft, Google, Meta, Amazon, Apple, Nvidia i Palantir) que bloregen la competència real i la transparència.
- Regulació i el paper dels 'whistleblowers': L'autora analitza els avanços de la Llei d'IA de la Unió Europea i reconeix el valor dels informants o denunciants (whistleblowers) com Edward Snowden, Frances Haugen, Timnit Gebru o Sophie Zhang per treure a la llum la cara fosca de la indústria.
- Manual de resistència: Per deixar de ser marionetes digitals, el llibre proposa cultivar el pensament crític, defensar la privacitat, utilitzar programari lliure o cooperatiu, practicar la desobediència algorítmica i reconèixer que la veritable llibertat i la creativitat són atributs exclusivament humans.
