Code-Dependent: Living in the Shadow of AI
El llibre "Code-Dependent: Living in the Shadow of AI" (2024), de Madhumita Murgia, és una investigació profunda i humanista sobre com la intel·ligència artificial està transformant les vides de persones corrents a tot el món. L'autora, editora d'IA del Financial Times, s'allunya de Silicon Valley per explorar les conseqüències reals de la dependència humana dels sistemes automatitzats, centrant-se en la pèrdua d'autonomia i l'aparició de noves formes de colonialisme de dades.
A continuació es detalla el resum exhaustiu secció per secció:
Introducció: L'ombra de les dades
Murgia descriu com la seva curiositat per les "cookies" la va portar a descobrir el mercat dels corredors de dades (data brokers), empreses que venen perfils detallats de la nostra identitat basats en el comportament en línia. En demanar el seu propi informe, va trobar una versió "ombra" d'ella mateixa que, tot i ser una aproximació estadística, era inquietantment reconeixible. Aquesta economia de dades és la base de l'IA moderna, un model que Shoshana Zuboff anomena "capitalisme de vigilància". L'autora introdueix el concepte de colonialisme de dades: la conversió de vides humanes en fluxos de dades per al benefici d'unes poques grans tecnològiques.
Capítol 1: El teu mitjà de vida (Nairobi i Sofia)
- Ian Koli i Benjamin Ngito (Kibera, Nairobi): Treballen per a Sama fent anotació de dades, marcant objectes en vídeos per entrenar cotxes autònoms de Tesla o Google. Tot i que la feina és repetitiva i monòtona, els ha permès sortir de la pobresa extrema.
- Hiba Daoud (Sofia, Bulgària): Una refugiada iraquiana que etiqueta imatges per a una empresa petroliera canadenca a través de la start-up Humans in the Loop.
- La realitat del "treball fantasma": El capítol revela que l'IA no aprèn sola; depèn d'una mà d'obra precària i invisible a països de baixos ingressos. L'autora destaca l'asimetria de poder: quan l'Hiba va intentar queixar-se directament al client, va ser castigada amb la suspensió del seu compte, demostrant la seva extrema vulnerabilitat.
Capítol 2: El teu cos (Regne Unit i Austràlia)
- Helen Mort i Noelle Martin: Ambdues van ser víctimes de pornografia deepfake no consensuada. L'Helen, una poeta britànica, va descobrir el seu rostre en vídeos de violacions simulades. La Noelle, a Austràlia, ha patit un setge constant des dels 18 anys amb imatges i vídeos creats amb IA que li han robat la identitat.
- Buit legal: El capítol subratlla la manca de lleis internacionals per castigar aquests abusos, ja que durant anys distribuir imatges falses no era delicte en moltes jurisdiccions. Murgia destaca com l'IA s'ha convertit en una arma de misogínia que escala l'assetjament a nivells industrials.
Capítol 3: La teva identitat (EUA i Índia)
- Karl Ricanek: Un enginyer afroamericà que va ajudar a crear sistemes de reconeixement facial, però que ara qüestiona la seva pròpia obra a causa dels biaixos racials que pateix ell mateix i la seva comunitat.
- S. Q. Masood (Hyderabad): Un activista que va demandar el govern de Telangana per l'ús policial de l'aplicació TS-Cop, que recopila dades biomètriques de ciutadans sense el seu consentiment, especialment en barris musulmans.
- Resistència: Es descriu el Dazzle Club a Londres, un grup d'artistes que utilitzen maquillatge asimètric per camuflar-se davant les càmeres de vigilància de King’s Cross.
Capítol 4: La teva salut (Índia i EUA)
- Dra. Ashita Singh (Chinchpada, Índia): Utilitza l'aplicació qTrack de Qure.ai per ajudar a diagnosticar la tuberculosi mitjançant radiografies en una regió remota sense radiòlegs. L'aplicació actua com una "segona opinió", però Ashita adverteix del risc de deixar que l'IA domini el judici mèdic.
- Ziad Obermeyer: Investigador que va descobrir biaixos racials greus en algorismes de salut als EUA. Un sistema (Optum) prioritzava pacients blancs sobre negres més malalts perquè utilitzava la despesa mèdica com a indicador de necessitat, ignorant que els pacients negres sovint tenen menys accés al sistema i generen menys costos.
Capítol 5: La teva llibertat (Amsterdam)
- Diana Sardjoe: Una mare que va lluitar contra els algorismes de policia predictiva (ProKid) a Amsterdam. El sistema va etiquetar els seus fills com a "en risc" de ser criminals basant-se en dades familiars i contactes policials, creant una profecia autocomplerta que va destruir l'estabilitat de la llar.
- El concepte d'"ouroboros" del biaix: El sistema es retroalimenta; la policia vigila més els barris d'immigrants, cosa que genera més dades de detencions, que l'algorisme utilitza per predir més criminalitat en aquests mateixos llocs.
Capítol 6: La teva xarxa de seguretat (Salta, Argentina)
- Projecte de Microsoft: Murgia analitza un pilot a Salta que utilitzava IA per predir l'embaràs adolescent en barris pobres basant-se en variables socioeconòmiques.
- Fracàs i extracció: El pilot es va presentar com una solució tecnològica màgica, però va ser abandonat ràpidament amb el canvi de govern. Mentre que Microsoft va obtenir dades valuoses i visibilitat política, per a les famílies de Salta l'IA no va suposar cap millora real en les seves vides.
Capítol 7: El teu cap (Gig Economy)
- Armin Samii (Pittsburgh): Un exenginyer de cotxes autònoms que va crear l'aplicació UberCheats per demostrar que l'algorisme d'Uber pagava menys del que corresponia als repartidors en calcular malament les distàncies.
- Alexandru Iftimie (Londres): Un conductor d'Uber que va ser bloquejat per l'aplicació acusat de frau sense dret a explicació humana, vivint un malson kafkià fins que un sindicat el va ajudar.
- L'algorisme com a patró: Els treballadors de plataformes com Uber o Deliveroo estan gestionats per un "patró fantasma" que dicta preus, rutes i acomiadaments de manera opaca i inal·lable.
Capítol 8: Els teus drets (Foxglove)
- Cori Crider: Advocada de drets humans i fundadora de Foxglove, una organització que utilitza la llei per desafiar el poder de les Big Tech i els algorismes governamentals.
- Casos clau: Van forçar el govern britànic a abandonar un algorisme de visats discriminatori i un sistema de qualificacions d'exàmens (Ofqual) que penalitzava els estudiants d'escoles públiques durant la pandèmia. També representen treballadors de Sama a Kenya traumatitzats per la moderació de contingut gràfic per a Facebook.
Capítol 9: El teu futur (Xinjiang, Xina)
- Maya Wang: Investigadora de Human Rights Watch que va ajudar a desxifrar l'IJOP, la plataforma de dades que el govern xinès utilitza a Xinjiang per vigilar i detenir la minoria uigur.
- Dystòpia tecnològica: L'aplicació recollia des de l'ús d'electricitat fins a si algú sortia per la porta del darrere de casa seva. Murgia adverteix que aquest model de control total s'està exportant a altres països, amenaçant el concepte mateix de llibertat humana.
Capítol 10: La teva societat (IA Generativa)
- ChatGPT i l'era del "Transformer": L'autora explora com els grans models de llenguatge estan canviant la nostra relació amb la veritat i la creativitat.
- Laurence Bouvard: Una actriu de veu que alerta que l'IA està clonant veus humanes sense permís ni compensació, posant en risc la seva professió.
- Perspectiva de Ted Chiang: L'escriptor de ciència-ficció argumenta que l'IA és "estadística aplicada" i no intel·ligència real; ens adverteix que projectem humanitat en màquines que són, en essència, "pilotes de voleibol" buides.
Epíleg: Algor-ètica i apoderament
El llibre tanca al Vaticà, on el pare Paolo Benanti i el papa Francesc col·laboren amb líders jueus i musulmans en la "Crida de Roma per l'Ètica de l'IA". Murgia conclou proposant un llistat de deu preguntes clau per empoderar el ciutadà, incloent-hi el dret a la transparència de dades, a sous justos per als anotadors i a l'opció de triar sempre una intervenció humana sobre una decisió automatitzada.
A l'epíleg del llibre, Madhumita Murgia proposa una llista de deu preguntes guia dissenyades per empoderar els ciutadans i ajudar-los a recuperar l'autonomia davant l'avenç de la intel·ligència artificial. Aquestes preguntes són:
- Com seria un salari global més just i coherent per als treballadors de dades de la IA, que reflectís el mercat creixent i lucratiu dels seus serveis?
- Com incloem les persones marginades i altres minories com a creadors i inventors de la IA, sense reclutar-les exclusivament per a feines explotadores com la moderació de continguts?
- Quins productes generats o assistits per IA haurien d'anunciar-se clarament com a tals als consumidors, i quins d'aquests haurien de tenir una opció de revisió humana sense cap cost per a l'individu?
- Com sabem si un producte d'IA és segur (és a dir, que no pot ser manipulat ni és discriminatori) i, si no ho sabem, hauria d'estar realment a l'abast del públic?
- Quines àrees de la llei es poden modificar per tenir en compte la IA, com ara els drets d'autor, la privadesa, la ciberseguretat o les lleis de drets humans?
- Com podem aportar experiències més diverses a les discussions sobre el desenvolupament i la legislació de la IA, especialment veus de fora d'Occident?
- Si la IA pot ajudar a reduir desigualtats (com en la salut), són aquests productes accessibles per a les comunitats que més els necessiten i no només per a qui els pot pagar?
- En àrees com l'ocupació o la justícia, qui és el responsable dels resultats d'una eina d'IA i si aquesta persona té realment un control significatiu sobre la decisió?
- Com compensem els artistes, escriptors o fotògrafs per la seva creativitat, atès que les empreses tecnològiques utilitzen les seves obres gratuïtament per entrenar els nous sistemes?
- Quins són els canals per a l'apoderament ciutadà, com ara el dret a eliminar dades de sistemes generatius o el dret a triar una decisió humana per sobre d'una automatitzada?
