AI Needs You: How We Can Change AI's Future and Save Our Own
El llibre "AI Needs You: How We Can Change AI’s Future and Save Our Own", escrit per Verity Harding (2024), és una crida a l'acció democràtica per recuperar el control sobre el futur de la intel·ligència artificial (IA). L'autora sosté que la IA no és un destí inevitable ni una força màgica, sinó una tria humana que s'ha de subordinar a fins socials mitjançant l'aprenentatge de la història de les tecnologies transformadores del passat.
A continuació es detalla el contingut del llibre estructurat per les seves tesis principals i lliçons històriques:
1. El mirall de la IA i el "Shadow Self"
Harding comença reflexionant sobre la seva desil·lusió amb el somni tecno-utòpic de San Francisco, on la riquesa tecnològica conviu amb una desolació humana profunda.
- La IA com a reflex humà: Utilitza la conversa del periodista Kevin Roose amb el xatbot de Microsoft, "Sydney", per mostrar que la IA no és sentient, sinó un mirall que reflecteix els nostres impulsos més foscos (gelosia, desig de poder, manipulació) perquè ha estat entrenada amb el nostre propi llenguatge.
- Dèficit democràtic: L'autora identifica un buit de coneixement entre els qui construeixen el futur i els qui el governen, advertint que la IA no es farà ètica per accident; cal una intenció humana profunda per alinear-la amb els nostres ideals.
2. Pau i Guerra: El llegat de la Carrera Espacial
Aquest bloc analitza com una tecnologia nascuda per a la guerra es va convertir en un símbol de pau.
- Origen bèl·lic: El programa espacial dels EUA va ser liderat per Werner von Braun, un científic nazi que construïa coets per a Hitler. Kennedy va impulsar l'arribada a la Lluna no per pur amor a la ciència, sinó com una estratègia política de la Guerra Freda.
- Innovació diplomàtica: El Tractat de l'Espai Exterior de l'ONU (1967) va ser un èxit monumental que va declarar l'espai com "província de tota la humanitat", prohibint les armes nuclears a l'òrbita terrestre.
- Lliçó per a la IA: Harding argumenta que, igual que es va fer amb l'espai, és possible i necessari establir límits internacionals a les armes autònomes letals (LAWS) abans que la cursa tecnològica provoqui una desescalada perillosa.
3. Ciència i Escrutini: El cas de la Fecundació In Vitro (FIV)
L'autora utilitza el naixement de Louise Brown (1978) per mostrar com gestionar tecnologies que generen angoixa moral.
- La Comissió Warnock: Davant la por al "clonatge" o la manipulació d'embrions, el govern britànic de Margaret Thatcher va crear una comissió liderada per la filòsofa Mary Warnock.
- La regla dels 14 dies: Aquesta comissió va establir un límit clar: la investigació amb embrions només es permetria fins als 14 dies posteriors a la fecundació. Aquesta "línia a la sorra", tot i ser arbitrària per a alguns, va generar la confiança pública necessària perquè la indústria de la biotecnologia florís dins d'uns límits acceptats.
- Lliçó per a la IA: La regulació no ha de ser un obstacle per a la innovació, sinó un habilitador que proporcioni certesa legal i seguretat a la societat.
4. Propòsit i Profit: L'evolució d'Internet
El llibre traça la transformació d'Internet d'un projecte militar (ARPANET) a una eina comercial desregulada.
- La visió d'Al Gore: Gore volia una "superautopista de la informació" amb accés equitatiu per a escoles i biblioteques, però aquesta visió pública va ser escombrada per la febre del lliure mercat dels anys 90.
- L'experiment de la ICANN: Es destaca la creació de la ICANN com un model de governança global i multisectorial (stakeholder-driven) que ha permès mantenir una xarxa oberta malgrat les pressions governamentals.
- Lliçó per a la IA: Cal dotar la IA d'un propòsit social clar (com la lluita contra el canvi climàtic) en lloc de deixar que només els interessos dels accionistes de Silicon Valley dictin el seu desenvolupament.
5. Confiança i Terror: Vigilància i Post-9/11
Analitza com l'obsessió per la seguretat després del 2001 va erosionar la confiança en la tecnologia.
- Vigilància massiva: Les revelacions d'Edward Snowden sobre el programa PRISM van mostrar com els governs van abusar de la infraestructura d'Internet per a la vigilància massiva, soscavant l'autoritat moral de les democràcies occidentals per liderar la governança digital.
- L'amenaça de la IA de vigilància: Harding alerta sobre el "fallit de política pública" que representa el reconeixement facial massiu (com el de Clearview AI) i com estem normalitzant la vigilància que abans consideràvem distòpica.
Conclusions: Quatre pilars per al futur
Harding conclou que la IA necessita una governança basada en quatre conceptes:
- Límits (Limits): Establir línies vermelles clares i comprensibles per al públic (com la regla dels 14 dies).
- Propòsit (Purpose): Dirigir la innovació cap a la resolució de problemes humans reals, no només beneficis corporatius.
- Confiança (Trust): Fomentar la diversitat en els equips de desenvolupament per evitar biaixos i desconnexió amb la societat.
- Participació (Participation): No cal ser un expert en IA per tenir una opinió vàlida sobre com ha de ser la nostra societat; els ciutadans han d'exigir responsabilitats als seus líders polítics.
