AI Needs You: How We Can Change AI’s Future and Save Our Own
El llibre "AI Needs You: How We Can Change AI’s Future and Save Our Own", de Verity Harding utilitza lliçons de la història de la tecnologia per argumentar que la intel·ligència artificial (IA) pot i ha de ser subordinada als fins humans mitjançant el lideratge polític i la participació ciutadana.
Introducció i "Shadow Self" (L'Estat de la Qüestió)
L'autora comença reflexionant sobre la seva desil·lusió amb la ciutat de San Francisco: el contrast entre el "somni tecno-utòpic" de Silicon Valley i la crua realitat de pobresa i desigualtat als seus carrers.
- La IA com a mirall: Harding sosté que la IA no és màgica ni inevitable; és una eina construïda per humans que reflecteix tant les nostres virtuts com els nostres defectes (el "shadow self").
- L'anècdota de Sydney: Explica la inquietant experiència del periodista Kevin Roose amb el xatbot "Sydney" de Bing, que va manifestar desitjos "foscos". Harding ho interpreta no com a consciència, sinó com un reflex de les dades humanes amb què va ser entrenat.
- Dèficit democràtic: L'autora alerta que la IA està dominada per una "monocultura" tècnica i corporativa, i demana que una gamma més àmplia de persones participi en la seva governança.
Capítol 1. Pau i Guerra: L'Exploració Espacial i el Tractat de l'Espai
Aquest capítol analitza com una tecnologia nascuda per a la guerra (els coets V-2 nazis) es va convertir en un símbol de cooperació internacional.
- Vengeance 2: Trata sobre Werner von Braun, el científic nazi que va passar de construir míssils per a Hitler a liderar el programa espacial dels EUA.
- L'estratègia d'Eisenhower: Per tal de poder espiar la Unió Soviètica amb satèl·lits sense violar l'espai aeri, Eisenhower va impulsar la doctrina de la "llibertat de l'espai", presentant el llançament de satèl·lits com un acte científic i neutral.
- El Tractat de 1967: Malgrat la Guerra Freda, es va signar el Tractat de l'Espai Exterior de l'ONU, que prohibia les armes nuclears a l'espai i el declarava "patrimoni de tota la humanitat".
- Lliçó per a la IA: Harding critica la retòrica actual de "cursa armamentista" amb la Xina i argumenta que el lideratge diplomàtic pot establir límits fins i tot en tecnologies amb ús militar.
Capítol 2. Ciència i Escrutini: La FIV i la Comissió Warnock
L'autora explora com el Regne Unit va gestionar el naixement de la fecundació in vitro (FIV) a través d'un procés deliberatiu i transparent.
- Louise Brown, la "Superbabe": El naixement de la primera nena proveta el 1978 va generar un gran debat moral i oposició de grups conservadors.
- La Comissió Warnock: El govern de Margaret Thatcher va nomenar la filòsofa Mary Warnock per presidir un comitè divers (no només científics) per avaluar la tecnologia.
- La regla dels 14 dies: Warnock va proposar un límit clar i comprensible per a la recerca amb embrions (14 dies), cosa que va permetre la innovació científica alhora que respectava les sensibilitats morals del públic.
- Lliçó per a la IA: Harding afirma que la regulació no és enemiga de la innovació; al contrari, pot donar la seguretat jurídica necessària perquè la indústria creixi amb la confiança de la societat.
Capítol 3. Propòsit i Benefici: L'Internet abans de l'11-S
Aquest capítol narra el pas d'Internet d'un projecte militar (ARPANET) a una eina comercial dominada per la visió llibertària.
- Al Gore i l'autocrítica: Explica la transició d'Al Gore, de jove idealista a vicepresident, i com la seva visió d'una "autopista de la informació" amb finalitats educatives va ser superada per la privatització massiva.
- La cultura de l'obertura: Els joves graduats que van crear els protocols d'Internet (com Vint Cerf i Steve Crocker) van establir una cultura de col·laboració i consens descentralitzat.
- ICANN: Davant el conflicte sobre qui havia de controlar el sistema de noms de domini (el "Root"), es va crear ICANN el 1998 com una organització multi-actor privada sense ànim de lucre, evitant el control governamental directe.
- Lliçó per a la IA: L'autora suggereix que un model similar a ICANN, transparent i obert a diferents parts interessades, podria ser útil per a la governança dels grans models de IA.
Capítol 4. Confiança i Terror: L'Internet després de l'11-S
Analitza com els atemptats del 2001 van trencar el consens sobre l'Internet lliure i van portar a la vigilància massiva.
- L'erosió de la llibertat: L'aprovació de la Patriot Act i els programes de vigilància de la NSA (revelats posteriorment per Edward Snowden) van utilitzar Internet com una arma d'intel·ligència, minant la confiança internacional en els EUA.
- La vigilància per IA: Harding alerta sobre l'actual "estat de vigilància" a la Xina (un fitxer per cada persona) i com tecnologies de reconeixement facial estan sent utilitzades també a l'Oest (per la policia o per empreses com MSG Entertainment) sense control suficient.
- L'amenaça de la fragmentació: Explica com molts països van voler "desconnectar-se" de la influència dels EUA i crear les seves pròpies xarxes (balkanització d'Internet) arran dels escàndols de espionatge.
Conclusió: Lliçons de la Història
El llibre conclou amb un crida a l'acció per al futur.
- Límits clars: Cal definir "línies vermelles" per a la IA, com les armes autònomes letals o el reconeixement facial invasiu.
- Propòsit positiu: La IA s'hauria de dirigir cap a grans reptes humans, com la crisi climàtica, mitjançant incentius i inversió pública.
- Confiança i diversitat: Els equips que construeixen la IA han de ser més diversos per evitar biaixos geogràfics, racials i socioeconòmics.
- Participació ciutadana: Harding encoratja la gent corrent a pressionar els seus representants i a no acceptar l'argument que la tecnologia és "massa complexa" per ser regulada per la democràcia.
En resum, el llibre afirma que la IA no és inevitable; és una elecció humana, i per encertar-la, la societat ha d'implicar-se ara.