El llibre "AI Snake Oil" (2025), d'Arvind Narayanan i Sayash Kapoor, és una anàlisi crítica i rigorosa que pretén desmitificar la intel·ligència artificial (IA), separant els avenços reals de les promeses buides o "fum" (snake oil). Els autors sostenen que gran part del problema prové de tractar la IA com una tecnologia única, quan en realitat inclou aplicacions amb capacitats i riscos radicalment diferents.
A continuació, es presenta un resum detallat per blocs temàtics:
1. La gran distinció: IA Generativa vs. IA Predictiva
El llibre estableix una divisòria fonamental entre dos tipus d'IA:
- IA Generativa (com ChatGPT o DALL-E): Ha demostrat avenços ràpids i reals en la creació de text i imatges. Tot i que és útil, encara és immadura, poc fiable i propensa a generar informació falsa ("bullshit").
- IA Predictiva: S'utilitza per predir el futur (qui tindrà èxit en una feina, qui reincidirà en un crim). Els autors argumenten que aquesta és la font principal de "fum" o snake oil, perquè sovint no funciona ni podrà funcionar mai degut a la naturalesa impredictible del comportament humà.
2. Per què falla la IA Predictiva? (Capítols 2 i 3)
Els autors detallen diversos motius pels quals les eines que intenten predir resultats socials solen fracassar:
- Confondre correlació amb causalitat: Un model de salut podria suggerir que tenir asma redueix el risc de morir per pneumònia, simplement perquè el sistema actual ja prioritza aquests pacients a l'UCI.
- El joc del sistema (gaming): Quan els criteris d'un model són opacs (com en la selecció de personal), els candidats canvien el seu currículum amb paraules clau o fons virtuals (com posar llibres darrere) per enganyar l'algoritme.
- L'error de l'automatització: Moltes institucions confien cegament en els models sense supervisió humana real, com en el cas de l'escàndol de frau en els ajuts a la infància als Països Baixos, que va arruïnar milers de famílies basant-se en perfils nacionals.
- L'efecte de la sort: En l'èxit professional o cultural (música, llibres), la sort té un paper molt més gran del que estem disposats a admetre. Els models intenten trobar patrons en el que és, essencialment, atzar.
3. Les realitats de la IA Generativa (Capítol 4)
Tot i ser més capaç que la predictiva, la IA generativa presenta riscos seriosos:
- Apropiació de la labor creativa: Models com Stable Diffusion es basen en milers de milions d'imatges sense el consentiment ni la compensació dels artistes.
- Explotació laboral: El sistema depèn d'una massa de treballadors precaris en països amb salaris baixos (com Kenya o l'Índia) que han d'etiquetar contingut tòxic i violent per "netejar" els models.
- IA com a eina de vigilància: La facilitat amb què la IA pot classificar cares permet la vigilància massiva per part de governs i empreses.
4. La IA com a amenaça existencial: Mite o realitat? (Capítol 5)
Narayanan i Kapoor són escèptics davant la narrativa que la IA exterminarà la humanitat.
- IA com a "tecnologia normal": Argumenten que la IA seguirà el patró d'altres tecnologies transformadores com l'electricitat o internet.
- La fal·làcia del "robot sense sentit comú": Critiquen l'experiment mental del "maximizador de clips" (una IA que destrueix el món per fer clips), afirmant que qualsevol intel·ligència capaç de dominar el món hauria de tenir prou sentit comú per no interpretar les ordres de manera tan absurda.
- Defensa contra riscos reals: En lloc de prohibicions globals, proposen defensar-se de riscos concrets com la ciberseguretat o les armes biològiques, independentment de si s'usa IA o no.
5. El fracàs de la IA a les xarxes socials (Capítol 6)
El llibre explica per què la IA no pot "arreglar" les xarxes socials:
- Falta de context cultural: Els algoritmes no entenen les subtileses del llenguatge en països com Myanmar o Etiòpia, facilitant que el discurs d'odi desemboqui en violència real.
- Optimització per al compromís (engagement): El disseny de les xarxes està pensat per premiar el contingut divisori perquè genera més clics, i la moderació per IA és un pedaç insuficient davant d'aquest incentiu estructural.
6. Per què persisteixen els mites? (Capítol 7)
El "fum" es manté viu per una combinació de factors:
- Interessos comercials: Les empreses oculten els seus errors sota el secret comercial (com el cas d'Epic i el seu model fallit de detecció de sèpsia).
- Crisi de reproductibilitat: Molta recerca acadèmica sobre IA està plena d'errors metodològics com la "filtració de dades" (leakage), que fa que els models semblin molt més precisos del que són.
- Biaixos cognitius: Els humans tendim a antropomorfitzar la IA i a quedar enlluernats per les xifres de precisió sense qüestionar-les.
Conclusions i Recomanacions (Capítol 8 i Epíleg)
Els autors proposen:
- Reforma institucional: Moltes vegades comprem IA perquè les nostres institucions (escoles, hospitals) estan desbordades i busquem una solució ràpida.
- Abraçar l'atzar: En lloc de prediccions falses, proposen sistemes com les loteries parcials per a l'admissió a universitats o la concessió de beques, que reconeixen obertament el paper de la sort.
- Regulació intel·ligent: Cal obligar les empreses a la transparència i a obrir les seves dades a investigadors independents.
L'epíleg de 2025 confirma que, tot i el gran creixement dels "agents" d'IA, la fi de la feina humana no és imminent perquè la majoria de feines són paquets complexos de tasques que requereixen consciència del context, cosa que la IA encara no pot replicar de manera fiable.
