The Certainty Illusion: What You Don't Know and Why It Matters
Llibre resumit amb IA.
El llibre "The Certainty Illusion: What You Don't Know and Why It Matters" de Timothy Caulfield explora una paradoxa central de l'era actual: tot i tenir un accés sense precedents a la informació i el coneixement, la nostra certesa sobre els temes importants és cada cop menor. L'autor argumenta que l'entorn de la informació està "completament i veritablement fotut" per una "tempesta de mentides, distorsions i diatribes plenes de ràbia", i que hem arribat a un punt on un adagi més adequat que el "Penso, per tant existeixo" de Descartes seria "Busco a Google, per tant estic segur".
El llibre s'estructura en tres parts principals: "La il·lusió de la ciència", "La il·lusió de la bondat" i "La il·lusió de l'opinió", cadascuna explorant com les nostres principals "guies" de coneixement s'estan degradant.
Introducció: Caulfield destaca que, tot i el gran nombre d'investigadors, veus diverses i investigacions en curs amb fàcil accés, ens trobem en una "crisi de coneixement". La pandèmia de COVID-19 va accelerar l'escepticisme cap a la ciència, tot i que els "incentius pervertidors" com els algorismes de clickbait, els titulars sensacionalistes i les càmeres de ressonància ideològiques ja estaven presents. Assenyala que una gran part del contingut en plataformes com TikTok conté desinformació, i que la desinformació està contribuint a l'erosió de l'esperança de vida als EUA. La tesi és que, com més desitgem informació fiable, més l'economia de la informació és incentivada a manipular-la, fent que les nostres "guies" perdin valor precisament perquè són tan necessàries.
Part I: La il·lusió de la ciència. Aquesta secció analitza com la ciència, que hauria de ser una "espelma en la foscor", és manipulada i explotada.
- Ciència-explotació (Scienceploitation): Es refereix a l'ús de llenguatge amb sonoritats científiques per vendre productes i idees sense fonament.
- Exemples: L'ús sense sentit de la paraula "quàntica" en productes de salut, l'explotació del magnetisme i l'electricitat en el segle XVIII i XIX, i el cas més "dramàtic i escandalós" de la radioactivitat en el segle XX, amb productes com l'aigua radioactiva Radithor que va causar la mort d'Eben Byers.
- Aquest cicle de "ciència-explotació" es repeteix amb noves àrees científiques com la genètica, les cèl·lules mare, la nanotecnologia i el microbioma.
- L'ús de terminologia científica dona una "aparença de credibilitat" i "il·lusió de certesa", fins i tot per a temes pseudocientífics. Paradoxalment, un excés de jargon pot desinteressar els no experts. El màrqueting busca la "impenetrabilitat i el razzle-dazzle sintàctic".
- L'autor il·lustra amb el cas de les teràpies amb cèl·lules mare no provades, on clíniques de medicina alternativa usen un llenguatge científicament buit per promocionar tractaments ineficaços per a una gran varietat de malalties, tot i que gairebé cap teràpia amb cèl·lules mare està validada clínicament. La indústria de la bellesa també abusa d'aquest llenguatge ("xampú genòmic", "crema anti-envelliment amb cèl·lules mare").
- Consell: S'ha de ser molt escèptic amb el llenguatge excessivament "científic" sense una explicació clara.
- La Ciència i l'Espant: La combinació de llenguatge científic i retòrica alarmista és molt efectiva.
- El cas de la dieta sense gluten, popularitzada per llibres com Wheat Belly, és un exemple clar; tot i la manca d'evidència científica que sigui inherentment més saludable per a la majoria de la població, la seva popularitat continua creixent a causa de la "retòrica de la por".
- La negativitat intrínseca de la informació alarmant fa que sigui més memorable i es propagui més fàcilment. Qui propaga desinformació utilitza un "balbuceig que sona a ciència" per legitimar les seves posicions sense base.
- Certesa, Ciència Falsa i Efecte Dunning-Kruger: Les persones que creuen i propaguen desinformació sovint tenen una "certesa injustificada" en el seu coneixement.
- Existeix una associació entre el narcisisme i la creença en teories de la conspiració, ja que això els fa sentir "especials" i amb accés a un coneixement "únic".
- L'efecte Dunning-Kruger explica com una manca de coneixement pot impedir reconèixer aquesta mateixa manca de coneixement, portant a una sobreestimació de les pròpies habilitats (per exemple, els opositors extrems als OMG saben menys però creuen saber més).
- Consell: Cal ser humil intel·lectualment, sospitar de les afirmacions "Galileo-esque" (la idea de ser l'únic que veu la veritat contra la majoria) i aplicar el "estàndard de Sagan": "afirmacions extraordinàries requereixen proves extraordinàries".
- Bullshit amb certesa (Certainly Bullshit): Es refereix al "bullshit pseudoprofund", un llenguatge que sembla impressionant i profund però que és "amanida de paraules sense sentit", usat per confondre i vendre. Un estudi va demostrar que la gent troba aquestes afirmacions "almenys una mica profundes".
- Consell: Si sona a "tripe pretensiós", probablement ho és. La ciència ben feta sol poder comunicar-se de manera digerible. La "paradoxa de la profunditat" és que la il·lusió de ciència i profunditat s'utilitza per crear la il·lusió de claredat i certesa.
- La Màquina del Hype: L'exageració ("hype") prové de la mateixa comunitat de recerca legítima.
- Les expectatives inflades sobre els beneficis econòmics i socials de la recerca (per exemple, el Projecte Genoma Humà, la recerca amb cèl·lules mare) són sovint "ridículament exagerades" i no es materialitzen.
- El sistema de finançament de la recerca és "ridículament competitiu" i genera pressió per "sensacionalitzar i embellir" les sol·licituds de subvenció, amb augments massius del "hype" observats en subvencions del NIH (1400%).
- La concessió de subvencions sovint és "arbitrària" i no discrimina per qualitat. Es suggereix un sistema de loteria per a la distribució de fons de recerca per ser més eficient i reduir el "hype".
- La premsa universitària i els mitjans de comunicació amplifiquen aquest "hype". La cobertura mediàtica s'associa negativament amb la replicació de la recerca.
- El catastrofisme (exagerar els possibles danys de la ciència emergent, com els "exèrcits de clons") també contribueix a la desinformació.
- Consell: Els investigadors han de ser modestos. Una "veritable innovació" serà reconeguda per nombroses fonts fiables.
- El Problema dels Depredadors: Revistes acadèmiques de baixa qualitat o "depredadores" que cobren per publicar sense un procés de revisió per parells adequat.
- Utilitzen "experts" qüestionables en els seus consells editorials (com la Dra. Olivia Doll, un gos).
- Publiquen articles sense cap mena de rigor (com l'article de Caulfield: "La homeopatia és pseudociència de merda").
- Això es deu a la "intensa pressió per publicar" ("publish or perish") sobre els acadèmics.
- Els fons públics (impostos) s'utilitzen per pagar aquestes publicacions fraudulentes, constituint un "desaprofitament triple" de recursos.
- Aquestes revistes es fan servir per legitimar desinformació i teories de la conspiració (com ara articles sobre el COVID-19 i la tecnologia 5G). Les seves conclusions es colen en guies clíniques i polítiques governamentals.
- El cas de l'"O-Shot®", un procediment estètic no provat, il·lustra com un estudi de baixa qualitat publicat en una revista depredadora s'utilitza per normalitzar i promoure una teràpia costosa i possiblement perjudicial.
- Consell: Cal estar "totalment furiós" i exigir que es prohibeixi l'ús de fons públics per a aquestes publicacions. Es suggereix que publicar en revistes depredadores es consideri "mala conducta acadèmica".
- Revistes Segrestades: Operacions criminals que creen llocs web falsos de revistes legítimes per enganyar els acadèmics. Aquestes publicacions no revisades poden influir en la política i contaminar bases de dades de recerca fiables (com la biblioteca de publicacions de l'OMS sobre COVID-19).
- Crear la Teva Pròpia Revista "Científica": Els promotors d'agendes particulars (per exemple, anti-vacunes) creen revistes que semblen legítimes per difondre la seva desinformació. Aquestes revistes solen estar plenes de retòrica desmentida i els editors sovint publiquen la seva pròpia feina sense un veritable procés de revisió.
- Consell: Si una afirmació contradiu el coneixement establert i recolza una agenda controvertida, cal verificar la legitimitat de la font i com altres acadèmics de la comunitat científica la referencien.
- IA... Ai: La intel·ligència artificial (IA) pot escriure resums científics creïbles que els experts no poden detectar. Això complicarà enormement el problema de la desinformació, augmentant exponencialment el volum de contingut fals.
- Ciència Zombi: Les dades falses i els estudis retractats continuen circulant i influint en el discurs científic i públic.
- El cas més "notori" és l'estudi d'Andrew Wakefield de 1998 que vinculava les vacunes (MMR) amb l'autisme. Tot i ser "escandalosament deficient", retractat el 2010 per frau, distorsió de dades i conflictes d'interès, i haver perdut Wakefield la seva llicència mèdica, aquest "zombi segueix viu". La desconfiança que va generar persisteix a la percepció pública, i els activistes anti-vacunes el segueixen utilitzant per "sembrar dubtes".
- Molts estudis retractats continuen sent citats en la literatura acadèmica, sovint sense que es reconegui la seva retractació. Aquests articles retractats reben més atenció que els no retractats, possiblement perquè el seu contingut és "més emocionant" o recolza posicions controvertides. La "raó motivada" permet que els qui s'alineen amb les conclusions d'un estudi el mantinguin viu malgrat la seva invalidesa.
- Consell: Les retractacions han de ser ràpides (idealment en menys de dos mesos) i clarament visibles en totes les bases de dades i motors de cerca. Els periodistes no haurien de referenciar estudis retractats. La "síndrome de l'estudi únic" és perillosa: mai s'ha de confiar en un sol estudi, especialment si ha estat retractat. Cal considerar sempre el "conjunt de l'evidència".
Part II: La il·lusió de la bondat Aquesta part explora com el nostre desig de "fer el bé" és explotat amb finalitats comercials i polítiques.
- Aurèoles de Salut (Health Halos): Paraules o frases que indueixen a creure que un producte és millor, més segur o més saludable del que realment és.
- Són "dreceres cap a una mena de certesa". Paradoxalment, poden portar a menjar més quantitat de productes percebuts com saludables. Fins i tot marques de tabac utilitzen aquestes aurèoles ("100% lliure d'additius natural") per enganyar els consumidors.
- La Dotzena Diabòlica (The Devious Dozen) d'aurèoles de salut comunes:
- "Natural": La "mare de totes les aurèoles de salut", sense una definició consistent. S'aprofita de la fal·làcia lògica de "l'apel·lació a la natura" (el que és natural és inherentment bo). Utilitzat per sembrar dubtes sobre vacunes, medicaments o aliments segurs.
- "Holístic": Gairebé sense sentit en l'àmbit de la salut, s'utilitza per suggerir que es considera la "persona sencera" a diferència dels proveïdors de salut convencionals, sovint per promocionar pseudociències.
- "Saludable": Encara que important, la seva definició és un "objectiu en moviment". Un sol aliment no és "saludable" per si mateix; importa el patró alimentari general. Es pot convertir en una eina de màrqueting.
- "Orgànic": Tot i tenir regulacions de producció, "no significa necessàriament que el producte sigui més saludable". Estudis han mostrat que els productes orgànics no són necessàriament millors en termes de pesticides o contaminació microbiana. El sucre orgànic segueix sent sucre.
- "No-OMG": La creença que és més saludable és el principal motor del seu interès. El consens científic global és que els OMG aprovats són segurs i fins i tot poden oferir beneficis. És la qüestió amb la "bretxa més gran entre el consens científic (segur) i la percepció pública (perillós)".
- "Sense Gluten": No hi ha proves que sigui inherentment més saludable per a la majoria, i els productes sense gluten sovint són menys saludables que els equivalents amb gluten.
- "Sense Químics": Lligat a la quimiofòbia (por als químics). Tota la Terra està composta de químics, i la "dosi fa el verí".
- "Sense Toxines": Un "terme de por sense contingut", utilitzat per vendre productes i pràctiques absurdes com desintoxicacions i neteges.
- "Cultivat Localment": Tot i tenir objectius lloables (gust, suport local), l'evidència sobre els seus beneficis ambientals o per a la salut és "mixta". La percepció (l'aurèola de salut) pot influir en el gust percebut.
- El Color Verd: L'embalatge verd fa que els consumidors tendeixin a pensar que un aliment és saludable.
- "Estimulant del Sistema Immunitari" (Immune-Boosting): No es pot "estimular" el sistema immunitari; és un sistema complex. La majoria d'informació sobre aquest tema en línia és inexacta. Fins i tot fonts respectades utilitzen aquest terme en titulars, legitimant-lo i dificultant la desinformació.
- "Personalitzat": Explota el desig de singularitat. La ciència darrere de les dietes i programes personalitzats (basats en genètica o microbioma) és "tremendament decebedora", sense demostrar una major eficàcia. Aquesta èmfasi desvia l'atenció de canvis socials més impactants en salut cap a la responsabilitat individual.
- Aquestes tàctiques de màrqueting simplifiquen qüestions complexes, exploten biaixos cognitius (negativitat, culpa) i impedeixen debats basats en evidència.
- Masclets (Manly Men): Una tendència creixent en el benestar masculí que combina ideologia amb normes arcaiques de masculinitat ("optimització de la masculinitat", "impuls de testosterona").
- Exemples com el "Liver King" (que promou la "vida ancestral" i dietes de carn crua mentre usa esteroides) o el "Bronzejat Testicular" promogut per Tucker Carlson. No hi ha evidència científica que el bronzejat testicular augmenti la testosterona, i pot ser perjudicial.
- Ser "més masculí" es presenta com una aurèola de salut. Aquesta ideologia té implicacions negatives per a la salut mental (depressió, ideació suïcida) i socials (abús, violència amb armes).
- La nostra receptivitat a aquests missatges està influenciada per la nostra ideologia i inseguretats. La desinformació sol ser "més fàcil de processar, més emocional, més alarmista i centrada en la moralitat".
- Una Bona Història: La ment humana és un "processador d'històries, no un processador de lògica". Els documentals tenen un poder immens per persuadir, i la qualitat de producció augmenta la força persuasiva, creant una "il·lusió dramàtica de certesa".
- What the Health, un documental que distorsiona la ciència nutricional, va canviar la percepció de la nutrició fins i tot en estudiants de ciències de la salut.
- Les anècdotes, tot i no ser dades científiques, són molt persuasives i es poden utilitzar per distorsionar la realitat científica (per exemple, el vincle del talc amb el càncer d'ovari en el documental Toxic Beauty, que científicament és incert). Les anècdotes poden convertir un "tòpic en una muntanya".
- Fer el Bé i el Engany de la Certesa: La "il·lusió de la bondat" ofereix una "falsa sensació de certesa" sobre els objectius i com assolir-los, explotant el nostre desig de fer el correcte mitjançant aurèoles de salut, pensament desitjós i històries alarmistes.
Part III: La il·lusió de l'opinió Aquesta secció examina com la nostra recerca d'opinions autèntiques s'ha convertit en una "economia de l'opinió" massiva i manipulada.
- El Gust Terrenal!: L'autor il·lustra la manipulació de les opinions amb la seva broma del restaurant fictici "The Shed at Dulwich", que va esdevenir el número u a Londres a TripAdvisor basant-se en ressenyes falses i estrategies enganyoses.
- Per què confiem en les ressenyes en línia? Es basa en cinc tendències humanes:
- Confiem en la gent que creiem que és com nosaltres.
- Les anècdotes i testimonis són molt persuasius.
- L'aura de ser "real, cru i independent".
- La creença en la "saviesa de la multitud" (la idea que la mitjana de moltes opinions s'acosta a la veritat).
- La nostra cerca de respostes ràpides i fàcils en un entorn d'informació caòtic.
- Falsificar-ho fins... per sempre: Moltes ressenyes en línia són directament falses, comprades, generades per IA o escrites amb motivacions ocultes. Afecten les valoracions. La indústria de les ressenyes falses és massiva (milions de publicacions de reclutament a Facebook) i "cada cop són millors a l'hora de fer-les semblar reals". Els incentius econòmics fan que els proveïdors i les plataformes facin la vista grossa.
- Biaixos a la Màquina:
- Ressenyes incentivades: Les ressenyes pagades o incentivades augmenten el nombre i la valoració mitjana (fins a un 40-70% més positives), tot i que els clients hi confien menys si saben que són incentivades.
- Biaix cultural: La distància cultural pot fer que les ressenyes siguin més baixes.
- Biaix de viatger: Les parelles deixen valoracions més altes que els viatgers de negocis.
- Nom de marca i preu: Els productes més cars o de marques conegudes reben millors ressenyes. El "efecte placebo de màrqueting".
- Biaix d'influència social (mentalitat de ramat): Les ressenyes positives anteriors influeixen en les noves ressenyes.
- Biaix de suport a l'elecció: Les persones tendeixen a dir que els va agradar un producte en el qual ja han invertit.
- La majoria de revisors són extrems: Només un petit percentatge de clients escriu ressenyes, i solen ser els que tenen experiències molt positives o molt negatives. Els "super-col·laboradors" escriuen per auto-expressió o construcció de marca.
- Ressenyes negatives falses: Els anti-vacunes, per exemple, fan "spam" a negocis pro-vacunes amb ressenyes d'una estrella, que poden ser fatals per a petites empreses.
- Conclusió: Sovint Errat: Les ressenyes en línia són "sovint (molt sovint) falses, esbiaixades, polaritzades i influenciades per tot". Un estudi va trobar una "manca significativa d'acord" entre les ressenyes en línia i les avaluacions d'experts (Consumer Reports), amb només un 57% de coincidència. La quantitat de ressenyes no corregeix la qualitat.
- Ressenyes de Professionals? Encara Pitjor: Les ressenyes en línia de metges no correlacionen amb la qualitat real de l'atenció mèdica o l'avaluació dels companys. Hi ha una "gran asimetria de coneixement". Les experiències dels pacients no reflecteixen la qualitat clínica. L'autor dona un exemple personal de com la seva mare gairebé mor per un error mèdic que ell no hauria detectat en una ressenya. Els metges "odien" les ressenyes en línia perquè augmenten l'estrès i són inexactes. Les ressenyes de professionals estan encara més polaritzades (64% cinc estrelles, 194% una estrella).
- Consell: Cal ser conscient de les "profundes limitacions" d'aquestes ressenyes i utilitzar-les "amb precaució".
- Cinc Estrelles per Bullshit Fals, Nociu i Explotador? Les clíniques de càncer de medicina alternativa reben valoracions altes (4.4 estrelles) per teràpies "completament no provades", sovint de pacients terminals, la qual cosa és "criminal" i ofereix "falsa esperança". Els motors de cerca han de responsabilitzar-se d'això.
- No els pots detectar. De debò, no pots: La gent creu erròniament que pot detectar la desinformació ("superioritat il·lusòria", "efecte Dunning-Kruger"). Fins i tot els investigadors que estudien la fiabilitat de les ressenyes les utilitzen.
- L'Impacte de la IA: La IA farà que les ressenyes falses siguin més fàcils de crear i que l'ecosistema d'opinions sigui "encara més caòtic i poc fiable".
- Un Pla d'Escapada Recomanat? Els experts són pessimistes sobre la capacitat dels consumidors individuals de filtrar el soroll.
- Consell: Buscar avaluacions d'experts independents (com Consumer Reports) que facin anàlisis comparatives. "Sigues molt escèptic amb les ressenyes en línia".
- Les plataformes i els reguladors han de fer més, però els incentius econòmics ho fan difícil. Les ressenyes manipulades són "la norma i probablement han vingut per quedar-se".
- Enquestes d'Opinió: Sovint són problemàtiques (metodologia, biaixos) i "falses investigacions" que busquen influir en l'opinió pública.
- Creadors de Gust o Agregadors?: Les ressenyes i els serveis d'agregació d'opinions influencien els nostres gustos (música, cinema). L'èxit dels artistes pot dependre més de la "iconografia i el simbolisme" que del contingut real. Els algorismes de streaming són "més socials que musicològics".
- Qui Revisa els Revisors?: Els crítics mateixos estan influenciats. El món de les ressenyes de pel·lícules està dominat per la perspectiva masculina.
- Consell: Preguntar-se sempre qui fa la revisió i si és rellevant per als propis gustos.
- T'agrada el que t'agrada?: Els nostres gustos (musicals, etc.) estan modelats per la identitat personal, la ideologia i la pertinença a un grup. Ser conscient d'aquests biaixos pot ser alliberador i ampliar les nostres experiències.
- Construir Ponts: La música pot ser un "pont per a temes polaritzats". L'exposició a perspectives diferents pot canviar opinions fins i tot en qüestions divisòries (estudi de Fox News i CNN). La polarització política pot fins i tot influir en les creences sobre consells mèdics.
Conclusió: Un camí a seguir? El llibre tanca amb la idea que el caos de la informació és estressant i que els nostres "fars" (ciència, opinions autèntiques) han estat "cooptats, explotats i degradats". Cal una acció valenta a nivell individual i social per arreglar aquesta situació.
- La Solució Fonamental: La prioritat màxima és "arreglar la manera com la ciència és finançada, feta i comunicada". El sistema actual fomenta el "hype" i la "ciència de salami" (dividir la recerca en moltes publicacions petites per augmentar la productivitat). S'ha de canviar a un sistema que valori la qualitat i l'impacte per sobre de la quantitat.
- Altres Reformes: Identificar i tancar revistes acadèmiques falses; agilitzar les retractacions i fer-les clarament visibles; finançar la recerca de replicació i els resultats negatius; fer les dades de recerca accessibles; fomentar la integritat de la recerca; i que els científics i les institucions corregeixin activament la desinformació sobre la seva feina.
- Els Sis Punts per la Certesa (Consells Personals):
- Pausa: Abans de compartir informació, pregunta't si és precisa.
- Vigila la ciència-explotació: Sigues escèptic amb el llenguatge "científic" utilitzat per al màrqueting.
- Observa quan la "bondat" s'utilitza com a estratègia de màrqueting: Molts productes etiquetats com a "naturals" són altament processats i la terminologia "neta", "local", "sense OMG", "saludable" és sovint enganyosa. Centra't en els aliments "reals".
- Considera sempre el conjunt de l'evidència existent: No caiguis en la "síndrome de l'estudi únic". Reconeix els teus biaixos personals. Si una afirmació és extraordinària o contrària al consens, verifica la seva legitimitat i com és referenciada. Busca fonts fiables que agreguin el consens científic.
- Busca avaluacions d'experts independents: Són les més fiables.
- T'agrada el que t'agrada: Sigues escèptic amb l'economia de l'opinió. Parla amb persones reals i mantén la ment oberta per provar coses noves.
Caulfield conclou que, tot i el gran accés al coneixement, estem en risc d'una nova "edat fosca paradoxal" de desinformació i engany. Cal reconstruir i protegir els "fars" del coneixement per trobar el camí.
