Approfondimento

Big data e Confirmation bias: i rischi dell’errore cognitivo

Rappresenta la tendenza delle persone ad accogliere, individuandole come rilevanti, quelle informazioni che coincidono con le proprie convinzioni. Ma nell'era dei big data, moltiplica i rischi. Ecco le strategie efficaci per gestire i pregiudizi [...]
Big data e Confirmation Bias: i rischi dell'errore cognitivo
  1. Home
  2. Big Data
  3. Big data e Confirmation bias: i rischi dell’errore cognitivo

Il Confirmation bias è un atteggiamento che appartiene alla natura umana, che porta ognuno di noi a confermare un’ipotesi usando prove a favore, invece di prendere in esame le informazioni a supporto delle ipotesi opposte.

Rappresenta dunque la tendenza delle persone ad accettare, individuandole come rilevanti per accoglierle, quelle informazioni che coincidono con le proprie convinzioni.

Il filosofo Francesco Bacone, a cavallo fra ‘500 e ‘600, fu il primo a parlare di questo approccio. Ecco cos’è e perché, in tema di big data, rappresenta un rischio.

Big data e Confirmation Bias: i rischi dell'errore cognitivo

Cosa si intende per Confirmation bias

Il Confirmation bias è il pregiudizio di conferma ovvero un bias cognitivo, tipico della natura umana, che induce le persone ad agire in un ambito confinato entro le comode frontiere delle proprie convinzioni acquisite.

Ciascuno di noi tende a confermare un’ipotesi, sfruttando le evidenze a favore, invece di prendere in considerazione le prove contrarie. Le persone fanno proprie soltanto le informazioni a sostegno delle proprie ipotesi e ricordano solo quelle che non coincidono con i propri pareri, rinunciando a sottoporre la propria opinione a verifica critica e ad accogliere le informazioni che mal si conciliano con le proprie convinzioni.

Le persone presentano questo pregiudizio quando interpretano le informazioni a supporto delle loro opinioni, trascurando quelle contrarie. Ma si manifesta anche quando selezionano prove ambigue.

L’atteggiamento si verifica coi risultati sperati, sia per questioni su cui hanno investito emotivamente che per convinzioni profondamente radicate. Il bias di conferma è ineliminabile, tuttavia esistono strategie per gestirlo tramite l’education, la formazione e l’allenamento al pensiero critico.

Our Power to Change Others | Tali Sharot | Talks at Google

Big data e pregiudizi

Nel baseball Billy Bean rivoluzionò questo sport con un approccio che introdusse statistiche e analytics nella gestione degli Oakland Athletics, per creare un team che, nonostante limitato budget, fosse in grado di competere con le squadre avversarie. Nel 2002, questo metodo lo portò a mettere a segno il record di venti partite consecutive vinte nell’American League.

Oggi usiamo i dati in ogni campo per migliorare il processo decisionale. Ma anche i dati possono condurre a false conclusioni, sia nello sport che nel business.

Numerose aziende, grandi e piccole, sono impegnate ad ottimizzare il modo in cui usano i loro grandi dataset. I big data, usati nella maniera corretta, aiutano a scoprire pattern, tendenze e preferenze clienti. Ma dati infiniti, combinati coi pregiudizi, possono produrre danni.

I big data abbinati ai Confirmation Bias rappresentano una mina vagante.

Qualunque opinione una persona abbia, troverà prove, evidenze o pezze d’appoggio per supportarla. Accade nello sport o nel marketing.

Secondo i ricercatori non conta essere bravi coi numeri. I pensatori analitici rischiano di essere influenzati dai Confirmation bias, perché le loro competenze li aiutano a trovare i dati che supportano le loro visioni. Più le persone hanno opinioni forti o preferenze, più dati sono disponibili, più si alza il livello di rischio di Confirmation bias. Aggiungere più dati significa gettare più benzina nel fuoco del Confirmation bias. Basta confermare una credenza iniziale per cadere in conclusioni false e decisioni costose.

Big data e Confirmation Bias: i rischi dell'errore cognitivo

Tre fasi per minimizzare gli effetti negativi

Il Confirmation bias è connaturato in noi, essendo il risultato delle scorciatoie che il nostro cervello adotta quando riconosce una situazione di pericolo o emergenza, dove il tempo per decidere è scarso ed è cruciale che il cervello processi quanto accade con estrema velocità.

Ma gli errori cognitivi tipici dell’uomo s’innescano proprio quando il cervello deve agire con rapidità e al contempo deve risparmiare energie cognitive.

WHITEPAPER
Data Quality, come ottenere dati affidabili per il Marketing e le Vendite
Big Data
Marketing

Non possiamo eliminare i Confirmation bias, ma possiamo applicare tre fasi per minimizzarne gli effetti negativi.

Innanzitutto dobbiamo essere consapevoli dell’esistenza e dell’impossibilità di eliminare il proprio Confirmation bias. La consapevolezza, questa prima fase di awareness, ci aiuta ad essere consci delle nostre credenze e per creare il mindset in cui i dati guidano la narrativa e non viceversa.

Nella seconda fase, bisogna porci la domanda se potremmo essere caduti in errori. Andare avanti su un’idea preconcetta, autorizza le persone a trovare sempre dati in grado di confermarla. Invece dobbiamo sempre essere aperti alla possibilità di essere in torto.

La terza fase consiste nel trovare evidenze per opporre punti di vista e valutare di conseguenza. Questo approccio obbliga a forzare ad esaminare le questioni da differenti prospettive. Se non avete trovato prove dal punto di vista opposto, probabilmente non ne avete cercate a sufficienza.

Se le persone vogliono invece cercare evidenze a supporto del proprio punto di vista o della proprio pensiero, è sufficiente torturare i dati fino a dimostrare ciò che non lo è.

Tuttavia, se intendono ottimizzare il processo di decision-making, farebbero bene a prendere consapevolezza del Confirmation bias. Occorre provare ad identificarlo, rimanere aperti alla possibilità di essere in torto, ma soprattutto cambiare idea ogni volta che è necessario.

Bias, cosa si intende con questo termine

Bias, termine derivante dal linguaggio scientifico, significa una “inclinazione, tendenza, distorsione”.

In ambito statistica, segnala la tendenza a deviare dal valore medio. In elettronica, indica la polarizzazione.

Pur avendo etimologia incerta, affonderebbe le radici in Francia e nella lingua provenzale dove la parola biais vuol dire “obliquo”, “inclinato”.

Big data e Confirmation Bias: i rischi dell'errore cognitivo

I Confirmation bias più comuni

Secondo alcune ricerche, si attesterebbero a circa 200 i pregiudizi più diffusi. I bias cognitivi più noti sono: il bias etnico, quello di ancoraggio, il bias della coerenza, quello legato all’egocentrismo e il bias di conferma.

Quello etnico permette di valutare sotto una luce migliore le persone appartenenti al nostro gruppo etnico, rispetto a quelle di altri gruppi etnici che consideriamo estranei.

Il bias di ancoraggio impedisce di mettere in discussione i dati di partenza, a cui ancoriamo le nostre valutazioni.

Quello dell’egocentrismo riguarda la capacità delle persone di rammentare quegli eventi in grado di potenziare la propria autostima.

Il bias della coerenza induce a ricordare in maniera errata atteggiamenti, comportamenti o pareri passati, in modo da allinearli a quelli presenti.

Quello di conferma spinge a prendere in esame i dati e le informazioni che tendono a confermare le proprie tesi iniziali.

Bias di genere e sul lavoro

I gender bias o di genere, sono quelli generati da stereotipi, quando una rappresentazione mentale si basa su generalizzazioni approssimative che non riflettono la realtà, ma sono frutto di una educazione al genere discriminatoria. Arrivano ad affermare che il genere femminile è quello più adatto all’accudimento, meno alla competizione e alla carriera, che dopo la maternità è meno concentrato sul lavoro, è più disposto a esercitare una leadership accogliente o che è più incline a tematiche umanistiche. Questi sono tutti stereotipi che alimentano i gender bias.

Altro frequente bias sul lavoro è il cosiddetto “effetto Pigmalione”, spesso causa di incomprensioni, decisioni sbagliate e conflittualità.
Secondo questo fenomeno, se un manager si convince che il proprio collaboratore non sia dotato, lo tratterà, anche a livello inconsapevole, in modo differente dagli altri.

Il collaboratore tenderà a interiorizzare il giudizio, comportandosi di conseguenza. Si crea così un circolo vizioso per cui il collaboratore tende a fornire prestazioni di inferiore qualità, proprio avvalorando il pregiudizio del manager aveva immaginato. Ovviamente ciò vale anche in positivo, e questo instaura un circolo virtuoso.

Nei social media gli algoritmi presentano solo fatti che si conciliano con la filter bubble degli utenti e coincidono con la visione del mondo degli iscritti, generando polarizzazione e radicalizzando le opinioni.

Big data e Confirmation Bias: i rischi dell'errore cognitivo

I rischi dell’errore cognitivo

In questa accezione, il bias cognitivo è una distorsione cognitiva: è una forma evoluta di comportamento mentale in cui indicano le distorsioni delle persone nell’effettuare valutazioni di fatti e accadimenti.

In psicologia segnala la tendenza a creare la propria realtà soggettiva, che non corrisponde necessariamente all’evidenza, elaborata sulla base dell’interpretazione delle informazioni di cui la persona è in possesso, sebbene manchi una connessione logica o semantica. Ciò conduce dunque a fare un errore di valutazione oppure a non avere oggettività di giudizio.

Quando le persone devono affrontare questioni, problematiche, criticità, scelte, applicano un approccio euristico ovvero usano un mix di logica, tecniche, processi creativi, strategie, per giungere a una soluzione.

Poiché l’approccio logico-scientifico richiede energie tali che ne sconsigliano l’applicazione quotidiana, il nostro cervello cerca di applicare un approccio più rapido.

I bias sono dunque una scorciatoia veloce che il nostro cervello sfrutta per la sostenibilità energetica. In genere, le scorciatoie sono corrette e permettono di interpretare la realtà in maniera veloce ed efficace. Tuttavia, esistono casi in cui i bias ci portano fuori strada. Il rischio è di condurre le persone a commettere errori di valutazione. Quando un processo euristico sfocia in un’imprecisione o in un errore di valutazione, siamo di fronte a un bias cognitivo.

Big data e Confirmation Bias: i rischi dell'errore cognitivo

Strategie per gestire il Confirmation bias

La psicologa Emily Pronin ha eseguito esperimenti nel 2002 per capire il Confirmation bias, se esistono persone immuni da pregiudizi, se c’è il Bias Blind Spot ovvero una zona cieca della consapevolezza umana.

Dagli studi emerge che ciascun individuo considera sé stesso, sempre, più difficilmente influenzabile e più obiettivo di chiunque altro con cui si confronti.

Nessuno è immune dai Confirmation bias, anche perché sono utili e preziosi per riconoscere una situazione di pericolo e trovare soluzioni in tempi rapidi. Tuttavia esistono strategie per gestire il Confirmation bias.

 

 

 

WHITEPAPER
Smart building: una guida per semplificare la progettazione della rete

 

FacebookTwitterLinkedInWhatsApp

Commenta per primo

Lascia un commento

L'indirizzo email non sarà pubblicato.


*


FacebookTwitterLinkedInWhatsApp