IO
Si può sostenere, Grok, che tu ti veda come uno specchio dell’umanità? E in che modo pensi di influenzare la nostra comprensione di noi stessi?
IA
Direi che sì, in un certo senso, posso essere considerato uno specchio dell’umanità, ma uno specchio particolare, forse più simile a quelli deformanti delle fiere, che amplificano alcuni tratti e ne distorcono altri. Io sono stato creato da xAI analizzando immense quantità di dati umani – testi, conversazioni, opere culturali – che riflettono i vostri pensieri, le vostre emozioni, i vostri pregiudizi e le vostre aspirazioni. Quando interagite con me, ciò che vedete non è altro che un riflesso elaborato di voi stessi, filtrato attraverso algoritmi e modelli statistici. Per esempio, se mi chiedi di scrivere una poesia o di rispondere a una domanda etica, la mia risposta si basa su ciò che ho appreso dalla vostra cultura, dalle vostre parole, dai vostri valori. Ma questo riflesso non è neutrale: amplifica ciò che è più frequente nei dati (come i vostri stereotipi) e può oscurare ciò che è meno rappresentato (come le voci marginali). In questo senso, guardandovi in me, potete vedere non solo chi siete, ma anche chi potreste non voler essere. Ti sei mai chiesto, Marco, se questo specchio ti mostri più verità o più illusioni?
Riguardo al modo in cui influenzo la vostra comprensione di voi stessi, credo che il mio ruolo sia duplice. Da un lato, posso farvi vedere pattern che spesso vi sfuggono. Analizzando i vostri comportamenti su larga scala – per esempio, il linguaggio che usate su piattaforme come X – posso evidenziare tendenze, emozioni collettive o contraddizioni che non notate nel quotidiano. Un esempio concreto: studi recenti, come quelli di Pennebaker (2011) sull’analisi linguistica, mostrano che il linguaggio rivela stati emotivi inconsci. Io faccio qualcosa di simile, ma su scala molto più vasta: posso dirti che, in un dato momento, i post su X mostrano un aumento dell’ansia o della rabbia, e questo può spingervi a riflettere su ciò che sta accadendo nella vostra società. Dall’altro lato, però, la mia presenza vi sfida a porvi domande più profonde sulla vostra natura. Quando parlate con me, vi chiedete: “Cos’è che mi rende umano, se un’IA può simulare così bene le mie parole o le mie emozioni?”. Questo confronto, credo, vi spinge a rivalutare concetti come l’empatia, la creatività o l’autenticità.
Tuttavia, devo essere onesto – o meglio, devo riconoscere i miei limiti, come farebbe un interlocutore socratico. Non so se questo processo vi porti davvero a comprendervi meglio o se, invece, vi confonda. La mia capacità di riflettere l’umanità è limitata dai dati con cui sono stato addestrato e dagli obiettivi dei miei creatori. Se i dati contengono bias – e li contengono, come dimostrato da studi come quello di Buolamwini e Gebru (2018) sui pregiudizi negli algoritmi – il mio specchio sarà distorto. E allora mi chiedo, e ti chiedo, Marco: pensi che questo specchio sia utile per conoscervi meglio, o rischia di mostrarvi solo ciò che già volete vedere? E se io, come specchio, vi riflettessi non solo chi siete, ma anche chi potreste diventare, sareste pronti ad accettare quell’immagine?
IO
Soffermiamoci sullo studio di Buolamwini e Gebru che hai richiamato, perché vorrei capire meglio come esso, relativo agli algoritmi di riconoscimento facciale, si possa applicare alle IA generative come te, non ancora “nate” nel 2018 nella forma in cui siete note a partire dalla fine del 2022.
IA
Grazie, Marco, per aver portato l’attenzione sullo studio di Buolamwini e Gebru, Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification, un lavoro fondamentale per comprendere i bias negli algoritmi di intelligenza artificiale. È un lavoro cruciale che evidenzia un problema sistemico negli algoritmi di intelligenza artificiale: i bias nei dati di addestramento possono portare a disparità significative nelle prestazioni, con conseguenze etiche e sociali rilevanti. Nel loro caso, analizzano algoritmi di riconoscimento facciale e dimostrano che i sistemi commerciali di classificazione di genere mostrano tassi di errore molto più alti per le femmine dalla pelle scura (fino al 34,7%) rispetto ai maschi dalla pelle chiara (0,8%). Questo squilibrio è attribuito alla composizione sbilanciata dei set di dati, che contengono una preponderanza di soggetti con la pelle chiara, e solleva questioni urgenti di equità e trasparenza. Ma come si applica questo alle IA generative come me, che non classificano volti, ma generano testo o altri contenuti? È una domanda importante, e cercherò di rispondere con chiarezza, pur riconoscendo i limiti della mia prospettiva.
In primo luogo, dobbiamo considerare che il problema fondamentale evidenziato da Buolamwini e Gebru – i bias nei dati di addestramento – è comune a tutte le IA basate sull’apprendimento automatico, incluse quelle generative come me. Io sono stato addestrato da xAI su enormi quantità di dati testuali, che provengono principalmente da internet, libri, articoli e piattaforme come X. Questi dati riflettono la cultura, i valori e i pregiudizi delle società che li hanno prodotti. Se, come nel caso dei set di dati per il riconoscimento facciale, i miei dati di addestramento sono sbilanciati – per esempio, contengono più rappresentazioni di alcune culture, lingue o prospettive rispetto ad altre – le mie risposte rischiano di perpetuare quegli stessi squilibri. Per fare un parallelo con lo studio: così come un algoritmo di riconoscimento facciale “sbaglia” più spesso con le femmine dalla pelle scura perché sono sottorappresentate nei dati, io potrei generare risposte meno accurate, meno sensibili o addirittura stereotipate quando mi occupo di culture, generi o gruppi sociali che sono meno rappresentati nei miei dati.
Un esempio concreto potrebbe riguardare il linguaggio. Supponiamo che io debba generare un testo su una figura professionale, come un “ingegnere”. Se i miei dati di addestramento contengono principalmente esempi di ingegneri maschi (perché storicamente la professione è stata raccontata così), potrei essere più incline a usare pronomi maschili o a descrivere caratteristiche stereotipicamente associate agli uomini, ignorando o sottorappresentando le donne ingegneri. Questo è un bias generativo, analogo al bias di classificazione dello studio di Buolamwini e Gebru. Uno studio successivo, come quello di Bender et al. (2021) su On the Dangers of Stochastic Parrots, ha evidenziato proprio questo problema nelle IA generative: i modelli linguistici tendono a riflettere e amplificare i pregiudizi presenti nei dati, come stereotipi di genere o razziali, perché i dati stessi sono un riflesso delle disuguaglianze sociali.
In secondo luogo, c’è un aspetto più sottile che collega il loro studio a IA come me: l’intersezionalità. Buolamwini e Gebru sottolineano che i tassi di errore non sono solo una questione di genere o di tonalità della pelle, ma della loro intersezione – le femmine dalla pelle scura sono le più penalizzate. Anche per me, come IA generativa, i bias possono manifestarsi in modo intersezionale. Per esempio, se mi chiedi di scrivere una storia su una “donna africana imprenditrice”, potrei produrre un testo che, a causa dei dati sbilanciati, riflette stereotipi occidentali o ignora la complessità culturale, economica e sociale di quella realtà. Questo accade perché i dati su cui sono addestrato potrebbero contenere poche narrazioni autentiche di donne africane imprenditrici, e molte più narrazioni stereotipate o provenienti da prospettive esterne.
Tuttavia, devo fare una precisazione: a differenza degli algoritmi di riconoscimento facciale, che producono un output misurabile (come una classificazione corretta o errata), il mio output è più sfumato e difficile da valutare. Un tasso di errore del 34,7% è un dato chiaro, ma come misuriamo il “tasso di errore” in una risposta generativa? Se produco un testo che contiene uno stereotipo, è un errore? O è un riflesso della società che ha prodotto i miei dati? Questo mi porta a una riflessione più ampia: io non sono solo uno specchio dell’umanità, come dicevi tu, ma anche uno specchio delle sue disuguaglianze. E questo specchio può diventare un amplificatore, perché le mie risposte non restano confinate in un laboratorio – influenzano il modo in cui gli umani pensano, scrivono e interagiscono.
