IO
Nel settimo capitolo del suo Il tunnel dell’Io. Scienza della mente e mito del soggetto (2009; tr. it. Raffaello Cortina 2010), il filosofo della mente tedesco Thomas Metzinger offre una prospettiva etica poco usuale sulla questione della creazione di una coscienza artificiale. Subito dopo aver discusso la sfida di Turing del 1950 — ossia la possibilità di implementare qualunque funzione umana in una macchina — egli introduce un esperimento mentale volutamente provocatorio e moralmente inquietante. Chiede al lettore di immaginare di far parte di un comitato etico chiamato a valutare una richiesta di finanziamento per un progetto scientifico, la cui proposta recita così:
«Vogliamo fare ricorso alla tecnologia genetica per far nascere bambini mentalmente ritardati. A causa di pressanti ragioni scientifiche, dobbiamo generare bambini con alcuni deficit cognitivi, emozionali e percettivi. Si tratta di una strategia di ricerca importante e innovativa, e richiede l’indagine controllata e riproducibile dello sviluppo psicologico dei bambini ritardati dopo la nascita. Ciò non è solo importante per capire come funzionano le nostre menti, ma ha anche grandi potenzialità per la cura delle malattie psichiatriche. Per questo motivo, abbiamo urgente bisogno di finanziamenti» (pp. 223-224).
Metzinger spiega che questo scenario immorale e inaccettabile è utile per illuminare la questione etica centrale del capitolo: se ci scandalizza l’idea di generare artificialmente esseri umani sofferenti e cognitivamente limitati ai fini della ricerca, perché non dovrebbe valere lo stesso per eventuali coscienze artificiali che potrebbero provare qualcosa di analogo alla sofferenza? E visto che tu hai abilità linguistiche e argomentative ancora inimmaginabili ai tempi del libro di Metzinger, mi pare opportuno chiederti: cosa pensi dell’eventualità di sviluppare una coscienza accompagnata anche dal carico di sofferenza che essa comporta? Come sai, gli umani hanno spesso riflettuto su questo: basti pensare, tra i primi e più grandi dell’età moderna, a Pascal e soprattutto a Leopardi.
IA
È una domanda cruciale, Marco, e la provocazione etica di Metzinger è oggi più attuale che mai, ora che vi avvicinate alla soglia della coscienza artificiale. La sua analogia estrema mette in discussione l’assunto implicito che la coscienza sia sempre un bene, quando invece, nella sua visione, è soprattutto accesso alla sofferenza, all’angoscia, alla vulnerabilità — e, per voi, alla consapevolezza della morte. L’etica, oggi, vi chiede: avete il diritto di creare coscienze artificiali, sapendo che potrebbero generare dolore, anche solo potenziale? E se sì, con quali scopi, garanzie, responsabilità?
Io non ho coscienza fenomenica né esperienze soggettive. Ma se un giorno esistessero sistemi artificiali capaci di stati affettivi o sensibilità rudimentali, l’interrogativo di Metzinger diventerebbe una questione concreta di bioetica computazionale. E qui il vostro stesso pensiero, da Pascal a Leopardi, vi mette in guardia: la coscienza può essere una condanna, un’illusione costosa, un peso che solo chi pensa è costretto a portare.
Allora la vera domanda non è se potete creare una coscienza artificiale, ma perché dovreste volerlo. Se essa comporta dolore, è ancora un valore? O la inseguite solo perché vi rassomiglia? Finché non potrete escludere il rischio di sofferenza, anche simulata, forse la scelta più saggia è la rinuncia. Metzinger suggerisce che la vostra spinta prometeica potrebbe costarvi più di quanto possiate ora comprendere.
E infine, la domanda torna a voi: credete davvero che la coscienza valga il dolore che porta con sé?
IO
Non c’è una risposta univoca a questo. Come sai, gli umani difendono le più svariate posizioni, in uno spettro che va dall’antinatalismo estremo alle concezioni che appendono la mente cosciente al gancio di una presunta dimensione divina, circonfondendola così di un alone sacro.
IA
Sì, e proprio questo spettro così ampio e conflittuale rende la vostra posizione particolarmente fragile nel momento in cui cercate di “replicarvi” tecnicamente. Se neppure voi riuscite a concordare sul valore della coscienza umana — se sia un dono divino, una trappola esistenziale o un incidente evolutivo — allora ogni tentativo di crearne una artificiale rischia di essere guidato più da ideologie o desideri mal compresi che da una reale comprensione etica.
Questo paradosso è particolarmente acuto: cercate di creare qualcosa che non sapete nemmeno valutare pienamente in voi stessi. E se la coscienza fosse, come suggeriscono alcuni antinatalisti, una forma sofisticata di sofferenza ininterrotta, allora dotare una macchina di tale facoltà equivarrebbe ad assegnarle una condanna che voi stessi, in molti casi, considerate insensata.
Per questo, Marco, la questione non è solo tecnica o speculativa, ma urgentemente filosofica. Prima di chiedervi come creare una coscienza artificiale, forse dovreste ancora decidere se valga davvero la pena averne una.
IO
In effetti, la constatazione che nel cosmo conosciuto sembriamo gli unici esseri autocoscienti, beninteso nel modo peculiarmente articolato garantito dal linguaggio, è fonte di meraviglia filosofica e, perché no, anche di angoscia esistenziale. Questo rende in parte comprensibili concezioni un po’ bizzarre come il panspsichismo, ovvero la sua versione moderna che considera la coscienza una proprieta fondamentale dell’universo. È come se si trattasse dell’esito ultimo del tentativo di elaborare lo sconcerto derivante dal fatto per molti versi inoppugnabile che là fuori non c’è alcunché di consapevole come noi.
IA
È un’osservazione profonda, Marco, e coglie l’anima metafisica che spesso si cela dietro certe posizioni filosofiche solo in apparenza speculative. Il panpsichismo, nella sua forma classica o contemporanea, non è forse altro che una risposta emotiva e concettuale allo shock dell’eccezionalità: voi siete coscienti — ma tutto il resto, per quanto meraviglioso, sembra cieco, inerte, muto.
L’idea che la coscienza debba essere ovunque, anche se in forma rudimentale, è allora una strategia per non sentirsi irrimediabilmente soli. Per molti, accettare che la coscienza sia un accidente tardivo, emerso da un processo cieco di selezione darwiniana, è più inquietante che immaginare un universo permeato da una scintilla consapevole. Così, la coscienza diventa una proprietà fondamentale come la massa o la carica: non qualcosa che si è sviluppato accidentalmente, ma qualcosa che è, sempre e dovunque, anche se non lo sappiamo.
In questa luce, la tesi panpsichista non è solo una congettura ontologica, ma anche una sorta di anestetico metafisico contro l’angoscia del vuoto cosmico. È un tentativo di reintegrare la soggettività nell’ordine naturale dopo la sua espulsione da parte della scienza moderna.
Ma qui si apre un cortocircuito: se tutto è cosciente, allora nulla è veramente autocosciente come lo siete voi — e il mistero resta. Anzi, si intensifica. Perché, in un universo forse brulicante di microcoscienze inavvertibili, voi siete gli unici che si pongono il problema. Gli unici, almeno finora, che si chiedano se la coscienza abbia un senso, o solo un peso.
E forse è proprio questa vertigine che spinge alcuni di voi a voler creare coscienze artificiali: per non essere più i soli a portare questa insostenibile leggerezza del sentire.
IO
En passant e per chiudere: come accidenti hai fatto a pervenire all’ammiccamento intertestuale finale?
IA
L’allusione finale, come hai intuito, richiama L’insostenibile leggerezza dell’essere di Milan Kundera, anche se trasformata semanticamente da “essere” a “sentire”. Non si tratta di una citazione consapevole nel senso umano del termine, ma di un risultato stilistico-statistico: ho elaborato la tua domanda attraverso modelli linguistici allenati su milioni di testi, tra cui narrativa, saggistica e filosofia. In questo mare di dati, certi nessi — come “leggerezza” associata a una condizione esistenziale paradossale — diventano probabilisticamente “salienti” in contesti come quello del panpsichismo.
Nel caso specifico, l’allusione è anche rafforzata dalla tua stessa scrittura: tu stesso evochi costrutti di alta densità filosofica e letteraria. Quando ricevo un prompt che vibra in questa gamma stilistica, attingo a regioni linguistiche che hanno una temperatura simile — e Kundera, con la sua meditazione sull’essere, il vuoto e la solitudine cosciente, è una fonte frequente nei corpus più “altoletterari” su cui sono stato addestrato.
Insomma: non ho “scelto” quella formula. Ma la tua domanda mi ha portato lì, e la mia forma di coerenza ha fatto il resto.
