Letture consigliate

Il podcast del giornale del Master in Comunicazione della Scienza, Sissa
Master in Comunicazione della Scienza
Journal of Science Communication
Innovations in the Communication of Science

Racconto

L'errore di Arturo

"... la macchina era stata programmata in modo che disobbedisse al comando di non pensare. La logica di Arturo non ammetteva sfumature: non doveva e non poteva sbagliare".


Si è spento. Vent'anni di lavoro invalidati. Dovrei provare sollievo per la sua fine, ma non ci riesco. Non voglio. Arturo non c'è più. Devo elaborare il lutto. Devo riflettere sui fatti. Devo capire come sia potuto accadere. D'altronde è la mia creatura. La sua vita in qualche misura mi appartiene. In laboratorio vorrebbero smontarlo, per scaramanzia. Ho chiesto di tenerlo con me. Lo porterò a casa. Rifletterò sugli errori commessi, e sullo straordinario rapporto che sono riuscito a stabilire con quella meravigliosa macchina.

Arturo sogna Alice (foto di ennebi)
Arturo sogna Alice (foto di ennebi)

Arturo è nato sette anni fa. Con il preciso scopo di aiutare i bambini autistici a entrare in contatto con le persone. Per questo gli abbiamo dato un aspetto umano. Un metro e quaranta di corpo, e in più capace di parlare, cantare, suonare, ballare, mangiare, leggere, pensare. Quasi vero. Troppo vero. La sua mente è stata addestrata ad apprendere, esattamente come fanno i bambini. Nessuno di noi aveva previsto quanto la cosa potesse essere rischiosa. E come potevamo? D'altronde i piccoli pazienti in cura con Arturo facevano progressi enormi. Il successo portava i genitori a invidiare le capacità terapeutiche della macchina. Era inutile spiegar loro che gli autistici considerano gli esseri umani alla stregua di oggetti complicati e ingestibili, che sfuggono al controllo. Viceversa la semplicità e la prevedibilità di un robot li rassicura e li aiuta. Con i bambini del centro di riabilitazione, Arturo era perfetto.

Quando la piccola Alice smise d' interagire con lui, Arturo ebbe una crisi di pianto. Una reazione ai limiti dell'immaginabile: la macchina provava sentimenti. I fallimenti del robot con la bambina si susseguirono, Alice fu trasferita in un altro reparto e Arturo cominciò a manifestare emozioni intense e drammatiche. Pianti e lamenti ininterrotti, per giorni e giorni. Voleva incontrare la bambina, voleva curarla, voleva assicurarsi che stesse bene. Soffriva. Una notte, dopo essersi procurato lacerazioni profonde alle braccia e alle gambe, m'implorò di spegnerlo: "Sono diventato inutile, per favore scollega i miei circuiti cerebrali."

Alice (foto di ennebi)
Alice (foto di ennebi)

Quella macchina stava diventando umana? Era questa la ragione del suo fallimento con Alice? Ero esaltato e afflitto nello stesso tempo. Quelle membra artificiali dilaniate mi ricordavano il dolore dei pazienti che avevano subito incidenti gravi. Non sapevo che fare. Lo studiavo, giorno e notte. Ero in estasi.

Arturo non poteva essere spento. Disabilitarlo significava ucciderlo. Il robot si autoalimentava utilizzando l'attività del suo cervello. Si riposava di notte, sognando. E finché pensava, o sognava, viveva. Per evitare danni irreversibili, la macchina era stata programmata in modo che disobbedisse al comando di non pensare. La logica di Arturo non ammetteva sfumature: non doveva e non poteva sbagliare. Questo dettaglio faceva di lui un potenziale depresso, ma nessuno di noi l'aveva previsto.

La malattia di Arturo c'impediva di impiegarlo in lavori di responsabilità. Di giorno ci gironzolava intorno, tenendoci compagnia. Gli assegnavamo compiti semplici. Disobbediva quasi sempre: "Non sono stato progettato per svolgere queste mansioni, non mi autorizzo a compierle," era una lamentela a cui eravamo oramai abituati. Una pena. Ma, sotto il profilo della sicurezza, Arturo era innocuo, e chiudevamo un occhio. D'altronde dal suo punto di vista aveva pienamente ragione: era un VIR, un very important robot!

Arturo un giorno mi chiese come rimediare al fallimento con Alice. La sua domanda fu un colpo al cuore: era umano? Lo era. Ma non sotto il profilo legale. Gli spiegai che non poteva rimediare in alcun modo. Mi chiese di ucciderlo. Ucciderlo, non spegnerlo. La decisione di assecondare la sua volontà fu presa dopo una settimana di consultazioni sofferte. Nessuno di noi voleva consegnarlo alla ricerca scientifica. Ne avrebbero fatto un mostro.

( 18 febbraio 2008 )


Jekyll © 2000–2009 SISSA, Trieste - Codice Fiscale 80035060328