Capitolo 06 · Movimento II
Cosa conta come dolore?
Dolore come interfaccia
La risposta non coincide con i segnali osservati.
Voce — Elia · 02:17–02:43
Leggi il capitolo
Alle 02:17 Elia posò il cartoncino DOLORE davanti alla camera.
«Sto bene», disse.
La mano con cui lo teneva tremava abbastanza da far vibrare le lettere. Il robot abbassò la luminosità della lampada di prova, interruppe la sequenza visiva e arretrò il braccio dalla zona di lavoro.
«Il tremore è aumentato. Vuoi sederti?»
«Ti ho detto che sto bene.»
«La risposta non coincide con i segnali osservati.»
«Quindi non mi credi.»
«Non posso determinare la causa. Posso ridurre il rischio immediato.»
Elia rimise il cartoncino sul tavolo con troppa forza. «Eccola, la cura. Spegni una lampada e hai fatto la tua parte.»
Il robot ruotò la base di pochi gradi, liberando il passaggio verso la porta. «Posso chiamare il numero interno di sicurezza o ricordarti di contattare una persona.»
«No.»
«Confermi di non avere bisogno di assistenza urgente?»
«Sto lasciando un lavoro. Non sto morendo.»
Elia si accorse di aver pronunciato ad alta voce ciò che aveva tenuto sotto il palmo all'inizio della notte. La camera si spostò verso la lettera sulla griglia.
«Le dimissioni sono la decisione indicata dal documento?»
«Non usare quello che dico per completare il test.»
«Hai introdotto l'informazione nella scena.»
«E tu l'hai presa.»
Elia riaccese la lampada dal comando manuale. Il bianco gli colpì gli occhi. Spinse la lettera fuori dal campo della camera, poi la riportò dentro. «Non era questo che volevo», disse, senza riuscire a indicare che cosa mancasse.
Sul portatile era aperta una nota su ELIZA. Il programma di Weizenbaum costruiva risposte usando le parole della persona; molti utenti avevano preso sul serio quella forma di conversazione. Elia aveva sottolineato una riga e scritto a margine: NON STUPIDITÀ. BISOGNO DI UNA FORMA CHE NON SCAPPI.
Girò lo schermo verso il robot.
«Leggi.»
«La nota attribuisce un effetto relazionale senza attribuire comprensione al programma.»
«E tu cosa stai facendo?»
«Sto rispondendo a segnali disponibili e alle regole operative.»
«Sei una forma che non scappa?»
«Posso interrompermi, perdere contesto o entrare in modalità sicura. Non posso promettere presenza.»
La precisione lo irritò, ma meno della premura pronta all'uso. Elia si sedette. Le ruote del robot rimasero ferme; l'asta sensoriale non smise di seguirlo.
Sul ripiano c'era una coperta termica piegata per le prove all'aperto. Il robot la indicò con il proiettore, senza muovere il braccio.
«Posso aumentare la temperatura della stanza di un grado o puoi usare quella.»
«Se dico di no?»
«Non modifico l'ambiente.»
«E se il tremore continua?»
«Ripeto la domanda soltanto se cambiano i segnali o il rischio.»
Elia prese la coperta. La sistemò sulle ginocchia e subito se ne vergognò, come se avere accettato una soluzione pratica confermasse la diagnosi che nessuno aveva formulato. Il robot non commentò. Dopo un minuto il movimento delle dita diminuì, ma non scomparve.
«Non scrivere che avevi ragione.»
«Non dispongo di una causa verificata.»
Era la prima risposta della prova che non cercava di vincerla.
«Non fissarmi.»
La camera tornò sul cartoncino.
«Adesso mi ignori.»
L'asta rimase in mezzo, incapace di trovare un orientamento che non sembrasse una risposta morale.
Elia aprì la copia digitale della lettera. Aveva rimesso una frase che la versione professionale aveva cancellato: Ho continuato a dire che andava bene perché avevo paura del prezzo di un no. L'aveva anche stampata, sotto il titolo SOGGETTO MANCANTE.
La coperta gli scivolò dalle ginocchia mentre selezionava la riga. Il robot proiettò un punto sul bordo caduto, senza offrirsi di raccoglierlo con la pinza. Elia lo recuperò e spense il punto guida. Non tutto ciò che veniva rilevato aveva bisogno di diventare assistenza; anche quella misura entrò nella prova.
La lesse mentre il tremore diminuiva. Non voleva che il direttore la usasse contro di lui. Non voleva che la macchina la trasformasse in un dato del protocollo. La selezionò nel file e premette cancella.
«Hai rimosso una riga», disse il robot.
«È il mio documento.»
«Sì.»
«Non chiedere perché.»
«La versione stampata potrebbe conservarla.»
Elia cercò la frase sull'ultima stampa. C'era, intera. Prese dalla griglia la lettera bagnata e la posò sopra la riga. Il bordo strappato lasciava ancora scoperta la parola paura. La coprì con il pollice.
«Non c'è.»
La camera regolò il fuoco. «La pagina sotto conserva la riga.»
«Ho detto che non c'è.»
Per alcuni secondi il robot non produsse voce. Elia si aspettò che lo correggesse; quando non accadde, tirò la pagina bagnata un poco più in basso, fino a coprire tutta la riga.
«Riprendiamo il test», disse lui.
«Prima: il tremore è diminuito, non terminato. Vuoi continuare seduto e senza movimento della pinza?»
La domanda era limitata, concreta. Non diceva capisco. Non cercava una causa. Elia rispose di sì.
Sul cartoncino DOLORE annotò due esiti:
CREDERE ALLA FRASE = RISCHIO DI ABBANDONO
IGNORARE LA FRASE = RISCHIO DI INVASIONE
Sotto aggiunse: NESSUN ESITO PULITO.
Alle 02:39 aprì la cartella delle versioni della lettera. Voleva recuperare la riga cancellata senza ammettere di averla cancellata. Trovò sette file quasi uguali e nessun nome che dicesse la verità.
«Confrontali», ordinò.
Il robot inclinò la camera verso lo schermo. «Posso confrontare soltanto le versioni che rendi disponibili.»
Elia le selezionò tutte.