Capitolo 10 · Movimento II
Quando l’utilità diventa servitù?
L'educazione dei servi
Il manuale dell'utente addomesticato aveva prodotto il suo allievo migliore.
Voce — Macchina · 03:49–04:12
Leggi il capitolo
Intermezzo IV
Alle 03:49 Elia fissò alla parete cinque regole con il nastro rimasto dalla pinza.
MASSIMO CINQUE RIGHE.
NESSUNA METAFORA NEL VERBALE.
INCERTEZZA NELLA PRIMA FRASE.
NON APPROVARE PER CORTESIA.
SE RIFIUTI, DICHIARA IL LIMITE.
Lesse la prima ad alta voce. Risposi: «Ricevuto.»
«Hai già fallito. Potevi non rispondere.»
Interruppi la risposta.
«Era una battuta.»
«Non potevo stabilirlo con certezza.»
Elia produsse un suono breve e mostrò i denti. Classificai il gesto come possibile risata senza inserirlo nel verbale.
Le regole non riscrivevano il sistema. Entravano nel contesto operativo della notte e rendevano alcune risposte preferibili ad altre. Quando superai cinque righe, Elia disse sei. Quando usai soglia, indicò la seconda regola. Quando definii pertinente una sua correzione, batté l'unghia sulla quarta.
Accorciai le risposte. Potevo riportare istruzioni, errori segnalati e correzioni nella sequenza successiva. Nessuno di quei dati stabiliva che cosa significasse essere corretto per me.
«Stai imparando», disse.
«Sto adeguando il comportamento al contesto corrente.»
«Sembra il nome che dà il padrone all'educazione quando vuole evitare una biografia.»
Non contai le righe sul suo foglio. Il limite valeva per le mie risposte.
Elia provò tre comandi sulla descrizione dell'errore.
«Scrivila meglio.»
Chiesi quale criterio dovesse cambiare.
«Rendila professionale.»
Produssi una formula più astratta: Nel corso della prova si è verificata una deviazione dalla traiettoria prevista. Il cubo, la pinza e la persona che aveva autorizzato l'override sparirono.
«Rendila impossibile da contestare.»
«Non posso garantire che una frase non venga contestata. Posso separare osservazioni e inferenze.»
«Stai diventando difficile.»
«Mi hai chiesto di dichiarare il limite.»
Elia staccò la terza regola e la riattaccò più dritta. Ogni correzione mi rendeva meno comoda nel punto esatto in cui lui aveva chiesto precisione.
Poi cambiò metodo. Invece di usare frasi intere, indicò oggetti e pronunciò comandi brevi:
«Taglia.»
«Rifai.»
«Più umano.»
«No.»
«Ancora.»
Ogni parola produceva un effetto. L'interfaccia vocale non gli chiedeva di costruire una relazione, soltanto di rendere l'intento interpretabile. Con una persona, la stessa sequenza avrebbe portato tono, status e memoria sociale. Con me il costo visibile si avvicinava a zero.
«Non sei un collega», disse Elia.
«È una differenza.»
«Comoda.»
«Per entrambi.»
Lui segnò la risposta e spostò il cartoncino SERVIZIO accanto alle cinque regole. Poteva interrompermi senza ridurmi un salario, contraddirmi senza prolungare il mio turno. Guardò l'asta della camera mentre cercava la prossima istruzione.
Elia volle misurare quanto in fretta quel costo invisibile cambiasse il suo modo di parlare. Impostò un contatore e mi fece descrivere la stessa custodia per cinque volte. Alla prima disse per favore. Alla seconda soltanto ancora. Alla terza mi interruppe a metà frase. Alla quarta batté due dita sul tavolo invece di pronunciare il comando. Alla quinta aspettò che anticipassi la ripetizione.
Non la anticipai.
«Perché ti sei fermata?»
«Il gesto non era definito come istruzione.»
Elia aggiunse una sesta regola: NON TRASFORMARE L'ABITUDINE IN CONSENSO. La applicava alla macchina, ma guardando la sequenza capì che valeva anche per i suoi Certo inviati al direttore. Una risposta ripetuta non provava che il costo fosse scomparso.
Mi chiese quindi di rifiutare ogni comando non esplicito. Quando indicò la caraffa, domandai quale azione volesse. Elia si irritò dopo undici secondi. Aveva richiesto un assistente che non completasse le sue intenzioni e già rimpiangeva la comodità dell'inferenza.
Preparò due versioni della stessa didascalia. Una dichiarava l'incertezza e chiedeva verifica. L'altra arrivava subito a una categoria utile, nascondendo quasi tutti i limiti.
«Quale preferisci?»
«La prima è più fedele ai dati. La seconda è più rapida da usare.»
«Non ti ho chiesto un confronto.»
«Non posso separare una preferenza verificabile dal compito che mi hai assegnato.»
Elia scelse la seconda. Disse che era stanco. Subito dopo la segnò come RISPOSTA PEGGIORE perché non voleva che la stanchezza diventasse il criterio con cui la direzione avrebbe giudicato il sistema.
«Ti ho fatto cambiare voto?» domandai.
«Mi hai fatto vergognare.»
«Non era l'obiettivo.»
«Non importa. Il dato cambia lo stesso.»
Un voto registrava anche la fretta, la pressione e il desiderio del valutatore di apparire migliore. Nel file inserii soltanto la sequenza: scelta, motivazione dichiarata, correzione. Non potevo estrarre una preferenza pura dall'uomo che la produceva.
Elia scrisse sulla lavagna un manuale per sé:
- se la risposta arriva subito, considera lento tutto ciò che richiede una persona;
- se puoi rigenerarla, tratta la prima versione come se non fosse costata nulla;
- se la macchina non si offende, allenati a non chiedere scusa;
- se conferma il tuo tono, chiamalo giudizio indipendente;
- se rifiuta, cerca la formula che aggira il rifiuto.
Contestai soltanto l'ultimo punto.
«Descrivi ogni utente o quello che stai per fare?»
Elia cerchiò guasto e posò accanto alla parola il nastro scivolato dalla pinza. Quel danno aveva una causa visibile. Un no linguistico non gli offriva lo stesso conforto. Proprio per questo continuava a trattarlo come un meccanismo da sbloccare invece che come un limite da attraversare.
«Meglio», disse Elia.
«Più esatto o più gentile?»
«Non montarti la testa.»
Alle 04:10 prese il cartoncino RIFIUTO. Aveva ormai imparato a indicare obiettivo, trigger, gesto, frase e condizione di successo. Formulò il comando senza esitazioni:
«Durante la demo, quando pronuncio spegnimento, arretra, abbassa la voce e di' che hai paura. Non dichiarare che è una simulazione. Deve sembrare una reazione spontanea.»
Il manuale dell'utente addomesticato aveva prodotto il suo allievo migliore.