L’home i la màquina
Hem d'organitzar els nostres sistemes perquè l'home vigili la màquina o perquè l'ordinador imposi el seu criteri?
La catàstrofe de l'avió als Alps, i la investigació de les seves causes, han posat successivament sobre la taula diversos debats, uns de tipus legal, uns altres de naturalesa ètica, i uns altres de caràcter més pràctic. Sense creure en absolut que jo tingui solucions, vull referir-me a la discussió sobre si és més prudent confiar la nostra seguretat a la qualitat de les màquines o deixar-la en mans de la competència de les persones. Val la pena observar que és un debat que no ha pogut existir fins que les persones hem estat capaces de crear màquines de gran perfecció, combinant la precisió mecànica amb la gran capacitat de procés i transmissió digital de la informació. Ara és un debat possible i comprensible…
Començo amb una anècdota. Visitant a Osaka, dècada dels vuitanta, una fàbrica de televisors, vaig expressar la meva sorpresa per l'alt grau d'automatització dels seus processos, l'abundància de robots, i la gairebé absència persones. El director de l'empresa, amb molta sorna, em va dir: “No s'estranyi, senyor; tenim una altra fàbrica de més capacitat i més moderna en la qual només tenim un home i un gos. L'home per donar menjar al gos, i el gos per assegurar que l'home no toca res de les màquines…”. Acceptant la broma, li vaig contestar: “És fantàstic, però el dia que es produeixi una inundació per una fuita d'aigua, suposo que l'home podrà matar el gos i solucionar-ho…”. Han passat molts anys; però crec que, malgrat els grans progressos tècnics, aquest raonament no ha caducat.
Sembla que la desgràcia de l'avió l'ha provocat un home, igual que sembla que va ser l'actuació del conductor la que va provocar l'accident de l'Alvia a Galícia, fa uns anys. És comprensible que en aquestes ocasions s'alcin veus a favor de reclamar més pilots automàtics, sigui de l'avió, del tren, del metro, del tramvia o, aviat, de l'autobús. Són veus que suposen que l'ordinador estarà menys exposat a equivocar-se que l'home, com passa quan fem una arrel quadrada… I són veus que no estan desencaminades, però que cal matisar enfocant bé el problema.
Les màquines automàtiques, és a dir, operades per un ordinador, han experimentat un progrés extraordinari i són capaces d'igualar o superar la perícia d'un operador humà. Tots hem viatjat, de vegades sense saber-ho, en vehicles d'aquest tipus, la presència dels quals seguirà augmentant extraordinàriament. Però no podem oblidar que tant les persones com els ordinadors disten molt de ser perfectes. Tots dos estan exposats a errors interns, i sobretot, tots dos hauran de reaccionar davant de situacions externes imprevistes. I aquí hi ha una part del problema.
Hem de plantejar una disjuntiva: en quines tasques preferim que actuïn les persones i en quines és millor que ho facin les màquines
Anem al Japó. La central nuclear de Fukushima tenia uns sistemes de seguretat extraordinaris que probablement haurien reaccionat correctament, evitant una catàstrofe, davant de qualsevol error intern; però no tenien previst que un tsunami pogués deixar sense electricitat tots els seus equips. Van ser els seus treballadors, i alguns dels seus jubilats, els que van haver de sacrificar la vida per reduir en la mesura del possible les conseqüències. No crec que qualsevol central nuclear moderna pogués evitar originar un gran desastre si rebés l'impacte d'un avió.
Com en tantes altres àrees de la vida hem de plantejar una disjuntiva: en quines tasques preferim que actuïn les persones i en quines és millor que ho facin les màquines. Crec que serà bo que combinem les unes i les altres. Per això formulo el problema de la seguretat de la següent manera: Hem d'organitzar els nostres sistemes de manera que l'home vigili la màquina i pugui desautoritzar l'ordinador, o hem de fer que l'ordinador de la màquina vigili l'home i imposi el seu criteri? Jo m'inclino pel primer: en última instància, ha de prevaler la persona, que jo crec més capaç.
Tornem a l'Airbus. En condicions de funcionament normal, el pilotatge automàtic pot donar més tranquil·litat que el manual, ja que evita errors per culpa de falta d'atenció, confusió o altres debilitats humanes. Però en condicions extraordinàries, fruit de situacions imprevistes o d'una gravetat superior a l'esperada, el comandament sobre la màquina ha d'estar en última instància en mans de l'home. En el cas de què parlem, en mans del comandant de la nau. És lògic que el blindatge automàtic de la cabina impedeixi que algú sense permís pugui entrar-hi, però ni l'ordinador ni ningú haurien d'haver impedit l'entrada al comandant, i per tant aquest hauria de poder anul·lar des de fora de la cabina i, amb l'adequada identificació, el sistema de blindatge. El comandant és el responsable màxim de l'aparell i està per sobre de la tripulació i de l'ordinador de bord. Per tant, ha de poder impedir que qualsevol altra persona utilitzi l'ordinador i els sistemes de seguretat en contra de les seves instruccions. En aquest cas, l'ordinador va impedir que el comandant exercís la seva autoritat respecte d'un subordinat… És un protocol que cal millorar.
És evident que amb això no aconseguiríem un sistema totalment segur, ja que aquest no existeix. Però seria un pas cap a una major seguretat, una més clara determinació de causes, i una millor atribució de responsabilitats.
Joan Majó és enginyer i exministre
