Selecciona Edició
Connecta’t
Toby Walsh | Promotor del manifest contra els robots assassins

“En 50 anys podríem tenir un Terminator. Cal aturar-ho ara”

Els experts en intel·ligència artificial adverteixen dels perills dels robots armats i demanen a l'ONU que els prohibeixi

L'investigador del NICTA Toby Walsh.
L'investigador del NICTA Toby Walsh.

Els experts en intel·ligència artificial estan espantats per la possibilitat que els seus avenços acabin com les investigacions que van portar a la bomba nuclear. Toby Walsh, investigador estrella del centre d'elit australià NICTA, és el principal promotor de la carta que, liderada per Stephen Hawking, exigeix la prohibició dels robots assassins. El text ja ha aconseguit més de 17.000 signatures de científics, entre els quals 2.500 especialistes en robòtica, i ha monopolitzat l'atenció al congrés més important del món sobre intel·ligència artificial, que aquest any s'ha celebrat a Buenos Aires. "Tenim darrere moltes organitzacions i sobretot el món científic. Això és imparable", explica Walsh en un recés del congrés. "L'objectiu és aconseguir que l'ONU faci una prohibició expressa dels robots assassins. Això compporta temps, però ho aconseguirem. És evident que una organització terrorista no farà cas de l'ONU, però sí les empreses d'armament. Per exemple, s'ha aconseguit vetar els làsers per encegar presoners. I ja no es fabriquen. Vostè no els veurà ni tan sols a Síria. A una empresa d'armament no li interessa anar contra l'ONU, perdria els seus millors clients".

Els robots assassins caurien ràpidament

en mans de terroristes

Walsh sosté que la carrera ja ha començat. "Sabem que els EUA estan treballant en projectes de robots assassins. I és presumible que uns altres estiguin en aquesta carrera per no quedar-se enrere. No sabem el que fan altres països més opacs com la Xina, però li dono una dada: per primera vegada en la història, aquest congrés, el més important del món, té més projectes xinesos –no militars que els EUA. Estan molt avançats en intel·ligència artificial", explica.

Per als països són una temptació molt forta, però els que coneixen bé la tecnologia, com Walsh, i que accessible que podria ser, es mobilitzen per frenar-los. "Són molt més barats i eficaços que un soldat, no necessiten dormir ni menjar, no pateixen el fred ni la calor, i els podem fer tan petits que es poden ficar en qualsevol banda". La carta no va contra els drons, perquè al final de la cadena hi ha un ésser humà que pren la decisió de disparar o no. Però sí contra les armes autònomes. "En un món ideal, deixaríem que els robots d'un bàndol i l'altre es matessin en un desert i els contendents acceptarien el resultat. Com una competició esportiva. I evitaríem morts humanes. Però el món no és així. Els robots no trigarien a caure en mans de l'ISIS o qualsevol altre i servirien per aterrir la població, per fer neteges ètniques, per a qualsevol tipus d'horror", adverteix Walsh.

La Xina està molt avançada en intel·ligència artificial, per primera vegada en aquest congrés són líders

La ciència-ficció no està tan lluny, encara que no sigui exactament com la va imaginar Hollywood. "La gent pensa en Terminator, però no fa falta arribar aquí. Robots molt menys sofisticats, amb un explosiu, una arma o un verí, poden ser molt més nocius. I es poden fabricar ja. En aquest congrés, si vostè pregunta, la majoria li dirà que en uns 50 anys podríem tenir un Terminator. Per això cal aturar-ho ara. Poden ser comparables a la bomba atòmica, amb un problema afegit: per a la bomba necessites urani enriquit, no és gens fàcil, es pot controlar. Un robot assassí és molt més senzill de programar, una vegada que s'inventi, només necessites un bon hacker que sàpiga fer el programari o robar-lo", s'inquieta Walsh.

El més cridaner és que són precisament els especialistes en intel·ligència artificial els que volen posar alguns límits. "Nosaltres som els més interessats que la intel·ligència artificial s'utilitzi bé. Per això, perquè en coneixem les enormes possibilitats per facilitar la vida a la gent, volem prohibir els robots assassins que prenen decisions de manera autònoma. Sabem com programar-los perquè matin, però no sabem com introduir l'ètica en un robot. Aquesta és una tasca immensa, que no podem abordar només els científics", assegura el professor australià.

No sabem com introduir l'ètica en un robot

No només els robots assassins generen preguntes difícils. "Hi ha moltes decisions ètiques que cal prendre en els pròxims anys. Per exemple, els cotxes que condueixen sols. Hauran de prendre decisions de vida o mort, per exemple si els ve un cotxe contra direcció. Hauran de decidir qui mor. Però alhora estem comprovant que condueixen molt millor, no tenen accidents. Jo crec que els nostres fills no conduiran, arribarà un moment en què la gent dirà que és una qüestió massa delicada per deixar-ho en mans de persones inexpertes. Però cal prendre la decisió de deixar a les màquines que triïn per si soles", explica Walsh.

En qualsevol cas, l'expert australià i els seus col·legues seguiran investigant per avançar en el desenvolupament de la intel·ligència artificial. "No podem desinventar les coses que ja hem inventat. Hem d'anar cap endavant. La tecnologia ha afavorit l'enorme benestar que tenim. El canvi que arriba amb la intel·ligència artificial és semblant al de la revolució industrial. La gent va deixar l'agricultura per la indústria, el camp per la ciutat. Ara, els robots estan destruint milers de llocs de treball. I anirà a més. Però es crearan noves feines. I aquí la clau és l'educació. Una persona amb molta formació és molt més difícil de reemplaçar per un robot que només compleix tasques mecàniques", resumeix.