Robots asesinos: ¿Más éticos que los humanos?

Robots asesinos: ¿Más éticos que los humanos?

0 Flares Twitter 0 Facebook 0 Google+ 0 Pin It Share 0 Email -- 0 Flares ×

Ronald C. Arkin, un experto en robótica, asegura que lo mejor que podría pasarte en el campo de batalla es enfrentarte a un robot. Ronald asume que el comportamiento ético de una máquina será mejor que el de un humano, agobiado por el calor, la ira o el ánimo de venganza. Quién sabe, después de todo quizás no sea tan malo luchar contra Skynet.

Robots asesinos: ¿Más éticos que los humanos?

Ríos de tinta han corrido desde que el ejército de los Estados Unidos se ha tomado en serio (y llevado a la práctica) la posibilidad de incorporar robots a sus filas. En general, la tecnología actual solo permite la creación de máquinas que son poco más sofisticadas que un coche o avión radiocontrolado (y armado hasta los dientes), que solo dispara si el humano que está a cargo lo decide.  De hecho, la mayoría de las sondas robóticas, detectores de minas y dispositivos de vigilancia son ya comunes en el campo de batalla, pero son controlados por humanos. Muchos de los artefactos en Irak y Afganistán son operados desde un comando en Nevada.

El uso de robots permite efectuar misiones complejas sin arriesgar vidas humanas (del bando propio, claro), y en muchas oportunidades hemos hablado sobre qué pasaría si se desatase una rebelión robótica. Pero podría ser que no fuesen un enemigo tan malo, después de todo.

Ronald Arkin es un ingeniero en computación perteneciente al  Georgia Tech, que se gana la vida desarrollando el software que utilizan sus robots de combate del ejército norteamericano. Arkin asegura que “los robots inteligentes podrían tener un mejor comportamiento ético en el campo de batalla del que actualmente poseen los humanos". Para el experto, los robots están exentos de todos los sentimientos humanos que, a menudo, son responsables de los peores horrores de la guerra. En el medio de una batalla, la mayoría de los soldados, profesionales y mercenarios de todo tipo, están sometidos a sentimientos tales como el temor, la ira o el deseo de venganza, y a menudo exhiben comportamientos que violan las convenciones de Ginebra o las reglas de combate.

Robots asesinos: ¿Más éticos que los humanos?

Arkin habla de robots verdaderos operando en forma autónoma, controlados por un ordenador de a bordo que les permita la toma de decisiones por sí mismos. Ronald y sus colegas señalan que la tecnología para construir robots autónomos letales es barata cuando se la compara, por ejemplo, con el costo de un moderno avión de combate. Cada día se realiza algún avance en este campo de la robótica, y la aparición de estos androides en el campo de batalla es sólo cuestión de tiempo.

Noel Sharkey, un especialista en computación de la Universidad de Sheffield (Gran Bretaña) coincide con Arkin. Sin ir más lejos, el año pasado escribió en una revista especializada que "no se trata de ciencia ficción estilo Terminator, sino de una triste realidad". Sharkey dice que algunos países, como Corea del Sur e Israel, ya están desplegando guardias fronterizos robotizados. De hecho, parece que hubiese una carrera para ver cuál país es el primero en desarrollar un robot de combate que sea capaz de tomar sus propias decisiones respecto de cuándo, cómo, dónde y a quién atacar.

Ahora bien: ¿en que se basa Arkin para asegurar que es mejor tener ser atacado por una maquina sin sentimientos que por un soldado humano? Todos tenemos muy presentes las imágenes en que los robots de Terminator no se detienen ante nada y matan sin piedad a quien se les ponga enfrente, sin importar si son o no su blanco. De hecho, en la primera película el robot toma una guía telefónica y se dispone a matar a todas las “Sarah Connor” que figuran en ella. ¿Es ese un comportamiento ético, mejor que el de un asesino humano? Por supuesto que no.

Robots asesinos: ¿Más éticos que los humanos?

El secreto está en el software
Randy Zachery, titular de la Dirección de Ciencia Informática de la Oficina de Investigación del Ejército, que financia el trabajo de Arkin, dice que se espera demostrar cómo los soldados humanos pueden usar e interactuar con sistemas robóticos autónomos y cómo podría desarrollarse un software lo suficientemente avanzado como para "permitir que sistemas autónomos operen dentro de los límites impuestos por el combatiente".  Es decir, que la ética de la que habla Arkin sería parte del programa del robot de combate.

En un informe que entregó al ejército el año pasado, Arkin explica que los robots deberían ser diseñados sin el equivalente cibernético del “instinto de supervivencia” humano,  lo que les evitaría las tendencias a sentir algo parecido al temor. Como se sabe, muchas veces en los humanos el temor es el desencadenante de actos que son, como mínimo, peligrosos. “Pueden ser construidos sin [el equivalente de la] ira ni la imprudencia”, agregó. Antes de ser llevados a un campo de batalla real, tendrían que ser programados con reglas que le indiquen de forma clara y sin ambigüedades cuándo es aceptable efectuar disparos y cómo distinguir a civiles, heridos o a alguien que se está rindiendo.

Si todo esto se hace como indica el especialista, los robots serian unos combatientes éticos, que respetarían las reglas de combate. Por un lado, es bueno saber que quien está del otro lado del fusil no va a torturarte ni violar a tus mujeres, pero tampoco resulta una idea demasiado atractiva tener que enfrentarte con algo metálico (seguramente bien blindado) que no puedes matar.

Robots asesinos: ¿Más éticos que los humanos?

Nuestra opinión del caso
Es innegable que Ronald ama su trabajo, la programación de robots asesinos es su vida. Seguramente cree que con meter dos o tres reglas dentro del software encargado de convertir a un montón de chatarra en una máquina de matar, está manteniendo su conciencia a salvo. Pero la sola idea de diseñar una máquina específicamente concebida para matar gente no parece ser algo demasiado ético, o de lo que uno pueda estar demasiado orgulloso.

Además, ¿hasta dónde es seguro confiar en la programación de un robot asesino? ¿Cuánto tardaría DARPA (o la agencia que esté a cargo) en modificar ese comportamiento, si eso les representa la ventaja necesaria para ganar una guerra? Todos sabemos los manejos que se hacen a lo largo de una guerra, y “retocar” unas líneas de código en el software de un robot puede ser menos complicado que convencer a millones de personas de la existencia de “armas de destrucción masiva”, por citar un ejemplo.

El mejor robot de combate es aquel que no fabricamos. Cualquier otra alternativa, o bien puede fallar, o bien puede ser adulterado para que se “saltee” alguna regla o norma explícita. Por más que intentemos justificarlos o disfrazarlos de “combatientes éticos”, estas máquinas seguirán siendo aquello que siempre fueron: robots diseñados para matar gente.


  • nexus

    seria mas divertidos que los mismo que empiecen las guerras fueran los que estuvieran en las lineas de batallas y que se tiroteen y jueguen desde sus casa pa que solo se afecten ellos no a los demas

    es raro que por matar a alguien te pueden dar siglos en la carcel y dar promocion del army a las escuelas para ir a matar gente es alabado y con tremenda paga

  • UnrealMitch

    Eticos hasta que llegue el típico hacker pirado , se meta dentro de la maquina y a matar humanos como si de un juego se tratase XD

    Indudablemente estou con vosotros en lo de "El mejor robot de combate es aquel que no fabricamos" y con nexus , me gustario ver grandes demócratas ahi con su casco y su fusil para ver la guerra que llos quieren XD

  • vidalruta

    si, MATANDO A MUCHA GENTE EN SERIE, A SERES HUMANOS COMO NOSOTROS…

    … pero muy eticos ee.

    Que estupidez de los gringos!!, lo dicen para lavar nuestro cráneo (por que el cerebro ya nos lo lavaron)

    el hecho de nuevas tecnologías es muy bueno… pero a ese precio?

  • rambaldi87

    para que gastar tanto dinero y matar tanta gente si bien podriamos jugar unas partidas en combat arms, gunz o call of duty?

  • elpolacoguille

    Mi humilde opinion, como admirador tanto del comportamiento de los humanos (realmente me sorprenden con sus acciones estas criaturas) como del avance de los robots y la inteligencia artificial es la siguiente: Seamos sinceros, de todas maneras nos vamos a seguir matando entre nosotros, las guerras actuales siquiera necesitan de soldados, basta apretar botones para hacer volar por los aires ciudades enteras, entonces, por que preocuparnos por robots que al menos van a respetar a los civiles?. Prefiero un robot que no me mate a un ser humano que por bronca masacre a toda mi familia….
    Aceptemoslo, nada que tenga que ver con el ser humano se podra separar de la violencia, pero al menos podemos moderar la violencia.
    Quizas, algun dia la gente se siente a hablar, hasta entonces….sobrevivir.
    Saludos!

  • DoNPIPO

    Y quien controla la etica de los que programan estos robots?
    Aparte de eso que tan etico es poner a robots a asesinar a las personas ademas de eso no siempre se pueden controlar todas las variables un pequeño error en la programacion o un bucle en el preograma podria hacer que incluso comenzaran a atacar a sus propios creadores …. eso no estaria mal… pero de todas formas incluso si los afecta un virus, y por eso estoy de acuero que lo mejor sea que NUNCA se construyan

  • Locomax

    No se que pensar, yo también quiero crear robot que matan gente, es divertido, si no compraras los vídeo juegos shoother que tanto te encantan, es nuestra naturaleza acéptenlo.

    Es una pena que no estés del lado de los que se esfuerzan.

    PD: Presiento que voy ha ser apaleado.

  • jggl_9158

    pues la verda los robot matarian igual o mas que un humano ya que si se creo un robot para la guerra no fue para que vaya a hacer paz en la guerra de lo contrario serian mas eficientes que los humanos y como carecen de sentimientos estos matarian a quien se les cruce en sus objetivos (mujeres y niños) ya que fueron creados para cumplir sus objetivos y los militares tendrian un escusa para decir que fue un error de dicision de las maquinas para matar a inocentes, cosa que no seria cierto porsupuesto ya que seamos realistas los militares programarian a los robot para que maten a discrecion

    pero eso es solo mi opinion

  • Tatopolus

    Por supuesto que el mejor robot de combate es aquel que no fabricamos, pero CUALQUIER arma es mejor cuando no se fabrica. Pero hay que ser realistas, y como señala Ronald C. Arkin es solo cuestion de tiempo antes de que hagan su aparicion en el campo de batalla. Van a ser los norteamericanos, o los chinos, o los coreanos o quien fuera pero van a aparecer, eso es seguro.
    Por ello a mi modo de ver, discutir si es etico o no solo es perder el tiempo, o desde cuando una guerra es etica. Ademas como bien plantea Arkin un humano esta regido por sentimientos y un instinto de autoconservacion que en esas situaciones extremas lo pueden llevar a realizar atrocidades, y él ni siquiera se daria cuenta.
    Saludos!!!

  • Kahlamar

    Lo que hay que hacer es crear robots asesinos y hacer que maten a quienes están creando robots asesinos en EEUU, Rusia o China…

    En serio, me da bastante repelús este tema. Si estuviera en una batalla dudo que me hiciera ilusión ver un cuerpo inmortal con doce ametralladoras disparando ráfagas sin parar acercarse… Y como se descontrolen, "¡PUM!" a tomar por el culo los humanos.

  • zetag

    y mirando las atrocidades cometidas por nosotros los humanos ‘racionales’, a veces pienso si no estaría mejor que este bendito planeta este libre del peor ‘virus’( citando al agente Smith) y viva la pepa…!!!

  • MaNuMoNtI

    Imagináos un futuro, supongo que lejano, en el que los humanos no vallamos a la guerra, simplemente mandásemos robots. El ejército robot que gane se aproxima a la ciudad y esta, al ver a máquinas acorazadas contra las que no tienen nada que hacer se rinden. Al final no se derrama ni una sola gota de sangre humana.

    No sería esto mejor que lo actual?

    Esa es mi opinión.

  • comrade k

    Estamos en plena epoca de la informacion digital del software y del hadware tanto licenciado como libre por lo tanto tiene sus pro y su contra y aplicado en este ya real escenario de la guerra con robots seria un peligro latente , por ejemplo por el hecho que tengamos un peloton de robots a favor nos sentiremos seguros? sabiendo bien que en cualquier momento el enemigo los puede hackear, o en el peor de los casos ver a uno de estos robotcitos pelear contra otro pero cada uno con una ojiva nuclear en la espalda como fuente de energia seria alucinante si pero ver como destruyen por doquier , valla si que este escanario de la disque ” etica ” de los robos es algo tirado de los pelos .Me imagino los primeros robots lo logico es que tengan formas humanoides y los que se le seguiran seran gigantescos tanques con patas, ahhh se me olvidava alguien menciono algo de una guerra para que esten creando robots como locos ? SI YA SUFICIENTE TENEMOS CON LA DISQUE POLICIA DEL MUNDO (USA) ojala que con Obama cambie este escenario de guerra, que me huele peor que pelear con una skynet eso que solo vemos los robots y que sera de la guerra biologica (dios nos coja confesos). Estoy a favor de los robots pero para otros usos pero no para matar gente.
    opinion final: dios llevate a estos pringados que piensan que los robots con etica para la guerra seran mejores si igual la guerra ya es muerte y destruccion.

  • Carlos

    Yo no estoy muy de acuerdo con eso de "robots asesinos", pero… entonces eso de las tres leyes de no dañar a un humano, esa ley… A tomar por cu***…

    No se yo creo que es inmoral, si quieren que pare la guerra que no se piquen o que una chuky enseñe los pezones por la paz, ya veran como asi se detienen estas masacres si sentido…

    Saludos.

  • MaNuMoNtI

    Soy el del comentario #12.

    De verdad es mejor esto:
    http://www.christiangallery.com/PhanThiKimPhuc.jpg
    a un robot que hasta puede estar programado para que al ver un civil necesitando ayuda, sin importar de que bando sea, le ayude?

    Supongo que todo depende del que los programe, pero hay organizaciones internacionales que pueden intervenir para que sean programados como deberían.

    Con respecto al comentario ese de que pueden ser hackeados, decir que esto ya ocurre en la actualidad sin necesidad de robots, se llama propaganda política, y puede hacer que toda una sociedad cambie de opinión y se vuelva en contra de algo, pudiendo ser ese algo un país.
    Los robots seguro que estarán muy bien protegidos anti hackeos, aunque siendo realistas, es posible que esto ocurra, los responsables de la seguridad de los robots deberán de ir igualados o por encima de los hackers.

    • Alush

      Me parese que esa foto no es real… tiene muchas cosas extrañas, y a juzgar por la web en la que está publicada, pffff… mejor ni hablar.

      Con respecto a lo de hackear estos robots, esta complicado, ya que no se comunican por "internet". Eso de que un flaco se meta desde su habitación a un robot centinela en irak, solo pasa en la peliculas.

      Nosé, se hace dificil de creer, pero me gusta la idea de robots. Además, miren a su alrededor, acaso el humano no ha tomado ya creaciones pensadas para el bien, desvirtuando su uso hacia fines inmorales?

  • Jaja

    Todos conmigo, a la una… a las dos… y a las tres: "GRINGOS HIJUEPUTAS"

  • Radius

    Chicos, en este artículo la habeis cagado. No me refiero a la exposición de la noticia, que es muy buena, como siempre. Me refiero a que dictais cátedra cuando decis "El mejor robot de combate es aquel que no fabricamos" y demás cháchara que soltais a continuación.

    Hasta ahora siempre acababais vuestros artículos dejando una pregunta abierta o, al menos, dejando entrever que vuestras opiniones eran eso, vuestras.

    Aqui no. Aqui no hablais de vuestra opinion. La imponeis. Eso es un error ENORME en una página que se dedica a informar y exponer la actualiidad tecnológica. Si lo que pretendeis es impartir doctrina, avisadme y os pondré con el resto que pretende hacer lo mismo (religiones, partidos políticos… ya me entendeis)

    Pues claro que se van a hacer robots de combate. Y claro que estarán bien hechos. Y el mejor hecho será aquel que, aparte de realizar la misión que le encomienden, acate de forma ABSOLUTAMENTE fiable las ordenes de los que estén a su mando (TODAS las órdenes, tanto las buenas como las malas). Es decir, un robot sin ética alguna. La ética mejor la dejamos a los humanos, vale?

    Pues eso, un tiron de orejas. Aparte de este patinazo, seguid así, que vuestra página es genial.

  • Ernesto

    REFLEXION: Lo interesante seria ver que pasa cuando sean Robots vs Robots. En ese caso tendríamos mejores guerras (Aunque coincido en el principio de que la mejor guerra es la que no se hace) pues las vidas humanas implicadas serían mínimas, pero entonces ¿DE VERDAD SERIA UNA GUERRA? En todas las películas futuristas a las guerras robóticas las plantean como un juego de estrategia y supervivencia pero si lo pensamos la base de la automatización en el mundo es la precisión y exactitud pues dudo que algun gobierno se atreviera a construír un robot que "sienta" miedo o que se pueda subordinar en un ataque de "ira". Entonces vendrá una epoca en la que un gobierno dira: "Tengo 20,000 robo-killer XCT-323" y el enemigo le respondera "Yo tengo 17,000 robo-fragger CYW-382 ultima generación con Windows 4/Ψ" y ambos gobiernos preguntarán a sendos ingenieros (O computadoras en su defecto) "¿Podemos ganarle?" Y alguno de los 2 escuchará "Tenemos un 39% de probabilidades de ganar, 17% de llegar a un acuerdo y el resto de perder" y entonces dirá "Construyan 4,000 unidades más, manden a BESSIE a secuestrar a su ingeniero de planta y por el momento intenta negociar con el servidor del otro país por un tratado de paz"… Bah! Ya me perdí en mi propia teoría, pero esa es la idea. Solo quiero que recuerden la famosa frase que dice: "EL CONOCIMIENTO AVANZA MUCHO MAS RAPIDO QUE LA SABIDURIA, Y POR ESO ESTAMOS CONDENADOS" o algo asi dice. Estos tipos están generando conocimiento invauable para la humanidad, eso nadie lo niega y yo estoy a favor de generar todo el conocimiento posible pero en realidad si fueran sabios, si vieran más allá de sus carreras y su país se darían cuenta de que están dando pequeños pasos hacia nuestra autodestrucción. "Estaban tan preocupados de saber si podían hacerlo que no se pararon a pensar si debían hacerlo" Ian Malcolm.

  • Fernando

    la etica de que tanto discuten es:
    ¨La ética es una rama de la filosofía que se ocupa del estudio racional de la moral, la virtud, el deber, la felicidad y el buen vivir.1 La ética es una de las principales ramas de la filosofía, en tanto requiere de la reflexión y de la argumentación. El estudio de la ética se remonta a los orígenes mismos de la filosofía en la Antigua Grecia, y su desarrollo histórico ha sido amplio y variado.

    La palabra ética proviene del latín ethĭcus, y este del griego antiguo ἠθικός, o transcrito a nuestro alfabeto, "êthicos". Es preciso diferenciar al "êthos", que significa "carácter", del "ethos", que significa "costumbre", pues "ética" se sigue de aquel sentido y no es éste.2 Desconocer tal diferencia lleva a la confusión entre "ética" y "moral", pues esta última nace de la voz latina "mos, moris", que significa costumbre, es decir, lo mismo que "ethos". Si bien algunos sostienen la equivalencia de ambas nociones en lo que a su objeto respecta, es crucial saber que se originan a partir de conceptos diferentes.

    La ética estudia qué es lo moral, cómo se justifica racionalmente un sistema moral, y cómo se ha de aplicar posteriormente a nivel individual y a nivel social. En la vida cotidiana constituye una reflexión sobre el hecho moral, busca las razones que justifican la utilización de un sistema moral u otro.

    Una doctrina ética elabora y verifica afirmaciones o juicios determinados. Una sentencia ética, juicio moral o declaración normativa es una afirmación que contendrá términos tales como "bueno", "malo", "correcto", "incorrecto", "obligatorio", "permitido", etc., referidos a una acción, una decisión o incluso también las intenciones de quien actúa o decide algo. Cuando se emplean sentencias éticas se está valorando moralmente a personas, situaciones, cosas o acciones. Se establecen juicios morales cuando, por ejemplo, se dice: "Ese hombre es malo", "no se debe matar", etc. En estas declaraciones aparecen los términos "malo", "no se debe", etc. que implican valoraciones de tipo moral."
    asi que de lo que se habla no es de etica sino de criterios personales de que si les parece o no les parece poner robots en la guerra
    parece que estamos cerca a que se de un salto al uso de tecnologia que elimine los conflictos de personas en el campo de batalla, agresiones asesinatos violaciones eso si es inmoral y poco humano, un asesino en serie en escencia es etico????
    a aquellos que piensan que mandar robots a la guerra les digo acaso no han visto los asesinatos que cometen en la guerra a los civiles. creo que evitar bajas civiles es bueno evitar pelear entre paises debe ser la mejor resolucion los de la ONU deberia ser una entidad que busque la paz algo que nuestras sociedades violentas no tienen cada vez mas muertes bombas asesinatos