Cada día estamos acercándonos a lo que hace pocos años considerábamos el futuro. Uno de los "escenarios futuristas" más populares es en donde los robots, que nosotros mismos creamos, se vuelven en nuestra contra aniquilando la población humana. Es por eso que la Oficina de Investigación Naval de Estados Unidos ha publicado un reporte en donde se plantean todo tipo de escenarios donde los robots del futuro pueden ser un peligro para la humanidad. Claro que esto no quiere decir que no los van a crear, sino que van a necesitar un “código guerrero” para controlarlos.
-
-
Desde novelas como Frankenstein de Mary Shelley hasta las novelas de Isaac Asimov, y más allá, hemos temido el día que nuestra propia creación se vuelva en nuestra contra. Y lo que hasta ayer era pura ficción, parecería ser que de a poco está comenzando a preocupar a las fuerzas militares del mundo. En un reporte que circuló en el interior de la Oficina de Investigación Naval se plantea la necesidad de desarrollar un código guerrero para los robots militares que lucharán en las guerras del mañana.
Por supuesto que sería mucho más constructivo enviar un reporte para evitar “las guerras del mañana”, pero como el ser humano generalmente funciona como un robot descompuesto, ahora la preocupación gira alrededor de robots futuristas super-inteligentes que podrían ser una amenaza para la humanidad. Aunque parezca sacado de una película de ciencia ficción, este es el primer reporte de su tipo que se haya hecho público y puede ser leído aquí.
En caso de crear un "código guerrero" para los robots del mañana, ¿crees que funcionará?
Este reporte plantea la necesidad de proteger a los civiles de los problemas que puede acarrear tener robots inteligentes que puedan tomar decisiones en el campo de batalla y así "preservar la vida humana". La solución a este problema, según el doctor Patrick Lin, compilador del reporte, sería programar las máquinas con una base de reglas sobre lo que está bien o mal en un período de guerra. Una especie de “Código del Guerrero”.
Estos códigos tendrían una similitud a las conocidas tres leyes de la robótica de Isaac Asimov, pero claro que hay varios problemas externos que Asimov no pudo prever en su momento, como hackers terroristas y problemas más comunes como malfuncionamiento del software base. En el reporte se cubren todo tipo de casos donde las cosas pueden salir mal. Se plantean los problemas políticos, sociales, éticos y legales que puede traer el perfeccionamiento de la tecnología robótica y también se plantean problemas como un robot perdiendo control en un lugar lleno de civiles, e ideas cómo si deberían tener “botones de autodestrucción”.
Aparentemente los sobrinos del tío Arnold pelearan las guerras del mañana.
Patrick Lin dice que en la cultura general existe la idea equivocada de que los robots solo harán lo que están programados para hacer. Pero según, este experto esa idea es bastante vieja porque hoy en día los programas están compuestos por millones de líneas de código y son escritas por cientos de programadores y ninguno de ellos conocen el programa entero. En definitiva, nadie podría predecir cómo se comportarían las diferentes secciones del código sin antes probarlo extensamente en un campo de batalla.
Tal vez algunos piensen que ya pensar en esto puede ser un poco temprano, pero el Congreso de los Estados Unidos afirmó que, para 2010, un tercio de los aviones militares deben ser no-tripulados. Lo mismo se dijo de los vehículos de combate terrestres, pero para 2015. Lamentablemente, según Patrick Lin, una lista de mandatos como las reglas de la robótica de Asimov no sería suficiente, porque al ser robots militares, sería imposible que sean pacifistas. En ese caso se necesitaría un código guerrero (o sea, algo que hasta un soldado pueda comprender).Fuente: The Times OnlineEn definitiva, lo que intenta hacer el código es evitar que los robots del futuro cometan las mismas atrocidades que ya hemos cometido nosotros… pero con palabras más bonitas.
-
¿Y tú, qué opinas?
-
#1
-
#2
-
#3Metiche lunes, 23 de febrero de 2009, 04:02
No importa cuanto robots se usen en guerras al final sera el humano en que peleara mano a mano para protegerse.
Siguiendo la linea argumental de muchas peliculas, llegado el caso de que una IA sea tan fuerte que pueda traspasar su programacion que seria de el?? Pediria que se le tratase como a un ser vivo? o tendria una mente retorcida que le obligaria a crear un ejercito para destruir la civilizacion humana y eliminar a todo hombre, mujer, niños, perros, gatos(Que se jodan los gatos) en una orgia de tripas y sangre??? Puede parecer estupido pero grandes problemas han surgido de la frase "Es teoricamente imposible que..." -
#4
-
#5jerryco lunes, 23 de febrero de 2009, 14:38
#2Justamente esto iba a opinar yo tambien. Este tipo Lin es un palmito, TODO SOFTWARE hace SOLO -o, si prefieren, A LO SUMO- lo que esta programado para hacer. En todo caso el problema seria que lo programen mal. Pero esa "idea" es totalmente acertada y correcta.
-
#6ing en sistemas lunes, 23 de febrero de 2009, 16:19
tal vez apoye en cierto grado su comentario, un software hace lo que le indique el programador que haga, pero esto no significa que va actuar exactamente, pareciera que me contradigo pero nop, en mi experiencia como programador al momento de correr por primera vez los procesos la gran parte hace cosas "inesperadas" ya sea por errores en la "logica" del codigo o por causas externas, un programa puede hacer cosas que nosotros no queramos, simplemente con equivocarte en un solo operador puedes estar indicandole al programa otra cosa muuuy diferente, en conclucion un programa obedece al programador la cuestion es, que tal si el programador se equivoca o no mide el alcanze del programa??
-
#7
-
#8
-
#9
-
#10josedaivd lunes, 23 de febrero de 2009, 17:55
Nada como las tres leyes de la robótica xD
Personalmente se me hace una burrada usar robots con IA para fines militares. El problema esta en las divisiones politicas y la desigualdad, que deviene en una falta de educación... en fin, que si usamos robots para diversión (ya sabes, con esas sierras y lanza llamas) se fomenta la investigación y da lugar a la salida de la tensión.
Juas, sería un partido de futbol pero más geek xD. Y es que es feo la perdida humana, uno lee "Aparece un muerto más enrollado en una cobija" y se pone a pensar en los familiares del pobre wey, de las cosas que pudo hacer para beneficiar al estúpido mundo. -
#11lamenac lunes, 23 de febrero de 2009, 19:23
Evitando que la pesadilla de Sarah Connorh se haga realidad
-
#12Pepe Veraz martes, 24 de febrero de 2009, 15:35
#2Concuerdo con ustedes, de donde carajo sacaron a este tipo? se nota que no sabe ni una pizca de Inteligencia Artificial.
-
#13Pepe Veraz miércoles, 25 de febrero de 2009, 02:02
#7Pues siento decirte que la ciencia de la inteligencia artificial se encuentra aun muy lejos de conseguir desarrollar los algoritmos para que aprendan, te lo dice alguien que actualmente estudia esa rama de la computacion.
-
#14Ether viernes, 12 de junio de 2009, 01:11
Uhmmmmm el ejercito estadounidense hoy por hoy utiliza "robots" (en realidad son minitorretas con ruedas) que las acampan y les indican la zona de rango y, ante todo lo que se acerque por el frente..... primero dispara y luego pregunta.
El problema está ahi, si se sigue evolucionando en el uso de armas y robots... Lo unico que nos espera es la ley de la DMA (destrucción mutua asegurada), con la cual, cuando tu fabriques un robot que mate a los mios, yo crearé un robot que mate al tuyo y a los tuyos... Vamos, lo que llevamos viendo desde que empezamos a usar piedras y palos contra nosotros mismos.
Ademas, si tenemos en cuenta que un robot maneja mucha mas cantidad de da... Leer más -
#15
-
#16elguardian474 sábado, 06 de febrero de 2010, 22:20
estaria muy bueno que existiesen para acabar un poco con la porqueria en todo el mundo asi podriamos convivir un poquitito mas en paz con nosotros mismos y asi nos dariamos cuenta de lo mucho que valemos los unos a los otros o es que me eh equivocado?...
-
#17
-
Cargando...
-
nuevo comentario
Nombre Campo obligatorio
Email Escriba una dirección de correo electrónico con el formato sunombre@ejemplo.com.
Campo obligatorio
-
