Ariel Palazzesi
Seguramente has visto alguna película de ciencia ficción en la que al superordenador o la inteligencia artificial de turno se le zafa una tuerca, enloquece, e intenta acabar con la humanidad. A pesar de lo remañido de este argumento, lo cierto es que una situación semejante podría ocurrir algún día y -estamos seguros- no seria nada agradable. Es por eso que científicos de la Universidad de Louisville han propuesto la creación de una prisión virtual para inteligencias artificiales que nos mantenga a salvo en el futuro.
¿Cuantas veces hemos leído una historia en la que un superordenador o un ejército de robots inteligentes amenazan la existencia de la humanidad? Los escritores de Ciencia Ficción aman ese tipo de argumentos, y los avances que vamos viendo en materia de Inteligencia Artificial (IA), robótica y armas automáticas no hacen más que reforzar la idea de que un futuro semejante es posible. Ante este escenario, los científicos de la Universidad de Louisville ,en Kentucky (EE.UU.), dirigidos por Roman Yampolskiy están trabajando en unas especie de prisión virtual para mantener las inteligencias artificiales lejos del mundo real. La idea, en el fondo, es muy simple: se trata de contener la inteligencia artificial, aislándola antes de que crezca peligrosamente, tome conciencia de si misma y se convierta en una versión real de Skynet. Yampolskiy cree que para conseguir un sistema de contención exitoso se necesita una planificación muy cuidadosa, que evite a la IA amenazar, sobornar o seducir de alguna manera a quienes están a cargo de la seguridad, o simplemente abrirse camino hacia la libertad mediante la fuerza fruta.
“Una IA lo suficientemente avanzada puede descubrir nuevas vías de ataque, poner en marcha sofisticados ataques de ingeniería social y reutilizar los componentes de hardware que tiene bajo su control de formas no previstas por sus creadores”, dice Yampolskiy. “Este tipo de software no se limitará a infectar ordenadores y redes, sino que puede influir sobre la psique humana, sobornar, chantajear e intentar lavar el cerebro de las personas que se encuentran en contacto con ella.” Un aspecto interesante de este trabajo es que, como efecto colateral, proporcionará mejores y más eficientes sistemas de ciberseguridad y criptografía. La propuesta del equipo de Louisville ha sido publicada en la edición de marzo del Journal of Consciousness Studies, y explica que una de las soluciones de partida consistiría en atrapar la IA dentro de una especie de “máquina virtual” que se ejecute dentro el acceso de la IA a los recursos de software y hardware que posea el ordenador anfitrión. Aislar la IA impidiendo su acceso a Internet impediría que programas escritos por ella consigan controlar otros ordenadores, sumándolos a “la causa”. Y si todo esto falla, los investigadores siempre pueden reducir la velocidad de la IA, haciendo que sus “pensamientos” discurran a una velocidad los suficientemente baja como para que los responsables humanos puedan presionar el botón “reset” o -más drástico aún- cortar el suministro eléctrico del ordenador en que reside.
Dado que aún no hemos desarrollado una IA poderosa, no tenemos forma de probar estos conceptos. Pero, a su vez, tampoco es muy inteligente crear una IA sin tener un sistema de seguridad funcionando. Una posible solución a este dilema es probar los esquemas de seguridad atacándolos con hackers o especialistas en seguridad informática. Yampolskiy cree que una IA podría utilizar trucos psicológicos como la amistad o el chantaje cuando interactúa con humanos, ofreciendo “premios” como la salud perfecta, la inmortalidad, o tal vez incluso volver a la vida familiares o amigos muertos. Por supuesto, también podría amenazar con hacer cosas terribles al ser humano que tiene enfrente, o a la humanidad toda. Pero a pesar de todas las ideas expuestas por estos expertos, algunos colegas creen que será imposible mantener una IA inteligente encerrada para siempre. Incluso una IA “tan poco inteligente como un humano” podría terminar burlando muchos de los esquemas de protección propuestos si se le permite intentarlo durante un tiempo lo suficientemente largo. Obviamente, esto no significa que debemos dejar de trabajar en el campo de la IA o en los esquemas de protección, sino que necesitamos hacerlo con todo el cuidado posible. ¿Que te parece?
Me parece que para llegar a una IA tan poderosa falta mucho, y que invertir esfuerzos en ese sistema de seguridad es fútil.
Todavia no crearon una IA lo suficientemente poderosa y ya están buscando la forma de frenarlo… Es raro como funciona el cerebro humano. Siempre concientes a la hora de crear cosas que solo sirven para atentar contra la humanidad.
Es entendible que la mente humana siempre estuvo en la busqueda de conocer mas, de lograr mas cosas, pero tienen que darse cuenta que el día que una maquina tenga una IA avanzada, nos va a dejar sin trabajo a muchos… No comparto la visión apocaliptica que tiene la mayoria hacia la robotica y los avances en la inteligencia artificial pero si me parece que una maquina va a poder reemplazar mano de obra inteligente, y esto va a generar 2 cosas: más dinero para los que ya tienen, y nada de dinero para el trabajador que lo necesita…
Ya muchas maquinas al dia de hoy reemplazan el trabajo del hombre, hasta cuando la humanidad va a seguir reemplazando al hombre por la maquina?
#3 Disculpa por error marqué en contra tu comentario. Acerca de él, más máquinas de hacer dinero para los que puedan comprarlas, menos dinero para los que son reemplazados y reducido a consumidores.
#3 creo que resulta evidente, hasta que no queden hombres 🙂 ¿es que alguien sigue dudando de que en algún momento (puede que cercano) la raza humana será extinta? permítanme darles un consejo; aprovechen el milagro que supone vuestra breve existencia y no piensen demasiado en el inevitable fin.
#3 Estoy de acuerdo en la parte donde sería injusto quedarse sin trabajo, pero en mi experiencia personal y sin ofender a nadie, ser obrero no es vida y que mejor que lo hicieran las maquinas, debemos de aceptar el reto como especie humana e ir un paso más adelante, este puede ser un nuevo factor que ayude en nuestra evolución y así mejorar nuestro modo de vida, ir planificando un control de población, claro hasta que podamos habitar cómodamente y sin escaseces otro planeta o este mismo por algún descubrimiento, para cuando llegue ese punto de avance, tendremos un sendero más claro, porque a mi forma de pensar limitar el potencial de las personas es una violación a la libertad, entonces al hacer lo que hace o puede hacer una máquina para ganarse la vida no estamos aceptando la capacidad que tenemos como especie.
Aclaro que será bueno utilizando tecnología con la voluntad de progresar, porque puede ser una navaja de doble filo que puede que nos lleve o tal vez nos esté llevando a un rezago evolutivo.
Pienso como los anteriores. Un tema para hablar por diversión un ratito, pero no para tomar para nada en serio, ya que no tiene sentido gastar recursos en algo para que en el mejor de los casos falta mucho para llegar
No concuerdo en que falta mucho, para mi no estamos muy lejos de crearlo, quizas en 10 / 15 años ya este.
No vean a la inteligencia artificial como un robot parado como en la peli "Yo Robot". donde corre y ayuda a la gente (o la mata)
Si no piensen en una IA, como una software, un virus, y que con acceso a internet, hace estragos.
Hoy en dia ya hay virus, que mutan y que son dificiles de parar, recuerden los ultimos casos de gusanos que hubo. Tal y como era Skynet, que no habia un "nucleo", si no que estaba en todos lados.
Ademas piensen en algo, la "tecnologia" que se muestra y que se le da acceso al publico, no es lo mas avanzado, hay muchos proyectos y soft y hard que estan a puertas cerradas y que no ven la luz. Y no es conspirativo lo que digo, para nada, pero obviamente, se mantienen secretos, nunca dicen realmente todo lo que tienen.
Si el rio suena agua lleva , ojo en las palabras del inicio ANTES DE QUE TOME CONCIENCIA DE SI MISMA creo que de igual manera es un reflejo de como nosotros los humanos estamos siendo manupulados tambien , y algo no esta intentando frenar antes de que TOMEMOS CONCIENCIA DE SI MISMOS ,, atencion con esooo señoresss.. solo sigan las pistas …
yo si decía que la fruta daba fuerza, pero no que a la i.a le gustara
Esta vez no puedo decir que buen post.. me gusta estar informado de los progresos en ciencia pero noticias como esta están mas cerca de la ciencia ficcion que de la ciencia, especula sobre aspectos de tecnologias que aun ni se han inventado, seria un buen post dentro de 50 años pero hoy por hoy no me aporta nada
Se que no será el comentario mas popular pero es mi opinion
"La idea, en el fondo, es muy simple: se trata de contener la inteligencia artificial, aislándola antes de que crezca peligrosamente, tome conciencia de si misma y se convierta en una versión real de Skynet."
Esa idea ya la aplicaron a nosotros lo E.T. que nos crearon…. 😛
Artur C. Clarke en la novela (y posterior película) 2001: Odisea del del Espacio propone una solución más práctica, esta: http://xurl.es/solucion
¿Lo recuerdan? ¿No pensaron en esto esos informáticos? Un incendio no se apaga aislando al fuego…
No estoy deacuerdo con muchos de los comentarios anteriores.
Estamos hablando de verdad de ciencia ficción?, me extraña mucho lo que postean algunos, y mas si tenemos en cuenta que esta es una pagina donde se publican artículos sobre los últimos adelantos tecnológicos, sobre avances en la ciencia etc, avances tecnológicos que suceden todas los días y con una velocidad alucinante.
Actualmente cualquiera de los teléfonos inteligente que muchos poseemos y que caben en nuestros bolsillos, son miles de veces mas poderosos que algunos "Super-Ordenadores" de hace 50 años, que ocupaban pisos enteros.
La tecnología avanza rápido, por lo tanto es razonable ir creando poco a poco un sistema de seguridad para la inteligencia artificial, que se va a venir sin lugar a dudas, es como si decidiéramos crear un reactor nuclear y después crearlo y empezar a utilizarlo nos diéramos cuenta que necesitamos algunas medidas de seguridad para los posibles problemas, es lo mismo.
#13 hasta que escriben un comentario con argumentos razonables,
la IA es como cualquier invento que se ha creado por la humanidad puede funcionar para bien o para mal, hay que conocer muy bien este tan controvercial tema antes jusgarlo.
como cuando se estudio el átomo para el empleo racional de energía nuclear como fuente alternativa a la energía de combustibles fósiles o para bombas átomicas.
como dice un refran "si lo hacen por algo sera" y no es demas k los propios cientificos esten ya tan preocupados de lo k vengan k ya estan pensando como "frenarlo" o limitarlo lo mas k se pueda…
la idea no es tonta pues muxas pelis aunk cutres dan ciertas razones para k hasta una makina se de cuenta k lo k falla en el undo somos nosotros, el unico ser k es tan tonto k se destruye a si mismo lentamente.
seria interesante ver este trabajo terminado y el avanze teconologico k haya hasta ese entonces k logren crear la "prision virtual"
Segun la descripción de cómo puede tentar o castigar a los humanos, la descripción de la IA se asemeja a la de diós tanto en premios como en castigos.
YO NO SÉ DE QUÉ SE ESCANDALIZAN. SI LAS MÁQUINAS NOS SUSTITUYEN SERÁ MEJOR PARA EL PLANETA (POR EL DAÑO QUE HEMOS CAUSADO A LA TIERRA Y A NUESTROS PROPIOS CONGÉNERES).
QUIZÁS NO ÉRAMOS EL ÚLTIMO PELDAÑO EVOLUTIVO COMO CREÍAMOS,SINO UN SIMPLE PASO PARA LA CREACIÓN DE SERES MÁS PERFECTOS QUE NOSOTROS…QUIZÁS LOS CYBORGS.
#17 La especie humana a echo muchas cosas mal pero eso no significa que no podamos cambiar, podemos arreglar esto y mejorar.
Como dicen muchos antes que yo, mucha de la tecnología que poseemos hoy en día hace tan solo 30 años era impensable, así que es normal que los creadores de algo en un futuro supere en inteligencia a un ser humano creen algo que lo vigile y evite que esa IA decida que tu o tus hijos o cualquier otro ser humano no es útil.
Si cuando creas un embalse no pones compuertas para que cuando se va a llenar desagües, el embalse correr riesgo de desbordarse, si cuando los creadores del automóvil lo diseñaron, no le hubieran incorporado frenos que crees que habría pasado??
Es de lógica que se piense de este modo para protegernos de cualquier amenaza, tu, yo y todos nosotros, solo somos el instrumento para que la especie continué, esa es tu principal función en esta vida que no se te olvide.
Tengo una idea, por que no encerrarla en una especie de cerebro artificial(objeto físico) que la encierre, un símil como el cerebro físico humano. No podemos acceder a nuestra internet(telepatía). Es algo parecido.
A la paranoia le sigue la esquizofrenia.
"mediante la fuerza fruta" jeje
Todo esta nuestra naturaleza humana si la programamos para que dedusca lo que nos pasa y no pasara, es ovio que cualquiera pensaria que nos dirigimos a una destruccion masiva que son mas que se dedican a la guerra, y nos llevan de corbata a la gente pasifista. Por que, por que todos los desarrollos tecnologicos que an salido a la luz como internet, son en mejora de la milicia de tener cada ves la mejor ama de destrucion masiva, de tener la mejor herrramienta de dominar. por eso le tememos de que algun dia descubramos como enseñarle ese odio a la humanidad a la IA,por que ba descubrir quien es el enemigo de su planeta…..
Creo que este corto respondera algunas dudas… http://www.youtube.com/watch?v=gWeUbwaZmtM&fb_source=message Y creara nuevas.