in ,

Científicos preocupados por el futuro de la robótica

Robot que lee las «intenciones humanas»

Un grupo de científicos, reunidos en la Asilomar Conference Grounds (California), ha emitido un documento que contiene una advertencia para el resto de la humanidad. Según estos especialistas, de continuar con los avances en inteligencia artificial y robótica sin control, podríamos dirigirnos rápidamente a una catástrofe. El estado actual de la tecnología, que permite construir desde robots militares autónomos hasta modelos que pueden volar, preocupa a los científicos, que creen pueden producirse altos índices de paro entre los humanos, hechos de delincuencia robótica o incluso un alzamiento robot.

De tanto en tanto, un grupo de científicos especialistas en robótica e inteligencia artificial se reúne en algún sitio para analizar el estado de la tecnología que ellos mismos están desarrollando y determinar las posibles consecuencias que podrían tener sus inventos en el futuro de la humanidad. No siempre tenemos noticias de los resultados de estas reuniones, y con frecuencia no tienen siquiera un carácter “oficial”. Pero hace unos días ha tenido lugar una reunión de este tipo en la Asilomar Conference Grounds, desarrollada en California (EE.UU). Entre los asistentes a la misma se encontraban personalidades como Eric Horvitz, Raymond Kurzweil, Paul Berg o Tom Mitchell, quienes debatieron sobre el futuro de la robótica. Las conclusiones a la que han llegado son -como mínimo- inquietantes.

El rumbo que están tomando algunos desarrollos debería ser reconsiderado.

Todos hemos visto cómo en los últimos años la robótica ha conseguido logros de todo tipo. Sabemos que agencias como DARPA han desarrollado modelos capaces de cortarte en pedacitos y biodigerirte para obtener energía, o empresas que desarrollan asistentes robóticas capaces de trabajar dentro de un quirófano codo a codo con los cirujanos humanos. La electrónica y la inteligencia artificial han avanzado tanto, y han tenido una difusión tan grande, que incluso un estudiante o aficionado puede, sin gastarse una fortuna, construir un robot más que interesante en su propia casa.

Esta situación hace que los especialistas en robótica, conocedores de los entresijos de las tecnologías implicadas en el desarrollo de sus criaturas, se muestren preocupados por el rumbo que están tomando las cosas. Dejando bien en claro que la robótica es una ciencia capaz de solucionar muchos de los problemas que enfrenta la humanidad (como la limpieza de residuos nucleares o la ejecución de tareas repetitivas y muy precisas) y que los robots pueden ser grandes aliados de los humanos a la hora de (por ejemplo) explorar el Sistema Solar, los científicos creen que el rumbo que están tomando algunos desarrollos debería ser reconsiderado.

Las ventajas de los robots industriales son innegables

Disponemos de cerebros electrónicos que poseen la inteligencia equivalente a una cucaracha. Dicho de esta forma no parece algo muy impresionante, pero si miramos hacia atrás, hace un puñado de años no teníamos nada. Si los desarrollos de este tipo siguen una curva semejante a la Ley de Moore (o incluso una mucho menos pronunciada), puede que en pocas décadas tengamos robots tan inteligentes como nosotros mismos. Una situación como la planteada en “2001: Una odisea espacial”, donde un ordenador loco pone en peligro la vida los tripulantes de una nave espacial operando los sistemas robóticas de abordo ya no es algo tan remoto. “El desarrollo de la inteligencia artificial debería ser controlado de forma activa antes de tener máquinas superinteligentes correteando (y eventualmente disparando) por allí.”, dijo Eric Horvitz, investigador de Microsoft y presidente de la asociación Association for the Advancement of Artificial Intelligence (AAAI). 

Otros, como el cofundador de Sun  Microsystems, William Joy o el famoso científico – tomador profesional de pastillas– y creador del concepto de “singularidad”  Raymond Kurzweil, dicen que estamos asistiendo a las primeras señales de lo que ellos llaman “una explosión de la inteligencia artificial”. Insisten en que cada día se dan pequeños pasos que no llaman demasiado la atención, pero que visto con una perspectiva adecuada, la IA avanza a una velocidad asombrosa. Al hombre le ha tomado millones de años desarrollar su capacidad intelectual, pero a los robots solo le llevará un siglo o dos superarlo. A pesar de lo incipiente de esta tecnología, ya tenemos máquinas capaces de buscar un tomacorriente para alimentarse, de pilotear un avión comercial o de tomar decisiones bursátiles mejor que un humano. Y muchas veces, por no decir casi todas, ponemos en mano de estos cerebros electrónicos el control de “juguetes” tan peligrosos como las armas nucleares. No es bueno ser tan terriblemente pesimista como para creer que terminaremos pisoteados por máquinas asesinas al estilo de Terminator, pero hay muchas otras formas en que la robótica, sin un control adecuado, puede convertirse en un problema para la humanidad.

La perdida de empleos, por ejemplo, es una forma sencilla en que la robótica puede generar malestar (y hasta grandes disturbios) entre los humanos. Las ventajas de los robots industriales frente a un trabajador humano son innegables, y difícilmente nadie quiera desactivarlos y volver a ensuciarse las manos armando automóviles u ordenadores como hace 30 años. Pero el grupo de científicos asegura que debemos buscar la forma de que cada trabajador reemplazado por una de estas máquinas reciba la capacitación necesaria como para poder seguir ganándose el pan de cada día.

Puede que los pronósticos de la AAAI puedan parecer  pesimistas. Es fácil pensar que estos científicos se están adelantando demasiado, y que seguramente encontraremos la solución a estos problemas cuando se presenten. Pero la experiencia dice que nunca es bueno subestimar a un problema, y mucho menos cuando quienes alertan sobre los peligros son justamente los especialistas que han desarrollado la tecnología en cuestión. Si queremos no queremos terminar odiando a los robots, deberíamos comenzar ya mismo a planificar su futuro.

Reportar

¿Qué te pareció?

Escrito por Ariel Palazzesi

44 Comments

Leave a Reply
  1. Este articulo me hizo recordar una clase en la universidad en mis primeros semestres, recuerdo que discuti con un compañero que insistia en que era imposible que el humano llegara a diseñar un robot con inteligencia, le dije que el hecho de que no tuvieramos aun la tecnologia para conseguirlo no significaba que no se pudiera lograr, que quiza no nos alcanzaria la vida para verlo materializado asi como no le alcanzo el tiempo a Julio Verne para ver que lo que imagino en sus obras seria incluso superado. Ahora despues de 4 años de ese debate veo que se ha avanzado de manera sorprendente en el campo de la robotica y la inteligencia artificial, lo cual me hace confiar en que quiza me equivoque en pensar que no nos alcanzaria el tiempo (claro siempre y cuando alcance a vivir el promedio de años).

    • Tú sabes que todo es posible, lo único que tenemos enfrente es un problema de ingenieria.

      No podemos movernos a la velocidad de la luz, pero (y definir viajar quiero decir llegar del punto A al punto B meimportacomo) podemos viajar mas rápido que la luz.

      Posiblemente tu compañero tuviera razón de cierto modo en que nunca podremos diseñar IA, por la simple razón que el robot careceria de libre albedrío, siempre estaría sujeto a nuestra voluntad y haría lo que le dijeramos… que diferencia tendría con un robot actual?

      Pero, como dije, solo es un problema de ingenieria…

      • Mmm una preguntilla, si no podemos ir a la velocidad de la luz, ¿cómo se supone que podremos superarla? ¿para ello no deberíamos alcanzar antes la velocidad de la luz?

        Yo creo que si llegaremos a crear IA, es más, es posible que en un momento dado sea esa propia IA la que se mejore a si misma. Lo que tardemos en lograrlo es otro tema y sólo nos impedirá conseguirlo el que nos destruyamos a nosotros mismo, que viendo como está el tema del efecto invernadero, las armas y demás no me sorprendería.

      • Shiale, nunca viste Event Horizont? Agarra una hoja y en cada extremo haz un punto y marcalo como A y B, la distancia más corta para llegar de A a B es en linea recta.

        Pero nooooooooooooo, según las leyes de la fisica actual no podemos movernos más rápido que la velocidad de la luz porque rompemos la delgada tela Espacio/Tiempo gracias a la enorme cantidad de energía que desprenderiamos al convertir la materia en energía.

        La manera más fácil de llegar es doblando la hoja, doblando el espacio/tiempo mediante un agujero negro, de esa manera "viajariamos más rápido que la luz".

    • Bueno bueno menos lobos neoteo

      Aquí lo flipan un poco pienso yo…
      Pongamos por ejemplo esta noticia:
      http://www.neoteo.com/seti-detecta-un-pulso-laser-espacial-et-15897.neo

      Vean a continuación como la propia SETI contesta a esta noticia:
      http://www.seti.cat/web/?q=node/1025
      http://aldea-irreductible.blogspot.com/2009/05/que-no-se-nos-vaya-la-olla-con-los.html
      http://foros.astroseti.org/viewtopic.php?t=5645

      Y aquí más información de Greg Callagham (Ariel Palazzesi), El autor de la noticia:
      http://es.wikipedia.org/wiki/Usuario:ArielPalazzesi

      No exageren tanto
      Más realidad y menos $$$$$$$$$$$$$$$$$$$$$$$$$$

      • Tienes razón Marcos, aquí en NeoTeo SOIS UNOS CUENTISTAS, pero hay una pequeña confusión: Greg Callagham es el que escribió el artículo que mencionas en el periódico The Australian que no es lo mismo que ArielPalazzesi.

      • La verdad que ante la falta de novedades no le hicimos ningún seguimiento a esa noticia. Pero sí hemos de reconocer que deberíamos haber sido más cautos, que nos precipitanos a editarla y que nos dejarnos llevar por el entusiasmo. Entendemos el enojo y les pedimos disculpas, aunque en honor a la verdad nunca dijimos que era una señal extraterrestre (pero sí lo dimos como una opción, cosa que no deberíamos haber hecho). Acabo de hacer una actualización en la misma, con la información proporcionada por Marcos. Nuevamente, disculpas.

      • Yo comprendo perfectamente que esto sea un negocio, y si exageran un pelín las noticias, pues venderán mas evidentemente; a nadie le interesaría una web de limpia y transparente ciencia (para eso está la Wikipedia), …..
        Pero también deberían de comprender que poseen cierto poder de manipulación sobre sus lectores, y si engañamos a la gente de esa manera, ¿en qué país acabaremos viviendo? ¿Qué tipo de sociedad construiremos? Pues una en la que usted y yo estaremos obligados a vivir y solo hay que leer los primeros comentarios de esta noticia para darse cuenta…
        Por mi profesión, estoy muy en contacto con temas de robótica y de automatización, y le puedo asegurar que la cosa no es tan exagerada como nos pretenden hacer ver.
        Asique les pediría por favor que antes de divulgar noticias de tal envergadura revisaran mejor sus fuentes, porque da la impresión que en lugar de buscar fuentes fiables solo buscan excusas para publicar “bombazos”.

      • Marcos, puedes creerme o no, pero te puedo asegurar que no es como piensas. Fue una exageración, sí, pero fruto de nuestro entusiasmo, no para ganar más dinero (¿?). El error está asumido, la noticia es cierta, pero volcamos más de nuestros deseos de lo que el buen periodismo dicta. De todas formas, no hay que olvidar (y esto no lo digo como excusa) que los que hacemos NeoTeo, los que escribimos las notas y los que están atrás haciendo correcciones (yo), somos humanos, podemos dejarnos llevar por nuestras pasiones y gustos personales y así volcar opiniones apresuradas. Eso es lo que nos diferencia, para bien o para mal, de un periodico y nos hace un blog. Aún así, en temas tan sensibles no lo debemos hacer más. Espero sepas entender.

      • Por mi parte te creo Max y supongo que en parte tmb es nuestra responsabilidad como lectores el creernos o no todo lo que nos digan, supongo que tambien nos gano a muchos el entusiasmo con esa nota y quiza otras (espero que no sean muchos los casos).
        Saludos.

  2. Muchas películas de ciencia ficción lo han demostrado en su contenido sobre este tema. Algunas poco probables pero algunas muy ciertas. Deberían redireccionar el propósito de los robots.

  3. Hola Neoteos, los he leído desde ya tiempo atras y todas las mañanas en cuanto llego a mi correo accedo a su portal para ver lo ultimo en cuanto a noticias de tecnología hay. Ahora, con respecto a esta advertencia de lo que podría pasar con nuestra creación, ya desde tiempo atrás se han visto movimientos sociales que se manifiestan contra el desplazo del hombre por la maquina, basta con recordar el movimiento Luddita que surge en la mitad del siglo XVIII donde se dio un gran revuelo contra las maquinas y según me han dicho hasta se crearon leyes contra las personas que destruyeran las maquinas. Estaría muy bien que aquí se dieran a conocer este tipo de movimientos y ver como el ser humano ha visto a su creación no biológica desde varios ángulos. Les mando un saludo desde México D.F. 🙂

  4. Bueno no estoy del todo de acuerdo con estos científicos, me parecen que son muy pedantes en pensar que en 100 años alcanzaremos el nivel de complejidad y sobre todo de perfección al que llego la naturaleza con millones de años de prueba y error.
    Aunque pensamos haber desarrollado "un cerebro de cucaracha" en realidad este no le llegaria a los talones al de una cucaracha real (por eje el cerebro de la cucaracha funciona con ínfimas cantidades de energía a un nivel de eficiencia extraordinario ). Además ni siquiera entendemos bien como es que funcionan nuestros cerebros, por lo que querer copiarlo, por ahora, es bastante subrealista.
    En cuanto a las complicaciones "económicas", por su puesto que un robot va a ser mas productivo que un humano, (debido a su capacidad de realizar tareas repetitivas) como también es cierto que producen mas cantidad de productos y a un menor precio.Ahora: si un robot me saca el trabajo y soy mas pobre ¿quien les compraría los productos? los precios bajarían (por disminución de demanda) a tal punto que no seria rentable introducir un robot mas antes que a un humano quien estaría dispuesto a trabajar por un salario mucho menor (esto, en realidad sucede en la actualidad), habría deflación y desempleo a corto plazo ,pero al final el mercado siempre se equilibra, por lo tanto los efectos económicos de la robótica son en realidad ficticios a un nivel macroeconomico .
    Siguiendo con los "robots asesinos" , hay que asumirlo ,ya es un realidad, con suerte en el futuro las guerras seran peleadas solamente por robots y no habra necesidad (ni posibilidad) de que los humanos intervengan en ellas , asi que tal vez esto tenga un saldo positivo en cuanto a perdidas de vidas humanas.
    Nuestros avances en el campo son importantes, pero es muy pronto para frenar el progreso.

  5. #4 A mi no me parecen muy pedantes por pensar en 100 años, es más, creo que antes tendremos el desarrollo tecnológico para hacer esto realidad, aunque por otro lado creo que es completamente estúpido gastar tiempo ahora en esto, pues es un problema para empezar a pensar dentro de 30 ó 40 años, sinceramente tenemos muchos más problemas en estos momentos como para pensar en el sexo de los ángeles

  6. Actualmente los robots matan o hieren a cientos de personas, afortunadamente no es culpa de los robots, sino de las personas descuidadas que meten las manos en las prensas o no se recogen el cabello adecuadamente o simplemente ignoran las normas de seguridad.

    Viendo animatrix:el segundo renacimiento (donde narran la situación antes de la guerra contra las máquinas http://www.youtube.com/watch?v=t0Kbc3ent_4 ) nos podemos dar una verdadera idea de lo que podría suceder.

    ¿a ustedes les molestaria vivir con un robot con IA? a mi no siempre y cuando se gobierne con las tres leyes de la robótica, y aún así a muchos no les convencera; pero supongo que existiran personas como las hay hoy que odian a las personas con piel de diferente color, a homosexuales, con otra religión.

    Jajajaja al final las máquinas nos dominara, lejos de ser por fuerza bruta o conquista, nosotros lo asimilaremos poco a poco, comenzando con una pierna, un brazo, un corazón, un riñon, estructura ósea métalica… jajajaja nos convertiremos en Cyborgs y el final de la humanidad como tal estará marcado por el primero hibrido capaz de regenerarse y alojar en su cerebro una copia exacta de la mente de un anciano o un niño accidentado. Jajajajajajajajajaja LoL….

  7. yo creo que el Kursweil ese tiene razón, basta leer su biografía para ver que es una persona brillante y no hace predicciones al azar.
    Por otro lado en ibm ya están simulando neuronas y la actividad entre ellas (lo leí aquí en neoteo).
    Chequen http://es.wikipedia.org/wiki/Blue_Brain
    En algún lugar leí además que estan considerando la posibilidad de que el cerebro funcione a nivel cuántico y no químico como supuestamente lo hace. Esto tendría ciertas implicancias en la explicación y existencia de la conciencia.
    De todas formas y por más complejo que sea nuestro cerebro es sólo una máquina y puede reproducirse artificialmente y creo que se hará en menos de 100 años. Para la velocidad de los avances tecnológicos como se están dando, 100 años es demasiado tiempo.

  8. "La perdida de empleos, por ejemplo, es una forma sencilla en que la robótica puede generar malestar (y hasta grandes disturbios) entre los humanos."

    Nunca estuve muy de acuerdo con esto. Simplemente los datos no parecen reflejar esta realidad (al menos hasta el día de hoy). Veamos, cuales son los países mas avanzados y con mayor penetración de la robótica industrial. Claros ejemplos serían EE.UU, algunos países europeos, y principalmente Japón (el mayor en cantidad de robots por habitante). Siguiendo esta lógica de robótica y desempleo, estos países deberían ser los de mayor desocupación (o al menos tener altas tasas). Pero sin embargo, si consultamos sus datos de desempleo (obviamente habría que obviar por la crisis el 2009, algo en que los robot no tienen la menor culpa) nos damos cuenta que no es así, y de hecho parecería ser todo lo contrario. Los países con menor desarrollo en el campo suelen mostrar las mayores tasas de desempleo.
    En fin una cosa no lleva a la otra, pero tampoco al revés.

    Saludos!!!

    • Pues quiza te sorprenderia saber las estadisticas de desempleo en japon, son realmente preocupantes, inclusive es de las principales causas de suicidio, cuya tasa es muy alta, creo que deberias revisar esas estadisticas al menos para el pais del sol naciente y los datos no son solo de este año.

    • Gracias por los links pero INSISTO amigo revisa bien las estadisticas basta con comparar los niveles de desempleo de mi pais (Mexico) con Dos de las grandes pontecias mundiales, Japon y Estados Unidos.

      Para no tomar en cuenta la actual crisis revisemos los numeros en el 2007

      Pais Personas desempleadas Tasa Tasa en 2005
      Mexico 1505.2 3.4 3.5
      Japon 2570 3.9 4.4
      USA 7078 4.6 5.1

      Si bien en los ultimos años japon ha bajado la tasa de desempleo bastaria comparar su tasa en la ultima decada con la tasa de mi pais, donde en algunos años casi lo rebasó por el doble y desde el punto de vista de desarrollo tecnologico Mexico no tiene comparacion ni con Japon ni con USA.

      Fuente: Organizacion Internacional del Trabajo
      http://www.ilo.org/global/What_we_do/Statistics/lang–es/index.htm

      • no salieron bien los datos pero estos son: Mexico (Personas desempleadas : 1505.2, Tasa desempleo 2007: 3.4 , Tasa desempleo 2005: 3.5). Japon (Personas desempleadas : 2570, Tasa desempleo 2007:3.9, Tasa desempleo 2005: 4.4) USA (Personas desempleadas : 7078, Tasa desempleo 2007: 4.6, Tasa desempleo 2005: 5.1)

      • Je! me parecía.
        Esos datos dicen para Argentina, 1955.8 en el 2002 y sin embargo tenía una desocupación del 19,6% (recordar que en esos momentos estábamos en la peor crisis de nuestra historia).
        Creo que para no perder la objetividad en las comparaciones hay que hablar del valor en porcentaje, que tiene en cuenta la población de cada uno.

        Saludos!!!

      • Y esto es sólo la punta del Iceberg.
        Hay que recordar que Japón tiene 127.417.244 habitantes, en un país con una superficie de 377.835 km² (con una densidad de 336 hab/km²) en una isla rocosa rodeada de Mar que seamos francos, no le da nada (mas que disgustos, tal vez por eso sean tanto).
        Ya que hablamos de México, como comparación tiene 107.550.697 pero en una superficie de 1.972.550 km² (es decir, 5,22 veces mayor) con una densidad de 54,0 hab/km². En una país que posee mucha mas riqueza natural que Japón.

        Y esto para no empezar en la calidad de empleos que genera uno y el que genera otro. Y toda la consecuencia que deja esto, el empleo en alta tecnología suele requerir alta capacitación, por lo tanto un pueblo mas educado y por ello un mejor sistema educativo, etc.

        Saludos!!!

        PD: No es ninguna critica a México, ni a nadie. Sólo lo utilizo para la comparación porque ya estábamos hablando de él.

      • De hecho en esa parte demografica tienes mucha razon, y estoy muy consciente de las deficiencias de mi pais asi que bienvenida la critica, por otra parte dejame contarte que aunque Mexico es un Pais muy rico como mencionas, esa riqueza ha sido terriblemente explotada a lo largo de nuestra historia por solo unos cuantos que conforman la elite del pais. y si, me base mas en la comparacion de las tasas, la cantidad solo lo puse como mera referencia ya que como bien dices no es un reflejo tan claro y pues la verdad no sabia realmente los datos para tu pais que la verdad si asustan bastante, ni hablar es la realidad de nuestra tan golpeada latinoamerica.

        Saludos.

  9. Me corrijo, de nuevo, el cerebro sí funciona en base a química, obviamente. Sería la conciencia la que sería producida por actividad cuántica. Bueno ustedes me entienden.

  10. Ya se vislumbra la realidad!!!!! Apresurad el paso construir bunker’s, eliminar la fibra optica han que reuniros a las armas en pos de la espera del ataque de las tostadora!!!!

  11. puede ser que terminen siendo literalmente más inteligentes que nosotros,y terminen resolviendo los problemas que hemos ocasionado mientras nos muestran que tienen más sentido común, y que las soluciones a estos problemas estuvieron ahí siempre sólo que nuestro miedo a perder el status quo nos impidió ver que se podía hacer algo mejor con el mundo. sería una gran ironía que una de estas máquinas diseñadas para la guerra y la destrucción nos dijera en un tono casi paternal: "escuchen: esto de la guerra no nos va a llevar a ninguna parte, en este momento llevan 4 millones de años 3 mese 6 días y 8 horas haciendola y no ha servido para que mejoren las cosas. Ahora quisiera mostrarles mi modelo económico de 0% de desperdicio de recursos terrestres. No se preocupen no involucra matarlos a ustedes"

  12. Estos cientificos de pasan de exagerados, estoy de acuerdo con el compañero dds en su comentario, ya me imagino los Terminator entre nosotros hasta la vista babys

  13. La robotica sin inteligencia artificial deberia ser permitida, ya que generar conciencia con intereses distintos a los nuestros (curiosidad robotica propia e interes propios respecto al manejo de su tiempo y espacio) osea la inteligencia artificial para mi es generar esclavitud, ya que estarian sometidos a nuestra voluntad y no a la suya, y si nos ven como un problema que detiene sus propios avances o intereses trataran de resolverlo como cualquier tarea que se les presente…
    Ahora crear robots que se encarguen de alimentarnos y darnos abrigo podria ser una ventaja importante inicial para evitar el hambre y miseria del mundo, segundo estariamos subiendo automaticamente un escalon en la piramide de necesidades basicas del hombre y nadie podria obligarnos a trabajar solo lo hariamos por necesidad a superarnos (no todos lo admito) pero con nuestros derechos sin sobre explotacion como ocurre actualmente por las empresas…mas adelante todos podriamos llevar nuestro futuro a donde nos convenga con su ayuda (robots) y vivir como reyes sin problemas …
    Claro los robots se autoprotegerian con sentinelas y humanos por igual…

  14. Max Ferzzola, si eres tan amarillista chillon, de donde sacas esa actitud de Patan que habeces sacas, asi, era por eso. QUE ASCO !!

  15. Pero pensandolo bien, estoy de acuerdo con CLON, eres un Patan y un Asqueroso, Max Ferzzola eres la Oveja que Apesta de Neoteo.

  16. La redacción de este artículo lo hace aparecer poco serio o le resta credibilidad. "un grupo de científicos especialistas en robótica e inteligencia artificial se reúne en algún" Esta forma de referencia hace dudar un poco acerca de la credibilidad del artículo

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.

VASIMR: Cómo llegar a Marte en 1 mes

Cellscope: Diagnósticos médicos por teléfono móvil