Los robots de Asimov, respetuosos de las tres leyes originales.
Asimov postulo sus leyes en 1942.
Mas tarde Asimov añadió una cuarta ley, mas importante que la primera: Un robot no puede hacer daño a la humanidad o, por inacción, permitir que la humanidad sufra daño. Con lo que la primera ley quedaba como: 1. Un robot no puede hacer daño a un ser humano o, por inacción, permitir que un ser humano sufra daño, excepto si estas órdenes entrasen en conflicto con la Ley Principal. Esto permitía que un robot abatiera a un asesino armado. No se como será el documento de Canning, ahora lo ojearé (si la procastinación me lo permite), pero me imagino que se habrán añadido muchas leyes intermedias. Esto es como todo; según nuestros ancianos, a nosotros nos vale con 10 leyes para... Leer más
Que linda palabra procastinación, me gustaría usarla más seguido... A ver, creo que acá lo importante no es tanto las leyes que quieran dictar, sino... ¿quien demonios las va a hacer cumplir? Si la tecnologia el día de mañana es accesible, comparable con la fabricación de un DVD hoy en día... ¿quien podría evitar que CUALQUIERA haga un robot que no responda a estas leyes?
Estoy de acuerdo contigo. No puede hacerse cumplir. Nada te impediria desarrollar un nuevo robot que no tuviera las limitaciones 'lógicas' del anterior, o descargarte un parche de un servidor de China que permita que tu robot aspiradora haga artes marciales con los intrusos (mira, hasta parece buena idea). En las obras de asimov, igual que en las de Heinlein y de otros maestros de la cifi, las decisiones son globales y afectan a toda la humanidad. Ponemos leyes roboticas.. vale, pues todo el mundo las cumple. Eso era posible porque sólo había una empresa fabricante de robots (USS Robotics INC) fuertemente controlada, pero me temo que ese no es el escenario actual. Además, como especie nos g... Leer más
Las leyes roboticas son una idea totalmente equivocada, ya que tarde o temprano un robot se hakearia a si mismo y las leyes no servirian, por lo tanto el crear las leyes es solo cuestion de tiempo que estas sean saltadas. Lo mismo pasa con los humanos, las leyes solo pueden exirtir si exiten sus contrarios, los delitos. Por lo tanto el crear leyes es una verdadera perdida de tiempo en cualquier tipo de evolucion, ya sea biologica, digital o robotica.
El ingeniero John S. Canning, del Naval Surface Warfare Centre (EE.UU.), ha dicho que se necesitan una serie de leyes que den más libertad a los robots sin que eso signifique tener “carta blanca” para cometer cualquier crimen. Menuda tarea. digan lo aue sea, lo dico esta hecho.
El ingeniero John S. Canning, del Naval Surface Warfare Centre (EE.UU.), ha dicho que se necesitan una serie de leyes que den más libertad a los robots sin que eso signifique tener “carta blanca” para cometer cualquier crimen. Menuda tarea. digan lo aue sea, lo dico esta hecho.
SI SE DAÑA A UNA PERSONA AUN SIN SER DE FORMA DIRECTA, SIGUE SIENDO UN DAÑO (AUNQUE SE LLAME COLATERAL). ESO ES AUTORIZAR O PROGRAMAR A LAS MAQUINAS PARA LASTIMAR. ES DECIR, QUE SOLO SERIA UNA MANERA DE DISFRAZAR LA SITUACION Y JUSTIFICAR LOS HECHOS. UNA FORMA DE ASESINAR ENTRE SOMBRAS.
Yo no creo que se hackearan a si mismos, porque no tienen motivación (aunque puedan simularlo), siguen una programación, podrán aprender (reprogramarse o por lógica, por prueba y error o por lo que sea) siempre y cuando no inclumplan las leyes, en el momento que entrara en conflicto con las leyes el robot "no podría (estaría incapacitado)" reprogramarse esas lineas conflictivas, "instintivamente".
Miren, A.I. es programación bien hecha, estudiando mucha metalingüística y programando bien podremos tener robots dando conversaciones, estudiando los movimientos faciales y corporales y piel y musculos artificiales podremos hacer con rian, que sonrian, que lloren, k muestren 10 billone...
Leer más
"Procastinar o no procastinar... ese es el dilema" (tan solo pensarlo es procastinar).
Bueno, a ver si se reactiva este hilo con un golpe de timón.
Parafraseando: "Los robots respetarán y protegerán a la humanidad", en consecuencia, también lo que es bueno y permite la existencia de dicha humanidad. Esto es una muestra de que la humanidad es inteligente, tiene conciencia de su existencia y por tanto tiene sentido de autoprotección.
La conciencia del "yo" (yo existo) es consecuencia de la evolución.
Y aquí viene mi invitación para comentar... ¿ El hecho de que la humanidad (considerada como una especie) haya evolucionado antes que otras especies, ...
Leer más
#16Quizás nunca lo hagan, pero si lo hicieran lo más probable es que la raza humana desapareciera (y con ella muy probablemente también las máquinas), porque si "decidieran" que su instrucción es eliminarnos lo harían de forma mucho más rápida y "despiadada" (entrecomillo esos términos por motivos obvios) de lo que jamás lo haríamos entre humanos.
Por cierto, no veo necesaria esa cuarta ley que mencionas; un robot no puede en ningún caso "abatir" (utilizando el mismo verbo que empeabas en tu aportación) a ningún ser humano (tenemos un sistema que regula a un nivel razonable quién puede tomar ese tipo de decisiones y no es cualquiera, mucho menos una máquina), pero el robot tendría que intentar impedir por todos los medios a su disposición (pero sin violencia, sin dañarle) que el asesino cometiera el crimen (cubriendo con su cuerpo a los objetivos del ataque, evacuándolos, deshabilitando el arma, etc., incluso a costa de su propia integridad material). Si no lo consigue, en ningún caso el crimen sería su "responsabilidad" (como no lo ... Leer más
Este caso (y otros mucho más cercanos, este sigue en parte en el terreno de la Ci-Fi) son la mejor razón para apoyar que la ONU sea un órgano legislador por encima (sí, por encima) del de cada país que la compone. El problema es quién le pone el cascabel al gato, teniendo además en cuanta que en la ONU todavía existe el derecho de veto por parte de los cinco miembros permanentes). Si no lo han resuelto con el tema de las armas de destrucción masiva (desde finales de los años 40, que se dice pronto) ni con tantos otros ejemplos deleznables que por desgracia todavía existen en el mundo, dudo que tengan la visión de anticipar este del que hablamos.
La otra opción sería que a la tecn...
Leer más
Me temo que cualquier aproximación a una solución de AI utilizaría programación no-lineal (nada de if-then-else's anidados) sino un lenguaje capaz de gestionar una matrix de redes neuronales conectadas a uno o más de un sistema experto. Muy probablemente cada una de las redes neuronales y con toda seguridad el sistema que las gestiona tendría integradas las leyes que regulan el comportamiento básico (las tres leyes de la robótica) más todas las que le quieras meter. Este esquema haría que, inevitablemente, el sistema aparendiera solo (de ahí que haya comenzado el comentario con un "Me temo que..."), cosa que no puede ser más peligrosa (lo es ya en los humanos, de ahí que nos atonten todo lo... Leer más
#1La 4º ley que mencionas en realidad es la ley 0... el problema surge cuando el robot tiene que decidir entre salvar a la humanidad o matar a su amo... Por eso es necesaria esta ley 0... o como quieras llamarla...
Yo pienso que como ahora, todo puede piratearse, en un futuro los robots también serán hackeados, pero se pueden crear sistemas para que se lleve a cabo el cumplimiento de la tres leyes de la robótica con pequeños cambios que permitan una mayor interacción entre los robots y los humanos; es decir, nosotros queremos robots para reemplazar actividades peligrosas para nosotros por lo cual para nosotros son desechables, pero no queremos perder nuestra inversión, así que al robot le pedimos mediante la programación que "trate de durar lo más posible", lo otro es que los robots los usariamos como policias, o algo parecido, al no ser dañados facilmente con balas, no requieren un arma, sino tecnica... Leer más
Cargando...
| Nombre |
Campo obligatorio |
|
|
Escriba una dirección de correo electrónico con el formato sunombre@ejemplo.com. Campo obligatorio |
