Navigate Up
Sign In

Se ha activado la presentación accesible noscript, mostrando todo el contenido del documento.

Inicio documento DGAM-ETID

News

03/08/2017

La componente ética en los sistemas robóticos

Context:
OTROS
Interacción robot-humano en la oficina

Gracias a la rápida evolución tecnológica en el campo de la inteligencia artificial, la introducción de los robots en los distintos ámbitos de la vida cotidiana va a tener lugar progresivamente durante los próximos años. Su aplicación en campos como los vehículos autónomos, asistentes del trabajo y del hogar o cuidado de personas será de especial relevancia.

Este uso creciente de los robots en la vida diaria implicará una interacción constante entre humanos y robots, los cuales se verán expuestos a una amplísima variedad de situaciones, algunas de ellas complejas. La capacidad de respuesta de los robots ante estas situaciones especiales es uno de los mayores retos para su aplicación extensiva de una forma segura para el ser humano.

En 1942, el escritor de ciencia ficción Isaac Asimov propuso tres principios que deben regir la interacción entre robot y humano: un robot nunca debe dañar a un humano o permitir que el humano sea dañado, debe obedecer las órdenes humanas y proteger su propia existencia, siempre y cuando esto no conlleve dañar a un humano.

Sin embargo, dado el entendimiento limitado de los robots de situaciones ambiguas o con matices, así como del concepto de “daño” en sí mismo, estas leyes son susceptibles de malinterpretación por parte del robot, lo que podría conducir a consecuencias desastrosas.

Con objeto de abordar esta problemática, un equipo de trabajo de la Universidad de Hertfordshire, en Reino Unido, ha creado un nuevo concepto llamado “empowerment” (empoderamiento), a fin de ayudar al robot a proteger y mantener seguro al humano.

Este concepto o pauta de comportamiento que se quiere conferir al robot consiste en dotarle de una mayor flexibilidad para la toma de decisión, manteniendo abiertas todas las opciones posibles, como haría un humano. Se pretende que el robot vea el mundo con los mismos ojos del humano con quién interactúa.

Recientemente este concepto ha sido expandido para que el robot siempre busque mantener el “empowerment” del humano, evitando actuar de forma opresiva para protegerle. Esto permitiría implementar en los robots las tres leyes de Asimov mediante una mayor flexibilidad antes que con reglas éticas complejas.

Para más información se puede consultar el siguiente enlace.

 

Imágenes: manos robot y humano (Fuente: Getty Images) y trabajo chica con robot (Fuente: Alamy)

Next events

Civil DRON 2019From 26/02/2019 to 27/02/2019
Los días 26 y 27 de febrero de 2019 se celebrará el Congreso “Civil Dron 2019” organizado por la Fundación de la Energía de la Comunidad de Madrid. El evento tratará sobre la actualidad de los vehículos aéreos no tripulados, legislación, normativa, materiales, propulsión, sistemas de control y comunicaciones entre otros. El plazo para la presentación de comunicaciones finaliza el próximo 15 de diciembre.More information
STO – SET-257 – Lecture Series on "Compressive Sensing Techniques for Radar and ESM Applications"From 11/03/2019 to 12/03/2019
En los meses de marzo y octubre, el panel SET de la STO de OTAN organizará en Reino Unido, Grecia y Estados Unidos, unas jornadas sobre diferentes aspectos tecnológicos, fundamentos y técnicas de vanguardia de CS (Compressive Sensing) para varias aplicaciones de radar y ESM. More information
AIRSIM Meeting 2019From 16/03/2019 to 16/03/2019
El día 16 de marzo del presente año tendrá lugar la séptima edición de la jornada de simulación aérea AIRSIM 2019, organizada y celebrada en la ETSIA con la colaboración de la UPM. En la jornada se mostrarán los últimos desarrollos realizados a nivel nacional en este campo, así como permitirá entablar conexión entre los principales agentes involucrados.More information
 

© Copyright 2012 - Dirección General de Armamento y Material MDE - Secretaría de Estado de la Defensa

Paseo de la Castellana, 109 - 3ª planta, 28071 - Madrid, España Tfno.: (34) 91 395 50 00

Fin documento MDE