Navigate Up
Sign In

Se ha activado la presentación accesible noscript, mostrando todo el contenido del documento.

Inicio documento DGAM-ETID

News

03/08/2017

La componente ética en los sistemas robóticos

Context:
OTROS
Interacción robot-humano en la oficina

Gracias a la rápida evolución tecnológica en el campo de la inteligencia artificial, la introducción de los robots en los distintos ámbitos de la vida cotidiana va a tener lugar progresivamente durante los próximos años. Su aplicación en campos como los vehículos autónomos, asistentes del trabajo y del hogar o cuidado de personas será de especial relevancia.

Este uso creciente de los robots en la vida diaria implicará una interacción constante entre humanos y robots, los cuales se verán expuestos a una amplísima variedad de situaciones, algunas de ellas complejas. La capacidad de respuesta de los robots ante estas situaciones especiales es uno de los mayores retos para su aplicación extensiva de una forma segura para el ser humano.

En 1942, el escritor de ciencia ficción Isaac Asimov propuso tres principios que deben regir la interacción entre robot y humano: un robot nunca debe dañar a un humano o permitir que el humano sea dañado, debe obedecer las órdenes humanas y proteger su propia existencia, siempre y cuando esto no conlleve dañar a un humano.

Sin embargo, dado el entendimiento limitado de los robots de situaciones ambiguas o con matices, así como del concepto de “daño” en sí mismo, estas leyes son susceptibles de malinterpretación por parte del robot, lo que podría conducir a consecuencias desastrosas.

Con objeto de abordar esta problemática, un equipo de trabajo de la Universidad de Hertfordshire, en Reino Unido, ha creado un nuevo concepto llamado “empowerment” (empoderamiento), a fin de ayudar al robot a proteger y mantener seguro al humano.

Este concepto o pauta de comportamiento que se quiere conferir al robot consiste en dotarle de una mayor flexibilidad para la toma de decisión, manteniendo abiertas todas las opciones posibles, como haría un humano. Se pretende que el robot vea el mundo con los mismos ojos del humano con quién interactúa.

Recientemente este concepto ha sido expandido para que el robot siempre busque mantener el “empowerment” del humano, evitando actuar de forma opresiva para protegerle. Esto permitiría implementar en los robots las tres leyes de Asimov mediante una mayor flexibilidad antes que con reglas éticas complejas.

Para más información se puede consultar el siguiente enlace.

 

Imágenes: manos robot y humano (Fuente: Getty Images) y trabajo chica con robot (Fuente: Alamy)

Next events

AVT-321-RTC on Unified Missile Kinetic Performance Model – Agosto 2019From 27/08/2019 to 29/08/2019
Los días 27 al 29 de agosto de 2019, el panel AVT de la STO de la OTAN organiza el curso “Unified Missile Kinetic Performance Model” de la categoría Technical Course (RTC) en el NATO Joint Warfare Center, Stavanger (Noruega).More information
Conferencias Military Radar 2019From 27/08/2019 to 29/08/2019
Los días 27 al 29 de agosto de 2019, se celebra el encuentro “Military radar”, organizado en Londres por Defence IQ, en el que se analizarán los retos tecnológicos de los futuros sistemas radar de uso militar.More information
MAST 2019 - Maritme/Air Systems and TechnologiesFrom 04/09/2019 to 06/09/2019
Entre los días 4 y 6 de septiembre tendrá lugar en Copenhague (Dinamarca) una nueva edición del Congreso MAST - Maritime/Air Systems and Technologies, cuyo objetivo será poner en contacto a personal civil y militar, y todos aquellos profesionales interesados en aspectos relacionados con guerra anti-submarina, medidas contra minas, comunicaciones en los entornos marítimo y aéreo, mapeado del fondo marino, interoperabilidad, ISTAR, etc.More information
 

© Copyright 2012 - Dirección General de Armamento y Material MDE - Secretaría de Estado de la Defensa

Paseo de la Castellana, 109 - 3ª planta, 28071 - Madrid, España Tfno.: (34) 91 395 50 00

Fin documento MDE