Desplazarse hacia arriba
Inicio de sesión

Se ha activado la presentación accesible noscript, mostrando todo el contenido del documento.

Inicio documento DGAM-ETID

Noticias

21/12/2017

Inteligencia Artificial - Transparencia vs Precisión

Ámbito:
OTROS
El obscurantismo de la inteligencia artificial

Desde sus orígenes, la inteligencia artificial ha arrastrado un problema: la precisión de los resultados obtenidos está intrínsecamente ligada al grado de explicabilidad de los mismos. Esto provoca que, para que una red neuronal artificial proporcione resultados que sean suficientemente entendibles por el ser humano, la fiabilidad o exactitud de los mismos deberán disminuir.

Esto es debido a que el modelo computacional basado en redes neuronales que emplea la inteligencia artificial para obtener resultados es tan complejo e inescrutable que incluso los mismos científicos que desarrollan los softwares no son capaces de explicar con exactitud la obtención de dichos resultados.

Ante esta tesitura, la Agencia de Proyectos de Investigación Avanzada de Defensa de Estados Unidos (DARPA) ha implementado un programa llamado “Inteligencia Artificial Explicable” (XAI, por sus siglas en inglés), a través del cual se está trabajando en tecnologías que posibiliten a los sistemas autónomos explicar mejor sus acciones y comportamiento.

Esto cobraría especial interés en situaciones en las que los sistemas autónomos proporcionan información sobre actividades sospechosas o generan decisiones de gran relevancia, para las cuales convendría disponer de un análisis o justificación adicional. En este sentido, DARPA considera que sería muy útil para los analistas contar con una explicación de porqué un sistema autónomo ha suministrado una imagen en particular, ha generado un cierto dato o ha focalizado su atención en una determinada persona.

Según DARPA, XAI aspira a crear modelos computacionales más fácilmente explicables manteniendo a la vez un alto nivel de rendimiento en el aprendizaje y exactitud en la predicción. El objetivo final es permitir al usuario comprender apropiadamente y emplear de manera efectiva la generación emergente de socios artificialmente inteligentes, sin socavar la eficacia y precisión de estos sistemas.

Para más información se puede consultar el siguiente enlace.

 

Imagen: Opacidad IA (Portal Lifeboat)

Próximos eventos

18 Jornadas de Tecnología para la Defensa y la Seguridad: Desafío DigitalDel 29/10/2018 al 30/10/2018
Entre los días 29 y 30 de octubre de 2018 se celebrará en la Sala Auditorio de la Casa de la Moneda de Madrid las 18 Jornadas de Tecnología para la Defensa y la Seguridad con el título de “Desafío Digital” donde las nuevas tecnologías centrarán las conferencias y mesas redondas que tendrán lugar y en la que participarán personal de la industria, universidades, centros de investigación, así como personal de las Fuerzas Armadas y Mas información
STO - SET 262 - Artificial Intelligence for military multisensor fusion engines Del 05/11/2018 al 06/11/2018
Los días 5 y 6 de noviembre de 2018 tendrá lugar en Budapest (Hungría), la reunión de especialistas titulada “Artificial Intelligence for military multisensor fusion engines” organizada por el grupo 262 del panel tecnológico “Sensors and Electronics” de la OTAN.Mas información
Ordnance, Munitions and Explosives SymposiumDel 06/11/2018 al 07/11/2018
Los días 6 y 7 de noviembre de 2018, tiene lugar el simposio anual “Ordnance, Munitions and Explosives (OME)” organizado por la Cranfield University en el Shrivenham Campus (Swindon, Reino unido).Mas información
 

© Copyright 2012 - Dirección General de Armamento y Material MDE - Secretaría de Estado de la Defensa

Paseo de la Castellana, 109 - 3ª planta, 28071 - Madrid, España Tfno.: (34) 91 395 50 00

Fin documento MDE