Desplazarse hacia arriba
Inicio de sesión

Se ha activado la presentación accesible noscript, mostrando todo el contenido del documento.

Inicio documento DGAM-ETID

Noticias

21/12/2017

Inteligencia Artificial - Transparencia vs Precisión

Ámbito:
OTROS
El obscurantismo de la inteligencia artificial

Desde sus orígenes, la inteligencia artificial ha arrastrado un problema: la precisión de los resultados obtenidos está intrínsecamente ligada al grado de explicabilidad de los mismos. Esto provoca que, para que una red neuronal artificial proporcione resultados que sean suficientemente entendibles por el ser humano, la fiabilidad o exactitud de los mismos deberán disminuir.

Esto es debido a que el modelo computacional basado en redes neuronales que emplea la inteligencia artificial para obtener resultados es tan complejo e inescrutable que incluso los mismos científicos que desarrollan los softwares no son capaces de explicar con exactitud la obtención de dichos resultados.

Ante esta tesitura, la Agencia de Proyectos de Investigación Avanzada de Defensa de Estados Unidos (DARPA) ha implementado un programa llamado “Inteligencia Artificial Explicable” (XAI, por sus siglas en inglés), a través del cual se está trabajando en tecnologías que posibiliten a los sistemas autónomos explicar mejor sus acciones y comportamiento.

Esto cobraría especial interés en situaciones en las que los sistemas autónomos proporcionan información sobre actividades sospechosas o generan decisiones de gran relevancia, para las cuales convendría disponer de un análisis o justificación adicional. En este sentido, DARPA considera que sería muy útil para los analistas contar con una explicación de porqué un sistema autónomo ha suministrado una imagen en particular, ha generado un cierto dato o ha focalizado su atención en una determinada persona.

Según DARPA, XAI aspira a crear modelos computacionales más fácilmente explicables manteniendo a la vez un alto nivel de rendimiento en el aprendizaje y exactitud en la predicción. El objetivo final es permitir al usuario comprender apropiadamente y emplear de manera efectiva la generación emergente de socios artificialmente inteligentes, sin socavar la eficacia y precisión de estos sistemas.

Para más información se puede consultar el siguiente enlace.

 

Imagen: Opacidad IA (Portal Lifeboat)

Próximos eventos

Curso de verano “Fabricando la realidad virtual” de la Universidad de LeónDel 18/07/2018 al 20/07/2018
Durante los días 18, 19 y 20 de julio, la Cátedra de Defensa de la Universidad de León, pondrá en marcha el curso de verano “Fabricando la realidad virtual”. El curso está dirigido a estudiantes y profesionales del mundo de la realidad virtual y de las Fuerzas Armadas, y aspira a convertirse en un referente a nivel nacional en los avances tecnológicos de la realidad virtual.Mas información
Improved Explosives and Munitions Risk ManagementDel 06/08/2018 al 09/08/2018
Los días 6 al 9 de agosto de 2018, la National Defense Industrial Association organiza en San Diego (California, Estados Unidos) el simposio anual “International Explosives Safety Symposium & Exposition”.Mas información
AuxDefense 2018 - 1st World Conference on Advanced Materials for DefenseDel 03/09/2018 al 04/09/2018
Los días 3 y 4 de septiembre de 2018 se celebrará en Lisboa el evento AuxDefense 2018, al que acudirán expertos en materiales avanzados procedentes de universidades, centros de I+D y de empresas y que se centrará en las últimas novedades científicas y técnicas en materiales avanzados con aplicación en el sector de la Defensa.Mas información
 

© Copyright 2012 - Dirección General de Armamento y Material MDE - Secretaría de Estado de la Defensa

Paseo de la Castellana, 109 - 3ª planta, 28071 - Madrid, España Tfno.: (34) 91 395 50 00

Fin documento MDE