Desplazarse hacia arriba
Inicio de sesión

Se ha activado la presentación accesible noscript, mostrando todo el contenido del documento.

Inicio documento DGAM-ETID

Noticias

21/12/2017

Inteligencia Artificial - Transparencia vs Precisión

Ámbito:
OTROS
El obscurantismo de la inteligencia artificial

Desde sus orígenes, la inteligencia artificial ha arrastrado un problema: la precisión de los resultados obtenidos está intrínsecamente ligada al grado de explicabilidad de los mismos. Esto provoca que, para que una red neuronal artificial proporcione resultados que sean suficientemente entendibles por el ser humano, la fiabilidad o exactitud de los mismos deberán disminuir.

Esto es debido a que el modelo computacional basado en redes neuronales que emplea la inteligencia artificial para obtener resultados es tan complejo e inescrutable que incluso los mismos científicos que desarrollan los softwares no son capaces de explicar con exactitud la obtención de dichos resultados.

Ante esta tesitura, la Agencia de Proyectos de Investigación Avanzada de Defensa de Estados Unidos (DARPA) ha implementado un programa llamado “Inteligencia Artificial Explicable” (XAI, por sus siglas en inglés), a través del cual se está trabajando en tecnologías que posibiliten a los sistemas autónomos explicar mejor sus acciones y comportamiento.

Esto cobraría especial interés en situaciones en las que los sistemas autónomos proporcionan información sobre actividades sospechosas o generan decisiones de gran relevancia, para las cuales convendría disponer de un análisis o justificación adicional. En este sentido, DARPA considera que sería muy útil para los analistas contar con una explicación de porqué un sistema autónomo ha suministrado una imagen en particular, ha generado un cierto dato o ha focalizado su atención en una determinada persona.

Según DARPA, XAI aspira a crear modelos computacionales más fácilmente explicables manteniendo a la vez un alto nivel de rendimiento en el aprendizaje y exactitud en la predicción. El objetivo final es permitir al usuario comprender apropiadamente y emplear de manera efectiva la generación emergente de socios artificialmente inteligentes, sin socavar la eficacia y precisión de estos sistemas.

Para más información se puede consultar el siguiente enlace.

 

Imagen: Opacidad IA (Portal Lifeboat)

Próximos eventos

STO – AVT-267 – Research workshop on “Future of Manufacturing for military applications”Del 19/04/2018 al 20/04/2018
Entre los días 19 y 20 de abril de 2018, el panel AVT de la STO de OTAN organiza en Turín (Italia), un workshop sobre el futuro de las tecnologías de fabricación aplicadas al ámbito militar. En este workshop se prestará una especial atención al rápido desarrollo que están teniendo las tecnologías de fabricación aditiva, así como otros aspectos tales como la automatización, la robótica o el empleo de nuevos materiales avanzados e inteligentes.Mas información
“Jornada Tecnológica de Simulación en el ámbito de la Defensa”Del 24/04/2018 al 24/04/2018
La Dirección General de Armamento y Material (DGAM), a través de la Subdirección General de Planificación, Tecnología e Innovación (SDGPLATIN) está organizando la “Jornada Tecnológica de Simulación en el ámbito de Defensa”, que tendrá lugar el próximo martes 24 de abril de 2018 en la JAL con objeto de exponer la situación actual de la simulación en los Ejércitos y la Armada y su problemática relacionada. AFORO COMPLETOMas información
II Seminario Internacional “Plastics are Future” 2018Del 24/04/2018 al 25/04/2018
Los días 24 y 25 de abril de 2018 se celebrará en AIMPLAS una nueva edición del seminario internacional “Plastics are Future” al que acudirán expertos en polímeros procedentes de universidades, centros de I+D y de empresas para tratar el desarrollo de nuevos materiales poliméricos para aplicaciones en el futuro.Mas información
 

© Copyright 2012 - Dirección General de Armamento y Material MDE - Secretaría de Estado de la Defensa

Paseo de la Castellana, 109 - 3ª planta, 28071 - Madrid, España Tfno.: (34) 91 395 50 00

Fin documento MDE