Desplazarse hacia arriba
Inicio de sesión

Se ha activado la presentación accesible noscript, mostrando todo el contenido del documento.

Inicio documento DGAM-ETID

Noticias

21/12/2017

Inteligencia Artificial - Transparencia vs Precisión

Ámbito:
OTROS
El obscurantismo de la inteligencia artificial

Desde sus orígenes, la inteligencia artificial ha arrastrado un problema: la precisión de los resultados obtenidos está intrínsecamente ligada al grado de explicabilidad de los mismos. Esto provoca que, para que una red neuronal artificial proporcione resultados que sean suficientemente entendibles por el ser humano, la fiabilidad o exactitud de los mismos deberán disminuir.

Esto es debido a que el modelo computacional basado en redes neuronales que emplea la inteligencia artificial para obtener resultados es tan complejo e inescrutable que incluso los mismos científicos que desarrollan los softwares no son capaces de explicar con exactitud la obtención de dichos resultados.

Ante esta tesitura, la Agencia de Proyectos de Investigación Avanzada de Defensa de Estados Unidos (DARPA) ha implementado un programa llamado “Inteligencia Artificial Explicable” (XAI, por sus siglas en inglés), a través del cual se está trabajando en tecnologías que posibiliten a los sistemas autónomos explicar mejor sus acciones y comportamiento.

Esto cobraría especial interés en situaciones en las que los sistemas autónomos proporcionan información sobre actividades sospechosas o generan decisiones de gran relevancia, para las cuales convendría disponer de un análisis o justificación adicional. En este sentido, DARPA considera que sería muy útil para los analistas contar con una explicación de porqué un sistema autónomo ha suministrado una imagen en particular, ha generado un cierto dato o ha focalizado su atención en una determinada persona.

Según DARPA, XAI aspira a crear modelos computacionales más fácilmente explicables manteniendo a la vez un alto nivel de rendimiento en el aprendizaje y exactitud en la predicción. El objetivo final es permitir al usuario comprender apropiadamente y emplear de manera efectiva la generación emergente de socios artificialmente inteligentes, sin socavar la eficacia y precisión de estos sistemas.

Para más información se puede consultar el siguiente enlace.

 

Imagen: Opacidad IA (Portal Lifeboat)

Próximos eventos

CIBERSEG 2018 - V Jornadas de Seguridad y Ciberdefensa de la Universidad de AlcaláDel 19/01/2018 al 19/01/2018
Los próximos días 25 y 26 de enero, se celebrarán en la Escuela Politécnica Superior de la Universidad de Alcalá las “V Jornadas de Seguridad y Ciberdefensa”. El objetivo de estas jornadas es la promoción y la difusión de temas relacionados con la seguridad y la ciberdefensa.Mas información
10th European Space PolicyDel 23/01/2018 al 24/01/2018
Los días 23 y 24 de enero de 2018 se celebrará en Bruselas la “10th Conferencia sobre Política Espacial Europea”. El sector espacial es un nicho de innovación en el que están involucradas las administraciones, las instituciones nacionales, la UE, la CE, la industria, los centros de investigación, universidades y la sociedad. Los principales actores europeos del sector espacial tendrán la oportunidad de debatir al más alto nivel sobre los programas y aplicaciones espaciales europeos.Mas información
Civil DRON 2018Del 24/01/2018 al 25/01/2018
Los días 24 y 25 de Enero de 2018 se celebrará el Congreso “Civil Dron 2018” organizado por la Fundación de la Energía de la Comunidad de Madrid, en colaboración con la Agencia Europea de la Energía. El evento tratará sobre la actualidad de los vehículos aéreos no tripulados, legislación, normativa, materiales, propulsión, sistemas de control y comunicaciones entre otros.Mas información
 

© Copyright 2012 - Dirección General de Armamento y Material MDE - Secretaría de Estado de la Defensa

Paseo de la Castellana, 109 - 3ª planta, 28071 - Madrid, España Tfno.: (34) 91 395 50 00

Fin documento MDE