IA desmitificada: IA y defensa

#IA aquí, IA allá, IA ¿quieres un poco aquí ...
En los últimos meses, el término “IA” (Inteligencia Artificial) ha invadido el mundo de la Aeronáutica y la Defensa. ¿Pero qué es exactamente?

Sería presuntuoso querer ocuparse de todos los aspectos de los cambios provocados por la IA. Este no es el objetivo de esta serie de 2 artículos.
Asimismo, ignoraré ciertos aspectos constitutivos de la IA (por ejemplo, el sistema neuronal, etc.) pero que no son importantes para el tema de estos artículos.

Desde el software CAD hasta Terminator, desde su teléfono inteligente hasta DeepBlue o AlphaGo, existen muchos modos de IA.
El propósito de estos dos artículos está ahí: volver a popularizar lo que se esconde detrás del uso generalizado del término vago, si no oscuro, IA.

A modo de introducción, recordemos que el interés por la IA no es específico de la Aeronáutica y la Defensa, sino de la aparición de varias competiciones:

• La potencia informática de los sistemas.
• El volumen de datos disponibles (#BigData)
• La interconexión de diferentes sistemas (#IoT)
• Lenguajes de programación avanzados
• Investigación básica

Por tanto, la IA no es un concepto reciente.
Pero, así como estos vectores citados anteriormente evolucionan exponencialmente, la IA se “deja llevar” en esta carrera infinita y sus vectores permiten hoy niveles de complejidad que antes no eran posibles.

La inteligencia es la capacidad de comprender el entorno y adaptarse.

Artículo 1: IA y Defensa

Introducción

Antes de empezar, cerremos la puerta a una idea preconcebida: Terminator.

El control.
Como bien señaló Jose Henrotin, un ejército busca ante todo controlar su entorno (de ahí la gran eficacia de los métodos de “guerrilla” para socavar a estos ejércitos regulares).
Los peligros no tienen cabida allí; y si no pueden eliminarse, entonces requieren una respuesta más compleja y menos óptima. De hecho, al igual que las “elecciones libres”, los robots autónomos en su proceso de toma de decisiones, como Terminator, no tienen cabida.

Sin terminador. Pero entonces, ¿qué es la IA y por qué?
Si es cierto que el término #InteligenciaArtificial se refiere en su más pura teoría a una máquina dotada de inteligencia e interacción, la carrera por esta noción de “inteligencia” hace que algunos hayan inventado las llamadas “IA” que ya no son débiles. tienen mucho que ver con la inteligencia estrictamente hablando:

• La inteligencia es la capacidad de comprender el entorno y adaptarse. (de uno mismo a este entorno y/o de este entorno a uno mismo) que surge de una aprendizaje (Retex).
• Sin embargo, una buena parte de las IA “débiles” son en realidad sólo algoritmos llamados “complejos”, pero que no ofrecen sin capacidades de aprendizaje automático
  (por ejemplo: a diferencia de AlphaGo, DeepBlue no tenía capacidad de aprendizaje, pero estudió una variedad de posibilidades... Irónicamente, este es el punto donde la computadora no pudo encontrar una "mejor posibilidad" y eligió una al azar que desestabilizó a Kasparov y así derrotar)
• Además, una máquina es a menudo un sistema de sistemas; La IA solo se puede aplicar a un subsistema o proceso en particular.
  (ex : les lance-leurres d'un appareil ; ainsi, le NH90 est capable de prendre le pas sur le pilote et optimiser une réponse à une menace connue ; il n'est pas pour autant capable de remplacer le pilote pour l'ensemble acciones)

Big Data, datos cerrados o abiertos, Internet de las cosas, reconocimiento de formas u objetos... IA débil, fuerte... La noción de IA es tan vaga como amplia, debido a esta carrera por obtener el título sacrosanto. lo que tuvo como consecuencia empañarlo.
Para simplificar, reenfocaré el sujeto en torno a 3 ejes:

• En primer lugar, si tomamos el aspecto “puro” de la Inteligencia Artificial, podemos distinguir 2 factores:
  • La sensibilidad (o Machine Learning), que es la capacidad de comprender y aprender. Esta capacidad a su vez se puede distinguir en 3 partes:
    • Sin capacidad de aprendizaje
    • La capacidad de enriquecer el área de comprensión.
    • La capacidad de aprender, es decir, desarrollar las propias lecciones.
  • Las interacciones, que permiten una percepción del entorno (primer paso hacia la comprensión de cuál es la traducción de estas percepciones)
    • Pasivo (recibir, pero no transmitir) o Activo (transmitir acciones/tomar decisiones)
    • Digitalizados (intercambio de datos) o con Realidad
• Vectores de IA, como BigData e IoT, que contribuyen a la IA pero que en sí mismos no son IA en sentido estricto.

Vayamos al meollo del tema:
¿Qué quieren decir las partes interesadas en la Defensa detrás de la “IA”?

El Ministerio de las Fuerzas Armadas ha centrado su salto digital en torno a 6 ejes:

• apoyo a las decisiones y planificación
• la informacion
• combate colaborativo
• la robótica
• operaciones en el ciberespacio
• logística y mantenimiento

1. Una IA funcional y no global

Este es el primer punto:
Como se mencionó en la introducción, la IA (u otros desarrollos similares) puede que solo afecte a una funcionalidad. No estamos aquí en una IA global, al mando de un sistema de sistemas, sino una IA dedicada a una función, que permite ayudar al usuario automatizando todo o parte de un proceso.

A medida que los sistemas se vuelven cada vez más complejos, requieren cada vez más tareas.
Así, el personal a bordo de un #helicóptero ha aumentado de 2 a 3 y ahora incluso a 4, para realizar el mismo tipo de misión, pero con mayor profundidad.
Para moderar este efecto, conviene, por tanto, automatizar determinados procesos:

• No crítico
• Estandarizado y/o sistemático
• O para mejorar el tiempo de respuesta

El personal a bordo de un helicóptero aumentó de 2 a 3 y ahora incluso a 4...

2. El salto generacional

Si la #Aeronáutica y la #Defensa tiene fama de excelencia tecnológica debido a la complejidad física de sus sistemas, se ha quedado atrás en el ámbito de la “soft tech” hasta el punto de que, Durante la década de 2000, la situación cambió :
La innovación tecnológica ya no provenía de referentes de A&D para extenderse al universo público, sino al revés: así, Las start-ups y otros actores del mundo civil han ido invadiendo poco a poco el ámbito de ferias como SOFINS o Le Bourget, o incluso el atractivo de la #DGA..

La razón ?
Por el lado de Defensa, la razón es bastante simple: los equipos anteriores, e incluso las doctrinas, procedían de la Guerra Fría, en el mejor de los casos de Retex de los conflictos en África.

• Por el lado doctrinal, conflictos recientes muy asimétricos como el de Afganistán nos han obligado a revisar muchos aspectos.
• En lo que respecta a los equipos, la situación es más sencilla: los procedentes de la Guerra Fría han llegado al final de su vida útil y, por tanto, deben ser retirados y sustituidos o no por equipos que respondan a las nuevas doctrinas.

Esta renovación de equipos, que coincide con cambios de doctrina y la llegada de nuevas empresas que redefinen o reenfocan los problemas (#ThinkOutOfTheBox), es una bendición de la que Defensa haría mal en privarse.
No se diferencia de otros saltos generacionales, cada uno de los cuales también tenía sus propias palabras de moda:

• 1800: artillería
• 1870: el tren + la fiabilidad de los fusiles
• Primera Guerra Mundial: aviación + química
• Segunda Guerra Mundial: mecánica + industrialización
• Guerra Fría: electrónica + sensores
• 2019: ¿drones + IA?

Esta primera fase será más el uso de vectores de IA que de la propia IA

Si cada salto tecnológico ha tenido su “ conductor (s)“Estos realmente han visto su crecimiento en la mediana edad, siendo las primeras versiones más bien una validación de las soluciones a desarrollar.
Sin embargo, estos saltos tecnológicos también estuvieron fuertemente respaldados por la madurez de las tecnologías anteriores. Este es el efecto Rueda de Deming escalando una ley natural de mejora.

Por lo tanto, esta primera fase de entusiasmo por la IA consistirá más en el uso de vectores de IA para poner en marcha la rueda de la evolución y lograr esta visión en la mediana edad.

Je gage par ailleurs que nous vivons là sans doute la dernière rupture technologique et allons quitter ce principe pour nous orienter vers un système analogue au POOGI (et le #FCAS, s'il est bien pensé en amont, pourrait tout à fait exploiter la méthode POOGI).
... Mais je m'éloigne du sujet...

3. Ponerse al día con el retraso digital

Realicé un cuadro rápido comparando las principales soluciones tecnológicas versus las 6 áreas prioritarias identificadas por el Ministerio de las Fuerzas Armadas:
(las respuestas no son excluyentes; estas son las principales soluciones adaptadas a cada zona)

Como podemos ver, las respuestas que se darán se relacionan menos con la IA que con soluciones que han existido en su mayor parte durante 1 o 2 décadas:

• Herramientas “tradicionales”:
  • aplicaciones de ayuda al usuario
  • de Inteligencia de Negocios
• Herramientas relacionadas con datos:
  • Grandes datos
  • y su intercambio (IoT)
• Algunas soluciones vinculadas a la IA
  • principalmente para reconocimiento de formas y seguimiento de trayectorias

Por lo tanto, se trata menos de la IA que de sus vectores. que son :

• Grandes datos
• El #InternetOfThings (Internet de las Cosas/Objetos Conectados)
• Business Intelligence, es decir, el análisis (estadístico) de datos
• También agregaría el modelado "neural" de sistemas (qui, selon moi, devrait émerger dans la décennie à venir)

Analítica.
BigData, IoT, BI, modelado neuronal… Todos estos vectores son herramientas utilizadas para el análisis de datos y las relaciones entre estos datos. Porque el quid de la cuestión está ahí:
Al igual que Google, el Ejército busca controlar su entorno tanto como sea posible y, por tanto, reducir los peligros. Por tanto, esto requiere una gran capacidad y profundidad en el análisis de datos para comprender el entorno y poder influir en él con total control.
Soporte a la Decisión y Planificación… Inteligencia… Mantenimiento… Todas estas áreas requieren el uso analítico de datos.

BigData, IoT, modélisation neuronale...
C'est aussi : information, échange, structuration systémique...
C'est pourquoi, à titre personnel, plus qu'une révolution d'Intelligence Artificielle, j'augure une révolution en #Systèmes de Systèmes et #Networkability (soit l'habileté à fonctionner en réseau, de manière intégrée).
A ce titre, les projets #Scorpion (Armée de Terre) et #FCAS (Armée de l'Air) sont deux premiers pas sur le chemin de la Networkability.

4. IA "débil"

La IA débil no es inteligente: sus diseñadores sí lo eran.

Durante la introducción, presenté la noción deIA “débil”, que sólo es inteligente en el diseño de sus algoritmos.
En otras palabras, la IA débil no es inteligente: sus diseñadores sí lo eran.

Como se menciona en esta misma introducción, la IA plantea un problema de compatibilidad con su control. E incluso una IA débil no es una excepción:
Así, DeepBlue ganó gracias a un error, es decir, a un fallo que provocó una pérdida de control, hasta el punto que Kasparov creyó que un humano controlaba las decisiones de DeepBlue.

El desafío que siempre he asociado con la IA es el teorema de #Gödel:
Un sistema completo es inconsistente y, de hecho, un sistema coherente es incompleto. Por lo tanto, el problema será tener el sistema más completo posible garantizando al mismo tiempo su coherencia; de lo contrario, esto conducirá inevitablemente a un error de IA o a una IA fuera de control. Esto se parece un poco a lo que experimentó DeepBlue.

El desafío que siempre he asociado con la IA es el teorema de Gödel.

Aquí hay una tabla que resume este problema:

Como se ilustra, la inteligencia posible para la IA será inversamente proporcional a su nivel de interacciones, con la Realidad en primer lugar, pero también en términos de intercambio de datos (IoT).

Y, siempre además, los humanos tendremos que conservar el poder de decisión final :

• Al tener la posibilidad de apagar esta IA (ver caso 737 MAX)
• O ajustarlo, en casos de aprendizaje por refuerzo.
• Y manteniendo una opinión crítica (sin confianza ciega).

Este último punto puede parecer obvio o inútil y, sin embargo:
AI o no, cualquier sistema operativo de datos solo da un resultado relevante y relativo, con respecto a la calidad de sus datos de entrada y los errores que contiene.
¿Le parece superflua esta observación? 3 ejemplos:

• El dron Harfang: … a falta de algo mejor sirvió, pero no destacó por su confiabilidad
• Valeo y SAP: tras su mal implementación hacia SAP (en términos de elección de arquitectura y calidad de datos), Valeo estuvo a punto de quebrar. Fue salvado por sus clientes que aportaron su experiencia en SAP.
• Personalmente, tuve la oportunidad de descubrir un error crítico en un software CAPM reconocido en su época (pre-SAP), error que tuvo como consecuencia multiplicar las cantidades de requisitos.

No Terminator, sino el ser humano en el corazón de la inteligencia.

En conclusión

Este artículo simplemente pretendía poner en perspectiva la noción de IA y relativizarla en relación con los proyectos de Defensa.
Sin terminador, ni mucho menos, e incluso Los humanos siguen en el centro de la inteligencia., ya sea por el personal operativo en la decisión final, o diseñadores de soluciones algorítmicas.

Pero entonces ¿por qué tanto? resaltar la IA ?
Como se mencionó en el capítulo sobre saltos generacionales, es para dar una dirección, una visión ; no limitarse o imponerse límites prematuros.

Julien Mairé.