« Faire fonctionner un algorithme comme le cerveau humain »

Alors que le nombre de frappes de drones a baissé de manière significative en 2013, les débats éthiques et juridiques sur la robotisation de la guerre sont loin d’être terminés. En effet, la problématique des robots létaux autonomes sera au menu des discussions des pays participant à la Convention sur certaines armes classiques au mois de mai de cette année. Cette initiative fait suite à une campagne d’un collectif d’organisations non-gouvernementales, lancée en avril 2013, appelant à l’interdiction des « robots tueurs ». Inquiet des répercussions de cette technologie sur la protection du droit à la vie, le rapporteur spécial aux exécutions extrajudiciaires, sommaires ou arbitraires auprès des Nations Unies, Christopher Heyns,  appelait à une pause dans le développement de la robotique militaire.

Le drone X-47B.

A l’origine de cette campagne, on trouve un rapport de l’ONG Human Rights Watch intitulé « Losing humanity » et publié en novembre 2012 concluant à l’impossibilité, pour les robots létaux autonomes, de se conformer à la norme d’immunité des non-combattants assurée par le droit international humanitaire. Il convient de rappeler que l’autonomie vise ici la possibilité de sélectionner des cibles humaines et de les engager, sans intervention humaine. Le Département américain de la Défense ne tardait pas à réagir en publiant une directive rejetant toute possibilité de prise de décision relative à l’emploi de la force létale de façon autonome par un robot.

Cet engagement a été confirmé dans une feuille de route du Département de la Défense posant la vision et la stratégie relatives aux systèmes inhabités intégrés pour les 25 années à venir et  publiée fin 2013. En effet, à la question de l’autonomie dans l’emploi de la force létale, la feuille de route renvoie à la directive citée précédemment. Pour autant, le développement de l’autonomie dans d’autres domaines de compétence sera-t-il sans incidence sur l’emploi de la force létale ? La question mérite d’être posée tant l’autonomie des systèmes inhabités est posée comme un facteur incontournable d’amélioration des performances et de réduction des risques, notamment dans les environnements hostiles.

Actuellement, il n’existerait pas, à proprement parler, de drones autonomes selon le document. Ceux utilisés par les États-Unis sont pilotés à distance. Ce n’est que dans des circonstances exceptionnelles qu’ils passent à des procédures automatisées, comme lors de la perte du lien de transmission avec l’opérateur. Dans ce cas, la directive du Département de la Défense indique que les plates-formes sont « conçues pour ne pas sélectionner et engager des cibles individuelles ou des groupes de cibles spécifiques qui n’ont pas été préalablement sélectionnés par un opérateur humain autorisé ». Les systèmes inhabités susceptibles d’opérer de façon autonome sont, en fait, préprogrammés pour accomplir des actions définies à plusieurs reprises et indépendamment d’une influence ou d’un contrôle externe, ce qui ne signifie pas que ces systèmes ne sont pas surveillés. Autrement dit, ces systèmes inhabités ne sont pas encore capables de définir un cap en fonction d’un objectif donné ou de choisir un objectif définissant un cap.

Dans le futur, la feuille de route indique que les systèmes inhabités passeront d’une autonomie d’exécution de la mission à une « autonomie de performance ». Dans le premier cas, le système inhabité exécute un plan préprogrammé alors que, dans le second, la performance est associée aux résultats de la mission qui peuvent varier en cours et requérir un changement par rapport aux tâches préprogrammées. L’autonomie de performance peut demander la capacité d’intégrer la détection, la perception, l’analyse, la communication, la planification, la prise de décision, et l’exécution pour atteindre les buts d’une mission contre les fonctions d’un système. Ici, la préprogrammation est partie intégrante des lois et des stratégies permettant au système de décider lui-même.

Peut-on imaginer que cette « autonomie de performance » n’impacte pas la prise de décision dans l’usage de la force létale ? Commentant la directive de novembre 2012 du Département de la Défense, Mark Gubrud remarquait déjà l’ambiguïté et le caractère relatif des définitions données par le document.  Ainsi, un système d’arme semi-autonome est celui conçu pour engager les cibles préalablement sélectionnées par l’opérateur humain. Mais si le système lui-même est autonome pour suivre et identifier une cible, établir les priorités et décider du moment pour faire feu, que reste-t-il à l’opérateur ? La « sélection » pourrait-elle n’être qu’une approbation ? Il est probable que l’humain sorte progressivement de la boucle à mesure que les systèmes inhabités se dirigent vers l’autonomie de performance.

Dès lors, l’intervention humaine se limiterait à la phase de conception des algorithmes et des logiciels de développement. Certes, cette intervention est cruciale car elle détermine la qualité de l’autonomie. Dans ces algorithmes, les « schémas de vie » du système sont importants pour assurer la précision et la justesse de la prise de  décision du software. À ce titre, la boucle OODA (« observation, orientation, decision, action ») doit être continuellement mise à jour. Le document fait une analogie avec le cerveau humain : « le cerveau humain peut fonctionner dans des environnements dynamiques et s’adapter aux changements aussi bien que prédire ce qui arrivera par la suite. En termes simples, les algorithmes doivent agir comme le fait le cerveau humain ».

À terme, l’objectif  est d’arriver à des équipes intelligentes de systèmes inhabités opérant de façon autonome dans des environnements hostiles, ou en collaboration avec des plates-formes habitées.

Laisser un commentaire

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l'aide de votre compte WordPress.com. Déconnexion / Changer )

Image Twitter

Vous commentez à l'aide de votre compte Twitter. Déconnexion / Changer )

Photo Facebook

Vous commentez à l'aide de votre compte Facebook. Déconnexion / Changer )

Photo Google+

Vous commentez à l'aide de votre compte Google+. Déconnexion / Changer )

Connexion à %s