Alors que l’actualité regorge de cas d’usages des données issues de la reconnaissance faciale par intelligence artificielle – notamment en Asie – l’Union européenne envisage l’adoption d’une législation spécifique visant à l’encadrement des usages de ces technologies pour renforcer davantage la protection des données à caractère personnel des citoyens européens.
Une prise de conscience
Dans la résolution adoptée le 12 février 2019 sur « une politique industrielle européenne globale sur l’intelligence artificielle et la robotique » (2018/2088(INI)), le Parlement européen définit l’IA comme une technologie stratégique du XXIe siècle en soulignant la nécessité impérieuse de combler le fossé séparant l’Europe de l’Amérique du Nord et de l’Asie-Pacifique et souhaite faire la promotion d’une approche coordonnée au niveau européen « pour pouvoir concurrencer les investissements massifs réalisés par les pays tiers, notamment les États-Unis et la Chine ».
Soulignant le retard accumulé par l’Europe au niveau des investissements privés en matière de technologies liées à l’IA (2,4 à 3,2 milliards € en 2016, contre 6,5 à 9,7 milliards € en Asie-Pacifique et 12,1 à 18,6 milliards € en Amérique du Nord), le Parlement européen pense relever ce défi en encourageant une approche globale fondée sur un environnement réglementaire stratégique pour l’IA tout en développant une forte protection des utilisateurs.
Tout au long de cette résolution, le Parlement européen relève que « les schémas et doctrines existantes peuvent être facilement appliqués » formant d’ores et déjà un ensemble règlementaire susceptible d’encadrer le fonctionnement des technologies liées à l’IA, la gouvernance et la sécurité des bases de données et de la couche applicative – véritable épine dorsale de cette technologie – et les données personnelles qui sont régies par des dispositions spécifiques comme le RGPD.
Néanmoins, l’absence de disposition relative à la responsabilité compromet la sécurité juridique. La nature même de cette technologie rendant inévitablement insuffisantes, voire caduques, les dispositions civiles.
La résolution 2018/2088(INI) du Parlement européen vise également à une harmonisation des règles nationales, remarquant que certains pays ont déjà légiféré, ce qui pourrait conduire à « une règlementation excessive dans les systèmes de robotiques et d’IA ».
Le texte s’attarde également sur la question de la cybersécurité, autre aspect crucial de l’intelligence artificielle. Technologie duale pouvant à la fois lutter contre les cyberattaques et en faire l’objet, le Parlement estime essentiel de prévenir les lacunes et l’utilisation abusive des IA en appliquant des « contrôles de sécurité des produits par les autorités de surveillance du marché et les règles de protection des consommateurs ». Pour ce faire, il recommande que l’Union européenne développe une indépendance technologique capacitaire et structurelle (Datacenter, systèmes et composant cloud) ainsi que des composants informatiques, notamment des processeurs. Louable dans l’esprit, ce dernier point semble néanmoins relever de l’incantatoire au regard de la situation actuelle.
La résolution propose donc d’établir un cadre juridique reposant sur la notion d’éthique et faisant la promotion de technologies « ethic-by-design » dans un format proche du modèle « privacy-by-design », développé par le Règlement général de la protection des données (RGPD).
Vers l’initiative règlementaire
Dans un article du 22 août 2019, le Financial Times dévoile que la Commission européenne serait en train d’examiner la possibilité d’imposer des mesures restrictives quant à l’utilisation par des acteurs privés et publiques des technologies de surveillance par reconnaissance faciale. En l’espèce, l’institution considèrerait la rédaction d’une règlementation – à l’échelle communautaire – visant à l’octroi de droit explicites quant à l’utilisation faites des données issues de la reconnaissance faciale des citoyens européens.
Pour rappel, cette institution de premier plan au niveau de l’UE, créée par le traité de Rome en 1957 (articles 155 et 163), a pour mission l’initiative législative et la mise en œuvre des politiques communautaires. Alors qu’elle joue un rôle central dans la garantie de l’intérêt général au sein de l’Union, ses membres ne sont néanmoins pas issus du suffrage universel. Composée d’un commissaire européen par État membre (soit 27 commissaires plus un pour le Royaume-Uni) ceux-ci sont proposés par les chefs d’État ou de gouvernement de chaque pays au sein du Conseil européen et approuvés par le Parlement européen.
Selon les sources du quotidien économique et financier britannique, cette initiative s’inscrirait dans le cadre de la volonté affichée de la Commission de soutenir une refonte législative de la manière dont l’Union règlemente l’usage fait des technologies liées à l’intelligence artificielle, ce qui devrait permettre aux citoyens européens de « savoir quand les données [issues de la reconnaissance faciale] sont utilisées, à l’exception de toutes restrictions strictement encadrées afin d’assurer une utilisation appropriée [de ces données] ».
Alors que la Commission jouit aujourd’hui de l’aura des pionniers après l’adoption en avril 2016 du Règlement général sur la protection des données (RGPD ou General Data Protection Regulation – GDPR), celle-ci vise désormais à la création d’un cadre (commun aux États membres) de lois éthiques régissant l’intelligence artificielle (IA). Selon un officiel interrogé par le Financial Times, l’objectif serait de « favoriser la confiance et l’acceptation du public » quant aux nouvelles technologies « qui comportent des risques spécifiques [en matière de protection des données à caractère personnelles] ». L’Union européenne cherche à réitérer les effets du RGPD, en établissant « une norme mondiale pour la règlementation de l’IA [en fixant] des règles claires, prévisibles et uniformes qui protègent adéquatement les individus ».
Ces initiatives reflètent le fait que les institutions européennes s’efforcent plus que jamais de se positionner dans le secteur de l’IA en adoptant une approche singulière, basée sur l’implication des parties prenantes, afin qu’à l’avenir elles puissent contribuer efficacement à l’évolution de la règlementation.
Premières recommandations
Ces déclarations font suite à une accélération manifeste de la prise d’initiative du législateur européen sur ces sujets. En juin 2018, la Commission européenne avait déjà constitué un groupe d’experts de haut niveau avec pour objectif de soutenir la mise en œuvre de la stratégie européenne sur l’intelligence artificielle et ce, notamment, au travers de recommandations sur l’élaboration de politiques relatives à l’avenir, les questions éthiques, juridiques et sociétales de l’IA, en incluant les défis socio-économiques.
Composé de 52 experts indépendants issues des milieux académiques et industriels ainsi que de la société civile, le High-Level Expert Group on Artificial Intelligence (AI HLEG) a publié en juin dernier un premier rapport précisant une série de lignes directrices en matière d’éthique concernant l’intelligence artificielle : la légalité (conforme aux lois et règlements applicables), l’éthique (garantie du respect absolu des valeurs éthiques) et la robustesse.
L’AI HLEG propose une approche human-centric (axé sur l’humain) de l’IA et énumère des recommandations en matière de législation et de politiques d’investissements ainsi qu’une liste de sept exigences clés auxquelles doivent satisfaire les systèmes pour être « dignes de confiance » :
- Organisation et supervision humain : Incluant les droits fondamentaux, l’action et la supervision humaine des IA ;
- Sécurité et robustesse technique : Incluant la résilience aux attaques et la sécurité, les dispositions de protection, la précision, la fiabilité et la reproductibilité ;
- Protection de la vie privée et gouvernance des données : Incluant le respect de la vie privée, la qualité et l’intégrité des données et l’accès aux données ;
- Transparence : Incluant la traçabilité, l’exploitation et la communication des données collectées ;
- Diversité, non-discrimination et équité : Incluant la prévention des biais abusifs, l’accessibilité et la conception universelle, ainsi que la participation des parties prenantes ;
- Bien-être de la société et de l’environnement : Incluant la viabilité, la soutenabilité et le respect de l’environnement ainsi que l’impact social, sociétal et démocratique ;
- Responsabilité : Incluant l’audit, la minimisation et la notification des impacts négatifs, les arbitrages et les recours.
Bien que ces recommandations et lignes directrices puissent paraître relativement théoriques, la Commission européenne a fourni un effort particulier en matière d’applications politiques et d’investissements en formulant quelques 33 recommandations devant permettre d’atteindre un cadre de confiance pour l’IA.
Il s’agit en effet d’un prérequis nécessaire, qui jouera – à terme – un rôle clé dans la construction du futur cadre législatif européen pour l’intelligence artificielle.
Par cette initiative, l’UE et ses institutions visent à encourager la recherche et le débat sur la création d’un cadre éthique encadrant cette technologie. Poursuivant une véritable action de lobbying auprès des organes multilatéraux, en particulier l’OCDE et le G20, les 27 souhaitent peser sur les travaux internationaux afin de pouvoir garantir que l’Union puisse rester compétitive tout en profitant autant que possible des retombées des développements de ces technologies.
La prochaine étape pourrait être politique. Succédant au luxembourgeois Jean-Claude Juncker à la tête de la Commission européenne, Ursula Gertrud von der Leyen (CDU) sera investie au 1er novembre prochain. L’Allemande a d’ores et déjà déclaré qu’elle dévoilera – au cours des 100 premiers jours de son mandat – une législation devant fournir « une approche européenne coordonnée sur les implication humaines et éthiques de l’intelligence artificielle ».
Jean Lebougre