#KEYNOTE

Quelles valeurs pour une "régulation de l'IA par l'éthique" ?

Rayna Stamboliyska

Le développement de technologies relevant de "l'intelligence artificielle" (IA) occupe une place importante de l'espace médiatique contemporain et oriente de plus en plus les programmes d'investissements publics et privés. Ce développement s'accompagne de mouvements civiques plus ou moins organiques, dont l'émergence d'organisations non-gouvernementales dédiées. Ces mouvements semblent privilégier une "éthique de l'algorithme" aux "droits numériques fondamentaux" qui sont plus fréquemment associés avec des revendications d'accessibilité et d'usages équitables pour toutes et tous. Ces mouvements ainsi que des think tanks plus traditionnels souhaitent ainsi infléchir les manières dont "on fait de l'IA" en éditant, notamment, des guides et autres position papers sur les systèmes éthiques que la masse informe des "développeurs d'IA/d'algorithmes" devrait adopter pour le salut de l'humanité.

Ethics

Si ces activités sont nécessaires pour permettre à des visions d'émerger et signent une vivacité intellectuelle, l'impact réel de leurs apports reste encore à démontrer. Mais plus prégnante encore est la relative homogénéité des valeurs dans ces activités et de leur tendance à dessiner une morphologie particulière de "l'éthique de l'IA". Ainsi, l'analyse de près de 200 guides présentant de bonnes pratiques et des recommandations pour une "IA éthique" permet d'identifier les préoccupations principales de ces initiatives telles que les tensions entre développement économique et les limites d'une prise de décision automatisée appliquée à large échelle. D'une part, ces guides font émerger une "éthique de l'AI" difficilement dissociable d'une éthique business. D'autre part, lorsque les guides portent sur les droits fondamentaux, le parti pris est celui d'un universalisme occidental. Ainsi par ex., plus d'un quart de ces guides émanent d'initiatives nord-américaines et pratiquement autant d'initiatives d'Europe de l'Ouest ; une seule telle initiative provient d'Europe centrale et il ne semble pas y avoir de telles initiatives émanant d'Europe de l'Est ou de l'Afrique. Au-delà de la question de "qui" impose un système de valeurs émerge aussi la question de la forme que prennent ces recommandations et, ainsi, du danger du dévoiement de sens du mot "éthique".

Cette intervention propose une exploration des différents guides publiés à ce jour pour provoquer une discussion sur l'avenir moral qu'ils dessinent.

Rayna Stamboliyska

Rayna est stratégiste et prospectiviste avec un focus sur la cyberdiplomatie et la résilience à travers les questions liées à la cybersécurité, l'autonomie stratégique et la protection des données. Auteure primée pour son dernier livre « La face cachée d'Internet » (Larousse 2017), Rayna aime aussi hacker des IoT et est fervente partisane de l'open source, des données et de la science. Elle a exploré l'impact des données et de la technologie dans les zones de conflit et de reconstruction dans la région MENA et en Europe de l'Est. Elle a occupé divers postes de direction et est consultante pour des organisations internationales, des entreprises privées, des gouvernements et des organisations à but non lucratif, les guidant à travers des processus innovants d'élaboration de politiques. Elle est membre du Conseil d'administration de la Fondation Women4Cyber et experte indépendante et rapporteur du groupe de travail de l'ENISA sur les menaces émergentes.