La Commission africaine des droits de l’homme et des peuples (la Commission), réunie en sa 31ème Session Extraordinaire, tenue virtuellement du 19 au 25 février 2021:
Rappelant son mandat de promotion et de protection des droits de l'homme et des peuples en Afrique en vertu de l’article 45 de la Charte africaine des droits de l'homme et des peuples (la Charte africaine) ;
Reconnaissant que les technologies telles que l’intelligence artificielle (IA), la robotique et les autres technologies nouvelles et émergeantes, présentent à la fois des opportunités et des dangers pour la promotion et la protection des droits de l’homme en Afrique ;
Réaffirmant l’importance de l’accès à Internet à l’ère du numérique et ses implications pour la réalisation des droits de l’homme inscrits dans la Charte africaine et d’autres instruments des droits de l’homme de l’Union africaine (UA) ;
Rappelant la stratégie de l'UA en matière de sciences, de technologie et d'innovation pour l'Afrique, en particulier dans le contexte de la Quatrième Révolution industrielle ;
Notant les défis et les préoccupations posés par les systèmes autonomes non soumis à un contrôle humain effectif et l'utilisation d'algorithmes dans Google, Amazone, Facebook et Android ;
Notant également les défis posés par l'intelligence artificielle et les technologies numériques concernant la protection des données, mais aussi le désordre informationnel, en particulier la désinformation et les mauvaises informations en lien avec les “shallowfakes” [1] et des deepfakes [2], ainsi que les médias manipulés, rendus possibles par certaines technologies de l’intelligence artificielle, la robotique et d’autres technologies nouvelles et émergentes ;
Notant en outre la montée de discours haineux en ligne sous forme d'insultes raciales, de misogynie, de misandrie, de xénophobie à l'ère du numérique et les défis des retraits de contenu par des algorithmes susceptibles d’avoir une incidence négative sur les preuves pertinentes d'abus des droits de l'homme ou une incidence discriminatoire contre des populations particulières ;
Reconnaissant la nécessité d’une recherche exhaustive et multidisciplinaire sur les opportunités et les défis soulevés dans le domaine de l'éthique, du droit, de la sûreté et la sécurité par les technologies de l’intelligence artificielle, la robotique et d’autres technologies nouvelles et émergentes en Afrique ;
Reconnaissant que, si les sociétés d’intelligence artificielle, à l'instar des organisations et des entreprises utilisant les technologies de l’intelligence artificielle, la robotique et d’autres technologies nouvelles et émergentes, ont un impact important sur la protection des droits de l'homme en Afrique, il n'existe pas de cadre global qui régisse leurs opérations pour garantir leur conformité aux obligations en matière des droits de l'homme sur le continent ;
Notant avec préoccupation que le développement et l’usage de technologies de l’intelligence artificielle, la robotique et d’autres technologies nouvelles et émergentes ont des conséquences de grande portée sur les droits de l’homme en général comme le droit à la vie privée et les droits socioéconomiques en particulier, tels que prévus dans la Charte africaine et d’autres instruments régionaux comme le droit au travail, à l’éducation, à la santé, à une sécurité sociale et à l’accès à des services sociaux ;
Reconnaissant la nécessité de créer les conditions d’exploitation des avantages de l’intelligence artificielle en en minimisant les impacts négatifs et la nécessité d'instituer des cadres suffisants en Afrique pour garantir une distribution égale et équitable des avantages de l'intelligence artificielle de manière à ne pas exacerber les inégalités ;
Reconnaissant en outre la nécessité d’un cadre de gouvernance global des technologies de l’intelligence artificielle, de la robotique et d’autres technologies nouvelles et émergentes en Afrique de manière à renforcer la protection des droits de l’homme sur le continent africain, y compris la protection de la propriété des données sur l’expérience des individus dans le domaine numérique ;
Insistant sur l’importance de la participation des États africains et des Africains au développement de politiques et de cadres de gouvernance internationaux pour les technologies de l’intelligence artificielle, la robotique et d’autres technologies nouvelles et émergentes ;
Rappelant l’Observation générale n° 3 de 2015 de la Commission africaine sur l’Article 4 de la Charte africaine et des peuples faisant observer que « toute autonomie laissée à la machine pour choisir des cibles humaines ou le recours à la force devrait être subordonnée à un contrôle humain effectif » ;
Ayant à l’esprit la déclaration de 2018 du Groupe d’experts gouvernementaux des Nations Unies sur les systèmes d’armes létales autonomes par le Groupe des États d’Afrique selon laquelle « les notions de dignité et d’humanité sont mères de tous les droits de l’homme et devraient régir la conduite humaine, notamment les inventions humaines », il est « inhumain, odieux, répugnant et contraire à la conscience publique que des humains abandonnent le contrôle des machines » et « cette technologie devrait être uniquement consacrée à la prospérité et aux progrès des êtres humains dans toutes les sphères de la vie » ;
Consciente du rapport de 2019 du Groupe de travail d’experts des Nations sur les personnes d’ascendance africaine (A/HRC/42/59) faisant observer que « le développement de nouvelles technologies doit refléter un fort engagement dans les droits de l’homme et la dignité humaine » et prudente à l’égard de « l’influence continue des mentalités canalisant certains discours, notamment les croyances racistes qui restent inscrites dans la prise de décision et l’importance de faire apparaître ces points de vue pour atténuer leur impact, en particulier dans les algorithmes informatisés pouvant être dépourvus de capacité de réflexion ou d’une perspective indépendante efficace »;
Notant que les différentes utilisations et les utilisations potentielles de technologies de l’intelligence artificielle, la robotique et d’autres technologies nouvelles et émergentes dans le système de justice pénale, l’application des lois, l’immigration, le contrôle des frontières, les élections, la prise de décision commerciale etc. ont des implications pour différents droits inscrits dans la Charte africaine tels que le droit à la vie, le droit à la dignité, le droit à la liberté, le droit à l'égalité et à la non-discrimination, la liberté de réunion et le droit à la liberté d’expression ;
Notant que la création et le partage d'informations, de désinformations et d’informations non sollicitées, notamment les images sexuelles non consensuelles et les matériels de radicalisation ou incitant à la violence renforcés par les technologies de l’intelligence artificielle, la robotique et d’autres technologies nouvelles et émergentes, peuvent avoir un impact sur la liberté d'expression, le droit à l'égalité et à la non-discrimination, la liberté de réunion, la vie privée et le droit à la vie.
Insistant sur la nécessité d'une prise en considération suffisante des normes, de l’éthique, des valeurs africaines telles que l’Ubuntu[3] , les valeurs et traditions communautaires et la protection contre la domination d’une personne par une autre, contre le racisme et les autres formes de discrimination dans la création de cadres de gouvernance de l’intelligence artificielle;
Soulignant la nécessité d’élaborer une étude sur l’impact de l’intelligence artificielle, la robotique et d’autres technologies nouvelles et émergentes sur les droits de l’homme et des peuples en Afrique ;
LA COMMISSION :
1. Appelle les États parties à veiller à ce que le développement et l’utilisation de technologies de l’intelligence artificielle, de la robotique et d’autres technologies nouvelles et émergentes soient compatibles avec les droits et les devoirs inscrits dans la Charte africaine et d’autres instruments régionaux et internationaux des droits de l’homme afin de maintenir la dignité humaine, la vie privée, l'égalité, la non-discrimination, l’inclusion, la diversité, la sécurité, l’équité, la transparence, la responsabilité et le développement économique comme principes sous-jacents devant guider le développement et l’utilisation de l’intelligence artificielle, de la robotique et d’autres technologies nouvelles et émergentes.
2. Exhorte les États parties à s’assurer que toutes les technologies de l’intelligence artificielles, la robotique et d’autres technologies nouvelles et émergentes, importées d’autres continents, soient rendues applicables au contexte africain ou adaptées pour correspondre aux besoins de l’Afrique et qu’ils prennent sérieusement en considération les valeurs et les normes africaines dans la formulation des cadres de gouvernance de l’intelligence artificielle pour prendre en compte l’injustice épistémique prévalant actuellement dans le monde.
3. Exhorte les États parties à garantir la transparence dans l’utilisation des technologies de l’intelligence artificielle, la robotique et d’autres technologies nouvelles et émergentes et que les décisions prises concernant l’utilisation de technologies de l’intelligence artificielle, la robotique et d’autres technologies nouvelles et émergentes soient rapidement compréhensibles pour les personnes concernées par ces décisions.
4. Appelle les États parties à œuvrer dans le sens d'un cadre de gouvernance juridique et éthique global pour les technologies de l'intelligence artificielle, la robotique et d’autres technologies nouvelles et émergentes afin d'en garantir la conformité avec la Charte africaine et d’autres traités régionaux.
5. Appelle l'Union africaine et les organismes régionaux à inscrire d'urgence dans leurs agendas la question des technologies de l'intelligence artificielle, la robotique et d'autres technologies nouvelles et émergentes en vue d’élaborer un cadre régional réglementaire qui permettra de mettre en place des technologies qui répondent aux besoins des populations du le continent.
6. Appelle les États parties à s’assurer que toutes les technologies de l’intelligence artificielle, la robotique et les autres technologies nouvelles et émergentes qui ont des conséquences de longue portée pour les humains doivent rester sous un contrôle humain effectif, en vue de garantir que la menace qu'elles représentent pour les droits fondamentaux de l'homme est écartée. La norme émergente relative au maintien d’un contrôle humain effectif des technologies de l'intelligence artificielle, la robotique et d’autres technologies nouvelles et émergentes doit être codifiée en tant que principe des droits de l'homme.
7. S’engage à entreprendre une étude afin d'affiner des lignes directrices et des normes sur les questions relatives aux technologies de l’intelligence artificielle, la robotique et d’autres technologies nouvelles et émergentes et leur impact sur les droits de l’homme en Afrique en collaboration avec un Groupe africain d’experts sur l’intelligence artificielle et les nouvelles technologies.
Fait virtuellement, le 25 février 2021
[1]Un “shallowfake” est une méthode de manipulation de contenu médiatique sans l'utilisation de la technologie d'apprentissage automatique et de systèmes algorithmiques. Au lieu de cela, les shallowfakes utilisent un simple logiciel de montage vidéo pour modifier le contenu médiatique existant.
[2]Les Deepfakes (hypertrucage) sont de nouvelles formes de manipulation audiovisuelle basées sur l'intelligence artificielle qui permettent aux gens de créer des simulations réalistes du visage, de la voix ou des gestes d'une personne. Ils permettent aux gens de faire croire que quelqu'un a dit ou fait quelque chose qu'il n'a pas dit ou qu'un événement qui n'a jamais eu lieu s'est produit
[3]L’humanité collective qui nous relie tous les uns aux autres
