Par akademiotoelektronik, 03/12/2022

La présidence du Conseil de l’UE propose des changements importants à la proposition de loi sur l’IA

La présidence slovène a fait circuler un texte de compromis sur le projet de loi sur l’IA de l’UE, comprenant des changements majeurs dans les domaines du scoring social, des systèmes de reconnaissance biométrique et des applications à haut risque, tout en identifiant les futurs points de discussion.

La présidence tournante du Conseil de l’UE a partagé un premier texte de compromis lundi 29 novembre pour accompagner un rapport d’étape sur la loi européenne sur l’IA.

Champ d’application et définitions

Dans le rapport d’étape, vu par EURACTIV, les pays de l’UE réaffirment leur compétence exclusive en matière de sécurité nationale, et insistent sur le fait que les systèmes d’IA (intelligence artificielle) développés exclusivement à des fins militaires devraient être retirés du champ d’application du règlement.

Les systèmes d’IA développés dans le seul but de la recherche scientifique et du développement ont également été exclus du champ d’application.

La présidence a élaboré la définition des systèmes d’IA afin de mieux les distinguer des programmes logiciels classiques. Les systèmes d’IA sont donc considérés comme ayant la capacité de traiter des données ou d’autres types d’entrées « pour déduire la manière d’atteindre un ensemble donné d’objectifs définis par l’homme par l’apprentissage, le raisonnement ou la modélisation », selon le compromis.

Un fournisseur d’IA est désormais défini comme un individu ou une organisation « qui fait développer un système d’IA et qui met ce système sur le marché ou le met en service ». Les fournisseurs auront la responsabilité d’assurer la conformité avec les exigences du règlement.

Une nouvelle catégorie de système d’IA « à usage général » a été ajoutée, qui ne doit pas être considérée comme relevant du champ d’application du règlement, sauf si le système appartient à une marque commerciale ou s’il est intégré dans un autre système soumis au règlement.

Notation sociale

La proposition de la Commission comprend une interdiction des applications d’IA considérées comme présentant des risques inacceptables. L’une d’entre elles est le scoring social ou notation sociale, une pratique initiée en Chine qui est considérée comme favorisant la surveillance de masse.

La présidence propose maintenant d’étendre l’interdiction de la notation sociale des autorités publiques aux entités privées. En outre, la définition de l’interdiction a également été étendue pour inclure l’exploitation d’une « situation sociale ou économique. »

Ces changements pourraient avoir de profondes répercussions sur le secteur financier, car, par exemple, les taux d’intérêt des prêts sont actuellement calculés en fonction de la probabilité de remboursement.

L’utilisation de systèmes d’IA pour l’estimation des primes d’assurance a également été incluse dans les systèmes à haut risque.

Données et intelligence artificielle : comment l’Europe veut rattraper son retard

La Commission européenne a présenté les grands axes de sa stratégie numérique pour son nouveau mandat, qui court jusqu’en 2024. Son but : rattraper le retard accumulé face aux géants américains et chinois. Un article de notre partenaire La Tribune.

Reconnaissance biométrique

Les systèmes d’identification biométrique couverts par la législation ne sont plus définis comme des systèmes « à distance », mais comme tout système permettant d’identifier des personnes « sans leur accord ».

La possibilité d’utiliser des systèmes d’identification biométrique en temps réel a été étendue à des acteurs qui ne sont pas des autorités répressives mais qui collaborent avec elles. La raison de l’utilisation de ces systèmes a été étendue à la protection des infrastructures critiques.

Les systèmes biométriques ne peuvent être utilisés qu’avec l’accord de l’autorité judiciaire. En cas d’urgence, la proposition initiale prévoyait que l’autorisation pouvait également être demandée a posteriori.

En revanche, selon le nouveau texte, l’autorisation doit « être demandée sans retard excessif pendant son utilisation, et si cette autorisation est rejetée, il est mis fin à son utilisation avec effet immédiat ».

Intelligence artificielle : la Commission veut interdire la "surveillance indiscriminée" d'après des documents internes

La Commission européenne cherchera à mettre hors la loi les systèmes d’intelligence artificielle utilisés pour des opérations de « surveillance indiscriminée » dans le cadre de nouvelles interdictions qui seront présentées la semaine prochaine.

Systèmes à haut risque

La loi sur l’IA introduit des obligations spécifiques qui présentent un risque élevé en termes de santé, de sécurité et de droits fondamentaux. Dans sa proposition, la Commission a identifié huit domaines à haut risque, qui ne peuvent être modifiés mais seulement définis plus précisément à l’avenir.

Le changement le plus significatif dans la liste des systèmes à haut risque est l’inclusion de l’infrastructure numérique destinée à protéger l’environnement, notamment « les systèmes d’IA destinés à être utilisés pour contrôler les émissions et la pollution. »

Dans le domaine de l’application de la loi, la sous-catégorie de l’analyse de la criminalité a été supprimée.

Le texte de compromis prévoit que la Commission européenne devra évaluer la liste des systèmes à haut risque tous les deux ans, ainsi que la liste des techniques et approches d’IA couvertes par le règlement.

Intelligence artificielle : le gouvernement va investir 1,5 milliard d'euros pour créer des champions

Le secrétaire d’État au Numérique, Cédric O, et la ministre de l’Enseignement supérieur et de la Recherche, Frédérique Vidal, ont présenté lundi (8 novembre), la 2ᵉ phase de la stratégie nationale pour l’intelligence artificielle, à l’occasion de l’événement « France is AI ».

Questions en suspens

Le rapport d’avancement prévoit un certain nombre de domaines qui devraient nécessiter des discussions supplémentaires.

Les exigences relatives aux systèmes à haut risque sont signalées comme étant vagues et nécessitant des orientations pratiques pour faciliter la conformité des entreprises. Les exemples donnés concernent la manière dont les obligations en matière de qualité des données et de transparence pourraient être remplies dans la pratique.

En outre, plusieurs pays de l’UE ont souligné que l’exigence de données complètes et exemptes d’erreurs pourrait être largement irréaliste. « Un certain nombre de délégations ont souligné que si cela devrait être le cas dans toute la mesure du possible, cela ne devrait pas être une exigence absolue », peut-on lire dans le rapport.

Plusieurs États membres ont également souligné la complexité de la chaîne de valeur, « où les frontières entre les différents acteurs ne sont pas toujours clairement délimitées. » En conséquence, la répartition des responsabilités pourrait devoir être réévaluée pour mieux refléter la réalité des chaînes de valeur de l’IA.

La charge administrative excessive pour les PME a été un thème récurrent dans les discussions, une question qui a également été soulevée lors du dernier sommet des chefs d’État de l’UE.

Des inquiétudes ont également été exprimées quant à la relation entre la loi sur l’IA et d’autres textes législatifs de l’UE afin d’éviter les conflits de législation, notamment en termes de protection de la vie privée, d’application de la loi, de sécurité des produits et d’autres législations sectorielles.