Consultation de la Commission sur l’adaptation des règles actuelles pour tenir compte de l’Intelligence artificielle et de l’économie circulaire.
Le 18 octobre 2021, la Commission européenne a lancé une consultation publique sur la révision de la directive sur la responsabilité du fait des produits défectueux1 afin d'inclure de nouvelles règles pour tenir compte des développements dans le secteur du digital (Intelligence artificielle, objets connectés) et de l’économie circulaire.
Objectifs :
La Commission part du constat que certaines caractéristiques des technologies numériques telles que l'intangibilité des produits numériques, leur dépendance aux données, leur complexité et leur connectivité, présentent des défis dans l'application des règles de responsabilité.
Il en va de même des fonctionnalités spécifiques à l'IA, telles que le comportement autonome, l'adaptation continue, la prévisibilité et l'opacité limitées.
Ceci crée une insécurité juridique pour les entreprises et peut rendre difficile pour les consommateurs et autres parties lésées d'obtenir une indemnisation pour les dommages causés par les produits et services qui utilisent ces technologies.
D’autre part, la commission remarque que les modèles commerciaux circulaires dans lesquels les produits sont réparés, recyclés, remis à neuf ou améliorés sont de plus en plus courants et essentiels aux efforts de l'UE pour atteindre les objectifs de durabilité et de réduction des déchets.
Or la directive (sur la responsabilité du fait des produits défectueux) n'indique pas clairement qui devrait être responsable des défauts résultant de modifications apportées aux produits après leur mise en circulation.
Propositions :
Pour relever ces défis et compléter le cadre législatif composé de l’avant-projet de règlement concernant les obligations des fournisseurs et utilisateurs de systèmes d’IA (évoqué dans un article précédent) ainsi que le règlement sur les machines et la directive sur la sécurité générale des produits, la Commission propose différentes options.
Ci-dessous se trouvent les principales propositions évoquées dans les différentes options :
- Étendre les règles de responsabilité sans faute pour couvrir les produits immatériels (par exemple, les contenus numériques/logiciels) qui causent des dommages physiques/matériels, et pour traiter (i) les défauts résultant de modifications apportées aux produits après leur mise en circulation (par exemple, les mises à jour de logiciels ou les activités d'économie circulaire comme les remises à neuf de produits), (ii) les défauts résultant d'interactions avec d'autres produits et services (par exemple l'IoT) et (iii) les risques de connectivité et de cybersécurité. En outre, étendre la responsabilité sans faute aux marchés en ligne lorsqu'ils n'identifient pas le producteur.
- Étendre l'éventail des dommages pour lesquels une indemnisation peut être demandée en vertu de la directive aux dommages immatériels (par exemple, perte de données, atteintes à la vie privée ou dommages environnementaux).
- Harmoniser les régimes de responsabilité sans faute existants des opérateurs/utilisateurs qui s'appliquent aux produits équipés d'IA et aux fournisseurs de services basés sur l'IA (où les parties lésées doivent seulement prouver que le dommage émane de la sphère de l'opérateur du système d'IA).
- Alléger la charge de la preuve en (i) obligeant le producteur à divulguer les informations techniques à la partie lésée et (ii) permettant aux tribunaux de déduire qu'un produit est défectueux ou a causé le dommage dans certaines circonstances, par ex. lorsque d'autres produits de la même série de production se sont déjà avérés défectueux ou lorsqu'un produit présente un dysfonctionnement manifeste ou/et (iii) renversez la charge de la preuve. (En cas de dommage, le producteur devra prouver que le produit n'est pas défectueux.)
- Supprimer la « défense contre le risque de développement » pour garantir que les producteurs de produits qui apprennent et s'adaptent en permanence pendant leur fonctionnement restent strictement responsables des dommages.
- Assouplir les conditions de réclamation (supprimer le délai et seuil minimum de 500 euros pour les dommages matériels).
Critiques et réactions :
On remarque que ces propositions sont très avantageuses pour les lésés mais créent une pression énorme sur les acteurs du monde du digital et de l'économie circulaire.
En effet, si ces propositions sont adoptées en l’état, ceci exposera les acteurs du digital et de l’économie circulaire à une responsabilité sans faute pour des dommages qui sont parfois difficilement prévisibles.
Imaginons par exemple le cas d’un système d'IA qui prendrait une mauvaise décision basée sur son propre apprentissage (machine learning sur base d’algorithmes) à cause de son interaction avec d’autres produits ou services connectés qui n’existaient pas ou n’étaient pas sur le marché lorsque ce système d’IA a été mis sur le marché par son opérateur.
Dans ce cas, l’opérateur ou utilisateur identifié comme responsable du dommage (sans faute) dans la directive devra dédommager la ou les personnes lésées et ce même s’il ne pouvait pas prévoir ce type de dommage et n’a pas commis de faute et de surcroit également si le dommage est immatériel. (Par exemple un risque de cybersécurité, une fuite de donnée voire un dommage environnemental.
Les acteurs de l’économie circulaire seront également tenus de réparer tout dommages créés par leurs adaptations (par exemple corrections de bugs dans un logiciel).
Les réactions publiques à cette consultation par certains des acteurs concernés, notamment dans le secteur du digital expriment de manière assez unanime une inquiétude importante face à ces propositions.
Prenons à titre d’illustration quelques réactions extraites de la contribution de Google2 :
« Dans l'ensemble, Google estime que le cadre de responsabilité actuel de l'Europe reste à la fois efficace et neutre sur le plan technologique, de sorte que les changements radicaux doivent être traités avec prudence. (…)
Si les développeurs de logiciels sont soumis à une responsabilité sans faute pour tout bug dans leur code, cela pourrait effectivement empêcher le déploiement de pratiquement tous les logiciels en Europe et avoir un impact disproportionné sur les PME européennes. (…)
L'application équitable de la responsabilité sans faute à ces formes de dommages (immatériel) sera effectivement impossible sans le type d'analyse détaillée (factuelle et juridique) de la relation de cause à effet qui se produit dans une réclamation pour faute ou contractuelle. »
Conclusion
Pour conclure, bien qu'il s'agisse encore de propositions très préliminaires de la Commission, l'élargissement proposé de la responsabilité est révolutionnaire.
Certaines propositions, telles que l'allégement ou même le renversement de la charge de la preuve, ont le potentiel de modifier fondamentalement le régime de responsabilité de la directive actuelle.
On peut toutefois espérer pour les acteurs du digital et de l’économie circulaire que la Commission équilibrera encore ses propositions en tenant compte de leurs remarques afin de ne pas créer de déséquilibre trop important entre l’intérêt des lésés et le leur, ce qui pourrait être un frein au développement des secteurs visés.
La consultation prendra fin le 10 janvier 2022 et la Commission devrait prendre position au troisième trimestre 2022.
