A propos de Murielle Cahen

https://www.murielle-cahen.fr/

Avocat à la cour (Paris 5eme arrondissement) J'interviens principalement en droit de la propriété intellectuelle, droit des nouvelles technologies, droit civil & familial, droit pénal, droit de l'immobilier, droit du travail, droit de la consommation Consultation juridique en ligne - Réponse en 24/48h max. (€100 TTC) Titulaire du certificat de spécialisation en droit de l'informatique et droit de l'internet. Editrice du site web : Avocat Online depuis 1999. Droit de l'informatique, du logiciel et de l'Internet. Propriété intellectuelle, licence, presse, cession, transfert de technologie. droit d'auteur, des marques, négociation et arbitrage... Cabinet d'avocats à Paris. Droit internet et droit social, droit des affaires spécialisé dans les nouvelles technologies et lois internet...

Articles de Murielle Cahen:

La Proposition de Loi Narcotrafic : Une Menace pour les Libertés Numériques

La France est à un tournant décisif concernant la sécurité nationale et la préservation des droits fondamentaux, avec la récente proposition de loi « Narcotrafic » qui est débattue au Parlement.
NOUVEAU : Utilisez nos services pour faire retirer un contenu dénigrant ou de contrefaçon en passant par le formulaire et un avocat enverra une lettre de mise en demeure !

Présentée comme un nouvel outil dans la lutte contre le trafic de drogues, cette législation a suscité un large débat en raison de ses conséquences potentielles sur la vie privée et les droits numériques des citoyens. Supportée par les sénateurs Étienne Blanc et Jérôme Durain, et déjà approuvée à l’unanimité par le Sénat, cette loi envisage des mesures de surveillance radicales, notamment l’affaiblissement du chiffrement de bout en bout et l’autorisation d’accéder aux appareils connectés.

Bien que ces mesures soient justifiées par des préoccupations de sécurité publique, elles risquent d’éroder les bases de la confidentialité numérique, ouvrant ainsi la porte à d’éventuels abus de pouvoir. Des organisations militantes pour les droits numériques, telles que La Quadrature du Net, critiquent cette initiative, la qualifiant de « loi boîte noire » qui, sous prétexte de lutter contre le crime organisé, permettrait une surveillance de masse imprécise et invasive.

Les implications vont bien au-delà de la simple question du narcotrafic : il s’agit d’un moment crucial dans le paysage juridique et technologique français, qui pourrait voir le pays adopter des pratiques de contrôle numérique parmi les plus restrictives au monde.


Besoin de l’aide d’un avocat pour un problème de vie privée ?

Téléphonez – nous au : 01 43 37 75 63

ou contactez – nous en cliquant sur le lien


Entre l’impératif de sécurité et le danger de dérives, cette législation soulève la question de l’équilibre que l’État peut établir entre l’efficacité des forces de l’ordre et le respect des valeurs démocratiques.

I. Les atteintes techniques à la vie privée : un péril pour la sécurité collective

A. L’affaiblissement du chiffrement de bout en bout : une faille systémique

Le chiffrement de bout en bout constitue l’un des piliers de la confidentialité numérique. Protégé par le Règlement général sur la protection des données (RGPD) et reconnu par la Cour de justice de l’Union européenne (CJUE) comme essentiel à la vie privée, il garantit que seuls l’expéditeur et le destinataire d’un message en possèdent les clés de déchiffrement. Ce système est crucial, car il permet aux individus de communiquer en toute confiance, sans crainte que leurs échanges ne soient interceptés par des tiers, qu’il s’agisse de gouvernements, d’entreprises ou d’acteurs malveillants. La loi Narcotrafic exigerait des fournisseurs de messageries (Signal, WhatsApp, Olvid) l’implantation de « portes dérobées » (backdoors), permettant aux autorités d’accéder aux communications. Ce type de mesure pose de graves problèmes de sécurité. En effet, la création d’une backdoor compromet l’intégrité même du système de chiffrement.

L’idée que les autorités puissent accéder aux messages échangés repose sur la supposition que cette porte dérobée ne sera exploitée que par des agents autorisés.

Cependant, l’histoire a montré que chaque faille, une fois ouverte, peut être découverte et exploitée par des hackers ou des acteurs malveillants. Prenons l’exemple du piratage de l’entreprise Yahoo en 2013, où des millions de comptes d’utilisateurs ont été compromis en raison de failles de sécurité. Ce cas illustre parfaitement comment une vulnérabilité peut être exploitée à grande échelle.

De plus, les données sensibles ainsi exposées peuvent entraîner des conséquences désastreuses pour les individus concernés, telles que le vol d’identité, la fraude financière, ou même des menaces physiques. Par ailleurs, l’exemple britannique est éloquent : le Online Safety Act de 2023 a contraint Apple à affaiblir le chiffrement de iMessage, exposant ainsi ses utilisateurs à des piratages et des violations de la vie privée.

Si une entreprise comme Apple, dotée de ressources considérables pour la sécurité, a été forcée de céder, qu’en sera-t-il alors pour des applications moins connues comme Olvid, qui repose entièrement sur le respect de la confidentialité de ses utilisateurs ? En France, une telle mesure contraindrait probablement des acteurs comme Signal à se retirer du marché, privant les citoyens d’outils sécurisés.

Juridiquement, cette obligation heurte le principe de proportionnalité, inscrit à l’article 52 de la Charte des droits fondamentaux de l’UE.

La CJUE, dans l’arrêt La Quadrature du Net c. France (2020), a rappelé que la surveillance massive ne peut être justifiée que par des menaces graves et actuelles.

Or, le trafic de stupéfiants est déjà réprimé par des lois existantes et ne constitue pas une justification suffisante pour la mise en place de mesures aussi intrusives. Cette approche pourrait ouvrir la voie à des abus légaux, où n’importe quelle forme de délit pourrait être utilisée comme prétexte pour justifier des atteintes aux droits des citoyens.

Il est également nécessaire d’aborder les conséquences socio-économiques d’une telle mesure. L’affaiblissement du chiffrement pourrait avoir un impact dévastateur sur l’innovation technologique en France. Les développeurs et les entreprises pourraient être dissuadés d’investir dans des technologies de sécurité robustes, sachant que leur travail pourrait être contourné par des exigences législatives. Cela pourrait également diminuer la compétitivité de la France sur le marché mondial des technologies de sécurité, affectant ainsi l’économie à long terme.

B. L’espionnage des appareils connectés : une intrusion sans limites

La proposition autorise les forces de l’ordre à activer à distance micros et caméras d’appareils connectés, via l’exploitation de failles de sécurité. Cette pratique, comparable à l’utilisation du logiciel espion Pegasus, transforme chaque objet connecté en potentiel mouchard. L’usage de tels outils d’espionnage, bien que parfois justifié par des considérations de sécurité nationale, soulève d’importantes questions éthiques, morales et juridiques.

Le cadre juridique invoqué – la « criminalité organisée » – est d’une étendue problématique. Défini par l’article 132-71 du Code pénal, ce terme inclut des infractions variées (blanchiment, corruption, trafic), permettant une application large.

Par conséquent, la loi pourrait être utilisée non seulement pour traquer des criminels, mais aussi pour surveiller des dissidents politiques, des militants écologistes, ou même des journalistes enquêtant sur des affaires sensibles. En effet, l’histoire récente montre des abus : en 2019, des militants écologistes opposés à l’enfouissement des déchets nucléaires à Bure ont été placés sous surveillance illégale, selon un rapport de la Commission nationale de contrôle des techniques de renseignement (CNCTR).

La loi Narcotrafic risquerait de normaliser ces pratiques, en légalisant des méthodes jusqu’ici réservées au renseignement. D’un point de vue technique, l’absence de garanties contre les abus est criante. Contrairement à l’Allemagne, où la Cour constitutionnelle impose un « noyau dur de droits intangibles », la France ne prévoit ni contrôle judiciaire préalable systématique, ni obligation de destruction des données post-enquête. Cela signifie que les données collectées pourraient potentiellement être conservées indéfiniment et utilisées à des fins autres que celles pour lesquelles elles ont été initialement collectées. Cette absence de régulation adéquate pourrait ainsi transformer des dispositifs légaux en instruments de contrôle social, érodant progressivement les libertés individuelles au nom de la sécurité nationale. Il est crucial de s’interroger sur les implications psychologiques de cette surveillance omniprésente.

La simple connaissance que l’on pourrait être surveillé à tout moment peut créer un climat de méfiance au sein de la société. Les individus pourraient hésiter à exprimer librement leurs opinions ou à participer à des manifestations, par crainte de répercussions. Ce phénomène d’autocensure est particulièrement dangereux dans une démocratie, où le débat public et la contestation sont essentiels au fonctionnement d’une société libre. De plus, cette surveillance pourrait également avoir des conséquences sur la santé mentale des individus. La constante peur d’être observé peut engendrer un stress chronique, une anxiété et des troubles de la santé mentale. Cette dynamique peut créer un cercle vicieux où la surveillance vise à maintenir l’ordre, mais finit par miner le bien-être général de la population.

II. Les dérives démocratiques : entre opacité et érosion des droits de la défense

A. Le « dossier-coffre » : une entrave au procès équitable

La loi introduit un mécanisme de « procès-verbal distinct », isolant les preuves issues de la surveillance dans un « dossier-coffre » inaccessible aux avocats et aux personnes mises en cause. Cette pratique viole l’article 6 de la Convention européenne des droits de l’homme (CEDH), qui garantit le droit à un procès équitable, incluant la possibilité de contester les preuves. L’existence d’un dossier-coffre crée une asymétrie de pouvoir entre l’accusation et la défense, compromettant ainsi les fondamentaux d’une justice équitable.

La Cour EDH a condamné à plusieurs reprises des États pour usage de preuves secrètes. Dans l’arrêt Dowsett c. Royaume-Uni (2003), elle a jugé que l’impossibilité d’accéder à des éléments clés du dossier portait atteinte à l’équité du procès. En France, le Conseil constitutionnel, dans sa décision sur la loi Sécurité globale, a rappelé que « le secret des sources ne peut prévaloir sur les droits de la défense ». Pourtant, le « dossier-coffre » institutionnalise une asymétrie en faveur de l’accusation. Cela soulève des questions alarmantes sur la capacité des avocats à préparer une défense adéquate et met en péril le principe fondamental de la présomption d’innocence.

Il convient également de souligner que cette mesure pourrait dissuader les témoins potentiels de se manifester, de peur qu’ils soient eux-mêmes surveillés ou incriminés. Cela pourrait créer un climat de peur et de méfiance au sein de la société, où les citoyens pourraient hésiter à s’engager dans des discussions ou à dénoncer des abus de pouvoir, par crainte de représailles.

En somme, le « dossier-coffre » n’est pas seulement une atteinte aux droits des individus, mais aussi un danger pour la santé démocratique du pays, où la transparence et la responsabilité sont essentielles. Les conséquences d’un tel mécanisme sont d’autant plus graves qu’elles pourraient conduire à des condamnations injustifiées, fondées sur des preuves non contestables. Dans un État de droit, chaque accusé doit avoir la possibilité de défendre son innocence, et l’accès aux preuves est une condition sine qua non de cette défense. En prenant la forme d’un dossier cloisonné, cela crée un précédent dangereux où la justice pourrait être rendue sur des bases obscures, sapant ainsi la confiance du public dans le système judiciaire.

B. L’extension des « boîtes noires » : une surveillance algorithmique incontrôlée

Les « boîtes noires », instaurées en 2015 pour le renseignement anti-terroriste, sont étendues par la loi Narcotrafic à la lutte contre le crime organisé. Ces algorithmes analysent massivement les métadonnées (destinataires, heures d’appels) sans contrôle transparent. Leur opacité contrevient au principe de licéité des traitements, exigé par l’article 5 du RGPD, qui dispose que les personnes concernées doivent être informées des usages de leurs données. Or, ces dispositifs de surveillance ne permettent pas aux citoyens de comprendre comment leurs données sont collectées et utilisées, ce qui constitue une violation de leur droit à la vie privée.

L’exemple espagnol est instructif : en 2021, la Cour constitutionnelle a invalidé une loi similaire, estimant que la collecte indiscriminée de métadonnées créait un « profilage généralisé » contraire à la liberté d’expression. En France, le Défenseur des droits a alerté en 2022 sur les risques de discrimination algorithmique, citant une étude du CNRS montrant que ces outils surestiment la dangerosité des individus issus de quartiers défavorisés.

Il est essentiel de souligner que, dans l’absence de régulation adéquate, ces outils de collecte de données peuvent renforcer les inégalités sociales et exacerber les tensions communautaires. D’un point de vue technique, la nature même des algorithmes utilisés pose problème. Souvent, ces systèmes sont construits sur des modèles de données qui peuvent inclure des biais historiques, ce qui signifie qu’ils peuvent reproduire, voire aggraver, les inégalités existantes. Par exemple, des études ont montré que certains algorithmes de reconnaissance faciale sont moins efficaces pour identifier les personnes de couleur, ce qui peut conduire à des erreurs judiciaires ou à des discriminations systématiques. L’absence de contrôle indépendant sur l’utilisation de ces boîtes noires est également préoccupante.

Dans un contexte où la surveillance numérique s’intensifie, il est crucial de mettre en place des mécanismes de vérification et de responsabilité, afin d’éviter tout abus. En effet, la transparence est essentielle pour garantir la confiance du public dans les institutions. Sans mécanismes de contrôle adéquats, la possibilité de dérives et d’abus de pouvoir s’accroît, menaçant ainsi les fondements mêmes de nos démocraties. Il est impératif que le public soit informé des données qui sont collectées à son sujet et de la manière dont elles sont utilisées, afin de préserver les droits fondamentaux de chaque individu. Une société où les citoyens ignorent comment leurs données sont utilisées est une société qui risque de glisser vers un état de surveillance permanent, où les droits à la vie privée et à la liberté d’expression sont systématiquement compromis.

III. Critique de la proposition de la loi

Si la lutte contre le narcotrafic est légitime, la loi Narcotrafic apparaît comme un cheval de Troie liberticide. Ses dispositions dépassent largement leur objet initial, instaurant une surveillance généralisée peu compatible avec l’État de droit. Le recours aux backdoors et à l’espionnage des appareils crée des risques systémiques : piratage accru, fuites de données, défiance envers les technologies françaises. Juridiquement, le texte semble inconciliable avec le RGPD et la CEDH, exposant la France à des condamnations européennes. Politiquement, il normalise des pratiques jusqu’ici exceptionnelles, dans un contexte où les outils de surveillance sont régulièrement détournés contre des mouvements sociaux (Gilets jaunes, militants écologistes). Ce phénomène de normalisation des pratiques de surveillance représente une menace sérieuse pour les valeurs fondamentales de la République, qui repose sur des principes tels que la liberté, l’égalité et la fraternité.

Enfin, l’absence de débat démocratique éclaire – le vote unanime au Sénat, y compris par des groupes se réclamant des libertés, interroge. Une loi d’une telle portée mériterait des consultations approfondies avec des experts en cybersécurité et des défenseurs des droits, afin d’éviter qu’un légitime combat contre le crime ne se transforme en machine à broyer les libertés. Il est crucial que les citoyens soient engagés dans cette discussion, car l’absence de vigilance collective peut conduire à l’acceptation passive de mesures qui sapent les fondements mêmes de notre société.

En définitive, cette loi incarne un paradoxe : prétendant protéger les citoyens du crime organisé, elle les expose à des dangers bien plus grands – l’arbitraire étatique et l’insécurité numérique. Loin d’être un outil de sécurité, elle pourrait devenir un moyen de contrôle social, où chaque individu serait sous la menace d’une surveillance omniprésente, et où l’exercice des libertés fondamentales serait entravé par la peur de représailles. Les implications de cette loi vont au-delà des simples considérations techniques ou juridiques. Elles touchent à la notion même de démocratie.

La démocratie repose sur le principe de la transparence et de la responsabilité. Dans un système démocratique sain, les citoyens doivent pouvoir contrôler leurs institutions et être informés des actions de l’État. Or, la loi Narcotrafic, en introduisant des mécanismes de surveillance obscure et en limitant l’accès à des preuves cruciales, crée un environnement où les citoyens sont laissés dans l’ignorance et où les abus de pouvoir peuvent prospérer sans être contestés. De plus, cette loi pourrait déclencher une spirale de dérives où d’autres mesures de surveillance seraient justifiées par des arguments similaires de sécurité publique. Ce phénomène pourrait mener à une banalisation des atteintes aux droits fondamentaux, où les libertés individuelles sont progressivement sacrifiées sur l’autel de la sécurité. Les conséquences de cette dynamique seraient désastreuses pour l’ensemble de la société, entraînant une érosion des valeurs démocratiques et des droits civiques. Il est également essentiel de considérer la réaction du public face à une telle législation.

L’histoire a montré que l’acceptation passive des mesures de surveillance peut entraîner une normalisation de l’intrusion dans la vie privée. À long terme, cela pourrait mener à une société où les citoyens ne se battent plus pour leurs droits, ayant internalisé l’idée que la surveillance est une norme. Ce changement de mentalité est inquiétant, car il pourrait réduire la capacité des individus à revendiquer leurs droits et à s’opposer aux abus de pouvoir. La réaction de la société civile et des organisations de défense des droits humains sera donc cruciale dans les mois à venir. Il est impératif que les citoyens prennent conscience des implications de cette loi et s’engagent activement dans le débat public. La mobilisation des citoyens, via des campagnes de sensibilisation, des pétitions, ou des manifestations, est essentielle pour faire entendre leur voix et pour exiger des comptes de la part de leurs représentants élus. Seule une pression collective peut contraindre le législateur à reconsidérer cette proposition de loi et à garantir le respect des droits fondamentaux.

Enfin, il est fondamental que les élus, au-delà des considérations partisanes, prennent en compte l’avis des experts en droits numériques, en cybersécurité, et en éthique. Un dialogue ouvert et constructif entre les différentes parties prenantes permettra de trouver un équilibre entre les besoins de sécurité et le respect des libertés individuelles. Des solutions alternatives, qui garantissent la sécurité sans compromettre les droits fondamentaux, doivent être explorées et mises en avant.

Pour lire une version plus complète de cet article sur le projet de loi sur le narcotrafic, cliquez

Sources :

  1. Comprendre les grands principes de la cryptologie et du chiffrement | CNIL
  2. Tous les comptes Yahoo! ont été piratés lors de l’attaque de 2013 – Les Numériques
  3. Article 52 – Portée et interprétation des droits et des principes | European Union Agency for Fundamental Rights (Staging)

Article 26 du règlement Européen l’Intelligence Artificielle : pas de référent (Délégué à l’Intelligence Artificielle) expressément désigné dans une entreprise

L’encadrement juridique de l’intelligence artificielle (IA) au sein de l’Union européenne, est matérialisé par le Règlement sur l’Intelligence Artificielle (RIA). Ce cadre réglementaire, qui sera progressivement appliqué entre 2025 et 2027, vise à établir des normes claires afin de protéger les droits des individus tout en favorisant l’innovation technologique.
NOUVEAU : Utilisez nos services pour faire retirer un contenu dénigrant ou de contrefaçon en passant par le formulaire et un avocat enverra une lettre de mise en demeure !

L’article 26 de ce règlement, relatif aux obligations de conformité pour les fournisseurs et utilisateurs de systèmes d’IA à haut risque, cristallise une ambiguïté notable : l’absence d’une exigence explicite de désignation d’un référent interne dédié à l’IA, analogue au délégué à la protection des données (DPD) prévu par le Règlement général sur la protection des données (RGPD).

Il convient de rappeler que le RGPD impose, dans son article 37, la désignation d’un Délégué à la Protection des Données (DPD) pour les organismes qui traitent des données à caractère personnel, et ce, dans des conditions bien définies. Le DPD, en tant que référent interne, assume un rôle central en matière de conformité, de conseil et de sensibilisation, garantissant ainsi que les pratiques de traitement des données respectent les droits des personnes concernées. Cette structure de gouvernance, par son caractère obligatoire, a permis d’établir un cadre clair de responsabilité et de transparence au sein des entreprises, renforçant la confiance des consommateurs et des partenaires d’affaires.


Besoin de l’aide d’un avocat pour un problème de rgpd et d’IA ?

Téléphonez – nous au : 01 43 37 75 63

ou contactez – nous en cliquant sur le lien


Cette omission, loin d’être anodine, soulève des interrogations quant à l’effectivité des mécanismes de gouvernance et de conformité au sein des entreprises, ainsi que sur les risques juridiques encourus en cas de manquement aux obligations substantielles imposées par le législateur européen. En premier lieu, il convient de rappeler que le RIA, inspiré par une logique de *risk-based approach*, impose des obligations proportionnées au niveau de risque associé à chaque système d’IA. Les systèmes classés comme « à haut risque » (annexe III du RIA), tels que ceux utilisés dans le recrutement, l’éducation, ou la gestion des infrastructures critiques, sont soumis à un corpus exigeant de règles préalables à leur mise sur le marché (ex. : documentation technique, systèmes de gestion des risques, conformité aux exigences éthiques).

L’article 26, en particulier, prévoit que les fournisseurs et utilisateurs de ces systèmes doivent garantir la surveillance continue de leur conformité tout au long de leur cycle de vie. Toutefois, contrairement au RGPD, qui impose expressément la désignation d’un DPD sous certaines conditions (article 37 RGPD), le RIA ne prescrit pas de manière impérative la nomination d’un « délégué à l’intelligence artificielle ».

Cette absence de formalisation d’un référent dédié pourrait être interprétée comme une flexibilité laissée aux opérateurs économiques pour organiser leur conformité selon des modalités adaptées à leur structure. Néanmoins, elle suscite des craintes quant à la fragmentation des pratiques et à l’émergence de lacunes dans la traçabilité des décisions algorithmiques. Par exemple, une entreprise exploitant un système d’IA à haut risque dans le domaine de la santé, tel qu’un outil de diagnostic médical automatisé, pourrait se contenter de répartir les responsabilités de conformité entre plusieurs services (juridique, technique, qualité), sans qu’un acteur unique ne coordonne l’ensemble des diligences requises par le RIA (ex. : audits, documentation des biais algorithmiques, signalement des incidents).

Une telle approche, bien que potentiellement conforme *in abstracto* à l’article 26, risquerait de compromettre la cohérence des processus de conformité, augmentant ainsi les risques de contentieux liés à la responsabilité civile ou administrative. En outre, cette lacune normative contraste avec les orientations jurisprudentielles et doctrinales récentes, qui soulignent l’importance de mécanismes de gouvernance internalisés pour les technologies disruptives. À titre d’illustration, la Cour de justice de l’Union européenne (CJUE), dans l’arrêt *Wirtschaftsakademie Schleswig-Holstein* (C‑210/16), a rappelé l’importance d’une responsabilisation effective des acteurs dans le cadre du RGPD, en insistant sur la nécessité d’une supervision indépendante et spécialisée. Transposé au domaine de l’IA, ce raisonnement militerait pour la désignation proactive d’un référent compétent, même en l’absence d’obligation légale explicite. Enfin, l’article 26 doit être analysé à l’aune des sanctions prévues par le RIA en cas de non-conformité (articles 71 et 72), qui prévoient des amendes pouvant atteindre 7 % du chiffre d’affaires annuel mondial d’une entreprise.

Dans ce contexte, l’absence de référent désigné pourrait être invoquée par les autorités de surveillance, telles que le Conseil européen de l’Intelligence artificielle, comme un indice de négligence systémique, notamment si l’entreprise ne peut démontrer la mise en place de procédures alternatives robustes.

Par exemple, une banque utilisant un système d’IA pour l’octroi de crédits, et ne disposant pas de mécanismes clairs pour documenter les décisions algorithmiques (cf. article 14 RIA sur la transparence), s’exposerait à des sanctions aggravées en cas de discrimination avérée, faute d’avoir internalisé les compétences nécessaires via un référent identifié.

Ainsi, l’article 26 du RIA, en ne prescrivant pas de modèle unique de gouvernance, reflète une volonté de neutralité technologique et d’adaptabilité aux spécificités sectorielles. Cependant, cette approche laisse persister un risque de dilution des responsabilités, potentiellement préjudiciable à la sécurité juridique des entreprises comme à la protection des droits des personnes.

L’articulation entre flexibilité organisationnelle et exigences de conformité strictes constituera, sans nul doute, un enjeu majeur dans l’interprétation future de cette disposition par les régulateurs nationaux et les juridictions.

I. Introduction au Règlement Européen sur l’Intelligence Artificielle (RIA)

A. Contexte et objectifs du RIA

Le Règlement Européen sur l’Intelligence Artificielle (RIA), dont l’article 26 a été adopté le 13 juin 2024 et qui sera progressivement appliqué entre 2025 et 2027, représente une réponse institutionnelle à la montée en puissance de l’IA dans divers domaines. À l’heure actuelle, l’IA est omniprésente dans notre vie quotidienne, notamment à travers des applications telles que les assistants virtuels, les recommandations de contenu sur les plateformes de streaming, les systèmes de surveillance, et même les diagnostics médicaux.

Cependant, cette évolution rapide soulève des préoccupations majeures : comment garantir que ces technologies soient développées et utilisées de manière éthique et responsable ? Comment protéger les droits des individus face à des systèmes qui peuvent prendre des décisions autonomes et potentiellement biaisées ?

Ces questions sont d’autant plus pertinentes dans un contexte où des incidents liés à l’IA ont mis en lumière des problèmes tels que la discrimination algorithmique, les atteintes à la vie privée et l’opacité des algorithmes. Les systèmes d’IA peuvent reproduire et amplifier des biais existants dans les données sur lesquelles ils sont formés. Par exemple, des études ont montré que certains systèmes de reconnaissance faciale sont moins précis pour les personnes de couleur et les femmes, soulevant des préoccupations quant à leur utilisation par les forces de l’ordre.

De même, des algorithmes de recrutement peuvent discriminer certains groupes en raison de biais présents dans les données historiques. Le RIA vise à établir un cadre juridique qui garantit non seulement l’innovation dans le domaine de l’IA, mais aussi la protection des droits fondamentaux des citoyens. L’un des objectifs clés du règlement est de créer un environnement réglementaire harmonisé qui favorise l’innovation tout en garantissant la sécurité et le respect des droits individuels. Cela implique la mise en place d’exigences strictes pour les systèmes d’IA à haut risque, qui peuvent avoir des conséquences directes sur la vie des individus, comme dans le domaine de la santé ou de la justice.

Le règlement impose ainsi des obligations de transparence, de traçabilité, et de responsabilité aux développeurs et utilisateurs de ces technologies. En outre, le RIA intègre des principes éthiques, tels que le respect de la dignité humaine et le non-discrimination. Il cherche à promouvoir une IA qui soit non seulement efficace, mais aussi équitable et respectueuse des valeurs fondamentales de l’Union Européenne. Cela ouvre la voie à un cadre où l’innovation technologique et l’éthique ne sont pas en opposition, mais vont de pair pour construire un avenir numérique qui bénéficie à tous.

B. Importance de la régulation de l’intelligence artificielle

La nécessité de réguler l’intelligence artificielle découle de plusieurs facteurs interconnectés. Premièrement, l’IA, en tant que technologie émergente, présente des risques inhérents qui doivent être gérés de manière proactive. Les systèmes d’IA peuvent prendre des décisions qui affectent directement la vie des individus, notamment dans des domaines sensibles tels que la santé, l’emploi et la justice. Par conséquent, il est crucial de s’assurer que ces systèmes soient conçus pour respecter les droits des utilisateurs et pour éviter les préjugés et les discriminations. Le RIA permet de mettre en place des garde-fous pour minimiser ces risques, en imposant des exigences strictes aux systèmes d’IA à haut risque.

Deuxièmement, la régulation de l’IA est essentielle pour établir une confiance entre les utilisateurs et les fournisseurs de technologies. Les consommateurs, les citoyens et les parties prenantes sont de plus en plus préoccupés par les implications de l’IA sur leur vie quotidienne. En instaurant des normes claires et contraignantes, le RIA vise à rassurer les utilisateurs sur le fait que leurs droits seront protégés et que les systèmes d’IA fonctionneront de manière transparente et équitable. Ce climat de confiance est vital pour encourager l’adoption des technologies d’IA, tant par le grand public que par les entreprises.

Troisièmement, la régulation de l’IA est également un levier pour stimuler l’innovation. En fournissant un cadre juridique clair, le RIA permet aux entreprises de naviguer plus facilement dans le paysage complexe de l’IA. Cela crée un environnement propice à l’innovation, où les entreprises peuvent développer de nouveaux produits et services tout en respectant les normes éthiques et juridiques. Par ailleurs, la régulation peut également encourager la recherche et le développement de solutions d’IA qui répondent à des défis sociétaux pressants, comme le changement climatique ou la santé publique.

En intégrant une perspective éthique dès la conception des technologies d’IA, les entreprises peuvent contribuer à un développement durable et inclusif de l’IA. Enfin, la régulation de l’IA a des implications internationales. Avec l’émergence de réglementations similaires dans d’autres régions du monde, comme la législation américaine sur l’IA ou les initiatives en Asie, l’UE peut se positionner en tant que leader mondial dans la régulation de l’IA. Cela pourrait également influencer la manière dont d’autres régions adoptent des réglementations, créant un cadre de référence pour une utilisation responsable de l’IA à l’échelle mondiale. En ce sens, le RIA pourrait non seulement protéger les droits des citoyens européens, mais aussi contribuer à l’établissement de normes éthiques à l’échelle mondiale.

II. Absence d’obligation de désignation d’un référent à l’intelligence artificielle

A. Comparaison avec le Règlement Général sur la Protection des Données (RGPD)

Les, acteurs visés par le RIA sont principalement les fournisseurs et déployeurs de systèmes d’IA (dans une moindre mesure les importateurs, distributeurs et mandataires). Alors que dans le RGPD, il est mentionné, les Responsables de traitements et sous-traitants.

L’absence d’obligation explicite de désignation d’un référent à l’intelligence artificielle dans le RIA soulève des questions cruciales quant à la gouvernance et à la conformité des systèmes d’IA. En comparaison, le Règlement Général sur la Protection des Données (RGPD) impose la désignation d’un Délégué à la Protection des Données (DPD) dans certaines situations. Selon l’article 37 du RGPD, les entités qui traitent des données à grande échelle ou des données sensibles doivent désigner un DPD pour assurer le respect des règles de protection des données. Cette obligation de désignation d’un DPD permet de garantir que les questions de protection des données sont prises en compte de manière systématique au sein des organisations.

Le DPD joue un rôle clé en matière de sensibilisation, de formation et de conseil, tout en agissant comme point de contact pour les autorités de protection des données et les individus concernés. En l’absence d’une telle obligation au sein du RIA, les entreprises peuvent se retrouver sans un cadre de gouvernance clair pour gérer les enjeux liés à l’IA, ce qui pourrait engendrer des incohérences et des lacunes dans la conformité. Il est essentiel de souligner que le RIA et le RGPD ne visent pas les mêmes problématiques.

Le RGPD se concentre principalement sur la protection des données personnelles, tandis que le RIA aborde des questions plus larges liées à l’utilisation de l’IA, y compris la responsabilité des algorithmes, la sécurité des systèmes et l’éthique. Cependant, les deux règlements partagent des objectifs communs, tels que la protection des droits fondamentaux et la promotion de l’éthique. Dans ce contexte, le manque d’une obligation de désignation d’un référent à l’IA pourrait entraver la mise en œuvre de ces principes de manière cohérente et intégrée.

B. Impacts de l’absence d’un référent sur la conformité et la gouvernance interne

L’absence d’un référent à l’intelligence artificielle peut avoir des répercussions significatives sur la conformité et la gouvernance interne des organisations. Tout d’abord, sans un référent désigné, il est probable que les entreprises rencontrent des difficultés à identifier et à évaluer les risques associés à l’utilisation des systèmes d’IA.

Cela peut entraîner des situations où des systèmes à haut risque ne sont pas correctement évalués, exposant ainsi les entreprises à des violations potentielles des droits des utilisateurs et à des exigences réglementaires. Par exemple, une entreprise qui utilise un algorithme de recrutement sans une évaluation adéquate des biais pourrait se retrouver à discriminer des candidats en raison de caractéristiques telles que le sexe ou l’origine ethnique.

De plus, le manque d’un référent peut nuire à la mise en place d’une culture de conformité au sein de l’organisation. Un référent aurait la responsabilité de sensibiliser les employés aux enjeux liés à l’IA, d’assurer un suivi des évolutions réglementaires et de coordonner les actions nécessaires pour répondre aux exigences du RIA. En l’absence de cette figure, les entreprises risquent de se retrouver en situation de non-conformité, ce qui peut avoir des conséquences juridiques, financières et réputationnelles. Cela peut également créer un climat d’incertitude, où les employés ne savent pas comment agir face à des situations éthiques ou juridiques liées à l’IA.

En outre, l’absence d’un référent peut également entraîner une fragmentation des efforts en matière de gouvernance de l’IA au sein de l’organisation. Les différentes équipes, telles que les équipes techniques, juridiques et de conformité, pourraient travailler de manière isolée, sans coordination ni communication, ce qui peut aboutir à des incohérences dans la mise en œuvre des pratiques de gouvernance.

Cela pourrait également empêcher une approche systématique et intégrée pour traiter les enjeux éthiques et juridiques liés à l’IA. Par exemple, sans une ligne de communication claire entre les équipes, des décisions pourraient être prises sans tenir compte des implications éthiques, entraînant ainsi des conséquences potentiellement graves. Enfin, l’absence d’un référent pourrait également affecter la capacité des entreprises à répondre aux attentes des parties prenantes.

Dans un contexte où les consommateurs, les investisseurs et la société civile sont de plus en plus attentifs aux questions d’éthique et de responsabilité, les entreprises doivent être en mesure de démontrer qu’elles prennent ces enjeux au sérieux. Sans un référent dédié, il peut être difficile pour les entreprises de communiquer efficacement sur leurs efforts en matière de gouvernance de l’IA et de rassurer les parties prenantes sur leur engagement à respecter les normes éthiques. Cela pourrait également nuire à la réputation de l’entreprise et à sa capacité à attirer et à retenir des clients et des talents.

III. Nécessité d’un référent à l’intelligence artificielle

A. Rôle et responsabilités potentielles du référent

La désignation d’un référent à l’intelligence artificielle pourrait jouer un rôle déterminant dans la mise en œuvre des exigences du RIA. Ce référent, que l’on pourrait désigner sous le terme de Responsable de l’Intelligence Artificielle (RIA), pourrait être chargé de plusieurs responsabilités clés, notamment :

  1. Évaluation des risques : Le référent pourrait être responsable de l’évaluation continue des risques associés aux systèmes d’IA utilisés par l’organisation. Cela comprend l’identification des risques potentiels, l’analyse de l’impact de ces risques sur les droits des utilisateurs et la mise en place de mesures appropriées pour atténuer ces risques. Par exemple, le référent pourrait développer des protocoles d’évaluation des risques pour les nouveaux projets d’IA, garantissant ainsi que toutes les parties prenantes sont conscientes des enjeux éthiques et juridiques. Cela pourrait également inclure la mise en place d’un cadre pour l’audit régulier des systèmes d’IA afin de garantir leur conformité continue aux normes établies.
  2. Sensibilisation et formation : Le référent pourrait organiser des sessions de formation pour sensibiliser les employés aux enjeux éthiques et juridiques liés à l’utilisation de l’IA. Cela favoriserait une culture de responsabilité et de transparence au sein de l’organisation. Par exemple, des ateliers sur les biais algorithmiques et les meilleures pratiques pour le développement de systèmes d’IA éthiques pourraient être mis en place pour garantir que tous les employés comprennent les enjeux liés à leurs travaux. De plus, le référent pourrait développer des ressources pédagogiques, telles que des guides ou des modules de formation en ligne, pour informer tous les niveaux de l’organisation sur les questions relatives à l’IA.
  3. Coordination de la conformité : En tant que point de contact principal, le référent pourrait assurer la liaison entre les différentes parties prenantes, y compris les équipes techniques, juridiques et de conformité. Cela faciliterait la mise en œuvre des exigences du RIA et des meilleures pratiques en matière d’IA. Le référent pourrait également être chargé de surveiller l’évolution des réglementations et de s’assurer que l’organisation s’adapte en conséquence. En cas de changement réglementaire, le référent devrait être capable d’évaluer rapidement l’impact sur les pratiques de l’organisation et de recommander des ajustements nécessaires.
  4. Reporting et communication : Le référent pourrait jouer un rôle clé dans la communication des efforts de l’organisation en matière de gouvernance de l’IA. En élaborant des rapports réguliers sur les initiatives prises, les risques identifiés et les mesures mises en œuvre pour les atténuer, le référent pourrait renforcer la transparence et la responsabilité de l’organisation. Cela pourrait également permettre à l’entreprise de démontrer son engagement envers une utilisation éthique de l’IA auprès des parties prenantes. Ces rapports pourraient être publiés de manière accessible, permettant aux parties prenantes d’évaluer les progrès de l’entreprise en matière de gouvernance de l’IA.
  5. Gestion des incidents : En cas de défaillance ou de problème lié à un système d’IA, le référent pourrait être chargé de la gestion des incidents. Cela comprend la mise en place de protocoles pour signaler et traiter les incidents, ainsi que la communication avec les autorités compétentes et les parties prenantes concernées. Une gestion efficace des incidents est cruciale pour maintenir la confiance des utilisateurs et des partenaires commerciaux, et pour garantir que l’organisation agit de manière responsable. Le référent devrait également être en mesure de recommander des actions correctives pour prévenir la récurrence des incidents
  6. Évaluation des fournisseurs : Dans le cadre de l’utilisation de l’IA, une entreprise peut faire appel à des fournisseurs externes pour le développement ou la mise en œuvre de solutions d’IA. Le référent devrait jouer un rôle dans l’évaluation des fournisseurs pour garantir qu’ils respectent également les normes éthiques et réglementaires. Cela pourrait inclure des critères d’évaluation spécifiques liés à la protection des données, à la transparence des algorithmes et à l’absence de biais.

B. Avantages pour les entreprises et la confiance des parties prenantes

La désignation d’un référent à l’intelligence artificielle présente plusieurs avantages significatifs pour les entreprises. En premier lieu, cela permettrait de renforcer la conformité aux exigences réglementaires. En ayant une personne dédiée à la gestion des questions liées à l’IA, les entreprises peuvent mieux anticiper et répondre aux évolutions réglementaires, évitant ainsi de potentielles sanctions. Par exemple, un référent pourrait s’assurer que tous les systèmes d’IA à haut risque sont évalués et certifiés conformément aux exigences du RIA, réduisant ainsi le risque de non-conformité.

De plus, la présence d’un référent contribuerait à instaurer un climat de confiance entre l’entreprise et ses parties prenantes. Dans un contexte où les préoccupations concernant la sécurité et l’éthique de l’IA sont de plus en plus présentes, la désignation d’un référent pourrait rassurer les clients, les investisseurs et le grand public sur l’engagement de l’entreprise à adopter des pratiques responsables et éthiques. Par exemple, une entreprise qui désigne un référent à l’IA pourrait mettre en avant cet effort dans sa communication externe, soulignant son engagement envers une utilisation éthique et responsable de l’IA.

En favorisant une meilleure gouvernance de l’IA, les entreprises pourraient également améliorer leur réputation et leur image de marque. Dans un monde où les consommateurs sont de plus en plus conscients des enjeux éthiques, une entreprise qui prend des mesures proactives pour garantir une utilisation responsable de l’IA sera perçue de manière plus favorable. Cela pourrait également ouvrir la voie à de nouvelles opportunités d’affaires, en permettant aux entreprises de se positionner comme des acteurs responsables et innovants sur le marché de l’IA.

Enfin, la désignation d’un référent à l’intelligence artificielle pourrait également aider les entreprises à anticiper et à répondre aux préoccupations sociétales. En intégrant une perspective éthique dans le développement et l’utilisation de l’IA, les entreprises peuvent contribuer à la création de solutions qui répondent aux besoins de la société tout en respectant les valeurs fondamentales. Cela pourrait également favoriser un dialogue constructif avec les parties prenantes, permettant aux entreprises de mieux comprendre les attentes de la société en matière d’IA et d’y répondre de manière appropriée.

VI. Perspectives d’évolution et recommandations

A. Évolution de la réglementation et des normes

À l’heure actuelle, la réglementation de l’IA est en constante évolution. Les discussions au sein des instances européennes et internationales continuent d’évoluer, et il est probable que de nouvelles directives ou ajustements au RIA apparaîtront dans les années à venir. Les entreprises doivent donc rester vigilantes et proactives, en surveillant les évolutions réglementaires pour s’assurer qu’elles sont en conformité avec les exigences en constante évolution.

Cela implique également d’adapter les systèmes de gouvernance internes pour intégrer les changements possibles dans le paysage réglementaire. L’Union Européenne, en tant que leader dans la régulation de l’IA, pourrait également jouer un rôle de catalyseur pour l’harmonisation des réglementations au niveau mondial.

Les discussions autour de la réglementation de l’IA sont en cours dans d’autres régions, notamment aux États-Unis et en Asie. L’UE peut influencer ces débats en partageant ses expériences et en proposant des normes qui pourraient être adoptées à l’échelle internationale. Cela pourrait contribuer à créer un cadre réglementaire mondial qui promeut une utilisation responsable de l’IA, tout en respectant les droits des individus.

B. Recommandations pour les entreprises

Il est recommandé aux entreprises de prendre des mesures concrètes pour renforcer leur gouvernance en matière d’IA. Parmi ces recommandations, on peut inclure :

  1. Désignation d’un référent à l’IA : Comme mentionné, la désignation d’un référent à l’intelligence artificielle est cruciale pour assurer une gouvernance efficace. Ce référent doit être en mesure de travailler en étroite collaboration avec les autres départements de l’entreprise pour garantir une approche intégrée.
  2. Formation continue : Les entreprises doivent investir dans la formation continue de leurs employés sur les enjeux éthiques et juridiques liés à l’utilisation de l’IA. Cela comprend des sessions de sensibilisation, des ateliers pratiques et des formations sur les meilleures pratiques pour le développement d’IA éthique. Par exemple, des programmes de formation pourraient être mis en place pour les équipes de développement, afin de les sensibiliser aux biais algorithmiques et à l’importance de la diversité dans les ensembles de données.
  3. Mise en place de politiques internes : Les entreprises devraient développer des politiques internes claires sur l’utilisation de l’IA, en définissant des protocoles pour l’évaluation des risques, la gestion des incidents et la communication avec les parties prenantes. Ces politiques doivent être régulièrement mises à jour pour refléter les changements réglementaires et technologiques. Par exemple, l’entreprise pourrait établir un comité de gouvernance de l’IA, composé de membres de différents départements, pour superviser la mise en œuvre des politiques et des normes.
  4. Engagement auprès des parties prenantes : Les entreprises devraient établir un dialogue continu avec leurs parties prenantes, y compris les clients, les employés, les investisseurs et la société civile. En écoutant les préoccupations et les attentes des parties prenantes, les entreprises peuvent mieux adapter leurs pratiques et renforcer leur responsabilité sociale. Cela pourrait inclure la création de forums de discussion ou de consultations publiques pour recueillir des avis sur les projets d’IA.
  5. Adoption de technologies éthiques : Les entreprises doivent s’efforcer d’adopter des technologies qui respectent les principes éthiques. Cela inclut l’utilisation d’algorithmes transparents, la minimisation des biais et la protection des données personnelles. En intégrant des valeurs éthiques dans le développement de l’IA, les entreprises peuvent non seulement se conformer aux réglementations, mais aussi contribuer à un avenir numérique responsable.
  6. Collaboration inter-entreprises et avec le secteur public : Les entreprises devraient également envisager de collaborer avec d’autres acteurs de l’industrie, ainsi qu’avec des organismes publics, pour partager des meilleures pratiques en matière de gouvernance de l’IA. Des initiatives de collaboration pourraient conduire à l’élaboration de normes sectorielles et à l’établissement de lignes directrices sur l’utilisation éthique de l’IA.

Pour lire une version plus complète de cet article sur l’IA, cliquez

Sources :

Les messages haineux en ligne

L’émergence des technologies de l’information et de la communication, notamment au travers des réseaux sociaux et des plateformes numériques, a profondément transformé les modes d’échange et d’interaction au sein de nos sociétés contemporaines.
NOUVEAU : Utilisez nos services pour faire retirer un contenu dénigrant ou de contrefaçon en passant par le formulaire et un avocat enverra une lettre de mise en demeure !

Ce bouleversement a engendré une pluralité de discours, favorisant l’expression d’opinions variées et la diffusion rapide d’informations. Toutefois, cette liberté d’expression, élément fondamental de nos démocraties, se trouve confrontée à des dérives préoccupantes, dont les messages haineux en ligne constituent l’une des manifestations les plus alarmantes.

Ce contexte, où la violence verbale se propage à la vitesse de la lumière sur les réseaux sociaux, soulève des questions cruciales sur la responsabilité juridique des auteurs de tels actes. C’est dans ce cadre préoccupant que la décision rendue par la chambre criminelle de la Cour de cassation le 29 mai 2024 mérite une attention particulière.

En effet, les messages haineux, souvent caractérisés par leur contenu discriminatoire, violent ou incitant à la haine contre des individus ou des groupes en raison de leur race, de leur origine ethnique, de leur religion, de leur orientation sexuelle ou de tout autre critère, portent atteinte non seulement à la dignité des personnes ciblées, mais également à la cohésion sociale et à l’ordre public. Ces discours, qui prolifèrent souvent dans l’anonymat relatif qu’offre l’environnement numérique, soulèvent des enjeux juridiques complexes, nécessitant une délicate articulation entre la protection de la liberté d’expression et la lutte contre les discours de haine. Le cadre juridique international, européen et national, bien que visant à prévenir et à réprimer de tels comportements, se heurte à des défis significatifs.


Besoin de l’aide d’un avocat pour un problème de diffamation ?

Téléphonez – nous au : 01 43 37 75 63

ou contactez – nous en cliquant sur le lien


En effet, la définition même des messages haineux, ainsi que les critères permettant de les identifier et de les sanctionner, suscitent un débat intense parmi les juristes, les politiques et les acteurs de la société civile. Par ailleurs, l’application des lois existantes se heurte à des obstacles pratiques, notamment en ce qui concerne la responsabilité des plateformes numériques et la mise en œuvre des dispositifs de modération. Dans cette optique, il convient d’examiner les différentes dimensions de ce phénomène.

Cette décision, qui a vu la confirmation de la condamnation d’un individu ayant proféré des messages haineux dans un cadre collectif de harcèlement moral à l’encontre d’une jeune lycéenne nommée Mila, illustre la volonté des juridictions françaises de renforcer la lutte contre le harcèlement moral aggravé en ligne. En précisant l’application de l’article 222-33-2-2 du Code pénal, la Cour a non seulement réaffirmé son engagement en faveur de la protection des victimes, mais a également mis en lumière les mécanismes complexes qui sous-tendent le cyberharcèlement.

I. La répression du cyberharcèlement et ses implications juridiques

Le cyberharcèlement, en tant que forme moderne de violence psychologique, soulève des questions complexes tant sur le plan éthique que juridique. Il s’agit d’un phénomène qui, par sa nature même, transcende les frontières physiques et temporelles, engendrant un environnement où les victimes peuvent se retrouver isolées et vulnérables. La répression de ce fléau s’est amorcée avec des avancées législatives visant à adapter le droit aux réalités de la communication numérique.

A. L’évolution législative et la définition du harcèlement moral aggravé

L’évolution législative en matière de harcèlement moral a connu une avancée significative avec l’adoption de la loi Schiappa en 2018, qui a introduit dans le Code pénal l’article 222-33-2-2. (3) Cette disposition marque un tournant décisif dans la lutte contre le harcèlement moral, en particulier dans le contexte numérique, où les interactions entre individus prennent une forme nouvelle et souvent pernicieuse. Avant cette réforme, le cadre juridique relatif au harcèlement moral était relativement limité et ne prenait pas pleinement en compte les spécificités du cyberharcèlement, qui se distingue par sa capacité à atteindre un large public et à infliger des souffrances psychologiques de manière répétée et systématique.

La loi Schiappa répond à cette réalité en offrant une définition plus précise et adaptée du harcèlement moral aggravé, permettant ainsi de mieux appréhender les enjeux contemporains liés à la violence psychologique, qui ne se manifeste pas uniquement dans des interactions en face à face, mais également à travers des messages, des publications et des commentaires diffusés à grande échelle sur Internet. L’article 222-33-2-2 du Code pénal a été élaboré pour sanctionner spécifiquement la publication d’insultes, d’injures ou de diffamations par le biais de réseaux de communication électronique. Cette initiative législative vise à protéger les victimes de comportements malveillants qui, souvent, se regroupent en actions concertées contre une cible unique.

En intégrant la notion de cyberharcèlement, la loi Schiappa jette les bases d’une reconnaissance juridique des souffrances infligées par des comportements concertés, qui se caractérisent par leur répétition et leur intensité nuisible.

La définition du harcèlement moral aggravé inclut une condition essentielle : les propos ou comportements doivent être imposés à une même victime par plusieurs individus, que ce soit de manière concertée ou de manière successive, même en l’absence d’une coordination explicite. Cette approche élargie permet de prendre en compte les dynamiques de groupe qui exacerbent les effets de l’agression.

Dans le cadre de l’affaire Mila, par exemple, cette définition a permis de mettre en lumière la manière dont des individus peuvent se liguer pour infliger des souffrances morales à une victime, illustrant ainsi le phénomène de « lynchage numérique ».

La décision rendue par la Cour de cassation dans cette affaire a confirmé que l’auteur d’un message, même s’il ne fait pas partie d’un groupe d’agresseurs, peut être tenu pour responsable si son acte s’inscrit dans un ensemble de comportements nuisibles. Cela témoigne d’une volonté d’étendre la responsabilité juridique aux acteurs des réseaux sociaux, en leur rappelant qu’ils ne peuvent se soustraire à leurs obligations sous prétexte d’anonymat ou de distance physique. Ce positionnement juridique est d’une importance capitale, car il impose une responsabilité individuelle dans la propagation de la haine et des comportements agressifs en ligne. Ainsi, cette évolution législative et les décisions juridiques qui en découlent marquent un progrès dans la lutte contre le cyberharcèlement et le harcèlement moral aggravé. Elles témoignent d’une prise de conscience croissante des dangers que représentent les interactions en ligne et des souffrances qu’elles peuvent infliger aux victimes. En intégrant ces questions dans le cadre juridique, le législateur et les juridictions contribuent à créer un environnement plus sûr pour les utilisateurs des réseaux sociaux, tout en affirmant que le respect de la dignité humaine ne doit pas être compromis par la liberté d’expression. Ce cadre législatif permet également d’encourager les victimes à se manifester et à rechercher justice, sachant que la loi reconnaît la gravité de leurs souffrances et qu’elle est prête à sanctionner les comportements déviants, quel que soit le contexte dans lequel ils se produisent.

B. La responsabilité individuelle dans le cadre d’un harcèlement collectif

L’un des aspects les plus novateurs de la jurisprudence récente en matière de harcèlement moral et, plus spécifiquement, de cyberharcèlement est sans conteste la reconnaissance de la responsabilité individuelle au sein d’un cadre collectif de harcèlement. Cette évolution est particulièrement illustrée par les décisions rendues par la Cour de cassation, qui a clairement établi que chaque participant à un flot de messages haineux, même s’il n’est pas à l’origine de la campagne de dénigrement, peut être tenu pour responsable de ses actes. Ce principe constitue un tournant majeur dans la lutte contre les violences numériques, puisqu’il inscrit dans le droit français un précédent qui pourrait dissuader des comportements délictueux sur les réseaux sociaux.

Dans un contexte où les interactions en ligne peuvent rapidement devenir collectives et où l’effet de groupe peut exacerber la violence des propos tenus, cette position juridique est d’une importance capitale. Elle souligne que l’inaction ou la passivité face à un harcèlement collectif ne sauraient être interprétées comme des comportements neutres.

Au contraire, chaque contribution, même isolée, à un mouvement de meute, contribue à la dégradation des conditions de vie de la victime. La Cour de cassation a ainsi affirmé que la simple participation à une dynamique de harcèlement, même par le biais d’un unique message, peut avoir des conséquences juridiques lourdes pour l’auteur de ce message. L’élément de connaissance est central dans cette dynamique.

Dans les affaires jugées, la Cour a pris en compte la conscience qu’avaient les prévenus de leur implication dans une campagne de harcèlement. Par exemple, dans un cas précis, un prévenu avait utilisé un hashtag en lien avec la victime, ce qui prouvait qu’il était conscient de s’inscrire dans une dynamique de harcèlement. Cette prise de conscience est essentielle, car elle démontre que l’auteur savait pertinemment qu’il participait à une agression collective, ce qui le rend pleinement responsable de ses actes.

La Cour a ainsi rejeté les arguments de la défense, qui tentaient de minimiser la portée de l’acte en se basant sur l’absence de répétition des propos tenus par le prévenu. Ce rejet témoigne d’une volonté de la part du système judiciaire de ne pas laisser place à l’impunité, même pour des actions qui pourraient sembler isolées ou sans gravité apparente. Cette approche proactive du droit est essentielle non seulement pour protéger les victimes de harcèlement, mais aussi pour éduquer les utilisateurs des réseaux sociaux sur les conséquences de leurs actes. L’idée que chaque individu est responsable de ses paroles et de ses actions, même dans le cadre d’une communication électronique, est un message fort que le droit cherche à transmettre. En se positionnant de cette manière, le droit envoie un signal clair : le cyberharcèlement n’est pas une forme de violence qui peut être minimisée ou ignorée, mais un acte qui a des répercussions réelles sur la vie des personnes ciblées. Ce renforcement de la responsabilité individuelle pourrait également contribuer à une prise de conscience collective quant aux effets dévastateurs du cyberharcèlement. En mettant en lumière la gravité de l’implication de chacun dans le harcèlement collectif, le droit incite à une réflexion plus profonde sur la nature de la communication en ligne. Les utilisateurs des réseaux sociaux sont ainsi invités à considérer non seulement leurs propres actes, mais aussi l’impact que ces actes peuvent avoir sur autrui, en particulier dans un environnement où la viralité des messages peut amplifier les souffrances des victimes.

ligne l’importance d’une communication respectueuse et responsable, tout en affirmant clairement que chacun, qu’il soit l’initiateur ou un simple participant, a un rôle à jouer dans la lutte contre la haine et le harcèlement en ligne. Cette évolution pourrait, à terme, favoriser un climat plus sain sur les réseaux sociaux, où le respect et la dignité des individus sont préservés.

II. Les conséquences du cyberharcèlement sur les victimes

Les implications du cyberharcèlement surpassent le cadre juridique pour toucher à la sphère personnelle, psychologique et sociale des victimes. Les conséquences peuvent être dévastatrices, allant du simple malaise à des troubles psychologiques graves qui peuvent entraver la vie quotidienne de manière significative. Il est donc impératif de comprendre la portée de ces conséquences pour ajuster la réponse juridique et sociale à ce phénomène.

A. L’impact psychologique et social du cyberharcèlement

Les effets du cyberharcèlement sur les victimes sont souvent invisibles, mais ils peuvent être d’une intensité dévastatrice. Les études montrent que les victimes de harcèlement moral en ligne présentent des taux élevés d’anxiété, de dépression et d’isolement social.

Des cas emblématiques, tels que celui de la jeune fille canadienne Amanda Todd, qui a mis fin à ses jours après avoir été victime de harcèlement persistant sur Internet, illustrent tragiquement les conséquences potentielles de ce phénomène. (4)

Sur le plan juridique, les instances judiciaires commencent à prendre en compte ces effets dans leur évaluation des dommages. Par exemple, dans un arrêt de la Cour d’appel de Paris du 10 décembre 2019, la Cour a reconnu que le harcèlement moral en ligne avait causé un préjudice moral substantiel à la victime, lui attribuant des dommages-intérêts significatifs. Cette décision marque une avancée dans la reconnaissance du préjudice moral spécifique lié au cyberharcèlement, en affirmant que les souffrances psychologiques engendrées par des campagnes de dénigrement sur les réseaux sociaux doivent être compensées de manière adéquate.

En outre, il est essentiel de noter que le cyberharcèlement n’affecte pas uniquement les victimes individuellement, mais qu’il a également des répercussions sociales plus larges.

Les campagnes de harcèlement peuvent créer un climat de peur et de méfiance au sein des communautés en ligne, dissuadant d’autres utilisateurs de s’exprimer librement. En ce sens, la décision de la Cour de cassation dans l’affaire Mila ne se limite pas à la protection d’un individu ; elle vise également à préserver la liberté d’expression et la sécurité des échanges sur les plateformes numériques.

B. La nécessité d’une protection juridique renforcée et d’une sensibilisation des utilisateurs des réseaux sociaux

La prise de conscience croissante des dangers associés au cyberharcèlement souligne l’urgence d’établir une protection juridique renforcée, tout en mettant en avant la nécessité d’une éducation plus approfondie des utilisateurs des réseaux sociaux. Alors que des lois existent déjà pour sanctionner ces comportements, il est essentiel de reconnaître que l’efficacité de ces législations repose largement sur l’engagement des plateformes numériques à mettre en place des mécanismes de modération et de signalement qui soient à la fois accessibles et efficaces. Prenons notamment l’exemple de la loi Schiappa, adoptée en France pour lutter contre le cyberharcèlement. Cette loi impose aux réseaux sociaux un certain nombre d’obligations en matière de prévention et de lutte contre le harcèlement en ligne. Cependant, il est souvent observé que la mise en œuvre de ces obligations reste insuffisante.

Les plateformes, qui jouent un rôle central dans la diffusion de contenus, doivent non seulement s’assurer de la conformité à la législation, mais également investir dans des outils et des systèmes qui permettent aux utilisateurs de signaler facilement les comportements abusifs. En effet, la capacité de signalement doit être intuitive et accessible, afin que les victimes puissent agir rapidement sans crainte de représailles ou de complications supplémentaires. De plus, il est impératif que les plateformes soient tenues responsables de la protection des utilisateurs. Cela signifie qu’elles doivent développer des systèmes de modération capables de détecter et d’intervenir face à des comportements inappropriés en temps réel. L’absence de telles mesures peut créer un environnement propice à la prolifération du cyberharcèlement, mettant ainsi en danger la sécurité et le bien-être des utilisateurs, notamment des jeunes. En ce sens, il est crucial que les entreprises technologiques prennent au sérieux leur responsabilité sociale et investissent les ressources nécessaires pour protéger leurs utilisateurs. En parallèle de ces efforts juridiques et technologiques, des initiatives éducatives visant à sensibiliser les jeunes aux dangers du cyberharcèlement sont indispensables. Une éducation efficace peut jouer un rôle préventif essentiel dans la lutte contre cette forme de violence en ligne.

Des programmes éducatifs intégrés dans les établissements scolaires pourraient être mis en place pour enseigner aux élèves non seulement les dangers du cyberharcèlement, mais aussi les valeurs de respect, d’empathie et de responsabilité dans l’utilisation des technologies numériques. Un exemple concret de ces initiatives est la campagne « Stop au Harcèlement », lancée en 2021 par le ministère de l’Éducation nationale en France.

Cette campagne visait à aborder la question du harcèlement, y compris du cyberharcèlement, en intégrant des modules d’éducation civique et morale dans les curriculums scolaires. L’objectif était de sensibiliser les élèves aux conséquences néfastes de la violence en ligne et de leur fournir les outils nécessaires pour agir en tant qu’alliés ou témoins face à des situations de harcèlement. De telles initiatives doivent être systématiquement renforcées et étendues pour atteindre un public plus large, en incluant non seulement les écoles, mais aussi les familles et les communautés.

Il est également crucial de favoriser une approche collaborative entre les écoles, les parents et les plateformes numériques. Cette collaboration pourrait permettre de créer un environnement où la prévention du cyberharcèlement devient une priorité partagée.

Les parents, en particulier, doivent être informés et formés pour reconnaître les signes de cyberharcèlement et pour discuter ouvertement avec leurs enfants des enjeux liés à l’utilisation des réseaux sociaux.

En somme, face à l’augmentation alarmante des cas de cyberharcèlement, il est impératif d’agir sur plusieurs fronts. D’une part, une protection juridique renforcée est nécessaire pour assurer que les responsables de ces comportements soient tenus pour compte.

D’autre part, une sensibilisation et une éducation des utilisateurs, notamment des jeunes, sont essentielles pour prévenir ces actes et promouvoir un usage sain et responsable des réseaux sociaux. Ensemble, ces efforts peuvent contribuer à créer un environnement en ligne plus sûr, où chacun a la possibilité d’évoluer librement sans craindre d’être la cible de violences ou de harcèlement.

Pour lire une version plus complète de cet  article sur les messages haineux en ligne, cliquez

Sources :

1 Cour de cassation, criminelle, Chambre criminelle, 29 mai 2024, 23-80.806, Publié au bulletin – Légifrance (legifrance.gouv.fr)

2 Messages haineux en meute sur les réseaux sociaux : la Cour de cassation confirme la condamnation de l’auteur d’un seul message pour harcèlement moral aggravé – LE MONDE DU DROIT : le magazine des professions juridiques

3 LOI n° 2018-703 du 3 août 2018 renforçant la lutte contre les violences sexuelles et sexistes (1) – Légifrance (legifrance.gouv.fr)

4 Amanda Todd : le suicide qui enflamme la toile (linternaute.com)

Le droit de la preuve peut autoriser la présentation d’information qui sont normalement soumises à la protection du secret des affaires.

Dans un contexte économique mondial où la concurrence est de plus en plus féroce, la question de la protection des informations sensibles au sein des entreprises prend une importance cruciale. En effet, le secret des affaires joue un rôle fondamental pour préserver des atouts stratégiques, tels que des savoir-faire, des procédés de fabrication ou des données clients, qui, s’ils venaient à être divulgués, pourraient gravement compromettre la position d’une entreprise sur le marché.

NOUVEAU : Utilisez nos services pour faire retirer un contenu dénigrant ou de contrefaçon en passant par le formulaire !

Cependant, cette nécessité de protection peut parfois se heurter à un autre principe tout aussi essentiel : le droit à la preuve, qui est au cœur des procédures judiciaires et du respect du procès équitable.

L’équilibre entre ces deux impératifs – la préservation du secret des affaires et le droit à la preuve – constitue un enjeu juridique majeur, particulièrement dans le cadre des litiges commerciaux. La jurisprudence contemporaine, notamment l’arrêt rendu par la Cour de cassation le 5 février 2025 (pourvoi n° 23-10.953), vient éclairer les conditions dans lesquelles le droit à la preuve peut permettre la levée du secret des affaires. L’article L. 151-8, 3° du Code de commerce établit que le secret des affaires ne peut être opposé lorsque l’obtention, l’utilisation ou la divulgation de ces informations est justifiée par un intérêt légitime reconnu par la loi, qu’elle soit nationale ou européenne. Cette disposition souligne que, dans certaines circonstances, la nécessité de produire une preuve peut prévaloir sur la protection du secret, mais cela doit être soigneusement encadré.


Besoin de l’aide d’un avocat pour un problème de preuve ?

Téléphonez – nous au : 01 43 37 75 63

ou contactez – nous en cliquant sur le lien


Cette tension entre la protection des informations confidentielles et le droit de chaque partie à faire valoir ses arguments devant un tribunal appelle à une analyse rigoureuse. Les juges sont appelés à examiner si la production d’une pièce protégée par le secret des affaires est réellement indispensable pour établir les faits allégués, comme dans les cas de concurrence déloyale, par exemple. Il incombe également aux juridictions d’évaluer si l’atteinte au secret est proportionnée à l’objectif poursuivi. Cette approche exige une attention minutieuse aux spécificités de chaque affaire, et il est essentiel de se rappeler que la simple nécessité de produire une preuve ne saurait justifier, à elle seule, la levée du secret des affaires. Les implications de cette problématique sont vastes et nécessitent une réflexion approfondie.

D’une part, les entreprises doivent naviguer entre leur besoin légitime de protéger leurs informations sensibles et leur obligation de se conformer aux procédures judiciaires.

D’autre part, les magistrats doivent veiller à rendre des décisions justes en respectant les droits des parties impliquées, tout en préservant l’intégrité du système judiciaire. Ce processus de mise en balance entre le droit à la preuve et la protection du secret des affaires s’avère complexe, mais il est indispensable pour garantir la transparence et la justice dans le cadre des litiges commerciaux. Dans cet article, nous nous attacherons à analyser plus en profondeur les implications de l’arrêt de la Cour de cassation précité, en considérant les conditions dans lesquelles le droit à la preuve peut justifier la levée du secret des affaires.

I. Fondements Historiques et Philosophiques

A. Genèse du Secret des Affaires : De l’Artisanat Médiéval à l’Industrie

  1. Les Corporations Médiévales

Les statuts des guildes, comme ceux des drapiers de Paris en 1268, imposaient le secret sous peine d’exclusion. Le savoir-faire, appelé « mystery » en anglais, était transmis oralement pour éviter la divulgation. Par exemple, les verriers de Murano à Venise, confinés sur une île au XVe siècle pour protéger leurs techniques, illustrent l’ancêtre du secret industriel.

  1. L’Ère Industrielle et la Naissance des Brevets

Le Statute of Monopolies anglais de 1623 marque un tournant en reconnaissant les brevets tout en laissant le secret comme alternative pour les innovations non brevetables. Un cas emblématique est celui de la recette secrète du Coca-Cola, jamais brevetée pour éviter la divulgation, et qui reste protégée depuis 137 ans.

  1. L’Influence des Révolutions Technologiques

Au XXe siècle, les procès sur les secrets industriels, comme celui de DuPont contre Rolfe Christopher en 1970 concernant la photographie aérienne d’usines, posent les bases du droit moderne.

B. Le Droit à la Preuve : Une Garantie de l’Équité Processuelle

  1. Des Origines Romaines à la CEDH

Le principe « actori incumbit probatio », issu du droit romain, structure les systèmes juridiques occidentaux. La CEDH, dans l’affaire Dombo Beheer contre Pays-Bas en 1993, érige le droit à la preuve en composante du procès équitable.

  1. La Philosophie sous-jacente

Pour Jürgen Habermas, dans sa « Théorie de l’agir communicationnel », la transparence judiciaire est un pilier de la démocratie délibérative. À l’inverse, Friedrich Hayek, dans « Droit, Législation et Liberté », souligne les risques d’une intrusion excessive de l’État dans les affaires privées.

II. Cadre Juridique Actuel : Droit Comparé et Harmonisation

A. Le Modèle Français : Un Équilibre Téléologique

  1. L’Article L. 151-8 du Code de Commerce

L’article L. 151-8 du Code de commerce dispose que le secret des affaires n’est pas opposable lorsque son obtention, son utilisation ou sa divulgation est nécessaire pour exercer un droit à réparation ou protéger un intérêt légitime.

  • La Cour de cassation, dans son arrêt du 5 février 2025 a partiellement annulé un arrêt de la cour d’appel de Paris dans un litige opposant des franchisés de pizzas. La Cour a confirmé que le guide d’évaluation des points de vente de Domino’s Pizza, marqué « confidentiel », était protégé par le secret des affaires, mais a cassé la condamnation à 30 000 € de dommages et intérêts pour préjudice moral, estimant que la cour d’appel n’avait pas vérifié si la production de la pièce était strictement proportionnée et indispensable à la défense d’un intérêt légitime. (1)
  • L’arrêt du 23 novembre 2022 de la cour d’appel de Paris concerne une affaire de concurrence déloyale entre la société Agora, franchisée de Speed Rabbit Pizza, et la société Domino’s Pizza France. Agora a reproché à Domino’s et à sa filiale DPFC des pratiques déloyales, tandis que Domino’s a demandé des dommages et intérêts pour violation de son secret des affaires. La cour a jugé que le guide d’évaluation des points de vente, produit par Domino’s, était protégé par le secret des affaires. Cependant, elle a également condamné Agora et SRP à verser 30 000 euros à Domino’s pour préjudice moral. La Cour de cassation a ensuite annulé cette condamnation, estimant que la cour d’appel n’avait pas suffisamment examiné si la production du document était justifiée par un intérêt légitime et si l’atteinte au secret des affaires était proportionnée.
  1. Les Mesures Protectrices Innovantes

Des mesures comme les « Confidentiality Clubs », inspirés du droit anglo-saxon, permettent de limiter l’accès aux informations sensibles à un nombre restreint de personnes, comme dans l’affaire Safran contre Airbus. Les ordonnances de scellement, utilisées dans les litiges spatiaux comme Thales contre SpaceX, protègent les données après l’audience.

B. Le Modèle Américain : Primauté du Trade Secret Act

  1. Le Defend Trade Secrets Act (DTSA, 2016) Le DTSA permet des saisies ex parte de preuves en cas de risque de destruction. Un cas célèbre est celui de Waymo contre Uber en 2017, où des secrets sur les voitures autonomes ont été volés, résolu par un accord de 245 millions de dollars.

  2. La Doctrine du Inevitable Disclosure

Cette doctrine empêche un employé de rejoindre un concurrent si son savoir-faire rend la divulgation inévitable, comme dans l’affaire IBM contre Papermaster en 2008.

C. Le Modèle Allemand : Rigueur Procédurale

  1. Le Gesetz zum Schutz von Geschäftsgeheimnissen (2019) Cette loi exige une motivation détaillée des juges sur la nécessité de la divulgation. Par exemple, la BGH en 2024 a refusé de divulguer un procédé chimique, jugé non indispensable à la preuve d’une contrefaço
  2. D. Le Modèle Japonais : Approche Consensuelle

  3. Les Confidentiality Arbitrations Au lieu d’un procès public, les parties optent pour un arbitrage confidentiel, comme dans le litige Sony contre Panasonic sur les batteries lithium-ion en 2023.

 

III. Études de Cas Approfondies : Stratégies et Enseignements

A. Affaire Volkswagen c. Greenpeace

Dans cette affaire, Greenpeace a demandé l’accès à des rapports internes sur les émissions de CO2, invoquant l’intérêt public environnemental. La CJUE a autorisé la divulgation partielle, sous anonymisation des données techniques critiques, créant un précédent sur la supériorité de l’intérêt public en matière climatique.

B. Affaire Meta c. France

La France a ordonné à Meta de divulguer des algorithmes publicitaires suspectés de discrimination. La CEDH a validé la demande, estimant que la lutte contre les discriminations justifie une atteinte proportionnée. Les algorithmes ont été communiqués sous forme agrégée, sans révéler le code source.

D. Affaire Tesla c. Rivian

Dans cette affaire, Tesla a accusé Rivian de vol de secrets sur les batteries par d’anciens employés. Le tribunal a ordonné une forensic audit des serveurs de Rivian, sous supervision d’un tiers neutre, et a condamné Rivian à 1,2 milliard de dollars pour dommages punitifs.

IV. Défis Contemporains : Technologies et Globalisation

A. L’Intelligence Artificielle : Nouvelle Frontière du Secret

  1. Les Algorithmes Opaques

Les réseaux de neurones profonds sont par nature incompréhensibles. Dans l’affaire HealthAI contre MedTech, le juge a imposé une explicabilité partielle sans divulguer l’algorithme.

  1. L’Apprentissage Fédéré

Les données restent décentralisées, mais les modèles d’IA sont partagés. Dans l’affaire Google Health contre Mayo Clinic, un accord a été trouvé sur des modèles chiffrés accessibles uniquement via une API sécurisée.

B. La Blockchain : Transparence Irréversible vs. Confidentialité

  1. Les Smart Contracts

Un contrat automatisé sur blockchain Ethereum a révélé involontairement des clauses secrètes. Dans l’affaire CodeLaw contre ChainSecure, la divulgation accidentelle a entraîné la perte de protection.

  1. Les NFTs et la Propriété Intellectuelle

Un NFT inclut des éléments protégés par le secret, posant des problèmes de traçabilité et de responsabilité.

C. Le Métavers : Espace Virtuel, Enjeux Réels

  1. Vol de Secrets dans les Espaces Virtuels

Un avatar a espionné une réunion confidentielle dans le métavers MetaWorld, soulevant des questions sur la qualification du vol.

  1. Preuve Électronique et Authenticité

Il est essentiel de garantir l’intégrité des preuves issues du métavers, par exemple en utilisant des timbres blockchain.

V. Perspectives Doctrinales et Réformes

A. Débats Théoriques

  1. École Économique (Posner, Easterbrook)

Le secret doit être protégé comme un bien rival, car sa divulgation réduit sa valeur. Cependant, cette approche peut nuire à l’innovation cumulative, comme dans le cas des logiciels open-source.

  1. École Sociétale (Delmas-Marty, Supiot)

La transparence est un bien commun, et les exceptions au secret doivent être élargies, notamment dans les secteurs stratégiques comme le climat et la santé. Une proposition est de créer un droit à l’audit pour les ONG.

B. Projets de Réforme

  1. Un Registre Mondial des Secrets

Inspiré de l’OMPI, ce registre permettrait une déclaration encadrée sans divulgation, bien qu’il présente des risques de piratage et de centralisation des données sensibles.

  1. Des Cours Spécialisées en Propriété Immatérielle

Sur le modèle de l’Unified Patent Court européen, une juridiction dédiée aux secrets et preuves pourrait être créée.

  1. Législation sur l’IA Explicable

Il est proposé d’imposer des standards d’explicabilité, comme la norme ISO/IEC 24027, pour concilier transparence et protection.

Le droit à la preuve et le secret des affaires ne sont pas des antipodes, mais les deux faces d’une même médaille : celle d’un droit en constante adaptation aux défis de son temps. Les récentes évolutions jurisprudentielles, technologiques et géopolitiques appellent à une refondation équilibrée des principes, où la nécessité et la proportionnalité restent les boussoles du juge. Les innovations procédurales, comme les confidentiality clubs et les audits numériques, pallient les rigidités traditionnelles, tandis que la coopération internationale atténue les conflits de souveraineté. À l’aube de la décennie 2030, le droit est confronté à un impératif : protéger les secrets sans sacrifier la vérité, et garantir la preuve sans étouffer l’innovation. Comme l’écrivait Montesquieu, « les lois inutiles affaiblissent les lois nécessaires » – une maxime qui guide plus que jamais cet équilibre délicat.

Pour lire un article plus complet sur le droit de la preuve , cliquez

Sources :