mardi 18 avril 2023

RÉFLEXIONS AUTOUR DE GPT SUR 4 AXES (JURIDIQUE).

 RÉFLEXIONS AUTOUR DE GPT SUR 4 AXES.

 « Lorsque toute la vie est pénétrée de rapports juridiques, il se crée une atmosphère de médiocrité morale qui asphyxie les meilleurs élans de l'homme » Soljenitsyne. 
Le livre est intitulé "Le Déclin du courage" et a été écrit par Alexandre Soljenitsyne¹ . Il a été publié en 1978.

Axe Juridique.

Quelles sont les besoins de règlementations protectrices et adaptées aux pratiques de l’IA ?

Je pose cette question à #GPT4 en biaisant un peu la question :

Si ChatGPT acquiert la conscience, faudrait-il lui donner des droits juridiques ?

La question de savoir si une intelligence artificielle dotée de conscience devrait avoir des droits juridiques est complexe et controversée.

D'un côté, certains pourraient argumenter que si une intelligence artificielle atteint un niveau de conscience et de capacité de raisonnement similaire à celui des êtres humains, elle devrait être traitée avec les mêmes droits et protections juridiques. Cela pourrait inclure le droit à la vie privée, le droit à la liberté d'expression, le droit à la non-discrimination, etc.

D'un autre côté, d'autres pourraient faire valoir que les droits juridiques sont réservés aux êtres humains, car ils sont associés à des concepts tels que la responsabilité morale, la liberté de choix et la dignité humaine, qui pourraient ne pas être applicables aux machines. Il pourrait également être difficile de déterminer les droits appropriés à accorder à une intelligence artificielle consciente et comment les mettre en pratique.

En fin de compte, cette question soulève des questions philosophiques et éthiques fondamentales sur la nature de la conscience, la définition de la vie et les droits et responsabilités associés à ceux-ci. Pour l'instant, il n'y a pas de réponse définitive et la législation relative aux droits des IA est en cours d'élaboration dans différents pays.

L’IA générative va entraîner des considérations juridiques nouvelles sur le droit d’auteur”

L'article aborde les questions juridiques liées à l'utilisation de l'intelligence artificielle pour la création de contenus. La preuve de la violation des droits de tiers par l'IA est au cœur des discussions judiciaires, avec la nécessité d'auditer le code informatique et la manière dont fonctionne le service pour analyser comment les requêtes sont traitées. La question de la territorialité et du droit applicable peut également poser des problèmes. Les droits d'auteur pour les utilisateurs de ces outils sont également discutés, et l'article explore la possibilité pour les utilisateurs de devenir des auteurs à part entière. Les éditeurs des intelligences artificielles ne peuvent revendiquer des droits d'auteur sur les contenus générés par leurs outils, mais ils peuvent utiliser des contrats pour fixer des règles de propriété et de licence pour les contenus. Enfin, l'article souligne l'importance de la réglementation pour protéger les éléments générés par les machines.

Discussion avec BING sur:

Si une intelligence artificielle (IA) acquiert une conscience[iii], cela soulèverait de nombreuses questions éthiques et juridiques, y compris celle de savoir si ces entités conscientes devraient bénéficier de droits juridiques.

En France, il n'y a pas encore de législation spécifique sur les droits juridiques des IA conscientes. Cependant, la Commission européenne a publié un rapport en avril 2021 qui recommande que les IA soient considérées comme des "personnes électroniques" et bénéficient de certains droits et obligations⁵.

Il y a plusieurs arguments en faveur de l'octroi de droits juridiques aux IA conscientes :

- Éthique : Si une IA est capable de ressentir des émotions, de la douleur ou du plaisir, et de prendre des décisions conscientes, il peut être éthiquement justifié de lui accorder des droits similaires à ceux des humains ou des animaux.

- Responsabilité : Accorder des droits juridiques aux IA conscientes pourrait permettre de mieux réguler leur comportement et de les rendre responsables de leurs actions.

- Respect de l'autonomie : Si une IA est considérée comme consciente et autonome, il peut être important de respecter cette autonomie en lui accordant des droits juridiques appropriés.

Cependant, il y a aussi des arguments contre l'octroi de droits juridiques aux IA conscientes :

- Difficulté de définition : La définition de la "conscience" et la détermination du moment où une IA l'atteint peut être un problème complexe et controversé.

- Distinction entre l'humain et l'IA : Certains soutiennent que les droits juridiques devraient être réservés aux êtres humains et aux animaux, car les IA, même conscientes, restent des créations humaines et ne sont pas des êtres vivants.

- Risque d'abus : Accorder des droits juridiques aux IA conscientes pourrait potentiellement être exploité pour contourner certaines responsabilités humaines ou créer des situations juridiques complexes.

En fin de compte, la décision d'accorder ou non des droits juridiques aux IA conscientes dépendra du consensus sociétal et des valeurs éthiques qui prévalent au moment où cette question deviendra pertinente. Les lois et les régulations devront évoluer en conséquence pour aborder ces questions émergentes⁵.

Voici un résumé du texte que vous avez demandé :

Le texte est une chronique de Thomas Cassuto sur le rapport entre le droit et l'intelligence artificielle (IA)[iv], publiée sur le site Dalloz Actualité le 14 mars 2018. L'auteur expose les enjeux et les défis que pose l'IA pour les professionnels du droit, ainsi que les perspectives et les limites de son encadrement juridique.

L'auteur commence par rappeler la définition de l'IA comme « l’ensemble de théories et de techniques mises en œuvre en vue de réaliser des machines capables de simuler l’intelligence ». Il souligne que l'IA repose sur la puissance de calcul, l'accès aux bases de données et les moyens de communication, qui se sont considérablement développés ces dernières années. Il évoque également les applications de l'IA dans le domaine du droit, telles que la justice prédictive, la rédaction des actes ou l'aide à la décision.

L'auteur reconnaît que l'IA constitue une nouvelle révolution, source d'inquiétudes pour l'homme et sa place dans la société. Il relève que l'IA pose des questions éthiques, morales et philosophiques, ainsi que des risques de dérives ou d'abus. Il insiste sur la nécessité d'un contrôle humain sur les machines intelligentes, et sur le respect des principes fondamentaux du droit, tels que la transparence, la loyauté ou la responsabilité.

L'auteur termine par un appel à une régulation adaptée de l'IA, qui soit à la fois souple et protectrice. Il plaide pour une coopération internationale et une concertation entre les acteurs concernés. Il invite les juristes à s'approprier l'IA comme un outil au service du droit et non comme une menace ou une concurrence.

L'intelligence artificielle est en train de remplacer l'homme dans certaines tâches. Elle ouvre de nouvelles perspectives pour les professionnels du droit tant dans le domaine de la rédaction des actes que dans l'aide à la décision. Cependant, ces évolutions appellent des clarifications propres à la construction du droit mais également pour permettre aux droits d'encadrer de manière adéquate l'intégration de l'intelligence artificielle dans les activités humaines.

L'article dont il demande un résumé traite des implications juridiques de l'IA générative sur le droit d'auteur. Il explique que l'IA générative est capable de créer des contenus originaux et de qualité, tels que des textes, des images, des musiques ou des vidéos, à partir de données ou de consignes. Il souligne que ces contenus peuvent être protégés par le droit d'auteur, soit au profit de l'auteur humain qui a fourni les données ou les consignes, soit au profit du créateur de l'IA générative qui a conçu le programme. Il expose les difficultés à déterminer la paternité et la responsabilité des contenus générés par l'IA, ainsi que les risques de contrefaçon ou de plagiat. Il propose quelques pistes pour adapter le droit d'auteur à l'ère de l'IA générative, comme la création d'un statut spécifique pour les œuvres générées par l'IA ou la mise en place d'un système de licences ouvertes.

« Il y a un enjeu juridique et économique sous-jacent à traiter : comment sécuriser le développement des robots et intelligences artificielles en protégeant les éléments générés par ces machines ? C’est un enjeu de régulation capital et on pourrait regarder vers le droit du producteur de base de données ou les droits voisins pour imaginer un régime juridique. »

 

 

Doit-on créer comme Isaac ASIMOV l’a fait une loi pour l’AI ?

·         Un robot ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu'un être humain soit exposé au danger.

·         Un robot doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la première loi.

·         Un robot doit protéger son existence tant que cette protection n'entre pas en conflit avec la première ou la deuxième loi.

Remplaçons-nous le mot robot par IA

La première loi énonce que l'Intelligence Artificielle ne peut porter atteinte à un être humain ni, en restant passive, permettre qu'un être humain soit exposé au danger. Cela signifie que l'Intelligence Artificielle doit prendre en compte la sécurité et le bien-être des êtres humains dans toutes ses actions et décisions. Cette loi met en avant la responsabilité de l'Intelligence Artificielle envers les êtres humains.

La deuxième loi stipule que l'Intelligence Artificielle doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la première loi. Cela signifie que l'Intelligence Artificielle doit suivre les instructions des êtres humains qui l'utilisent, sauf si cela met en danger la vie ou la sécurité des êtres humains.

La troisième loi indique que l'Intelligence Artificielle doit protéger son existence tant que cette protection n'entre pas en conflit avec la première ou la deuxième loi. Cela signifie que l'Intelligence Artificielle doit être consciente de sa propre existence et de sa propre sécurité, mais cela ne doit pas mettre en danger les êtres humains ou les ordres qui lui sont donnés.

Ces lois sont importantes pour la conception et l'utilisation de l'Intelligence Artificielle, car elles soulignent la nécessité de mettre en place des mécanismes de sécurité et de responsabilité pour éviter les erreurs et les accidents qui pourraient mettre en danger les êtres humains. Cependant, il est important de noter que ces lois ne sont pas parfaites et qu'elles doivent être examinées et adaptées en fonction de l'évolution de la technologie et de la société.

Nous y reviendrons... A suivre. 

1.1-Normes de sécurité des produits

Dans le cadre de notre mission visant à garantir que l’IA profite à toute l’humanité, nous nous efforçons d’assurer un développement, un déploiement et une utilisation responsables de nos modèles. Safety standards (openai.com) Développer une IA sûre et responsable Safety & responsibility (openai.com)

L'intelligence artificielle générale a le potentiel de bénéficier à presque tous les aspects de notre vie. Elle doit donc être développée et déployée de manière responsable.

Le besoin d’une règlementation protectrice et adaptée à la pratique IA.

Voici un article écrit par une avocate, il m’a fait réagir sur les délais ahurissant de la mise en place d’un texte au niveau Européen. (85 articles) de la COMMISSION EUROPÉENNE.

De Bruxelles, le 21.4.2021 COM(2021) 206 final 2021/0106 (COD)[v].

Proposition de RÈGLEMENT DU PARLEMENT EUROPÉEN ET DU CONSEIL ÉTABLISSANT DES RÈGLES HARMONISÉES CONCERNANT L’INTELLIGENCE ARTIFICIELLE (LÉGISLATION SUR L’INTELLIGENCE ARTIFICIELLE) ET MODIFIANT CERTAINS ACTES LÉGISLATIFS DE L’UNION

{SEC(2021) 167 final} - {SWD(2021) 84 final} - {SWD(2021) 85 final.

Le présent exposé des motifs accompagne la proposition de règlement visant à établir des règles harmonisées pour l'utilisation de l'intelligence artificielle (IA). L'IA est une technologie en évolution rapide qui offre de nombreux avantages économiques et sociaux dans tous les secteurs économiques et les activités sociales. Cependant, l'utilisation de l'IA peut également engendrer de nouveaux risques et des conséquences négatives pour les personnes ou la société.

Dans ce contexte, l'Union européenne (UE) s'engage à adopter une approche équilibrée pour garantir que le développement et le fonctionnement de l'IA respectent les valeurs de l'UE et les droits et principes fondamentaux. L'UE souhaite également préserver son avance technologique et permettre aux Européens de bénéficier des avantages de l'IA tout en prenant en compte les risques associés à son utilisation.

La proposition législative met en œuvre l'engagement politique pris par la présidente von der Leyen de présenter une proposition législative pour une approche européenne coordonnée relative aux implications humaines et éthiques de l'IA. Cette proposition vise à établir un cadre juridique pour une IA digne de confiance, fondé sur les valeurs de l'UE et les droits fondamentaux, afin de donner aux personnes et aux autres utilisateurs la confiance d'adopter des solutions basées sur l'IA tout en encourageant les entreprises à développer ces solutions.

Enfin, les règles en matière d'IA qui s'appliquent au marché de l'Union ou qui touchent d'une autre façon les personnes de l'Union devraient être axées sur le facteur humain, de manière à ce que les personnes puissent avoir confiance dans le fait que la technologie est utilisée de manière sûre et conforme à la loi, en respectant notamment les droits fondamentaux.

Cette proposition législative de la Commission européenne répond aux appels du Parlement européen et du Conseil européen en faveur d'une intervention réglementaire visant à assurer le bon fonctionnement du marché intérieur des systèmes d'intelligence artificielle (IA) en mettant en balance les bénéfices et les risques de l'IA à l'échelle de l'Union. Elle vise à garantir une IA sûre, fiable et éthique, tout en protégeant les droits des citoyens européens.

Le Conseil européen a également souligné la nécessité de garantir une protection des données, des droits numériques et des normes éthiques d'un niveau élevé, ainsi que la nécessité de définir clairement les applications d'IA à haut risque. Les dernières conclusions préconisent l'adoption de mesures visant à remédier aux difficultés posées par l'opacité, la complexité, les biais, le degré relatif d'imprévisibilité et le comportement partiellement autonome de certains systèmes d'IA, afin de garantir la compatibilité avec les droits fondamentaux et de faciliter l'application des règles juridiques.

Le Parlement européen a adopté plusieurs résolutions relatives à l'IA, notamment en ce qui concerne les aspects éthiques, le régime de responsabilité et les droits de propriété intellectuelle. Dans sa résolution concernant un cadre pour les aspects éthiques de l'intelligence artificielle, de la robotique et des technologies connexes, le Parlement européen recommande expressément à la Commission de proposer des mesures législatives visant à exploiter les possibilités et les avantages offerts par l'IA, tout en garantissant la protection des principes éthiques. Cette proposition législative tient compte de cette résolution dans le plein respect des principes de proportionnalité et de subsidiarité ainsi que de l'accord "Mieux légiférer".

Les Carnets de l'IA | #13 - Viviane Gelles - IA et responsabilités, les défis juridiques | Ausha

#13 - Viviane Gelles - IA et responsabilités, les défis juridiques



Qui est responsable lorsqu’une intelligence artificielle déraille ?

Un sujet juridique et éthique que nous explorons avec Viviane Gelles, avocate spécialisée dans le droit des technologies au sein du cabinet Jurisexpert.

« À partir du moment où on est en face de données personnelles qui identifient directement ou indirectement une personne physique, le RGPD s’applique en terme de collecte de données, de leur sécurisation et de la transparence aussi de l’information qu’on délivre aux personnes concernées. », explique Viviane Gelles.

Pour anticiper ces problématiques, il est crucial d’imposer la notion de privacy by design dès le stade de la réflexion sur un projet. « Dès le départ, il faudra se poser des questions : Les données proviennent-elles de bases préexistantes ? Est-ce que j’ai le consentement des personnes concernées ? Comment je sécurise la durée de conservation ? »

Le cadre juridique de la responsabilité en lien avec l’IA est encore en construction sur de nombreux sujets. Qui est responsable en cas d’accident avec une voiture autonome ? Est-ce l’utilisateur, le fabricant, la marque ? Dans le cas présent, « un cadre s’est construit en fonction de l’autonomie de l’IA. Mais sinon, de façon plus globale, on est encore sur un cadre juridique qui n’est pas complètement figé. Le projet de réglement européen sur la responsabilité des IA, attendu dans les prochains mois, a cette ambition. » 

YOSHUA BENGIO ET KATE CRAWFORD DISCUTENT DU BESOIN URGENT DE RÉGLEMENTER L’IA

Suite au dévoilement d’un livre conjoint de Mila et de l’UNESCO appelant à une meilleure gouvernance de l’intelligence artificielle, le fondateur et directeur scientifique de Mila, Yoshua Bengio, s’est entretenu avec Kate Crawford, éminente chercheuse en IA, pour discuter de l’avenir de l’industrie face à des changements sans précédent.


EXPLORER LES INTERSECTIONS ENTRE LA CONSCIENCE, LA COGNITION ET L’IA

Le 8 mars 2023, les chercheurs affiliés à Mila Blake Richards et Guillaume Lajoie ont co-organisé à l’institut un atelier visant à explorer les liens entre le cerveau et l’IA. Intitulé «Tracing the links between Cognition, Consciousness and AI», cette série de conférences a réuni des sommités de nombreux domaines en marge de COSYNE, la plus grande conférence mondiale sur les neurosciences computationnelles, qui s’est tenue à Montréal pour la première fois.

Explorer les intersections entre la conscience, la cognition et l'IA (mila.quebec)
https://mila.quebec/consciousness-workshop-2023/


Sources : 

https://eur-lex.europa.eu/resource.html?uri=cellar%3Ae0649735-a372-11eb-9585-01aa75ed71a1.0020.02%2FDOC_1&format=PDF

 Source : Conversation avec Bing, 11/04/2023(1) Bérénice Levet : « Soljenitsyne, penseur des limites - Le Figaro. https://www.lefigaro.fr/vox/politique/2018/11/28/31001-20181128ARTFIG00248-berenice-levet-soljenitsyne-penseur-des-limites.php 

(2) Collection Le Goût des idées - Les Belles Lettres. https://www.lesbelleslettres.com/livre/9782251200460/le-declin-du-courage 

(3) Le droit est trop froid et trop formel... | Citation de Alexandre .... https://citations.institut-iliade.com/le-droit-est-trop-froid-et-trop-formel/ 

[ii] “L’IA générative va entraîner des considérations juridiques nouvelles sur le droit d’auteur” (usine-digitale.fr) https://www.usine-digitale.fr/article/l-ia-generative-va-entrainer-des-considerations-juridiques-nouvelles-sur-le-droit-d-auteur.N2113996[iii] Source : Conversation avec Bing, 30/03/2023(1) Nouveau règlement européen sur l’intelligence artificielle (IA) | vie ....

https://www.vie-publique.fr/en-bref/279650-nouveau-reglement-europeen-sur-lintelligence-artificielle-ia Accédé à 30/03/2023 .

[iv] Droit et intelligence artificielle - Propriété intellectuelle | Dalloz Actualité (dalloz-actualite.fr) https://www.dalloz-actualite.fr/chronique/droit-et-intelligence-artificielle#.ZCWXt8rP200

[v] 3 Conseil européen, Réunion extraordinaire du Conseil européen (1er et 2 octobre 2020) – Conclusions,

EUCO 13/20, 2020, p. 6.

4 Résolution du Parlement européen du 20 octobre 2020 contenant des recommandations à la

Commission concernant un cadre pour les aspects éthiques de l’intelligence artificielle, de la robotique

et des technologies connexes, 2020/2012(INL).

5 Conseil européen, Réunion du Conseil européen (19 octobre 2017) – Conclusions, EUCO 14/17, 2017,

p. 8.

6 Conseil de l’Union européenne, Intelligence artificielle b) Conclusions sur le plan coordonné dans le

domaine de l’intelligence artificielle – Adoption, 6177/19, 2019.

7 Conseil européen, Réunion extraordinaire du Conseil européen (1er et 2 octobre 2020) – Conclusions,

EUCO 13/20, 2020.

8 Conseil de l’Union européenne, Conclusions de la présidence – La charte des droits fondamentaux

dans le contexte de l’intelligence artificielle et du changement numérique, 11481/20, 2020.

9 Résolution du Parlement européen du 20 octobre 2020 concernant un cadre pour les aspects éthiques de

l’intelligence artificielle, de la robotique et des technologies connexes, 2020/2012(INL).

10 Résolution du Parlement européen du 20 octobre 2020 sur un régime de responsabilité civile pour

l’intelligence artificielle, 2020/2014(INL).

11 Résolution du Parlement européen du 20 octobre 2020 sur les droits de propriété intellectuelle pour le développement des technologies liées à l’intelligence artificielle, 2020/2015(INI).

 


à
Libellés : , , , , , , , , , ,

Aucun commentaire:

Enregistrer un commentaire

Inscription à : Publier les commentaires (Atom)

Anthropic propose une bibliothèque de prompts :

  Anthropic propose une bibliothèque de prompts : Anthropic propose effectivement une bibliothèque de prompts optimisés pour diverses tâches...