diff --git a/images/2045.png b/images/2045.png new file mode 100644 index 0000000..b9ea8c0 Binary files /dev/null and b/images/2045.png differ diff --git a/sections/conclusion.tex b/sections/conclusion.tex index 9d09295..e7eca25 100644 --- a/sections/conclusion.tex +++ b/sections/conclusion.tex @@ -1,4 +1,4 @@ -dilatabilitésparallèle\chapter*{Conclusion Générale} +entrepreneursdilatabilitésparallèle\chapter*{Conclusion Générale} \addcontentsline{toc}{chapter}{Conclusion Générale} Au cours de ce projet de recherche et aussi de deux dernières années au LIRMM, j'ai travaillé en étroite collaboration avec des roboticiens, acquérant des informations précieuses sur les défis et les lignes directrices des recherches en l'IA quant à une possible émergence d'une forme de CA. Cela m'a également permis de construire un cadre humaniste qui considère les robots engagés dans des pratiques artistiques collaboratives, \textit{plus que} de simples outils. Bien que cette idée est un travail en cours, cela continue de façonner mes recherches et mes interrogations artistiques. @@ -120,65 +120,57 @@ Les objections à la conscience dans les systèmes d'apprentissage automatique t L'humain augmenté à l’image de la créature de Frankenstein amplifie ce sentiment de \gls{social uncanniness} que nous avons décrit précédemment. L'humain perd les caractéristiques de son \textit{humanité}. Dans son effort pour les retrouver, le philosophe Georgio Agamben montre comment le corps humain est devenu l’enjeu fondamental des stratégies politiques: \begin{quote} - ``Pendant des millénaires, l'homme est resté ce qu'il était pour Aristote : un animal vivant avec la capacité supplémentaire d'existence politique ; l'homme moderne est un animal dont la politique met en question son existence en tant qu'être vivant\footnote{For millennia man remained what he was for Aristotle: a living animal with the additional capacity for political existence; modern man is an animal whose politics calls his existence as a living being into question.”}.” + ``Pendant des millénaires, l'homme est resté ce qu'il était pour Aristote : un animal vivant avec la capacité supplémentaire d'existence politique ; l'homme moderne est un animal dont la politique met en question son existence en tant qu'être vivant\footnote{``For millennia man remained what he was for Aristotle: a living animal with the additional capacity for political existence; modern man is an animal whose politics calls his existence as a living being into question.”}.” \cite{agamben2017omnibus} \end{quote} Par la substitution d'un corps naturel à un corps intégralement disponible au pouvoir de la technique, Agamben identifie une zone d’indifférenciation entre vie et non-vie. Un de ses concepts clé s'inspire de la distinction aristotélicienne entre \textit{vie} en tant que bios et la \textit{vie nue} ou \textit{Zoe} qui représente la vie qui ne peut pas être intégrée dans un ordre politique. Basé sur une analyse de l'origine des biopouvoirs\footnote{concept développé par le philosophe français Michel Foucault qui désigne le pouvoir exercé par les institutions et les gouvernements sur les corps et les populations, en particulier à travers la régulation et le contrôle des processus biologiques, des comportements sanitaires, et des conditions de vie des individus.} chez Michel Foucault, Agamben montre comment le pouvoir politique moderne tend à réduire les individus à leur simple existence biologique. +L'humanité a toujours cherché l'immortalité. L’un des contes les plus anciens de l’humanité est \textit{L’épopée de Gilgamesh} qui remonte au 22ème siècle avant JC. Le personnage principal cherche à atteindre la vie éternelle, grâce à une fleur au fond de l'océan qui lui redonnera sa jeunesse. Après de nombreuses épreuves et avertissements, il cueillit la fleur des profondeurs aquatiques mais finis par la perdre et meurt. \cite{harari2014sapiens} évoque ce mythe en lien avec les préoccupations actuelles des certains entrepreneurs de Silicon Valley, concernant l’espérance de vie et l'immortalité. Ainsi en 2021 le président d’Amazon, Jeff Bezos, a investi dans Altos Labs, un startup dont l'objectif est de travailler sur une technologie pour régénérer les cellules et potentiellement prolonger la vie. Plusieurs chercheurs de renommée internationale se son associés à cette initiative\footnote{https://www.cbsnews.com/news/jeff-bezos-altos-labs-startup-trying-to-extend-human-life-reprogramming-stem-cells/}. +Leurs arguments reposent sur les avancements technologiques et scientifiques du 20ème siècle, parfois plus spectaculaires que les prédictions de la littérature anticipation. Pareil à la nouvelle \textit{Fantastic Voyage} (1966) d'Asimov, des experts miniaturisés pourront bientôt être injectés dans le corps d'un patient pour effectuer une opération chirurgicale depuis l'intérieur. D'une manière peu surprenante, les experts en nanotechnologie de nos jours comptent s'appuyer sur de millions de nano-robots pour habiter et guérir nos corps. Selon les spéculations actuelles, certains humains deviendront \textit{a-mortels}\footnote{par rapport à un immortel, un a-mortel peut toujours mourir d'un accident, bien que sa vie pourrait être prolongée indéfiniment}d'ici 2050. -\cite{harari2014sapiens} -Combien de temps faudra-t-il pour achever le Projet Gilgamesh—la quête de l'immortalité ? Cent ans ? Cinq cents ans ? Mille ans ? Lorsque nous rappelons combien nous savions peu sur le corps humain en 1900 et combien de connaissances nous avons acquises en un siècle, il y a lieu d'être optimiste. Les ingénieurs génétiques ont récemment doublé l'espérance de vie moyenne des vers Caenorhabditis elegans. Pourraient-ils en faire autant pour Homo sapiens ? Les experts en nanotechnologie développent un système immunitaire bionique composé de millions de nano-robots, qui habiteraient nos corps, ouvriraient les vaisseaux sanguins obstrués, combattraient les virus et les bactéries, élimineraient les cellules cancéreuses et inverseraient même les processus de vieillissement. Quelques chercheurs sérieux suggèrent que d'ici 2050, certains humains deviendront a-mortels (non pas immortels, car ils pourraient toujours mourir d'un accident, mais a-mortels, signifiant qu'en l'absence de traumatisme fatal, leur vie pourrait être prolongée indéfiniment). - -Dans son livre\cite{harari2017homo}, \textit{les organismes sont des algorithmes}. Cela inclut les humains, qui sont constitués d’algorithmes qui produisent des copies d’eux-mêmes. Les sensations, les émotions, les pensées et les comportements proviennent tous de ces algorithmes. Dans une vision évolutionniste du monde, ces algorithmes biologiques ont été produits sur des milliards d’années de variation aléatoire et de sélection naturelle. L'essence humaine n'est pas l'âme pour Harari – c'est l'ADN. Bientôt, dit-il, nous serons capables de réécrire les brins d'ADN et de créer une nouvelle espèce humaine. +Dans son livre\cite{harari2017homo}, l’historien Yuval Noah Harari déclare que \textit{les organismes sont des algorithmes}. Cela inclut les humains et leurs gênes, qu'il voit comme des algorithmes qui produisent des copies d’eux-mêmes. Selon sa vision évolutionniste, ces algorithmes biologiques sont le résultat des processus de sélection naturelle depuis des milliards d’années. L’élément central de cette these est l'ADN, de plus en plus à notre portée depuis son séquençage. Les différences entre les matières organiques et anorganiques, vivantes ou non-vivantes, dépendent des combinaisons entre les gênes, ce qui permettra à notre espèce de créer des robots sentients à son tour: \begin{quote} -L’humanité est désormais prête à remplacer la sélection naturelle par une conception intelligente et à prolonger la vie du domaine organique vers le domaine inorganique\footnote{Now humankind is poised to replace natural selection with intelligent design, and to extend life from the organic realm into the inorganic.} +``L’humanité est désormais prête à remplacer la sélection naturelle par une conception intelligente et à prolonger la vie du domaine organique vers le domaine inorganique\footnote{``Now humankind is poised to replace natural selection with intelligent design, and to extend life from the organic realm into the inorganic..”}.” \cite{harari2017homo} \end{quote} -En 2021 le président d’Amazon, Jeff Bezos, a investi dans Altos Labs, un startup dont l'objectif est de travailler sur une technologie pour régénérer les cellules et potentiellement prolonger la vie. Plusieurs chercheurs de renommée internationale se son associés à cette initiative\footnote{https://www.cbsnews.com/news/jeff-bezos-altos-labs-startup-trying-to-extend-human-life-reprogramming-stem-cells/}. -Les enjeux éthiques de l’IA dans la surveillance vont au-delà de la simple accumulation de données et de l’orientation de l’attention : ils incluent l’utilisation d’informations pour manipuler les comportements, en ligne et hors ligne, d’une manière qui sape les choix rationnels autonomes. Bien sûr, les efforts visant à manipuler les comportements sont anciens, mais ils peuvent acquérir une nouvelle dimension lorsqu’ils utilisent des systèmes d’IA. -Bien entendu, certaines contraintes assez fondamentales de l’éthique des affaires et du droit s’appliquent également aux robots : la sécurité et la responsabilité des produits, ou la non-tromperie dans la publicité. Il semble que ces contraintes existantes répondent à de nombreuses préoccupations soulevées. Il existe cependant des cas où l’interaction entre humains présente des aspects qui semblent spécifiquement humains et qui ne peuvent peut-être pas être remplacés par des robots : les soins, l’amour et le sexe. -débats philosophiques où l’autonomie est le fondement de la responsabilité et de la personnalité. Dans ce contexte, la responsabilité implique l'autonomie, mais pas l'inverse, de sorte qu'il peut y avoir des systèmes qui disposent de degrés d'autonomie technique sans soulever de questions de responsabilité. -L'idée de singularité est que si la trajectoire de l'intelligence artificielle atteint des systèmes ayant un niveau d'intelligence humain, alors ces systèmes auraient eux-mêmes la capacité de développer des systèmes d'IA surpassant le niveau d'intelligence humain, c'est-à-dire qu'ils seraient superintelligents. De tels systèmes d'IA superintelligents s'amélioreraient rapidement eux-mêmes ou développeraient des systèmes encore plus intelligents. Ce tournant radical des événements après avoir atteint l'IA superintelligente est la singularité à partir de laquelle le développement de l'IA échappe au contrôle humain et devient difficile à prédire +Bien entendu, certaines aspects spécifiquement humains comme les soins, l’amour ou le sexe, ne pourront pas être complétement remplacés par des robots. Leur emploi engendre des contraintes en lien avec la sécurité et la responsabilité des produits, ainsi que la non-tromperie des usagers. +Ray Kurzweil est chercheur et aviseur en l'IA chez Google, où il étudie les articulations entre la technologie et la société. Selon ses estimations, la puissance de calcul augmente de manière exponentielle, en doublant environ tous les 2 ans depuis 1970 (suivant les principes de la loi de Moore). Ainsi pour lui, l'année 2030 ensuite 2045 sont des échéances importantes concernant la Singularité et la dématérialisation de la conscience\cite{kurzweil2005singularity}. +Son expérience personnelle avec le diabète l'a amené à s’investir dans des recherches sur le métabolisme et les maladies. Ainsi il co-écrit une livre intitulé \textit{Fantastic Voyage} (2005) avec l'expert en prolongation de la vie Terry Grossman. Ensemble ils réfléchissent aux modalités pour préserver la bonne santé et la longévité. Structuré en trois parties dont la première intitule \textit{Le programme de longévité de Ray et Terry}, le livre regorge de conseils en bien-être: +\begin{quote} + ``Apportez des sachets de stévia lorsque vous mangez à l'extérieur.(...) + Vous pouvez préparer une vinaigrette à faible teneur en glucides et en matières grasses en combinant la stévia avec du jus de citron et/ou du vinaigre balsamique.(...) + Mangez des légumes pauvres en amidon à volonté.(...) + Nous vous suggérons de manger une grande variété de légumes de toutes les couleurs possibles.” + Le guide est gratuit et disponible online\footnote{https://fantastic-voyage.net/ShortGuide.html}. +\end{quote} +Les prochaines chapitres se concentrent sur un état d'art pragmatique concernant les biotechnologies et les nanotechnologies dues à l'IA. Malgré leur enthousiasme, les auteurs fournissent très peu considérations éthiques quant aux implications de la technologie sur la santé. -Kurzweil est un enfant surdoué, Il est chercheur principal et visionnaire de l'IA chez Google, où il étudie les implications à long terme de la technologie et de la société. -souligne essentiellement que la puissance de calcul augmente de manière exponentielle, c'est-à-dire qu'elle double environ tous les 2 ans depuis 1970 conformément à la loi de Moore sur le nombre de transistors, et qu'elle continuera à le faire pendant un certain temps. Il a prédit dans (Kurzweil 1999) qu'en 2010, les superordinateurs atteindraient la capacité de calcul humaine, qu'en 2030, le téléchargement de l'esprit serait possible et qu'en 2045, la singularité se produirait. -\cite{kurzweil2005singularity} -Deux études on été faites dans le cadre du projet \textit{One Hundred Year Study on Artificial Intelligence} de l'Université de Stanford. +Après le succès de son premier livre sur le sujet- \textit{The singularity is near}\cite{kurzweil2005singularity}- Kurzweil prévoit de faire apparaitre en été 2024 une suite \footnote{https://www.economist.com/by-invitation/2024/06/17/ray-kurzweil-on-how-ai-will-transform-the-physical-world} sous le titre \textit{The Singularity Is Nearer: When We Merge with AI}. Suivant ces conseils et prédictions, l'entrepreneur russe Dmitry Itskov lance le programme \textit{Initiative 2045} qui regroupe en 2024 plus de 47000 enthousiastes. Ce projet développe des interfaces cerveau-machine suivant quatre étapes clés: +\begin{figure} + \centering + \includegraphics[width=0.7\linewidth]{images/2045} + \caption{Les quatre étapes avant d’atteindre la Singularité. Source : http://2045.com/} + \label{fig:2045} +\end{figure} +Cependant son initiative manque également d'esprit critique à l'égard des hypothèses avancées. +Deux études scientifiques on été faites dans le cadre du projet \textit{One Hundred Year Study on Artificial Intelligence} de l'Université de Stanford. Le premier date de 2016 et le suivant de 2021, étant prévu que chaque cinq ans, elles se renouvellent durant le XXIème siècle. Pour le grand public, ce type d'étude cherche une représentation accessible, scientifiquement et technologiquement précise de l’état actuel de l’IA et de son potentiel. Tandis que pour l'industrie, le rapport pourra aider à orienter l’allocation des ressources et anticiper l'évolution du marché dans les années à venir. Il s'adresse également aux gouvernements locaux, nationaux et internationaux pour une meilleure gouvernance de l'IA dans la société. Tout comme aux chercheurs en IA et à la communauté scientifique, afin de prendre en compte les aspects éthiques et enjeux juridiques soulevés par les analyses de terrain. Plusieurs domaines comme le transport, les robots de service, les soins de santé, l' éducation, la sûreté et la sécurité publiques, l'emploi et lieu de travail ainsi que le divertissement sont prises en compte. -Livre structuré en trois parties dont la première intitule \textit{Le programme de longévité de Ray et Terry} Emportez-en avec vous. Apportez des sachets de stévia lorsque vous mangez à l'extérieur. -Vous pouvez préparer une vinaigrette à faible teneur en glucides et en matières grasses en combinant la stévia avec du jus de citron et/ou du vinaigre balsamique. -*Mangez des légumes pauvres en amidon à volonté. Nous vous suggérons de manger une grande variété de légumes de toutes les couleurs possibles. Le guide est disponible online\footnote{https://fantastic-voyage.net/ShortGuide.htm} -Une suite à son bestseller de 2005\cite{kurzweil2005singularity} est prévue apparaitre en été 2024\footnote{https://www.economist.com/by-invitation/2024/06/17/ray-kurzweil-on-how-ai-will-transform-the-physical-world} sous le titre \textit{The Singularity Is Nearer: When We Merge with AI} - -La suite se concentrant sur les avancés et biotechnologies nanotechnologies dues à l'IA, dans une perspective pragmatique et sans aucune considération éthique. -Son expérience personnelle avec le diabète l'a amené à s’investir dans des recherches sur le metabolisme et le corps - -Le premier, en 2016 -Pour le grand public, -il vise à fournir une représentation accessible, scientifiquement et technologiquement précise -de l’état actuel de l’IA et de son potentiel. Pour l'industrie, le rapport décrit les -technologies et les défis juridiques et éthiques, et peuvent aider à orienter l’allocation des ressources. -Le rapport s'adresse également aux gouvernements locaux, nationaux et internationaux pour les aider -qu'ils planifient mieux l'IA dans la gouvernance. Enfin, le rapport peut aider les chercheurs en IA, -ainsi que leurs institutions et bailleurs de fonds, pour fixer des priorités et prendre en compte les aspects éthiques et -enjeux juridiques soulevés par la recherche sur l’IA et ses applications -e plus important : le transport ; robots de service ; soins de santé; éducation; à faibles ressources -les communautés ; la sûreté et la sécurité publiques ; emploi et lieu de travail; et du divertissement. -Dans chacun de ces domaines, le rapport reflète à la fois les progrès réalisés au cours des quinze dernières années -et anticipe les évolutions dans les quinze années à venir. -t Influences et défis de l’IA, -comme la difficulté de créer du matériel sûr et fiable (transport et service -robots), la difficulté d’interagir en douceur avec des experts humains (soins de santé et -éducation), le défi de gagner la confiance du public (communautés à faibles ressources et -sûreté et sécurité), le défi de surmonter les craintes de marginalisation des humains -(emploi et lieu de travail), et le risque social et sociétal de diminution des relations interpersonnelles -interactions (divertissement). +Les chercheurs ont relevé certains défis associés à ces applications: +\begin{itemize} + \item la difficulté de créer du matériel sûr et fiable dans le transport et les robots de service, + \item la difficulté d’interagir en douceur avec des experts humains dans les soins de santé et + d'éducation, + \item le défi de gagner la confiance du public et de surmonter les craintes de marginalisation des humains + dans l'emploi et lieu de travail, + \item le risque social et sociétal de diminution des relations interpersonnelles dans les interactions liés au divertissement. + etc. +\end{itemize} Contrairement aux prédictions plus fantastiques de la presse populaire concernant l'IA, le panel d'étude n'a trouvé aucune raison de s'inquiéter du fait que l'IA constitue une menace imminente pour l'humanité. Aucune machine dotée d'objectifs et d'intentions autonomes à long terme n'a été développée, et il est peu probable qu'elles le soient dans un avenir proche. En revanche, des applications de plus en plus utiles de l'IA, avec des impacts potentiellement profonds et positifs sur notre société et notre économie, sont susceptibles d'émerger d'ici 2030, période considérée dans ce rapport. En même temps, bon nombre de ces développements provoqueront des perturbations dans la manière dont le travail humain est augmenté ou remplacé par l'IA, créant de nouveaux défis pour l'économie et la société en général. Des augmentations substantielles des utilisations futures des applications de l'IA, y compris plus de voitures autonomes, des diagnostics de soins de santé et des traitements ciblés, ainsi que l'assistance physique pour les soins aux personnes âgées, peuvent être attendues. @@ -376,7 +368,7 @@ Avant et après lui, bien d’autres qui, comme lui, contribuèrent à la concep Le futur n’aurait – ou n’aura – plus besoin de nous ! Prise au pied de la lettre, et sans même en discuter la cause, l’affirmation déroute : de quel futur parle-t-on … Critique des proche d’eugénisme Retrace l'apparition du terme de \textit{Singularité} à l'écrivain de science-fiction Vernor Vinge qui mentionne ce terme dans son essai \textit{La singularité technologique à venir} en 1993, en s'inspirant des propos de John von Neumann dans ses équations mathématiques. -puis Isaac Asimov qui dans son nouvelle \textit{La dernière question} (1956) prédit le progrès exponentiel de la puissance de calcul des ordinateurs +puis Isaac Asimov qui dans son nouvelle \textit{La dernière question} (1956) prédit le progrès exponentiel de la puissance de calcul des ordinateurs. Question \textit{Comment peut-on inverser l'entropie ?} posé à Multivac. ais Jean-Gabriel Ganascia s’attache à démontrer que :1) Le terme même d’IA est abusivement utilisé par les promoteurs de la singularité et que les capacités des ordinateurs, aussi impressionnantes soient-elles, ne peuvent par principe leur conférer ces pouvoirs espérés ou redoutés.2) Loin d’être neuve, la perspective de la singularité recycle de vieilles idéologies gnostiques et millénaristes, rénovées par un habillage technofuturiste, tout en étant sous-tendue par les stratégies de communication mercantiles des multinationales de l’informatique.Voici un essai critique et concis sur ce thème à grand retentissement public par l’un des meilleurs experts des humanités numériques. les prophéties à propos de la Singularité reposent sur une extrapolation infondée de la loi de Moore, une épistémologie aporétique (à la fois matérialiste et dualiste dans ses prémisses) et, plus encore, sur un récit eschatologique qui a très peu à voir avec la sobre rigueur de l'esprit scientifique. une perspective transhumaniste ou catastrophiste (non éclairée et dystopique), lesquelles versions se sont substituées au fil du temps au premier (concept @@ -432,6 +424,8 @@ est que la moralité artificielle doit venir par degrés et dépendre du niveau Des systèmes tels que les robots cognitifs sont en cours de développement et devraient faire partie de notre vie quotidienne dans les décennies à venir. Il faut donc s’assurer que leur comportement est adéquat. Par analogie avec l'intelligence artificielle, qui est la capacité d'une machine à effectuer des activités qui nécessiteraient de l'intelligence chez les humains, la moralité artificielle est considérée comme la capacité d'une machine à effectuer des activités qui nécessiteraient de la moralité chez les humains. La capacité de moralité artificielle (artificielle), telle que l’action artificielle, la responsabilité artificielle, les intentions artificielles, les émotions artificielles (synthétiques), etc., se manifeste à des degrés divers et dépend du type d’agent. surveillance biquiteuse, (2) ingénierie sociale, (3) robots militaires, (4) robots sexuels et (5) transhumanisme. À l’exception partielle du transhumanisme, tous ces domaines d’interaction entre l’IA et les services robotiques présentent déjà des problèmes éthiques dans la pratique. Mais ces cinq domaines soulèveront des préoccupations supplémentaires à l’avenir à mesure que ces technologies se développeront. Ces problèmes ont de graves conséquences et il est impératif de les étudier et de les résoudre dès maintenant. + +Les enjeux éthiques de l’IA dans la surveillance vont au-delà de la simple accumulation de données et de l’orientation de l’attention : ils incluent l’utilisation d’informations pour manipuler les comportements, en ligne et hors ligne, d’une manière qui sape les choix rationnels autonomes. Bien sûr, les efforts visant à manipuler les comportements sont anciens, mais ils peuvent acquérir une nouvelle dimension lorsqu’ils utilisent des systèmes d’IA. \cite{zawieska2020disengagement} Au cours des deux dernières décennies, les défis éthiques liés aux technologies robotiques ont suscité un intérêt croissant parmi différentes communautés de recherche et non universitaires, en particulier dans le domaine de la robotique. Même si les raisons d’aborder la robotéthique sont claires, il faut mieux comprendre pourquoi ne pas s’engager dans la question de l’éthique. Cet article se concentre sur un engagement limité ou absent envers l'éthique qui a lieu au sein de certaines parties de la communauté robotique et ses implications pour la conceptualisation de l'être humain. L’hypothèse sous-jacente est que le terme éthique signifie essentiellement humain. Ainsi, cet article discute une hypothèse de travail selon laquelle, en évitant de s’engager dans la robotique, les roboticiens contribuent au processus tacite de déshumanisation émergeant dans et en dehors de la robotique. Une approche alternative inclut l’éthique vécue , qui implique non seulement d’incorporer des approches éthiques formelles dans le travail des roboticiens, mais également d’ être éthique et de s’engager réellement dans une réflexion et une pratique éthiques.