diff --git a/bibliography.bib b/bibliography.bib index 11f1ac7..abd3c5e 100644 --- a/bibliography.bib +++ b/bibliography.bib @@ -1,3 +1,24 @@ +@book{casilli2019attendant, + title={En attendant les robots-Enqu{\^e}te sur le travail du clic}, + author={Casilli, Antonio A}, + year={2019}, + publisher={M{\'e}dia Diffusion} +} + +@article{littman2022gathering, + title={Gathering strength, gathering storms: The one hundred year study on artificial intelligence (AI100) 2021 study panel report}, + author={Littman, Michael L and Ajunwa, Ifeoma and Berger, Guy and Boutilier, Craig and Currie, Morgan and Doshi-Velez, Finale and Hadfield, Gillian and Horowitz, Michael C and Isbell, Charles and Kitano, Hiroaki and others}, + journal={arXiv preprint arXiv:2210.15767}, + year={2022} +} + +@article{stone2022artificial, + title={Artificial intelligence and life in 2030: the one hundred year study on artificial intelligence (AI100) 2016 study panel report}, + author={Stone, Peter and Brooks, Rodney and Brynjolfsson, Erik and Calo, Ryan and Etzioni, Oren and Hager, Greg and Hirschberg, Julia and Kalyanakrishnan, Shivaram and Kamar, Ece and Kraus, Sarit and others}, + journal={arXiv preprint arXiv:2211.06318}, + year={2022} +} + @article{gemeinboeck2021aesthetics, title={The aesthetics of encounter: a relational-performative design approach to human-robot interaction}, author={Gemeinboeck, Petra}, diff --git a/sections/conclusion.tex b/sections/conclusion.tex index e7eca25..53cea3e 100644 --- a/sections/conclusion.tex +++ b/sections/conclusion.tex @@ -39,7 +39,7 @@ Selon\cite{nass1997computers}, les individus adoptent des comportements sociaux \cite{shaw2009looking} \end{quote} -Actuellement les machines dotées d'une véritable IA sont très coûteuses. Les seules personnes qui peuvent se permettre d'interagir avec, sont les grands entreprises internationales. Le nombre de personnes qui peuvent objectivement évaluer l'impact de ces technologies sur l'avenir étant très réduit, cela soulève des nombreux questions éthiques\cite{chowdhury2021ethics}. +Contrairement aux prédictions plus fantastiques de la presse populaire concernant l'IA, les machines dotées d'une véritable IA sont très coûteuses actuellement. Les seules personnes qui peuvent se permettre d'interagir avec, sont les grands entreprises internationales. Le nombre de personnes qui peuvent objectivement évaluer l'impact de ces technologies sur l'avenir étant très réduit, cela soulève des nombreux questions éthiques\cite{chowdhury2021ethics}. Pour illustre, un exemple d'algorithme qui entraine une IA, les chercheurs illustrent le cas d'un robot qui obtient une récompense pour préparer du thé. Pour atteindre son objectif, le robot va \textit{gagner} plein des récompenses. Cependant si lors de sa préparation, quelqu'un oublie une vase sur le trajet du robot, celui-ci va la renverser puisqu'il ne connait aucune instruction concernant cette vase. Ainsi pour un système d’IA avancé, déployé dans le monde réel, il faut modéliser l’apprentissage de l'agent en lien avec son environnement. Cela va de pair avec une prise de conscience collective des citoyens, des chercheurs, des décideurs politiques et des leaders de l'industrie, quant aux dimensions éthiques des nouvelles technologies numériques. @@ -150,18 +150,16 @@ Son expérience personnelle avec le diabète l'a amené à s’investir dans des \end{quote} Les prochaines chapitres se concentrent sur un état d'art pragmatique concernant les biotechnologies et les nanotechnologies dues à l'IA. Malgré leur enthousiasme, les auteurs fournissent très peu considérations éthiques quant aux implications de la technologie sur la santé. -Après le succès de son premier livre sur le sujet- \textit{The singularity is near}\cite{kurzweil2005singularity}- Kurzweil prévoit de faire apparaitre en été 2024 une suite \footnote{https://www.economist.com/by-invitation/2024/06/17/ray-kurzweil-on-how-ai-will-transform-the-physical-world} sous le titre \textit{The Singularity Is Nearer: When We Merge with AI}. Suivant ces conseils et prédictions, l'entrepreneur russe Dmitry Itskov lance le programme \textit{Initiative 2045} qui regroupe en 2024 plus de 47000 enthousiastes. Ce projet développe des interfaces cerveau-machine suivant quatre étapes clés: +Après le succès de son premier livre sur le sujet- \textit{The singularity is near}\cite{kurzweil2005singularity}- Kurzweil prévoit de faire apparaitre en été 2024 une suite \footnote{https://www.economist.com/by-invitation/2024/06/17/ray-kurzweil-on-how-ai-will-transform-the-physical-world} sous le titre \textit{The Singularity Is Nearer: When We Merge with AI}. Suivant ces conseils et prédictions, l'entrepreneur russe Dmitry Itskov lance le programme \textit{Initiative 2045} qui regroupe en 2024 plus de 47000 enthousiastes. Ce projet développe des interfaces cerveau-machine suivant quatre étapes clés. \begin{figure} \centering \includegraphics[width=0.7\linewidth]{images/2045} \caption{Les quatre étapes avant d’atteindre la Singularité. Source : http://2045.com/} \label{fig:2045} \end{figure} -Cependant son initiative manque également d'esprit critique à l'égard des hypothèses avancées. +Cependant son initiative manque d'esprit critique à l'égard des hypothèses avancées, donnant plutôt l'impression d'une aspiration que d'une réalité transhumaniste. -Deux études scientifiques on été faites dans le cadre du projet \textit{One Hundred Year Study on Artificial Intelligence} de l'Université de Stanford. Le premier date de 2016 et le suivant de 2021, étant prévu que chaque cinq ans, elles se renouvellent durant le XXIème siècle. Pour le grand public, ce type d'étude cherche une représentation accessible, scientifiquement et technologiquement précise de l’état actuel de l’IA et de son potentiel. Tandis que pour l'industrie, le rapport pourra aider à orienter l’allocation des ressources et anticiper l'évolution du marché dans les années à venir. Il s'adresse également aux gouvernements locaux, nationaux et internationaux pour une meilleure gouvernance de l'IA dans la société. Tout comme aux chercheurs en IA et à la communauté scientifique, afin de prendre en compte les aspects éthiques et enjeux juridiques soulevés par les analyses de terrain. Plusieurs domaines comme le transport, les robots de service, les soins de santé, l' éducation, la sûreté et la sécurité publiques, l'emploi et lieu de travail ainsi que le divertissement sont prises en compte. - -Les chercheurs ont relevé certains défis associés à ces applications: +Dans une tentative de clarifier les enjeux de l'IA dans les décennies à venir, l'Université de Stanford à initié récemment le projet scientifique d’envergure \textit{One Hundred Year Study on Artificial Intelligence}. Ainsi il est prévu que chaque cinq ans, un comité indépendant des chercheurs publie un rapport sur l'état de lieux de l'IA, cela durant le XXIème siècle. Le premier étude a eu lieu en 2016 et le suivant en 2021. Pour le grand public, ce type d'étude cherche une représentation accessible, scientifiquement et technologiquement précise de l’état actuel de l’IA et de son potentiel. Tandis que pour l'industrie, le rapport pourra aider à orienter l’allocation des ressources et anticiper l'évolution du marché dans les années à venir. Il s'adresse également aux gouvernements locaux, nationaux et internationaux pour une meilleure gouvernance de l'IA dans la société. Tout comme aux chercheurs en IA et à la communauté scientifique, afin de prendre en compte les aspects éthiques et enjeux juridiques soulevés par les analyses de terrain. Parmi les domaines analysés, nous retrouvons le transport, les robots de service, les soins de santé, l'éducation, la sûreté et la sécurité publiques, l'emploi ainsi que le divertissement. Dans chacun de ces domaines, les chercheurs ont relevé certains défis et réserves associées aux applications de l'IA: \begin{itemize} \item la difficulté de créer du matériel sûr et fiable dans le transport et les robots de service, \item la difficulté d’interagir en douceur avec des experts humains dans les soins de santé et @@ -172,82 +170,21 @@ Les chercheurs ont relevé certains défis associés à ces applications: etc. \end{itemize} -Contrairement aux prédictions plus fantastiques de la presse populaire concernant l'IA, le panel d'étude n'a trouvé aucune raison de s'inquiéter du fait que l'IA constitue une menace imminente pour l'humanité. Aucune machine dotée d'objectifs et d'intentions autonomes à long terme n'a été développée, et il est peu probable qu'elles le soient dans un avenir proche. En revanche, des applications de plus en plus utiles de l'IA, avec des impacts potentiellement profonds et positifs sur notre société et notre économie, sont susceptibles d'émerger d'ici 2030, période considérée dans ce rapport. En même temps, bon nombre de ces développements provoqueront des perturbations dans la manière dont le travail humain est augmenté ou remplacé par l'IA, créant de nouveaux défis pour l'économie et la société en général. Des augmentations substantielles des utilisations futures des applications de l'IA, y compris plus de voitures autonomes, des diagnostics de soins de santé et des traitements ciblés, ainsi que l'assistance physique pour les soins aux personnes âgées, peuvent être attendues. +Le premier rapport, publié le 1er septembre 2016, a été largement couvert dans la presse populaire et est aujourd'hui connu pour avoir influencé les discussions au sein des conseils consultatifs gouvernementaux et des ateliers dans plusieurs pays. Il commence sur une note constructive. Le panel d'étude trouve peu des raisons de s'inquiéter quant aux prédictions de la presse populaire concernant l'IA. Selon les chercheurs, il est peu probable qu'une machine dotée d'objectifs et d'intentions propres sera développée dans un avenir proche. En contrepoids, ils soulignent les applications de plus en plus pratiques de l'IA, dont l'impact sur notre société et notre économie se ressentira plus profondément à partir de 2030 quand les humains pourront \textit{enseigner} directement aux robots leurs principes et valeurs: \begin{quote} - Society is now at a crucial juncture in determining how to deploy AI-based technologies in ways that - promote rather than hinder democratic values such as freedom, equality, and transparency.(...)The field of AI is shifting toward building intelligent systems that can collaborate effectively with people, including creative - ways to develop interactive and scalable ways for people to teach robots. - \cite{rap 2016} + ``La société se trouve maintenant à un moment crucial pour déterminer comment déployer les technologies basées sur l'IA de manière à promouvoir plutôt qu'à entraver les valeurs démocratiques telles que la liberté, l'égalité et la transparence. (...) Le domaine de l'IA évolue vers la construction de systèmes intelligents capables de collaborer efficacement avec les humains, y compris par des moyens créatifs pour développer des méthodes interactives et évolutives permettant aux personnes d'enseigner directement aux robots.\footnote{``Society is now at a crucial juncture in determining how to deploy AI-based technologies in ways that promote rather than hinder democratic values such as freedom, equality, and transparency.(...)The field of AI is shifting toward building intelligent systems that can collaborate effectively with people, including creative ways to develop interactive and scalable ways for people to teach robots.”}.” + \cite{stone2022artificial} \end{quote} -et qui sont plus généralement conscients de l'humain, -y compris des moyens créatifs pour développer des moyens interactifs et évolutifs permettant aux gens de -enseigner aux robots. Ces tendances déterminent les domaines actuellement chauds de la recherche sur l’IA, à la fois -méthodes fondamentales et domaines d’application : -L’apprentissage automatique à grande échelle concerne la conception d’algorithmes d’apprentissage, ainsi que -ainsi que la mise à l'échelle des algorithmes existants, pour fonctionner avec des ensembles de données extrêmement volumineux. -L'apprentissage profond, une classe de procédures d'apprentissage, a facilité la reconnaissance d'objets -dans les images, l'étiquetage vidéo et la reconnaissance d'activités, et fait des percées significatives dans -d'autres domaines de perception, tels que le traitement de l'audio, de la parole et du langage naturel. -L'apprentissage par renforcement est un cadre qui déplace l'attention de la machine -apprendre de la reconnaissance de formes à la prise de décision séquentielle basée sur l’expérience. -Il promet de faire progresser les applications d’IA vers des actions dans le monde réel. -Bien qu'en grande partie confiné au monde universitaire au cours des dernières décennies, il apparaît désormais -quelques réussites pratiques et concrètes. -La robotique s'intéresse actuellement à la manière d'entraîner un robot à interagir avec le -monde qui l'entoure de manière généralisable et prévisible, comment faciliter la manipulation -des objets dans des environnements interactifs et comment interagir avec les gens. Progrès en -la robotique s'appuiera sur des progrès proportionnés pour améliorer la fiabilité et la généralité -de vision par ordinateur et d’autres formes de perception machine. -La vision par ordinateur est actuellement la forme de perception artificielle la plus répandue. -Il s’agit du sous-domaine de l’IA le plus transformé par l’essor du deep learning. Pour le -Pour la première fois, les ordinateurs sont capables d’effectuer certaines tâches visuelles mieux que les humains. Beaucoup -les recherches actuelles se concentrent sur le sous-titrage automatique des images et des vidéos. -Le traitement du langage naturel, souvent couplé à la reconnaissance vocale automatique, -devient rapidement un produit pour les langues largement parlées avec de grands ensembles de données. -La recherche s'oriente désormais vers le développement de systèmes raffinés et performants, capables de -interagir avec les gens par le biais du dialogue, et pas seulement réagir à des demandes stylisées. De grands progrès -ont également été réalisés en traduction automatique entre différentes langues, avec plus -des échanges de personne à personne en temps réel à l'horizon proche. -La recherche collaborative sur les systèmes étudie des modèles et des algorithmes pour aider à développer -des systèmes autonomes capables de travailler en collaboration avec d’autres systèmes et avec des humains. -La recherche sur le crowdsourcing et le calcul humain étudie les méthodes permettant de -augmenter les systèmes informatiques en faisant appel automatiquement à l'expertise humaine pour résoudre -des problèmes que les ordinateurs seuls ne peuvent pas résoudre correctement. - -Les transports, où quelques technologies clés ont catalysé -l’adoption généralisée de l’IA à une vitesse étonnante. Transport autonome -sera bientôt monnaie courante et, comme la première expérience physique de la plupart des gens -Les systèmes d’IA incarnés influenceront fortement la perception du public à l’égard de l’IA. Comme les voitures -deviendront de meilleurs conducteurs que les humains, les citadins posséderont moins de voitures, vivront plus loin des -travailler et passer du temps différemment, ce qui conduit à une toute nouvelle organisation urbaine. Dans -la ville nord-américaine typique en 2030, les applications d'IA physiquement incarnées -ne se limite pas aux voitures, mais inclut probablement les camions, les véhicules volants et les véhicules personnels. -des robots. Les améliorations apportées au matériel sûr et fiable stimuleront l'innovation au cours des années à venir. -quinze ans, comme ils le feront avec les Robots Home/Service, qui sont déjà entrés -maisons des gens, principalement sous la forme d’aspirateurs. De meilleures puces, une 3D à faible coût -les capteurs, l'apprentissage automatique basé sur le cloud et les progrès dans la compréhension de la parole seront -améliorer les services des futurs robots et leurs interactions avec les humains. But spécial -les robots livreront les colis, nettoieront les bureaux et amélioreront la sécurité. Mais technique -les contraintes et les coûts élevés des dispositifs mécaniques fiables continueront de limiter -opportunités commerciales vers des applications étroitement définies dans un avenir prévisible. -Publié le 1er septembre 2016, le premier rapport a été -largement couvert dans la presse populaire et est connu pour avoir -influencé les discussions au sein des conseils consultatifs gouvernementaux -et des ateliers dans plusieurs pays. Il a également été utilisé -dans une variété de programmes d’études en intelligence artificielle -Le deuxieme en 2021 -L'UE a été particulièrement active dans le domaine concret -règlement, y compris le Règlement Général sur la Protection des Données -Règlement (RGPD), qui comprend une certaine réglementation de -les systèmes de décision automatisés et le Cadre d’éthique -Aspects de la robotique IA et des technologies associées, qui -propose la création d'organismes nationaux de contrôle et -la désignation de technologies à haut risque -Étude de cas : Létal Autonome -Armes +En 2016 les avancées en robotique visaient améliorer les formes de perception d'une machine, comme la fiabilité de la vision par ordinateur. Cette forme de perception artificielle la plus répandue à cette époque a prouvé depuis son impact dans le secteur médical. Quant aux transports autonomes, le rapport décrit une ville nord-américaine typique en 2030 où des camions, des véhicules volants et des véhicules personnels sont pilotés grâce aux robots ou à l'IA. De plus, des robots livreront les colis, nettoieront les bureaux et amélioreront la sécurité. Le rapport anticipe également le progrès dans les LLM (modèles de langage de grande taille), la traduction et la reconnaissance vocale automatique. A la place des robots conscients, le rapport souligne les efforts concernant le développement du apprentissage automatique à grande échelle. Cela implique la conception d’algorithmes d’apprentissage, ainsi que la mise à l'échelle des algorithmes existants, pour fonctionner avec des ensembles de données extrêmement volumineux. Quant à l'apprentissage profond et à l'apprentissage par renforcement, le monde universitaire s'efforce toujours à partager des réussites pratiques et concrètes qui en réalité séduisent moins les Gafa. Presque 10 ans après ces observations, les \textit{travailleurs du clic}\cite{casilli2019attendant} fournissent un travail important de classification de procédures d'apprentissage, par l’étiquetage d'objets, lieux et visages ou par la reconnaissance d'activités dans les images et les vidéo. Aujourd'hui, travailler pour AmazonMechanical Turk\footnote{https://www.mturk.com/worker} pour des renumérotions dérisoires, permet en réalité d'entrainer des réseaux neuronales sophistiques avec des data set sur mesure. + + + +Le deuxieme rapport, datant de 2021, amende les prévisions annoncés dans le premier et décrit quelques préoccupations susceptibles de changer nos perspectives pour les années à venir. Le ton est cette fois plus inquiet. +Concernant le cadre éthique et les efforts de régularisation de l'IA, les chercheurs notent en particulier l'effort de l'UE qui vote en 2016 le \textit{Règlement Général sur la Protection des Données Règlement} (RGPD). Ils analysent certains aspects concernant la création d'organismes nationaux de contrôle des technologies à haut risque comme celui des \textit{Système d'armes létales autonomes} dont ils publient un étude de cas. + \begin{quote} La nature de la conscience reste une question ouverte. Certains voient des progrès ; d'autres croient que nous n'avons pas avancé dans la compréhension de la manière de créer un agent conscient depuis 46 ans, lorsque le philosophe Thomas Nagel a posé la fameuse question : Quelle est la sensation d'être une chauve-souris ?. Il n'est même pas clair que comprendre la conscience soit nécessaire pour comprendre l'intelligence humaine. La question est devenue moins pressante à cette fin alors que nous commençons à reconnaître les limites du traitement de l'information consciente dans la cognition humaine, et que nos modèles sont de plus en plus basés sur des processus émergents plutôt que sur une conception centrale. Les modèles cognitifs motivent une analyse de la manière dont les gens intègrent des informations provenant de multiples modalités, de multiples sens et de multiples sources : notre cerveau, notre corps physique, les objets physiques (stylo, papier, ordinateurs) et les entités sociales (d'autres personnes, Wikipédia). Bien qu'il y ait maintenant beaucoup de preuves que c'est la capacité à réaliser cette intégration qui soutient les réalisations les plus remarquables de l'humanité, comment nous y parvenons reste en grande partie mystérieux. De manière connexe, il y a une reconnaissance accrue de l'importance des processus qui soutiennent l'action intentionnelle, l'intentionnalité partagée, le libre arbitre et l'agence. Mais il y a eu peu de progrès fondamentaux dans la construction de modèles rigoureux de ces processus. Les sciences cognitives continuent de chercher un paradigme pour étudier l'intelligence humaine qui perdurera. Cependant, la recherche dévoile des perspectives critiques—comme la cognition collective—et des méthodologies qui façonneront les progrès futurs, comme les neurosciences cognitives et les dernières tendances en modélisation computationnelle. Ces perspectives semblent essentielles dans notre quête pour construire des machines que nous jugerions véritablement intelligentes\footnote{The nature of consciousness remains an open question. Some see progress; others believe we are no further along in understanding how to build a conscious agent than we were 46 years ago, when the philosopher Thomas Nagel famously posed the question, “What is it like to be a bat?” It is not even clear that understanding consciousness is necessary for understanding human intelligence. The question has become less pressing for this purpose as we have begun to recognize the limits of conscious information processing in human cognition, and as our models become increasingly based on emergent processes instead of central design. Cognitive models motivate an analysis of how people integrate information from multiple modalities, multiple senses, and multiple sources: our brains, our physical bodies, physical objects (pen, paper, computers), and social entities (other people, Wikipedia). Although there is now a lot of evidence that it is the ability to do this integration that supports humanity’s more remarkable