From 08b185005e57cd5c8aebbce6dda6aa555728e718 Mon Sep 17 00:00:00 2001 From: silviaC Date: Thu, 4 Jul 2024 18:15:10 +0200 Subject: [PATCH] last remarks on chatila self-aware robots --- sections/conclusion.tex | 25 +++++++++++++++++-------- sections/partie_1.tex | 5 ++--- 2 files changed, 19 insertions(+), 11 deletions(-) diff --git a/sections/conclusion.tex b/sections/conclusion.tex index 8bfaff8..d4fd980 100644 --- a/sections/conclusion.tex +++ b/sections/conclusion.tex @@ -9,7 +9,7 @@ Cette thèse devient ainsi une contribution pour faire progresser la recherche e La danse raconte une histoire en engageant différentes parties du corps. La technologie peut être un moyen pour renforcer l'idée d'un spectacle, tout comme elle peut devenir partenaire actif dans un scénario. Tel a été le cas pour \textit{TIWIDWH} où HRP-4 devient personnage principal d'une danse sur une chaise. Le rendu est à la fois enrichissant pour le danseur qui a été obligé de trouver une autre façon de faire dans son corps, mais aussi pour l'spectateur qui s'est imaginé des intentions pour le robot danseur. L'art profite de cet endroit privilégié pour interroger les formes d'expression conventionnelles, tandis que les scientifiques analysent l'appropriation de leur outil numérique par des non-initiés. Cependant, malgré les récents développements des algorithmes en \gls{intelligence artificielle générative}, il n'est pas certain que nous partageons avec les machines la créativité. Pour le contexte particulier de la danse, cette créativité est définie au sens large, en incluant toute forme de mouvement générée dans un cadre de représentation artistique. Dans des futures projets, j’aimerais imaginer le point de vue des robots sur la danse, leur retour d'experience sur nos expérimentations et la possibilité d’une “collaboration” plus fructueuse. Des domaines tel la robotique culturelle, pourront nous aider à mieux comprendre ces rapports. Nous laisserons ouverte cette question concernant les robots sociaux et la manière dont ils participent à la culture, tout en soulignant le caractère dynamique de ces contributions. Dans son livre\cite{dunstan2023cultural}, Dunstan questionne le statut de robots et leur attribue une possible culture propre, différente de la culture humaine. Cette culture serait méconnaissable pour les humains tout en exerçant une certaine influence sur ces derniers. Certaines théories contemporaines sur les relations homme-machine décentrent l'humain et plaident pour une forme d'agence non-humaine. D'autres chercheurs prennent en compte le concept d'empathie kinesthésique de la danse\cite{foster2010choreographing} et de la théorie associée des neurones miroirs\cite{gallese1996action} pour construire une dynamique relationnelle entre humains et machines afin de mieux anticiper l’influence de ces derniers sur les humains. Le projet \textit{code\_red} (2021) présenté dans un chapitre\cite{loke2023rouge} du livre\cite{dunstan2023cultural}, traite des rapports intimes entre humains et robots. Ainsi un bras industriel apprends à dessiner des lèvres, puis mettre du rouge à lèvres à une femme assise devant lui. Ce geste est interprété par les auteurs comme un acte de coquetterie mais aussi comme un acte d’engagement: marquer sa voix par une couleur rouge- symbole de la peinture de guerre, pour mieux réclamer ses droits. L’influence du robot sur l’humain est ici omniprésente, bien que le geste de peindre ses lèvres est propre qu'à l'humain. Plus loin les auteurs font une critique philosophique de cette démarche en utilisant le concept deleuzien de \textit{résonance}, où “l'interaction des sensations entre les corps conduit à une fusion ou un brouillage des frontières entre l'humain et la machine”. Ils citent à leur tour Petra Gemeinboeck qui utilise le terme de \textit{résonances intra-corporelles}\cite{gemeinboeck2021aesthetics} pour désigner une forme d'empathie incarnée propice à une harmonisation des vibrations et des rythmes corporelles entre humain et machine. Ainsi à la place de modeler des robots à l'image des humains, les auteurs soulignent l'importance d'un langage primordial du mouvement, partagé entre les espèces\cite{loke2023rouge}, à différentes échelles et intensités. Ce langage, construit par la perception et l'adaptation entre des agents humains et non-humains, doit s’échapper à une monopolisation humaine de la rencontre. Au contraire, comme le montre Gemeinboeck, éviter délibérément la focalisation sur l'individualisme des agents interactifs favorise un croisement des flux perceptuels et des dynamiques de mouvement qui donnent naissance à des effets émergents de signification. -L'article \textit{Towards self-aware robots}\cite{chatila2018toward} (2018) met en avant l'importance de la conscience de soi comme caractéristique principale des robots intelligents. Pour les chercheurs à l'origine de ce papier, un robot doit d'abord reposer sur la perception de soi, indépendamment de la perception de l'environnement et celle des autres agents. Lors de son interaction avec l'environnement, ce robot doit être capable d'auto-évaluation et de méta-raisonnement. Pour cela il doit construire des représentations sensori-motrices en lien avec différents éléments afin de se distinguer d'eux et de choisir délibérément des actions adaptés. Pour le chercheur Raja Chatilla, un robot doté de conscience de soi “est capable de transformer les comportements appris en compétences explicites et de caractériser les situations dans lesquelles ces compétences sont applicables, revenant à un comportement dirigé par un objectif planifié lorsqu'elles ne le sont pas.” Quant à la capacité de délibération sur son propre raisonnement, \cite{chatila2018toward} évoque un système capable de se représenter lui-même et l'humain avec lequel il interagit. Initialement motivé par des motivations de base, il devient capable de raisonner sur les moyens de les satisfaire pour ensuite déterminer ses propres objectifs. Cela lui permet entre autre de réussir le test de Sally et Anne, une expérience classique en psychologie développementale utilisée pour évaluer la théorie de l'esprit chez les enfants. Ce test détermine la capacité à comprendre que les autres peuvent avoir des croyances, des désirs et des perspectives différents, ce qui implique un second degré de conscience. En pratique, implémentation de ces principes passe par des bases théoriques déjà validées par des autres chercheurs, comme les modules illustrés par différents couleurs (par exemple le module de perception sensorielle ou d’apprentissage sensoriel-moteur en jaune, tout comme le module de planification de taches en lien avec la reconnaissance de l'humain en vert ou celui de reconnaissance spatiale en bleu) dans l'illustration suivante. Cependant les auteurs de l'article admettent que ce travail est en cours et que seulement les prochaines expérimentations, pourront apporter une validation globale du prototype: +L'article \textit{Towards self-aware robots}\cite{chatila2018toward} (2018) met en avant l'importance de la conscience de soi comme caractéristique principale des robots intelligents. Pour les chercheurs à l'origine de ce papier, un robot doit d'abord reposer sur la perception de soi, indépendamment de la perception de l'environnement et celle des autres agents. Lors de son interaction avec l'environnement, ce robot doit être capable d'auto-évaluation et de méta-raisonnement. Pour cela il doit construire des représentations sensori-motrices en lien avec différents éléments afin de se distinguer d'eux et de choisir délibérément des actions adaptés. Pour le chercheur Raja Chatilla, un robot doté de conscience de soi “est capable de transformer les comportements appris en compétences explicites et de caractériser les situations dans lesquelles ces compétences sont applicables, revenant à un comportement dirigé par un objectif planifié lorsqu'elles ne le sont pas.” Quant à la capacité de délibération sur son propre raisonnement, \cite{chatila2018toward} évoque un système capable de se représenter lui-même et l'humain avec lequel il interagit. Initialement motivé par des motivations de base, il devient capable de raisonner sur les moyens de les satisfaire pour ensuite déterminer ses propres objectifs. Cela lui permet entre autre de réussir le test de Sally et Anne, une expérience classique en psychologie développementale utilisée pour évaluer la théorie de l'esprit chez les enfants. Ce test détermine la capacité à comprendre que les autres peuvent avoir des croyances, des désirs et des perspectives différents, ce qui implique un second degré de conscience. En pratique, implémentation de ces principes passe par des bases théoriques déjà validées par des autres chercheurs, comme les modules illustrés par différents couleurs (par exemple le module de perception sensorielle ou d’apprentissage sensoriel-moteur en jaune, tout comme le module de planification de taches en lien avec la reconnaissance de l'humain en vert ou celui de reconnaissance spatiale en bleu) dans l'illustration suivante. Cependant les auteurs de l'article admettent que ce travail est en cours et que seulement les prochaines expérimentations, pourront apporter une validation globale de leur prototype: \begin{figure} \centering @@ -17,15 +17,24 @@ L'article \textit{Towards self-aware robots}\cite{chatila2018toward} (2018) met \caption{Prototype d'architecture cognitive pour un système robotique. Source: \cite{chatila2018toward}} \label{fig:chatila2} \end{figure} +L’étude de Chatila présente une architecture d'apprentissage des capacités sensori-motrices pour un robot. Les chercheurs ont construit une méthodologie des actions pour lui en séparant les entrés sur quatre catégories distinctes: données perceptives, données en lien avec la proprioception (ce que en danse corresponds à l'interoception), données contextuelles et données en lien avec les capacités d'action du robot. Le traitement bayésien de ces informations constituera plus tard le système de motivations du robot. Selon la signification des objets de l’environnement pour un agent (voir \gls{affordance} dans la première partie), ses interactions prennent différents niveaux de complexité. Pour qu'un robot devient conscient, témoigner de la propre conscience est une première étape dans la construction de ce type de complexité. Chatila souligne l'importance de l'auto-localisation interne et externe du robot, définies dans la partie théorique sur la danse comme \textit{proprioception} et respectivement \textit{intéroception}: +\begin{quote} +``Raisonner conjointement sur la perception et l'action nécessite une auto-localisation par rapport à l'environnement. Ainsi, le développement de représentations sensori-motrices et non seulement de représentations extéroceptives place le robot au centre du processus perceptuel et fournit un lien entre la conscience de soi et la conscience de la situation. La localisation du robot par rapport à son environnement permet une différenciation entre le corps du robot et le monde extérieur, et inclut une distinction nécessaire entre ses parties et les objets environnants. De plus, les composants actuels du robot lient l'état corps-environnement du robot avant et après l'application des actions\footnote{en version anglaise: ``Reasoning jointly on perception and action requires self-localization with respect to the environment. Hence developing sensorimotor representations and not just exteroceptive representations puts the robot in the center of the perceptual process, and provides a link between self-awareness and situation-awareness. Robot localization with respect to its environment provides a differentiation between the robot’s body and the external world, and includes a necessary distinction between its parts and surrounding objects. In addition, robot’s actual components link robot’s body-environment’s state before and after actions are applied.”}.” + \cite{chatila2018toward} +\end{quote} -\begin{figure} - \centering - \includegraphics[width=0.7\linewidth]{images/chatila1} - \caption{Apprentissage sensori-moteur pour une affordance. Source: \cite{chatila2018toward}} - \label{fig:chatila1} -\end{figure} -Plea for slow science\cite{stengers2016another} +Dans son discours inaugural pour la Chaire Willy Calewaert 2011-2012, la chercheuse Isabelle Stengers + +\textit{Plea for slow science}\cite{stengers2016another} (2016), défend le droit à une temporalité éloignée de toute logique capitaliste dans la recherche fondamentale. +fonction des critères d'évaluation actuels, ce qui est une situation déjà dénoncée par beaucoup. Cependant, l'auteur, en tant que philosophe, insiste sur l'importance de se concentrer sur les possibilités futures plutôt que sur les probabilités actuelles. Il explique que son rôle est de penser les situations en termes de possibles, même lorsqu'elles sont incertaines, et de ne pas simplement se soumettre à la situation actuelle, même pour la critiquer. + +En prenant comme point d'appui le licenciement de la chercheuse Barbara Van Dyck par son université, pour avoir soutenu publiquement une action contre un champ de pommes de terre génétiquement modifiées à Wetteren, Stengers propose une réflexion sur les possibilités d'engagement imaginatif et de résistance à la définition dominante des faits, au lieu de se contenter de la dénoncer. + +Cependant, se plaindre et décrire les tristes probabilités que la recherche universitaire sera redéfinie en fonction des critères utilisés pour l'évaluer n'ajouterait rien de pertinent à la situation. Ces probabilités sont ce que beaucoup d'entre nous savent déjà et dénoncent. Je considère que mon travail, en tant que philosophe, est d'activer le possible, et non de décrire le probable, c'est-à-dire de penser les situations avec et à travers leurs inconnues lorsque je peux les ressentir. + +Et c'est le sentiment d'une telle inconnue qui a été activé par les répercussions parmi les chercheurs de l'événement qui s'est produit à Louvain le trois juin de cette année, lorsque Barbara Van Dyck a été licenciée par son université pour avoir publiquement expliqué et approuvé l'action contre un champ de pommes de terre génétiquement modifiées à Wetteren. Une inconnue très ténue, certes, mais ce que j'appelle inconnue concerne toujours la possibilité, non la probabilité, ce qui appelle un engagement imaginatif plutôt que la soumission à la définition donnée d'un état de fait, même si c'est pour le dénoncer. + L’histoire de la résistance contre les OGM concerne un droit – pas le droit d’arrêter les horloges, il n’y a pas d’horloges – mais un droit démocratique primordial, celui de penser l’avenir. Grâce à la désobéissance civile, la violence ultime contre la démocratie, celle du compte à rebours diff --git a/sections/partie_1.tex b/sections/partie_1.tex index dc0db58..9974f02 100644 --- a/sections/partie_1.tex +++ b/sections/partie_1.tex @@ -491,7 +491,7 @@ Selon l'école qui la revendique, la cognition et ses propriétés sont sujet à (some of them clunky) and borrowings from other languages abound because existing language is built around dualist concepts. New language is needed. Maturana and Varela coine \gls{autopoiesis}. Gibson invented \gls{affordance}. Likewise \gls{umwelt} and \textit{enactivism} and other terms are now part of a new vocabulary.”.”} \cite{penny2019mit} \end{quote} - +Par exemple l'affordance, concerne les possibilités d'interaction d'un objet (une tasse sur la table peut servir pour boire aux humains qui le prennent en main, tandis qu'une mouche s'y noie et une insecte peut se faire écraser en marchant en-dessous). D'une manière analogique, si nous considérons les robots des objets, la manière dont nous les employions dépends de notre contexte (un robot médical est utilisé d'une manière en laboratoire lors de sa configuration, d'une autre à l’hôpital et d'une autre dans un spectacle de danse). \subsection{Le cognitivisme} @@ -959,8 +959,7 @@ Les émotions jouent un rôle clé dans la question de la conscience. Prof. Asad L’introspection permet aux humains d’être conscients de leurs propre processus mentaux. Ces processus semblent avoir une séquence linéaire comme la production de la parole ou des lignes de raisonnement. L’introspection influence également les actes artistiques. Pendant la phase de création, un artiste sonde son imaginaire pour clarifier ses intuitions. Lorsque nous nous rappelons de l’exemple donné par Block, c’est intéressant d'analyser un possible scénario où la personne aurait prêté attention au bruit auparavant ignoré. Cela pourrait produire un type d’expérience subjective, à la limite de la conscience d’accès, pour ensuite déterminer à partir de quand le bruit est devenu conscient. Cette introspection liée à un stimulus extérieur, trouve son équivalent dans l’acte d’introspection de l’artiste qui veut mieux comprendre ses intuitions. Ainsi la distinction de Block entre conscience phénoménale et conscience d’accès a des implications importantes pour les neuroscientifiques et les informaticiens qui cherchent à modéliser une \gls{conscience artificielle} dans des dispositifs tels les robots. Mais une fois cette intention exprimée, comment pouvons-nous savoir si l’algorithme a produit une conscience semblable à celle de l’homme? Dans la même mesure, le fait de développer des expériences subjectives pour la conscience phénoménale des robots, implique des considérations éthiques. Heureusement le moyen pour doter rationnellement les machines de nos expériences personnelles, parfois irrationnelles, n’est pas encore à notre portée. Même si la communauté scientifique est divisée et de nombreux neuro-biologistes et informaticiens estiment que les philosophes sont trop pessimistes quant à la capacité des algorithmes de modéliser la conscience humaine, il est important de comprendre nos motivations et intentions face à cela. -Dans la même lignée, l'intéroception, en complément du sens de la proprioception que nous avons mentionné plus haut, nous aide à mieux -prendre connaissance de nos états internes. Ainsi la capacité d'évaluer notre propre activité physiologique se fait en lien avec des processus cognitifs dans le cerveau et les émotions. Plus concrètement, l’intéroception dirige l’état interne de notre corps en lui permettant de reconnaître les signaux qui régulent les fonctions vitales et de prendre des décisions en conséquence. +Dans la même lignée, l'intéroception, en complément du sens de la proprioception que nous avons mentionné plus haut, nous aide à mieux prendre connaissance de nos états internes. Ainsi la capacité d'évaluer notre propre activité physiologique se fait en lien avec des processus cognitifs dans le cerveau et les émotions. Plus concrètement, l’intéroception dirige l’état interne de notre corps en lui permettant de reconnaître les signaux qui régulent les fonctions vitales et de prendre des décisions en conséquence. Les paradigmes sur l’énaction et l'\gls{enactivisme}, en anglais \textit{the enactive theory}, ont émergé après la publication du livre \textit{The Embodied Mind} (1992) que nous avons évoqué auparavant. Par son biais, nous découvrons que les expériences perceptives ne sont pas des événements internes dans notre tête, mais plutôt des actions que nous produisons à travers notre exploration sensorimotrice de l’ environnement. En allant plus loin, Rolf Pfeifer et Josh Bongard soulignent dans le livre \textit{How the body shapes the way we think} (2006), l’importance de la morphologie du corps et ainsi de l’\gls{embodiment}, sur l’intelligence d’un système. Leur point de départ est le fonctionnement humain qu’ils extrapolent aux machines, avec l’idée que pour être intelligent, nous avons besoin d’un corps physique: \begin{quote}