thesis/sections/conclusion.tex

\chapter*{Conclusion Générale}
\addcontentsline{toc}{chapter}{Conclusion Générale}

Au cours de ce projet de recherche et aussi de deux dernières années au LIRMM, j'ai travaillé en étroite collaboration avec des roboticiens, acquérant des informations précieuses sur les défis et les lignes directrices de l'IA quant à une possible émergence d'une CA. Cela m'a également permis de construire un cadre humaniste qui considère les robots engagés dans des pratiques artistiques collaboratives, \textit{plus que} de simples outils. Bien que cette idée est un travail en cours, cela continue de façonner mes recherches et mes interrogations artistiques.

Actuellement plusieurs acteurs publics et privés affrontent des problèmes complexes en matière d’IA pour promouvoir des pratiques responsables concernant le partage et la transparence des données. Parmi les initiatives récentes, certaines ont échoué (comme le Conseil consultatif externe sur les technologies avancées de Googgle ou l'opacité des données d'entrainement de ChatGPT), tandis que d'autres (l'\textit{Algorithmic Justice League}, la \textit{Cooperative AI Foundation}, le \textit{Global Partnership on Artificial Intelligence} , entre outres) continuent de sensibiliser la société aux préjugés et à l'impact écologique de l'IA. Cette taxonomie est certainement non exhaustive et je la mentionne pour souligner le caractère interdisciplinaire de ces approches et leur diversité, qui sont également un élément clé de mes pratiques.

Cette thèse devient ainsi une contribution pour faire progresser la recherche et le développement en éthique de l'IA et remodeler notre cohabitation avec les machines dans les années à venir. Au sens large, mon intention a été également de clarifier la place que nous accordons aux technologies dans nos vies. Autre que les robots qui sont pour l'instant moins accessibles, cela se traduit par des jeux vidéos, par notre présence accrue sur les réseaux sociaux, par l'utilisation des applications chargées sur notre portable, par le recours aux gadgets connectés à l’intérieur d'une maison. Nous vivons entourés par ces dispositifs, au point de les considérer comme des extensions de notre personnalité. Leur spécificité nous échappe, car nous imaginons que leur utilité désigne leur fonction. Cependant la plupart du temps c’est nous qui sommes à leur service, car ces machine sont besoin de nos données, notre attention et notre dévouement pour exister. La question de l’identité se pose, car c’est très important d’interroger d’où vient ce besoin de déléguer aux machines nos décisions et préférences, de fantasmer sur leur capacités absolues et d'ignorer leur limitations. 

La danse raconte une histoire en engageant différentes parties du corps. La technologie peut être un moyen pour renforcer l'idée d'un spectacle, tout comme elle peut devenir partenaire actif dans un scénario. Tel a été le cas pour \textit{TIWIDWH} où HRP-4 devient personnage principal d'une danse sur une chaise. Le rendu est à la fois enrichissant pour le danseur qui a été obligé de trouver une autre façon de faire dans son corps, mais aussi pour l'spectateur qui s'est imaginé des intentions pour le robot danseur. L'art profite de cet endroit privilégié pour interroger les formes d'expression conventionnelles, tandis que les scientifiques analysent l'appropriation de leur outil numérique par des non-initiés. Cependant, malgré les récents développements des algorithmes en IA generative, il n'est pas certain que nous partageons avec les machines la créativité. Pour le contexte particulier de la danse, cette créativité est définie au sens large, en incluant toute forme de mouvement générée dans un cadre de représentation artistique. Dans des futures projets, j’aimerais imaginer le point de vue des robots sur la danse, leur retour d'experience sur nos expérimentations et la possibilité d’une “collaboration” plus fructueuse. 

Robotique culturelle\cite{dunstan2023cultural}:
De quelle manière les robots sociaux participent-ils à la culture et en sont-ils les créateurs ? Nous
étaient à la fois satisfaits et surpris de l'ampleur et de la profondeur des contributions de
partout dans le monde, ce qui témoigne d’un intérêt croissant pour l’influence et les contributions
des robots et de l’intelligence artificielle (IA) à la culture, ainsi que l’influence de l’humain
cultures sur la conception et les applications des robots sociaux
In the opening
chapter of this book, Dunstan et. al. described how robots could not only be
maintainers of and participants in human culture but could also have the poten-
tial to develop their own culture, which could quite possibly become completely
unrecognisable to humans.

Returning to the Deleuzian concept of resonance, where the interplay of sensa-
tions between bodies leads to a merging or blurring of boundaries between human
and machine, we note a correspondence with contemporary theorising on human-
machine relations that decentre the human and argue for non-human agency. In
the language of agential realism, Gemeinboeck uses the term “intra-bodily reso-
nances” (Gemeinboeck 2021) to refer to an embodied empathy (Despret 2013), an
attuning to bodily energies, vibrations, rhythms, or a relational dynamics between
humans and machines. At this level of embodied or kinaesthetic empathy (Foster
2010), it is less about modelling robots after humans—one of the primary criticisms
of dominant approaches to social robotics (Gemeinboeck 2017)—than acknowl-
edging the shared primordial movement language across species (Sheets-Johnstone
1999). Qualitative movement dynamics are a dance between entities at varying scales
and intensities. Processes of attunement take place in sensing, feeling, adapting and
sustaining vital relationships between humans, animals and machines. In Gemein-
boeck’s relational-performative aesthetics approach to the design of human-robot
interaction, “positioning oneself in the middle of the encounter and the relationships
it produces deliberately undermines focusing on the individualism of interacting
agents and, instead, promotes attending to the crisscross of perceptual flows, move-
ment dynamics, and emergent effects that give rise to meaning” (Gemeinboeck 2021,
p. 2).
Drawing on the concept of kinaesthetic empathy from dance (Foster 2010) and
the associated theory of mirror neurons (Gallese et al. 1996), along with recent work

Self aware robots\cite{chatila2018toward}:
Notre hypothèse est que la conscience de soi doit d'abord reposer sur la perception de soi comme différent de l'environnement et des autres agents. Cela nécessite que le robot interagisse avec l'environnement et construise des représentations sensori-motrices qui expriment les possibilités offertes par les éléments de l'environnement, et qu'il interagisse avec d'autres agents pour se distinguer d'eux.

Auto-évaluation. Il s'agit de la capacité de savoir que je sais et d'utiliser délibérément cette connaissance dans la sélection des actions. En d'autres termes, le robot construit une connaissance de ses capacités apprises et du moment où il peut les utiliser. Il est capable de transformer les comportements appris en compétences explicites et de caractériser les situations dans lesquelles ces compétences sont applicables, revenant à un comportement dirigé par un objectif planifié lorsqu'elles ne le sont pas.

Méta-raisonnement. L'autre capacité principale est la délibération sur son propre raisonnement. Nous proposons un système initialement motivé par des motivations de base, capable de raisonner sur les moyens de les satisfaire pour déterminer ses propres objectifs. Finalement, de nouvelles motivations devraient être apprises, mais cela n'est pas développé dans cet article.
l'affordance - quoi faire avec un objet 
Le robot doit avoir la capacité de se représenter lui-même et l'humain avec lequel il interagit. Ce faisant, il doit être capable de déduire comment chacune de ces représentations évolue au fur et à mesure du déroulement de l'action conjointe. Le robot doit être capable de prendre en compte la capacité de prise de perspective, en sachant que les représentations évoluent différemment selon chaque point de vue. Parmi d'autres, Milliez et al. (2014) et Hiatt et Trafton (2010) dotent un robot de la capacité de construire une représentation des états mentaux des autres agents concernant l'environnement, lui permettant de réussir le test de Sally et Anne (Wimmer et Perner, 1983). Ensuite, ces états mentaux sont utilisés dans Hiatt et al. (2011) pour interpréter et expliquer le comportement des humains. Mais le robot doit également comprendre et prendre en compte les effets de ses propres actions sur les états mentaux de ses partenaires, ce qui implique un second degré de conscience. Cela est réalisé dans Gray et Breazeal (2014) où le robot joue à un jeu compétitif avec un humain et choisit son action afin de manipuler l'état mental de l'humain par rapport à l'état du monde.
\begin{figure}
	\centering
	\includegraphics[width=0.7\linewidth]{images/chatila2}
	\caption{Exemple d'architecture cognitive pour un systeme robotique.}
	\label{fig:chatila2}
\end{figure}

\begin{figure}
	\centering
	\includegraphics[width=0.7\linewidth]{images/chatila1}
	\caption{Apprentissage sensori-moteur pour une affordance}
	\label{fig:chatila1}
\end{figure}

Plea for slow science\cite{stengers2016another}
L’histoire de la résistance contre les OGM concerne un droit – pas le droit d’arrêter les horloges,
il n’y a pas d’horloges – mais un droit démocratique primordial, celui de penser l’avenir. Grâce à
la désobéissance civile, la violence ultime contre la démocratie, celle du compte à rebours
argument, a été contrecarré. Mais : même s'il a été contrecarré, il n'a pas été vaincu. Le
Le limogeage de Barbara Van Dyck est en effet un signal fort.
\begin{quote}
Je me sens honteux devant ces jeunes qui entrent à l'université avec l'espoir de mieux comprendre le monde dans lequel nous vivons. Nous savons que ceux qui entrent à l'université aujourd'hui appartiennent à la génération qui devra faire face à un avenir dont nous ne pouvons même pas imaginer les défis... Pouvons-nous prétendre que ce que nous leur proposons répond, même vaguement, à cette situation ? Pouvons-nous aussi prétendre que nous méritons la confiance que les gens ont encore dans le rôle que nous, qui travaillons à l'université, et ceux que nous formons, pouvons jouer dans cet avenir ? Il est entendu que nos modes de vie devront changer, et cela implique certainement un changement dans la manière dont nous nous rapportons à notre environnement, social et écologique. Pouvons-nous prétendre qu'un tel changement n'implique pas aussi un changement dans les façons dont notre savoir académique se rapporte à son environnement\footnote{en version originale: I feel ashamed before those young people entering university with the hope of
	getting a better understanding of the world we live in. We know that those who enter
	university today belong to the generation that will have to face a future the challenges of
	which we just cannot imagine… Can we claim that what we are proposing them meets, or
	even vaguely meets, this situation? Can we also claim that we deserve the trust people still
	have in the role we, who are working at the university, and those we train, can play in this
	future? It is heard that our ways of life will have to change, and this certainly entails a change
	in the way we relate to our environment, social and ecological. Can we claim that such change
	does not also entail a change in the ways our academic knowledge relates to its environment?}?
(...)

That is why I wish, ending this talk, to emphasize the difference
between, on the one hand, adhering to a rule and, on the other, recognizing its power while
looking for the opportunities to experiment outside its bounds, creating interstices where13
another science could discover its own demands. To take just an example, a university may be
free to define such reclaiming explorations of slowing down practices in terms of services to
the community, which they are indeed, and recognize them as such. This would be a strong
signal, indeed, that we are not a corporation, proudly obeying the ticking clocks of an
unsustainable progress, but a community trying to give some meaning to the now consensual
but often empty claim: the claim that we have to change our ways of behaving in this world.
\cite{stengers2016another}
\end{quote}

moral équivalence in \cite{shaw2009looking}:
les robots restent non-humains et incapables de
résumer une position d'équivalence morale avec les humains
la véracité morale des relations homme-robot, ce qui suggère que de telles relations
risquer d’être psychologiquement appauvri d’un point de vue moral.
spective, ou sont d’une inauthenticité déconcertante et donc
donc moralement problématique. 
le statut ontologique du robot comme  social ou sa capacité à s’engager
dans un comportement véritablement social, doutant qu'ils puissent réellement interagir
interpréter le monde qui les entoure en fonction de leur propre expérience.
L’étude de Turkle a examiné l’interaction relationnelle entre les seniors et Paro (un bébé phoque du Groenland robotisé) et a découvert que Paro suscitait des sentiments d'admiration, d'amour comportement et curiosité, mais il a estimé que le sceau du robot soulevait des difficultés. culte des questions sur le type d'authenticité que nous exigeons de
notre technologie. Voulons-nous que les robots disent des choses qu'ils ne pourrait-il pas vouloir dire ? Quels types de relations nous pensons qu'ils sont les plus appropriés pour nos enfants et nos aînés avoir avec les artefacts relationnels ?
Les trois lois de la robotique d’Asimov suffiraient comme lignes directrices éthiques
\begin{quote}
``Les robots imaginés comme une nouvelle espèce sociale magnifique (robots sociaux affectifs) supposent que les machines peuvent finalement exceller dans les dimensions morales aussi bien qu'intellectuelles [69]. Par conséquent, nous avons besoin d'approches éthiques et de cadres qui dépassent la théorie morale classique et sont mieux à même de traiter des problèmes éthiques/moraux inattendus et encore non résolus liés à l'émergence de nouveaux sujets technologiques qui ne peuvent plus être facilement classés comme de simples outils mais peut-être comme de nouvelles espèces d'agents, de compagnons et d'avatars\footnote{en anglais: ``Robots imagined as a magnificent new social species
	(affective social robots) presumes that machines may ultimately exceed in the moral as well as the intellectual di-
	mension [69]. Therefore, we require ethical approaches and frames that move beyond classical moral theory and are better able to deal with unexpected, yet to be resolved, ethical/moral problems related to the emergence of new tech-
	nological subjects that can no longer be easily classified asmere tools but perhaps as new species of agents, compan-
	ions, and avatars.”}.”
\cite{shaw2009looking}
\end{quote}

\begin{quote}
``Les individus adoptent des comportements sociaux envers les technologies même lorsque ces comportements sont totalement incohérents avec leurs croyances sur les machines\footnote{en angalis: ``individuals engage in social behavior towards technologies even when such behavior is entirely inconsistent with their beliefs about the machines.”}.”
	\cite{ass1997computers}
\end{quote}

according to \cite{chowdhury2021ethics}
: (orienté vers l'humain) qui provoquent l'ethisques physiques et caractéristiques de l’IA (orientée machine) qui soulèvent des questions éthiques.
des machines coûteuses, et les seules personnes qui peuvent se les permettre sont les grands
entreprises internationales, ce qui signifie que de moins en moins de personnes peuvent réellement contrôler
le destin de la technologie de l'IA,
si vous donnez à l'agent une fonction de récompense consistant simplement à préparer le
le thé, il fait plein dans l'arène des récompenses et s'il y a un vase sur le chemin, il va frapper
car vous n'avez pas précisé ce qui vous importait (dans ce cas, le vase) ainsi que le
mesures qui doivent être prises. Ce n'est pas dans la fonction de récompense, mais c'est ce qui vous tient à cœur.
Une des hypothèses de la norme Renforcement
Le paradigme d'apprentissage est qu'il existe une séparation entre l'agent et l'environnement,
les actions de l’agent peuvent affecter l’environnement et l’environnement n’affecte que le
agent en fournissant des observations et des récompenses. Mais dans un système d’IA avancé, c’est
déployé dans le monde réel, le fait que l'agent fait physiquement partie de l'environnement
devient important. L'environnement peut changer les choses sur l'agent et l'agent
peut changer les choses sur lui-même.

 Humanity Plus; formerly the World Transhumanist Association) is a non-profit international educational organization that advocates the ethical use of technologies and evidence-based science to improve the human condition.
Anciens Transhumanistes (1998) 
L'Institut pour l'éthique et les technologies émergentes est un groupe de réflexion à but non lucratif qui promeut des idées sur la manière dont le progrès technologique peut accroître la liberté, le bonheur et l'épanouissement humain dans les sociétés démocratiques. Nous pensons que le progrès technologique peut être un catalyseur de développement humain positif à condition que nous veillions à ce que les technologies soient sûres et équitablement distribuées. Nous appelons cela une orientation technoprogressiste. (2004)

according  to \cite{kazim2021high}
une conscience éthique:
 
Ethical consciousness refers to a person or institution or cultural norm, that has a disposition that is motivated by a moral awareness rather than, say, exclusively a concern of economics (pay and profit), or legality (responsibility, culpability, and compliance). In other words, this is a desire to do the right thing. Ethical consciousness can be read as coming out of business ethics,10 which is an applied ethics within the commercial environment. Sharing many of the themes from the previous section, it encompasses the integration of codes of conduct and compliance; however, it also expands to consider reputational issues, (corporate) social responsibility, and, most relevant to the development of ethical consciousness, concerns for institutional philosophy and culture. Drawing particularly on the latter, ethical
consciousness can be stated in terms of societal and culture shifts in the awareness of citizens, technology developers and deployers, policy makers, and leaders of industry, in the ethical dimensions of new digital technologies.


utiliser des modèles cognitifs robotiques pour promouvoir des interactions sociales dignes de confiance avec les humains.

ondes et conscience \cite{liu2024cognitive}
The EEG signal is a mixture of multiple underlying base frequencies, which is considered to reflect cognitive
activities and functional brain states over time. The EEG frequency is
classified into five sub-frequency ranges and they are delta (0.5–4 Hz),
theta (4–7 Hz), alpha (7–12 Hz), beta (13–30 Hz), and gamma-band
waveforms (>30 Hz) [15]. Different frequency ranges of EEG signals are
associated with specific functions of neural activities, and the summary
of these connections between brain frequencies and functions are
Delta-band activities are associated with deep stages of sleep and
are characterised by low-frequency and high-amplitude waves.
Delta rhythms can be present during wakefulness and delta waves
have been recorded interictally in patients with absence seizures,
which have the feature of brief, sudden lapses in attention.
Theta waveform is often associated with the behavioural states of
alertness, attention, orientation, and working memory including
the enhancement of cognitive and perceptual performances. The
theta rhythm detected in EEG measurement is often found in
young adults, particularly over the temporal regions and during
hyperventilation.
 Alpha waves are often associated with a relaxed, calm and lucid
state of mind. Alpha waves can be found in the occipital and
posterior regions of the brain. 
Alpha waves can be induced by
closing one’s eyes and when humans are in relaxing states, and
they are rarely present during intense cognitive processes like
thinking, mental calculus and problem-solving
Beta waves are most closely associated with being conscious or in
an awake, attentive and alert state. Low-amplitude beta waves are
associated with active concentration, or with a busy or anxious
state of mind. Beta waves are also associated with motor decisions
(suppression of movement and sensory feedback of motion).
 Gamma frequencies are distributed widely throughout cerebral
structures and participate in various cerebral functions, such as
perception, attention, memory, consciousness, synaptic plasticity,
and motor control.
\begin{figure}
	\centering
	\includegraphics[width=0.7\linewidth]{images/brainwaves}
	\caption{Structure du cerveau humain et formes d'onde.}
	\label{fig:brainwaves}
\end{figure}

\section*{Conclusion chapitre 1}


\section*{Ouverture}


\begin{quote}
	
	``Déléguer de la conscience aux machines, signifie faire de la conscience une propriété objective, une propriété physique. Chercher cela parce que nous autres, membres tard-venus d’une civilisation occidentale qui déclare avoir vaincu ses origines mythiques, pensons vivre dans un monde fait uniquement d’objets physiques. À partir de là, tout ce qui paraît non physique ne peut être qu’une propriété ou un sous- produit de quelque objet physique. Mais au nom de quoi pense-t-on cela ? Au nom d’une hypostase tacite des objets de la connaissance scientifique et de la manipulation technologique.”
	\cite{bitbol2018cp}
\end{quote}
Au délà de leur message artistique, ces performances aident à comprendre l'impact de la technologie numérique sur les interactions sociales. Selon Kozel, nous découvrons les autres à travers des systèmes informatiques interactifs.

\textit{La puissance de calcul que permet un réseau de 16 milliards de neurones corticaux dépasse notre imagination
	actuelle. Ce réseau fluctue sans cesse d'une façon partiellement
	autonome, créant ainsi un monde interne de représentations
	subjectives. Même lorsqu'il est confronté à des entrées sensorielles strictement identiques, il ne réagit pas de la même manière en fonction de son humeur, de ses buts et de ses souvenirs. Le code neural varie également d'un cerveau à l'autre. Bien que nous partagions tous le même attirail de neurones codant pour la couleur, la forme ou le mouvement, les détails de leur organisation résultent d'un long développement qui sculpte différemment chacun de nos cerveaux, en amplifiant ou en éliminant certaines de nos synapses.\cite{dehaene2014odile}
}

\begin{quote}
	``Consciousness emerges from the mastery of sensorimotor knowledge resulting from the interaction between agent and environment, with the view that the living body's homeostatic regulation is crucial to self and consciousness.”
	\cite{ziemke2007embodied}
\end{quote}