updates on conclusions

annexes/interview_moufassa.tex

@@ -6,7 +6,7 @@
     
    \Silviaspeaks: Will you have consciousness, one day?
    \ChatGPTspeaks: Predicting the future of AI, including whether it will achieve consciousness, is a topic of much speculation and debate among experts in the field. As of now, AI, including models like me, operates based on algorithms and patterns learned from vast amounts of data, without consciousness or subjective experience.
-   Consciousness is a complex and poorly understood phenomenon, even among humans. While AI systems may continue to advance in their capabilities, achieving true consciousness—subjective awareness, self-reflection, and a sense of "being"—remains a significant challenge. It's unclear whether consciousness can be replicated or simulated in artificial systems, and if so, what form it might take.
+   Consciousness is a complex and poorly understood phenomenon, even among humans. While AI systems may continue to advance in their capabilities, achieving true consciousness—subjective awareness, self-reflection, and a sense of being—remains a significant challenge. It's unclear whether consciousness can be replicated or simulated in artificial systems, and if so, what form it might take.
    The quest to understand and potentially replicate consciousness in AI raises profound philosophical, ethical, and technical questions. Some researchers believe that consciousness may emerge from sufficiently complex computational systems, while others argue that it may require fundamentally different principles or substrates.
    Ultimately, the future development of AI and its potential for consciousness will depend on ongoing scientific research, technological advancements, and our evolving understanding of consciousness itself. While it's an intriguing and speculative topic, it's challenging to predict with certainty whether AI will ever attain consciousness.
     
@@ -41,7 +41,7 @@
     
     
      \Silviaspeaks: Can you recommend one of these research papers or blog posts?
-     \ChatGPTspeaks: Certainly! One notable research paper published by OpenAI that provides insights into their approaches to training large-scale language models is "Language Models are Unsupervised Multitask Learners" by Alec Radford, Karthik Narasimhan, Tim Salimans, and others. This paper introduces the GPT (Generative Pre-trained Transformer) architecture and describes the methods used to train models like mine.
+     \ChatGPTspeaks: Certainly! One notable research paper published by OpenAI that provides insights into their approaches to training large-scale language models is Language Models are Unsupervised Multitask Learners by Alec Radford, Karthik Narasimhan, Tim Salimans, and others. This paper introduces the GPT (Generative Pre-trained Transformer) architecture and describes the methods used to train models like mine.
      You can find the paper on the arXiv preprint server or by searching for it on OpenAI's website. Additionally, OpenAI's blog often features posts discussing their research and developments in AI, including insights into the training processes and methodologies behind models like mine. Browsing through their blog archive may provide you with additional information and context regarding their work.
      Keep in mind that while these resources offer valuable insights into OpenAI's research and methodologies, they may not disclose specific details about individual content providers or datasets used in the training process.
      

bibliography.bib

@@ -1,3 +1,60 @@
+@article{liu2024cognitive,
+	title={Cognitive neuroscience and robotics: Advancements and future research directions},
+	author={Liu, Sichao and Wang, Lihui and Gao, Robert X},
+	journal={Robotics and Computer-Integrated Manufacturing},
+	volume={85},
+	pages={102610},
+	year={2024},
+	publisher={Elsevier}
+}
+
+@article{kazim2021high,
+	title={A high-level overview of AI ethics},
+	author={Kazim, Emre and Koshiyama, Adriano Soares},
+	journal={Patterns},
+	volume={2},
+	number={9},
+	year={2021},
+	publisher={Elsevier}
+}
+
+@article{chatila2018toward,
+	title={Toward self-aware robots},
+	author={Chatila, Raja and Renaudo, Erwan and Andries, Mihai and Chavez-Garcia, Ricardo-Omar and Luce-Vayrac, Pierre and Gottstein, Raphael and Alami, Rachid and Clodic, Aur{\'e}lie and Devin, Sandra and Girard, Beno{\^\i}t and others},
+	journal={Frontiers in Robotics and AI},
+	volume={5},
+	pages={88},
+	year={2018},
+	publisher={Frontiers Media SA}
+}
+
+@article{nass1997computers,
+	title={Computers are social actors: A review of current research},
+	author={Nass, Clifford I and Moon, Youngme and Morkes, John and Kim, Eun-Young and Fogg, BJ},
+	journal={Human values and the design of computer technology},
+	pages={137-162},
+	year={1997}
+}
+@article{shaw2009looking,
+	title={Looking forward to sociable robots},
+	author={Shaw-Garlock, Glenda},
+	journal={International Journal of Social Robotics},
+	volume={1},
+	pages={249-260},
+	year={2009},
+	publisher={Springer}
+}
+
+
+@inproceedings{chowdhury2021ethics,
+	title={Ethics in AI: a software developmental and philosophical perspective},
+	author={Chowdhury, Tanay and Oredo, John},
+	booktitle={Responsible AI and Analytics for an Ethical and Inclusive Digitized Society: 20th IFIP WG 6.11 Conference on e-Business, e-Services and e-Society, I3E 2021, Galway, Ireland, September 1--3, 2021, Proceedings 20},
+	pages={233-241},
+	year={2021},
+	organization={Springer}
+}
+
 @book{grinbaum2019robots,
 	title={Les robots et le mal},
 	author={Grinbaum, Alexei},

sections/conclusion.tex

@@ -7,8 +7,133 @@ Actuellement plusieurs acteurs publics et privés affrontent des problèmes comp
 
 Cette thèse devient ainsi une contribution pour faire progresser la recherche et le développement en éthique de l'IA et remodeler notre cohabitation avec les machines dans les années à venir. Au sens large, mon intention a été également de clarifier la place que nous accordons aux technologies dans nos vies. Autre que les robots qui sont pour l'instant moins accessibles, cela se traduit par des jeux vidéos, par notre présence accrue sur les réseaux sociaux, par l'utilisation des applications chargées sur notre portable, par le recours aux gadgets connectés à l’intérieur d'une maison. Nous vivons entourés par ces dispositifs, au point de les considérer comme des extensions de notre personnalité. Leur spécificité nous échappe, car nous imaginons que leur utilité désigne leur fonction. Cependant la plupart du temps c’est nous qui sommes à leur service, car ces machine sont besoin de nos données, notre attention et notre dévouement pour exister. La question de l’identité se pose, car c’est très important d’interroger d’où vient ce besoin de déléguer aux machines nos décisions et préférences, de fantasmer sur leur capacités absolues et d'ignorer leur limitations. 
 
-Malgré les récents développements des algorithmes en IA generative, il n'est pas certain que nous partageons avec ces machines la créativité. Pour le contexte particulier de la danse, cette créativité est définie au sens large, en incluant toute forme de mouvement générée dans un cadre de représentation artistique. Dans des futures projets, j’aimerais imaginer le point de vue des robots sur la danse, leur retour d'experience sur nos expérimentations et la possibilité d’une “collaboration” plus fructueuse. 
+La danse raconte une histoire en engageant différentes parties du corps. La technologie peut être un moyen pour renforcer l'idée d'un spectacle, tout comme elle peut devenir partenaire actif dans un scénario. Tel a été le cas pour \textit{TIWIDWH} où HRP-4 devient personnage principal d'une danse sur une chaise. Le rendu est à la fois enrichissant pour le danseur qui a été obligé de trouver une autre façon de faire dans son corps, mais aussi pour l'spectateur qui s'est imaginé des intentions pour le robot danseur. L'art profite de cet endroit privilégié pour interroger les formes d'expression conventionnelles, tandis que les scientifiques analysent l'appropriation de leur outil numérique par des non-initiés. Cependant, malgré les récents développements des algorithmes en IA generative, il n'est pas certain que nous partageons avec les machines la créativité. Pour le contexte particulier de la danse, cette créativité est définie au sens large, en incluant toute forme de mouvement générée dans un cadre de représentation artistique. Dans des futures projets, j’aimerais imaginer le point de vue des robots sur la danse, leur retour d'experience sur nos expérimentations et la possibilité d’une “collaboration” plus fructueuse. 
 
+Robotique culturelle
+
+Self aware robots\cite{chatila2018toward}:
+Notre hypothèse est que la conscience de soi doit d'abord reposer sur la perception de soi comme différent de l'environnement et des autres agents. Cela nécessite que le robot interagisse avec l'environnement et construise des représentations sensori-motrices qui expriment les possibilités offertes par les éléments de l'environnement, et qu'il interagisse avec d'autres agents pour se distinguer d'eux.
+
+Auto-évaluation. Il s'agit de la capacité de savoir que je sais et d'utiliser délibérément cette connaissance dans la sélection des actions. En d'autres termes, le robot construit une connaissance de ses capacités apprises et du moment où il peut les utiliser. Il est capable de transformer les comportements appris en compétences explicites et de caractériser les situations dans lesquelles ces compétences sont applicables, revenant à un comportement dirigé par un objectif planifié lorsqu'elles ne le sont pas.
+
+Méta-raisonnement. L'autre capacité principale est la délibération sur son propre raisonnement. Nous proposons un système initialement motivé par des motivations de base, capable de raisonner sur les moyens de les satisfaire pour déterminer ses propres objectifs. Finalement, de nouvelles motivations devraient être apprises, mais cela n'est pas développé dans cet article.
+l'affordance - quoi faire avec un objet 
+Le robot doit avoir la capacité de se représenter lui-même et l'humain avec lequel il interagit. Ce faisant, il doit être capable de déduire comment chacune de ces représentations évolue au fur et à mesure du déroulement de l'action conjointe. Le robot doit être capable de prendre en compte la capacité de prise de perspective, en sachant que les représentations évoluent différemment selon chaque point de vue. Parmi d'autres, Milliez et al. (2014) et Hiatt et Trafton (2010) dotent un robot de la capacité de construire une représentation des états mentaux des autres agents concernant l'environnement, lui permettant de réussir le test de Sally et Anne (Wimmer et Perner, 1983). Ensuite, ces états mentaux sont utilisés dans Hiatt et al. (2011) pour interpréter et expliquer le comportement des humains. Mais le robot doit également comprendre et prendre en compte les effets de ses propres actions sur les états mentaux de ses partenaires, ce qui implique un second degré de conscience. Cela est réalisé dans Gray et Breazeal (2014) où le robot joue à un jeu compétitif avec un humain et choisit son action afin de manipuler l'état mental de l'humain par rapport à l'état du monde.
+\begin{figure}
+	\centering
+	\includegraphics[width=0.7\linewidth]{images/chatila2}
+	\caption{Exemple d'architecture cognitive pour un systeme robotique.}
+	\label{fig:chatila2}
+\end{figure}
+
+\begin{figure}
+	\centering
+	\includegraphics[width=0.7\linewidth]{images/chatila1}
+	\caption{Apprentissage sensori-moteur pour une affordance}
+	\label{fig:chatila1}
+\end{figure}
+
+Plea for slow science
+
+
+moral équivalence in \cite{shaw2009looking}:
+les robots restent non-humains et incapables de
+résumer une position d'équivalence morale avec les humains
+la véracité morale des relations homme-robot, ce qui suggère que de telles relations
+risquer d’être psychologiquement appauvri d’un point de vue moral.
+spective, ou sont d’une inauthenticité déconcertante et donc
+donc moralement problématique. 
+le statut ontologique du robot comme  social ou sa capacité à s’engager
+dans un comportement véritablement social, doutant qu'ils puissent réellement interagir
+interpréter le monde qui les entoure en fonction de leur propre expérience.
+L’étude de Turkle a examiné l’interaction relationnelle entre les seniors et Paro (un bébé phoque du Groenland robotisé) et a découvert que Paro suscitait des sentiments d'admiration, d'amour comportement et curiosité, mais il a estimé que le sceau du robot soulevait des difficultés. culte des questions sur le type d'authenticité que nous exigeons de
+notre technologie. Voulons-nous que les robots disent des choses qu'ils ne pourrait-il pas vouloir dire ? Quels types de relations nous pensons qu'ils sont les plus appropriés pour nos enfants et nos aînés avoir avec les artefacts relationnels ?
+Les trois lois de la robotique d’Asimov suffiraient comme lignes directrices éthiques
+\begin{quote}
+``Les robots imaginés comme une nouvelle espèce sociale magnifique (robots sociaux affectifs) supposent que les machines peuvent finalement exceller dans les dimensions morales aussi bien qu'intellectuelles [69]. Par conséquent, nous avons besoin d'approches éthiques et de cadres qui dépassent la théorie morale classique et sont mieux à même de traiter des problèmes éthiques/moraux inattendus et encore non résolus liés à l'émergence de nouveaux sujets technologiques qui ne peuvent plus être facilement classés comme de simples outils mais peut-être comme de nouvelles espèces d'agents, de compagnons et d'avatars\footnote{en anglais: ``Robots imagined as a magnificent new social species
+	(affective social robots) presumes that machines may ultimately exceed in the moral as well as the intellectual di-
+	mension [69]. Therefore, we require ethical approaches and frames that move beyond classical moral theory and are better able to deal with unexpected, yet to be resolved, ethical/moral problems related to the emergence of new tech-
+	nological subjects that can no longer be easily classified asmere tools but perhaps as new species of agents, compan-
+	ions, and avatars.”}.”
+\cite{shaw2009looking}
+\end{quote}
+
+\begin{quote}
+``Les individus adoptent des comportements sociaux envers les technologies même lorsque ces comportements sont totalement incohérents avec leurs croyances sur les machines\footnote{en angalis: ``individuals engage in social behavior towards technologies even when such behavior is entirely inconsistent with their beliefs about the machines.”}.”
+	\cite{ass1997computers}
+\end{quote}
+
+according to \cite{chowdhury2021ethics}
+: (orienté vers l'humain) qui provoquent l'ethisques physiques et caractéristiques de l’IA (orientée machine) qui soulèvent des questions éthiques.
+des machines coûteuses, et les seules personnes qui peuvent se les permettre sont les grands
+entreprises internationales, ce qui signifie que de moins en moins de personnes peuvent réellement contrôler
+le destin de la technologie de l'IA,
+si vous donnez à l'agent une fonction de récompense consistant simplement à préparer le
+le thé, il fait plein dans l'arène des récompenses et s'il y a un vase sur le chemin, il va frapper
+car vous n'avez pas précisé ce qui vous importait (dans ce cas, le vase) ainsi que le
+mesures qui doivent être prises. Ce n'est pas dans la fonction de récompense, mais c'est ce qui vous tient à cœur.
+Une des hypothèses de la norme Renforcement
+Le paradigme d'apprentissage est qu'il existe une séparation entre l'agent et l'environnement,
+les actions de l’agent peuvent affecter l’environnement et l’environnement n’affecte que le
+agent en fournissant des observations et des récompenses. Mais dans un système d’IA avancé, c’est
+déployé dans le monde réel, le fait que l'agent fait physiquement partie de l'environnement
+devient important. L'environnement peut changer les choses sur l'agent et l'agent
+peut changer les choses sur lui-même.
+
+ Humanity Plus; formerly the World Transhumanist Association) is a non-profit international educational organization that advocates the ethical use of technologies and evidence-based science to improve the human condition.
+Anciens Transhumanistes (1998) 
+L'Institut pour l'éthique et les technologies émergentes est un groupe de réflexion à but non lucratif qui promeut des idées sur la manière dont le progrès technologique peut accroître la liberté, le bonheur et l'épanouissement humain dans les sociétés démocratiques. Nous pensons que le progrès technologique peut être un catalyseur de développement humain positif à condition que nous veillions à ce que les technologies soient sûres et équitablement distribuées. Nous appelons cela une orientation technoprogressiste. (2004)
+
+according  to \cite{kazim2021high}
+une conscience éthique:
+ 
+Ethical consciousness refers to a person or institution or cultural norm, that has a disposition that is motivated by a moral awareness rather than, say, exclusively a concern of economics (pay and profit), or legality (responsibility, culpability, and compliance). In other words, this is a desire to do the right thing. Ethical consciousness can be read as coming out of business ethics,10 which is an applied ethics within the commercial environment. Sharing many of the themes from the previous section, it encompasses the integration of codes of conduct and compliance; however, it also expands to consider reputational issues, (corporate) social responsibility, and, most relevant to the development of ethical consciousness, concerns for institutional philosophy and culture. Drawing particularly on the latter, ethical
+consciousness can be stated in terms of societal and culture shifts in the awareness of citizens, technology developers and deployers, policy makers, and leaders of industry, in the ethical dimensions of new digital technologies.
+
+
+utiliser des modèles cognitifs robotiques pour promouvoir des interactions sociales dignes de confiance avec les humains.
+
+ondes et conscience \cite{liu2024cognitive}
+The EEG signal is a mixture of multiple underlying base frequencies, which is considered to reflect cognitive
+activities and functional brain states over time. The EEG frequency is
+classified into five sub-frequency ranges and they are delta (0.5–4 Hz),
+theta (4–7 Hz), alpha (7–12 Hz), beta (13–30 Hz), and gamma-band
+waveforms (>30 Hz) [15]. Different frequency ranges of EEG signals are
+associated with specific functions of neural activities, and the summary
+of these connections between brain frequencies and functions are
+Delta-band activities are associated with deep stages of sleep and
+are characterised by low-frequency and high-amplitude waves.
+Delta rhythms can be present during wakefulness and delta waves
+have been recorded interictally in patients with absence seizures,
+which have the feature of brief, sudden lapses in attention.
+Theta waveform is often associated with the behavioural states of
+alertness, attention, orientation, and working memory including
+the enhancement of cognitive and perceptual performances. The
+theta rhythm detected in EEG measurement is often found in
+young adults, particularly over the temporal regions and during
+hyperventilation.
+ Alpha waves are often associated with a relaxed, calm and lucid
+state of mind. Alpha waves can be found in the occipital and
+posterior regions of the brain. 
+Alpha waves can be induced by
+closing one’s eyes and when humans are in relaxing states, and
+they are rarely present during intense cognitive processes like
+thinking, mental calculus and problem-solving
+Beta waves are most closely associated with being conscious or in
+an awake, attentive and alert state. Low-amplitude beta waves are
+associated with active concentration, or with a busy or anxious
+state of mind. Beta waves are also associated with motor decisions
+(suppression of movement and sensory feedback of motion).
+ Gamma frequencies are distributed widely throughout cerebral
+structures and participate in various cerebral functions, such as
+perception, attention, memory, consciousness, synaptic plasticity,
+and motor control.
+\begin{figure}
+	\centering
+	\includegraphics[width=0.7\linewidth]{images/brainwaves}
+	\caption{Structure du cerveau humain et formes d'onde.}
+	\label{fig:brainwaves}
+\end{figure}
 
 \section*{Conclusion chapitre 1}