diff --git a/bibliography.bib b/bibliography.bib index ba61724..7d932c0 100644 --- a/bibliography.bib +++ b/bibliography.bib @@ -1,3 +1,10 @@ +@book{agamben2017omnibus, + title={The omnibus homo sacer}, + author={Agamben, Giorgio}, + year={2017}, + publisher={Stanford University Press} +} + @article{chalmers2023could, title={Could a large language model be conscious?}, author={Chalmers, David J}, diff --git a/sections/conclusion.tex b/sections/conclusion.tex index 239f42c..fc024bb 100644 --- a/sections/conclusion.tex +++ b/sections/conclusion.tex @@ -1,4 +1,4 @@ -\chapter*{Conclusion Générale} +parallèle\chapter*{Conclusion Générale} \addcontentsline{toc}{chapter}{Conclusion Générale} Au cours de ce projet de recherche et aussi de deux dernières années au LIRMM, j'ai travaillé en étroite collaboration avec des roboticiens, acquérant des informations précieuses sur les défis et les lignes directrices de l'IA quant à une possible émergence d'une CA. Cela m'a également permis de construire un cadre humaniste qui considère les robots engagés dans des pratiques artistiques collaboratives, \textit{plus que} de simples outils. Bien que cette idée est un travail en cours, cela continue de façonner mes recherches et mes interrogations artistiques. @@ -154,40 +154,18 @@ consciousness can be stated in terms of societal and culture shifts in the aware utiliser des modèles cognitifs robotiques pour promouvoir des interactions sociales dignes de confiance avec les humains. ondes et conscience \cite{liu2024cognitive} -The EEG signal is a mixture of multiple underlying base frequencies, which is considered to reflect cognitive -activities and functional brain states over time. The EEG frequency is -classified into five sub-frequency ranges and they are delta (0.5–4 Hz), -theta (4–7 Hz), alpha (7–12 Hz), beta (13–30 Hz), and gamma-band -waveforms (>30 Hz) [15]. Different frequency ranges of EEG signals are -associated with specific functions of neural activities, and the summary -of these connections between brain frequencies and functions are -Delta-band activities are associated with deep stages of sleep and -are characterised by low-frequency and high-amplitude waves. -Delta rhythms can be present during wakefulness and delta waves -have been recorded interictally in patients with absence seizures, -which have the feature of brief, sudden lapses in attention. -Theta waveform is often associated with the behavioural states of -alertness, attention, orientation, and working memory including -the enhancement of cognitive and perceptual performances. The -theta rhythm detected in EEG measurement is often found in -young adults, particularly over the temporal regions and during -hyperventilation. - Alpha waves are often associated with a relaxed, calm and lucid -state of mind. Alpha waves can be found in the occipital and -posterior regions of the brain. -Alpha waves can be induced by -closing one’s eyes and when humans are in relaxing states, and -they are rarely present during intense cognitive processes like -thinking, mental calculus and problem-solving -Beta waves are most closely associated with being conscious or in -an awake, attentive and alert state. Low-amplitude beta waves are -associated with active concentration, or with a busy or anxious -state of mind. Beta waves are also associated with motor decisions -(suppression of movement and sensory feedback of motion). - Gamma frequencies are distributed widely throughout cerebral -structures and participate in various cerebral functions, such as -perception, attention, memory, consciousness, synaptic plasticity, -and motor control. +Le signal EEG est un mélange de plusieurs fréquences de base sous-jacentes, qui sont considérées comme reflétant les activités cognitives et les états fonctionnels du cerveau au fil du temps. La fréquence EEG est classée en cinq sous-plages de fréquences : delta (0,5–4 Hz), thêta (4–7 Hz), alpha (7–12 Hz), bêta (13–30 Hz) et ondes de la bande gamma (>30 Hz) [15]. Différentes plages de fréquences des signaux EEG sont associées à des fonctions spécifiques des activités neuronales, et le résumé de ces connexions entre les fréquences cérébrales et les fonctions est le suivant : + +Les activités de la bande delta sont associées aux stades profonds du sommeil et se caractérisent par des ondes de basse fréquence et de haute amplitude. Les rythmes delta peuvent être présents pendant l'éveil, et des ondes delta ont été enregistrées interictalement chez des patients souffrant de crises d'absence, qui se caractérisent par des laps de temps brefs et soudains d'inattention. + +Les ondes thêta sont souvent associées aux états comportementaux de vigilance, d'attention, d'orientation et de mémoire de travail, y compris l'amélioration des performances cognitives et perceptuelles. Le rythme thêta détecté dans les mesures EEG est souvent trouvé chez les jeunes adultes, particulièrement dans les régions temporales et lors de l'hyperventilation. + +Les ondes alpha sont souvent associées à un état d'esprit détendu, calme et lucide. Les ondes alpha peuvent être trouvées dans les régions occipitales et postérieures du cerveau. Les ondes alpha peuvent être induites en fermant les yeux et lorsque les humains sont dans des états de relaxation. Elles sont rarement présentes pendant les processus cognitifs intenses tels que la réflexion, les calculs mentaux et la résolution de problèmes. + +Les ondes bêta sont le plus étroitement associées à l'état de conscience ou à un état éveillé, attentif et alerte. Les ondes bêta de faible amplitude sont associées à une concentration active, ou à un état d'esprit occupé ou anxieux. Les ondes bêta sont également associées aux décisions motrices (suppression du mouvement et retour sensoriel du mouvement). + +Les fréquences gamma sont largement distribuées dans les structures cérébrales et participent à diverses fonctions cérébrales, telles que la perception, l'attention, la mémoire, la conscience, la plasticité synaptique et le contrôle moteur. + \begin{figure} \centering \includegraphics[width=0.7\linewidth]{images/brainwaves} @@ -218,7 +196,7 @@ L'éthique des machines concerne la fabrication des machines qui se comportent d Un test alternatif proposé est celui appelé le \textit{test éthique de Turing}, -Au début des années 2000, des chercheurs abordaient déjà le problème de la moralité, pointant une différence entre les nuances de ce qui peut signifier une moralité opérationnelle en comparaison avec une moralité fonctionnelle. Cette dernière est capable d'évaluer certains des aspects moralement significatifs de leurs propres actions, alors que la dernière est définie en relation avec deux critères (autonomie et sensibilité éthique). La relation entre les deux est illustré plus bas, avec des systèmes dotés d'une autonomie signifiant mais un niveau faible de sensibilité éthique, en paralelle avec des systemes qui ont une faible autonomie mais une grande sensibilité éthique. +Au début des années 2000, des chercheurs abordaient déjà le problème de la moralité, pointant une différence entre les nuances de ce qui peut signifier une moralité opérationnelle en comparaison avec une moralité fonctionnelle. Cette dernière est capable d'évaluer certains des aspects moralement significatifs de leurs propres actions, alors que la dernière est définie en relation avec deux critères (autonomie et sensibilité éthique). La relation entre les deux est illustré plus bas, avec des systèmes dotés d'une autonomie signifiant mais un niveau faible de sensibilité éthique, en parallèle avec des systèmes qui ont une faible autonomie mais une grande sensibilité éthique. \begin{figure} \centering @@ -231,7 +209,7 @@ Au début des années 2000, des chercheurs abordaient déjà le problème de la Le terme de \gls{éthique des robots} -L'une des premières publications abordant directement et établissant les bases de l'éthique des robots fut Runaround (histoire), une nouvelle de science-fiction écrite par Isaac Asimov en 1942 qui présentait ses célèbres Trois lois de la robotique. Ces trois lois ont été continuellement modifiées par Asimov, et une quatrième, ou loi zéro, a finalement été ajoutée pour précéder les trois premières, dans le contexte de ses œuvres de science-fiction. Le terme court roboéthique a probablement été inventé par Gianmarco Veruggio. +L'une des premières publications abordant directement et établissant les bases de l'éthique des robots fut Runaround (histoire), une nouvelle de science-fiction écrite par Isaac Asimov en 1942 qui présentait ses célèbres Trois lois de la robotique. Ces trois lois ont été continuellement modifiées par Asimov, et une quatrième, ou loi zéro, a finalement été ajoutée pour précéder les trois premières, dans le contexte de ses œuvres de science-fiction. Le terme court roboéthique a probablement été inventé par Gianmarco Veruggio. fait référence à la moralité de la manière dont les humains conçoivent, construisent, utilisent et traitent les robots. L’éthique des robots recoupe l’éthique de l’IA. Les robots sont des machines physiques alors que l'IA ne peut être qu'un logiciel. Tous les robots ne fonctionnent pas via des systèmes d’IA et tous les systèmes d’IA ne sont pas des robots. L'éthique des robots considère la manière dont les machines peuvent être utilisées pour nuire ou bénéficier aux humains, leur impact sur l'autonomie individuelle et leurs effets sur la justice sociale. @@ -247,7 +225,7 @@ Le domaine controversée de la robotique militaire, le \textit{Système d'armes Le roman de Philip K. Dick de 1968, Les androïdes rêvent-ils de moutons électriques ? explore ce que signifie être humain. Dans son scénario post-apocalyptique, il se demande si l’empathie est une caractéristique entièrement humaine. Le livre est à la base du film de science-fiction Blade Runner de 1982. -Chappie, est un film de science-fiction qui explore les thèmes de l'intelligence artificielle, de la conscience et de l'humanité. Se déroulant dans un futur proche à Johannesburg, l'histoire suit un droïde de police nommé Chappie qui gagne une conscience après avoir été reprogrammé par un ingénieur logiciel. Au fur et à mesure que le robot apprend et évolue, il est influencé par un groupe diversifié de personnages, dont un gang criminel. Le film aborde de manière ambitieuse des questions complexes telles que la moralité, l’identité et la nature de la conscience. +Chappie, est un film de science-fiction qui explore les thèmes de l'intelligence artificielle, de la conscience et de l'humanité. Se déroulant dans un futur proche à Johannesburg, l'histoire suit un droïde de police nommé Chappie qui gagne une conscience après avoir été reprogrammé par un ingénieur logiciel. Au fur et à mesure que le robot apprend et évolue, il est influencé par un groupe diversifié de personnages, dont un gang criminel. Le film aborde de manière ambitieuse des questions complexes telles que la moralité, l’identité et la nature de la conscience. humain augmenté, à l’image de la créature de Frankenstein ou \gls{social uncanniness} @@ -257,7 +235,7 @@ Sur la question de la conscience des modèles de langage ou large language model workspace theory put forward by Bernard Baars and developed by Stanislas Dehaene and colleagues. This theory says that consciousness involves a limited-capacity global workspace: a central clearing-house for gathering information from numerous non-conscious modules and - making information accessible to them. Whatever gets into the global workspace is conscious.”}.” + making information accessible to them. Whatever gets into the global workspace is conscious.”}.” \cite{chalmers2023could} \end{quote} Au cours de la prochaine décennie, même si nous ne disposons pas d’une intelligence artificielle générale à l’échelle humaine, nous pourrions @@ -265,7 +243,21 @@ ont des systèmes qui sont de sérieux candidats à la conscience. Même si les et les objections à la conscience dans les systèmes d'apprentissage automatique, relever ces défis donne un programme de recherche potentiel réaliste pour l’IA consciente. (chalmers says) +\cite{agamben2017omnibus} +Georgio Agamben, partant d’une réflexion croisée sur la question juridique de l’essence de la souveraineté chez Carl Schmitt et sur l’archéologie des biopouvoirs chez Michel Foucault, montre en quoi, à l’époque moderne, le corps humain est devenu l’enjeu fondamental des stratégies politiques. C’est à l’intérieur de la zone d’indifférenciation de la vie et de la non-vie, dans le pouvoir même de déterminer leur point d’articulation et dans la substitution au corps naturel d’un corps intégralement disponible au pouvoir de la technique, que s’exerce le biopouvoir constitutif de la souveraineté moderne, et dont Agamben décrit minutieusement les différents paradigmes +Tout le problème, chez Agamben, comme d’ailleurs chez Foucault, consiste dans le passage de la question généalogique à la question proprement juridique, du factuel au normatif, et ce alors même que, comme l’écrit justement Agamben, la vie nue est précisément le seuil où le droit se transforme chaque fois en fait et le fait en droit et où ces deux plans tendent à devenir indiscernables + or, si Agamben montre de façon très approfondie en quoi le juridique se réduit au factuel, il laisse singulièrement dans l’ombre la possibilité évoquée d’une constitution du biopouvoir (factuel) en souveraineté (juridique) ; ce qui n’est envisageable que si l’on détermine en quelle mesure le corps – entendons bien notre corps, non un corps sans organe pourrait être non seulement l’objet de ce biopouvoir, mais aussi en constituer la finalité propre dans quelle mesure il n’est pas seulement assujetti au biopouvoir mais est à même de s’en rendre, en un sens, souverain. +\begin{quote} + ``Pendant des millénaires, l'homme est resté ce qu'il était pour Aristote : un animal vivant avec la capacité supplémentaire d'existence politique ; l'homme moderne est un animal dont la politique met en question son existence en tant qu'être vivant\footnote{For millennia man remained what he was for Aristotle: a living animal with the additional capacity for political existence; modern man is an animal whose politics calls his existence as a living being into question.”}.” + \cite{agamben2017omnibus} +\end{quote} + THE CAMP AS BIOPOLITICAL PARADIGM OF THE MODERN + Traçant la discussion d'abord jusqu'à la définition décisive d'Aristote et l'observation de Foucault, Agamben se fixe sur l'analyse de Hannah Arendt (1973) du processus par lequel la vie biologique occupe le centre même de la scène politique de la modernité. Foucault a été empêché par sa mort prématurée d'explorer la manière dont l'entrée du zoe dans la sphère du polis signalait une transformation de la pensée classique et devenait le concept seuil de la modernité politique. La biopolitique en tant que catégorie philosophique était arrivée et la contribution durable de Foucault était son abandon décisif de l'approche traditionnelle du problème du pouvoir, qui est basée sur des modèles juridico-institutionnels (la définition de la souveraineté, la théorie de l'État), en faveur d'une analyse impartiale des façons concrètes dont le pouvoir pénètre dans les corps des sujets et les formes de vie. (ibid.) + +Agamben identifie comment les deux éléments dans l'œuvre de Foucault—les techniques politiques de l'État et les technologies du soi—nous pourrions dire la subjection et la subjectivation, entrent dans une double structure du pouvoir moderne dont le lieu reste apparemment flou ou non résolu dans l'œuvre de Foucault. Ce point de départ crucial est bien documenté dans deux vidéos de 2009 d'Agamben— Forms of Power et the Problem of Subjectivity —disponibles sur son profil de faculté à l'École Européenne de Gradués. + +Le \textit{Future of Life Institute} (FLI) ou \textit{Institut pour l'avenir de la vie} est une association à but non lucratif fondée en 2014 par des chercheurs de l'institut MIT et DeepMind. Son objectif est d'aborder les potentiels dangers et avantages des technologies provenant de l’intelligence artificielle, de la biotechnologie et des armes nucléaires. Parmi les parrains de l'institut, Wikipedia cite l'informaticien Stuart Russell, le biologiste George Church, les cosmologistes Stephen Hawking et Saul Perlmutter, le physicien Frank Wilczek et l'entrepreneur Elon Musk. Dés mars 2023, le Future of Life Institute appelle à un moratoire sur l'entrainement de systèmes d'IA plus puissants que GPT-4 pour garantir la sécurité et la gouvernance. Cette lettre écrite en consultation avec des experts en IA tels que Yoshua Bengio et Stuart Russell, est actuellement signée par plus de 33000 chercheurs en IA et décideurs politiques. Sa version intégrale est disponible plus bas\footnote{https://futureoflife.org/open-letter/pause-giant-ai-experiments/}. \section*{Conclusion chapitre 1}