Forum des auditeurs passionnés et critiques de France Culture

Cette discussion, initiée sur le fil "La grille de rentrée 2009", mérite bien son fil. Elle va donc se poursuivre ici, avec la dernière réponse en date de Dom. ("masterkey" c'est moi, Dom.)

dom a écrit:"Avant qu'on ait des certitudes sur les différences fondamentales entre le cerveau humain et une machine machinante"
je pense que tu oublies un fait, la machine cerveau a crée la machine machinante, des lors elle systematiquement programmée par le cerveau, cette conception ne releve pas ,du moins dans ma vision imparfaite des choses, d'une theorie du chaos bien que la programation initiale du cerveau soit peut etre issue de celle du chaos, le cas qui nous interresse est une simple fonction binaire.

Bon, plusieurs axes de réponse à mon avis. Pour fixer les choses, on va considérer que machine = ordinateur classique, c'est-à-dire "machine de turing", qui peut se résumer idéalement à ça : une machine dotée d'un ruban de longueur infinie, sur lequel elle est capable de lire ou d'écrire des nombres, et de déplacer sa tête de lecture/écriture en fonction de règles sur les nombres qu'elle lit. Comme toute l'arithmétique peut se résumer à un jeu d'écriture, cette machine idéale sait, en gros, faire des calculs arithmétiques indéfiniment grands.

Le but de la discussion est de prouver ou non - ou prouver l'inverse -  que le travail effectué par le cerveau humain (si l'on accepte que c'est bien le cerveau qui est le support de la pensée) a quelque chose de fondamentalement infaisable via un traitement arithmétique.

* L'un de tes arguments à cela est que l'homme a créé la machine à faire de l'arithmétique, ce qui sous-entend(c'est ce que j'en comprend), qu'elle lui est subordonnée, elle ne peut faire que moins bien que lui.

-> Là, je te répondrais que l'élève peut dépasser le maître sans problème, ou la créature son créateur, sur le plan intellectuel. Issus d'une cellule procaryote, comme tout le vivant, la lignée humaine n'en est pas moins supérieure intellectuellement (je ne suis pas sûr de la validité de l'argument, mais j'arrive pas non plus à l'écarter). Sur un plan plus proche de la discussion, on peut facilement créer des choses qui nous dépassent : j'ai déjà été battu aux échecs par un programme fait par moi. Egalement, le fait que nous créions un objet ne veut pas dire qu'on en maîtrise toute la portée, ni toute les conséquences : l'homme est le créateur des axiomes de l'arithmétique. Pourtant, des problèmes existent, dans le langage de l'arithmétique, qui mettent plusieurs siècles à être résolus, voire qui sont purement insolubles (indépendants des axiomes).
Enfin, il se pourrait également que les principes qui gouvernent le fonctionnement  de l'ordinateur n'aient pas été "inventés" par l'homme, mais "découverts". Dans une perspective platonicienne, c'est-à-dire si l'on pense que les êtres mathématiques existent réellement, en dehors de nos têtes, c'est un point de vue très cohérent.

* Deuxième axe : tu dis que la pensée humaine obéis peut-être à des règles "chaotiques" (au sens de la théorie du chaos), alors que l'ordinateur serait binaire. Ce n'est pas antinomique :

- D'une part, la base 2 et une série d'axiomes suffisent à exprimer toute l'arithmétique.

- D'autre part, les processus chaotiques, tels que le problème à trois corps, ou le double pendule, naissent justement dans des environnement parfaitement déterministes, donc strictement mathématisables. (si tu veux, je peux développer ce point, je me rend compte que balancé comme ça, soit c'est un argument d'autorité, soit tu sais déjà de quoi je parle et c'est alors inutile).

- Enfin, il existe plein de façon de rendre un programme "non-déterministe" (pas au sens strict, mais au sens ou tu l'entendais), de lui faire apprendre par lui-même, de corriger ses erreurs, de s'adapter, etc. Parmi ces techniques, il existe par exemple les algorithmes génétiques, les réseaux de neurones, diverses sortes d'algorithmes heuristiques, et des approches de plus haut niveau sur l'apprentissage de tels machines.
Pour te donner une idée, une façon très simple de rendre un programme non-déterministe est de lui dire "fais quelque chose au hasard" (sachant que pour tirer quelque chose le hasard, il va se baser sur tout un tas de paramètres contingents). Tu peux ensuite affiner, si tu as un objectif pour ton programme, en lui disant : essaye dix mille actions au hasard, note leur réussite par rapport à l'objectif, garde les cent meilleures actions, puis combine-les, de dix mille façons différentes. Garde les cent combinaisons qui ont le mieux réussi, et on passe à trois combinaisons (la difficulté et l'habileté du programmeur sera dans le codage de la partie qui évaluera la réussite de l'action par rapport à l'objectif).

Voilà, c'est très idéalisé, mais ça peut donner une idée de comment faire un programme au comportement non-trivial, et adaptatif.

Mais il y a beaucoup de trous dans tout ça, et moi je ne montre pas en quoi l'activité du cerveau est effectivement réductible à un calcul arithmétique, ça c'est plus difficile...

salut fred,
bien le sujet est interressant .
définition de machine ok
Le but de la discussion est de prouver ou non - ou prouver l'inverse - que le travail effectué par le cerveau humain (si l'on accepte que c'est bien le cerveau qui est le support de la pensée) a quelque chose de fondamentalement infaisable via un traitement arithmétique. ok

probleme n°1 la section est dans le virtuel
j'ai déjà été battu aux échecs par un programme fait par moi.
tu as donné a ta machine les regles de la condition de victoire, gagner est son objectif, la machine ne sait pas qu'elle a gagné, elle ne peut jouer que si un pion virtuel est déplacé par un autre action, elle n'a aucune fontion d'instinc de survie et restera en attente de ton deplacement de pion.
la machine est monofonction le cerveau multifonction (concentration perturbee par des élément exterieurs)
Enfin, il se pourrait également que les principes qui gouvernent le fonctionnement de l'ordinateur n'aient pas été "inventés" par l'homme, mais "découverts". Dans une perspective platonicienne, c'est-à-dire si l'on pense que les êtres mathématiques existent réellement, en dehors de nos têtes, c'est un point de vue très cohérent.
dieu (1) a fait l'homme a son image, parabole bien plus simple,et par extension l'homme fabrique a son image parce qu'il ne peut reproduire que ce qu'il voit, ou pense voir(rien de mystique, ni de religieux simple mathematique du language)

D'autre part, les processus chaotiques, tels que le problème à trois corps, ou le double pendule, naissent justement dans des environnement parfaitement déterministes, donc strictement mathématisables. (si tu veux, je peux développer ce point, je me rend compte que balancé comme ça, soit c'est un argument d'autorité, soit tu sais déjà de quoi je parle et c'est alors inutile).
la je cafouille et j'ai du mal le quadirpross fume et j'ai besoin d'info je rame 404 no found error systeme try again ram crash application failed
- Enfin, il existe plein de façon de rendre un programme "non-déterministe" (pas au sens strict, mais au sens ou tu l'entendais), de lui faire apprendre par lui-même, de corriger ses erreurs, de s'adapter, etc. Parmi ces techniques, il existe par exemple les algorithmes génétiques, les réseaux de neurones, diverses sortes d'algorithmes heuristiques, et des approches de plus haut niveau sur l'apprentissage de tels machines.
Pour te donner une idée, une façon très simple de rendre un programme non-déterministe est de lui dire "fais quelque chose au hasard" (sachant que pour tirer quelque chose le hasard, il va se baser sur tout un tas de paramètres contingents). Tu peux ensuite affiner, si tu as un objectif pour ton programme, en lui disant : essaye dix milles actions au hasard, note leur réussite par rapport à l'objectif, garde les cent meilleures actions, puis combine-les, de dix milles façons différente. Garde les cent combinaisons qui ont le mieux réussi, et on passe à trois combinaisons (la difficulté et l'habileté du programmeur sera dans le codage de la partie qui évaluera la réussite de l'action par rapport à l'objectif).

ceci pour une seule action se limitant a des commandes vectorielles 3d en millieux clos, le jeu video est l'exemple même de la limitation d'une IA(pour l'instant) en principe des que le joueur trouve le bug "texture", il l'exploite de maniere a vaincre son enemi le joueur n'est pas programmer pour trouver un bug texture c'est le hasard qui lui a fait trouver.
la machine binaire ne peut pas lutter contre un ensemble de constante variables, amoins qu'on invente un binaire variable, ce qui ne sera plus du binaire, seule solution la machine mixte organique et binaire avec une interface de communication
c'est pas terrible je fais ce que je peux
a+

Bon, the réponse :

dom a écrit: tu as donné a ta machine les regles de la condition de victoire, gagner est son objectif, la machine ne sait pas qu'elle a gagné

S'il s'agit de dire qu'une machine consciente n'a pas encore été réalisée, c'est incontestable. Par contre, que ce soit impossible, c'est ça que je conteste.
Par ailleurs, je veux bien que la machine ne sache pas qu'elle a gagné, mais le sais-tu, toi? Qu'est-ce qui se passe de plus chez l'humain qui gagne? Ca déclenche une série de réaction hormonales, il y a sûrement une petite dose d'endorphine ou d'un stimulant à usage interne qui est délivrée. Il vit un "bon" moment, bref, il se passe quelque chose au niveau de la machinerie. Quelque chose comme une fonction d'adaptation au monde enregistre l'expérience comme positive.
Enfin tout ça, peut être décrit d'un point de vue comportemental / machinal, behaviouriste.
Quoi d'autre, en dedans? Ah oui, on se voit gagner. On est aussi présent en spectateur, on peut dire "j'y étais", "j'ai vécu ça". C'est surtout ça qui est prégnant : le sentiment d'incarnation, de conscience. Mais, ça,lui, le spectateur, est passif : ce n'est pas lui qui ressent l'émotion de la victoire. Lui il note, il regarde, c'est tout. Il sait que quelque chose en-dedans est content, mais ce n'est pas lui qui content. Alors ça se passe en même temps, ça semble former un tout. Pourtant, pas besoin d'être conscient pour être content. Mais pour s'en souvenir, si...

La machinerie, celle qui a une sorte de fonction d'adaptation au monde, vraisemblablement très compliquée, avec des systèmes d'émotion, de pulsion, etc, à mon avis, est mathématisable. Par contre, le phénomène par lequel tu vois, tu es conscient, tu "sais" que tu es là, je ne sais pas exactement de quoi il s'agit. Peut-être une illusion, peut-être est-ce juste la perception de soi qui reste en permanence active ou semi-active pendant la veille, qui donne cette impression. C'est vrai, quand tu regardes un objet, et même quand tu agis dessus, ça se fait souvent sans la conscience. Elle, elle revient quand il s'agit de toi, ou de ton rapport avec l'objet en question. Mais tout un tas de choses se font en pilotage automatique. Peut-être n'y a-t-il rien de remarquable au phénomène de la conscience, d'ailleurs c'est une des dernières choses qu'on pourra comparer. Et d'ailleurs, le phénomène de conscience est modifié avec l'âge, avec les traumatismes crâniens et les maladies dégénérative, avec les rencontres et les lectures aussi, parfois.
Peut-être n'est-ce finalement qu'un sens, comme la vue, tourné vers l'intérieur. Et dans ce cas, aucun problème à ce qu'une machine "expérimente" cela.

Bon, tu le vois, ça sent le flot de pensées brouillonnes, pas finies, écrites au fil de l'eau, sans organisation, et débarrassée de tout recul philosophique et de toute précaution. C'est pourtant ce qui sort quand je tire par un bout ce que j'ai en tête à ce sujet. Je reprendrai le message tout-à-l'heure

Un peu d'accord avec Masterkey, faut définir ce qui est la conscience.....
Si on joue,on verra surement au moment de gagner, dans une irm, une zone de récompense.
Mais bon, on verra aussi sur "irm" d'ordinateur qu'il est passé en mode "stop/j'ai gagné".
Si on utilise des algorithmes qui "apprenne" dans ce cas,il y aura une note positive sur la technique qu'il a utilisé pour gagner.
Bref conscience existes-tu ? j'en suis pas persuadé (personnellement,je joue comme un robot a Othello, et je bas pas mal de gens )

Eh oui, j'ai longtemps pensé aussi que la conscience était une espèce d'illusion, d'auto-fiction, un genre de compliment qu'on adressait à peu de frais à ses actions, en disant d'elles : "... Et en plus, j'ai fait ça consciemment ! Consciemment madame, vous vous rendez compte ?..."

Bref, la même sorte de coquille creuse que celle dont je pensais déjà qu'on avait le tort de décorer nos actes : le libre arbitre, par exemple. Le genre d’apparat dont on use et abuse pour se distinguer (croyais-je) artificiellement du reste du monde animal - terme dans lequel les locuteurs s'incluent rarement malgré Darwin - , ou matériel , se trouver des airs de famille avec les êtres du monde supra-lunaire.

Reste que même si la conscience est une illusion, il me faut concéder, retrouvant soudain des réflexes phénoménologiques un peu engourdis, qu'elle n'en est pas moins là, et bien là. La perception, qu'elle vienne d'une illusion ou d'un objet du monde hors de nous (s'il existe), a le même degré de réalité. Et contrairement au libre arbitre, pour lequel on peut montrer, je crois, qu'il s'agit d'un qualificatif vide de sens, pas possible de révoquer, d'invalider de façon logique une perception. Surtout que même avec beaucoup de mauvaise foi, elle nous est visiblement commune, nous qui discutons.

Alors plutôt que de se prendre les pieds dans la philosophie pour disqualifier d'office, sous prétexte de quelque faux-départ, l'idée de conscience, on peut adopter à son endroit une attitude pragmatique. Un peu ce que font certains roboticiens et informaticiens avec l'IA qui, plutôt que de se demander si une authentique IA est possible, essayent simplement d'en fabriquer une. S'il y a un succès au bout, on aura au moins une réponse par l'exemple, qui vaut sans doute bien une preuve a priori.

Ce travail pragmatique, c'est par exemple ce à quoi s'attèle Stanislas Dehaene, dont j'ai parlé à l'envi sur ce forum, et je suis contrit de piocher toujours dans les mêmes gamelles, mais que voulez-vous, mes sources sont limitées.

En 2009, Dehaene a consacré ses cours au Collège de France à exposer ses avancées dans le domaine de la psychologie cognitive expérimentale sur l'inconscient. L'année suivante, ses cours ont porté sur le sujet complémentaire, la conscience (ceci est un lien).

Son approche est on ne peut plus empiriste, et simple : la conscience est là quand le sujet rapporte qu'il a un souvenir conscient d'une action ou d'un état. Stanislas Dehaene a donc procédé à tout un tas d'expériences sur des sujets, le plus souvent branchés sur des PETScans (tomographes à émission de positrons) ou des machines à IRM, puis leur a simplement demandé s'ils avaient eu conscience ou non de l'expérience. Ces expériences allaient de la projection d'image sur un seul oeil pendant que l'autre recevait des flashes stroboscopiques (c'est tordu, mais visiblement pratique pour faire enregistrer des informations au cerveau sans que la conscience ne s'en aperçoive vraiment), à des calculs mentaux, ou des travaux d'attention pendant le visionnage de films.

La corrélation entre l'imagerie cérébrale et les moments de conscience rapportés par le sujet lui a permis d'isoler en tout cas des situations précises, et des séquences d'animations de zones cérébrales, bien réelles. Il semble d'après ces expériences que la mobilisation de la conscience n'intervienne que pour des tâches très particulières, dans lesquelles le sujet doit garder actifs à l'esprit et manipuler, en mémoire de travail, un grand nombre d'objets mentaux simultanément. La conscience serait alors pour Dehaene un mécanisme bien précis, acquis au cours de l'évolution, pour des tâches particulièrement complexes.

Elle est, de plus, associée visiblement à une consommation énergétique importante qui limite ses cas d'utilisation par le cerveau au stricts travaux où elle serait nécessaire.

Enfin, l'un des traits de l'activité consciente, c'est qu'elle associe systématiquement à l'action qu'elle traite des zones du cerveau dont on a tout lieu de penser qu'elles codent le soi du sujet, sa propre représentation. Elle maintient donc vraisemblablement active une association entre le soi du sujet et son action.

En tout cas, il y a bien quelques travaux empiriques sur la conscience, et il semble que ce ne soit pas une coquille vide, ce sur quoi j'avais un doute il y a quelques années.