L’argument de la simulation de Nick Bostrom — Argument frappant #1

On parle d’un argument frappant de Nick Bostrom qui montre que la probabilité que nous soyons des simulations serait plutôt élevée, en fait…

 

En somme, on peut reformuler l’argument de la façon suivante. Considérez les deux thèses suivantes :

(1) La maturité technologique ne peut pas être atteinte.
(2) La maturité technologique peut être atteinte mais aucune civilisation l’ayant atteinte ne s’en sert pour créer des simulations de conscience en grand nombre.

L’argument de la simulation de Nick Bostrom consiste uniquement à prouver que si (1) et (2) sont faux, alors il en suit :

(3) Il est quasi certain que nous soyons des simulations informatiques.

Concernant la distribution égales des probabilités, j’aurais dû être plus précis dans la façon de présenter les choses, mais l’idée est la suivante. Il faut se poser ces questions : étant données les informations dont on dispose aujourd’hui, quelle probabilité assignes-tu au scénario 1, et quelle probabilité assignes-tu au scénario 2 ? (Je parle de probabilité épistémiques, je précise, non de probabilité réelles – cf. le grain de philo sur la liberté pour éclaircir ce point.)

Il paraît difficile d’attribuer des probabilités extrêmement hautes (par exemple dont la somme dépasse les 99,9%). Même si l’on peut pencher plus fortement en faveur de 1, penche-t-on au point de le considérer comme certain à plus de 99,9% ? Je ne pense pas ; il me semble que les meilleures informations dont on dispose aujourd’hui ne nous permettent de donner aux scénarios 1 et 2 qu’une certaine probabilité dont la somme est loin d’être égale à 100% ; et l’argument de Bostrom consiste à dire que la probabilité que vous devez donner au scénario 3 (scénario de la simulation) est égal à la probabilité que les scénarios 1 et 2 ne se réalisent pas ; donc c’est une probabilité bien supérieure à 0% ; et ça, c’est étonnant.

Pour le dire autrement, d’après ce que nous savons aujourd’hui, nous devons attribuer aux 3 scénarios des probabilités qui sont loin d’être nulles. Par défaut et pour aller un peu vite, on pourrait distribuer également les probabilités sur les trois scénarios, mais c’est simplement pour donner un ordre de grandeur et non pour donner une valeur exacte. De fait Bostrom estimait la probabilité du scénario 3 autour de 20% (il disait plus précisément qu’il lui semblait irrationnel d’estimer cette probabilité inférieure à 20%).

Pour aller plus loin, voilà le site qui présente tout ce qu’il y a a savoir de l’argument de la simulation :
http://www.simulation-argument.com/

4 réflexions au sujet de « L’argument de la simulation de Nick Bostrom — Argument frappant #1 »

  1. C’est intéressant mais j’ai tout de même deux objections (une grande et une petite) sur le sujet.

    La première, c’est l’utilisation du terme « probabilité » à tort et à travers (pas seulement dans cette vidéo, mais de manière générale).

    Pourquoi dit-on qu’une pièce a une probabilité de 1/2 de tomber sur face ? Parce que quand on lance une pièce un très grand nombre de fois (disons un milliard de fois), il semble que la proportion de faces obtenues se rapproche d’1/2.

    Pour parler d’une probabilité qu’un évènement se passe, il faut ainsi se donner un univers et répéter une expérience un grand nombre de fois pour ainsi regarder avec quelle fréquence le phénomène que nous souhaitons étudier se produit.

    Donc, rien qu’au début de la vidéo, lorsque vous dites « on se dit que la probabilité que notre monde soit une grande illusion est très faible, de l’ordre de 0.000…1% ! », il y a quelque chose qui cloche. Pour parler d’une telle probabilité, il faudrait se donner un cadre d’expérience (un sur-monde ?), lancer différents mondes, et regarder avec quelle fréquence les personnages sont dans une illusion, et avec quelle fréquence ils sont dans la réalité. On voit bien que c’est impossible, car par définition, dans toutes les expériences, les personnages ne sont pas dans la réalité.

    C’est un peu comme ceux qui disent « la probabilité que Dieu ait créé le monde est plus forte / moins forte que celle qu’il s’est créé tout seul ». Tant qu’on ne m’aura pas défini précisément les cadres d’expériences pour ces deux exemples, je me refuserai à parler et à entendre parler de probabilité à leur sujet…

    La deuxième, c’est que, sans parler de probabilités, donc, je pense qu’il y a tout de même un des trois scénarii que l’on peut éliminer quasiment d’office : le second. En effet, comment penser que la civilisation en question se posera des barrières éthiques à ce moment-là ? Vous parliez des rats de laboratoires, eh bien justement, l’homme aujourd’hui s’en sert à grande échelle, alors qu’il sait pertinemment qu’il engendre de la souffrance en faisant cela. Et lorsqu’il sera capable de créer des mondes virtuels avec des consciences à l’intérieur, il sera tout à coup pris de compassion pour les robots qu’il a lui-même créés ? Malgré les possibilités infinies s’ouvrant et les enjeux économiques grandissant exponentiellement ? Toutes les civilisations allant aussi loin se priveraient de la sorte ? Laissez-moi rire… Cela me paraît bien optimiste.

    Bien cordialement,

    fan_de_goedel

    J'aime

    • Tes critiques sur la notion de probabilité sont exactement celles que les fréquentistes font aux bayesiens. Et je pense qu’elles sont tout à fait erronée. Si je te demande quelle est la probabilité qu’une attaque nucléaire se produisent dans l’année à venir, tu devrais répondre que ça n’a pas de sens : « il faudrait se donner un cadre d’expérience, lancer différents mondes, et regarder avec quelle fréquence une attaque nucléaire se produit dans l’année à partir de notre situation actuelle », ce qu’on ne peut évidemment pas faire. Mais si je forçais ton pari avec un pistolet sur la tempe (si à la fin de l’année je me rends compte que tu t’es trompé, je tire), je ne pense pas que tu choisirais une des deux options totalement au hasard. Je pense que tu parieras sur le fait qu’il n’y aura pas d’attaque, ce qui revient à dire que tu estimes que la probabilité est supérieure à 50%. Et je pense qu’une partie importante de la théorie de la connaissance est de comprendre la rationalité de ce choix (c’est pour ça que je faisais les vidéos sur la loi de Bayes, notamment).

      De façon générale, partout où tu seras enclin à me dire « ça n’a pas de sens de parler de probabilité », je serai enclin à te dire : « Parlons-en avec un pistolet sur la tempe ».

      J'aime

      • Bonjour,

        Tout d’abord, merci pour la réponse rapide. Je n’avais pas vu ces vidéos sur la loi de Bayes, et il est vrai que, présenté comme ça, on est plus enclin à accepter l’idée de probabilité sans forcément se munir de cadres d’expériences. En exploitant au fur et à mesure les indices qui nous sont proposés, on peut effectivement penser certaines choses comme plus probables que d’autres.

        Mais cela ne me satisfait pas totalement. En effet, dans ce cas-ci, on se place quand même avec notre monde actuel comme donnée, lorsque je dis « je pense très probable que j’aie une main », c’est sous-entendu « en me plaçant dans ce monde », car c’est en effet dans ce monde que j’ai eu des indices me faisant penser que j’ai effectivement une main. De même, c’est dans ce monde-ci que j’ai eu des indices me laissant raisonnablement penser qu’il n’y aura pas d’attaque nucléaire dans l’année à venir.

        Mais dans ce monde, je n’ai jamais pu avoir d’indices me confortant dans l’idée que je suis dans une simulation virtuelle, ou au contraire dans celle que ce monde-ci est l’original… Je ne peux donc toujours pas estimer de probabilité sur ce sujet, pas plus sur celui que ce monde s’est créé tout seul ou bien par une intelligence supérieure… A moins que quelque chose m’ait échappé, je ne suis pas plus avancé…

        Mais merci pour cette précision.
        (Même si je reste cependant « fréquentiste », non pas par esprit de contradiction, mais disons qu’en tant que « mathématicien », j’aime quand les choses sont bien définies.)

        Bien cordialement,

        PS : J’ai lu l’article de Bostrom et il donne d’autres arguments en faveur du second scénario. Selon lui, les enjeux d’un telle civilisation « post-humaine » pourraient ne plus être du tout les mêmes, mon argument sur les enjeux économiques, par exemple, ne tiennent plus.

        J'aime

  2. Cet argument est frappant et même vertigineux mais il me semble conduire à un paradoxe. Il est en effet fondé sur une prémisse fonctionnaliste et donc matérialiste (qui au passage, n’étant pas démontrées, devraient conduire à pondérer les probabilités que nous soyons des simulations).
    Mais si nous sommes des simulations, nous vivons dans un monde créé par un (ou plusieurs) Grands Programmeurs qui ressemblent quelque peu à Dieu ou à des Dieux (en plus Geek, certes).
    Et surtout dans ces univers simulés, les lois de la physique n’ont plus rien d’absolues, elles ne sont que le caprice ou la décision du programmeur qui peut les modifier quand il le veut. Bref, le matérialisme qui sous-tend cet argument frappant n’est plus soutenu par rien me semble-t-il. Me trompé-je ?

    J'aime

Laisser un commentaire

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l'aide de votre compte WordPress.com. Déconnexion / Changer )

Image Twitter

Vous commentez à l'aide de votre compte Twitter. Déconnexion / Changer )

Photo Facebook

Vous commentez à l'aide de votre compte Facebook. Déconnexion / Changer )

Photo Google+

Vous commentez à l'aide de votre compte Google+. Déconnexion / Changer )

Connexion à %s