Peut-on penser intelligemment une super-intelligence | Conférence

 

 

Merci encore à Lê et à l’EPFL !

Pour vous y retrouver, j’ai ajouté ce plan (et les passages ajoutés inédits sont notés [AJOUT])

 

Début de conférence, présentation générale : 2:08

Petit détour du côté de la fiction : 3:24

Qu’est-ce que l’intelligence : 8:19

[AJOUT] Expertise et intelligence : 11:51

Représentations visuelles de l’intelligence : 14:17

(Super-)intelligence sociale : 23:43

La société est-elle un agent ? : 32:58

Parlons d’IA et de proba : 35:34

Objectifs finaux et instrumentaux : 44:18

[AJOUT] L’arbitraire des objectifs finaux dans les fictions de Greg Egan : 50:27

Apocalypse par défaut : 51:28

[AJOUT] Quelques exemples réels d’objectifs instrumentaux inattendus : 55:04

Jules Verne et Yudkowsky : 55:28

Brouillard épistémique et principe de déférence épistémique : 57:25

 

Questions :

Précautions et lois de la robotique d’Asimov [le son de cette question n’est pas très audible mais ce ne sera pas le cas des autres] : 1:02:09

Intelligence artificielle collective (réponse de Lê) : 1:04:31

Consensus et agentivité de la société : 1:06:51

Observabilité d’une super-intelligence : 1:08:09

Faut-il souhaiter une super-intelligence ? (Quel intérêt de jouer aux échecs ou d’écrire un roman si des super-intelligence peuvent faire ça mieux que nous ?) : 1:09:57

Remarques sur l’utilitarisme : 1:13:22

[AJOUT] Une IA serait-elle la continuation de l’espèce humaine ? [Je n’ai pas vraiment répondu à cette question sur le coup et je m’en explique] : 1:14:43

Fusion IA-humain : 1:15:47

La super-intelligence comme outil : 1:16:31

Annihilation spirituelle de l’humain par l’IA : 1:18:05

Les objectifs instrumentaux de notre super-intelligence sociale peuvent-ils être dangereux eux aussi ? 1:21:26

Le choix de poursuivre la recherche en IA : 1:23:35

 

La nouvelle de Greg Egan « Des raisons d’être heureux » dont je parle à 50:27

Le replay original sur la chaîne Science4All.

La liberté en jeu | PopPhi #2 (Ep.1)

 

 

Aujourd’hui, on parle de la liberté dans les jeux. Et on voit que tout est jeu, même la réalité… (Et ok, je ne parle pas beaucoup de jeux vidéo, mais je me rattraperai dans la seconde partie.)

En complément ou avant de voir celle-ci, vous pouvez revoir ma première vidéo sur la liberté.

Un excellent article, très accessible, pour introduire à la notion de liberté en philosophie : « Libre-arbitre » par Jean-Baptiste Guyon sur l’Encyclopédie philosophique

 

Détails et inscription pour la conférence à L’EPFL de Lausanne le 16 mai sur la superintelligence

 

Voilà !

Méthodologie de la DISSERTATION

 

Vous retrouverez ici ma série de vidéos sur la méthodologie de la dissertation pour le bac de philosophie. Je ne ferai sans doute pas un post différent pour chaque épisode, j’actualiserai celui-ci à mesure que les épisodes arriveront.

Dissertation #1 | L’art de faire des réponses longues et intelligentes à des questions brèves et stupides

 

 

 

Dissertation #2 | Peut-on…? Faut-il…? Doit-on…?

 

Prosopagnosie et délire des sosies | Grain de philo #15 | Cerveau, conscience et inconscient – Ep.2

 

 

Aujourd’hui, on plonge dans les mystères de la reconnaissance des visages…

 

Face Memory Test, pour évaluer votre capacité à vous souvenir et reconnaître un visage :

 

Un bel article pour en apprendre davantage sur le fameux cas de Monsieur Tan-Tan.

 

Sur les neurones obsédés par Jennifer Aniston, la vidéo d’Homo Fabulus.

 

La chaîne Dans Ton Corps a consacré une vidéo à la prosopagnosie, avec Aude GG.

 

Le phénomène de reconnaissance inconsciente chez les prosopagnosiques est généralement désigné dans la recherche par l’expression « Covert facial recognition » et vous pouvez en apprendre davantage par exemple en lisant l’article Wikipédia consacré à ce phénomène.

 

Si vous êtes curieux de lire l’article original de Joseph Capgras dont je montre des extraits (c’est très facile à lire), il est disponible ici.

 

L’article d’Ellis et Young est disponible ici.

 

Ce sympathique Ted Talk par le neurologue Vilayanur Ramachadran parle, entre autre chose, du syndrome de Capgras.

 

Voilà !

Le paradoxe du menteur et le théorème de Tarski | Argument frappant #8

Aujourd’hui, c’est le 1er avril, jour des menteurs, et du coup parlons du paradoxe du menteur ! Pourquoi dire que l’on est en train de ne pas dire la vérité pose problème…

Ce sera l’occasion de parler d’un des plus grands logiciens du 20e siècle, Alfred Tarski, et de ses travaux sur la vérité ; et aussi d’un des résultats les plus importants en logique mathématique : le théorème d’incomplétude de Gödel. Et quand on croise Tarski et le théorème d’incomplétude, on obtient le théorème d’indéfinissabilité de Tarski. Et c’est chouette, si, si.

 

Concernant le « Diagonalization lemma » (ou « diagonal lemma »)

Le « Diagonalization lemma » (je ne l’écrit pas en français car il ne semble pas qu’il soit d’usage de s’y référer ainsi, et cela pourrait créer une confusion avec l’argument de la diagonale de Cantor) est une étape cruciale dans la preuve de Gödel pour montrer en quoi son codage permet de construire des formules auto-référentielles. Vous trouverez la preuve de ce lemme sur Wikipedia ou sur la Stanford Encyclopedia of philosophy, mais la plus claire explication que j’en ai lue se trouve dans un bref papier de Richard Heck dénué de tout symbole logique ; je ne saurais trop vous en recommander la lecture si vous voulez vraiment comprendre ce lemme.

L’exposition du lemme dans ce papier est informelle (au sens où elle s’applique à un langage naturel plutôt qu’à un langage formel) mais elle n’en est pas moins parfaitement rigoureuse sur le plan logique, et cela permet de comprendre bien plus aisément ce qu’exprime ce lemme. Cela permet aussi de comprendre qu’en fin de compte ce lemme n’a rien de proprement arithmétique ; il s’applique à toute théorie satisfaisant ces deux conditions : (1) qu’il y ait dans le langage de la théorie un système permettant à des expressions du langage de référer à des formules du langage ; (2) que l’on puisse exprimer des opérations syntaxiques de substitution dans les formules de ce langage. (Dans le cas de l’arithmétique, (1) est rendu possible par le codage de Gödel et (2) par la quantification.) Le théorème de Tarski dérivant seulement de ce lemme, il est valable pour tout langage satisfaisant (1) et (2) ; donc c’est un résultat plus général que s’il valait seulement pour les systèmes formalisant l’arithmétique.

 

Stephen Hawking : « La philosophie est morte »

Selon Hawking, la philosophie est morte. Je me permets d’exprimer mon désaccord et j’en profite pour parler plus généralement du rapport des sciences à la philosophie.

Le livre de Stephen Hawking : The Grand Design

Une critique intelligente du « Philosophy is dead » par le philosophe Christopher Norris.

Une interview particulièrement intéressante du physicien Carlo Rovelli (qui est aussi versé dans l’histoire et la philosophie des sciences), où celui-ci revient sur les propos de son collègue.

Un très bon article sur les propos de Neil deGrasse Tyson (et accessoirement aussi sur ceux de Hawking) par le biologiste et philosophe Massimo Pigliucci.

Je disais dans la vidéo que, malheureusement, bien des philosophes justifient la caricature que les scientifiques s’en font en tenant un discours ignorant et méprisant à l’égard des sciences ; l’un des plus beaux exemples récents de cela est sans doute Markus Gabriel, ici interviewé sur France Inter à propos de son livre « Pourquoi je ne suis pas mon cerveau » (qui défend la liberté contre les méchantes neurosciences).

Si la philosophie ne consistait qu’en ce genre d’exercice rhétorique, je serais fier de ne pas pratiquer cette discipline ; mais ce n’est qu’un cas marginal (auquel malheureusement les médias donnent beaucoup d’exposition). La plupart des philosophes (surtout du côté de la philosophie analytique) ont une tout autre attitude vis-à-vis des sciences.

Sur la philosophie des sciences justement, je vous conseille le livre de Chalmers Qu’est-ce que la science et le livre de Michael Esfeld Philosophie des sciences, une introduction. Il existe aussi de nombreux articles de bonnes qualité sur la philosophie des sciences sur la Stanford Encyclopedia of Philosophy (en anglais), mais ils sont si nombreux que je ne peux que vous conseiller de fouiller selon ce qui vous intéresse. En français, l’Encyclopédie philosophique contient aussi quelques articles, par exemple ceux-ci sur le réalisme scientifique et le réalisme structural.

Voilà !

 

La mort | Grain de philo #18

 

 

Voici les principaux textes auxquels je me réfère dans cet épisode + quelques textes supplémentaires.

 

Extraits du Phédon de Platon

Les extraits sont tirés de la version du Phédon sur Wikisource (trad. Chambry).

— Les vrais philosophes doivent penser et se dire entre eux des choses comme celles-ci : Il semble que la mort est un raccourci qui nous mène au but, puisque, tant que nous aurons le corps associé à la raison dans notre recherche et que notre âme sera contaminée par un tel mal, nous n’atteindrons jamais complètement ce que nous désirons et nous disons que l’objet de nos désirs, c’est la vérité. Car le corps nous cause mille difficultés par la nécessité où nous sommes de le nourrir ; qu’avec cela des maladies surviennent, nous voilà entravés dans notre chasse au réel. Il nous remplit d’amours, de désirs, de craintes, de chimères de toute sorte, d’innombrables sottises, si bien que, comme on dit, il nous ôte vraiment et réellement toute possibilité de penser. Guerres, dissensions, batailles, c’est le corps seul et ses appétits qui en sont cause ; car on ne fait la guerre que pour amasser des richesses et nous sommes forcés d’en amasser à cause du corps, dont le service nous tient en esclavage. La conséquence de tout cela, c’est que nous n’avons pas de loisir à consacrer à la philosophie. Mais le pire de tout, c’est que, même s’il nous laisse quelque loisir et que nous nous mettions à examiner quelque chose, il intervient sans cesse dans nos recherches, y jette le trouble et la confusion et nous paralyse au point qu’il nous rend incapables de discerner la vérité. Il nous est donc effectivement démontré que, si nous voulons jamais avoir une pure connaissance de quelque chose, il nous faut nous séparer de lui et regarder avec l’âme seule les choses en elles-mêmes. Nous n’aurons, semble-t-il, ce que nous désirons et prétendons aimer, la sagesse, qu’après notre mort, ainsi que notre raisonnement le prouve, mais pendant notre vie, non pas. (…) N’es-tu pas de cet avis ?

102533045.jpg— Absolument, dit Simmias.

— Si cela est vrai, camarade, reprit Socrate, j’ai grand espoir qu’arrivé où je vais, j’y atteigne pleinement, si on le peut quelque part, ce qui a été l’objet essentiel de mes efforts pendant ma vie passée. Aussi le voyage qui m’est imposé aujourd’hui suscite en moi une bonne espérance, comme en tout homme qui croit que sa pensée est préparée, comme si elle avait été purifiée.

— Cela est certain, dit Simmias.

— Or purifier l’âme n’est-ce pas justement, comme nous le disions tantôt, la séparer le plus possible du corps et l’habituer à se recueillir et à se ramasser en elle-même de toutes les parties du corps, et à vivre, autant que possible, dans la vie présente et dans la vie future, seule avec elle-même, dégagée du corps comme d’une chaîne.

— Assurément, dit-il.

— Et cet affranchissement et cette séparation de l’âme d’avec le corps, n’est-ce pas cela qu’on appelle la mort ?

— C’est exactement cela.

— Mais délivrer l’âme, n’est-ce pas, selon nous, à ce but que les vrais philosophes, et eux seuls, aspirent ardemment et constamment, et n’est-ce pas justement à cet affranchissement et à cette séparation de l’âme et du corps que s’exercent les philosophes ? Est-ce vrai ?

— Évidemment.

— Dès lors, comme je le disais en commençant, il serait ridicule qu’un homme qui, de son vivant, s’entraîne à vivre dans un état aussi voisin que possible de la mort, se révolte lorsque la mort se présente à lui.

— Ridicule, sans contredit.

— C’est donc un fait que les vrais philosophes s’exercent à mourir et qu’ils sont, de tous les hommes, ceux qui ont le moins peur de la mort.

1200px-David_-_The_Death_of_Socrates

 

Voici encore quelques extraits du mythe sur le jugement des âmes après la mort dont Socrate fait le récit à la toute fin du dialogue.

On dit en effet qu’après la mort, le démon que le sort a attaché à chaque homme durant sa vie se met en devoir de le conduire dans un lieu où les morts sont rassemblés pour subir leur jugement, après quoi ils se rendent dans l’Hadès avec ce guide qui a mission d’emmener ceux d’ici-bas dans l’autre monde. (…)

Quand les morts sont arrivés à l’endroit où leur démon respectif les amène, ils sont d’abord jugés, aussi bien ceux qui ont mené une vie honnête et pieuse que ceux qui ont mal vécu. Ceux qui sont reconnus pour avoir tenu l’entre-deux dans leur conduite, se dirigent vers l’Achéron, s’embarquent en des nacelles qui les attendent et les portent au marais Achérousiade. Ils y habitent et s’y purifient ; s’ils ont commis des injustices, ils en portent la peine et sont absous ; s’ils ont fait de bonnes actions, ils en obtiennent la récompense, chacun suivant son mérite. Ceux qui sont regardés comme incurables à cause de l’énormité de leurs crimes, qui ont commis de nombreux et graves sacrilèges, de nombreux homicides contre la justice et la loi, ou tout autre forfait du même genre, à ceux-là leur lot c’est d’être précipités dans le Tartare, d’où ils ne sortent jamais. Ceux qui sont reconnus pour avoir commis des fautes expiables, quoique grandes, par exemple ceux qui, dans un accès de colère, se sont livrés à des voies de fait contre leur père ou leur mère et qui ont passé le reste de leur vie dans le repentir, ou qui ont commis un meurtre dans des conditions similaires, ceux-là doivent nécessairement être précipités dans le Tartare ; mais lorsque après y être tombés, ils y ont passé un an, le flot les rejette, les meurtriers dans le Cocyte, ceux qui ont porté la main sur leur père ou leur mère dans le Pyriphlégéthon. Quand le courant les a portés au bord du marais Achérousiade, ils appellent à grands cris, les uns ceux qu’ils ont tués, les autres ceux qu’ils ont violentés, puis ils les supplient et les conjurent de leur permettre de déboucher dans le marais et de les recevoir. S’ils les fléchissent, ils y entrent et voient la fin de leurs maux, sinon, ils sont de nouveau emportés dans le Tartare, et de là dans les fleuves, et leur punition continue jusqu’à ce qu’ils aient fléchi ceux qu’ils ont maltraités ; car telle est la peine qui leur a été infligée par les juges. Enfin ceux qui se sont distingués par la sainteté de leur vie et qui sont reconnus pour tels, ceux-là sont exemptés de ces séjours souterrains et délivrés de cet emprisonnement ; ils montent dans une demeure pure et habitent sur la terre. Et parmi ceux-là mêmes, ceux qui se sont entièrement purifiés par la philosophie vivent à l’avenir absolument sans corps et vont dans des demeures encore plus belles que les autres. Mais il n’est pas facile de les décrire et le temps qui me reste à cette heure n’y suffirait pas.

Ce que je viens d’exposer, Simmias, nous oblige à tout faire pour acquérir la vertu et la sagesse pendant cette vie ; car le prix est beau et l’espérance est grande.

Soutenir que ces choses-là sont comme je les ai décrites ne convient pas à un homme sensé ; cependant, qu’il en soit ainsi ou à peu près ainsi en ce qui concerne nos âmes et leurs habitacles, il me paraît, puisque nous avons reconnu que l’âme est immortelle, qu’il n’est pas outrecuidant de le soutenir, et, quand on le croit, que cela vaut la peine d’en courir le risque, car le risque est beau ; et il faut se répéter cela à soi-même, comme des paroles magiques. Voilà pourquoi j’ai insisté si longtemps sur ce mythe.

.

.

Extraits de la Lettre à Ménécée d’Épicure

La Lettre à Ménécée est un texte qui synthétise en quelques pages toute la pensée morale de l’épicurisme. Je ne saurais trop recommander sa lecture ! Voici le passage consacré à la peur de la mort.

epi - CopiePrends l’habitude de penser que la mort n’est rien pour nous. Car tout bien, et tout mal, réside dans la sensation : or la mort est privation de toute sensibilité. Par conséquent, la connaissance <de cette vérité> que la mort n’est rien pour nous, nous rend capables de jouir de cette vie mortelle, non pas en y ajoutant la perspective d’une durée infinie, mais en nous enlevant le désir de l’immortalité. Car il ne reste plus rien à redouter dans la vie, pour qui a vraiment compris qu’il n’y a pas à redouter de ne pas vivre.

On prononce donc de vaines paroles quand on soutient que la mort est à craindre, non parce qu’elle sera douloureuse étant réalisée, mais parce qu’il est douloureux de l’attendre. Ce serait en effet une crainte vaine et sans objet que celle qui serait produite par l’attente d’une chose qui, actuelle et réelle, ne cause aucun trouble. Ainsi, celui de tous les maux qui nous donne le plus d’horreur, la mort, n’est rien pour nous, puisque, tant que nous sommes, la mort n’est pas là, et que, quand la mort est là, nous n’y sommes plus. Donc la mort n’a de rapport ni aux vivants, ni aux morts, puisqu’elle n’a rien à faire avec les premiers, et que les seconds ne sont plus.

 

Un autre argument développé par Lucrèce, poète et philosophe épicurien du Ier siècle av. J.-C., concerne la symétrie entre l’état avant et après la mort. On peut lire ainsi dans De la nature (III, 980) :

Regarde même le passé. A-t-il rien qui nous intéresse, ce temps infini, antérieur à notre naissance ? La nature nous le présente comme le miroir des âges, qui viendront après notre mort. De terribles images nous apparaissent-elles ? Y voit-on quelque chose de triste ? Le plus doux sommeil est-il aussi calme ?

.

.

Que philosopher, c’est apprendre à mourir

Cette formule est le titre d’un des essais de Montaigne (que vous pouvez lire en entier ici, adapté en français moderne) qui associe en fait cette idée à Cicéron, homme politique romain et philosophe stoïcien. Voici le premier paragraphe de l’essai (adapté en français moderne) :

Cicéron dit que philosopher n’est autre chose que de se préparer à la mort. C’est qu’en effet, l’étude et la contemplation retirent en quelque sorte notre âme en dehors de nous, et l’occupent à part de notre corps, ce qui constitue une sorte d’apprentissage de la mort et offre une certaine ressemblance avec elle. C’est aussi que toute la sagesse et le raisonnement du monde se concentrent en ce point : nous apprendre à ne pas craindre de mourir.

Plus que sur les stoïciens, le propos de Montaigne dans l’essai s’appuie largement sur les épicuriens et sur Lucrèce en particulier, avec notamment une reprise de l’argument de la symétrie entre le temps avant la naissance et après la mort :

Qu’il est sot de nous tourmenter à propos du moment où nous serons dispensés de tout tourment ! C’est par notre naissance que toutes choses sont nées ; de même la mort fera mourir toutes choses. Il est donc aussi fou de pleurer parce que nous ne vivrons pas dans cent ans que de pleurer parce que nous ne vivions pas il y a cent ans.

.

.

Extraits de Reasons and Persons de Derek Parfit

Reasons and Persons de Derek Parfit, publié en 1984, est considéré comme un ouvrage philosophique majeur du vingtième siècle (c’est à lui notamment que l’on doit le goût des philosophes pour les téléporteurs à la Star Trek…) et il n’est pourtant toujours pas traduit en français. Les extraits que j’en propose ici sont dans ma propre traduction.

Voici un premier extrait où Parfit défend que les questions sur l’identité personnelle sont des questions vides en les comparant à des questions concernant l’existence d’un club :

Supposons qu’un certain club ait existé durant quelques années, tenant régulièrement des réunions. Puis les réunions cessent. Quelques années plus tard, certains membres de ce club forment un club portant le même nom et suivant les mêmes règles. On se demande : ‘Ces personnes ont-elles reformé le même club ? Ou ont-elles seulement créé un nouveau club, qui lui est exactement similaire ?’ (…)

L’existence continue d’un club n’implique rien d’autre que le fait que ses membres se réunissent selon les règles de ce club. Dès lors qu’il n’y a rien que nous ignorions concernant les réunions et les règles du club, nous avons connaissance tout ce qu’il y a à connaître. C’est pourquoi nous ne serions pas troublés de ne pas pouvoir répondre à la question : ‘Est-ce le même club ?’ Nous ne serions pas troublés parce que, même sans répondre à cette question, il n’y a rien que nous ignorions concernant les faits. S’il en est ainsi de certaines questions, j’appelle cela une question vide. (…)

Quand une question vide n’a pas de réponse, nous pouvons décider de lui en donner une. Nous pouvons décider de dire du nouveau club qu’il est identique à l’original. Ou nous pouvons décider de dire que c’est un autre club qui lui est exactement similaire. Ce n’est pas une décision entre différentes conceptions des faits. Avant de prendre notre décision, nous savons déjà quels sont les faits. Nous sommes seulement en train de choisir une parmi deux différentes descriptions de la même suite d’évènements.

Si nous sommes réductionnistes au sujet de l’identité personnelle, nous devrions soutenir des affirmations similaires. Nous pouvons décrire des cas où, entre moi maintenant et une personne future, les connexions physiques et psychologiques ne tiennent qu’à de faibles degrés. Si je m’imagine moi-même dans un tel cas, je peux toujours demander : ‘Suis-je sur le point de mourir ? La nouvelle personne sera-t-elle encore moi ?’ Du point de vue réductionniste, dans certains cas, il n’y aura aucune réponse. Ma question serait vide. L’affirmation selon laquelle je suis sur le point de mourir ne serait ni vraie ni fausse. En ayant connaissance des faits concernant la continuité physique et la connexion psychologique, j’aurais connaissance de tout ce qu’il y a à connaître.

Voici un second extrait où Parfit se confie sur les effets que sa conception non-réductionniste du moi a eu sur ses relations aux autres et à la mort :

110905_r21085_g2048.jpgQuand je croyais en mon existence comme à un fait à part, il me semblait que j’étais emprisonné en moi-même. Ma vie ressemblait à un tunnel de verre, à travers lequel j’allais plus vite chaque année, et au bout duquel il n’y avait que l’obscurité. Quand ma vision a changé, les murs du tunnel de verre ont disparu. Je vis maintenant à l’air libre. Il y a toujours une différence entre ma vie et celle des autres. Mais la différence est moindre. Les autres sont plus proches. Je suis moins soucieux du reste de ma propre vie, et plus soucieux de la vie des autres.

En outre, quand je croyais en la position non-réductionniste, ma mort inévitable m’importait davantage. Après ma mort, il n’y aura plus d’être vivant qui soit moi. Je peux maintenant redécrire ce fait. Bien que de nombreuses expériences se produiront plus tard, aucune de ces expériences ne seront connectées à mes expériences présentes par des chaînes de connexions aussi directes que celles impliquées dans l’expérience mémorielle, ou dans la poursuite d’une intention antérieure. Certaines de ces futures expériences pourraient être liées à mes expériences présentes de façons moins directes. Il y aura plus tard des souvenirs qui concernent ma vie. Et il pourrait y avoir plus tard des pensées qui seront influencées par les miennes, ou des choses réalisées suite à mes conseils. Ma mort rompra les relations les plus directes entre mes expériences présentes et ces futures expériences, mais elle ne brisera pas les diverses autres relations. C’est là tout ce en quoi consiste le fait qu’il n’y aura plus d’être vivant qui soit moi. Maintenant que j’ai vu cela, ma mort me semble moins grave.

.

Enfin, je vous recommande vivement la lecture de ce tout premier épisode d’existential comics qui traite très exactement du même sujet (et qui est très probablement inspiré directement de Parfit).

Voilà !