Peut-on penser intelligemment une super-intelligence | Conférence

 

 

Merci encore à Lê et à l’EPFL !

Pour vous y retrouver, j’ai ajouté ce plan (et les passages ajoutés inédits sont notés [AJOUT])

 

Début de conférence, présentation générale : 2:08

Petit détour du côté de la fiction : 3:24

Qu’est-ce que l’intelligence : 8:19

[AJOUT] Expertise et intelligence : 11:51

Représentations visuelles de l’intelligence : 14:17

(Super-)intelligence sociale : 23:43

La société est-elle un agent ? : 32:58

Parlons d’IA et de proba : 35:34

Objectifs finaux et instrumentaux : 44:18

[AJOUT] L’arbitraire des objectifs finaux dans les fictions de Greg Egan : 50:27

Apocalypse par défaut : 51:28

[AJOUT] Quelques exemples réels d’objectifs instrumentaux inattendus : 55:04

Jules Verne et Yudkowsky : 55:28

Brouillard épistémique et principe de déférence épistémique : 57:25

 

Questions :

Précautions et lois de la robotique d’Asimov [le son de cette question n’est pas très audible mais ce ne sera pas le cas des autres] : 1:02:09

Intelligence artificielle collective (réponse de Lê) : 1:04:31

Consensus et agentivité de la société : 1:06:51

Observabilité d’une super-intelligence : 1:08:09

Faut-il souhaiter une super-intelligence ? (Quel intérêt de jouer aux échecs ou d’écrire un roman si des super-intelligence peuvent faire ça mieux que nous ?) : 1:09:57

Remarques sur l’utilitarisme : 1:13:22

[AJOUT] Une IA serait-elle la continuation de l’espèce humaine ? [Je n’ai pas vraiment répondu à cette question sur le coup et je m’en explique] : 1:14:43

Fusion IA-humain : 1:15:47

La super-intelligence comme outil : 1:16:31

Annihilation spirituelle de l’humain par l’IA : 1:18:05

Les objectifs instrumentaux de notre super-intelligence sociale peuvent-ils être dangereux eux aussi ? 1:21:26

Le choix de poursuivre la recherche en IA : 1:23:35

 

La nouvelle de Greg Egan « Des raisons d’être heureux » dont je parle à 50:27

Le replay original sur la chaîne Science4All.

7 réflexions au sujet de « Peut-on penser intelligemment une super-intelligence | Conférence »

  1. Tout d’abord merci de me citer pour la relation entre intelligence et expertise. C’est un sujet que je souhaite développer dans ma recherche car cela me semble être un fondement important pour savoir où l’on va.

    Ensuite, je tiens à préciser que je supporte totalement l’ajout, qui illustre très clairement la différence entre les deux notions. Merci beaucoup. {^_^}

    J'aime

  2. Ping : Monsieur Phi- De la philosophie avec un monstre vert-sur ce site voici les petits hommes verts de Mars???-varia – sourceserlande

  3. Après avoir donné quelques pistes de réflexion sur ce qu’est l’intelligence, Mr Phi (et n’importe qui d’autre d’ailleurs) serait peut être intéressé par non pas une définition (c’est trop prétentieux) mais une mesure de l’intelligence qu’évoque Jean Paul Delahaye dans une conférence de 2017 : https://youtu.be/pwxI6cYHyMw?t=1h6m34s

    J'aime

    • Et en quoi chercher à définir un terme serait prétentieux ? Pour faire moins guerre d’opinion, comment se mettre d’accord si chacun interprète les mots comme ça l’arrange ? Ce n’est pas une question de prétention. Il y a un problème fondamental en IA qui est de savoir ce qu’on est censé y faire. En l’occurrence :
      – quand on crée un modèle mathématique, si on pose la question « est ce qu’on modélise des objets mathématiques ? », la réponse est évidemment positive.
      – quand on crée une théorie physique, si on pose la question « est ce qu’on parle de phénomènes physiques ? », la réponse est évidemment positive.
      – quand on fait une étude sociologique, si on pose la question « est ce qu’on analyse des comportements sociaux ? », la réponse est évidemment positive.
      – quand on crée une intelligence artificielle, si on pose la question « est ce qu’on a un objet intelligent ? », la réponse est… sinon discutable, évidemment négative !

      On retrouve ce même problème de manière pratique dans tout projet : quand les gens ne savent pas ce qu’ils doivent faire, ils interprètent à leur manière et ça part dans tous les sens. De nombreux projets échouent à cause de ce manque de vision sur le projet fini, parce qu’au bout d’un moment il faut bien arrêter les frais. Ceux qui ont déjà dû écrire un cahier des charges se sont déjà rendu compte à quel point c’est difficile, mais ceux qui ont déjà participé à des projets sans cahier des charges se sont déjà rendu compte à quel point on y fait tout et n’importe quoi. Faire l’effort de rédiger un cahier des charges n’est que savoir tirer les leçons de ces expériences. Et proposer une définition commune n’est que l’étape initiale de définition du projet. Il s’agit donc non pas de prétention, mais de faire les choses dans l’ordre. Sinon l’IA, on pourra en parler longtemps, on ne la verra jamais, et on passera par contre notre temps à se déchirer sur des débats fertiles et à se faire avoir par des gens qui nous vendent du rêve. C’est aussi simple que cela. Refuser cet état de fait, et œuvrer pour y remédier, est, il me semble, une bonne chose. Non ?

      Par ailleurs, proposer une mesure M n’est-il pas d’ores et déjà supposer la définition « propriété mesurable par M » ? Partir du principe qu’une méthode de mesure est valide, c’est déjà poser des hypothèses sur la chose mesurée, et donc construire sa définition. On n’a d’ailleurs pas attendu que des gens en IA s’en chargent pour proposer des mesures de l’intelligence. On a proposé le QI, avant de lui trouver bien des défauts pour le reléguer au rang de simple mesure pratique pour identifier ceux qui en manquent cruellement (ou justifier un refus d’embauche). Tirons maintenant des leçons de cette expérience : comment s’assurer que la mesure proposée ici est bien une mesure de l’intelligence ? À moins qu’on ne s’accorde sur une définition de cette dernière, je ne vois pas comment éviter de reproduire l’écueil du QI.

      Quand on a un problème, on le résout. On ne fait pas comme s’il n’existait pas en reproduisant les même erreurs.

      J'aime

      • Ah ouais quand même !? A la base je proposais juste une info sur le sujet sans jeter la pierre sur personne !?

        J'aime

      • Au passage, j’appuie à 100% de s’intéresser à ce qui se fait en intelligence artificielle générale (ce qui est présenté dans ton lien). Mais comme on n’a pas de définition de l’intelligence, ce domaine est plus considéré comme une niche alors que, de mon point de vue, c’est le cœur du domaine. Le reste étant plus de l’ordre de l’expertise artificielle, un sujet lié mais bien différent de l’intelligence.

        J'aime

Laisser un commentaire

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l'aide de votre compte WordPress.com. Déconnexion /  Changer )

Photo Google+

Vous commentez à l'aide de votre compte Google+. Déconnexion /  Changer )

Image Twitter

Vous commentez à l'aide de votre compte Twitter. Déconnexion /  Changer )

Photo Facebook

Vous commentez à l'aide de votre compte Facebook. Déconnexion /  Changer )

Connexion à %s