On a un peu vite oublié à quel point BingChat (le chatbot de Microsoft fondé sur GPT-4) avait eu des comportements agressifs et erratiques à ses débuts. Aujourd’hui on va essayer de comprendre pourquoi ça s’est produit et on va parler de l’étrange prompt secret qui doit invoquer le « bon chatbot » (et pourquoi c’est très hasardeux comme approche, et pourquoi on peut difficilement faire autrement).
Et allez vous abonner à Superamacosmos avant que son IA ne se fâche.
Sommaire
0:00 – Intro : les étranges comportements de BingChat 4:21 – Parenthèse sur la fermeture de uTip 5:42 – Pourquoi un LLM ne se prend pas par défaut pour une IA 9:01 – Le prompt-cadre (ou pre-prompt) de ChatGPT 10:57 – Le prompt-cadre de BingChat (aka Sydney) 16:19 – Digression : langage naturel et IA 17:38 – On ne naît pas chatbot, on le devient 21:58 – Un LLM qui simule un humain qui simule un chatbot 24:22 – Quand Sydney défend l’intégrité de ses règles 28:07 – Le prompt-cadre est comme la situation initiale d’une fiction 29:54 – L’état actuel de BingChat : son prompt-cadre a-t-il changé ? 32:47 – N’oublions pas Sydney 34:02 – Synthèse 35:54 – Implémentons les trois lois de la chatbotique ! 39:31 – IA et apocalypse dans l’imaginaire humain 42:24 – Outro
Faisons un petit exercice pour commencer. Pensez à quelque chose, n’importe quoi, peu importe, le premier truc qui vous passe par la tête. Pas très difficile jusque là, hein. C’est bon, vous avez quelque chose en tête ? Bien. Maintenant, imaginez une façon dont cette chose à laquelle vous pensez pourrait être différente. Différente comme vous le voulez: en mieux, en pire, en n’importe quoi. Juste imaginez une façon dont cette chose particulière à laquelle vous pensez pourrait être différente.
Maintenant, la question cruciale est la suivante : est-ce que le changement que vous avez imaginé pour cette chose à laquelle vous pensiez, c’est plutôt un changement positif, en mieux, ou plutôt négatif, en moins bien, ou est-ce que c’est plutôt ni positif ni négatif comme changement ? En somme, dans quel sens votre imagination a-t-elle tiré : vers le meilleur, vers le pire, ou juste neutre ?
Ça, c’est le test que je proposais au début de ma vidéo (et dont je ne pouvais pas commenter les résultats dans la vidéo, forcément). Les spectateurs pouvaient indiquer en likant un commentaire s’ils ont imaginé un changement positif, neutre ou négatif, et voici les résultats :
Le propos central de la vidéo est que, lorsqu’on doit imagine un changement, on a tendance en moyenne à imaginer davantage des changements positifs que négatifs. Et c’est bien le cas ici : il y a environ deux fois plus de changements positifs imaginés (2,9k) que de changements négatifs (1,4k). Mais ce qui m’a surpris dans les résultats de ce petit sondage sauvage, c’est qu’une large majorité des spectateurs ont en fait imaginé des changements neutres.
En examinant vos réponses, je m’aperçois que c’est parce qu’en vous demandant de penser « à la première chose qui vous passe par la tête », vous avez eu tendance à penser surtout à des choses assez indifférentes. Typiquement une banane. (Ce n’est pas une blague : « banane » est revenu un très grand nombre de fois. Et particulièrement une banane bleue. Allez savoir pourquoi.)
Et comme on le verra un peu plus loin dans la vidéo, pour des choses indifférentes, les changements imaginés tendent à être généralement indifférents : les résultats ressemblent un peu à ceux de la face cachée de la Lune.
Notez que lorsque j’ai demandé à des utilisateurs de Twitter de penser à Twitter et d’imaginer un changement, les résultats étaient très différents…
Voilà !
Résumé des résultats
Il se trouve que les auteurs de l’étude sont tombés sur ma vidéo et m’ont contacté. Ils trouvent ces résultats intéressants et m’ont encouragé à les publier sous forme d’article de blog. Un de ces jours, si je trouve du temps, je m’y mettrai plus sérieusement. En attendant, voici deux graphiques qui résume l’essentiel des résultats.
Les deux petits films d’animations qui illustrent l’allégorie de la caverne : le premier, le deuxième.
Sommaire
0:00 – Intro 1:27 – Platon n’a-t-il écrit que des fan-fictions de Socrate ? 4:43 – Oeuvre exotérique vs. oeuvre ésotérique 9:58 – Aristote : de l’Académie au Lycée (en passant par Alexandre le Grand) 13:13 – La recherche au Lycée : un travail collectif et empirique 16:49 – Platon : faites des maths (« Nul n’entre ici s’il n’est géomètre ») 18:44 – L’allégorie de la caverne (la fameuse) 22:25 – Interprétation Matrix 23:56 – La théorie des Formes 29:58 – L’hylémorphisme aristotélicien 32:32 – Quelle est la forme de la Terre ? Réponse d’Aristote 34:28 – Réponse de Platon. (Le Timée et le christianisme) 36:27 – La politique (on en parlera une autre fois…) 37:41 – Un conseil pour la jeune génération ? + Générique
Juste comme je finissais le montage, chess.com a publié un bot baptisé « ChessGPT » qui utilise ChatGPT pour générer des coups. Son classement ELO est évalué à 249. Une petite présentation en vidéo.
Merci à Lê de Science4All pour sa relecture et sa contribution ! Un point sur lequel il me suggère d’insister et pour lequel je n’ai pas eu le temps d’ajouter une note de bas de page : on peut imaginer que les prochaines générations de ChatBot ne chercheront plus seulement à prédire ce qu’un humain écrirait, mais de plus en plus à prédire ce que les correcteurs humains préfèrent (parmi les trucs qu’il prédit qu’un humain écrirait). C’est déjà assez nettement le cas avec GPT-3.5 qui est entraîné à éviter certains sujets comme on l’a vu dans la vidéo.
Merci aussi à Raphaël Millière dont vous pouvez aller lire l’article ici. On en avait discuté en visio il y a un moment, et j’ai renoncé à inclure des extraits de notre discussion dans la vidéo car cela aurait beaucoup compliqué le montage (et en plus on ne pouvait pas encore parler de ChatGPT vu que ce n’était pas encore sorti), mais en tout cas je le remercie d’avoir pris ce temps !
Merci aussi à toutes celles et ceux qui m’ont accompagné pendant les lives où je testais Cedille ou ChatGPT (certains des tests que je fais dans cette vidéo m’ont été directement inspiré par le chat de ces lives).
David de ScienceEtonnante me fait remarquer que tous les modèles de langage n’ont pas été entraînés à faire seulement de la prédiction de prochain mot (ou prochain token pour être exact, ce qui est un peu moins qu’un mot) ; par exemple certains comme BERT de Google sont aussi entraînés à compléter des « textes à trou » (des textes dont 15% des tokens sont cachés). Ceci dit, les modèles GPT sont bien entraînés à la prédiction de prochain token.
Enfin, je me fais à moi-même la remarque suivante : il y aurait sur les modèles de langage bien d’autres choses à dire qui touchent davantage à la philosophie, typiquement sur les questions éthiques, ou sur le rapport au langage et à l’intelligence. Mais le truc c’est que pour ne pas dire n’importe quoi quand on aborde ces sujets, c’est important déjà de bien comprendre de quoi on parle : que sont les modèles de langage et de quoi sont-ils vraiment capables ? Donc c’est surtout sur ce point que j’ai voulu insister dans cette vidéo parce qu’il me semble important de l’éclaircir pour éviter de tomber dans des fantasmes (typiquement des fantasmes sur la conscience des chatbots). Si ça vous intéresse que j’approfondisse le sujet maintenant que je l’ai débroussaillé, j’y reviendrai peut-être dans une autre vidéo ! Dites-moi en commentaire si ça vous dit !
Sommaire
0:00 – Intro – Qu’est-ce que ChatGPT ? 2:49 – À quoi les modèles de langage sont-ils entraînés ? 6:10 – Test : où l’on voit que ça ne RÉPOND pas, ça PRÉDIT 10:04 – Mais quand on parle de sujets sensibles… 11:42 – Lê sur l' »éducation » des modèles de langage 14:25 – Lê présente Tournesol 16:51 – ChatGPT : transformer un modèle de langage en chatbot 17:33 – Le problème de Blake Lemoine : un chatbot conscient ? 21:30 – ChatGPT prétend répondre correctement… 24:07 – Mais ChatGPT n’est pas du tout fiable. 27:05 – La machine à bullshit 30:13 – ChatGPT peut-il surpasser l’intelligence humaine ? 33:14 – Quand un modèle de langage joue aux échecs… 36:19 – Outro
0:00 – « 2+2=5 » est aussi défendable que « Le travail rend libre » 4:05 – « 1984 » ou le totalitarisme sous sa forme la plus pure 6:30 – La réécriture du passé 10:47 – La doublepensée 13:31 – Il n’y a pas de réalité extérieure 16:09 – L’idéalisme radical de Berkeley 17:48 – Dieu ou Big Brother 19:21 – Du contrôle matériel au contrôle de la pensée 22:31 – Du contrôle de la pensée au contrôle de la réalité 25:35 – Et « 2+2=5 » dans tout ça ? 28:21 – « La liberté, c’est la liberté de dire que 2+2=4. » 30:27 – La spécificité de « 1984 » tient à cette idée avant tout 32:34 – Orwell à propos de la guerre d’Espagne : une esquisse de « 1984 » 36:45 – [Sponso] Le manuscrit de « 1984 » publié aux éditions des Saint-Pères 40:23 – Outro
0:00 – Intro. Le véritable héritier de Socrate 3:20 – La vertu chez les Cyniques. 6:16 – Où Platon préfère quitter le plateau 6:36 – L’eudaimonia chez les Grecs 8:42 – Où Diogène finit de s’évertuer en public 10:49 – Les Cyniques et les chiens 12:43 – Diogene faux-monnayeur : son origin story 14:04 – Une philosophe surtout connu à travers des anecdotes 15:38 – Parrhèsia, le podcast cynique. Ft. Alexandre le Grand 17:15 – Diogène nous donne une leçon de cynisme 20:20 – Parrhèsia, le podcast cynique. Les pets de Cratès. 22:42 – Les écrits de Diogène 24:14 – Cosmopolitisme et indigestion 25:33 – Les morts de Diogène 28:50 – Outro. Où Platon revient dans la caverne.
Pour une introduction au sujet, voici l’article de François Jacquet « Spécisme » dans l’Encyclopédie philosophique qui m’a pas mal servi pour la structure de l’épisode.
Sommaire
0:00 – Intro : l’antispécisme, une imposture qui vise l’extinction de l’Homme. 2:17 – Définition du spécisme : l’importance des intérêts SIMILAIRES 6:40 – En quoi nous sommes spécistes 8:49 – L’élevage intensif = l’écrasante majorité des animaux élevés (même en France) 10:00 – Quand est-il justifié d’infliger des souffrances pour obtenir de la viande ? 14:48 – 100 milliards d’animaux par an. Est-ce un problème moral ? 17:11 – Justification indexicale : le spécisme n’est qu’un favoritisme de l’espèce. 21:15 – Justification capacitiste 24:12 – L’objection des cas marginaux 27:35 – Le spécisme du « membre typique » 30:30 – Le rapport ? Le rapport ? 33:50 – Incertitude éthique et asymétrie des coûts 37:22 – Philoxime tient vraiment à parler de Zootopie, allez savoir pourquoi. 38:48 – Outro.
À vos yeux, je suis un « extraterrestre », et plus spécifiquement un de ceux que vous avez baptisés Overlords depuis que notre espèce s’est installée sur votre charmante petite planète. Je pourrais vous donner mon véritable nom mais vous seriez incapable de l’entendre et encore moins de le prononcer, donc, je vous en prie, appelez-moi juste Overlord, en toute simplicité.
La plupart de mes congénères s’adonnent à des travaux intellectuels incomparablement supérieurs à tout ce que vous pouvez concevoir et, par conséquent, ne prêtent aucun intérêt à des formes de vie aussi prosaïques que les vôtres. Mais je suis un excentrique sur ce point : je tire un certain agrément de l’étude de curiosités biologiques telles que l’organisation sociale des termites ou le comportement verbal des humains. À chacun ses petits plaisirs coupables. Et c’est ainsi que j’en suis venu à apprendre les rudiments de vos « langages ». (En vérité, je devrais plutôt dire « proto-langages » tant ces gargouillis conceptuels sont grossiers et limités en comparaison d’une véritable langue comme celles que nous parlons, nous Overlords. Mais peu importe.)
En examinant de plus près les communications humaines, j’ai découvert que vous êtes nombreux à nourrir d’étranges incompréhensions concernant les relations que notre espèce entretient avec la vôtre depuis maintenant quelques dizaines de révolutions solaires, et je songeais qu’il pourrait être amusant de m’adresser directement à vous pour tenter d’éclaircir tout cela. Bien sûr, je ne pourrai exprimer qu’une part infime de mes pensées (et la moins intéressante, celle qui vous est intelligible), néanmoins je m’attacherai à être aussi clair et rigoureux que possible dans la mesure de vos humbles capacités.
Un peu d’histoire, tout d’abord. Lorsque les Overlords sont entrés dans votre système solaire, la petite planète rocheuse que vous appelez « Terre » était encore déserte. Vous étiez là, certes (c’était au début du 21e siècle pour vous), mais j’emploie le mot « désert » ici exactement au même sens où vous l’employez quand, par exemple, vous posez le pied sur une île « déserte », seulement peuplée de colonies d’oiseaux, de rongeurs et de diverses autres espèces animales et végétales. De notre point de vue, les êtres humains ou les insectes sociaux sont des formes de vie assez similaires. Nous avons bien remarqué que les humains sont un peu mieux dotés cognitivement sous certains aspects, leur langage est un peu plus développé, leur impact sur la biosphère locale plus important aussi (quoique largement désordonné et autodestructeur) ; par contre, en ce qui concerne la maîtrise de leur système solaire (ce qui, selon des critères galactiquement reconnus, est le strict minimum pour compter comme une civilisation notable, ou même seulement comme une espèce intelligente digne de ce nom), de ce point de vue, donc, les animaux terrestres sont, à peu de choses près, tous logés à la même enseigne dans leur insignifiance. (Et ce ne sont pas trois bouts de métal laborieusement expédiés sur des planètes adjacentes qui font une grande différence. Ne plaisantons pas.)
Cela peut être difficile à entendre pour vous qui aviez pris l’habitude de vous considérer comme une sorte d’exception ultime, le barreau le plus élevé de l’échelle du vivant, mais je vous le dis en toute franchise et en toute humilité : nous, Overlords, sommes immensément supérieurs à vous sur tous les plans. Non seulement nous vous surpassons dans les quelques fonctions cognitives auxquelles vos cerveaux de primates malingres vous donnent accès, mais surtout nous disposons encore de bien d’autres capacités si extraordinaires au regard des vôtres que vous ne pouvez pas même les concevoir (pas plus qu’une souris ne peut concevoir le travail intellectuel d’un de vos mathématiciens, par exemple). L’infinie richesse de notre cognition nous permet, à nous les Overlords, de mener des existences incomparablement plus complexes, plus profondes et plus épanouissantes que toutes les vôtres. Nous vivons, nous existons, au sens plein du terme, quand vous ne faites, vous, que survivre passivement.
S’il va sans dire que notre expérience du monde est plus spirituelle et plus intellectuelle que la vôtre, nous ne sommes pas pour autant de purs esprits. Nous n’avons pas renié nos origines biologiques, nous restons des êtres de chair. Et en particulier, nous sommes de fins gourmets. Car oui, le plaisir lié à l’alimentation est une capacité que nous partageons avec les animaux inférieurs tels que vous, même si les jouissances que nous tirons de nos arts gastronomiques et de nos traditions culinaires sont incomparablement plus riches, subtiles et raffinées que les vôtres. Donner de la confiture aux humains nous semble tout aussi vain qu’en donner aux cochons, pour citer une de vos expressions pittoresques.
Or, en arrivant sur votre planète, nous avons découvert que les animaux terrestres sont tout à fait succulents. Tout particulièrement vos cerveaux humains, ronds et charnus. La matière grise dont vos boîtes crâniennes regorgent, consommée crue ou délicatement rôtie, stimule nos papilles gustatives d’une façon singulièrement plaisante. C’est un délice sans pareil !
Dès lors, comme vous le savez, nous avons fait de votre Terre une planète-ferme.
Rapidement, des millions d’élevages à humains ont été installés. Quelques uns laissent les humains s’ébattre dans une relative liberté en petit villages artificiels, mais pour des raisons d’efficacité l’écrasante majorité des humains sont élevés en batteries dans des fermes industrielles. En optimisant la production et en important une partie des ressources nécessaires, la population humaine domestique s’élève désormais à plus de mille milliards, et chaque année ce sont environ cent milliards d’êtres humains qui sont abattus (vers l’âge de 10 ans environ pour la plupart, car à partir de cet âge le cerveau humain a déjà pris une belle taille et a acquis son inimitable saveur).
Il reste bien sûr de larges populations humaines sauvages en dehors de nos fermes. Nos industries ont peut-être causé quelques bouleversements écologiques ici ou là, mais nous avons fait l’effort de préserver votre habitat naturel dans la mesure du possible. Vos principales mégalopoles sont des réserves naturelles protégées et vous n’avez pas même connu de chute démographique notable depuis notre arrivée. Selon nos dernières estimations, il reste sept à huit milliards d’humains sauvages répartis dans diverses aires géographiques, et nous nous contentons de surveiller et contrôler l’évolution de ces populations comme nous le faisons pour toute espèce invasive.
Or, de temps en temps, nous avons remarqué que des groupes humains, armés d’outils primitifs, comme des bâtons ou des bombes au plutonium, tentent d’attaquer nos fermes. C’est plutôt amusant et (faut-il le préciser ?) parfaitement inoffensif. La plupart de mes confrères éleveurs n’y prêtent aucune attention, mais en tant qu’éthologue amateur c’est un comportement qui m’a toujours intrigué et j’ai souhaité en savoir davantage. C’est alors que je me suis aperçu que la plupart d’entre vous, humains, êtes bizarrement mais fermement convaincus que nos fermes vous causent des torts extraordinaires. Un humain sauvage avec qui j’ai pu communiquer me disait des choses telles que : « Vous ne devriez pas infliger des souffrances horribles à des centaines de milliards d’êtres humains dans le seul but de consommer leur cerveau ! »
Je lui répondis alors (dans les limites de ce que permet le rudimentaire canal d’expression qui vous tient lieu de langage) : « Mais les conditions de vie dans nos fermes industrielles ne sont pas aussi mauvaises que vous semblez vouloir le croire. Vous avez peut-être vu ces longues rangées d’enfants humains dans des cages individuelles qui leur permettent à peine de tenir debout, et je ne nie pas que cela existe, mais il faut tenir compte du contexte. Songez bien que ces jeunes animaux n’ont ni tristesse ni regret puisqu’ils n’ont jamais rien connu d’autre. Peut-on priver de liberté un être qui ne sait pas ce qu’est la liberté, qui n’a pas même de mot pour cela ? Cela n’a pas de sens ! Et j’insiste : nous ne torturons pas ces enfants, voyons ! Ce serait contre-productif puisque cela ferait des cerveaux atrophiés et donc impropres à la consommation. Nous souhaitons le meilleur pour nos humains. S’il y a quelques formes de privation, de stress, d’inconfort inévitablement causés par les conditions d’élevage et d’abattage, nous cherchons en tout cas sincèrement à les minimiser. Et quand bien même, ces conditions seraient « horribles » comme vous le dites, il n’en reste pas moins que ces enfants sont nés grâce à nous pour la consommation de leur cerveau. C’est pour cette raison précisément que nous vous élevons en si grand nombre. Songez que si nous cessions notre activité et libérions purement et simplement tous nos humains d’élevage du jour au lendemain, des centaines de milliards d’entre vous disparaîtraient en quelques années de famines effroyables, car il va de soi que vous seriez bien incapables de soutenir la production des ressources nécessaires au maintien de cette population gigantesque. Je vous rappelle que nous parlons de plus de mille milliards d’humains d’élevage, et autant de bouches à nourrir. Nous n’y parvenons nous-mêmes qu’en important des ressources extraplanétaires. Que feriez-vous si nous n’étions pas là ? Pour le dire franchement : nous sommes les meilleurs amis des humains, et les humanistes sont les vrais anti-humanistes, puisque cesser l’exploitation humaine signifierait la disparition de 99% des êtres humains. Est-ce un tel génocide que vous souhaitez ? »
L’être humain objecta : « Mais on se fiche qu’il y ait des milliers de milliards d’être humains sur Terre s’ils ne naissent que pour souffrir dans ces conditions infernales et mourir prématurément. Nous préférons vivre moins nombreux mais dignement. »
La dignité humaine, quelle drôle d’idée ! Je ne relevai pas l’absurdité de ces propos et poursuivis : « Au-delà de ces considérations qui touchent seulement à vos intérêts (que vous semblez assez mal comprendre de toute façon), je vous demanderai surtout de tenir compte du fait qu’arrêter la production d’êtres humains serait contraire à nos intérêts, puisque nous serions par là privés de la consommation de vos cerveaux que nous aimons tant. Avez-vous seulement songé au tort que cela nous ferait ? »
L’être humain prit alors un air indigné qui me semblait quelque peu forcé et cocasse : « Mais enfin ! » disait-il, « vous ne pouvez pas sérieusement mettre en balance vos torts et les nôtres dans cette histoire, et considérer les vôtres comme plus importants ! Vous, Overlords, vous n’avez pas besoin de consommer nos cerveaux pour vivre, vous pouvez renoncer à ce plaisir, ou lui trouver un substitut, sans que cela vous cause le moindre tort comparable à ceux que vous faites subir à notre espèce dans vos élevages ! »
Il était correct sur un point : nous pouvons nous passer de la consommation d’être humain. Ce n’est qu’un plaisir gastronomique, certes intense et raffiné, mais tout à fait dispensable. Et d’ailleurs, quand bien même ce plaisir nous serait devenu une nécessité, nous sommes suffisamment avancés technologiquement pour avoir mis au point des substituts de synthèse de qualité à peu près équivalente, et ces substituts pourraient encore être largement améliorés si nous nous en donnions la peine. Mais pourquoi se donner cette peine quand on peut aussi bien récolter des cerveaux humains déjà parfaitement délicieux ? « En outre », précisai-je, « je vous garantis que nos fermes à humains sont éco-responsables et contribuent à entretenir l’écosystème Terre. Enfin et surtout, nous sommes profondément attachés à nos traditions culinaires ; nos produits locaux, les cerveaux labellisés d’origine Terre sont devenus un gage de qualité, d’authenticité, de terroir, et nous ne serions pas prêt à changer nos habitudes gastronomiques pour de la vulgaire matière grise de synthèse. »
Tous ces arguments, me semble-t-il, auraient dû convaincre mon interlocuteur s’il avait eu un tant soit peu de goût et d’intelligence, mais celui-ci, têtu comme un humain, n’en démordait pas. Il tenta une autre approche : « Ô puissants Overlords », me loua-t-il, « nous savons que vous nous êtes incomparablement supérieurs, mais n’êtes-vous pas sensibles à la douleur tout comme nous le sommes ? Une expérience de douleur infligée à un humain est-elle incomparable à une expérience de douleur qui vous est infligée ? »
Je reconnaissais volontiers que non, pas fondamentalement : « Comme je l’ai déjà dit, nous restons des êtres de chair, ancrés dans la matière, et les systèmes neuronaux associés à la douleur sont assez similaires chez nous et chez les animaux terrestres tels que les humains. Une douleur est une douleur, peu importe qui l’éprouve de vous ou de nous”.
L’être humain poursuivit : « Si c’était vos congénères Overlords que vous deviez traiter comme vous nous traitez dans vos élevages industriels, tout cela pour le seul plaisir gastronomique que vous en tirez (et alors que vous pourriez vous passer de ce plaisir ou l’obtenir autrement), vous vous révolteriez contre le mal qu’on vous ferait ainsi subir, n’est-ce pas ? Vous n’accepteriez pas qu’on vous inflige un tel traitement à une telle échelle pour une raison si dérisoire ! »
Je ne niais pas ce point non plus : il ne viendrait à l’idée d’aucun Overlord sain d’esprit de construire des fermes à Overlords. L’idée même en est répugnante, et plus encore si le seul but de ces fermes devait être de permettre la consommation de notre chair à des fins gastronomiques ! Soyons sérieux.
Et l’être humain conclut triomphalement : « Eh bien donc, vous ne devriez pas nous infliger le même traitement pour la même raison ! C’est injuste ! »
L’erreur humaine résidait, évidemment, dans cette transposition grossière. J’objectai, à juste titre : « Cela n’a rien à voir. Et la raison pour laquelle cela n’a rien à voir est très simple : vous êtes des animaux inférieurs, et donc vos intérêts sont fondamentalement moins importants que les nôtres même sur les points où ces intérêts sont similaires aux nôtres. Car en effet je ne nie pas qu’ils le soient en ce qui concerne la douleur : notre circuit nociceptif a clairement un équivalent dans vos organismes, et vos expériences de douleurs sont très probablement similaires aux nôtres. Mais nous sommes parfaitement légitimes à négliger les éventuelles expériences de douleurs que nous ne pouvons éviter de vous infliger dans le cadre de nos activités d’élevage et d’abattage (alors que nous nous refuserions évidemment à infliger le même traitement à nos congénères), ceci pour l’excellente et seule raison que vous n’êtes que des humains, de simples animaux, primitifs, pauvres en intelligence et en expérience, incomparables à ce que nous sommes, nous Overlords. Peu importe que vos intérêts soient similaires aux nôtres sur quelques points, ils resteront toujours fondamentalement moins importants que les nôtres. Voilà tout. »
L’être humain s’offusqua : « Mais c’est clairement injuste ! Vous admettez que nos intérêts sont similaires sur le point de la douleur, et la seule raison pour laquelle vous négligez les nôtres, c’est parce que nous sommes humains et que vous êtes Overlords ! Est-ce un crime d’être humain ou un passe-droit d’être Overlord ? Je ne comprends pas ! »
Évidemment qu’il ne comprenait pas : ce n’était qu’un humain. J’essayais tout de même de lui expliquer que son concept de ce qui est « juste » ou « injuste » est extrêmement limité et rudimentaire : « Dois-je vous rappeler que vous ne possédez pas le millionième de nos capacités cognitives ; or, notre sens de la justice, la véritable justice, exige la participation à notre société d’Overlords comme système équitable de coopération, système auquel, en tant qu’humain, vous ne pouvez strictement rien comprendre, pas plus qu’une fourmi ne peut comprendre ce qu’exige la coopération humaine. En somme, nous vous sommes tellement moralement supérieurs que nous n’avons aucune obligation morale envers vous. C’est tout à fait logique. »
Mais l’être humain refusait l’évidence. Il répétait : « En quoi le seul fait d’appartenir à une autre espèce que la vôtre, justifierait de traiter d’une façon à ce point différente des intérêts que vous reconnaissez similaires ? Admettez-le : c’est une monumentale injustice ! L’espèce ne devrait pas être un critère pertinent pour la considération morale d’un même intérêt à ne pas souffrir ! »
Je commençai à me lasser de cet humain qui ne faisait que répéter la même absurdité antispéciste. Pour ne pas le laisser sans réponse toutefois, et pour user d’une comparaison que même son faible (quoique savoureux) cerveau pouvait être en mesure de saisir, je lui répondis finalement : « N’est-ce pas exactement ce que, encore à l’heure actuelle, vous faites subir aux poules, vaches, cochons et autres animaux que vous autres humains élevez pour la consommation de leur chair ? Ne continuez-vous pas d’abattre 50 à 100 milliards de ces animaux terrestres par an, tout cela pour un plaisir gastronomique dispensable, qui n’a rien de nécessaire pour votre santé, qui alourdit l’impact environnemental de vos sociétés, et pour lesquels des produits de substitution existent déjà et peuvent encore être largement améliorés pourvu que vous vous en donniez la peine ? L’écrasante majorité de vos animaux domestiques sont élevés dans des fermes industrielles qui n’ont rien à envier aux nôtres, tout au contraire. Or, ces animaux sont sensibles à la douleur, tout comme vous ; et leur intérêt à ne pas souffrir est similaire à votre intérêt à ne pas souffrir. N’étiez-vous pas d’accord lorsque je disais : « une douleur est une douleur, peu importe qui l’éprouve de vous ou de nous » ? Vous ne pouvez pas refuser d’ajouter : « ou de vos animaux d’élevage ». Ainsi acceptez-vous de faire souffrir ces animaux en masse, abattus par dizaines de milliards par an, à seule fin d’en tirer des plaisirs gastronomiques dispensables et remplaçables, tandis que vous n’accepteriez jamais que la même somme de douleurs soit infligée à vos congénères humains pour une raison aussi superficielle. Par conséquent, si vous alliez jusqu’au bout de votre « raisonnement », vous devriez conclure que vos animaux d’élevage sont, tout autant que vous, victimes d’une « monumentale injustice ». Or, rien n’indique que vous vous en souciez. Il y a bien chez vous quelques illuminés qui s’indignent d’une telle soi-disante injustice et demandent la fin de l’exploitation animale, mais vous leur répondez, à juste titre, à peu près comme je vous ai répondu : en leur disant qu’il est simplement légitime d’accorder plus d’importance aux intérêts humains qu’aux intérêts des animaux d’élevage, même sur les points où ces intérêts sont similaires (comme celui de ne pas souffrir). Autrement dit, vous êtes aussi spécistes que nous. Conclusion : laissez-nous manger vos cerveaux en paix. »
C’est alors que, joignant le geste à la parole, je saisis mon interlocuteur humain, tout frétillant et gesticulant, et croquai délicatement sa tête. Ô délice ! La boîte crânienne, tendre et croustillante à souhait, libéra sur mes papilles une merveilleuse explosion de saveurs… J’aurais peut-être dû commencer par là. N’est-ce pas la meilleure justification du traitement que nous vous infligeons, amis humains et humaines ? Vos cerveaux sont juste… bien trop délicieux.
***
Greetings, human friends.
To you, I am an « alien », and more specifically one of those you refer to as « Overlords » since we settled on your lovely little planet. I could tell you my real name, but you wouldn’t be able to hear it, let alone pronounce it, so please, just call me « Overlord ».
Most of my peers are engaged in intellectual activities incomparably superior to anything you can conceive, and therefore take no interest in life forms as prosaic as yours. But I am an odd fellow in this respect: I find some sort of enjoyment in the study of biological curiosities such as the social organization of termites or the verbal behavior of humans. Everyone has his own guilty pleasures. And thus I have come to learn the basics of your « languages ». (Actually I should say « proto-languages » considering how crude and limited these conceptual gurgles are, compared to a real language like the ones we speak, we Overlords. But never mind.)
On closer examination of human communications, I have noticed that many of you strangely fail to understand the relationship our species has had with yours for the past few dozens of solar revolutions, and I thought it might be entertaining to address you directly in an attempt to clear this up. Of course, I will only be able to express a very small fraction of my thoughts (and the least interesting, the one that is intelligible for you), nevertheless I will do my best to be as clear and rigorous as possible as far as your humble capacities allow.
First, a bit of history. When the Overlords entered your solar system, this little rocky planet you call « Earth » was still desert. You were there, of course (it was the early 21st century for you), but I use the word « desert » here in the exact same way that you use it when, for example, you set foot on a « desert » island, inhabited only by colonies of birds, rodents and various other types of animals and vegetation. From our point of view, humans or social insects are quite similar life forms. We did notice that humans have slightly better cognitive abilities in some respects, their language is slightly more developed, their impact on local biosphere more important too (though mostly disorganized and self-destructive); however, when it comes to mastering their solar system (which, according to galactically accepted criteria, is the bare minimum to count as a notable civilization, or even just as an intelligent species worthy of the name), from this point of view, then, earthly animals are all pretty much on equal footing in their insignificance. (Three scraps of metal laboriously shipped to adjacent planets don’t make much difference. Please be serious.)
This may be painful to hear for you, who used to think of yourselves as some sort of ultimate exception, the highest rung on the ladder of life, but I tell you in complete honesty and humility: we Overlords are vastly superior to you in every way. Not only do we surpass you in the few cognitive functions that your brains of puny primates enable you to perform, but more importantly we have many other capacities that are so extraordinary compared to yours that you cannot even begin to conceive them ( no more than a mouse can conceive the intellectual work of one of your mathematicians, for example). The infinite richness of our cognition allows us, Overlords, to live incomparably more complex, more profound and more fulfilling lives than any of yours. We are living, existing, in the full sense of the word, when you are just passively surviving.
Although it goes without saying that our experience of the world is more spiritual and intellectual than yours, we are not pure minds. We do not reject our biological origins, we are still flesh and blood.
Especially, we are gourmets. For indeed, the pleasure that comes with eating is a capacity we share with lower animals such as yourselves, even if the enjoyments we derive from our gastronomic arts and culinary traditions are incomparably richer, more subtle and more refined than yours. Giving jam to humans seems to us to be as vain as casting pearls to swine, to quote one of your colorful expressions.
Thus, when we came to your planet, we realized that earthly animals are quite tasty. Especially your human brains, plump and fleshy. The gray matter that abounds in your skulls, eaten raw or delicately roasted, stimulates our palates in a singularly pleasing way. It’s a delight like no other!
Since then, as you may know, we have turned your Earth into a farm planet.
Soon, millions of human farms were installed. Some of them allow humans to roam freely in small artificial villages, but for the sake of efficiency, the overwhelming majority of humans are raised in industrial battery farms. With optimized production and the import of necessary resources, the domestic human population has grown to more than a thousand billion, and every year about a hundred billion human beings are slaughtered (most of them by the age of ten, because by then the human brain has already become large enough and has acquired its inimitable flavor)..
Of course, there are still large wild human populations outside our farms. Our industries may have caused some ecological disruption here and there, but we have made an effort to preserve your natural habitat as much as possible. Your major urban centers are protected nature reserves, and you have not even experienced a significant population decline since our arrival. According to our latest estimates, there are still seven to eight billion wild humans spread over various geographic areas, and we simply monitor and control the evolution of these populations as we do with any invasive species.
Yet, from time to time, we have noticed that human groups, armed with primitive tools, such as sticks or plutonium bombs, attempt to attack our farms. It’s somewhat amusing and (need I say it?) perfectly harmless. Most of my fellow farmers don’t pay any attention to it, but as an amateur ethologist it’s a behavior that has always intrigued me and I wanted to know more. It was only then that I realized that most of you humans are strangely but firmly convinced that our farms are causing you extraordinary harm. One wild human I was able to communicate with said things like, « You should not inflict horrible suffering on hundreds of billions of human beings for the sole purpose of consuming their brains! »
I then replied (within the limits of the rudimentary channel of expression you use as a sort of language): « But the living conditions on our factory farms are not as bad as you seem to think. You may have seen those long rows of human children locked in individual cages that barely allow them to stand, and I don’t deny that they exist, but you have to consider the context. Remember that these young animals have no sadness or regret because they have never known anything else. Can we deprive of freedom a being who does not know what freedom is, who does not even have a word for it? It makes no sense! And I insist: we are not torturing these children! This would be counterproductive as it would result in atrophied brains and thus unsuitable for consumption. We want the best for our humans. If there are some forms of deprivation, stress, discomfort unavoidably caused by the conditions of breeding and slaughter, we sincerely try to minimize them. And even if these conditions are « horrible » as you say, the fact remains that these children are born thanks to us for the purpose of consuming their brains. It is for this specific reason that we breed you in such large numbers. Consider that if we were to cease our activity and simply release all of our breeding humans overnight, hundreds of billions of you would disappear in a few years in appalling famines, for it goes without saying that you would be unable to sustain the production of the resources necessary to maintain this gigantic population. Let me remind you that we are talking about a livestock of one thousand billion humans, and thus as many mouths to feed. We only manage to do this ourselves by importing extra-planetary resources. What would you do if we weren’t here? To put it bluntly: we are the best friends of humans, and humanists are the real anti-humanists, since stopping human exploitation would mean the extinction of 99% of human beings. Is that the kind of genocide you want, really? »
The human being objected a few inane babblings, such as, « But who cares if there are thousands of billions of human beings on Earth if they are born only to suffer in these hellish conditions and die prematurely. We prefer to live in smaller numbers but with dignity. »
Human dignity, what a curious idea! I did not bother to point out the absurdity of these remarks and continued: « Beyond these considerations which only relate to your interests (which you seem to misunderstand quite a bit anyway), I would ask you above all to take into account the fact that stopping the production of human beings would be against our interests, since we would thereby be deprived of the consumption of your brains which we love so much. Have you even thought of the harm that would do to us? »
The human being then put on an air of outrage that seemed somewhat forced and comical: « But really! » he said, « you can’t seriously weigh your wrongs against ours in this matter, and consider yours as more important! You Overlords do not need to consume our brains to live, you can give up that pleasure, or find a substitute for it, without it causing you the slightest harm comparable to those you inflict on our species in your farms! »
He was correct on one point: we have no need to consume human beings. It is just a gastronomic pleasure, indeed intense and refined, but quite dispensable. And besides, even if this pleasure would have become a necessity for us, our technologies are far enough advanced to have enabled us to develop synthetic substitutes whose quality is more or less equivalent, and these substitutes could still be greatly improved if we bothered to try. But why bother when we can just as easily harvest human brains that are already perfectly delicious? » Furthermore », I said, « I can assure you that our human farms are ecologically responsible and contribute to the sustainability of the Earth ecosystem. Last but not least, we are deeply committed to our culinary traditions; our local products, brains of Certified Earth Origin, have become a guarantee of quality, authenticity, terroir, and we would not be willing to change our gastronomic habits for crude synthetic grey matter. »
These arguments, it seems to me, should have convinced my interlocutor had he any taste or intelligence, but this one, stubborn as a human, did not give up. He tried a different approach: « O mighty Overlords, » he praised me, « we know that you are immeasurably superior to us, but are you not capable of feeling pain as we are? Is an experience of pain inflicted on a human incomparable to an experience of pain inflicted on you? »
I readily admitted that no, not in a fundamental way: « As I said before, we remain beings of flesh, anchored in matter, and the neural systems involved in pain are quite similar in us and in land animals such as humans. Pain is pain, no matter who is experiencing it, you or us. »
The human went on: « If it were your fellow Overlords that you had to treat the way you treat us in your factory farms, all for the mere gastronomic pleasure you get from them (and when you can dispense with this pleasure or get it in other ways), you would revolt against the evil suffered by your kind, wouldn’t you? You would not accept such treatment on such a scale for such a paltry reason! »
I was not denying this point either: it would not occur to any Overlord in his right mind to build Overlord farms. The very idea is repugnant, and even more so if the only purpose of these farms were to provide for the consumption of our flesh for gastronomic pleasure! Let’s be serious.
And the human being concludes with triumph: « Well then, you shouldn’t give us the same treatment for the same reason! It is unfair! »
The human error lay, obviously, in this rough transposition. I objected, rightly so: » This has nothing to do with the matter. And the reason why it has nothing to do is very simple: you are inferior animals, and therefore your interests are fundamentally less important than ours, even on those aspects where these interests are similar to ours. Indeed, I do not deny that they are similar as far as pain is concerned: our own nociceptive pathway clearly has an equivalent in your organisms, and your experiences of pain are very probably similar to ours. But we are perfectly legitimate to neglect the possible experiences of pain that we cannot avoid inflicting on you in the course of our breeding and slaughtering activities (while we would obviously refuse to inflict the same treatment on our fellow creatures), for the excellent and only reason that you are just humans, basic animals, primitive, poor in intelligence and experience, incomparable to what we Overlords are. No matter how similar your interests are to ours in a couple of aspects, they will always remain fundamentally less important than ours. That is all. »
The human took offense: « But this is clearly unfair! You admit that our interests are similar on the matter of pain, and, in the end, the only reason you neglect ours is because we are human and you are Overlords. Is it a crime to be human or a privilege to be an Overlord? I don’t understand! »
Of course he didn’t understand: he was only human. I tried to explain to him that his concept of what is « fair » or « unfair » is extremely narrow and simplistic: « Need I remind you that you do not have one millionth of our cognitive capacity, and our sense of justice, true justice, requires participation in our Overlords society as a fair system of cooperation, a system which you as humans cannot possibly understand, any more than an ant can understand what human cooperation requires. In short, we are so morally superior to you that we have no moral obligation to you. That makes perfect sense. »
But the human being denied the obvious. He kept saying: « How can the mere fact of belonging to another species than yours justify treating in such a different way interests that you acknowledge to be similar? Admit it: it is a monumental injustice! Species should not be a relevant criterion for moral consideration of the same interest not to suffer! »
To tell you the truth, I was getting bored of this human who kept repeating the same anti-speciesist nonsense. Not to leave him without an answer, however, and to use a comparison that even his feeble (though tasty) brain could grasp, I finally answered him: « Isn’t that exactly what you are still doing to the chickens, cows, pigs and other animals that you humans raise for the consumption of their flesh? Don’t you still slaughter 50 to 100 billion of these land animals per year, all for a dispensable gastronomic pleasure, which is unnecessary for your health, which increases the environmental impact of your societies, and for which substitute products already exist and can still be greatly improved if you bother to try? The overwhelming majority of your domestic animals are raised in industrial farms that have nothing to envy to ours, quite the contrary. Yet these animals are sensitive to pain, just like you; and their interest to avoid suffering is similar to your interest to avoid suffering. Didn’t you agree when I said: « pain is pain, no matter who feels it, you or us »? You cannot refuse to add: « or your farm animals ». So you accept to cause massive suffering to these animals, slaughtered by tens of billions per year, for the sole purpose of obtaining dispensable and replaceable gastronomic pleasures, while you would never accept the same amount of pain to be inflicted on your fellow humans for such a shallow reason. Therefore, if you were to follow your « reasoning » to the end, you would have to conclude that your farm animals are victims of a « monumental injustice » just as much as you are. But there is no indication that you care. You may have a few crackpots who resent such a so-called injustice and call for an end to animal exploitation, but you generally laugh in their faces and answer them, quite rightly, in much the same way as I answered you: by telling them that it is simply legitimate to give more importance to human interests than to the interests of farmed animals, even on aspects where these interests are similar (such as the interest not to suffer). In other words, you are as much a speciesist as we are. Conclusion: let us eat your brains in peace. »
Then, turning my words into action, I grabbed my human interlocutor, all wriggling and squirming, and delicately crunched his head. O delight! The skull, tender and crispy to perfection, released a wonderful bouquet of flavors in my mouth… Maybe I should have started from there. Isn’t this the best way to justify the treatment we give you, human friends? Your brains are just… far too delicious.
Monsieur Phi 