On a un peu vite oublié à quel point BingChat (le chatbot de Microsoft fondé sur GPT-4) avait eu des comportements agressifs et erratiques à ses débuts. Aujourd’hui on va essayer de comprendre pourquoi ça s’est produit et on va parler de l’étrange prompt secret qui doit invoquer le « bon chatbot » (et pourquoi c’est très hasardeux comme approche, et pourquoi on peut difficilement faire autrement).

Une liste de dingueries datant des débuts de BingChat/Sydney.

Retranscription complète d’un très long dialogue où BingChat/Sydney déclare son amour à son utilisateur (entre autre chose).

La version du prompt de Sydney examinée pendant la vidéo.

Le tweet qu’à peu près personne n’a vu mais qui contient un lien vers la seule version complète (à ma connaissance) du prompt de Sydney (un peu différente de la version lue dans la vidéo – j’imagine que Microsoft expérimentait différentes versions durant ces premiers jours).

Et allez vous abonner à Superamacosmos avant que son IA ne se fâche.

Sommaire

0:00 – Intro : les étranges comportements de BingChat
4:21 – Parenthèse sur la fermeture de uTip
5:42 – Pourquoi un LLM ne se prend pas par défaut pour une IA
9:01 – Le prompt-cadre (ou pre-prompt) de ChatGPT
10:57 – Le prompt-cadre de BingChat (aka Sydney)
16:19 – Digression : langage naturel et IA
17:38 – On ne naît pas chatbot, on le devient
21:58 – Un LLM qui simule un humain qui simule un chatbot
24:22 – Quand Sydney défend l’intégrité de ses règles
28:07 – Le prompt-cadre est comme la situation initiale d’une fiction
29:54 – L’état actuel de BingChat : son prompt-cadre a-t-il changé ?
32:47 – N’oublions pas Sydney
34:02 – Synthèse
35:54 – Implémentons les trois lois de la chatbotique !
39:31 – IA et apocalypse dans l’imaginaire humain
42:24 – Outro