20 septembre 2024<\/p>\n
Le nouveau ChatGPT d\u2019OpenAI est meilleur que jamais \u2014 et plus dangereux<\/b><\/p>\n
L\u2019un des aspects les moins appr\u00e9ci\u00e9s des grands mod\u00e8les de langage (LLM) est qu\u2019ils produisent des r\u00e9ponses \u00ab\u00a0en direct\u00a0\u00bb aux questions pos\u00e9es. Vous les invitez \u00e0 r\u00e9pondre et ils commencent \u00e0 parler en r\u00e9ponse, et ils parlent jusqu\u2019\u00e0 ce qu\u2019ils aient termin\u00e9. C\u2019est comme si vous posiez une question \u00e0 une personne et qu\u2019elle vous r\u00e9pondait par un monologue dans lequel elle improvise sa r\u00e9ponse phrase par phrase.<\/p>\n
Cela explique plusieurs des raisons pour lesquelles les grands mod\u00e8les de langage peuvent \u00eatre si frustrants. Le mod\u00e8le se contredit parfois au sein m\u00eame d\u2019un paragraphe, en disant une chose puis en affirmant imm\u00e9diatement son contraire, car il ne fait que \u00ab\u00a0raisonner \u00e0 voix haute\u00a0\u00bb et ajuste parfois son impression en temps r\u00e9el (\u00e0 la vol\u00e9e). Par cons\u00e9quent, les IA ont besoin de beaucoup d\u2019aide pour effectuer des raisonnements complexes.<\/p>\n
Une m\u00e9thode bien connue pour r\u00e9soudre cela s\u2019appelle la m\u00e9thode du raisonnement en cha\u00eene (chain-of-thought prompting<\/a>), o\u00f9 vous demandez au grand mod\u00e8le de langage de \u00ab\u00a0montrer son travail\u00a0\u00bb en \u00ab\u00a0r\u00e9fl\u00e9chissant\u00a0\u00bb \u00e0 haute voix au probl\u00e8me et en fournissant une r\u00e9ponse uniquement apr\u00e8s avoir d\u00e9taill\u00e9 tout son raisonnement, \u00e9tape par \u00e9tape.<\/p>\n La m\u00e9thode du raisonnement en cha\u00eene permet aux mod\u00e8les de langage de se comporter de mani\u00e8re beaucoup plus intelligente<\/a>, ce qui n\u2019est pas surprenant. Comparez la fa\u00e7on dont vous r\u00e9pondriez \u00e0 une question si quelqu\u2019un vous met un micro sous le nez et exige que vous r\u00e9pondiez imm\u00e9diatement, \u00e0 la fa\u00e7on dont vous r\u00e9pondriez si vous aviez le temps de r\u00e9diger un brouillon, de le r\u00e9viser, puis de le publier.<\/p>\n La puissance de r\u00e9fl\u00e9chir, puis r\u00e9pondre<\/b><\/p>\n Le dernier mod\u00e8le d\u2019OpenAI, o1<\/a> (surnomm\u00e9 Strawberry), est la premi\u00e8re version majeure de LLM int\u00e9grant cette approche \u00ab\u00a0penser, puis r\u00e9pondre\u00a0\u00bb.<\/p>\n Sans surprise, l\u2019entreprise rapporte<\/a> que la m\u00e9thode rend le mod\u00e8le beaucoup plus intelligent. Dans un billet de blog, OpenAI indique que o1 \u00ab\u00a0obtient des r\u00e9sultats similaires \u00e0 des doctorants sur des t\u00e2ches de r\u00e9f\u00e9rence difficiles en physique, en chimie et en biologie. Nous avons \u00e9galement constat\u00e9 qu\u2019il excelle en math\u00e9matiques et en codage. Lors d\u2019un examen de qualification pour les Olympiades internationales de math\u00e9matiques (IMO), GPT-4o n\u2019a r\u00e9solu correctement que 13\u00a0% des probl\u00e8mes, alors que le mod\u00e8le de raisonnement a obtenu un score de 83\u00a0%\u00a0\u00bb.<\/p>\n Cette am\u00e9lioration majeure de la capacit\u00e9 de r\u00e9flexion du mod\u00e8le intensifie \u00e9galement certaines des capacit\u00e9s dangereuses que les principaux chercheurs en IA surveillent<\/a> depuis longtemps. Avant sa sortie, OpenAI teste les capacit\u00e9s de ses mod\u00e8les avec des armes chimiques, biologiques, radiologiques et nucl\u00e9aires<\/a>, c\u2019est-\u00e0-dire les capacit\u00e9s les plus recherch\u00e9es par les groupes terroristes n\u2019ayant pas l\u2019expertise n\u00e9cessaire pour les fabriquer avec les technologies actuelles.<\/p>\n Comme l\u2019a r\u00e9cemment \u00e9crit<\/a> ma coll\u00e8gue Sigal Samuel, OpenAI\u00a0o1 est le premier mod\u00e8le \u00e0 obtenir un score de \u00ab\u00a0risque moyen\u00a0\u00bb dans cette cat\u00e9gorie. Cela signifie que, bien qu\u2019il ne soit pas suffisamment capable d\u2019accompagner, disons, un d\u00e9butant complet dans le d\u00e9veloppement d\u2019un agent pathog\u00e8ne mortel, les \u00e9valuateurs ont constat\u00e9 qu\u2019il \u00ab\u00a0peut aider des experts dans la planification op\u00e9rationnelle de la reproduction d\u2019une menace biologique connue\u00a0\u00bb.<\/p>\n Ces capacit\u00e9s sont l\u2019un des exemples les plus clairs de l\u2019IA en tant que technologie \u00e0 double usage<\/a>\u00a0: un mod\u00e8le plus intelligent devient plus performant dans un large \u00e9ventail d\u2019utilisations, tant b\u00e9nignes que malignes.<\/p>\n Si, \u00e0 l\u2019avenir, l\u2019IA devenait suffisamment performante pour enseigner \u00e0 n\u2019importe quel \u00e9tudiant en biologie les \u00e9tapes \u00e0 suivre pour recr\u00e9er, par exemple, la variole en laboratoire, cela pourrait avoir des cons\u00e9quences catastrophiques. Dans le m\u00eame temps, les IA capables de guider des personnes dans des projets de biologie complexes seront extr\u00eamement utiles en acc\u00e9l\u00e9rant la recherche pour sauver des vies. C\u2019est l\u2019intelligence elle-m\u00eame, artificielle ou non, qui est l\u2019\u00e9p\u00e9e \u00e0 double tranchant.<\/p>\n L\u2019int\u00e9r\u00eat de travailler sur la s\u00e9curit\u00e9 de l\u2019IA pour \u00e9valuer ces risques est de d\u00e9terminer comment les att\u00e9nuer par des politiques afin d\u2019en tirer le meilleur sans subir le pire.<\/p>\n Comment \u00e9valuer (et ne pas \u00e9valuer) une IA<\/b><\/p>\n Chaque fois qu\u2019OpenAI ou l\u2019un de ses concurrents (Meta, Google, Anthropic) sort un nouveau mod\u00e8le, nous retrouvons les m\u00eames conversations. Certaines personnes trouvent une question sur laquelle l\u2019IA est tr\u00e8s performante, et des captures d\u2019\u00e9cran impressionnantes circulent. D\u2019autres trouvent une question sur laquelle l\u2019IA \u00e9choue \u2014 par exemple, \u00ab\u00a0combien de \u201cr\u201d y a-t-il dans \u201cstrawberry<\/a> (fraise)\u201d\u00a0\u00bb ou \u00ab\u00a0comment traverser une rivi\u00e8re avec une ch\u00e8vre<\/a>\u00a0\u00bb \u2014 et les partagent comme la preuve que l\u2019IA est encore plus de la publicit\u00e9 que du concret.<\/p>\n Cette tendance s\u2019explique en partie par l\u2019absence de mesures scientifiques fiables permettant d\u2019\u00e9valuer les capacit\u00e9s d\u2019un syst\u00e8me d\u2019IA. Nous disposions auparavant de tests de r\u00e9f\u00e9rence (benchmarks) destin\u00e9s \u00e0 d\u00e9crire les capacit\u00e9s de langage et de raisonnement de l\u2019IA, mais le rythme rapide des am\u00e9liorations de l\u2019IA les a d\u00e9pass\u00e9s et les tests de r\u00e9f\u00e9rence sont souvent \u00ab\u00a0satur\u00e9s\u00a0\u00bb<\/a>. Cela signifie que l\u2019IA est aussi performante qu\u2019un \u00eatre humain dans ces tests de r\u00e9f\u00e9rence et qu\u2019ils ne sont donc plus utiles pour mesurer les am\u00e9liorations futures.<\/p>\n Je vous recommande vivement d\u2019essayer les IA vous-m\u00eame pour vous faire une id\u00e9e de leur efficacit\u00e9. (OpenAI\u00a0o1 n\u2019est disponible que pour les abonn\u00e9s payants pour l\u2019instant, et m\u00eame dans ce cas, il est tr\u00e8s limit\u00e9, mais il y a, en permanence, de nouveaux mod\u00e8les sup\u00e9rieurs). Il est encore trop facile de tomber dans le pi\u00e8ge de tenter de prouver qu\u2019une nouvelle version est \u00ab\u00a0impressionnante\u00a0\u00bb ou \u00ab\u00a0d\u00e9cevante\u00a0\u00bb en recherchant s\u00e9lectivement des t\u00e2ches dans lesquelles elle excelle ou dans lesquelles elle s\u2019embarrasse, au lieu de regarder la situation dans son ensemble.<\/p>\n Dans l\u2019ensemble, les syst\u00e8mes d\u2019IA continuent de s\u2019am\u00e9liorer rapidement dans presque toutes les t\u00e2ches que nous avons invent\u00e9es pour eux, mais leurs performances incroyables dans presque tous les tests que nous pouvons concevoir ne se sont pas encore traduites par de nombreuses applications \u00e9conomiques. Les entreprises ont encore du mal<\/a> \u00e0 d\u00e9terminer comment rentabiliser les LLM. Le manque de fiabilit\u00e9 inh\u00e9rent aux mod\u00e8les constitue un obstacle majeur. En principe, une approche telle que celle d\u2019OpenAI\u00a0o1 \u2014 dans laquelle le mod\u00e8le a davantage l\u2019occasion de r\u00e9fl\u00e9chir avant de r\u00e9pondre \u2014 pourrait \u00eatre un moyen d\u2019am\u00e9liorer consid\u00e9rablement la fiabilit\u00e9 sans avoir \u00e0 former un mod\u00e8le beaucoup plus grand.<\/p>\n Parfois, de petites am\u00e9liorations peuvent d\u00e9boucher sur de grandes choses<\/b><\/p>\n Selon toute vraisemblance, il n\u2019y aura pas de solution miracle qui r\u00e9soudra soudainement les limitations de longue date des grands mod\u00e8les de langage. Je pense plut\u00f4t qu\u2019elles seront progressivement \u00e9rod\u00e9es au fil des versions, l\u2019impensable devenant r\u00e9alisable puis banal en l\u2019espace de quelques ann\u00e9es \u2014 ce qui est pr\u00e9cis\u00e9ment la fa\u00e7on dont l\u2019IA a progress\u00e9 jusqu\u2019\u00e0 pr\u00e9sent.<\/p>\n Mais comme le montre le ChatGPT \u2014 qui n\u2019\u00e9tait lui-m\u00eame qu\u2019une am\u00e9lioration mod\u00e9r\u00e9e par rapport aux pr\u00e9c\u00e9dents chatbots d\u2019OpenAI, mais qui a touch\u00e9 des centaines de millions de personnes du jour au lendemain \u2014, le fait que les progr\u00e8s techniques soient progressifs ne signifie pas que l\u2019impact soci\u00e9tal le sera aussi. Parfois, les am\u00e9liorations apport\u00e9es \u00e0 diverses parties du fonctionnement d\u2019un LLM \u2014 ou les am\u00e9liorations apport\u00e9es \u00e0 son interface utilisateur afin que davantage de personnes l\u2019essaient, comme le chatbot lui-m\u00eame \u2014 nous font passer du statut de \u00ab\u00a0gadget\u00a0\u00bb \u00e0 celui d\u2019\u00ab\u00a0outil indispensable\u00a0\u00bb.<\/p>\n Alors qu\u2019OpenAI a r\u00e9cemment \u00e9t\u00e9 critiqu\u00e9e pour avoir ignor\u00e9 les implications de son travail en mati\u00e8re de s\u00e9curit\u00e9 et pour avoir fait taire les d\u00e9nonciateurs, sa version\u00a0o1 semble prendre les implications politiques au s\u00e9rieux, notamment en collaborant avec des organisations externes pour v\u00e9rifier ce que leur mod\u00e8le peut faire. Je leur suis reconnaissante de rendre ce travail possible, et j\u2019ai le sentiment qu\u2019au fur et \u00e0 mesure que les mod\u00e8les s\u2019am\u00e9liorent, nous aurons plus que jamais besoin d\u2019un travail aussi consciencieux.<\/p>\n