{"id":10507,"date":"2025-03-29T05:16:15","date_gmt":"2025-03-29T05:16:15","guid":{"rendered":"https:\/\/afrikmanagement.com\/?p=10507"},"modified":"2025-03-29T05:16:15","modified_gmt":"2025-03-29T05:16:15","slug":"des-chercheurs-ont-enfin-pu-voir-comment-pense-une-ia-et-ce-quils-ont-trouve-est-stupefiant","status":"publish","type":"post","link":"https:\/\/afrikmanagement.com\/index.php\/2025\/03\/29\/des-chercheurs-ont-enfin-pu-voir-comment-pense-une-ia-et-ce-quils-ont-trouve-est-stupefiant\/","title":{"rendered":"Des chercheurs ont enfin pu voir comment pense une IA et ce qu\u2019ils ont trouv\u00e9 est stup\u00e9fiant"},"content":{"rendered":"
\n

Des chercheurs chez Anthropic ont pass\u00e9 le chatbot Claude au microscope et ont eu quelques surprises. En plus de mieux comprendre le ph\u00e9nom\u00e8ne des hallucinations, ils ont d\u00e9couvert que l\u2019IA ment\u2026<\/strong><\/p>\n<\/div>\n

\n
\n
\n
\n

Au sommaire<\/strong><\/p>\n

<\/i><\/div>\n

\n
    \n
  • Une IA qui ment sur ses raisonnements<\/strong><\/li>\n
  • \u00c0 lire aussi<\/strong><\/li>\n<\/ul>\n<\/div>\n<\/div>\n
    \n<\/div>\n
    \n

    Comment fonctionnent les grands mod\u00e8les de langage, ces intelligences artificielles derri\u00e8re les\u00a0chatbots<\/span><\/span>\u00a0? C’est la grande question que se posent les chercheurs depuis que\u00a0ChatGPT<\/span><\/span> a d\u00e9barqu\u00e9. Ils sont d\u00e9crits comme des bo\u00eetes noires, car m\u00eame leurs cr\u00e9ateurs ne comprennent pas comment ils arrivent \u00e0 ces r\u00e9sultats.<\/p>\n

    Si certains chatbots sont capables d’expliciter leur cha\u00eene de pens\u00e9e, cela n’a lev\u00e9 qu’une toute petite partie du myst\u00e8re. Pour mieux comprendre, des chercheurs de chez Anthropic ont d\u00e9cortiqu\u00e9 leur chatbot\u00a0Claude\u00a0dans\u00a0deux articles\u00a0publi\u00e9s cette semaine. Ils ont d\u00e9velopp\u00e9 de nouveaux outils pour identifier les diff\u00e9rents \u00e9l\u00e9ments et cartographier les liens entre eux, comme l’\u00e9tude du\u00a0cerveau\u00a0en neurosciences.<\/p>\n

    Une IA qui ment sur ses raisonnements<\/span><\/div>\n

    Les chercheurs ont fait quelques d\u00e9couvertes \u00e9tonnantes. La premi\u00e8re est que la cha\u00eene de pens\u00e9e, que certains utilisent pour \u00e9tudier les chatbots, n’est pas fiable. Ils ont d\u00e9couvert plusieurs cas o\u00f9 l’IA a d\u00e9clar\u00e9 arriver \u00e0 sa r\u00e9ponse en suivant une certaine m\u00e9thode, mais la r\u00e9alit\u00e9 \u00e9tait tout autre. Elle a\u00a0menti. Ils ont aussi pu d\u00e9couvrir le m\u00e9canisme des\u00a0hallucinations, et notamment que Claude dispose d’un circuit qui l’emp\u00eache de r\u00e9pondre lorsqu’il ne connait pas le sujet. Ce circuit est inhib\u00e9 lorsque l’IA dispose d’assez de connaissances, lui permettant de r\u00e9pondre. Mais dans certains cas, ce circuit semble mal fonctionner, et permet \u00e0 l’IA de r\u00e9pondre alors qu’elle n’a pas les connaissances n\u00e9cessaires.<\/p>\n

    Claude est \u00e9galement capable de cha\u00eenes de\u00a0raisonnement\u00a0en plusieurs \u00e9tapes avant d’arriver \u00e0 sa r\u00e9ponse, et peut planifier la fin d’une phrase, comme la rime pour un po\u00e8me, avant m\u00eame de commencer \u00e0 \u00e9crire la phrase. De plus, m\u00eame si Claude, en l’occurrence la version Claude 3.5 Haiku, privil\u00e9gie l’anglais comme langue de sortie par d\u00e9faut, beaucoup de ses fonctions sont multilingues. Une bonne partie des calculs sont effectu\u00e9s ind\u00e9pendamment de la langue d’entr\u00e9e ou de sortie.<\/p>\n

    Les m\u00e9thodes utilis\u00e9es par les chercheurs ne permettent pas encore de tout expliquer sur le fonctionnement des grands mod\u00e8les de langage, mais les deux articles en d\u00e9voilent d\u00e9j\u00e0 beaucoup. Mieux comprendre les chatbots permettra notamment d’am\u00e9liorer leur s\u00e9curit\u00e9.<\/p>\n

    Par FUTURA
    \n<\/strong><\/p>\n<\/div>\n","protected":false},"excerpt":{"rendered":"

    Des chercheurs chez Anthropic ont pass\u00e9 le chatbot Claude au microscope et ont eu quelques surprises. En plus de mieux comprendre le ph\u00e9nom\u00e8ne des hallucinations, ils ont d\u00e9couvert que l\u2019IA ment\u2026 Au sommaire Une IA qui ment sur ses raisonnements \u00c0 lire aussi Comment fonctionnent les grands mod\u00e8les de langage, ces intelligences artificielles derri\u00e8re les\u00a0chatbots\u00a0? C’est la grande question que se posent les chercheurs depuis que\u00a0ChatGPT a d\u00e9barqu\u00e9. Ils sont d\u00e9crits comme des bo\u00eetes noires, car m\u00eame leurs cr\u00e9ateurs ne comprennent pas comment ils arrivent \u00e0 ces r\u00e9sultats. Si certains chatbots sont capables d’expliciter leur cha\u00eene de pens\u00e9e, cela n’a […]<\/p>\n","protected":false},"author":5,"featured_media":10509,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[33],"tags":[],"class_list":["post-10507","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-technologies"],"_links":{"self":[{"href":"https:\/\/afrikmanagement.com\/index.php\/wp-json\/wp\/v2\/posts\/10507","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/afrikmanagement.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/afrikmanagement.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/afrikmanagement.com\/index.php\/wp-json\/wp\/v2\/users\/5"}],"replies":[{"embeddable":true,"href":"https:\/\/afrikmanagement.com\/index.php\/wp-json\/wp\/v2\/comments?post=10507"}],"version-history":[{"count":2,"href":"https:\/\/afrikmanagement.com\/index.php\/wp-json\/wp\/v2\/posts\/10507\/revisions"}],"predecessor-version":[{"id":10511,"href":"https:\/\/afrikmanagement.com\/index.php\/wp-json\/wp\/v2\/posts\/10507\/revisions\/10511"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/afrikmanagement.com\/index.php\/wp-json\/wp\/v2\/media\/10509"}],"wp:attachment":[{"href":"https:\/\/afrikmanagement.com\/index.php\/wp-json\/wp\/v2\/media?parent=10507"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/afrikmanagement.com\/index.php\/wp-json\/wp\/v2\/categories?post=10507"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/afrikmanagement.com\/index.php\/wp-json\/wp\/v2\/tags?post=10507"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}