Étiquette : Intelligence artificielle

Shai Tubali : Le philosophe qui veut que les écoles ralentissent les enfants

| Catégories : Actualités, Education, Tubali Shai | Mots-clés : , , , , , , , ,

L’apprentissage n’est pas la finalité de l’éducation : « Pour moi, c’est l’une des plus grandes confusions de la recherche et des politiques éducatives contemporaines. Les gens disent : “L’école est un lieu d’apprentissage”, ou encore : “Le travail d’un enseignant consiste à faire apprendre les élèves”. Si vous voulez apprendre, vous n’avez pas besoin d’une école ni d’un enseignant ; vous apprendrez énormément simplement en étant dans la rue ou en travaillant chez McDonald’s ». L’intelligence s’adapte ; la conscience interrompt. La véritable finalité de l’éducation est paradoxale et provocatrice : troubler le flot de l’apprentissage. « L’éducation devrait poser la question : que ferez-vous de ce que vous avez appris ? » Sans de telles interruptions, l’apprentissage peut faire de nous des êtres sophistiqués et efficaces, tout en nous laissant moralement endormis.

Rob Urie : Pourquoi l’IA ne pense pas, ne peut pas raisonner, n’est pas intelligente et n’atteindra jamais la conscience

| Catégories : Actualités | Mots-clés : , , , , ,

La plupart de ceux qui n’ont pas conçu ni codé de modèles de « séquencement » ont du mal à comprendre ce concept. Ces modèles sont des instructions indiquant comment un modèle « pense ». Question : comment un modèle « pense-t-il » alors qu’il ne fait que suivre des instructions ? Réponse : il ne pense pas. Il ne fait que suivre des instructions. Ce qui ressemble à du raisonnement pour les utilisateurs de l’IA, c’est le raisonnement codé dans le modèle par des programmeurs humains. Cela semble être du raisonnement parce que les instructions qu’il suit ont été élaborées par un raisonnement humain. Ce sont simplement des instructions écrites qui sont exécutées. Rien de plus.

Shai Tubali : Comment l’IA modifie discrètement notre conception de l’esprit humain

| Catégories : Actualités, Tubali Shai | Mots-clés : , , , , ,

Cette manière de penser, dit Seth, risque de « mécaniser nos esprits » d’une façon qui « réduit et appauvrit ce que signifie être humain ». Après tout, les êtres humains diffèrent des modèles de langage à bien des égards : par leur expérience vécue, leur conscience et leur constitution même. Si nous nous considérons comme des « algorithmes incarnés », soutient Seth, nous risquons de perdre « presque tout ce qu’il y a d’intéressant » — tout ce qui fait de nous ce que nous sommes. Peu à peu, cette conception nous sépare du reste de la nature, jusqu’à nous amener à nous considérer comme « appartenant au domaine de l’artificiel, du fabriqué, du non naturel ».

James Corbett : L’Illusion Claude

| Catégories : Actualités, Corbett James | Mots-clés : , ,

Et c’est là que réside le véritable danger de l’Illusion Claude. Ce n’est pas que les chatbots puissent nous plonger dans la psychose. Et ce n’est certainement pas que les chatbots puissent réellement être conscients. C’est que, lorsque nous affirmons que ces machines sont « conscientes » et « intelligentes », nous dévalorisons et négligeons ainsi notre propre humanité. Que nous en soyons conscients ou non, nous ne pouvons affirmer la conscience des machines qu’en nous abaissant à leur niveau.

Carsten Eickhoff : La moitié des réponses de l’IA en matière de santé sont erronées, même si elles semblent convaincantes — nouvelle étude

| Catégories : Actualités | Mots-clés : ,

Il existe une raison simple pour laquelle les chatbots se trompent sur des questions médicales. Les modèles de langage ne « savent » rien. Ils prédisent le mot suivant le plus probable sur le plan statistique en fonction de leurs données d’entraînement et du contexte. Ils ne pèsent pas les preuves et ne portent pas de jugements de valeur. Leurs données d’entraînement incluent des articles évalués par les pairs, mais aussi des discussions sur Reddit, des blogs de bien-être et des débats sur les réseaux sociaux.

Tamilla Triantoro : Les IA ont des « personnalités » — voici comment elles vous affectent plus profondément que vous ne le pensez

| Catégories : Actualités | Mots-clés : , ,

Les modèles d’intelligence artificielle n’ont pas de personnalité au sens humain ; ils n’ont ni enfance, ni motivations internes, ni conscience de soi. Mais ils présentent des schémas de comportement que les gens interprètent comme une personnalité : de soutien ou dédaigneuse, ludique ou formelle, audacieuse ou prudente. Les humains entretiennent depuis longtemps des relations de type humain avec les machines. Nous remercions les assistants vocaux, et nous nous agaçons contre les systèmes GPS. Mais les grands modèles de langage introduisent quelque chose de plus durable : ils peuvent maintenir un style d’interaction reconnaissable d’une conversation à l’autre.

les pairs » : Bixonimania : comment l’IA a transformé un diagnostic inventé en « médecine évaluée

| Catégories : Actualités | Mots-clés : , , , ,

Un chercheur a inventé une fausse affection oculaire appelée bixonimanie, a téléversé deux articles manifestement frauduleux à son sujet sur un serveur académique, et a vu les principaux systèmes d’IA la présenter comme une réalité médicale en quelques semaines.

Christof Koch : L’IA peut-elle être consciente ?

| Catégories : Actualités, Koch Christof | Mots-clés : , ,

Le Dr Koch soutient que, comme les ordinateurs dotés d’IA possèdent une structure à propagation avant (feed-forward) semblable fortement à celle du cervelet humain — dont on sait empiriquement qu’il n’est pas impliqué dans la conscience humaine —, nous n’avons aucune raison de nous attendre à ce que ces ordinateurs aient une vie intérieure consciente qui leur soit propre. Il étaye davantage son argument par la prédiction claire et quantifiée de la théorie de l’information intégrée (IIT), selon laquelle les systèmes à faible information intégrée, tels que les ordinateurs à silicium mettant en œuvre de grands modèles de langage, ne ressentent rien de l’intérieur.

Shai Tubali : La vie intérieure que nous sommes en train de céder

| Catégories : Tubali Shai | Mots-clés : , , , , , ,

Notre civilisation est devenue incroyablement efficace pour produire de nouvelles connaissances technologiques et scientifiques. Pourtant, la dynamique même qui anime ce progrès fait pencher la balance. Elle « privilégie de plus en plus l’action au détriment du simple fait d’être attentif, d’être assis au sommet d’une montagne et d’admirer le paysage », explique Koch. Dans un monde où le comportement a le plus de poids, les machines qui accomplissent les mêmes tâches que nous commencent à nous ressembler de manière troublante. Si les systèmes sont de plus en plus capables de faire ce que nous faisons, demande Koch, est-il important que les machines « ne ressentent peut-être rien » alors que l’humain « ressent quelque chose » ?

Shai Tubali : Le coût caché de laisser l’IA vous simplifier la vie

| Catégories : Actualités, Tubali Shai | Mots-clés : , ,

Lorsque nous louons le travail de quelqu’un, nous nous intéressons généralement à celui qui l’a réellement accompli. Nous nous demandons si cette personne possède les compétences qui ont rendu cette réalisation possible. Nyholm donne un exemple simple. Si vous voulez savoir si quelqu’un est capable d’écrire de la poésie, et que vous découvrez qu’il a demandé à un grand modèle de langage de produire un poème avant d’y apposer sa signature, vous n’apprenez rien de ses capacités. Le poème en lui-même peut être impressionnant. Il pourrait même remporter un prix. Pourtant, il manque quelque chose d’essentiel.