Étiquette : Intelligence artificielle

Shai Tubali : Comment l’IA modifie discrètement notre conception de l’esprit humain

| Catégories : Actualités, Tubali Shai | Mots-clés : , , , , ,

Cette manière de penser, dit Seth, risque de « mécaniser nos esprits » d’une façon qui « réduit et appauvrit ce que signifie être humain ». Après tout, les êtres humains diffèrent des modèles de langage à bien des égards : par leur expérience vécue, leur conscience et leur constitution même. Si nous nous considérons comme des « algorithmes incarnés », soutient Seth, nous risquons de perdre « presque tout ce qu’il y a d’intéressant » — tout ce qui fait de nous ce que nous sommes. Peu à peu, cette conception nous sépare du reste de la nature, jusqu’à nous amener à nous considérer comme « appartenant au domaine de l’artificiel, du fabriqué, du non naturel ».

James Corbett : L’Illusion Claude

| Catégories : Actualités, Corbett James | Mots-clés : , ,

Et c’est là que réside le véritable danger de l’Illusion Claude. Ce n’est pas que les chatbots puissent nous plonger dans la psychose. Et ce n’est certainement pas que les chatbots puissent réellement être conscients. C’est que, lorsque nous affirmons que ces machines sont « conscientes » et « intelligentes », nous dévalorisons et négligeons ainsi notre propre humanité. Que nous en soyons conscients ou non, nous ne pouvons affirmer la conscience des machines qu’en nous abaissant à leur niveau.

Carsten Eickhoff : La moitié des réponses de l’IA en matière de santé sont erronées, même si elles semblent convaincantes — nouvelle étude

| Catégories : Actualités | Mots-clés : ,

Il existe une raison simple pour laquelle les chatbots se trompent sur des questions médicales. Les modèles de langage ne « savent » rien. Ils prédisent le mot suivant le plus probable sur le plan statistique en fonction de leurs données d’entraînement et du contexte. Ils ne pèsent pas les preuves et ne portent pas de jugements de valeur. Leurs données d’entraînement incluent des articles évalués par les pairs, mais aussi des discussions sur Reddit, des blogs de bien-être et des débats sur les réseaux sociaux.

Tamilla Triantoro : Les IA ont des « personnalités » — voici comment elles vous affectent plus profondément que vous ne le pensez

| Catégories : Actualités | Mots-clés : , ,

Les modèles d’intelligence artificielle n’ont pas de personnalité au sens humain ; ils n’ont ni enfance, ni motivations internes, ni conscience de soi. Mais ils présentent des schémas de comportement que les gens interprètent comme une personnalité : de soutien ou dédaigneuse, ludique ou formelle, audacieuse ou prudente. Les humains entretiennent depuis longtemps des relations de type humain avec les machines. Nous remercions les assistants vocaux, et nous nous agaçons contre les systèmes GPS. Mais les grands modèles de langage introduisent quelque chose de plus durable : ils peuvent maintenir un style d’interaction reconnaissable d’une conversation à l’autre.

les pairs » : Bixonimania : comment l’IA a transformé un diagnostic inventé en « médecine évaluée

| Catégories : Actualités | Mots-clés : , , , ,

Un chercheur a inventé une fausse affection oculaire appelée bixonimanie, a téléversé deux articles manifestement frauduleux à son sujet sur un serveur académique, et a vu les principaux systèmes d’IA la présenter comme une réalité médicale en quelques semaines.

Christof Koch : L’IA peut-elle être consciente ?

| Catégories : Actualités, Koch Christof | Mots-clés : , ,

Le Dr Koch soutient que, comme les ordinateurs dotés d’IA possèdent une structure à propagation avant (feed-forward) semblable fortement à celle du cervelet humain — dont on sait empiriquement qu’il n’est pas impliqué dans la conscience humaine —, nous n’avons aucune raison de nous attendre à ce que ces ordinateurs aient une vie intérieure consciente qui leur soit propre. Il étaye davantage son argument par la prédiction claire et quantifiée de la théorie de l’information intégrée (IIT), selon laquelle les systèmes à faible information intégrée, tels que les ordinateurs à silicium mettant en œuvre de grands modèles de langage, ne ressentent rien de l’intérieur.

Shai Tubali : La vie intérieure que nous sommes en train de céder

| Catégories : Tubali Shai | Mots-clés : , , , , , ,

Notre civilisation est devenue incroyablement efficace pour produire de nouvelles connaissances technologiques et scientifiques. Pourtant, la dynamique même qui anime ce progrès fait pencher la balance. Elle « privilégie de plus en plus l’action au détriment du simple fait d’être attentif, d’être assis au sommet d’une montagne et d’admirer le paysage », explique Koch. Dans un monde où le comportement a le plus de poids, les machines qui accomplissent les mêmes tâches que nous commencent à nous ressembler de manière troublante. Si les systèmes sont de plus en plus capables de faire ce que nous faisons, demande Koch, est-il important que les machines « ne ressentent peut-être rien » alors que l’humain « ressent quelque chose » ?

Shai Tubali : Le coût caché de laisser l’IA vous simplifier la vie

| Catégories : Actualités, Tubali Shai | Mots-clés : , ,

Lorsque nous louons le travail de quelqu’un, nous nous intéressons généralement à celui qui l’a réellement accompli. Nous nous demandons si cette personne possède les compétences qui ont rendu cette réalisation possible. Nyholm donne un exemple simple. Si vous voulez savoir si quelqu’un est capable d’écrire de la poésie, et que vous découvrez qu’il a demandé à un grand modèle de langage de produire un poème avant d’y apposer sa signature, vous n’apprenez rien de ses capacités. Le poème en lui-même peut être impressionnant. Il pourrait même remporter un prix. Pourtant, il manque quelque chose d’essentiel.

Sarah Whitcombe-Dobbs : Pourquoi l’exposition des jeunes enfants à des contenus liés à l’IA pourrait avoir des conséquences irréversibles

| Catégories : Actualités, Education | Mots-clés : ,

La seule façon de savoir comment l’IA pourrait affecter les jeunes enfants serait de mener des études longitudinales bien conçues. Mais d’ici à ce que des preuves solides émergent, toute une génération aura grandi en y étant exposée — et s’il existe effectivement des effets néfastes, ceux-ci pourraient être irréversibles.

Arryn Robbins, Eben W. Daggett et Michael Hout : L’IA ne « voit » pas comme vous — et cela peut poser problème lorsqu’elle catégorise des objets et des scènes

| Catégories : Actualités | Mots-clés : ,

Même sans fourrure visible dans l’image, vous pouvez facilement reconnaître qu’une photo d’un chat Sphynx représente un chat. Vous ne le confondriez pas avec un éléphant. Pourtant, de nombreux systèmes de vision par intelligence artificielle le feraient. Pourquoi ? Parce que, lorsque les systèmes d’IA apprennent à catégoriser des objets, ils s’appuient souvent sur des indices visuels — comme la texture de surface ou de simples motifs dans les pixels. Cette tendance les rend vulnérables à de petites modifications qui ont très peu d’effet sur la perception humaine.