Étiquette : Intelligence artificielle

Carsten Eickhoff : La moitié des réponses de l’IA en matière de santé sont erronées, même si elles semblent convaincantes — nouvelle étude

| Catégories : Actualités | Mots-clés : ,

Il existe une raison simple pour laquelle les chatbots se trompent sur des questions médicales. Les modèles de langage ne « savent » rien. Ils prédisent le mot suivant le plus probable sur le plan statistique en fonction de leurs données d’entraînement et du contexte. Ils ne pèsent pas les preuves et ne portent pas de jugements de valeur. Leurs données d’entraînement incluent des articles évalués par les pairs, mais aussi des discussions sur Reddit, des blogs de bien-être et des débats sur les réseaux sociaux.

Tamilla Triantoro : Les IA ont des « personnalités » — voici comment elles vous affectent plus profondément que vous ne le pensez

| Catégories : Actualités | Mots-clés : , ,

Les modèles d’intelligence artificielle n’ont pas de personnalité au sens humain ; ils n’ont ni enfance, ni motivations internes, ni conscience de soi. Mais ils présentent des schémas de comportement que les gens interprètent comme une personnalité : de soutien ou dédaigneuse, ludique ou formelle, audacieuse ou prudente. Les humains entretiennent depuis longtemps des relations de type humain avec les machines. Nous remercions les assistants vocaux, et nous nous agaçons contre les systèmes GPS. Mais les grands modèles de langage introduisent quelque chose de plus durable : ils peuvent maintenir un style d’interaction reconnaissable d’une conversation à l’autre.

les pairs » : Bixonimania : comment l’IA a transformé un diagnostic inventé en « médecine évaluée

| Catégories : Actualités | Mots-clés : , , , ,

Un chercheur a inventé une fausse affection oculaire appelée bixonimanie, a téléversé deux articles manifestement frauduleux à son sujet sur un serveur académique, et a vu les principaux systèmes d’IA la présenter comme une réalité médicale en quelques semaines.

Christof Koch : L’IA peut-elle être consciente ?

| Catégories : Actualités, Koch Christof | Mots-clés : , ,

Le Dr Koch soutient que, comme les ordinateurs dotés d’IA possèdent une structure à propagation avant (feed-forward) semblable fortement à celle du cervelet humain — dont on sait empiriquement qu’il n’est pas impliqué dans la conscience humaine —, nous n’avons aucune raison de nous attendre à ce que ces ordinateurs aient une vie intérieure consciente qui leur soit propre. Il étaye davantage son argument par la prédiction claire et quantifiée de la théorie de l’information intégrée (IIT), selon laquelle les systèmes à faible information intégrée, tels que les ordinateurs à silicium mettant en œuvre de grands modèles de langage, ne ressentent rien de l’intérieur.

Shai Tubali : La vie intérieure que nous sommes en train de céder

| Catégories : Tubali Shai | Mots-clés : , , , , , ,

Notre civilisation est devenue incroyablement efficace pour produire de nouvelles connaissances technologiques et scientifiques. Pourtant, la dynamique même qui anime ce progrès fait pencher la balance. Elle « privilégie de plus en plus l’action au détriment du simple fait d’être attentif, d’être assis au sommet d’une montagne et d’admirer le paysage », explique Koch. Dans un monde où le comportement a le plus de poids, les machines qui accomplissent les mêmes tâches que nous commencent à nous ressembler de manière troublante. Si les systèmes sont de plus en plus capables de faire ce que nous faisons, demande Koch, est-il important que les machines « ne ressentent peut-être rien » alors que l’humain « ressent quelque chose » ?

Shai Tubali : Le coût caché de laisser l’IA vous simplifier la vie

| Catégories : Actualités, Tubali Shai | Mots-clés : , ,

Lorsque nous louons le travail de quelqu’un, nous nous intéressons généralement à celui qui l’a réellement accompli. Nous nous demandons si cette personne possède les compétences qui ont rendu cette réalisation possible. Nyholm donne un exemple simple. Si vous voulez savoir si quelqu’un est capable d’écrire de la poésie, et que vous découvrez qu’il a demandé à un grand modèle de langage de produire un poème avant d’y apposer sa signature, vous n’apprenez rien de ses capacités. Le poème en lui-même peut être impressionnant. Il pourrait même remporter un prix. Pourtant, il manque quelque chose d’essentiel.

Sarah Whitcombe-Dobbs : Pourquoi l’exposition des jeunes enfants à des contenus liés à l’IA pourrait avoir des conséquences irréversibles

| Catégories : Actualités, Education | Mots-clés : ,

La seule façon de savoir comment l’IA pourrait affecter les jeunes enfants serait de mener des études longitudinales bien conçues. Mais d’ici à ce que des preuves solides émergent, toute une génération aura grandi en y étant exposée — et s’il existe effectivement des effets néfastes, ceux-ci pourraient être irréversibles.

Arryn Robbins, Eben W. Daggett et Michael Hout : L’IA ne « voit » pas comme vous — et cela peut poser problème lorsqu’elle catégorise des objets et des scènes

| Catégories : Actualités | Mots-clés : ,

Même sans fourrure visible dans l’image, vous pouvez facilement reconnaître qu’une photo d’un chat Sphynx représente un chat. Vous ne le confondriez pas avec un éléphant. Pourtant, de nombreux systèmes de vision par intelligence artificielle le feraient. Pourquoi ? Parce que, lorsque les systèmes d’IA apprennent à catégoriser des objets, ils s’appuient souvent sur des indices visuels — comme la texture de surface ou de simples motifs dans les pixels. Cette tendance les rend vulnérables à de petites modifications qui ont très peu d’effet sur la perception humaine.

Intelligence, ordinateurs et esprit mécanique IV. Discussion avec Krishnamurti

| Catégories : Entretien/Interview, Krishnamurti J. | Mots-clés : , , , ,

La pensée est un instrument usé. Je pense qu’elle a atteint ses limites, son point d’attache, car elle n’a pas résolu le problème humain. Alors, y a-t-il une façon de voir qui ne soit pas la pensée, mais qui, au lieu d’aller vers l’extérieur, vers les cieux et tout cela, se tourne vers l’intérieur ? Ce mouvement intérieur est l’infini.

James Corbett : Les guerres de l’IA : vous n’êtes pas préparés

| Catégories : Actualités, Corbett James | Mots-clés : , , , ,

La vraie question n’est donc pas de savoir comment cette technologie d’IA sera utilisée comme arme contre « nos » « ennemis » sur l’échiquier mondial (quels qu’ils soient), mais comment cette technologie sera utilisée comme arme contre nous. Après tout, qui peut voir les essaims de drones, les robots humanoïdes et les robots de combat autonomes sur les champs de bataille sans imaginer que cette technologie sera utilisée par les gouvernements du monde entier principalement contre leurs propres populations ?