Idiotie artificielle et intelligence naturelle

Le vrai danger de l'intelligence artificielle est que nous nous soumettons à des bureaucrates bureaucratiques qui ne savent pas comment enfreindre les règles.

Philosophe. Critique littéraire régulier à Ny Tid. Traducteur.
Intelligence artificielle – Contre la reddition de l'humanité aux ordinateurs
Forfatter: Harry Collins
Forlag: Polity Press (Storbritannia)

Le vrai danger de l'intelligence artificielle est que nous nous soumettons à des bureaucrates bureaucratiques qui ne savent pas comment enfreindre les règles.

Ce livre est évidemment critique, et le titre, Intelligence artificielle, suggère où se situe le problème: avec l'aide de la science-fiction et d'un secteur informatique auto-lucratif, la croyance en une intelligence artificielle omnipotente s'empare de. A l'abri de cette idéologie sur les possibilités du futur l'intelligence artificielle que nous décorons a en fait – imparfait, faillible et ennuyeux – dans des domaines de plus en plus nombreux de la société. Aveuglés par un succès relatif, nous sommes devenus envahissants face aux faiblesses des robots parlants et des assistants numériques.

Un battage médiatique déterministe

L'alliance de l'industrie technologique avec – et sa faiblesse pour – la science-fiction aboutit souvent à des fantasmes sur la prise de contrôle de robots, qui en pratique fonctionne dans le cadre d'un déterminisme battage, bien que les histoires ne soient jamais aussi dystopiques, souligne Collins. Que l'idée que l'intelligence artificielle «envahisse presque nécessairement le monde» ait été soutenue par des autorités telles que Stephen Hawking est assez inquiétant. Qu'Elon Musk affirme que nous devrions connecter les cerveaux aux systèmes informatiques pour «ne pas être rendus inutiles» par les ordinateurs – et que lui-même développe cette technologie – est pire. Que Ray Kurzweil, l'auteur de La singularité est proche, la bible même pour ceux qui croient en la superintelligence artificielle, également le patron du puissant Google, est peut-être le pire.

Malgré de tels exemples, affirme Collins, la croyance en l'intelligence artificielle est bien plus grande parmi les philosophes, les biologistes évolutionnistes et le grand public que parmi ceux qui connaissent vraiment le domaine. Le manque de connaissances spécialisées nous fait faire confiance à des experts à l'agenda mitigé, tandis que les films nous habituent à une vision douteuse du monde de demain.

Illégal mais neutre

Des films comme Son, où le personnage principal tombe amoureux d'un talkbot d'être trahi par 641 autres hommes, ou Ex Machina, où un robot amoureux se venge de son créateur, sont des symptômes culturels intéressants, dit Collins – mais la pathologie sous-jacente réside dans une incapacité à faire la distinction entre la simulation et la réalité. Nous projetons l'humain sur les machines et le mécanique sur l'humain, et effaçons ainsi la distinction. Les ordinateurs peuvent ne pas être loyaux ou aimants, souligne-t-il sobrement, mais ils ne sont pas non plus mauvais ou manipulateurs.

Les arguments de Collins sont en partie basés sur l'étudiant Heidegger Hubert Dreyfus de l'UC Berkeley – et son livre au titre révélateur Ce que les ordinateurs ne peuvent pas faire (1971) et la suite Ce que les ordinateurs ne peuvent toujours pas faire (1991). Voici l'argument selon lequel une intelligence artificielle a besoin d'un corps pour être dans le monde d'une manière qui donne un sens aux mots – par exemple des mots comme «bien» et «mal». Lorsque l'intelligence artificielle ne parvient pas à se faire passer pour un être humain, c'est à cause des parties de l'intelligence qui dépendent des interactions corporelles et linguistiques avec les autres – pas seulement le langage corporel, mais la communication linguistique qui fournit une sensibilité affinée à la confiance. , désaccord, ironie et violations créatives.

L'angle mort des machines

L'apprentissage des langues implique donc une connaissance tacite que l'on ne peut pas simplement rendre explicite et simuler dans un programme. Depuis la sortie des livres de Dreyfus, il a commencé à sembler que même le sens de l'ironie et de l'humour peut être appris en faisant l'expérience de violations passées et de doubles significations, une expérience qui peut apparemment être acquise grâce au big data. Le couronnement de cette percée est le programme Watson, qui bat les gens dans le jeu Jeopardy en parcourant des millions de pages en ligne. Il reconnaît les modèles et comprend les jeux de mots basés sur des cas précédents et des analyses basées sur les probabilités.

Alors que les humains restent les mêmes, la capacité de traitement des machines augmente de manière exponentielle, et ils peuvent trouver des modèles toujours plus avancés dans des collections de données toujours plus grandes. La singularité est proche, confirme Kurzweil, réfutant toutes les réserves par une provocation pointue, que Collins considère comme une clé: "Si la reconnaissance de formes ne" compte "pas comme une vraie compréhension, les gens ne comprennent pas non plus." Collins dit le contraire: reconnaître les choses n'est qu'une petite partie de la connaissance. Notre compréhension naît non seulement de la reconnaissance des choses dans le monde, mais aussi du fait que nous acquérons un nombre infini de façons d’ordonner le monde, des façons qui sont culturellement conditionnées, infiniment nuancées et en constante évolution.

Diverses interprétations

La connaissance naît d'un jeu complexe d'expérience, de langage et de relations sociales. En tant que sociologue des sciences, Collins est devenu un expert du phénomène lui-même compétence. En examinant comment les connaissances sont développées, testées et débattues dans des environnements par des spécialistes, il peut également dire quelque chose sur les chances de percée de l'intelligence artificielle.

Alors que les humains restent les mêmes, la capacité de traitement des machines augmente de façon exponentielle.

Collins a étudié pendant de nombreuses années l'environnement en tant que chercheur sur les ondes gravitationnelles, et a donc également suffisamment appris sur la physique pour participer à une conversation significative sur le sujet. Une telle familiarité avec le discours, admet-il, est une sorte de simulation qu'un ordinateur pourrait être capable de réaliser. Cependant, pouvoir parler d'un sujet ne suffit pas pour lui donner le pouvoir de contredire les chercheurs: il ne peut pas décider si une déclaration controversée est une blague avancée, une entrée ingénieuse ou due à un profond malentendu. Une compréhension basée sur la reconnaissance de formes sera toujours basée sur les connaissances qui existent déjà, mais la science est basée sur le désaccord dans la recherche de nouvelles connaissances. Cela nécessite vraiment une expertise, comprise comme jugement.

Scepticisme sain

Le grand danger de croire en l'intelligence artificielle est que nous ne comprenons pas ce qu'est l'intelligence naturelle. Que toutes les connaissances doivent consister en l'analyse des données disponibles est une image aplatie de l'apprentissage et une vision plus profonde de la réalité. Le monde n'est pas une collection de faits finis, mais peut être vu de différentes manières qui sont en partie contradictoires et en partie complémentaires. C'est le point essentiel du livre, qui dans la partie de Collins se noie dans une longue série d'arguments subtils. Néanmoins, la force du livre réside précisément dans sa fixation sur les détails – dans la volonté de l'auteur d'enquêter et de contester point par point les lacunes de l'intelligence artificielle au nom du scepticisme scientifique. Une discussion sur les conséquences de ce qu'il appelle la «reddition» de l'intelligence artificielle va au-delà du projet du livre. Néanmoins, le livre apparaît comme une défense sobre d'un humanisme en danger à l'ère du posthumanisme délirant.

 

Abonnement NOK 195 trimestre