C'est nous qui sommes dangereux, pas les machines


INTELLIGENCE ARTIFICIELLE: Un ordinateur peut vous battre, mais essayez de voir la différence entre les chats et les chiens. Est-ce à dire que ce n'est pas intelligent?

Critique littéraire aux temps modernes.
Email: henning.ness@icloud.com
Publié: 2020-02-07
Intelligence artificielle - Un guide pour penser les humains
Auteur: Melanie Mitchell
Pelican Books, Royaume-Uni

Experts en intelligence artificielle (KI) est principalement divisé en deux camps: ceux qui sont convaincus que les machines transmettront les humains à l'intelligence dans un temps relativement court et qui craignent les conséquences que cela aura pour l'humanité, et ceux qui sont convaincus que les machines ne pourront jamais devenir plus intelligent que nous et croire donc qu'il n'y a pas grand-chose à craindre.

L'auteur Melanie Mitchell appartient définitivement à cette dernière catégorie.

Mitchell est professeur de informatique à l'Université de Portland et a travaillé avec la pensée analogique, les systèmes complexes, les algorithmes génétiques et les automates cellulaires (modélisation mathématique). Elle a plusieurs livres et publications derrière elle, entre autres Une introduction aux algorithmes génétiques (1996). Elle affirme que même si une machine a réussi à se rendre imbattable aux échecs, cela ne suffit pas pour autre chose.

Je pense qu'elle semble trop décontractée dans ses vues. Il est vrai que ce qui est facile à apprendre pour les humains est difficile pour les machines, mais l'inverse s'applique également. Le plus gros problème, en revanche, est que les machines et les humains ont du mal à se comprendre. Il est difficile pour nous de comprendre pourquoi les machines intelligentes recherchent quelque chose que même les petits enfants peuvent gérer aussi facilement que rien - comme faire la distinction entre un chien et un chat sur une photo.

Nous, humains, avons tendance à surestimer l'intelligence des machines et à les sous-estimer
le nôtre.

Les ordinateurs sont rapides comme l'éclair pour apprendre les règles de différents jeux, mais ont de grands défis à expliquer Pourquoi ils font comme ils le font d'une manière que nous pouvons comprendre. C'est à peine compréhensible pour la machine non plus. Mais quand on regarde à quelle vitesse l'informatique a évolué, peu de choses peuvent être exclues à l'avenir. Le livre est beaucoup trop petit sur la fusion entre l'homme et la machine.

Abonnement semestriel 450 NOK

explication problème

Une personne peut facilement expliquer pourquoi elle a choisi de marcher dans le parc plutôt que de laver la maison. Mais comment une machine peut-elle expliquer pourquoi elle a choisi une fonction spécifique sur l'échiquier et non l'une des milliards d'autres options? Ça ne peut pas. Elle ne comprend pas non plus qu'elle a gagné, ni ce que signifie "gagner". Il ne peut pas non plus profiter de la victoire. On peut donc le rejeter comme "inintelligent".

Mais les idiots peuvent être plus dangereux que les smarties. Le fait qu'une machine soit stupide ne prouve donc pas qu'elle ne peut pas être dangereuse à l'avenir.

"Je suis terrifié. Il suffit de sauver des vies. »Douglas Hofstadter

Étant donné que la vitesse de développement a été si énorme dans ce domaine, il est bien sûr facile de croire que cela implique que la machine gagne rapidement en puissance. Peut-être trop facile. Dans les années 1980, il est devenu informaticien et physicien Douglas Hofstadter lui a demandé s'il pensait qu'une machine pourrait devenir un champion du monde d'échecs, ce à quoi il a clairement répondu non. Quand il a réalisé à quel point il s'était trompé, l'horreur l'a emporté: lors d'une réunion avec les ingénieurs de Google dans les années 2000, Hofstadter a déclaré: "Je suis terrifié. Il suffit de sauver des vies. "

Développement aventureux

Le développement des compétences des différentes machines dans les années 1970 décrit Mitchell comme une aventure. Maintenant, l'aventure est devenue vraiment d'une manière que peu de gens pourraient imaginer, et vous pouvez la décrire comme la relation entre raconter une aventure et faire partie de l'aventure elle-même. Faire partie d'une aventure est probablement amusant, jusqu'à ce que vous réalisiez que l'homme a le rôle de Red Hood, alors que la machine est comme le loup - et que l'aventure est devenue réalité.

Heimat Ahmadi, voir www.libex.eu
Heimat Ahmadi, voir www.libex.eu

Interrogé: «Dans quelle mesure devrions-nous avoir peur du développement de KI?», Mitchell répond: «Il est naturel d'avoir peur lorsque nous regardons des films et lisons des livres de science-fiction sur le développement de KI. Mais c'est de la pure fiction. "

Mais elle mentionne également que nous sommes encore loin de pouvoir atteindre l'état "d'intelligence artificielle générale" [des systèmes qui peuvent être entraînés jusqu'à pratiquement n'importe quoi, ndlr], également appelé "The Alignment Challenge".

Mitchell a plus peur de la stupidité qui l'emporte que de l'intelligence elle-même. Je crois moi-même que le point n'est pas là, mais dans ce que le phénomène fait de nous, car que nous l'appelions stupidité ou intelligence, peu importe si le phénomène menace notre existence.

Elle répond sans équivoque: "Dans toutes les hypothèses à court terme sur la superintelligence de l'IA, gagner les humains devrait être loin dans la liste."

Permettez-moi de dire qu'un expert comme Ray Kurzweil pense quelque chose de complètement différent. Par exemple, Kurzweil a prédit (dans le livre The Age of Intelligent Machines, 1990) qu'un ordinateur pourrait battre un être humain à l'avenir, ce qui s'est produit sept ans plus tard lorsque Deep Blue d'IBM a battu Kasparov, alors champion du monde d'échecs.

Faux médias

"Nous devons être conscients des limites inhérentes aux nouveaux systèmes, sauf si nous finissons par les surestimer", écrit Mitchell. Bien que je pense que Mitchell semble trop insouciante en ce qui concerne la vitesse à laquelle les machines peuvent évoluer et la vitesse à laquelle nous pouvons en perdre le contrôle, elle a de nombreux bons points. L'un des principaux points est que nous, les humains, avons tendance à surestimer l'intelligence des machines et à sous-estimer la nôtre - c'est nous qui sommes dangereux, pas les machines. D'abord et avant tout, les humains devraient craindre leurs propres possibilités, car au moment où les machines deviennent vraiment dangereuses, il est peut-être trop tard.

Elle exprime une certaine inquiétude quant à la façon dont les machines pourraient être utilisées. Elle craint notamment les complications de notre utilisation des machines au sein de ce qu'on appelle faux médias: texte, images, audio et vidéos qui peuvent être manipulés d'une manière que les gens ordinaires ne peuvent pas voir.

Elle met également en garde contre l'utilisation contraire à l'éthique des algorithmes. à nouveau; nous devons surtout nous craindre, pas les machines. Mais le problème est que la frontière entre les humains et les machines est sur le point d'être floue.

Laisser un commentaire

(Nous utilisons Akismet pour réduire le spam.)