Commandez l'édition de printemps avec le document d'avertissement ici

"Vous êtes mon créateur, mais je suis votre seigneur – obéissez!"

FRANKENSTEIN: À propos des drones tueurs, de l'intelligence artificielle et de Frankenstein. Il est devenu plus facile de se battre – et plus dangereux. Si, ou quand, les machines elles-mêmes prennent le relais, l'humanité peut soudainement se trouver du mauvais côté de la table.

(Traduit automatiquement depuis Norsk par Gtranslate (Google étendu))

Condorcet écrit dans Esquisse pour une image historique du progrès de l'esprit humain (1795): «Un chimiste qui a mélangé des matières combustibles avec des nitrates, a découvert le secret de la poudre qui a apporté une révolution aussi inattendue dans l'art de la guerre. Malgré l'effet cruel des armes à feu pour démanteler une armée, ils ont rendu la guerre moins meurtrière et les combattants moins brutaux. Les expéditions militaires sont devenues plus chères; la richesse peut l'emporter sur la force; même les peuples les plus belligérants ressentent le besoin de se procurer et de sécuriser les ressources des campagnes en acquérant les richesses du commerce et de l'artisanat. Les nations cultivées n'ont plus rien à craindre du courage aveugle des tribus barbares. Les grandes conquêtes et les révolutions ultérieures sont devenues presque impossibles. " [Ma traduction, de «Septième époque».]

tue les drones

Tuer des drones est un nouveau type d'arme qui rend également la guerre moins meurtrière et nécessite moins de brutalité de la part des combattants. Mais de quel genre de guerre s'agit-il vraiment? N'est-ce pas plus une chasse à l'homme? Clausewitz décrit la guerre comme un duel, mais cette noblesse appartient à une époque plus récente. DANS politique décrit Aristote guerre comme chasse. Il énumère les cinq professions les plus importantes des gens: l'élevage; agriculture; pêche; chasse aux animaux sauvages, aux humains (esclaves) et au pillage; et enfin la chasse aux personnes et aux choses (guerre). La chasse et la guerre nécessitent les mêmes outils et compétences.

C'était sous Obama que les États-Unis ont sérieusement utilisé des drones meurtriers. Pourquoi? Pour se débarrasser des tactiques extrajudiciaires de capture et d'interrogatoire des suspects qui étaient la lignée de George Bush junior. Aussi: pour éviter d'être accusé de torture. La CIA a poussé à changer cette politique, car c'était toujours la CIA qui était à blâmer quand quelque chose n'allait pas. Par conséquent: mieux vaut tuer. La critique du traitement des prisonniers a conduit à plusieurs reprises les conservateurs à affirmer que les principes libéraux de la sécurité nationale conduisent à plus de mauvais traitements qu'ils n'en préviennent.

Après la crise financière de 2008, la volonté de suivre des interventions coûteuses et compliquées en Irak et en Afghanistan n'était plus présente. Surtout quand il s'est avéré que les soldats que les États-Unis avaient fourni des exercices de tir n'ont pas commencé à tirer sur leurs professeurs. En 2011, les États-Unis ont mené une frappe de drone au Pakistan tous les quatre jours. La CIA a reçu de la Maison Blanche l'autorisation de mener des attaques à la roquette au Pakistan, même lorsque les opérateurs de drones de la CIA n'étaient pas pleinement conscients de qui ou de quoi ils tuaient.

Mary Shelleys Frankenstein

Dans Mary Shelleys Frankenstein (1818, norvégien 2005 [1976]) fait l'expérience du personnage principal, Victor Frankenstein, que sa mère meurt jeune. Voici une trace de son travail pour créer le monstre: «[Si] je pouvais donner vie à la matière morte, je pourrais éventuellement (même si je le trouvais maintenant impossible) être capable de ressusciter là où la mort avait apparemment renvoyé un corps à putréfaction. " Il est obsédé par le fait que cela se produise et ne découvre pas avant d'avoir terminé à quel point la créature ne réussit pas. Le monstre qu'il ne veut pas connaître finit par disparaître et subit un développement qui récapitule la description de Rousseau dans De l'inégalité entre les gens de la façon dont l'homme naturel devient un homme social.

Dans Frankenstein de Mary Shelley, le monstre a eu une idée de ce que Frankenstein a
l'a privé en le laissant à lui-même avec son aspect horrible.

Tout le monde a l'amour de soi, mais seul l'être humain a l'amour de soi:
«[Un] sentiment relatif, créé artificiellement par la société; il pousse chaque individu à faire plus de lui-même que quiconque, il inspire les gens au mal qu'ils se font les uns aux autres et est la véritable source d'honneur. " Le monstre s'est fait une idée de ce que Frankenstein lui a volé en le laissant à lui-même avec son apparence horrible. Il frappe un petit garçon qui crie et accable le monstre d'insultes. «Monstre abominable! Laissez-moi partir; Mon père est conseiller municipal – c'est M. Frankenstein – il va vous punir. " (…) «Frankenstein! Alors tu appartiens à mon ennemi – celui contre qui j'ai promis une vengeance éternelle. Tu seras ma première victime. " Med «M. Frankenstein »dit le garçon de sept ans Monsieur Frankenstein. Il est probable que le monstre pense que le petit garçon est le fils de Victor, mais c'est en fait le petit frère de Victor (ils ont tous les deux Alphonso comme père). Donc le monstre tue une autre personne qu'il ne le pense. De plus, il fait un acte rusé qui en blâme un autre: le monstre a pris avec moi une miniature (un bijou) du petit garçon mort. Cela le place alors sur l'une des femmes qui le cherche. Elle finit par être pendue pour le meurtre.

Wiliam est mort

Un laboratoire de solutions de villes intelligentes

Le problème de la mauvaise personne prise par des jours de meurtre de drones est toujours présent. Les drones espions profilent le comportement de l'ennemi: rythme de mouvement, répétition, densification, etc. Ici, l'inspiration a été tirée des émissions sportives modernes, où de nombreuses caméras sont utilisées et tous les mouvements possibles sont enregistrés et prospectés. Les indices peuvent ainsi être utilisés pour tuer des personnes similaires à la cible. La Chine est un fournisseur de nombreux équipements de ce type aux États-Unis et au Royaume-Uni, tandis qu'Israël produit tout lui-même. Yinchuan est un laboratoire de solutions de villes intelligentes. Là, ils ont des bus sans conducteur (de vrais bus, pas le genre de vêtements que nous avons en Europe) qui roulent à 70 km / h dans les zones urbaines. Lorsque vous entrez dans le bus, la reconnaissance faciale est utilisée pour vous identifier et le ticket de bus est déduit de votre compte. Cette technologie est également utilisée militairement, si elle n'est pas venue de là en premier lieu.

Une prise de décision entièrement automatisée et contrôlée par les données est déjà possible. Le tir automatique des drones tués est largement utilisé. Les codes de contrôle du tir d'un missile depuis un drone ne sont pas difficiles à écrire. Pour un ordinateur, il n'y a aucune différence entre tirer avec une arme et acheter un stock ou mettre un e-mail à la poubelle. Que peuvent faire les ordinateurs? Que peut faire l'intelligence artificielle?

I 2001: Une romodysse on comprend que l'ordinateur HAL lit sur les lèvres des deux astronautes et accède ainsi à des informations qui ne lui sont pas destinées. Cela a choqué tous les go-players mondiaux lorsque la machine AlphaGo a totalement surpassé le champion d'Europe du match (5-0). Encore pire AlphaZero, qui à partir de zéro en 24 heures a appris les échecs, le shogi et go à un niveau extrêmement élevé. Quand cela vient à aller, sont les modèles de réseaux de neurones basés sur la technologie de l'image – c'est-à-dire que la machine apprend à distinguer les bonnes et les mauvaises positions de la même manière qu'elle distingue, par exemple, les chiens et les chats. Il crée ensuite des données d'entraînement en jouant contre lui-même. Et on sait que cela se produit à des vitesses extrêmes par rapport à la question de savoir si les gens doivent faire de même.

Alpha zéro
Alpha zéro

Blade Runner, RoboCop, Patrie

L'apprentissage du monstre à Frankenstein consiste à espionner la famille noble échouée DeLacey dans les bois. Ils ont reçu la visite de Safie (fille d'une chrétienne asservie par les Turcs), qui aime Félix (le fils aîné de la maison). Dans une dépendance adjacente, le monstre reçoit la formation linguistique et culturelle destinée à Safie. John Lockes Un essai sur la compréhension humaine (1689) est l'amende de Mary Shelley pour l'expérience initiale du monstre. L'apprentissage a lieu pendant que le monstre espionne la famille DeLacey. À travers une fissure dans une fenêtre clouée, il observe des scènes domestiques comme dans un judas – et regarde droit dans le salon mal équipé de la famille. Le développement du monstre suit la description de Locke de la façon dont la compréhension passe progressivement de l'apprentissage élémentaire via les sens à un apprentissage sophistiqué via l'intellect, les émotions et la morale. En apprentissage, Volneys est utilisé Les ruines; Ou, méditation sur les révolutions des empires: et la loi de la nature, et le monstre trouve (!) les souffrances du jeune Werther de Goethe, le paradis perdu de Milton et la vie de Plutarque, qu'il utilise dans sa propre éducation.

Malgré son apparence horrible, Frankenstein est supérieur à tous égards. C'est un composite de l'homme et de la bête, haut de huit pieds, super fort et rapide comme l'éclair, et finalement très éloquent, quelque chose que Frankenstein met en garde son sauveteur, le capitaine Walton (1): «[Une fois] ses paroles avaient du pouvoir sur mon cœur, mais ne lui fait pas confiance. Son âme est aussi cruelle que son corps, pleine de tromperie et de mal diabolique. "

Hans Moravec a qualifié les robots d '«héritiers de l'évolution» qui seront prochainement équipés d'algorithmes éthiques. Mais la question devient alors: complément ou remplacer nos capacités? Dans tous les cas, cela changera fondamentalement notre relation avec la technologie. Nous sommes ici au-delà de l'appel de Marshall McLuhan à voir les outils technologiques comme des extensions du corps humain qui ne s'appliquent qu'à nous pour apprendre à utiliser. Lorsque le monstre affronte Frankenstein à mi-chemin du roman, il souligne: "Vous êtes mon créateur, mais je suis votre maître – obéissance!" Comme les réplicants dans Blade Runner le monstre prend les choses en main. Et RoboCop - les paraphrases ci-dessus Frankenstein sont beaucoup.

Dans la série télévisée Patrie Nicolas Brody se tourne vers son propre pays suite à une attaque de drone qui a échoué. Il est en outre provoqué lorsque le porte-parole de la CIA affirme qu'aucun enfant n'a été tué. Tuer une guerre de drones peut sembler sans risque et peut être maintenu sur une longue période, car l'attaquant aura peu de morts. Pour l'électorat, la guerre des drones facilite la conscience et le portefeuille. La combinaison de la guerre des drones et de ce dont nous avons vu AlphaZero est capable d'ouvrir les perspectives d'un nouveau standard.

(1) Le roman commence et se termine dans la glace près du pôle Nord. Ici, le capitaine Walton cherche le passage du Nord-Ouest. Le navire est gelé dans la glace et un jour, ils ramassent Victor Frankenstein, totalement épuisé, qui raconte finalement son histoire.

Kjetil Korslund
Historien des idées et critique régulier à Ny Tid.

Relaterte artikler