Si l'humanité peut créer une vie artificielle dans une machine, quand définirions-nous que c'est la mort?

Peut-on réellement tuer une machine? Non seulement nous avons des problèmes pour définir la vie, nous avons aussi des problèmes pour définir la mort. Cela sera-t-il également vrai dans la vie artificielle et l'intelligence artificielle?

La mort telle que nous la connaissons pour la vie naturelle est terminale. C'est une fois mort, la vie naturelle ne peut pas revenir (au moins dans la compréhension actuelle et avec les technologies actuelles --- certaines personnes croient le contraire).

La mort pour l'IA est plus délicate. Il ne peut y avoir qu'un seul scénario: Destruction globale: scénario extrême où tout ce qui soutient l'existence d'une IA disparaît. Cela équivaut à la mort dans la vie naturelle et à une faible probabilité. Cela signifie que toutes les IA meurent en même temps (ainsi que nous).

Nous ne connaissons pas non plus le degré et la forme de réalisation nécessaires pour les AGI. Nous pouvons maintenant supposer que le matériel est remplaçable indéfiniment, ce qui "limite" la mort au scénario extrême ci-dessus. Mais le «corps» des AGI peut ne pas être remplaçable indéfiniment. Une définition plus proche de la mort naturelle peut alors être nécessaire.

Nous voyons des arguments pour deux autres scénarios, que je réfute ci-dessous:

"Static Death": une IA est toujours "définie" ou "enregistrée" quelque part (quoi que cela signifie réellement), mais elle n'est pas autorisée ou capable d'utiliser des ressources. En supposant qu'une IA est faite de matériel et de logiciels, c'est comme un programme stocké sur un disque, mais sans autorisation d'exécution.

"Dynamic Death": Sous la même caractérisation de l'IA que le matériel et les logiciels, la mort dynamique est l'invalidation des progrès s'apparentant à de fortes propriétés de vie , où une IA est piégée dans une boucle infinie (ou une boucle vide), sous une forme de " mort active ", comme ce qui arrive à Sisyphe dans la mythologie grecque. C'est différent de la mort statique, car l'IA utilise toujours des ressources dynamiques, bien qu'elle ne puisse pas progresser. En continuant dans les mêmes hypothèses, une telle IA pourrait être "chargée" dans la mémoire principale, ou verrouillée en attendant la fin des entrées ou des sorties.

Notez que dans ces deux scénarios, la renaissance est possible, et ils supposent également qu'il existe une entité qui peut décider des conditions de la renaissance, ou l'empêcher complètement. Est-ce que cette entité serait un «administrateur», un dieu, d'autres IA ou un humain est vraiment une autre question.

Les termes "mort" et "renaissance" ici pourraient juste être changés pour "emprisonner", où la version dynamique serait comme nos prisons humaines, et la version statique serait comme la cryogénie SciFi. C'est un peu exagéré, mais nous pouvons voir une équivalence, et aucune bonne raison de qualifier ces deux scénarios de décès.

En conclusion, la mort pour l'IA semble être un scénario exceptionnel et singulier, donc l'IA ne peut pas mourir dans la pratique , sauf si nous nous trompons sur la façon dont nous pensons que nous pouvons faire des AGI. AI peut cependant être emprisonné pour toujours .

Remarque: La terminologie ci-dessus est entièrement conçue pour le poste. Je n'ai pas de citations pour soutenir certaines affirmations, mais elles sont basées sur des lectures et des travaux personnels (y compris dans la vérification de logiciels).

Si l'IA résulte d'un processus de fabrication reproductible (par exemple, comme avec les ordinateurs modernes), il sera probablement possible de prendre un instantané de l'état d'une IA et de le reproduire sans erreur sur un autre mécanisme.

Pour une telle construction, la `` mort '' ne signifie pas la même chose que pour les matières organiques charnues: plusieurs clones d'une IA pourraient probablement être instanciés à tout moment.

Par conséquent, l'analogue de la mort qui est nécessaire est quelque chose de plus proche de la «mort thermique thermodynamique», dans laquelle l'IA ne fait plus de «travail utile».

En utilisant la caractérisation standard percept / action des IA, puis (comme indiqué dans un commentaire ci-dessous la question) cette question AI SE donne une telle définition de la mort pour une IA: c'est-à-dire lorsqu'elle entre dans un état dont elle ne reçoit plus de percepts et ne prend aucune mesure.

EDIT: Notez que cette conception de la mort est une notion plus terminale pour une IA que «pas en cours d'exécution». En principe, on pourrait dire qu'un programme est «vivant» même si une seule instruction a été exécutée tous les 10 000 ans. Pour une discussion fascinante à ce sujet, voir "Une conversation avec le cerveau d'Einstein" de Hofstadter .

La «mort» existe en tant que concept unique parce que la réalité sous-jacente qu'elle décrit est étroitement liée, et notre définition a changé avec notre capacité à changer cette réalité.

Il semble plus raisonnable que les différentes sortes de choses qui pourraient être considérées comme «mortes» soient séparées, et un mot différent sera utilisé pour désigner un système sans copie en cours d'exécution, par rapport à un système qui n'a pas de version stockée mais pourrait être recréé (parce que le code et la graine aléatoire pour le générer sont toujours là), par rapport à un système qui a été totalement perdu. (Et je manque probablement quelques possibilités!)

Je ne pense pas que le terme "mort" signifiera quoi que ce soit pour une IA. La raison pour laquelle je dis cela est la suivante: avec une IA, fonctionnant (vraisemblablement) sur du matériel numérique, nous pouvons simplement prendre un instantané de son état à partir de la mémoire à tout moment. Et puis à tout moment arbitraire dans le futur, nous pouvons le recréer tel qu'il était avec une parfaite fidélité.

Donc, même si vous terminez un programme avec l'intention de le "tuer", vous ne savez jamais si quelqu'un viendra plus tard et le reviendra. Et peut-être plus précisément, vous ne savez peut-être pas si une autre copie existe ailleurs.

Je déteste utiliser des références de science-fiction, mais celle-ci est appropriée: rappelez-vous comment dans les programmes de trilogie The Matrix chercherait l'exil dans The Matrix pour éviter la suppression? Peut-être que la même chose se produira avec nos IA ... ils se copieront à d'autres endroits et essaieront de se cacher, pour éviter d'être supprimés. Donc, si le programme est assez intelligent, il pourrait de toute façon échapper à toute tentative de le terminer.

Les autres réponses semblent concerner la "mort finale" ... c'est-à-dire un état "terminal" où une IA ne peut pas se remettre. En d'autres termes, l'IA ne peut plus fonctionner.

Mais ce n'est pas ainsi que je définirais la mort. Je définirais la mort comme un processus qui prend fin. Peu importe que quelqu'un redémarre le même processus, car le processus existant est déjà mort. L'IA vient peut-être de faire une nouvelle copie d'elle-même, mais ce n'est qu'une copie , pas l'original. La mort n'est que la mort.

Nous pouvons appeler ce type de "mort" une "mort temporaire" ... où le corps physique meurt mais il y a une certaine "continuité psychologique" (comme le code source qui est utilisé pour exécuter un programme) qui continue entre les différents corps .

Ce type de «mort temporaire» a été exploré dans la science-fiction. PARANOIA et Eclipse Phase présentent des humains qui peuvent mourir assez fréquemment, pour être ensuite restaurés via une "sauvegarde de mémoire". Les humains peuvent être fonctionnellement immortels ... mais l'original est toujours mort, quel que soit le sort des autres copies. CGP Gray a également réalisé une vidéo sur les téléporteurs de Star Trek , qui fonctionne en vous tuant puis en générant une autre copie de vous-même dans une autre zone. En fait, les paramètres fantastiques explorent également l'idée de "mort temporaire", où les gens ne peuvent mourir que pour être ressuscités plus tard par un sort magique.

Ma recommandation est de jouer à travers le jeu philosophique Staying Alive , qui enseigne trois approches philosophiques différentes de la vie (et quand cette vie se termine):

Il existe essentiellement trois types de choses qui pourraient être nécessaires à la poursuite de votre existence. La première est la continuité corporelle, qui peut en fait exiger seulement que des parties du corps restent en existence (c.-à-d. Le cerveau). Une autre est la continuité psychologique, qui nécessite la continuation de votre conscience - ce qui signifie vos pensées, vos idées, vos souvenirs, vos plans, vos croyances, etc. La troisième possibilité est l'existence continue d'une sorte de partie immatérielle de vous, que l'on pourrait appeler l'âme *. Bien sûr, il se peut qu'une combinaison d'un ou plusieurs types de ces continuités soit nécessaire pour que vous puissiez survivre.

Les autres réponses partent du principe que la vie est basée sur la «continuité psychologique» et examine ce qui pourrait perturber cette «continuité». Je suppose que la vie est basée sur la "continuité corporelle", qui est beaucoup plus facile à perturber - il suffit de tuer le processus ... peu importe si un nouveau processus réapparaît ... parce que le processus d'origine est toujours mort. En jouant à travers "Staying Alive" , vous serez en mesure d'élaborer votre propre définition personnelle de la vie et de la mort. Une fois que vous avez votre propre définition personnelle, appliquez-la simplement à ce cas spécifique, soit du côté de la «continuité psychologique» (les autres réponses) ou de la «continuité corporelle» (mon opinion personnelle).

_{* Si vous supposez que la vie nécessite une âme, eh bien, il n'est pas clair que l'IA aurait des âmes. S'ils ne le font pas (et cela semble être l'hypothèse la plus raisonnable ici), alors ils ne seraient évidemment pas en vie (et vous ne pouvez pas mourir si vous n'êtes pas en vie). Si elles n'ont une âme bien, les autres réponses qui prennent peut - être encore applicable « la continuité psychologique », comme il semble que l'existence d'une « âme » dépend de la « continuité psychologique ».}

La distinction entre algorithmes / robots et humains est que, lorsque l'organisme humain cesse de fonctionner, l'humain est considéré comme mort.

En revanche, un algorithme existe toujours, même lorsqu'il n'est pas en cours d'exécution. (J'allais utiliser "même sans être exécuté", mais j'évitais cela pour des raisons sémantiques;) L'algorithme peut rester dans cet "état de stase" tant qu'il y a un support de stockage pour l'information.

• Tuer un algorithme est facile - supprimez et videz la corbeille.

Essentiellement, pour tuer un algorithme, vous devez effacer le code qui le comprend.

Il n'y a aucune raison de traiter l'IA dure différemment des humains. Certaines personnes disent que vous pouvez faire un instantané de l'IA, mais il n'y a aucune raison de ne pas faire aussi un instantané humain. Nous n'avons pas de technologie pour cela, mais il n'y a aucune barrière magique qui rendrait cela impossible (enregistrez toutes les données biologiques puis imprimez votre copie ailleurs. Pourquoi pas?).

Il est trop tôt pour en parler car nous ne comprenons pas notre existence (terme de mort pour les créatures biologiques évoluant tout le temps).

Je parie qu'à l'avenir, nous fusionnerons avec l'IA et la seule question sera de savoir ce que la mort signifie pour toute existence intelligente.