La conscience est-elle nécessaire pour toute tâche d'IA?

La conscience est difficile à définir , mais pour cette question, définissons-la comme «une expérience sensorielle réelle au lieu de simplement mettre un tas de données à travers une machine inanimée». Les humains, bien sûr, ont des esprits; pour les ordinateurs normaux, tout ce qu'ils "voient" ne sont que des données supplémentaires. On pourrait également dire que les humains sont sensibles , contrairement aux ordinateurs traditionnels.

Laissant de côté la question de savoir s'il est possible de construire une machine sensible, cela fait-il vraiment une différence si une IA est sensible ou non? En d'autres termes, y a-t-il des tâches qui sont rendues impossibles - pas seulement plus difficiles - par un manque de sensibilité?

Personne ne sait.

Pourquoi: parce qu'il n'est pas possible de déterminer formellement même si vos compagnons humains sont réellement conscients (ils peuvent plutôt être ce que l'on appelle philosophiquement un «zombie» ). Aucun test connu de la physique moderne ne suffit pour trancher. Il est donc possible que vous soyez le seul être sensible et que tout le monde soit un robot.

Par conséquent, nous ne pouvons pas déterminer quelles tâches nécessitent de la sensibilité.

Notez que le statut ontologique des zombies est controversé: certains philosophes de l'IA (par exemple Daniel Dennett) affirment que les zombies sont logiquement impossibles tandis que d'autres tels que David Chalmers prétendent qu'un zombie serait obligé d'affirmer qu'il éprouve des qualia (c'est-à-dire qu'il est sensible) même s'ils ne le font pas. Voici un article très lisible de Flanagan et Polger qui explique également pourquoi une version neurologique plus forte du test de Turing est insuffisante pour détecter un zombie.

EDIT: En réponse au commentaire sur l'existence d'un test objectif pour distinguer la sensibilité de la non-sensibilité:

Personne ne sait. Ce que nous ne pensons que cela nécessiterait quelque chose en plus à ce que la physique moderne peuvent actuellement nous dire. David Chalmers a émis l'hypothèse que les qualia devraient être introduits comme une nouvelle forme d'unité physique, orthogonale aux autres de la même manière que la charge électrique est orthogonale à la distance.

En l'absence de test objectif, nous devons nous fier aux variantes du test de Turing, qui ne garantissent pas plus la conscience chez le sujet que l'intelligence.

Non.

L' expérience de voir est par définition non causale. Tout ce qui n'est pas causal ne peut pas être une exigence d'un processus physique; un qualia ne peut pas permettre à un robot de faire quelque chose qu'il ne pourrait pas faire autrement.

Peut être.

Bien qu'un qualia ne soit pas requis pour une tâche d'IA donnée, cela ne veut pas dire qu'une IA suffisamment avancée n'implique pas de qualia. Il se pourrait que les tâches dites complètes de l'IA nécessitent un robot qui, bien qu'il n'utilise pas de qualia, le produit de toute façon.

Oui.

Qualia peut faire référence à une propriété non physique insipide, mais elle est spéciale en ce sens que nous savons qu'elle existe aussi physiquement. Le fait que je puisse discuter de mes qualia en connaissance de cause (ou, si vous ne me croyez pas, le fait que vous le puissiez) implique que mes (ou vos) qualia ont un effet physique.

Il va de soi que si nous acceptons les qualités des autres sur la base de la nôtre, ce doit être à cause de la base physique de la nôtre ¹ . On pourrait donc affirmer que ² tout robot ayant une capacité physique équivalente doit comporter des qualia.

¹ puisque le subjectif est physiquement non causale, ne peut donc pas causer de nous d'accepter quoi que ce soit.

² tant que vous ne faites pas l'hypothèse particulièrement étrange que le qualia est en quelque sorte lié à sa manifestation physique directe, ce qui au mieux est ténu puisque si nous avions évolué vers la mauvaise, vous diriez toujours que c'est la bonne avec une certitude égale.

Utilisons un test simple basé sur le bon sens: à quelle fréquence voyez-vous un être humain résoudre des problèmes nécessitant l'utilisation de la raison lorsqu'il est inconscient? Oui, vous pouvez trouver des exemples de génies comme Ramanujan résolvant des problèmes complexes pendant ou après un état de rêve, mais ceux-ci impliquent une conscience partielle. Vous ne voyez pas des gars comme Einstein proposer la théorie de la relativité dans le coma; les Pères fondateurs n'ont pas écrit la Déclaration d'indépendance pendant leur sommeil; en fait, vous ne pouvez même pas trouver d'exemples de femmes au foyer qui ont dressé leur liste de courses pour la semaine pendant un sommeil profond par ondes delta. Cela repose sur une définition stricte de l'intelligence, nécessitant l'utilisation de la raison; personne ne dit: "Cette mouche est intelligente" ou "cet écureuil est intelligent" précisément parce qu'aucun des deux n'est capable d'utiliser la raison. C'est une barre très élevée pour l'IA, mais c'est la définition de bon sens utilisée par les gens ordinaires pour des raisons pratiques, dans le langage courant. De même, dans la pratique, chacun suppose que la conscience est nécessaire à l'exercice de ce type d'intelligence.

Inversement, nous pouvons trouver un autre critère basé sur le bon sens pour juger les objections à cet argument, en particulier le solipsiste, basé sur 3 éléments: 1) l'aspect pratique; 2) l'effet des objections sur ceux qui les tiennent sincèrement; et 3) l'effet que les actions fondées sur ces croyances ont sur les autres. Cela va me prendre plusieurs paragraphes pour faire ce cas, mais la longueur est nécessaire si je veux faire le cas de manière complète et approfondie. Il est vrai que nous ne pouvons pas prouver qu'un autre être humain possède la conscience, si notre norme est une preuve absolue. En fait, nous ne pouvons rien prouver de façon absolue; il y a toujours place pour une objection, aussi ridicule ou futile soit-elle. Comme certains philosophes l'ont souligné, peut-être que toute la réalité telle que nous la connaissons n'est qu'un rêve ou le produit d'une longue conspiration impliquée comme l'intrigue du film de Jim Carrey The Truman Show. La clé pour répondre à de telles objections est qu'elles nécessitent une régression infinie d'objections de plus en plus intenables, dont la probabilité plonge à chaque étape supplémentaire requise pour justifier de tels doutes déraisonnables; Je me suis toujours demandé si nous pouvions trouver une "métrique de ridicule" pour l'apprentissage automatique basée sur la cardinalité de telles objections (ou le caractère délicat des ensembles flous). Si nous permettions aux critiques de mettre le pied dans la porte avec toutes sortes d’objections déraisonnables, il serait impossible de clore tout débat. La race humaine serait paralysée dans l'inaction car rien ne serait décidable; mais comme le groupe de rock Rush l'a souligné une fois, "Si vous choisissez de ne pas décider, vous avez toujours fait un choix." À un moment donné, nous devons appliquer un test pour décider de telles choses, même en l'absence de preuve absolue; le refus d'appliquer un test constitue également un choix. Régler un argument de ce genre est comme un jeu du jeu chinois Go - une fois que l'autre joueur est entouré et n'a plus de mouvement à faire, le jeu est terminé; si le témoignage d'une personne a démystifié et qu'elle n'a plus de justification, nous pouvons conclure qu'elle agit de manière déraisonnable. Il y a des gens qui courent en clamant que l'Holocauste n'a jamais eu lieu, ou la Flat Earth Society, etc., mais leur existence ne devrait pas et ne nous empêche pas de prendre des mesures contraires à leurs idées. Nous pouvons réfuter les objections de manivelles comme la Flat Earth Society au-delà de tout doute raisonnable, car au final, elles ne peuvent tout simplement pas répondre à toutes nos réfutations. Je suis heureux que les qualia et les zombies philosophiques aient été évoqués parce qu'ils suscitent des conversations intéressantes et alimentent la réflexion, mais le solipsisme est aussi rarement utilisé que les idées de la Flat Earth Society précisément parce que les preuves incomplètes que nous Nous pouvons réfuter les objections de manivelles comme la Flat Earth Society au-delà de tout doute raisonnable, car au final, elles ne peuvent tout simplement pas répondre à toutes nos réfutations. Je suis heureux que les qualia et les zombies philosophiques aient été évoqués parce qu'ils suscitent des conversations intéressantes et alimentent la réflexion, mais le solipsisme est aussi rarement utilisé que les idées de la Flat Earth Society précisément parce que les preuves incomplètes que nous Nous pouvons réfuter les objections de manivelles comme la Flat Earth Society au-delà de tout doute raisonnable, car au final, elles ne peuvent tout simplement pas répondre à toutes nos réfutations. Je suis heureux que les qualia et les zombies philosophiques aient été évoqués parce qu'ils suscitent des conversations intéressantes et alimentent la réflexion, mais le solipsisme est aussi rarement utilisé que les idées de la Flat Earth Society précisément parce que les preuves incomplètes que nousn'ont court contre elle.

Comme le souligne GK Chesterton (alias "L'apôtre du bon sens") dans son classique orthodoxie, le doute radical du genre que beaucoup de philosophes classiques prêchaient n'est pas un chemin vers la sagesse mais vers la folie; une fois que nous sortons de tout doute raisonnable, nous finissons par agir de manière déraisonnable. Il dit qu'en l'absence de preuve absolue, nous pouvons recourir à une autre forme de preuve secondaire: si la philosophie d'une personne conduit un homme à Hanwell, la tristement célèbre institution psychiatrique britannique. Chesterton démontre que lorsque les gens agissent réellement sur des idées comme le solipsisme (plutôt que de simplement les débattre de manière pédante dans une salle de classe couverte de lierre), ils deviennent fous. L'argument du Philosophical Zombie est proche du solipsisme, qui est en fait l'un des diagnostics critères pour certaines formes de schizophrénie. La déshumanisation qui se produit lorsqu'un doute radical est appliqué aux qualia est également intimement liée au comportement sociopathique, Bien que GKC ne cite pas directement son exemple effrayant, René Descartes en était lui-même la preuve vivante. C'était un brillant mathématicien qui est toujours acclamé pour avoir douté de tout sauf de sa propre existence, avec la célèbre maxime "Je pense, donc je suis". Mais Descartes avait également l'habitude de porter un mannequin de sa sœur décédée avec lui dans les cafés européens, où on pouvait le voir discuter avec lui. L'essentiel de tout cela est que nous pouvons juger de la valeur d'une idée par la façon dont elle affecte le bien-être du croyant, ou par la façon dont elles affectent à leur tour les autres par des choix éthiques fondés sur ces croyances. Lorsque les gens agissent réellement sur un doute radical du type de celui exprimé dans le solipsisme et le déni des qualia communs, cela a souvent un effet néfaste sur eux et sur les autres avec lesquels ils entrent en contact. C'était un brillant mathématicien qui est toujours acclamé pour avoir douté de tout sauf de sa propre existence, avec la célèbre maxime "Je pense, donc je suis". Mais Descartes avait également l'habitude de porter un mannequin de sa sœur décédée avec lui dans les cafés européens, où on pouvait le voir discuter avec lui. L'essentiel de tout cela est que nous pouvons juger de la valeur d'une idée par la façon dont elle affecte le bien-être du croyant, ou par la façon dont elles affectent à leur tour les autres par des choix éthiques fondés sur ces croyances. Lorsque les gens agissent réellement sur un doute radical du type de celui exprimé dans le solipsisme et le déni des qualia communs, cela a souvent un effet néfaste sur eux et sur les autres avec lesquels ils entrent en contact. C'était un brillant mathématicien qui est toujours acclamé pour avoir douté de tout sauf de sa propre existence, avec la célèbre maxime "Je pense, donc je suis". Mais Descartes avait également l'habitude de porter un mannequin de sa sœur décédée avec lui dans les cafés européens, où on pouvait le voir discuter avec lui. L'essentiel de tout cela est que nous pouvons juger de la valeur d'une idée par la façon dont elle affecte le bien-être du croyant, ou par la façon dont elles affectent à leur tour les autres par des choix éthiques fondés sur ces croyances. Lorsque les gens agissent réellement sur un doute radical du type de celui exprimé dans le solipsisme et le déni des qualia communs, cela a souvent un effet néfaste sur eux et sur les autres avec lesquels ils entrent en contact. Mais Descartes avait également l'habitude de porter un mannequin de sa sœur décédée avec lui dans les cafés européens, où on pouvait le voir discuter avec lui. L'essentiel de tout cela est que nous pouvons juger de la valeur d'une idée par la façon dont elle affecte le bien-être du croyant, ou par la façon dont elles affectent à leur tour les autres par des choix éthiques fondés sur ces croyances. Lorsque les gens agissent réellement sur un doute radical du type de celui exprimé dans le solipsisme et le déni des qualia communs, cela a souvent un effet néfaste sur eux et sur les autres avec lesquels ils entrent en contact. Mais Descartes avait également l'habitude de porter un mannequin de sa sœur décédée avec lui dans les cafés européens, où on pouvait le voir discuter avec lui. L'essentiel de tout cela est que nous pouvons juger de la valeur d'une idée par la façon dont elle affecte le bien-être du croyant, ou par la façon dont elles affectent à leur tour les autres par des choix éthiques fondés sur ces croyances. Lorsque les gens agissent réellement sur un doute radical du type de celui exprimé dans le solipsisme et le déni des qualia communs, cela a souvent un effet néfaste sur eux et sur les autres avec lesquels ils entrent en contact.

De manière détournée, la communauté de l'IA fait également face à un risque assez sérieux - peut-être une tentation permanente - de commettre l'erreur inverse, d'attribuer des qualités, une conscience et similaires communes à ses produits d'apprentissage automatique sans preuve suffisante. J'ai récemment entendu un cas présenté pour des motifs logiques scandaleusement mauvais par des universitaires très respectés selon lesquels les plantes possèdent une "intelligence", basée sur des définitions très faibles et une confusion claire avec l'auto-organisation. Nous ne pouvons pas fournir la preuve absolue qu'un rocher n'a pas d'intelligence, ce qui revient à l'ancien problème de réfuter un négatif. Heureusement, peu d'hommes agissent actuellement sur de telles croyances, car lorsqu'ils le font, ils finissent par perdre la tête. Si nous prenons ces arguments au sérieux, nous pourrions voir des lois adoptées pour protéger le genre de Pet Rocks qui étaient populaires dans le ' 70s (je suis toujours bouleversé que le mien a été volé LOL). Il serait cependant beaucoup plus facile de commettre la même erreur en attribuant la conscience, l'intelligence et d'autres qualités similaires à une machine à la pointe de la technologie, en raison des vœux pieux, de l'orgueil, des pouvoirs élevés des inventeurs, de l'influence de la science-fiction et de l'histoire d'amour moderne avec la technologie. À l'avenir, je ne doute pas que nous aurons Cargo Cult of AI - peut-être légalement protégé comme une espèce d'espèce en voie de disparition, avec des droits civils, mais n'ayant pas plus de conscience, d'âme ou d'intelligence réelle qu'un rocher. Ne me citez pas là-dessus, mais je crois que Rod Serling a déjà écrit une histoire à cet effet. l'intelligence et d'autres qualités similaires à une machine à la pointe de la technologie, en raison des vœux pieux, de l'orgueil, des hautes références des inventeurs, de l'influence de la science-fiction et de l'histoire d'amour moderne avec la technologie. À l'avenir, je ne doute pas que nous aurons Cargo Cult of AI - peut-être légalement protégé comme une espèce d'espèce menacée, avec des droits civils, mais n'ayant pas plus de conscience, d'âme ou d'intelligence réelle qu'un rocher. Ne me citez pas là-dessus, mais je crois que Rod Serling a déjà écrit une histoire à cet effet. l'intelligence et d'autres qualités similaires à une machine à la pointe de la technologie, en raison des vœux pieux, de l'orgueil, des références élevées des inventeurs, de l'influence de la science-fiction et de l'histoire d'amour moderne avec la technologie. À l'avenir, je ne doute pas que nous aurons Cargo Cult of AI - peut-être légalement protégé comme une espèce d'espèce en voie de disparition, avec des droits civils, mais n'ayant pas plus de conscience, d'âme ou d'intelligence réelle qu'un rocher. Ne me citez pas là-dessus, mais je crois que Rod Serling a déjà écrit une histoire à cet effet. - peut-être légalement protégé comme une espèce d'espèce menacée, avec des droits civils, mais n'ayant pas plus de conscience, d'âme ou d'intelligence réelle qu'un rocher. Ne me citez pas là-dessus, mais je crois que Rod Serling a déjà écrit une histoire à cet effet. - peut-être légalement protégé comme une espèce d'espèce menacée, avec des droits civils, mais n'ayant pas plus de conscience, d'âme ou d'intelligence réelle qu'un rocher. Ne me citez pas là-dessus, mais je crois que Rod Serling a déjà écrit une histoire à cet effet.

La meilleure façon d'éviter ce sort est de s'en tenir aux interprétations et définitions de bon sens de ces choses, que nous gardons en arrière en grande partie parce qu'elles placent une barre très haute pour l'IA que nous ne pourrons peut-être jamais dépasser au cours de notre vie , si jamais. Peut-être que l'IA n'est même pas possible logiquement, à n'importe quel niveau de technologie; Je rappelle quelques preuves qui peuvent être interprétées à cet effet. Ces normes élevées mais raisonnables peuvent être de plus en plus difficiles à respecter si Chesterton et ses collègues comme Hilaire Belloc et Arnold Lunn avaient raison dans leur évaluation que l'utilisation de la raison s'est en fait effondrée dans la civilisation occidentale, au moins aussi loin que les Lumières; Le livre de Lunn de 1931, The Flight from Reason, est un classique à cet égard et n'a pas encore été réfuté. Cette tendance historique est un vaste sujet en soi - mais il suffit de dire que le déni de raison et l'obsession de la technologie sont tous deux directement pertinents de manière évidente dans le domaine de l'IA. Si la fuite de la raison est toujours en cours, alors nous seront de plus en plus tentés de recourir à des objections irréfléchies et faciles afin de rétrograder l'utilisation de la raison et des qualités indispensables comme la conscience dans nos définitions de l'IA, mais proposer des critères de plus en plus faibles pour le prouver; simultanément, notre technologie continuera de s'améliorer, renforçant ainsi le côté «artificiel» de l'intelligence artificielle. alors nous serons de plus en plus tentés de recourir à des objections irréfléchies et faciles pour rétrograder l'usage de la raison et des qualités indispensables comme la conscience dans nos définitions de l'IA, mais trouver des critères de plus en plus faibles pour le prouver; simultanément, notre technologie continuera de s'améliorer, renforçant ainsi le côté «artificiel» de l'intelligence artificielle. alors nous serons de plus en plus tentés de recourir à des objections irréfléchies et faciles pour rétrograder l'usage de la raison et des qualités indispensables comme la conscience dans nos définitions de l'IA, mais trouver des critères de plus en plus faibles pour le prouver; simultanément, notre technologie continuera de s'améliorer, renforçant ainsi le côté «artificiel» de l'intelligence artificielle.

Ne vous méprenez pas: si je ne pensais pas que nous pouvions faire des choses vraiment passionnantes avec l'IA, je ne serais pas là. Mais la plupart d'entre eux peuvent être atteints sans jamais reproduire l'intelligence humaine réelle, en résolvant des classes entières de problèmes tangentiels auxquels les humains ont du mal à penser, mais qui ne nécessitent pas la conscience ou l'utilisation de la raison qui caractérise l'intelligence humaine. Les capacités de reconnaissance d'images des réseaux de neurones convolutifs en sont un exemple, par exemple; si nous voulons l'intelligence humaine, nous pouvons toujours la fabriquer de la manière la plus simple, la plus économique et la plus éprouvée, en ayant des bébés. Peut-être que ces formes tangentielles d'IA devraient nous suffire pour l'instant. Nous ne pouvons pas injecter l'utilisation de la raison dans nos machines si nous n'en possédons pas suffisamment nous-mêmes pour décider si la raison est nécessaire pour l'IA, ou même de discerner en quoi il consiste. Nous ne pouvons pas concevoir ou déprécier la conscience pour l'IA jusqu'à ce que nous soyons conscients de sa signification. Je parierais cependant que tout le monde qui lit ce fil et évalue les réponses intelligentes le fait dans un état conscient. Cela en soi devrait répondre à notre question de façon satisfaisante pour l'instant.

En ce qui concerne la définition que vous avez fournie:

expérimentant réellement une entrée sensorielle au lieu de simplement mettre un tas de données à travers une machine inanimée.

Les ordinateurs et les humains subissent une entrée sensorielle. Vous pouvez connecter un ordinateur à un globe oculaire humain et lui faire exécuter les mêmes routines de filtrage que le cerveau humain (suppression du flou pendant que vous déplacez votre œil, et à partir d'objets non mis au point, etc.).

Je dirais qu'une définition plus précise de la conscience est la capacité et la tendance à se refléter. Les ordinateurs et le cerveau humain ont des activités autonomes. Non seulement mécanique mais aussi dans nos réactions. La distinction entre l'ordinateur inconscient et l'esprit humain conscient de soi est que nous avons également la capacité de «regarder» ces schémas en nous-mêmes et de les considérer.

Et donc, non, la conscience n'est pas nécessaire pour toute tâche d'IA. La reconnaissance d'image est une tâche de l'IA qui ne nécessite pas de conscience, que ce soit chez l'homme ou autrement. Votre cerveau trie le «lavage» des couleurs de vos yeux en objets discrets d'une manière largement autonome.

tl; dr la conscience est une référence à soi.

Deux types de tâches nécessitent une prise de conscience:

1. la conscience

2. Toute tâche nécessitant une extrême dynamicité, où la résolution de problèmes nécessite une analogie entre divers états de la situation 3D et une connaissance préalable de la façon de résoudre le problème est minime

Cependant, une fois que la connaissance de la façon de résoudre un problème donné est acquise, une optimisation supplémentaire éliminera ce besoin de conscience.

Si vous donnez suffisamment de spécificité à un problème, vous supprimez le besoin d'un solveur général. Et puis le seul besoin restant d'une conscience est pour lui-même.

Dans un sens très spécifique, je dirais que oui.

Les seules tâches que la sensibilité rendrait possible étaient le sentiment et la pensée réels en eux-mêmes. À ce stade, la sensibilité ne joue aucun rôle dans aucune des tâches que nous demandons aux IA d'effectuer; nous approchons rapidement du point de pouvoir enseigner à une machine «morte» à faire presque tout ce qu'une IA sensible peut, dans un sens pratique.

Sentience familièrement se traduit souvent par « la capacité de raisonner tout en sachant que soi - même et l'autre entité est distincte d' une action agent'or quelque chose le long de ces lignes. Cela signifie littéralement quelque chose de plus dans le sens de la conscience de soi et de la définition de la conscience que vous avez ci-dessus. Ce que je veux dire, c'est que nous approchons facilement du point où les IA `` mortes '' peuvent très bien imiter la première façon de penser, simplement en apprenant et en interprétant très bien les données.

                              _{Le robot voit-il une fusion d'os, ou un être qui était autrefois?}

Ainsi, une machine vraiment sensible ne serait supérieure en capacité (par rapport à une IA «morte» vraiment, vraiment avancée) que dans le respect de la possibilité de «vraiment» faire l'expérience de l'information.

Cela fonctionne très bien en parallèle avec ce que l'on appelle "l'argument de la connaissance" qui, en substance, débat de cette question. La version que j'ai entendue qui me reste, c'est qu'il y a une fille très intelligente dans une pièce avec accès à toutes sortes d'informations. Elle aime la couleur bleue. C'est du moins ce qu'elle pense; elle ne l'a jamais vraiment vu. Elle a toutes les informations du monde disponibles sur les couleurs et leur fonctionnement, etc. mais sait-elle vraiment ce qu'est le bleu jusqu'à ce qu'elle le voie?

Une autre grande entreprise historique dans ce domaine est la célèbre peinture:

La légende traduit: "Ce n'est pas un tuyau". Et l'idée est que, honnêtement, ce n'est pas une pipe. En ce moment, c'est un tas de pixels sur votre écran dans une certaine configuration - nous pouvons tous «voir» un tuyau, mais qu'est-ce que cela signifie vraiment?

À la fin de la journée, je pense que l'IA «morte» super-intelligente peut pratiquement faire tout ce que l'on peut «vivre», cette dernière étant supérieure dans et de la «vivacité» elle-même.

Un être sans sensibilité ne peut pas souffrir. Si, par exemple, nous voulions nous réjouir de la souffrance d'autrui, seule une IA sensible était suffisante.

Supposons que nous ayons des sadiques qui ne peuvent être satisfaits ou productifs que s'ils arrivent à produire beaucoup de souffrance. Et disons que nous nous soucions seulement de minimiser la souffrance humaine et animale. Ce dont nous aurions besoin pour ce travail, c'est quelque chose de non humain et non animal qui pourrait souffrir. Une IA consciente ferait l'affaire, une non consciente ne le ferait pas.

L'affirmation a été faite dans les commentaires que la conscience ne peut pas être prouvée, sauf peut-être par introspection. Mais ce n'est clairement pas un problème car les sadiques prennent plaisir à torturer les autres, et ces autres ne peuvent pas non plus prouver qu'ils sont conscients.