Preuve que l'intelligence générale artificielle est possible

11

Il est supposé en informatique que l'esprit humain peut être reproduit avec une machine de Turing, donc l'intelligence générale artificielle (AGI) est possible. Assumer le contraire, c'est croire en quelque chose de mystique, et les croyances mystiques sont fausses.

Je ne connais aucun autre argument selon lequel AGI est possible, et l'argument qui précède est extrêmement faible.

Existe-t-il une preuve rigoureuse que l'AGI est possible, du moins en théorie? Comment savons-nous que tout ce que l'esprit humain peut faire peut être codé en tant que programme?

yters
la source
Parce que Von Neumann croyait que l'esprit humain était (un type) d'ordinateur, et nous nous tenons tous sur les épaules de Von Neumann. :)
DukeZhou
1
Vous pouvez être intéressé par cette définition de la conscience en tant que fonction récursive.
DukeZhou
1
J'ai lu le traité de Von Neumann comparant le cerveau et l'ordinateur, et sa conclusion était qu'ils sont très différents. Je ne connais aucun de ses travaux montrant de manière concluante que le cerveau traite les informations comme un ordinateur. Avez-vous une citation? Je n'en ai pas vu dans une rapide lecture de l'article wiki. L'article sur la conscience est intéressant, mais aucune fonction n'est vraiment récursive dans la mise en œuvre. Il devient une pile d'appels qui est essentiellement un certain nombre de fonctions. Donc, si la conscience est une fonction récursive, je ne vois pas comment elle peut être mise en œuvre physiquement.
yters

Réponses:

7

Bonjour! Vous utilisez un terme extrêmement général ("AI") pour une idée extrêmement spécifique ("quelque chose d'humain fait qui est presque identique à l'esprit humain"). Ainsi, votre question n'est pas ce que vous pensez qu'elle est.

L'IA, selon John McCarthy (qui, selon Wikipédia, a inventé le terme et est l'équivalent d'une rockstar dans le domaine de l'IA), est l'ingénierie de machines capables d'utiliser le calcul pour atteindre des objectifs dans le monde. Tout, de votre calculatrice à la fonction de mise au point automatique de votre appareil photo, est donc une forme d'IA. Pour cette raison, votre preuve d'IA est simplement son existence dans votre poche ou votre ordinateur.

Il semble que vous vous demandiez s'il est possible de développer une IA qui fonctionne à un niveau similaire à celui des humains (des termes comme "Intelligence artificielle générale" ou "IA forte" sont souvent utilisés pour décrire cela). C'est une question fabuleuse, mais elle est mal définie. Cela soulève une autre question: comment définissez-vous l'intelligence au niveau humain? Est-ce la capacité de convaincre d'autres agents humains que vous êtes humain (c'est une logique quelque peu circulaire)? Est-ce la capacité d'écrire de la musique ou de créer une peinture? Selon votre définition, la réponse varie énormément et elle doit être clarifiée avant de continuer.

Jor
la source
C'est la première phrase de ma question: pourquoi pensons-nous que l'esprit est une machine?
yters
@yters L'astuce sera de réfléchir précisément à la signification de ces mots. À l'heure actuelle, vous les utilisez si vaguement qu'ils sont presque dénués de sens.
Nat
@Nat mis à jour vers la machine Turing. Toutes les machines peuvent être répliquées avec une machine Turing.
yters
@yters " Toutes les machines peuvent être répliquées avec une machine Turing " Ce n'est pas complètement "faux", mais je suppose qu'il est plus facile de dire que c'est faux pour des raisons de simplicité. Ce qu'il y a de bien avec les appareils Turing, c'est qu'ils peuvent se répliquer les uns les autres, mais il n'est pas tout à fait exact de dire qu'ils peuvent répliquer n'importe quelle machine.
Nat
@DouglasDaseeco mon Dieu, le nom et le pedigree de ce papier sont parfaits pour ce forum. J'ai hâte de le vérifier. Avant de le faire, j'aurais dû préciser où j'ai obtenu sa définition. Il s'agit d'une reformulation de ses déclarations de la deuxième page de son article, "Qu'est-ce que l'intelligence artificielle?" (qui peut être trouvé ici ). Sa dernière révision de ce document a été faite en 2007, environ 38 ans après avoir publié "Certains problèmes philosophiques du point de vue de l'IA", il est donc évident que nous comparons peut-être les vues d'un homme qui aurait pu changer en 4 décennies.
Jor
6

Une forte raison pour laquelle les gens pensent que l'esprit peut être implémenté sur une machine de Turing provient de la théorie informatique de l'esprit (CTOM) , qui est la principale théorie de l'esprit pour l'instant.

Il existe de nombreuses raisons de soutenir le CTOM, notamment le fait que le langage de la psychologie des croyances / désirs (attitudes propositionnelles par rapport aux représentations mentales) semble bien cadrer avec un cadre informatique.

Mais le plus simplement, c'est que l'analogie du calcul est très utile dans des domaines tels que la psychologie et les neurosciences. Lorsque nous connaissons une paire entrée / sortie, mais que nous ne savons pas comment elle est mise en œuvre, nous pourrions dire "elle effectue le calcul pertinent".

Et puisque Turing a montré que tout calcul peut être effectué sur une machine de Turing appropriée, l'extension naturelle est que l'esprit peut être implémenté sur un ordinateur.

Cependant, le CTOM est plus une idée utile qu'une théorie complète. Nous ne savons toujours pas comment analyser la pensée dans une syntaxe logique qui peut être implémentée dans un ordinateur. Et nous ne savons pas non plus comment / pourquoi le "calcul" (quoi que cela signifie dans cette phrase) est effectué dans le cerveau.

kc sayz 'kc sayz'
la source
La logique propositionnelle est NP-complète pour la satisfiabilité, et la logique du premier ordre est indécidable. Si ces logiques caractérisent la pensée humaine, les machines de Turing ne semblent pas des représentations prometteuses.
yters
À ma compréhension, le processus de pensée standard (par un gars comme Jerry Fodor) se présente comme suit: 1. La psychologie populaire déploie un langage puissant et productif 2. Il semble que cet ensemble de langage soit puissant en raison de sa structure (attitudes propositionnelles sur représentations mentales) 3. Il semble y avoir une correspondance naturelle entre ce langage et la syntaxe de la logique (en effet, y a-t-il quelque chose qui ne ressemble pas à la logique?) 4. L'analogie est productive dans des domaines tels que les neurosciences et la psychologie. le mode standard de compréhension du calcul est via une machine de Turing
kc sayz 'kc sayz'
"La logique propositionnelle est NP-complète pour la satisfiabilité, et la logique du premier ordre est indécidable. Si ces logiques caractérisent la pensée humaine, les machines de Turing ne semblent pas des représentations prometteuses." Je ne comprends pas votre point ici. Votre critique est-elle avec "le mode XX de la logique comme caractérisation de la pensée" ou "les machines de Turing comme une implémentation du mode XX de la logique"
kc sayz 'kc sayz'
En outre, il y a encore une astuce épistémique à résoudre (a-t-il / vraiment / un esprit, ou est-ce que je / pense / qu'il a un esprit; mais est-il / conscient / bien?). Mais je vais en rester là car ce dont nous ne pouvons pas parler, nous devons passer sous silence;)
kc sayz 'kc sayz'
Ma critique est que si ces modèles de logique caractérisent la pensée humaine, et qu'une machine de Turing ne peut pas décider de manière fiable des déclarations dans ces logiques, alors il semble qu'une machine de Turing soit une mauvaise description de la pensée humaine.
yters
3

Pourquoi les humains ne créeront JAMAIS une véritable conscience existentielle dans un système intelligent artificiel à base de silicium ... les réflexions d'un pratiquant / philosophe de l'IA.

Les arguments):

⦁ Les humains sont incapables de créer quelque chose à partir de fiat (un décret). Cela n'est jamais arrivé dans l'histoire humaine. Le cycle de l'innovation doit commencer par quelque "chose" (quelque chose "quelconque"), et la conscience n'est pas une chose.

⦁ L'essence de la conscience est imperceptible (elle est invisible), comme la gravité et l'attraction. Les humains sont incapables de créer des choses qu'ils sont incapables d'observer. Même s'ils sont capables de l'observer, la capacité de perception humaine est incapable de percevoir réellement les vraies essences des choses vues, encore moins celles invisibles.

⦁ Les humains ne comprennent pas adéquatement «l'essence» et la «nature» de la conscience - qui est une condition préalable fondamentale à la création de «quoi que ce soit».

⦁ Les problèmes « faciles », ceux de nature physique, bien qu'ils ne soient pas encore résolus par les domaines empiriques de la psychologie, des sciences cognitives et des neurosciences, devraient être résolus dans le temps. Quoi qu'il en soit, ils ne sont "pas" encore résolus aujourd'hui .

⦁ Les problèmes " difficiles ", ceux qui déterminent pourquoi ou comment la conscience se produit étant donné la bonne disposition de la matière cérébrale, pourraient ne jamais être résolus , car ils doivent expliquer pourquoi certains mécanismes physiques donnent naissance à la conscience au lieu d '"autre chose" ou de "rien à tout". C'est significatif et c'est le plus accablant de tous les arguments contre l'idée que les humains créent une véritable conscience existentielle chez les créatures de silicium dans leur ensemble.

Le plus grand débat philosophique sur la conscience a centré la distinction entre dualisme et physique.

⦁ Le physicalisme soutient que la conscience est entièrement physique. ( Des arguments importants le considèrent comme faux ).

Le dualisme est la théorie selon laquelle la conscience tombe en quelque sorte en dehors du domaine du physique. (ce sont les durs problèmes )

Pourquoi serait-on motivé pour avoir l'une des vues dualistes ci-dessus ?

⦁ Les physiciens ont du mal à expliquer plusieurs aspects de la conscience d'une manière qui soit cohérente avec nos « observations » sur l'interaction des propriétés physiques. (un autre argument accablant)

Deux problèmes:

⦁ Comment quelque chose qui ne fait pas partie du monde physique peut-il interagir avec le monde physique - c'est impossible.

⦁ Le monde physique est un système perdu , comment pouvez-vous avoir une conscience qui ne fait pas partie d'un système fermé.

⦁ La conscience ressemble beaucoup à la masse ou aux charges, c'est une chose philosophiquement "fondamentale" , vous "l'avez ou vous ne l'avez pas", vous pouvez les simuler , mais vous ne pouvez pas "être" existentiellement à moins d'avoir ces "propriétés" spécifiques " , et le comportement" simulant "la conscience humaine n'est pas une chose fondamentale.

Ainsi, malgré les tendances sensationnalistes des journalistes voyous "perroquetant" des concepts incroyablement spectaculaires des camps marginaux des transhumanistes (alias scifi) - une rapide lecture des communautés les plus rigoureuses du camp des philosophes ancrés et réfléchis soutient fermement et de manière convaincante le contraire.

Plus de réflexions sur le physicalisme (références aux titans de la philosophie données):

En fait, la conscience n'a jamais été correctement expliquée par la biomécanique, qui est plus ou moins la question clé de toutes les études philosophiques de l'esprit - qui est essentiellement l'étude de la conscience.

Il existe de nombreux problèmes avec l'approche du physicalisme pour expliquer la conscience, mais les principaux sont répertoriés ci-dessous avec une référence:

Arguments selon lesquels le physicalisme à propos de la conscience est faux:

  1. Il est impossible d'imaginer comment un simple tissu neuronal pourrait produire une expérience consciente (Huxely)

  2. Des échecs de survenance, tels que des zombies et des spectres inversés, sont envisageables (Chalmers, Locke, etc.).

  3. Mary apprend quelque chose (Jackson).

  4. Le cerveau a une masse, un volume et d'autres propriétés physiques, mais pas les expériences .

  5. Les phénomènes paranormaux (expériences de mort imminente NDErs , ESP, etc.) sont réels et impliquent une conscience implémentée dans un substrat non physique .

  6. Si je rétrécis pour pouvoir me promener dans votre cerveau et regarder autour de moi, j'observerai des processus neuronaux, pas des expériences (Leibniz).

  7. L'âme est le siège de la conscience et l'âme n'est pas physique. (Contraintes théologiques reconnues BTW ...).

  8. Les expériences conscientes ont des qualités intrinsèques , mais la science ne peut nous parler que des qualités relationnelles (Russell, Rosenberg).

  9. La conscience ne peut pas être observée ; il n'y aura jamais un détecteur de conscience qui peut vous dire si une créature donnée est consciente.

  10. Les expériences conscientes ne sont pas simplement le mouvement des molécules, la conscience est plus que la masse en mouvement (Mill, Ward).

ProfVersaggi
la source
2
C'est bien, il semble y avoir beaucoup plus de raisons de douter que la matière physique est tout ce qu'il y a à la réalité que de croire que l'esprit est le produit de l'évolution. Comp. sci. les gens sont sceptiques parce que nous ne pouvons pas montrer un problème formel précis où les humains surpasseront toujours les ordinateurs. Selon Lucas et Penrose, le premier théorème d'incomplétude de Gödel fait cela, mais leur argument est difficile à cerner complètement. S'il existe une tâche empirique simple et reproductible prouvant que les humains ne peuvent pas être des ordinateurs, ce serait plus convaincant.
yters
J'ai tendance à être en désaccord avec votre prémisse de "jamais" en termes de conscience algorithmique (mais là encore, beaucoup me considèrent ici comme un peu simple) . et que l'IA dépassera donc probablement la capacité humaine et la conscience. Néanmoins, c'est une réponse complète et informative, donc vous obtenez mon vote!
DukeZhou
Que signifie "Marie apprend quelque chose"?
yters
1
<Que signifie "Marie apprend quelque chose"? > Qualia: l'argument de la connaissance: l'argument de la connaissance vise à établir que l'expérience consciente implique des propriétés non physiques. Elle repose sur l'idée que quelqu'un qui a une connaissance physique complète d'un autre être conscient peut encore manquer de connaissances sur la façon dont il se sent d'avoir les expériences de cet être. C'est l'un des arguments les plus discutés contre le physicalisme.
ProfVersaggi
2
La question portait sur AGI - la conscience est une question différente. Bien que je dirais de vos 10 arguments, certains supposent que la conclusion et le repos peuvent être contournés :). Je suppose qu'il y aura finalement une science de la conscience basée sur le physique / mathématique et il sera démontré sur des bases théoriques de l'information que quelque chose qui semble conscient doit être conscient (tout en laissant de la place pour que les qualia soient complètement différents ...)
Antlersoft
1

Plutôt que de prouver que l'intelligence générale artificielle est possible, je considérerais un argument pour expliquer pourquoi c'est impossible .

Nous commençons par définir ce que nous entendons par AGI. Vous déclarez que l'esprit humain peut être reproduit par une machine de Turing, et donc AGI devrait être possible. Cela semble impliquer que les humains ont une intelligence «générale» (G majuscule). J'entends par là que vous sous-entendez qu'avec suffisamment de temps, les humains peuvent apprendre n'importe quelle tâche ou problème. Cependant, si vous affirmez que les esprits humains sont des machines reproductibles par les machines de Turing, vous devez également admettre qu'ils ont un certain pouvoir de représentation fini. Le pouvoir de représentation fini implique qu'il y aura toujours des problèmes ou des tâches où notre intelligence échouera (une conséquence du théorème du déjeuner gratuit ).

Heureusement (peut-être malheureusement), la puissance de représentation finie est ce qui nous permet d'apprendre du tout: la dimension VC (une mesure de la complexité ou de la puissance de représentation d'une classe de fonctions qu'un algorithme d'apprentissage peut apprendre [également ici et ici ]) implique qu'un l'algorithme d'apprentissage qui peut apprendre n'importe quel problème est en fait inutile, car la capacité d'expliquer n'importe quel ensemble de données entraîne l'exigence que l'algorithme voit une quantité infinie d'exemples afin de généraliser. Bien que ce résultat provienne de la classe relativement restreinte des problèmes de classification binaire dans le cadre de l'apprentissage statistique, l'intuition semble s'appliquer plus largement.

Pour résumer, je me réfère à cette citation de Shalev-Shwartz et Ben-David (2014) :

Si quelqu'un peut expliquer chaque phénomène, ses explications sont sans valeur.

Il est vrai que notre décision d' ignorer systématiquement certains résultats possibles est la seule chose qui permet d'utiliser pour apprendre des représentations utiles de problèmes du monde réel.

eric.mitchell
la source
Rendre la machine finie ne résout pas le NFLT.
yters
Bien que je puisse être en désaccord avec la prémisse, c'est une réponse concise et utile. Merci d'avoir posté!
DukeZhou
@yters Je ne voulais pas laisser entendre que c'était le cas. Je voulais dire que le NFLT implique que les hypothèses à complexité finie / pouvoir de représentation doivent nécessairement échouer sur certaines tâches (éventuellement choisies / créées de manière adversaire). Je vais modifier ma réponse pour plus de clarté!
eric.mitchell
Ce n'est pas la finitude qui rend l'apprentissage possible, c'est la compression.
yters
Je ne sais pas ce que tu veux dire par là. Si une classe de concepts a un pouvoir de représentation infini, vous avez besoin d'un moyen d'induire un biais sur elle, sinon vous ne pouvez pas apprendre.
eric.mitchell
1

Je vais sortir sur un membre et suggérer que c'est une question d'évolution, que les humains ne sont en rien exceptionnels dans le grand schéma, et que l'AGI se manifestera aussi longtemps que la technologie avancera, parce que la conscience humaine est simplement une question de la complexité du système.

L'idée vient d'une complexité émergente dans Game of Life de Conway. Dans les mots de Conway:

"Il y a des modèles de vie qui se comportent comme des animaux auto-reproducteurs… Il est probable, étant donné un espace de vie suffisamment grand, initialement dans un état aléatoire, qu'après longtemps, des animaux intelligents auto-reproducteurs émergeront et peupleront certaines parties de l'espace. "
Source: Des moyens gagnants pour vos jeux mathématiques

Je suis tombé sur un article intitulé Computation in Cellular Automata: A Selected Review , que je suis toujours en train de parcourir et que vous pourriez trouver intéressant.


Pour ceux qui utilisent des arguments philosophiques pour faire en sorte que la conscience algorithmique ne soit pas possible, je poserais la question "comment savons-nous que nous sommes conscients?", Non pas parce que la réponse m'intéresse, mais simplement pour jeter une clé dans cette voie d'enquête.

Parce que finalement ça n'a pas d'importance.

La conscience au sens de la conscience humaine n'est pas une exigence de la vie, et la définition la plus fondamentale de la conscience est la conscience de toute sorte, aussi banale soit-elle.

Je trouve l'idée qu'il y a quelque chose de "magique" dans la conscience humaine, que les idées ne sont pas des choses parce qu'elles n'ont pas de forme matérielle, pour être problématique.

Intangibilité Je n'ai pas de problème, car les intangibles interagissent clairement avec le monde physique.

(Par analogie, j'ai étudié pendant de nombreuses années avec un célèbre professeur de Tai Chi qui n'a jamais parlé de "chi". Je soupçonne cette répugnance dérivée de la façon dont le concept de "chi" conduit à la pensée magique, qui est illusoire par opposition pratique et l'application des techniques de Tai Chi est purement une question de physique et de physiologie, même lorsque de telles applications semblent défier les lois naturelles. Il se peut qu'il se passe quelque chose que nous ne comprenons pas, mais si tel était le cas, ces phénomènes sont d'origine naturelle.)

Nous savons qu'il y a un caractère aléatoire dans la nature au niveau quantique, et si cela s'avère être une composante de la conscience humaine, nous pouvons utiliser l'informatique quantique pour fournir un support à la conscience artificielle.

DukeZhou
la source
Pouvez-vous clarifier cela en argument? Ma calculatrice peut générer n'importe quel nombre, est-ce que cela la rend intelligente?
yters
@yter J'ai modifié pour inclure une citation de Conway sur le sujet, et un article sur les automates cellulaires et l'informatique. ( Game of Life est Turing terminé .) Je continuerai à modifier quand j'aurai le temps de parcourir plus de références. Vous pouvez également être intéressé par cette discussion sur Overflow: Pourquoi le jeu de la vie de Conway peut-il être classé comme une machine universelle?
DukeZhou
1
Je sais que les gens ont créé des machines Turing dans la vie. A-t-on déjà observé un organisme de vie auto-reproducteur sortir d'une condition initiale aléatoire? Ma compréhension est que les organismes auto-reproducteurs nécessitent une ingénierie très dure et très précise, et ce sont les conditions initiales, pas les conditions initiales aléatoires. Encore plus si l'organisme d'auto-réplication est Turing complet. Aussi, pourquoi le hasard produit-il la conscience? Votre réponse semble se ramener à la même objection dans ma question initiale.
yters
@yters désolé. Cela fait un moment que je suis tombé sur ce concept, et bien que je puisse vous trouver des liens, je suis toujours à la recherche d'une source universitaire approuvée. C'est en partie philosophique: étant donné une vie de taille suffisante, et à partir d'une configuration aléatoire massive (un "big bang"), des structures aussi complexes que n'importe quoi dans notre univers pourrait se manifester, y compris l'intelligence et la super-intelligence. Les constructions d'ingénierie minutieuses sont la preuve de concept, mais nous pouvons exécuter une vie de taille suffisante en réalité, en ce moment. Je continuerai à chercher une corroboration vérifiée.
DukeZhou
@yters une partie de la raison pour laquelle j'ai tenté une réponse est b / c je pense que l'idée de Conway devrait être incluse. D'une part, vous avez des philosophes qui disent "cela ne peut pas être fait, il y a trop de choses que nous ne comprenons pas et cela implique des problèmes en dehors de l'existence matérielle". D'un autre côté, vous avez un mathématicien qui travaille sur des choses comme l'emballage de sphères en n dimensions, et qui n'est entré que récemment dans la philosophie (théorème du libre arbitre), qui estime que bien qu'il soit encore théorique et extraordinairement complexe, il n'y a rien dans les mathématiques qui rendraient cela impossible.
DukeZhou
0

Ambiguïté terminologique

Une preuve de la plausibilité de l'AGI nécessitera une définition plus formelle de l'AGI que celle proposée dans The AI ​​Revolution: The Road to Superintelligence du blogueur Tim Urban (2/10/2015 mis à jour le 4/12/2015), qui était ni révisé par des pairs ni soutenu par des recherches ou une validation statistique de quelque nature que ce soit. [1]

Une définition proposée de l'intelligence générale

L'idée de l'intelligence informatique s'est élargie depuis l'époque où les tests de QI étaient populaires et le programme informatique General Problem Solver a été créé (1959 par Herbert A. Simon, JC Shaw et Allen Newel). John Bradshaw a publié Reclaiming Virtue , une incursion dans l'idée d'intelligence morale. L'intelligence émotionnelle a été discutée dans de nombreux livres et articles. Les réseaux neuronaux, les approches bayésiennes et la logique floue ont émergé et ont été utilisés avec succès dans les systèmes de prise de décision.

Des alternatives ont été proposées au test de Turing, soulignant que le jeu d'imitation d'Alan Turing (un observateur humain ne pouvant pas déterminer à partir d'une conversation avec les yeux bandés qu'un informaticien n'était pas humain) n'était pas censé être la seule métrique pour valider l'intelligence artificielle. [2]

À la lumière des progrès, une bonne définition de l'intelligence générale doit

  • Faites correspondre la compréhension intuitive du général comme un adjectif;
  • Faites correspondre la compréhension intuitive de l'intelligence comme un nom;
  • Distinguer l'intelligence générale des systèmes qui ne peuvent pas apprendre de nouvelles approches (comme les systèmes de requête en langage naturel comme Siri ou l'optimisation de logiciels de prise de décision comme les routeurs de fret);
  • Être capable d'atteindre de manière fiable et sans ambiguïté un objectif arbitraire à condition que l'objectif soit bien défini (arbitraire signifiant que rien sur l'objectif ne peut être connu au moment du développement du programme ou de son exécution); et
  • Il doit se renseigner sur les domaines requis pour atteindre l'objectif après l'exécution du programme 3, 4 .

L'objectif pourrait être

  • Obtenez le numéro de téléphone d'une personne particulière dans un bar par le biais d'une conversation uniquement;
  • Déterminer si une forme fermée peut être trouvée pour un ensemble d'équations différentielles, une ne peut pas l'être, ou on ne peut pas déterminer si une peut être trouvée;
  • Développer une nouvelle façon d'acquérir l'énergie électrique de la lumière du soleil; ou
  • Tout autre objectif.

Il s'agit d'une solution proposée qui résume et résume toutes ces conditions.

Que l'Intelligence Générale soit définie comme: "La capacité de s'adapter à la présence d'obstacles arbitraires lors de la réalisation d'un objectif spécifique et néanmoins d'atteindre l'objectif s'il est possible de le faire".

Une réaction immédiate d'une personne réfléchie pourrait être, "C'est plus que l'intelligence générale", mais si vous laissez tomber le mot arbitraire, alors on ne peut pas prétendre que l'intelligence est générale, car elle serait clairement limitée par au moins un cas. S'il s'agissait d'une seule fois, il serait difficile de prouver qu'un nombre infini de classes de cas serait également opaque à l'intelligence limitée.

Une autre critique pourrait être que «tout ce qui est possible de le faire» impliquerait la perfection ou même la divinité. Mais si l'objectif est réalisable, une personne pourrait se lasser, mais pourquoi un ordinateur se lasserait-il? La persistance est banale pour un ordinateur.

Le temps de la solution peut être infini, mais nous ne définissons pas Fast General Intelligence . Nous définissons l'Intelligence Générale , et une fois cela atteint, l'accélérer est une question d'optimisation, de distribution de processus, d'évolutivité logicielle et de concurrence.

Une autre critique pourrait être que la définition est absente du mot Artificiel, mais il vaut mieux sans ce mot. Si notre intention est d'automatiser les choses que les humains font et que les ordinateurs ne peuvent pas encore faire, ou de dépasser ou d'étendre l'intelligence humaine, alors l'application de la définition devrait être indépendante du système testé. La définition ne doit pas faire la distinction entre ce qui serait essentiellement des critères préjudiciables en ce qui concerne le traitement scientifique de l'intelligence et ses capacités générales.

  • Qu'il soit programmé via du code compilé, du code scripté, une autre forme de programmation ou via DNA
  • Participation des parents au développement des connaissances du domaine
  • Si un système éducatif est impliqué dans le développement des connaissances du domaine
  • Si l'intelligence a accès aux muscles ou à un autre contrôle environnemental
  • Que l'intelligence ait un œil ou un appareil photo
  • Si l'intelligence est terrestre
  • Que l'intelligence soit enseignée ou autodidacte

Preuve d'existence ou ignifugation

Si cette définition est acceptable, alors il n'y a clairement aucune preuve que l'être humain présente des renseignements généraux. Un système intelligent peut ne pas être en mesure d'atteindre un objectif arbitraire ou de déterminer que l'objectif n'est pas réalisable pour l'une des nombreuses raisons, y compris celles-ci.

  • La réalisation nécessite une énergie mentale (patience et persévérance) non possédée.
  • L'atteinte nécessite des compétences cognitives en dehors des capacités du matériel de traitement ou du système neuronal.
  • La réalisation est bloquée par un esprit fermé dans certains domaines.
  • La réalisation est bloquée par la réticence à effectuer certaines classes d'opérations.
  • L'atteinte nécessite de surmonter une sensibilité basée sur l'ADN telle qu'un trouble mental (trouble d'anxiété, dépendance).
  • La réalisation est détournée par une cognition qui mène la pensée ou l'action dans une ruelle aveugle et est sans remède.
  • La réalisation est bloquée par l'impossibilité de l'objectif et la fierté bloque l'admission de l'échec, dont l'admission serait en fait dans les résultats valides possibles pour les renseignements généraux.
  • L'atteinte nécessite un élément non déterministe mais non aléatoire utilisé pour générer l'intention ou sélectionner parmi des choix (comme une âme ou du karma).
  • L'atteinte nécessite plus de temps que la durée de vie du système qui l'atteint.
  • La réalisation a une autre limite de temps qui ne peut pas être respectée avec les ressources de calcul disponibles.

Il n'y a pas de preuve rigoureuse que l'intelligence générale selon la définition proposée est possible par toutes les machines de Turing, mais c'est un problème de recherche valable, car toutes les défaillances énumérées ci-dessus provoquent, sauf probablement l'exigence d'un élément non déterministe mais non aléatoire sont susceptibles d'être surmontés par les ordinateurs.

La liste ci-dessus est cependant une preuve assez rigoureuse que les êtres humains ne présentent pas d'intelligence générale fiable. L'impulsion humaine et la croyance populaire actuelle, l'humanisme, se rebellent contre cette idée, mais c'est néanmoins vrai.

La dernière question revient alors à: "Comment pouvons-nous savoir que tout ce qui peut être programmé dans une machine de Turing peut être accompli par un cerveau humain?" La réponse à cette question trouve sa réponse dans cet objectif, inspiré par la première et la dernière cause d'échec de réalisation énumérées ci-dessus: "Vous êtes coincé sur une île avec 1 000 blocs de papier et 1 000 000 de crayons aiguisés avec de la nourriture, de l'eau et un abri mais pas d'ordinateur ni de calculatrice , et l'objectif est de calculer pi à 1 000 000 de décimales. "

Les neurones peuvent simuler des neurones, mais il y a la question de la précision dans la simulation et l'aspect chaotique d'un système non linéaire astronomiquement complexe. Diverses théories de l'existence ou de la non-existence ont été proposées pour la réalisation arbitraire d'objectifs, mais tous les cas n'ont pas été prouvés ou de nombreuses hypothèses ont été nécessaires pour obtenir la preuve que l'énoncé d'objectif n'est pas vraiment arbitraire.

Il est possible qu'un élément non déterministe mais non aléatoire soit utilisé pour générer une intention ou sélectionner parmi des choix (comme une âme, un objectif autonome ou donné, signifiant par un fiat ou un karma) qui n'est ni prouvé, ni prouvé scientifiquement. (même si beaucoup affirmeront sans réellement fournir une preuve rigoureuse qu'il en a été ainsi). C'est la clé pour répondre à la question posée à l'origine.

En examinant de plus près le contexte de la question, il convient de noter qu'une machine de Turing est une machine capable d'exécuter un ensemble arbitraire d'opérations déterministes liées arbitrairement. Ces machines ne sont pas illimitées. Ils peuvent créer des nombres pseudo-aléatoires mais des phénomènes non déterministes ne peuvent pas résulter d'opérations déterministes, donc un nombre aléatoire ne peut pas être généré par une machine de Turing. Même un choix non déterministe mais significatif ne peut pas être fait par une machine de Turing, mais un cerveau peut être capable de faire l'un ou l'autre.

La mécanique quantique stochastique est largement acceptée par les physiciens et il est possible que certaines choses soient inconnaissables mais mesurables, certaines choses peuvent être connaissables mais incommensurables, et il peut même y avoir des choses incommensurables et inconnaissables. Il est possible que quelque chose de non découvert ou, pour certaines raisons, incommensurable que possède le cerveau humain ait au-delà de la machine de Turing.

C'est également un domaine possible pour de plus amples recherches, mais il est rarement étudié car l'étude des phénomènes incommensurables, bien que de tels phénomènes puissent exister, ne peut pas être facilement étudiée car ils sont incommensurables.

John von Neumann (peut-être plus brillant que Newton, Einstein, Planck et Hawking) avait raison de différencier les principes fondamentaux d'un ordinateur et d'un cerveau. Bien qu'il y ait sûrement un certain chevauchement dans les capacités démontrées des humains et des ordinateurs, aucun ne peut jamais être un sous-ensemble de l'autre. Les futuristes peuvent être en désaccord, mais ce serait une opinion, pas une preuve.

Notes et références

[1] Je ne vois aucune preuve en ligne que l'auteur de The AI ​​Revolution: The Road to Superintelligence , Tim Urban, est un informaticien ou détient un diplôme pertinent. Si vous regardez l'article, vous pouvez voir que les graphiques donnés sont des tendances inventées, non guidées par des données réelles. Il s'agit essentiellement de science-fiction - populaire et divertissante, mais pas de conclusions rationnelles tirées d'expériences répétables ou d'études randomisées.

[2] Tester si un ordinateur possède une intelligence au niveau humain: Alternative au «test de Turing», proposé Science News, 19/11/2014, Georgia Institute of Technology

[3] Si l'énoncé de l'objectif arbitraire précède l'acquisition de connaissances dans le domaine, une partie ou la totalité de l'intelligence peut résider en dehors du programme en cours d'exécution, contenue dans les mécanismes ou les personnes qui interagissent avec le programme ou ses données après l'introduction de l'objectif.

[4] Cette contrainte n'exclut pas la possibilité de demander des informations à d'autres sources intelligentes sans déléguer des décisions sur les approches pour surmonter les obstacles à ces aides externes.

Douglas Daseeco
la source
Vos arguments sont provocateurs et, à mon humble avis, inutiles en raison de votre définition controversée de l'intelligence générale (votre hypothèse), où vous utilisez le terme arbitraire, même si je reconnais que les différentes définitions de l'AGI ont leurs propres problèmes. Jetez un oeil à la définition de l'intelligence par Hutter et Legg, même si cette définition n'est pas non plus sans défaut, à mon humble avis.
nbro
0

Bien que ce ne soit pas une preuve rigoureuse, le livre de Marvin Minsky , The Society of Mind, nous donne un plan pour créer un «esprit» (intelligence générale). Dans son livre, il postule qu'en combinant des composants aveugles ("agents") ensemble dans diverses structures concurrentes et coopératives, nous pouvons créer des esprits réels.

À mon humble avis, la popularité récente du boosting, de l'ensachage, de l'empilement et d'autres techniques d'ensemble évoluera éventuellement (grâce à la recherche) dans la métaphore de "l'agent" de Marvin Minsky. Par la suite, à mesure que nous apprendrons à faire concurrencer et coopérer ces agents (on dirait que cela a récemment commencé avec Generative Adversarial Networks ), nous serons en mesure d'écrire des «programmes» qui imitent (ou dépassent) l'esprit humain.

Greg Thatcher
la source
-1

Je ne sais pas exactement ce que vous entendez par "Pourquoi pensons-nous que l'esprit est une machine?"

Mais je vais donner une explication sur la signification générale de la question. Astuce: la réponse est dans votre question

Le cerveau humain peut traiter les données de votre corps et créer une soi-disant expérience de conscience, il fonctionne comme une machine artificielle à un niveau fondamental.

Il serait extrêmement arrogant de supposer le contraire, car nous savons ce qui compose le cerveau. Ce n'est pas magique. Le cerveau est un ordinateur biologique qui est devenu ce que nous voyons à travers le long processus d'évolution. Bien qu'il soit difficile de croire comment une telle intelligence peut provenir seule de la nature, il peut être plus facile de comprendre que cela s'est produit par essais et erreurs sur une période de quelques milliards d'années .

Le fonctionnement et la structure du cerveau sont très différents de ceux des ordinateurs créés par l'homme, ce qui peut expliquer pourquoi l'intelligence au niveau humain n'est pas si facile à créer.

Pourquoi les simulations sont-elles différentes? Les simulations s'appuient sur ce que nous savons. Par exemple: nous ne pouvons pas simuler l'univers à l'envers pour découvrir comment le Big Bang s'est produit. De même, il est difficile de simuler la création d'une intelligence au niveau humain sur un ordinateur car les processus biologiques sont complexes et nous n'avons pas une connaissance complète.

Il est vrai que l'IA générative peut produire une conception efficace grâce à une évolution sur une durée moyenne de quelques semaines ou mois. Cependant, vous ne pouvez pas vraiment rivaliser avec les milliards d'années de l'univers avec quelques mois sur une boîte de conserve fabriquée par l'homme. La nature et les ordinateurs sont différents, nous devons être spécifiques mais pas la nature! Si nous voulons considérer tout résultat possible, nous devrons simuler l'univers bien que ce soit le tout autre défi, même là, nous n'avons pas les étapes de départ.

Nous pouvons contourner les simulations en allant simplement d'une manière différente et en créant une version CS d'un cerveau (pas une simulation biologique), quelque chose pour lequel les réseaux de neurones peuvent être considérés comme des étapes à venir. Nous nous tournons maintenant vers les problèmes techniques liés au développement de Super AI.

Alpha Mineron
la source
1
Les essais et erreurs sur des milliards d'années rendent l'intelligence encore plus inattendue. De plus, nous pouvons faire évoluer les choses beaucoup plus rapidement sur un ordinateur, et rien dans les algorithmes évolutionnaires n'est même proche de l'intelligence humaine.
yters
@yters Comment les essais et erreurs sur des milliards d'années rendent-ils l'intelligence encore plus inattendue? Pourriez-vous expliquer cela? De plus, cela dépend essentiellement de l'algorithme lui-même. En règle générale, les simulations se limitent aux connaissances fournies à l'ordinateur. Ils sont donc utilisés pour prédire ce qui pourrait arriver selon notre banque de connaissances. Une simulation pour répéter le processus évolutif de la biologie est extrêmement difficile car nous n'avons pas la banque de connaissances complète sur la façon dont cela s'est produit.
Alpha Mineron
@yters Lisez également l'édition
Alpha Mineron
«Mais alors avec moi, le doute horrible se pose toujours si les convictions de l'esprit de l'homme, qui a été développé à partir de l'esprit des animaux inférieurs, ont une valeur ou sont dignes de confiance. Quelqu'un aurait-il confiance dans les convictions de l'esprit d'un singe, s'il y a des convictions dans un tel esprit? [À William Graham le 3 juillet 1881] »- Darwin
yters
@yters Veuillez être clair ici, êtes-vous un fervent partisan des fables religieuses? Ne perdez pas le temps de la communauté. Les sciences et les mathématiques ne sont pas développées par l'esprit humain, les religions le sont. En fait, la science est basée sur des preuves et des mathématiques. Les mathématiques sont le langage de l'Univers, et je veux dire cela de toutes les manières possibles, qui s'appuie sur des postulats simples basés sur des observations et s'appuie sur lui, des structures complexes pour décrire la belle Nature. Les sciences et les mathématiques sont un signe d'intelligence, car ce sont de puissants outils pour en apprendre davantage sur la nature. RIEN N'EST FAIT PAR L'HOMME, C'EST SEULEMENT LA NATURE
Alpha Mineron