Que voulait dire Turing en disant que «les machines ne peuvent pas donner lieu à des surprises» est dû à une erreur?

J'ai rencontré ci-dessous la déclaration d' Alan M. Turing ici :

"L'opinion selon laquelle les machines ne peuvent pas donner lieu à des surprises est due, je crois, à une erreur à laquelle les philosophes et les mathématiciens sont particulièrement soumis. C'est l'hypothèse que dès qu'un fait est présenté à un esprit, toutes les conséquences de ce fait l'esprit en même temps. C'est une hypothèse très utile dans de nombreuses circonstances, mais on oublie trop facilement qu'elle est fausse. "

Je ne suis pas natif anglophone. Quelqu'un pourrait-il l'expliquer en anglais simple?

Les mathématiciens et les philosophes supposent souvent que les machines (et ici, il signifie probablement «ordinateurs») ne peuvent pas nous surprendre. C'est parce qu'ils supposent qu'une fois que nous apprenons un fait, nous comprenons immédiatement toutes les conséquences de ce fait. C'est souvent une hypothèse utile, mais il est facile d'oublier que c'est faux.

$A$$B$$A$$B$

Honnêtement, cependant, je ne suis pas sûr que l'argument de Turing soit très bon. J'ai peut-être l'avantage d'écrire près de 70 ans après Turing, et je crois comprendre que le mathématicien type en sait beaucoup plus sur la logique mathématique qu'à l'époque de Turing. Mais il me semble que les mathématiciens connaissent généralement assez bien l'idée de systèmes simples ayant un comportement complexe. Par exemple, chaque mathématicien connaît la définition d'un groupe , qui se compose de seulement quatre axiomes simples. Mais personne - aujourd'hui ou alors - ne penserait, "Aha. Je connais les quatre axiomes, donc je connais chaque fait sur les groupes." De même, les axiomes de Peano donnent une très courte description des nombres naturels, mais personne qui les lit ne pense "Bon, je connais tous les théorèmes sur les nombres naturels, maintenant.

Juste un exemple - étant donné les règles d'échecs, n'importe qui devrait immédiatement trouver la meilleure stratégie pour jouer aux échecs.

Bien sûr, cela ne fonctionne pas. Même les gens ne sont pas égaux et les ordinateurs peuvent nous surpasser en raison de leurs meilleures capacités à tirer des conclusions des faits.

C'est l'idée d' émergence , c'est-à-dire lorsqu'un comportement complexe résulte de l'interaction de règles relativement simples. Il existe de nombreux exemples de cela dans la nature, comme le montre ce lien. Colonies d'insectes, volées d'oiseaux, bancs de poissons et, bien sûr, conscience. Dans une volée d'oiseaux ou un banc de poissons, chaque individu dans l'essaim ne prend des décisions que sur la base des autres qui les entourent immédiatement, mais lorsque vous rassemblez un groupe de ces individus tout en suivant ces règles, vous commencez à voir un comportement plus coordonné que vous vous attendriez sans un plan de niveau supérieur. Si vous allez sur Youtube et regardez des démonstrations d' essaims de robots, vous voyez qu'ils évitent tous de se frapper et travaillent à l'unisson. Étonnamment, cela n'a pas besoin d'être accompli en ayant un seul ordinateur central coordonnant le comportement de chaque robot individuel, mais peut plutôt être fait en utilisant la robotique d'essaim où, comme les insectes ou les oiseaux ou les poissons, chaque robot prend des décisions locales qui conduisent à une coordination émergente.

Le jeu de la vie de Conway est une autre démonstration intéressante d'un comportement émergent . Les règles du jeu sont extrêmement simples, mais peuvent conduire à des résultats très fascinants

Un argument tentant contre la capacité des ordinateurs à gagner l'intelligence humaine est de dire qu'ils ne peuvent faire précisément que ce pour quoi ils sont programmés, ils doivent seulement montrer l'intelligence avec laquelle nous les programmons. Si cela était vrai, nous ne nous attendrions pas non plus à ce que le comportement relativement simple des neurones donne lieu à l'intelligence humaine. Pourtant, pour autant que nous puissions en juger, c'est LE cas et la conscience est une propriété émergente du traitement neuronal. Je suis sûr que Turing aurait adoré voir ce qui est devenu possible aujourd'hui avec l'utilisation de réseaux de neurones artificiels

Les gens pourraient supposer que si j'écris un programme, et que je comprends parfaitement l'algorithme, et qu'il n'y a pas de bogues, alors je devrais savoir quelle serait la sortie de ce programme, et que cela ne devrait pas me surprendre.

Turing dit (et je suis d'accord) que ce n'est pas le cas: la sortie peut être surprenante. La solution à un problème de vendeur ambulant peut être surprenante. La meilleure façon de créer un additionneur complet peut être surprenante. Le meilleur coup dans une partie d'échecs peut être surprenant.