Lorsque la singularité de l'IA prendra le dessus, que nous restera-t-il à faire?

Depuis la première révolution industrielle, les machines occupent les emplois des personnes et l'automatisation fait partie de l'évolution sociale humaine depuis 3 siècles, mais dans l'ensemble, ces machines remplacent les emplois mécaniques, à haut risque et peu qualifiés tels que une ligne de production d'une usine automobile.

Mais récemment avec l'avènement des ordinateurs et l'amélioration de l'IA, et la recherche d'une singularité (c'est-à-dire un ordinateur capable de penser plus vite, mieux, plus créatif et moins cher qu'un être humain, capable de s'améliorer), notre l'avenir conduira au remplacement non seulement des travailleurs peu qualifiés, mais aussi des travailleurs hautement qualifiés. Je parle d'un avenir pas trop loin où l'IA et les machines remplaceront les artistes, les concepteurs, les ingénieurs, les avocats, les PDG, les cinéastes, les politiciens, même les programmeurs. Certaines personnes sont excitées par cela, mais honnêtement, j'ai un peu peur.

Je ne parle pas de la question de l'argent ici, bien que je ne sois pas fan de l'idée, supposons que le revenu universel a été mis en œuvre, et supposons que cela fonctionne bien. Ne parlant pas non plus du " monde de Terminator où les machines feront la guerre aux humains ", supposons aussi qu'elles soient complètement amicales pour toujours.

La question ici est celle de la motivation pour nous les humains. Lorsque la singularité de l'IA prendra le dessus, que nous restera-t-il à faire? Tous les jours, toute la journée?

Qu'allons-nous faire de nos vies? Supposons que j'aime peindre, comment puis-je vivre mon rêve de devenir peintre si l'ordinateur fait un meilleur art que je pourrai jamais faire? Comment puis-je vivre en sachant que personne ne se souciera de mes peintures parce qu'elles ont été faites par un simple humain ? Ou le vrai moi par exemple (moi, Danzmann), j'adore coder, j'ai appris mon premier langage de programmation avec 9 ans et j'y suis depuis, il me semble triste que certaines années je ne puisse plus jamais y toucher . Et cela vaut pour tous les métiers, tout le monde est passionné par quelque chose, et avec la singularité, chacun d'entre eux devrait simplement cesser d'exister.

Alors, qu'allons-nous faire dans ce futur? Qu'est ce que je vais faire? Jouer au golf toute la journée, tous les jours pour le reste de ma vie (une figure d'hyperbole, mais vous comprenez mon point)?

De plus, quelle va être la motivation de mes enfants? Qu'est-ce que je vais leur dire d'aller à l'école? Quand quelqu'un demande "que veux-tu être quand tu seras grand?", Et la réponse inévitable n'est rien .

Si l'IA hautement avancée prend le contrôle de toutes les recherches scientifiques, quelle est la raison pour laquelle nous apprenons ? Quelle est la raison pour laquelle nous, les humains, aurions besoin de consacrer des décennies de notre vie à apprendre quelque chose si cette connaissance est inutile, car il n'y a plus d'emplois et la recherche scientifique est effectuée uniquement par l'IA?

Étant donné que toutes vos hypothèses sur l'IA s'avèrent vraies, nous aurions une sorte d'utopie, où personne ne devrait travailler, et il y a beaucoup de tout. C'est suffisant. Vos autres hypothèses concernent la nature humaine, et c'est là que je contesterais votre conclusion: simplement parce qu'il y a des ordinateurs meilleurs que les humains à certaines tâches, cela ne prend pas automatiquement tout le plaisir de le faire.

J'ai trois arguments en faveur de ma position.

• Il y a déjà des ordinateurs meilleurs que les humains aux dames, aux échecs, au backgammon, au starcraft, au cerveau, au go, .. et bien d'autres. Pourtant, ces jeux sont toujours joués, même si aucun humain ne peut espérer être aussi bon qu'un ordinateur.
• Il y aura des domaines où l'évaluation de la qualité est si vague ou si personnelle que la notion de «mieux» est inutile dans un sens objectif. Je pense principalement à l'art. Jouant dans l'argument un, les appareils photo sont déjà de meilleurs "peintres" de la réalité que les humains ne peuvent jamais espérer l'être, et pourtant les gens peignent encore. Et leurs peintures sont appréciées, même du genre photo-réaliste.
• Je dirais que toute la mentalité de "si quelqu'un est meilleur que moi à x ça ne vaut pas la peine de faire x" aura survécu très peu de temps. La société n'a pas toujours tourné de cette façon, je pense, c'est en grande partie grâce à l'influence du mode de vie nord-américain de toujours s'efforcer d'être n ° 1 et tout ce qui se trouve en dessous de la poubelle. La mondialisation met déjà en danger cette façon de penser, de nombreux jeunes étant désillusionnés ou même déprimés parce que, avec désinvolture, "quoi que vous fassiez, il y a toujours un enfant asiatique qui le fait 10 fois mieux". Nous n'avons pas à attendre que l'IA nous éclipse, le reste du monde le fait déjà. En conséquence, nous devons adapter notre façon d'aborder ce fait, cesser de le voir diminuer à notre valeur et continuer.

Pour terminer, je considère également comme un problème pour la population en général que dans un court laps de temps, nous devons essentiellement changer une partie très importante de notre vision du monde, l'IA étant meilleure que nous, nous ne devons plus travailler, etc. les révolutions économiques du passé, le néolithique, l'industriel et, plus récemment, le numérique, ont connu une période de transition plus longue où les gens pouvaient s'habituer au nouveau monde. Et même avec cette transition, cela a été assez difficile pour beaucoup de gens. Pourtant, la plupart s'en sont occupés, et les générations suivantes peuvent difficilement imaginer un monde où le nouveau changement n'existe pas encore, et je ne vois personnellement pas pourquoi la prochaine révolution devrait être différente.

Nous sommes des êtres biologiques. Nous continuerons à aimer tout ce qui active les récepteurs opioïdes et nous continuerons à vouloir tout ce qui active les récepteurs de la dopamine dans le noyau accumbens. La nourriture, les boissons, le sexe, la domination sociale, les actes altruistes, la nouveauté, les drogues abusives, la maîtrise physique, la procréation, la socialisation, le beau temps ensoleillé, le sommeil fatigué, etc., continueront d'être gratifiants et motivants tant que nous aurons le cerveau. Quelques liens vers des articles de synthèse sur la neurobiologie:

Voir aussi cet article Pleasure Systems in the Brain ou celui-ci Dopamine in Motivational Control: Rewarding, Aversive, and Alerting pour plus de détails sur ce sujet.

Personnellement, j'aime jouer au basket-ball, même si je n'aurais aucune chance contre les joueurs de la NBA, et l'escalade même si l'utilisation d'une échelle serait beaucoup plus efficace. Je ne suis pas payé non plus.

De plus, quelle va être la motivation de mes enfants? Que vais-je leur dire d'aller à l'école? Quand quelqu'un demande "que veux-tu être quand tu seras grand?", Et la réponse inévitable n'est rien.

Je ne suis pas d'accord. Les écoles évolueront. Les enfants devront encore acquérir des compétences sociales et se faire des amis. À tout le moins, ils devront apprendre à utiliser ou à interfacer avec les ordinateurs qui font tout. Ils devront encore apprendre à être de meilleurs êtres humains en lisant les sciences humaines. Je ne pense pas qu'on leur dira "L'ordinateur va maintenant lire Dostoïevski en votre nom, c'est beaucoup mieux à lire , vous savez". Il peut y avoir des emplois où la description de travail contient "par un humain", comme l'artisanat, la psychothérapie, etc. Ils peuvent devenir ce qu'ils veulent, les êtres humains ne sont pas définis uniquement par leur profession. Je suis sûr que vous n'êtes pas seulement un codeur, rien de plus .

À partir du point de vue d'Arne sur la photographie:

Je voudrais souligner comment la photographie a changé la peinture. Vous pouvez remarquer que la peinture classique qui essayait d'être photoréaliste a cessé d'être pertinente lorsque la photographie a commencé, et que plusieurs mouvements modernes ont commencé, comme des peintures plus abstraites, le surréalisme ou le cubisme.

On peut voir l'art comme un moyen de se vanter "je suis meilleur que toi". Ils pourraient dire "je suis meilleur que vous pour perfectionner la technique du réalisme" jusqu'à ce que la photographie apparaisse. Maintenant, sur cet aspect, de quoi se vantent les artistes? Parfois en prétendant à quel point ils sont progressifs lorsqu'ils sculptent des jouets sexuels? En prétendant que leur sphère blanche est "trop ​​profonde pour vous"?

Je ne suis pas historien de l'art, cependant, c'est ainsi que je pense qu'il a évolué vers "l'art" moderne actuel où la compétence a été remplacée par la provocation.

La photographie pourrait être un bon point de départ pour réfléchir à la façon dont les gens réagissent à une technologie qui les éclipse et ils veulent toujours être n ° 1.

- voici un point à noter: les gens veulent avoir une bonne identité

Paul Lafargue a écrit une fois Le droit d'être paresseux, où il a expliqué comment l'humanité évoluerait intellectuellement si les gens travaillaient moins car les machines pouvaient fonctionner pour nous. Un de ses arguments était que les gens se voyaient comme des modèles intellectuels, les philosophes grecs, ne fonctionnaient pas et avaient plus de temps pour réfléchir. Je pense qu'il manque un point: tout le monde n'est pas en mesure d'apprécier le temps philosophique. Un peu comme nous nous sommes profondément trompés lorsque nous nous attendions à ce que l'Internet ouvre nos esprits vers un grand âge de connaissances. N'oubliez pas que les gens ne sont pas utopiquement intelligents, que vous avez des gens stupides et que les humains suivent essentiellement leurs besoins instinctifs. C'est pourquoi 20 ans après avoir commencé à utiliser Internet, nous avons des lolcats, des trolls, des communautés fermées et plus d'intolérance intellectuelle (pensez sjw, alt right mouvements).

- point # 2: tout le monde ne peut pas être inclus dans une utopie "tout le monde sera brillant"

La clé est son identité. Je pense que tout le monde veut et doit avoir une "identité positive", ils en recherchent une pour compenser leurs faiblesses. C'est pour moi pourquoi les gens pauvres ont tendance à se montrer, et les gens qui réussissent n'ont pas tendance à se vanter. Alors, comment forgez-vous votre identité positive quand vous n'avez pas grand-chose pour vous?

Je vois quelques choses qui se passent autour de moi: - être un rebelle: pour vous distinguer, vous devenez un adversaire; mais en fait, vous ne faites que refléter la tendance principale, tout en vous vantant de votre indépendance. Je suis contre, donc je suis libre. Vous pouvez avoir une gamme allant de la position libre IA (comme les personnes qui ne veulent pas utiliser Internet, certaines de celles qui utilisent des logiciels gratuits), à un mouvement plus agressif. - être conservateur, pieux: peut-être en réaction à une société qui change et devient trop progressiste pour certains, je vois des gens devenir conservateurs, c'est encore une tendance rebelle, et je vois la montée du vote conservateur (nationalisme) ou de la religion (bouddhisme, christianisme, islam) en réaction. Je respecte les traditions, donc je suis indépendant de vos nouveautés. La religion est toujours une valeur solide lorsque la société change. - être hyperprogressif: même réaction que le point précédent si vous pensez que la société est trop conservatrice. C'est une position rebelle quand vous avez des gens conservateurs devant vous. J'ai une longueur d'avance tout le monde, regardez comme je suis avant-gardiste.

- point # 3: si vous n'excellez pas dans un domaine, soyez rebelle. Ou: si vous ne pouvez pas suivre, mettez-vous de côté, ne suivez pas le flux.

Vous n'avez donc plus de travail à faire, beaucoup de nourriture cultivée par des drones contrôlés par IA, tous les besoins matériels sont satisfaits et aucun intérêt à trop réfléchir. Que font les gens lorsqu'ils ont trop de temps? Simple: ils comblent leurs envies naturelles qui ne sont pas liées aux besoins matériels et alimentaires. Quelques exemples: manger, jouer à des jeux, avoir des relations sexuelles, argumenter en ligne, se perdre. Fondamentalement, tout ce qui a été étiqueté comme un péché. Vous aurez également des formes de troubles mentaux que vous voyez chez les personnes qui se sentent sans valeur. Et beaucoup d'autres se sentiront sans valeur.

Cela signifie également que vous aurez besoin de plus d'emplois pour divertir ces personnes ou prendre soin de celles qui souffrent.

- point # 4: si la vie devient trop facile, les gens deviennent des pécheurs

Par ces quelques exemples, se pose ici une question: si les gens "médiocres" ont tendance à obtenir leur identité brillante en s'opposant à la société dominante, à quoi ressemblera la société dominante après la montée de l'IA?

Je vois donc trois réactions de personnes: - être pertinent après l'ascension de l'IA, ceux qui peuvent suivre - devenir un rebelle, ceux qui ne peuvent pas suivre mais veulent toujours paraître pertinents - être neutre, ceux qui comblent leurs envies humaines

Et en général, les gens feront un mélange des trois.

L'humanité, avec l'aide de l'IA qui peut fournir des réponses à pratiquement tout, fournira de nouvelles questions, de nouveaux projets, de nouvelles frontières à explorer. Beaucoup de personnes seront toujours un peu pertinentes. L'IA deviendra grand public, donc tout le monde s'y opposera plus ou moins, tout en profitant de ses avantages (pensez aux personnes qui prétendent être indépendantes de la technologie / de l'argent mais qui ont un iPhone). Les gens discuteront toujours en ligne et riront de chats mignons faisant des trucs bizarres. Peut-être plus, car ils ont plus de temps libre.

En conclusion, si l'IA devient pertinente, attendez-vous à un monde où plus de gens ont trop de temps libre . Je trouve cette conclusion un peu trompeuse, après tout ce que j'ai pensé et écrit. : O

Au lieu de poster une réponse spécifique, je vais vous indiquer la méditation de Hannu Rajaniemi sur ce sujet dans la trilogie du voleur quantique . Voici pourquoi:

1. Les artistes peuvent avoir des idées profondes. Cela peut être démontré par Philip Dick écrivant sur la théorie du jeu évolutif dans Do Androids Dream of Electric Sheep environ 5 ans avant la formalisation du domaine. (Pour mon argent, c'est toujours le livre le plus important sur l'IA.)

2. De nombreux auteurs ont écrit sur les scénarios post-singularité, mais Rajaneimi est le seul que je connaisse qui est un mathématicien formé à Cambridge avec un doctorat en physique mathématique , ce qui, selon moi, le rend bien qualifié pour faire face à la complexité inhérente de l'objet.

Vous supposez que l'IA a de la motivation, mais ce n'est pas vraiment le cas, un logiciel intelligent fera tout ce qu'il a été conçu pour faire, mais c'est tout ce qu'il fait, ce n'est pas un animal dressé, il n'a pas d'instinct de survie, de reproduction ou d'auto. détermination parce qu'il n'y a aucune raison d'ajouter ces fonctions. Si efficacement, l'IA n'est qu'un autre outil, celui qui réduit la charge mentale de faire une tâche, donc plutôt que de creuser une tranchée avec une seule machine, vous pouvez commander une flotte de machines pour creuser un système de canaux. Ou de façon plus réaliste, vous passerez des heures dans des réunions avec les parties prenantes à discuter du besoin de canaux, à justifier le coût, à expliquer les avantages, à considérer les risques, à demander des permis, à avoir plus de discussions avec le conseil et ses consultants, puis avec des groupes d'intérêts spéciaux,

Dans la société actuelle, l'argent est un grand facteur de motivation clé, non seulement il fournit les nécessités de la vie, il peut acheter le luxe et l'indulgence. Dans un monde où tous les besoins (même complexes) sont satisfaits gratuitement par l'émergence de technologies comme la singularité, il est facile de dire qu'il n'y aura pas de motivation.

Mais, instinctivement, comme les enfants, nos motivations ne sont pas d'accumuler de l'argent, vous ne voyez pas les enfants s'ennuyer avec la vie. Enfant, j'étais heureuse d'apprendre. D'autres étaient heureux de danser ou de nager, de lire ou de peindre. En fin de compte, les gens sont des êtres à la recherche d'excitation sociale.

Les conditions socioéconomiques d'aujourd'hui créent l'ennui à certains égards, faire le même travail pendant des années est sans doute pire.

Je ne pense pas que la motivation sera un problème.