Une IA peut-elle apprendre à souffrir?

J'avais d'abord cette question à l'esprit "Une IA peut-elle souffrir?". La souffrance est importante pour les êtres humains. Imaginez que vous endommagez votre talon. Sans douleur, vous continuerez à lui faire du mal. Idem pour une IA. Mais ensuite je me suis dit " Attends une seconde. Ça existe déjà. Ce sont les erreurs et les avertissements qui apparaissent ". Nous pouvons dire qu'elle a le même but que la souffrance. Cependant, j'ai senti quelque chose manquer. Nous ressentons de la douleur. Les erreurs et les bogues ne sont que des données. Disons qu'un robot peut utiliser l'apprentissage automatique et la programmation génétique pour évoluer.

Une IA peut-elle apprendre à souffrir? Et pas seulement le savoir comme une simple information.

À un niveau très élevé, en ce qui concerne la théorie des jeux évolutifs et les algorithmes génétiques, il est tout à fait possible que l'IA puisse développer un état analogue à la souffrance, bien que, comme vous le faites remarquer astucieusement, cela impliquerait des conditions qui préoccupent un ordinateur. (Par exemple, cela pourrait développer un sentiment analogue à "être lésé" sur la non-optimalité au sens algorithmique, ou la "frustration" face aux équations ne s'additionne pas, ou "l'insatisfaction" sur les objectifs qui n'ont pas été atteints.)

On peut certainement dire que le robot tourmenté par de petits enfants au centre commercial "souffre" en ce que les enfants bloquent la performance de la fonction du robot, mais le robot n'est pas conscient et la souffrance pourrait être considérée comme nécessitant une prise de conscience. Cependant, même sans conscience, ce robot très simple peut apprendre de nouveaux comportements grâce auxquels il atténue ou évite les "souffrances" induites par l'incapacité de remplir sa fonction.

Vous voulez certainement examiner le concept de souffrance dans un contexte philosophique et Epicure serait un point de départ très utile.

Épicure est directement pertinent dans un sens algorithmique car il utilise le terme « ataraxie » signifiant calme, et est dérivé du verbe « tarasso » qui signifie agiter ou déranger.

L'araraxie peut être mathématiquement exprimée comme un équilibre. Tarasso peut être mathématiquement exprimé comme un déséquilibre.

Cela se rapporte directement à la théorie des jeux en ce sens que le déséquilibre peut être considéré comme la principale exigence des jeux, et à l'IA dans cette théorie des jeux peut être considérée comme la racine de toute l'IA.

L'araraxie est également comprise dans le sens de «l'absence de peur», qui dans le temps en ce que la peur est fonction de l'incertitude en ce qui concerne l'avenir dans un sens prédictif, et implique l'état actuel par rapport à des conditions futures possibles, moins optimales.

Ainsi, la peur, qui est une forme de souffrance, est enracinée dans l'intractabilité informatique, même lorsque «l'ordinateur» est un cerveau humain.

Les premiers philosophes tels que Démocrite sont particulièrement utiles car ils exploraient des concepts fondamentaux critiques, dont beaucoup peuvent maintenant être exprimés avec les mathématiques modernes.

A savoir: vous ne pouvez arriver à la souffrance que si vous définissez d'abord "le Bien" et "le Mauvais", qui est une relation binaire dans laquelle aucun terme ne peut avoir de sens sans le contraire. (Mathématiquement, il peut être exprimé sous sa forme la plus simple sous la forme d'un graphique fini à une dimension.) Cette compréhension est assez ancienne.

Il convient de noter que la valeur continue des premiers philosophes est en partie un facteur de sagesse qui ne dépend pas du volume de connaissances, démontré par Socrate dans l'idée que la sagesse peut être aussi simple que de savoir que vous ne savez pas quelque chose.

Les anciens sages ne bénéficiaient pas d'outils de mesure puissants, de mathématiques avancées ou de méthode scientifique, mais ils étaient très intelligents, et plus important encore, sages.