À quoi sert un modèle qui agit sur la chose modélisée et modifie ainsi le concept?

8

J'essaie de voir s'il existe un terme conventionnel pour ce concept pour m'aider dans mes recherches et mes écrits. Lorsqu'un modèle d'apprentissage automatique provoque une action dans le monde réel qui affecte les instances futures, comment cela s'appelle-t-il?

Je pense à quelque chose comme un système de recommandation qui recommande un produit donné et ne recommande pas un autre produit donné. Ensuite, vous avez augmenté la probabilité que quelqu'un achète le premier produit et diminué la probabilité que quelqu'un achète le deuxième produit. Ainsi, ces chiffres de vente deviendront éventuellement des instances de formation, créant une sorte de boucle de rétroaction.

Y a-t-il un terme pour cela?

machine-learning terminology jsmith54
la source
Oui, "boucle de rétroaction" est la façon dont je décrirais toujours cela.
Sean Owen
Je pense que la boucle de rétroaction est certainement utile à dire, mais la littérature sur la performativité et la réflexivité semble aborder davantage l'interaction complexe que j'essayais de discuter. Je pense donc qu'il est utile de dire quelque chose comme: "Un modèle qui peut agir sur le concept pour changer le concept peut donc se changer lui-même dans une sorte de boucle de rétroaction. Appelons cette propriété (performativité / réflexivité). Ceci est distinct de la dérive du concept , car le modèle est à l'origine de la dérive. "
jsmith54

Réponses:

6

Il existe trois termes issus des sciences sociales qui s'appliquent à votre situation:

  1. Réflexivité - fait référence aux relations circulaires entre la cause et l'effet. En particulier, vous pouvez utiliser la définition du terme adoptée par George Soros pour faire référence à la boucle causale inverse entre les cours des actions (c'est-à-dire la valeur actuelle des fondamentaux) et les fondamentaux des entreprises. D'une certaine manière, le cours de l'action est un «modèle» des processus commerciaux fondamentaux. Habituellement, les gens supposent que la causalité est à sens unique, des fondamentaux au cours de l'action.

  2. Performativité - Tel qu'utilisé par Donald MacKenzie (par exemple ici ), de nombreux modèles économiques ne sont pas des "caméras" - prenant des photos de la réalité économique - mais en fait des "moteurs" - une partie intégrante de la construction de la réalité économique. Il a un livre de ce titre: An Engine, Not a Camera .

  3. Prophétie auto-réalisatrice - une prédiction qui, directement ou indirectement, se réalise, selon les termes mêmes de la prophétie elle-même, en raison d'une rétroaction positive entre la croyance et le comportement. C'est le terme le plus large et le moins spécifique à la situation que vous décrivez.

Des trois termes, je suggère que la «performativité» de MacKenzie correspond le mieux à votre situation. Il affirme, entre autres, que la validité des modèles économiques (par exemple, la tarification des options Black-Scholes) a été améliorée par son utilisation même par les acteurs du marché, et donc par la manière dont elle se reflète dans la tarification des options et les modèles de négociation.

MrMeritology
la source
Tous les termes utiles, mais je pense que je conviens que la performativité est la plus applicable, au moins en termes d'essayer d'exprimer le concept par écrit. De toute évidence, il existe cependant une assez grande hétérogénéité de la terminologie entre les domaines. Donc, je ne suis pas sûr que ces informations vont vraiment m'aider dans mes recherches documentaires. Mais c'est probablement le terme que je vais essayer d'utiliser.
jsmith54
3

Bien qu'il ne soit pas spécifiquement un terme, axé sur l'apprentissage automatique , mais je me référerais à un tel comportement d'un modèle statistique, en utilisant un effet secondaire de terme général (tout en ajoutant des adjectifs de clarification , tels qu'attendu ou inattendu, souhaité ou indésirable, et similaire ). La modélisation du résultat ou du résultat de la boucle de rétroaction transitive pourrait être certains des termes alternatifs .

Aleksandr Blekh
la source
@ jsmith54: Mon plaisir.
Aleksandr Blekh
0

Je pense que dans la littérature, le terme dominant souvent utilisé est l'apprentissage actif. L'apprentissage actif ... en particulier le bandit contextuel multi-armé

seanv507
la source
Alors que l'apprentissage actif (AL) semble être un concept assez proche, je pense qu'il existe une différence significative entre AL et la situation, décrite par le PO - le premier implique des efforts de supervision intentionnels , tandis que le second implique le manque de tels efforts et, même , intentions. Par conséquent, ma préférence va aux effets secondaires ou aux termes de boucle de rétroaction .
Aleksandr Blekh
Je dirais que l'apprentissage actif, bien que certainement lié, a tendance à se référer à une technique assez spécifique intentionnellement déployée, plutôt qu'à la conséquence involontaire d'un type de modèle arbitraire agissant sur le concept. Cela me semble similaire à l'apprentissage par renforcement. Ces techniques sont probablement utiles, une fois que vous avez réalisé que vous avez une boucle de rétroaction dans votre système, mais je suis d'accord avec Aleksandr qu'elles expriment une intention de conception que j'impliquais n'existe pas dans mon exemple.
jsmith54
0

"Je vous déclare maintenant homme et femme", un exemple d'énoncé par lequel le locuteur accomplit un acte particulier, est un exemple d'un acte performatif , qui change la chose modélisée et change ainsi le concept. Réflexif, itératif, récursif, rétroactif, auto-générateur , sont des termes liés.

Laurent Duval
la source