Approche Bayesian Learning pour la modélisation à base d'agents dans une classe de problèmes économiques et leur application en finance

par Tuan Tran

Projet de thèse en Informatique, mathématique et applications

Sous la direction de Marc Bui, An Mai et de Duc Pham-hi.

Thèses en préparation à Paris Sciences et Lettres , dans le cadre de École doctorale de l'École pratique des hautes études (Paris) , en partenariat avec CHART (laboratoire) et de École pratique des hautes études (Paris) (établissement de préparation de la thèse) depuis le 01-10-2018 .


  • Résumé

    Approche Bayesian Learning pour la modélisation à base d'agents dans une classe de problèmes économiques et leur application en finance Tuan TRAN Novembre 2018 1 Motivation Scientific Computing, un domaine multidisciplinaire utilisant des technologies de pointe, connaît une croissance rapide depuis l'augmentation de la puissance de calcul au fil des années. Il vise à comprendre et à résoudre des problèmes complexes dans de nombreuses disciplines, telles que l'économie informatique ou la finance informatique. La science économique est un exemple sophistiqué du problème complexe et la science de la calcul computationnelle utilise des systèmes économiques de modélisation informatique (finance en équilibre général, macro-économique ou informatique). Notamment en économie informatique, il étend les domaines traditionnels de l'économie en résolvant des problèmes difficiles à étudier sans l'utilisation d'ordinateurs et de méthodes numériques associées [3]. Les deux principales approches de l'économie informatique actuelle sont les modèles d'équilibre général stochastique dynamique (DSGE) et ceux basés sur les agents (AB). Le premier est sans doute la source d'informations empiriques sur le comportement des économies nationales la mieux structurée, la plus largement acceptée et la plus sophistiquée. Cependant, The Great Recession, qui constitue une expérience naturelle pour la macroéconomie, montre une insuffisance du modèle DSGE. . Cette dernière solution est sans doute l'approche la plus flexible pour l'étude de systèmes complexes comportant de nombreux composants dynamiques et en interaction et a suscité une grande attention ces dernières années [11, 3]. Avec l'avenir potentiel de la modélisation à base d'agent, nous proposons d'explorer cette approche en construisant des agents avec des algorithmes avancés ou des méthodes de calcul plus complexes dans le cas de problèmes de macroéconomie et de leur application sur le marché financier. Mots-clés: modélisation à base d'agents, apprentissage bayésien, économie, finance 2 Approches proposées Dans notre perspective, il existe deux approches dans la modélisation à base d'agents qui se concentrent sur deux noms «agent» et «modèle». Une première est une approche basée sur les données, basée sur des données réelles, propres et informatives, l'agent essaiera de prédire une bonne réponse pour une situation actuelle qui a été apprise sur un grand nombre de points de données. Il existe plusieurs algorithmes d'apprentissage automatique en informatique qui pourraient être utilisés pour former l'agent, par exemple: afin de réduire la variance de la prévision finale.La forêt aléatoire pouvait gérer la classification, la régression et a prouvé son efficacité théorique et empirique.Elle repose sur ses avantages, elle a été appliquée à plusieurs applications du monde réel, telles que la détection de fraude, Network est un réseau de neurones biologiques inspiré des cerveaux d'animaux et qui a une longue histoire. Une première version a été créée par Warren McCulloch et Walter Pitts 1943 [10] est un modèle informatique basé sur des mathématiques et des algorithmes, appelé logique à seuil. prédicteur puissant, Neural Network a trouvé de nombreuses applications dans de nombreuses disciplines, telles que les problèmes financiers [7], • Deep L'apprentissage fait partie d'une famille plus large d'apprentissage automatique qui s'inspire du traitement de l'information et des modèles de communication dans les systèmes nerveux biologiques. Dans Deep learning, un modèle utilise plusieurs couches de traitement non linéaire pour représenter différents niveaux d'abstraction des données, ce qui confère au modèle des fonctionnalités informatives plus avancées permettant de prédire des résultats plus précis. Un réseau de neurones profonds est un réseau de neurones comportant plusieurs couches entre les couches d'entrée et de sortie, ce qui suscite un grand intérêt dans la finance en raison de ses atouts [14]. attention ces dernières années [12] et il existe un grand domaine à explorer. Sur la base des algorithmes ci-dessus, nous proposons d'équiper l'agent d'une capacité informatique plus puissante, puis de le laisser agir individuellement. Cette approche semble être utile et réaliste sur le marché financier, car chaque type d'opérateur (par exemple, un opérateur individuel ou une grande institution) dispose d'une ressource informatique différente. Par exemple, de nombreuses grandes banques et fonds ont essayé d'utiliser le réseau de neurones, ce qui prend beaucoup de temps à former et il n'est pas indiqué pour leur budget de construire un ordinateur puissant. Contrairement à l'approche ci-dessus axée sur les données, qui met l'accent sur une approche ascendante similaire à celle d'un agent, une approche fondée sur un modèle gère un problème complexe de manière descendante dans notre perspective. Avec un modèle conceptuel, l'analyse de simulation de la modélisation à base d'agents peut étudier les scénarios possibles, notamment la situation réelle actuelle ou les événements rares futurs. En macroéconomie, nous pourrions réutiliser l'approche DSGE en modifiant son modèle (c'est-à-dire en assouplissant leurs hypothèses) pour se rapprocher de l'approche basée sur les agents. Cependant, certains problèmes subsistent: • Cette approche semble être un peu complexe par rapport aux autres, elle rend les résultats des études difficiles à reproduire ou à appliquer à des applications réelles [5]. Cela signifie que nos études devraient être en mesure de s'appliquer efficacement à l'application réelle, par exemple. marché financier. Nous proposons de remplacer une étude complexe par une méthode informatique plus efficace afin de l'appliquer à notre monde réel. • Certains cadres nous aident dans le processus de développement des modèles conceptuels aux résultats de simulation [9, 6, 13], mais ils ne sont toujours pas une norme pour l'approche AB et nous devons suivre leurs conceptions. Dans l'apprentissage par renforcement, un OpenAI Gym [2] devient la norme pour développer un modèle à base d'agent car il ne fait aucune hypothèse concernant la structure de l'agent et est compatible avec toute bibliothèque de calcul numérique. Sur la base de ses avantages, nous proposons de développer nos études dans ce cadre. • En mettant l'accent sur la simulation via cette approche, nous souhaitons également effectuer deux étapes de calcul: modèle. Afin de faire ces choses, nous pourrions examiner les techniques d'apprentissage bayésiennes qui ont récemment retenu l'attention [8], par exemple, nous pourrions utiliser les modèles DSGE comme prieurs bayésiens pour l'analyse [4]. Cela nous donne non seulement des résultats, mais aussi une probabilité de ceux-ci, une combinaison de ces résultats est très utile pour permettre à l'homme de prendre une décision et c'est pourquoi nous proposons de nous concentrer sur cette approche. Il existe différentes approches pour explorer la modélisation AB, mais son potentiel n'a pas encore été pleinement exploité [11]. Il est intéressant de rechercher les modèles AB en particulier pour l'économie informatique en utilisant l'apprentissage bayésien et l'apprentissage automatique. Références [1] Leo Breiman, Random forests, Machine learning 45 (2001), no. 1, 5–32. [2] Greg Brockman, Vicki Cheung, Ludwig Pettersson, Jonas Schneider, John Schulman, Jie Tang, and Wojciech Zaremba, Openai gym, arXiv preprint arXiv:1606.01540 (2016). [3] Herbert Dawid and Domenico Delli Gatti, Agent-based macroeconomics, Handbook of Computational Economics, vol. 4, Elsevier, 2018, pp. 63–156. [4] Marco Del Negro and Frank Schorfheide, Priors from general equilibrium models for vars, International Economic Review 45 (2004), no. 2, 643–673. [5] Alberto Fern´andez-Isabel and Rub´en Fuentes-Fern´andez, A model-driven engineering process for agent-based traffic simulations., SIMULTECH, 2015, pp. 418–427. [6] Alfredo Garro and Wilma Russo, easyabms: A domain-expert oriented methodology for agent-based modeling and simulation, Simulation Modelling Practice and Theory 18 (2010), no. 10, 1453–1467. [7] Steven Gonzalez et al., Neural networks for macroeconomic forecasting: a complementary approach to linear regression models, Department of Finance Canada, 2000. [8] Jakob Grazzini, Matteo G Richiardi, and Mike Tsionas, Bayesian estimation of agent-based models, Journal of Economic Dynamics and Control 77 (2017), 26–47. [9] Takashi Iba, Yoshiaki Matsuzawa, and Nozomu Aoyama, From conceptual models to simulation models: Model driven development of agent-based simulations, 9th Workshop on Economics and Heterogeneous Interacting Agents, vol. 28, 2004, p. 149. [10] Warren S McCulloch and Walter Pitts, A logical calculus of the ideas immanent in nervous activity, The bulletin of mathematical biophysics 5 (1943), no. 4, 115–133. [11] Matteo G Richiardi, The future of agent-based modeling, Eastern Economic Journal 43 (2017), no. 2, 271–287. [12] Mazhar Sajjad, Karandeep Singh, Euihyun Paik, and Chang-Won Ahn, A data-driven approach for agent-based modeling: simulating the dynamics of family formation, Journal of Artificial Societies and Social Simulation 19 (2016), no. 1, 9. [13] Davoud Taghawi-Nejad, Rudy H Tanin, R Maria Del Rio Chanona, Adri´an Carro, J Doyne Farmer, Torsten Heinrich, Juan Sabuco, and Mika J Straka, Abce: A python library for economic agent-based modeling, International Conference on Social Informatics, Springer, 2017, pp. 17–30. [14] Ruoxuan Xiong, Eric P Nichols, and Yuan Shen, Deep learning stock volatility with google domestic trends, arXiv preprint arXiv:1512.04916 (2015).

  • Titre traduit

    Bayesian Learning approach for Agent-based modelling in a class of economical problems and their application in finance


  • Résumé

    Bayesian Learning approach for Agent-based modelling in a class of economical problems and their application in finance Tuan TRAN November 2018 1 Motivation Scientific Computing, a multidisciplinary field that uses advanced computing have been growing rapidly since the computing power increase over years. It aims to understand and solve complex problems in many disciplines, such as computational economics or computational finance. The economics is a sophisticated example of the complex problem and the subject computational economics uses computer-based modelling economic systems (general-equilibrium, macroeconomic, or computational finance). Particularly in computational economics, it extends traditional areas of economics by solving problems that are difficult to study without the use of computers and associated numerical methods [3]. Two major approaches in current computational economics are Dynamic Stochastic General Equilibrium (DSGE) and Agent-based (AB) models. The first one is arguably the best structured, the most widely accepted and also the most sophisticated source of empirical information on the behavior of national economies, however, The Great Recession, which is a natural experiment for macroeconomics, shows an inadequacy of the DSGE model. The latter is arguably the more flexible approach for studying complex systems with many dynamic and interacting components and it has received a big attention recent years [11, 3]. With the potential future of Agent-based modelling, we propose to explore this approach by building agents with advanced algorithms, or more complex computing methods in a case of macroeconomics problems and their application in financial market. Keywords: Agent-based modelling, Bayesian Learning, Economics, Finance 2 Proposed approaches In our perspective, there are two approaches in agent-based modelling which focus on two nouns ”agent” and ”model”. A first one is data-driven approach, based on real, clean and informative data, the agent will try to predict a right answer for a current situation which has been learned on a large number of data points. There are several Machine Learning algorithms in Computer Science could be used to trained the agent, for instance: • Random Forest [1] is an ensemble learning method that bootstrapping multitude random weak learners (learner with low bias but very high variance e.g. Decision Trees in order to reduce the variance of the final prediction. The Random Forest could handle classification, regression and has been proved an effectiveness theoretically and empirically. Based on its advantages, it has been applied to several real-world applications e.g. Fraud Detection Problem, • Neural Network is a biological neural network which is inspired by animal brains and it has a long history, a first version has been created by Warren McCulloch and Walter Pitts 1943 [10] is a computational model based on mathematics and algorithms called threshold logic. With its powerful prediction, Neural Network has found many applications in a wide range of disciplines, such as financial problems [7], • Deep learning is a part of a broader family of machine learning which is inspired by information processing and communication patterns in biological nervous systems. In Deep learning, a model uses multiple layers of nonlinear processing to represent different levels of abstraction of the data, which gives the model higher informative features to predict more accurate results. A Deep Neural Network is a Neural Network with multiple layers between the input and output layers which receives a big attention in finance because of its strengths [14], The data-driven approach is not new, but applying in Agent-based modelling has received attention in recent years [12] and there is a big area for exploration. Based on those algorithms above, we propose to equip more powerful computing capability for the agent then let them act by themselves individually. This approach seems to be useful and realistic in the financial market since each kind of trader (e.g. individual traders or large institutions) has different computing resource. For example, many large banks and funds tried to use Neural Network which requires a long time to train and it's not suitable for those individual's budget to build a strong computer. As opposed to the data-driven approach above which focuses on the agent like bottom-up approach, a model-driven approach handle a complex problem as top-down in our perspective. With a conceptual model, simulation analysis of agent-based modelling can study about scenarios would occur including current real situation or future rare events. In the macroeconomics, we could re-use DSGE approach by modifying its model (i.e. relaxing their assumptions) to close to the agent-based approach. However, it still has some issues: • This approach seems to be a bit complex than others, it makes results of studies hard to reproduce or apply to real-world application [5]. It means that our studies should be able to effectively apply to the real application, e.g. financial market. We propose to replace a complex study with a more efficient computing method in order to apply the study to our real world, • There are some frameworks helps us in the development process from conceptual models to simulation results [9, 6, 13], but they are still not a standard for AB approach and we have to follow their designs. In Reinforcement learning, an OpenAI Gym [2] becomes the standard for developing agent-based model since it makes no assumptions about the structure of the agent and is compatible with any numerical computation library. Based on its advantages we propose to develop our studies following this framework, • Focusing on simulation via this approach, we also want to do two computationally heavy steps: (i) estimating the likelihood and (ii) analyzing the posterior distribution of parameters in a model. In order to do these things, we could examine Bayesian learning techniques which receive attention recently [8], for example, we could use DSGE models as Bayesian priors for the analysis [4]. It not only gives us outcomes but also a probability of them, a combination of these results is very useful for human to make a decision and that why we propose to focus into this approach. There are various approaches to explore the AB modelling but the full potential of it has not been realized yet [11]. We are interesting to research the AB models particularly for the computational economics by using the Bayesian Learning and Machine Learning. References [1] Leo Breiman, Random forests, Machine learning 45 (2001), no. 1, 5–32. [2] Greg Brockman, Vicki Cheung, Ludwig Pettersson, Jonas Schneider, John Schulman, Jie Tang, and Wojciech Zaremba, Openai gym, arXiv preprint arXiv:1606.01540 (2016). [3] Herbert Dawid and Domenico Delli Gatti, Agent-based macroeconomics, Handbook of Computational Economics, vol. 4, Elsevier, 2018, pp. 63–156. [4] Marco Del Negro and Frank Schorfheide, Priors from general equilibrium models for vars, International Economic Review 45 (2004), no. 2, 643–673. [5] Alberto Fern´andez-Isabel and Rub´en Fuentes-Fern´andez, A model-driven engineering process for agent-based traffic simulations., SIMULTECH, 2015, pp. 418–427. [6] Alfredo Garro and Wilma Russo, easyabms: A domain-expert oriented methodology for agent-based modeling and simulation, Simulation Modelling Practice and Theory 18 (2010), no. 10, 1453–1467. [7] Steven Gonzalez et al., Neural networks for macroeconomic forecasting: a complementary approach to linear regression models, Department of Finance Canada, 2000. [8] Jakob Grazzini, Matteo G Richiardi, and Mike Tsionas, Bayesian estimation of agent-based models, Journal of Economic Dynamics and Control 77 (2017), 26–47. [9] Takashi Iba, Yoshiaki Matsuzawa, and Nozomu Aoyama, From conceptual models to simulation models: Model driven development of agent-based simulations, 9th Workshop on Economics and Heterogeneous Interacting Agents, vol. 28, 2004, p. 149. [10] Warren S McCulloch and Walter Pitts, A logical calculus of the ideas immanent in nervous activity, The bulletin of mathematical biophysics 5 (1943), no. 4, 115–133. [11] Matteo G Richiardi, The future of agent-based modeling, Eastern Economic Journal 43 (2017), no. 2, 271–287. [12] Mazhar Sajjad, Karandeep Singh, Euihyun Paik, and Chang-Won Ahn, A data-driven approach for agent-based modeling: simulating the dynamics of family formation, Journal of Artificial Societies and Social Simulation 19 (2016), no. 1, 9. [13] Davoud Taghawi-Nejad, Rudy H Tanin, R Maria Del Rio Chanona, Adri´an Carro, J Doyne Farmer, Torsten Heinrich, Juan Sabuco, and Mika J Straka, Abce: A python library for economic agent-based modeling, International Conference on Social Informatics, Springer, 2017, pp. 17–30. [14] Ruoxuan Xiong, Eric P Nichols, and Yuan Shen, Deep learning stock volatility with google domestic trends, arXiv preprint arXiv:1512.04916 (2015).