全部版块 我的主页
论坛 经济学人 二区 外文文献专区
1005 19
2022-06-24
英文标题:
《Multi-Agent Deep Reinforcement Learning for Liquidation Strategy
  Analysis》
---
作者:
Wenhang Bao, Xiao-yang Liu
---
最新提交年份:
2019
---
英文摘要:
  Liquidation is the process of selling a large number of shares of one stock sequentially within a given time frame, taking into consideration the costs arising from market impact and a trader\'s risk aversion. The main challenge in optimizing liquidation is to find an appropriate modeling system that can incorporate the complexities of the stock market and generate practical trading strategies. In this paper, we propose to use multi-agent deep reinforcement learning model, which better captures high-level complexities comparing to various machine learning methods, such that agents can learn how to make the best selling decisions. First, we theoretically analyze the Almgren and Chriss model and extend its fundamental mechanism so it can be used as the multi-agent trading environment. Our work builds the foundation for future multi-agent environment trading analysis. Secondly, we analyze the cooperative and competitive behaviours between agents by adjusting the reward functions for each agent, which overcomes the limitation of single-agent reinforcement learning algorithms. Finally, we simulate trading and develop an optimal trading strategy with practical constraints by using a reinforcement learning method, which shows the capabilities of reinforcement learning methods in solving realistic liquidation problems.
---
中文摘要:
清算是指在给定的时间范围内,考虑到市场影响和交易者风险厌恶所产生的成本,按顺序出售一只股票的大量股票的过程。优化清算的主要挑战是找到一个合适的建模系统,该系统可以结合股票市场的复杂性并生成实用的交易策略。在本文中,我们建议使用多agent深度强化学习模型,与各种机器学习方法相比,该模型能够更好地捕获高级复杂性,从而使agent能够学习如何做出最佳销售决策。首先,我们从理论上分析了Almgren和Chriss模型,并对其基本机制进行了扩展,使其可以作为多agent交易环境。我们的工作为未来的多agent环境交易分析奠定了基础。其次,通过调整每个agent的奖励函数来分析agent之间的合作和竞争行为,克服了单agent强化学习算法的局限性。最后,我们通过使用强化学习方法模拟交易,并开发出具有实际约束的最优交易策略,这表明了强化学习方法在解决实际清算问题方面的能力。
---
分类信息:

一级分类:Quantitative Finance        数量金融学
二级分类:Trading and Market Microstructure        交易与市场微观结构
分类描述:Market microstructure, liquidity, exchange and auction design, automated trading, agent-based modeling and market-making
市场微观结构,流动性,交易和拍卖设计,自动化交易,基于代理的建模和做市
--
一级分类:Computer Science        计算机科学
二级分类:Machine Learning        机器学习
分类描述:Papers on all aspects of machine learning research (supervised, unsupervised, reinforcement learning, bandit problems, and so on) including also robustness, explanation, fairness, and methodology. cs.LG is also an appropriate primary category for applications of machine learning methods.
关于机器学习研究的所有方面的论文(有监督的,无监督的,强化学习,强盗问题,等等),包括健壮性,解释性,公平性和方法论。对于机器学习方法的应用,CS.LG也是一个合适的主要类别。
--
一级分类:Statistics        统计学
二级分类:Machine Learning        机器学习
分类描述:Covers machine learning papers (supervised, unsupervised, semi-supervised learning, graphical models, reinforcement learning, bandits, high dimensional inference, etc.) with a statistical or theoretical grounding
覆盖机器学习论文(监督,无监督,半监督学习,图形模型,强化学习,强盗,高维推理等)与统计或理论基础
--

---
PDF下载:
-->
二维码

扫码加我 拉你入群

请注明:姓名-公司-职位

以便审核进群资格,未注明则拒绝

全部回复
2022-6-24 06:04:51
用于清算策略分析的多智能体深度强化学习Wenhang BaoXiao Yang Liu,在一个特定的时间框架内按顺序提取一只股票的股票,考虑到市场冲击和交易者的风险厌恶所产生的成本。优化清算的主要挑战是找到一个合适的建模系统,该系统可以整合股票市场的复杂性并生成实用的交易策略。在本文中,我们建议使用多智能体深度强化学习模型,与各种机器学习方法相比,该模型能够更好地捕获高级复杂性,从而使智能体能够学习如何做出最佳销售决策。首先,我们从理论上分析了Almgren和Chriss模型,并扩展了其基本机制,使其可以作为多代理交易环境。我们的工作为未来的多agent环境交易分析奠定了基础。其次,通过调整每个agent的奖励函数来分析agent之间的合作和竞争行为,克服了单agent强化学习算法的局限性。最后,我们使用强化学习方法模拟阅读并开发具有实际约束的最优交易策略,这表明了强化学习方法在解决现实清算问题方面的能力。1、介绍清算作为一种股票交易,是金融机构的主要职能之一,将销售成本降至最低和管理风险水平的能力将是其财务绩效的关键指标。因此,有效的贸易战略至关重要。
二维码

扫码加我 拉你入群

请注明:姓名-公司-职位

以便审核进群资格,未注明则拒绝

2022-6-24 06:04:54
金融机构最近正在利用纽约哥伦比亚大学高级统计系(advancedDepartment of Statistics,Columbia University,New York)和美国纽约哥伦比亚大学(Columbia University,New York)UseElectrical Engineering更新其战略。收件人:鲍文航<wb2304@columbia.edu>,刘晓阳<xl2427@columbia.edu>.《机器学习国际会议论文集》,加利福尼亚州长滩,PMLR 972019年。作者版权所有2019。图1:。清算:多个代理人在市场上出售股票,他们的出售决定会影响彼此出售成本研究结果或前沿技术。然而,还有一些挑战。首先,大量股票的清算将对市场产生巨大影响,使环境难以预测。其次,现有的静态环境分析方法忽视了股票市场的动态性和互动性。第三,清算的交易成本取决于股票市场,研究人员通常无法收集足够的历史事件数据以获得实际的交易见解。制定交易策略的方法,但两者都有局限性。过去几年,金融机构依靠经验丰富的交易员将交易成本和金融模型降至最低,以帮助制定清算策略(Gomber et al.,2011;Brogaard et al.,2010)。然而最近,研究人员也开始采用机器学习方法。强化学习(RL)是一种机器学习方法,由与环境交互的代理组成,通过跟踪和错误学习最优策略(sequentialselt等人,2016)。
二维码

扫码加我 拉你入群

请注明:姓名-公司-职位

以便审核进群资格,未注明则拒绝

2022-6-24 06:04:57
虽然RL的大多数成功都是在单代理领域,其中没有考虑对环境中其他参与者的行为进行建模或预测,但获得的交易策略(Xiong等人,2018)针对清算策略分析市场的多代理深度强化学习。更普遍的情况是,多个组织或客户希望在特定的市场条件下同时清算其资产。因此,2017),一个代理的行为会影响其他代理的行为(Yang等人,2018b),如图1所示。另一种情况是,即使只有一个公司,也可以有多个交易员,每个交易员都负责一定比例的股票出售。金融行业的强化学习方法,其研究不如游戏领域的单代理强化深度强化学习(Silver et al.,2016;Mnih et al.,2015),机器人和金融交易系统(Yu et al.,2019;Buehler et al.,2019)。假设是可以避免数学模型或硬编码的交易策略。强化学习代理可以自己学习交易策略。此外,模拟环境将允许代理人适应不同的市场条件和交易股票,并获得比人类交易员在真实金融市场中获得的更多经验(Schaul et al.,2015;Foerster et al.,2017)。最后但并非最不重要的一点是,多智能体强化学习算法可以考虑高层次的环境复杂性(Hendricks&Wilcox,2014),并相应地得出更实际的清算策略。本文的主要贡献是对多代理人交易环境的分析,代理人之间协调关系的影响分析,以及清算策略的推导。
二维码

扫码加我 拉你入群

请注明:姓名-公司-职位

以便审核进群资格,未注明则拒绝

2022-6-24 06:05:00
理想情况下,如果多智能体环境足够复杂,能够容纳所有潜在参与者的行为,那么股市就不会有噪音,正如多智能体系统所系统地模拟的那样。Webbuild多代理环境的简化版本,它是更复杂环境的基础。首先,我们扩展了Almgren和Chriss提出的模型,并提供了数学证明。我们利用传统的单智能体强化学习算法来分析清算问题。其次,通过定义适当的奖励函数,分析这些代理如何影响彼此以及整个环境,这不能由单个代理环境来分析,但对金融机构非常重要。第三,在模拟的多agent环境中,我们推导了每个agent的交易策略。这证明了强化学习算法在学习和开发实际清算策略方面的能力。本文的其余部分组织如下。第2节描述了清算问题,并回顾了用于模拟市场环境的Almgren和Chriss模型。第3节介绍了多代理市场环境扩展的详细设置。第5节给出了实验结果,我们在其中演示了关系以及如何推导清算策略。第6节总结了本文,并指出了未来的发展方向。代码位于:https://github.com/WenhangBao/MultiAgent-RL-for-Liquidation2.问题描述在本节中,我们首先描述清算问题,并解释为什么使用强化学习算法来解决它是可行的。然后我们描述了Almgren-andChriss模型或交易环境。2.1.
二维码

扫码加我 拉你入群

请注明:姓名-公司-职位

以便审核进群资格,未注明则拒绝

2022-6-24 06:05:03
最优清算问题我们考虑一个清算交易者,其目标是在一个时间框架内出售一只股票的X股。清算人的个人特征,如风险规避水平λ,将在整个过程中保持不变。交易者可以卖出或不卖出股票,但在此期间不能购买任何股票。在时间框架的最后一天,清算过程结束,股票数量应为。由于在出售过程中暂时或永久性下跌,可能会导致巨大的交易成本。交易员或代表性金融机构寻求找到最佳的销售策略,根据特定的优化标准,将预期交易成本(X)或所谓的实施缺口降至最低。交易者将知道所有环境信息,包括价格、历史价格和剩余交易天数。如果有贸易商,他们就不会知道其他贸易商的信息。股票或风险规避水平。基于交易会产生市场影响以及代理人和环境是互动的假设,在环境中培训代理人并使用强化学习算法得出清算策略是可行的(Yang等人,2018a)。用于清算策略分析的多智能体深度强化学习2.2。模拟的环境模型在股票市场的代理契约分为三个组成部分:未受影响的价格过程、永久影响和暂时性,但从均值方差中消除的背景下,利用Almgren-Chriss市场影响模型(Almgren&Chriss,2001)研究了最优清算策略的问题。价格过程允许永久价格和临时价格的线性函数。
二维码

扫码加我 拉你入群

请注明:姓名-公司-职位

以便审核进群资格,未注明则拒绝

点击查看更多内容…
相关推荐
栏目导航
热门文章
推荐文章

说点什么

分享

扫码加好友,拉您进群
各岗位、行业、专业交流群