全部版块 我的主页
论坛 经济学人 二区 外文文献专区
1347 24
2022-06-01
英文标题:
《Fake News in Social Networks》
---
作者:
Christoph Aymanns and Jakob Foerster and Co-Pierre Georg
---
最新提交年份:
2017
---
英文摘要:
  We model the spread of news as a social learning game on a network. Agents can either endorse or oppose a claim made in a piece of news, which itself may be either true or false. Agents base their decision on a private signal and their neighbors\' past actions. Given these inputs, agents follow strategies derived via multi-agent deep reinforcement learning and receive utility from acting in accordance with the veracity of claims. Our framework yields strategies with agent utility close to a theoretical, Bayes optimal benchmark, while remaining flexible to model re-specification. Optimized strategies allow agents to correctly identify most false claims, when all agents receive unbiased private signals. However, an adversary\'s attempt to spread fake news by targeting a subset of agents with a biased private signal can be successful. Even more so when the adversary has information about agents\' network position or private signal. When agents are aware of the presence of an adversary they re-optimize their strategies in the training stage and the adversary\'s attack is less effective. Hence, exposing agents to the possibility of fake news can be an effective way to curtail the spread of fake news in social networks. Our results also highlight that information about the users\' private beliefs and their social network structure can be extremely valuable to adversaries and should be well protected.
---
中文摘要:
我们将新闻传播建模为网络上的社交学习游戏。代理人可以支持或反对一条新闻中的声明,这条新闻本身可能是真的,也可能是假的。特工们的决定基于一个私人信号和他们邻居过去的行为。给定这些输入,代理遵循通过多代理深度强化学习得出的策略,并根据声明的准确性从行动中获得效用。我们的框架产生的策略与代理效用接近于理论上的贝叶斯最优基准,同时保持对模型重新规范的灵活性。优化的策略允许代理在所有代理接收到无偏的私有信号时正确识别大多数虚假声明。然而,对手试图通过使用有偏见的私人信号将一部分代理作为目标来传播假新闻,可能会成功。当对手掌握有关代理的网络位置或专用信号的信息时,情况更是如此。当代理意识到对手的存在时,他们会在训练阶段重新优化其策略,而对手的攻击效果较差。因此,让代理接触到虚假新闻的可能性可以有效地遏制虚假新闻在社交网络中的传播。我们的研究结果还强调,关于用户个人信仰和社交网络结构的信息对对手来说非常有价值,应该得到很好的保护。
---
分类信息:

一级分类:Computer Science        计算机科学
二级分类:Artificial Intelligence        人工智能
分类描述:Covers all areas of AI except Vision, Robotics, Machine Learning, Multiagent Systems, and Computation and Language (Natural Language Processing), which have separate subject areas. In particular, includes Expert Systems, Theorem Proving (although this may overlap with Logic in Computer Science), Knowledge Representation, Planning, and Uncertainty in AI. Roughly includes material in ACM Subject Classes I.2.0, I.2.1, I.2.3, I.2.4, I.2.8, and I.2.11.
涵盖了人工智能的所有领域,除了视觉、机器人、机器学习、多智能体系统以及计算和语言(自然语言处理),这些领域有独立的学科领域。特别地,包括专家系统,定理证明(尽管这可能与计算机科学中的逻辑重叠),知识表示,规划,和人工智能中的不确定性。大致包括ACM学科类I.2.0、I.2.1、I.2.3、I.2.4、I.2.8和I.2.11中的材料。
--
一级分类:Computer Science        计算机科学
二级分类:Multiagent Systems        多智能体系统
分类描述:Covers multiagent systems, distributed artificial intelligence, intelligent agents, coordinated interactions. and practical applications. Roughly covers ACM Subject Class I.2.11.
涵盖多Agent系统、分布式人工智能、智能Agent、协调交互。和实际应用。大致涵盖ACM科目I.2.11类。
--
一级分类:Computer Science        计算机科学
二级分类:Social and Information Networks        社会和信息网络
分类描述:Covers the design, analysis, and modeling of social and information networks, including their applications for on-line information access, communication, and interaction, and their roles as datasets in the exploration of questions in these and other domains, including connections to the social and biological sciences. Analysis and modeling of such networks includes topics in ACM Subject classes F.2, G.2, G.3, H.2, and I.2; applications in computing include topics in H.3, H.4, and H.5; and applications at the interface of computing and other disciplines include topics in J.1--J.7. Papers on computer communication systems and network protocols (e.g. TCP/IP) are generally a closer fit to the Networking and Internet Architecture (cs.NI) category.
涵盖社会和信息网络的设计、分析和建模,包括它们在联机信息访问、通信和交互方面的应用,以及它们作为数据集在这些领域和其他领域的问题探索中的作用,包括与社会和生物科学的联系。这类网络的分析和建模包括ACM学科类F.2、G.2、G.3、H.2和I.2的主题;计算应用包括H.3、H.4和H.5中的主题;计算和其他学科接口的应用程序包括J.1-J.7中的主题。关于计算机通信系统和网络协议(例如TCP/IP)的论文通常更适合网络和因特网体系结构(CS.NI)类别。
--
一级分类:Physics        物理学
二级分类:Physics and Society        物理学与社会
分类描述:Structure, dynamics and collective behavior of societies and groups (human or otherwise). Quantitative analysis of social networks and other complex networks. Physics and engineering of infrastructure and systems of broad societal impact (e.g., energy grids, transportation networks).
社会和团体(人类或其他)的结构、动态和集体行为。社会网络和其他复杂网络的定量分析。具有广泛社会影响的基础设施和系统(如能源网、运输网络)的物理和工程。
--
一级分类:Quantitative Finance        数量金融学
二级分类:Economics        经济学
分类描述:q-fin.EC is an alias for econ.GN. Economics, including micro and macro economics, international economics, theory of the firm, labor economics, and other economic topics outside finance
q-fin.ec是econ.gn的别名。经济学,包括微观和宏观经济学、国际经济学、企业理论、劳动经济学和其他金融以外的经济专题
--

---
PDF下载:
-->
二维码

扫码加我 拉你入群

请注明:姓名-公司-职位

以便审核进群资格,未注明则拒绝

全部回复
2022-6-1 06:22:38
社交网络中的虚假新闻Schristoph Aymanns*圣加仑大学,LSEJakob Foerster+牛津大学皮埃尔·乔治+开普敦大学德意志联邦银行该草案:2017年8月22日摘要我们将新闻传播建模为网络上的社交学习游戏。代理人可以支持或反对一条新闻中的声明,该声明本身可能是真的,也可能是假的。特工们的决定基于一个私人信号和他们邻居过去的行为。在这些输入下,代理遵循通过多代理深度强化学习得出的策略,并根据声明的准确性从行动中获得效用。我们的框架产生了代理效用接近理论上的Bayes最优基准的策略,同时简化了模型重新规范。优化的策略允许代理在所有代理接收到无偏见的私有信号时正确识别大多数虚假声明。然而,一个对手试图通过使用有偏见的私人信号将一部分特工作为目标来传播假新闻是可以成功的。当对手掌握了有关代理的网络位置或专用信号的信息时,情况更是如此。当代理意识到对手的存在时,他们会在训练阶段重新优化自己的策略,而对手的攻击效果较差。因此,让代理接触到虚假新闻的可能性可以有效地遏制虚假新闻在社交网络中的传播。我们的研究结果还强调,关于用户个人信仰和社交网络结构的信息对对手来说非常有价值,应该得到很好的保护。关键词:社会学习,网络,多智能体深度强化学习*通讯作者。
二维码

扫码加我 拉你入群

请注明:姓名-公司-职位

以便审核进群资格,未注明则拒绝

2022-6-1 06:22:41
电子邮件:christoph。aymanns@gmail.com+电子邮件:jakob。foerster@cs.ox.ac.uk电子邮件:co pierre。georg@uct.ac.za1引言自美国国家情报局局长得出以下结论以来,社交网络上虚假新闻的传播引起了公众的极大关注“莫斯科的影响力运动(InfluenceCampaign)遵循俄罗斯的信息传递战略,将秘密情报行动(如网络活动)与俄罗斯政府机构、国家资助的媒体、第三方中介机构和付费社交媒体用户或“巨魔”(NationalIntelligence局长办公室(2017))的公开努力相结合。前国家情报局局长詹姆斯·克莱珀(JamesClapper)在参议院军事委员会(Senate Armed Services Committee on foreign cybersecurity threats)作证时表示,俄罗斯在2016年美国大选前夕利用“假新闻”散布假消息。一条出现在社交网络上的假新闻通常会对这个世界提出一些事实上是错误的,但并不明显是错误的,因此对其真实性存在一些不确定性。一旦发布,用户可能会喜欢、分享或评论这条新闻,以促进其在社交网络中的传播。那些兜售虚假新闻的人的目的可能是为了获得金钱利益,或者影响对世界状况的预期,例如在五角大楼的军事分析师计划中(巴斯托,2008年;Jowett和O\'Donnell,2015年)。一条明显虚假的假新闻可能很搞笑,也可能因为其喜剧价值而被分享。相反,一条虚假新闻试图说服用户相信事实上错误的说法,显然更令人担忧。Alice说,用户是否相信关于世界状态的特定目标,不仅取决于她关于世界状态的私人信息,因此也取决于声明的准确性,还取决于她的朋友在社交网络上的行为。
二维码

扫码加我 拉你入群

请注明:姓名-公司-职位

以便审核进群资格,未注明则拒绝

2022-6-1 06:22:44
如果她的朋友Bob分享了这条消息并给出了积极的评论,Alice会将他的行为解释为支持这一说法的真实性。同样,鲍勃也可以表达他的反对意见。在决定索赔的真实性时,Alice将结合朋友的行为和她的私人信息做出判断。至关重要的是,在这个过程中,Alice的朋友不仅仅是新闻的被动中介,而是含蓄地向Alice传递关于他们对新闻立场的信息。在我们的基线规范中,我们假设用户关于世界现状的私人信息,因此索赔的准确性平均是正确的。也就是说,平均而言,用户只依赖自己的私人信息,就应该能够更经常地正确识别虚假新闻。与此同时,用户的信息并不完美,有时他们可能会爱上一条假新闻。在这种情况下,一个外部对手,如果他想影响公众舆论,支持一条假新闻,但只是自己在社交网络上发布这条新闻,那么他的努力可能会失败。为了成功进行攻击,对手必须说服社交网络上的用户认可这条假新闻。因此,在我们的攻击规范中,我们允许对手偏向一部分代理的私有信息。例如,这可以通过有针对性的广告来实现。然后,我们研究程式化社交网络对这种攻击的脆弱程度,并在本文中故意忽视政治观点及其在社交网络上的传播。相反,我们只关注那些可以明确归类为真或假的说法的传播。了解对手传播虚假新闻的情况如何可以减少这种漏洞。我们结合了经济学文献中标准社会学习模型的变体(见Mossel et al。
二维码

扫码加我 拉你入群

请注明:姓名-公司-职位

以便审核进群资格,未注明则拒绝

2022-6-1 06:22:47
(2015年))随着多智能体强化学习的最新进展,尤其是深度Qlearning(DQN)来模拟智能体的决策过程。具体地说,在每个时期,代理人都可以支持或反对一项关于世界的主张,这种主张在一定概率内是真实的。代理人从支持真实和反对虚假的主张中获得正效用。代理的信息集包括其邻居在过去时期的行为,以及关于声明准确性的明确、嘈杂的信号。我们将每个代理表示为一个独立的递归深层神经网络,该网络通过深度Q学习进行训练(参见Foerster et al.(2016)),以找到一种策略,在给定其信息集的情况下使其效用最大化。我们的计算方法不同于解决社会学习模型的常用分析方法(参见Golub和Sadler(2016);Mossel等人(2015年)),可大致分为两条线:贝叶斯学习和非贝叶斯学习。Firststrand,Bayesian learning,遵循Banerjee(1992)和Bikhchandani等人(1992)的模型,其中玩家在观察到私人信号和与其相关的分配代理的动作后,依次采取动作。另一个环节,非贝叶斯学习,遵循DeGroot(1974)的线性更新模型,玩家在汇总网络中所有邻居的决策后做出决策(关于这类模型的讨论,另见Molaviet al.(2017))。在我们的基线情况下,当代理接收到无偏信号并遵循通过强化学习优化的策略时,代理效用接近理论上的贝叶斯最优基准。虽然我们不能说Agent在通过强化学习优化策略后是Bayes最优的,但我们的结果表明Agent确实发现了合理的、接近最优的策略。
二维码

扫码加我 拉你入群

请注明:姓名-公司-职位

以便审核进群资格,未注明则拒绝

2022-6-1 06:22:50
我们计算框架的灵活性使我们能够研究许多攻击规范,这些规范很难在贝叶斯学习框架中进行分析研究。因此,强化学习框架将计算模型的灵活性与合理、接近最优的代理行为的实际保证相结合。我们还指出,DQN已成功应用于各种复杂问题设置中,Mnih等人(2015);Hausknecht和Stone(2015),在广泛的任务中发现高绩效战略。由于DQN是一种无模型方法,可以有效地利用并行计算,因此它可以应用于超出解析解领域或从aBayesian角度来看难以解决的环境。我们的计算方法的另一个优点是,我们能够充分描述代理的策略,而到目前为止,在社会学习的文献中,代理的策略仍然是非常抽象的。人口是否以及以多快的速度了解到经济的真实状况是一个重要的问题,在有关网络学习的文献中得到了广泛的研究(除其他外,请参见Golub和Jackson(2010))。存在着各种各样的结果,这些结果提供了一种条件,在没有试图操纵这些因素的情况下,人们可以在这种条件下了解世界的真实状态。与我们的论文更直接相关的是,Acemoglu et al.(2010)描述了对手如何干扰信息聚合。他们的是一个非贝叶斯学习模型,其中代理根据泊松过程会面,以交换有关世界潜在状态的信息。有两种类型的代理,常规代理和强制代理。当普通特工会面时,他们会将自己对世界状况的信念更新为这两种信念的平均值。
二维码

扫码加我 拉你入群

请注明:姓名-公司-职位

以便审核进群资格,未注明则拒绝

点击查看更多内容…
相关推荐
栏目导航
热门文章
推荐文章

说点什么

分享

扫码加好友,拉您进群
各岗位、行业、专业交流群