[此贴子已经被作者于2009-4-28 0:16:40编辑过]
本人对随机过程的话题感兴趣,所以响应一下版主,表示支持。Ross的《随机过程》是一本经典,博士学习期间曾讨论过两个学期,大部分地方还算知道一些;版主提到的其它两本书也都有,多次参考过。本人的具体问题不多,但愿意就个人体会做一简略介绍,目的是抛砖引玉,引出大家的问题。如果某位同学的问题恰好清楚,则十分乐意解释一下,共同进步。请版主同意这样的做法。
先回答一下6楼的问题。很多经济学文献一般将“Random walk”译作“随机徘徊”,但数学文献上的准确概念是“随机游动”。以一维(直线上的)随机游动为例,通俗地说,若一个点以p=1-q=的概率向左或向右做一个长度单位的随机跳跃(背景很多,如二人赌博)。当p=q时,称为对称随机游动,此时若将跳跃的时间间隔和长度单位无穷细分,就得到对称随机游动在某种意义上的极限过程——布朗运动。当p和q不相等时,随机游动分别具有偏左或偏右的趋势。
S. M. Ross是美国著名的应用概率大师(注意,不是做纯粹数学的)。作为教材,Ross的《随机过程》是一本很独特的书,强调直觉的培养和使用,强调解决问题的技巧,强调数学的活学活用;相对而言,并不注重高深的概念与理论。本人认为,即使对于做纯数学的人而言,这本书也是有价值的。它是对严格抽象思维的一种补充。学习数学,重要的是要“进去”,然而,更重要的是还能“出来”。许多数学系的同学,念数学犯了“只进不出”的错误,很知道微观的东西,比如具体推导,一步一步说得很是清楚;但对于宏观方面,如问题的背景,以及我们要做什么,为什么这样做,却马马虎虎,拘泥于数学的抽象逻辑,忘记了数学的本质意义,只见树木不见森林,令人惋惜。
这本书受欢迎的另一个方面,是它不需要令人望而生畏的测度论基础。但若学过测度论,读起来照样会有收获。看看Ross是如何将必须用测度论才能描述清楚的东西,用通俗语言说出来并让人理解。我们当时讨论的是英文第二版,500多页,比起第一版,调整了一些内容的次序,增加了大量例子。每个例子都是有不同学科背景的重要问题,都可以发一篇SCI,视野很宽,信息量很大。另外,语言优美,构思巧妙,有些对方曲径通幽,有些地方出人意料,静心读下去,不禁拍案叫绝。还有,作者将更新过程(第三章)的经典结论不断应用于Markov 链(第四章),结合得极佳,这在其它随机过程的书上是罕见的。
中文版(何声武译)译自英文第一版。为保持原作的特色,译者未采取意译的方法,尽量直译,甚至使用英语的语序表达汉语。但是,汉语和英语毕竟是完全不同的东西,所以读起来多少有不伦不类之感,刚开始会不习惯。有些对方不够准确,不清楚在说什么;碰到这种情况,我的经验是查原版,一看就清楚了。另外,中文版还有一些排版错误。
林元烈的书写得较细节一些,但感觉有些内容是Ross的直接复制,高度也不够。虽然叫做应用,里面可供参考的应用背景也不足。我的话是否有点过了?
龚光鲁、钱敏平夫妻二人的书,内容与书名是相称的,不去细究概念,重在随机过程在模拟与算法方面的应用,且有很多实例,对工科的读者比较合适。
[此贴子已经被作者于2008-11-29 20:12:46编辑过]
请教一下各位 queueing network 中 M\M\1系统 稳定 是怎么理解的啊? 队列中等待人数不变吗?
一直不理解什么叫“稳定” 感觉只要输入过程的“拉姆他”大于输出过程的“μ”队列长度就会一直增加啊 怎么会稳定呢?
thanks in advance~
关于9楼的问题
M/M/1排队系统稳定的条件是λ<μ,此时极限概率Pn存在。当λ>μ时,排队长度趋于无穷,很直观;当λ=μ时系统是零常返的,极限概率不存在,这个有点不好理解。请仔细看Ross的“随机过程”中文版(何声武等译,中国统计出版社,97年版)178页,例5.5(a)。
关于“零常返”的概念,需要Markovian 链和随机游动的知识,比较麻烦,但在上述文献中都可以找到清晰的解释。建议花点时间。
[此贴子已经被作者于2008-11-15 9:00:20编辑过]
非常感谢jmb321的回复~
恩 是我没看仔细 确实只有λ<μ是才是稳定的 而且一定可以解出可逆分布π
但是λ=μ时系统的状态确实有点不好理解 不知有没有什么比较直观的方法来区别零常返和正常返呢?
另外还想到一个问题 就是如果i是零常返 i与j又是互通的 如何证明j也一定是零常返的呢?(感觉应该建立两个级数之间的不等式联系 关键就是i,j的首达时间概率的不等式联系 从而证明他们是同级的 但不知i,j的首达时间概率有什么联系啊) 多谢多谢!
[此贴子已经被作者于2008-11-17 2:53:03编辑过]
非常感谢!!!!!!
能不能再请教一个问题,, 是不是如果连续时间的markov是齐时的 那么其对应的嵌入链是否可以理解为“参数可变的poisson分布”啊? 即参数可以随着状态不同而不同 但相邻两次变化之间的时间还是指数分布呢? 好像连续分布里只有指数分布是无记忆的说
eaonfdsc,关于你的问题“随机游动对称原理”,我发现上次的回答有误。对不起!看了一下龚光鲁、钱敏平的书(P62),意思是这样的:
1)设想一个从原点出发的简单随机游动,至时刻n到达S_n,那么其逆向过程也是一随机游动,从S_n出发,n步后到达原点;
2)这两个过程之间有何联系?对称原理说,正向游动与逆向游动具有相同的概率规律。只不过还是要强调一下,对正向随机游动,原点是头,S_n是尾;逆向随机游动则相反,S_n是头,原点是尾。这个容易理解。(关于逆向过程的概念,可参见Ross“随机过程”的逆向Markovian链。很清楚。)
你的新问题表明概念不够清楚。如果一个时间连续的Markovian链是时齐(时间齐次)的,则相邻两次状态转移之间的时间长度自然服从指数分布。对其嵌入链(离散时间Markovian链)而言,根本无需强调“两次转移之间的时间”这一概念。两次转移之间就是“one step”。请再看文献。这个问题还说明你选择的书不够好。读书一定要读经典,不会引起概念的迷糊,不会引错方向。经典只需一本,读好了,其他用来翻一翻足矣。慎之慎之。
连续型分布中只有指数分布是无记忆的,离散型中只有几何分布如此。二者肯定有微妙的联系。
[此贴子已经被作者于2008-11-19 15:12:21编辑过]
yyeric,给你举个例子吧。例子越简单越好,说明问题就行。你知道常返态总可以返回无穷多次,但无穷多和无穷多可以不一样。用这个来区别正常返与零常返。
比如说,对给定的步数n,返回状态 i 的平均次数为n/2,那么当n趋于无穷大时,系统将无穷次返回 i ,而且平均返回所需步数为2。注意,2是有限的,小于无穷大,所以按定义,状态 i 就是正常返的。
如果给定n,返回状态 i 的平均次数不再是n/2,而是根号n,问题就出来了。当n趋于无穷大时,系统也将无穷次(根号n次)返回 i ,但这时平均返回所需的步数也是根号n(是无穷大)。由于需要平均意义上无穷长的时间才能返回,按定义,状态 i 就是零常返的了。
关键是无穷大的阶的区别。
正(零)常返肯定是一个类性质,即互通的常返态或者都是正常返的,或者都是零常返的。我证过,现在长时间不看,已经记不清。找到给你。
谢谢! 你给的例子很形象 我好像大概理解了~
呵呵 刚才看Ross的“随机过程”中文版(何声武等译,中国统计出版社,97年版)书的时候觉得有个地方不懂 -- 170页 引理5.4.1 中的 (i) 怎么理解啊?
many thanks~
[此贴子已经被作者于2008-11-19 12:23:50编辑过]
中文版的打印错误啊!害人不浅。
把 (i) 中分子上的 P_{ij}(t) 改为 P_{ii}(t) 就行了。
试试,这个能够理解。
[此贴子已经被作者于2008-11-18 11:28:37编辑过]
恩 是的 好像想明白了 多谢~
另外看到你14楼的帖子提到了龚光鲁、钱敏平老师的书,我现在其实主要是在看这本书,上面有些不太明白的,能否请教一下?
比如134页中式(6.18)中Q保守要怎么理解?什么样的markov链的Q矩阵是保守的呢?前面(132页)只是说平常遇到的大多数都是保守的,但却不是所有。这就使得我在理解上有些困难了。我现在主要想知道为什么“从每个状态只能转移到有限个状态”这样的markov链的Q矩阵一定是保守的呢?另外不知“Q矩阵保守”是否蕴含了什么比较直观的性质?
多谢了!
顺便请教一下龚光鲁、钱敏平《应用随机过程教程--及在算法和智能计算中的随机模型》书中311页E。1和E。1’ 怎么理解啊?
等式右边是关于谁的期望啊?
望赐教!
[此贴子已经被作者于2008-12-1 6:35:31编辑过]
在2008-11-21 23:28:00,mathtao给您发送的消息! | ||
消息标题:系统消息 您发表的帖子《》因奖励而被帖子评价,且进行了金钱50,经验50,魅力50的操作 |
谢谢mathtao版主!
随机过程是本人喜欢的内容。
这几天忙别的事,来的较少。还有同学的几个问题等待回答。忙完了就会继续,继续赚取版主的奖励!
[此贴子已经被作者于2008-11-23 18:13:09编辑过]
我也谈谈,这三本书都是非常初等的书。看一本就可以了。我想就推荐ross的吧。不过这书,只能当个科普的书来看。个人觉得,要想学懂这门学科,必须要学测度论。如Ash写的测度与概率。现在有影印版卖。看完后可以看看Ash写的Topics on stochastic process。这算是随机过程中相当简单的一本书了。当然直接看更难的书也可以。
Stochastic processes by Sheldon Ross is a quite good textbook. It doesn't assume measure theory and hence is a good introductory book. I recommend you solve all the problems at the end of each chapter. So far I found one problem cannot be done without using some results in advanced probability. For a graduate student in math, the book is easy to read. However, if your math background is not strong enough, you may want to read Ross's Probability Models first. By the way, Ross has four books: simulation, first course in probaility, probabiity models and stochastic processes. A lot of materials overlap. It's a commercial trick! As an introductory book, I give 4.5 star.
恩 是的 好像想明白了 多谢~
另外看到你14楼的帖子提到了龚光鲁、钱敏平老师的书,我现在其实主要是在看这本书,上面有些不太明白的,能否请教一下?
比如134页中式(6.18)中Q保守要怎么理解?什么样的markov链的Q矩阵是保守的呢?前面(132页)只是说平常遇到的大多数都是保守的,但却不是所有。这就使得我在理解上有些困难了。我现在主要想知道为什么“从每个状态只能转移到有限个状态”这样的markov链的Q矩阵一定是保守的呢?另外不知“Q矩阵保守”是否蕴含了什么比较直观的性质?
多谢了!
白先生不得空,我就觍颜代答yyeric的第一个问题。我们可以证明,对于有限时齐的马氏链而言,其Q矩阵必定是全稳定和保守的。详细的证明见末尾的pdf。
至于“Q矩阵保守”的直观意义我理解得不好,还是等白先生来解答吧。
[此贴子已经被作者于2008-12-18 16:30:55编辑过]
白先生在7楼说了很多,我再补充一些。
Ross书销路实在是好的要命,都出到第9版了;“图灵”影印了原版还找来龚光鲁先生作中译。
在下当初学的是陈木法先生和毛永华先生合编的《随机过程导论》。陈先生在马氏过程方面是国内最顶尖的人物之一,写的书也颇有气势。书的正文部分仅保留必要的脉络主线,而技术性的细节被尽可能地安排在习题中,力求让读者“先由捷径直达山顶,博览群山,然后在下山的沿途欣赏想看的风景”。这也是此书虽涵盖马氏过程和随机分析两大块内容却只有209页的原因。
大概是由于陈先生所研究方向的缘故,此书丝毫不涉及一般的随机过程,而是由一个经济模型作引,直接切入马氏过程,然后用全书一半的篇幅阐述马氏过程的主线,其间还夹杂了一些他自己的工作,比如将场论引入对Q过程的可配称的研究。
相较Ross的书,此书是极理论。(鉴于两位作者一个搞应用,一个弄纯理论,这很可以理解。)再加上篇幅较小,细节都放到了习题,使得此书的信息量偏大,因此需要一个理论功夫很扎实的老师才能讲好此书,否则学生只能看到一些结论性的东西。当初教授我们的是此书的第二作者毛先生,他讲起来自然驾轻就熟。
有感而发!
首先恭祝大家圣诞快乐!新年快乐!
其次,谢谢mathtao版主的奖励!
最近实在太忙,有一段时间没来了,不好意思。yyeric的问题不少,好在有sheepmiemie学友主动“代”我作答。他是好心人,非常感谢!
然而,人大经济论坛(很大程度上)是一个以学术为主的论坛,大家上来,相互讨论,相互讨教,也不一定指定了某人回答问题,碰到了解的,谁都可以提出自己的见解。所以也不应该存在代人回答的情况。所以,sheepmiemie学友是太客气了。此外,我发现他在论坛上为大家提供了非常多的帮助,有那么多的人感谢他,觉得他还是一个热心的人。出于尊敬,就在他的网名之后加上“学友”二字。论坛就该这样,希望大家向他学习。
不知为何,sheepmiemie学友将我称为“白先生”。认错人了?嘿嘿,白也好,黑也好,也没什么重要。无法解释,就来个不置可否。
与sheepmiemie学友相比,也有人表现不同。一幅高人模样,满眼瞧不起我们这些低水平的言论。这是正常的,纯数学向来不大瞧得上应用,这个我是深有体会。唉,我年龄大了,尽管非常喜欢,但搞不动理论数学了,就认命做应用数学。理论谈何容易,说句实话,对于大部分人,除了一点天赋,还需要练童子功的,讲究的是名门正派。想想坛子里大部分人都不是数学出身,为了随机过程去练测度论,那么恐怖的东东,需要多少时间?有多大可能?弄得不好还走火入魔。所以从实际出发才是对的,不明白多找人请教指点,慢慢见得多了,熟悉了,也就习惯了。
许多数学,本质而言,是用来欣赏的。大陆外一个统计高手,原来只做纯理论,向来发文章挑杂志,不是顶尖级的杂志不投。今年他告诉我,他正在对应用感兴趣,而且他很佩服那些将理论用于解决实际问题的人。“纯粹的谁不会?”他说,“大家都是学这个的。但是,难的是用它解决一些实际问题。”是的,国外的数学早就变了,人家是理论应用并重,今天中国也在变。我的老板一直要求弟子们“顶天立地”,就是理论要力争达到前沿,应用要务必做到最实际。
就概率统计而言,公认大陆的统计不够好。统计原来只有一个院士,陈希孺先生,现在去世了。概率方面,目前五个院士吧,包括陈木法先生。曾聆听过这些高人之中几位先生的教诲,人家讲东西就是那样简单清晰,能把极其抽象复杂的内容用最直观、最容易理解的方式说清楚,听来恍然大悟,这就是大家。他们中大多数做人也好,绝没有那种高人模样,谦虚且给别人面子,动不动就“啊,这个我不太懂。能不能再向我解释一下!”大家不知道,陈希孺先生生前(当上院士以后)还为别人的提职称而代写文章呢。足见他的单纯善良可爱。相反,现实中许多的老师却是最善于把简单的东西复杂化,故弄玄虚,让听者摸不着头脑。差别大了去了。
我想,我们用不着为数学的高深而烦恼痛苦。随机过程,书卷文献浩如烟海,对非数学专业的人,敢于接触它已经是很厉害的了;若要正式下苦功,最多到Ross就封顶吧,足够了。不必着急,慢慢试着去品味去喜欢。随机过程,说穿了,不就是人的一生吗!
祝各位顺利,快乐!
[此贴子已经被作者于2008-12-24 10:06:00编辑过]
有感而发完了,也安静了许多。下面解释一下yyeric的问题中sheepmiemie学友尚未回答的部分。
设连续时间Markov链的状态空间为S(至多包含可数个状态的离散集),其转移概率函数P_ij(t) 在t=0处的右导数q_ij 形成一个矩阵Q=(q_ij)_i,j∈S,称为该链的Q-矩阵. 对于一个时齐的连续时间Markov链而言,这个Q-矩阵就决定了它的转移概率的性质.
其中q_ij 的定义可见sheepmiemie学友在29楼粘贴的pdf附件,我就不再写出了. 注意到一个细节:q_i=-q_ii,可以看出对任一状态 i∈S,q_i 实际上表示链离开状态 i 的“速率”;而对 i ≠j,q_ij 则表示链从状态 i 转移到状态 j 的“速率”. 对于一般的连续时间Markov链,可以证明
1) 对一切 i∈S,-∞≤q_ii ≤0(亦即0≤q_i≤∞);
2) 对一切 i,j∈S,0≤q_ij<∞;
3) ∑_j≠i (q_ij) ≤q_i.
问题就出在3). 既然离开状态 i 总会进入另一个状态,因此,直观上应该取等号才显得合理.
同时,我们知道时齐的连续时间Markov链在任一状态 i 的停留时间服从指数分布,这个q_i 也是该指数分布的参数. 于是q_i =0的状态就是吸收态,q_i =∞的状态就是瞬逝态,而满足0<q_i<∞的状态称为稳定态. 另外,一个稳定态 i 称为是保守的,如果它使得3) 式取等号,即∑_j≠i (q_ij) =q_i ;或者非保守的,如果∑_j≠i (q_ij) <q_i.
这样,“保守”就是一种正常的、符合逻辑的性质. 有限状态空间的链的所有状态肯定满足这个性质,sheepmiemie学友已经给出了一个证明. 但若是可数无穷的状态空间,则不一定. 直观上,“非保守”是一种病态性质,因为当链从这样的一个状态 i 离开后,按陈培德先生的说法,将以一正概率1-[∑_j≠i (q_ij)]/q_i “无所适从”. 链的转移出现了“真空”,直观上不好理解,也不好解释了.
这仅是个人理解,对不对,还要大家讨论. 欢迎提意见. 有兴趣的话,以上内容可参考陈培德“随机数学引论”,科学出版社2001,P178-187.
[此贴子已经被作者于2008-12-24 9:24:49编辑过]
请教一个有关local martingale的问题: http://en.wikipedia.org/wiki/Local_martingale
第一个例子就没看懂:为什么这里的Xt 就是一个local martingale了? τk = min{t:Xt = k}.为啥reduce这个过程啊?这里的τk 好像是属于(0,1)的 而local martingale的定义不是说τk 要发散到正无穷吗?
更主要的是这个例子直观上怎么理解啊? 有点像是把(0,+无穷)的winner过程压缩到(0,1)?
[此贴子已经被作者于2009-2-22 23:08:55编辑过]