點選返回目錄
一. 正態過程(高斯過程)
人們常常將
噪聲、誤差
視為正態變數,因為它們受到
大量獨立的、均勻微小的
隨機因素的疊加影響,利用中心極限定理可知它們近似服從正態分佈(《高等統計物理學》5:非平衡態統計物理初步中證明中心極限定理時所構造的
,它的含義亦如此)。
1。 注意:正態過程是有限維正態隨機向量概念的推廣,有限維正態隨機向量的相關知識參考【1】P 31-36頁。
(a) 對於
的計算, 類比
同樣可以得到
。
(b) 【1】P31的二維協方差矩陣寫為
是因為
,而皮爾遜相關係數公式有
,因此代入後能很容易得到上述形式。
對於正態過程,它的任意有限維分佈函式族是正態分佈函式族。
1.1 判別
(1)定義判別
(a) 給定隨機過程
,若對任意的正整數
及任意的
,隨機變數
的聯合分佈是
維正態分佈,即
,則稱
是正態過程。其中
注意這裡的機率密度公式裡將均值和協方差換成了均值函式和協方差函式。
(b) 如果機率密度函式很難求,有時還可以透過其特徵函式的形式來判斷。
維正態分佈的特徵函式為
。其中
(注意這裡
和
的區別,不要混淆了,
才是均值函式),因此它也可以作為定義判別中的一個形式。
(2)充要條件判別
直接用定義判別是比較困難的,因此我們常用以下充要條件準則進行判別:
為正態過程的充要條件是
的任意非零線性組合
為一維正態分佈。(如果已知某過程為正態過程,那麼也要能夠想到此線性組合的存在,正態過程的可加性證明正是用到了這一點)(【3】P81的2題、【3】P83的3題、【3】P97的11題(1))
1。 理解:比如研究接收器在連續時間內接受到的訊號強度變化情況。因為我們知道肯定是存在誤差的,不僅表現在同一實驗各時刻的強度不同,還表現在同一時刻但不同實驗下強度不同(即我們先用接收器接收,得到一段強度序列,過一會兒再用它接受,得到的可能又是另外一段強度序列了,因為誤差不僅不會讓一段強度序列中各值相等,而且也不會讓不同的強度序列變換情況全一樣)。所以我們從全域性視角來看,選擇一些時刻,不同實驗會接收到一段不同的訊號強度序列,而每一段不同的訊號強度序列在隨機過程(即很多次實驗裡)會有一定的出現頻次,將這些選取的時刻及其出現的不同訊號強度序列和出現頻數進行統計,得到的結果為正態分佈,要注意,對於任何選取的時刻 都成立( 實則類比了定理:n維正態分佈隨機向量的任一子向量也服從正態分佈,即多維正態分佈的邊緣分佈還是正態分佈)
1.2 數字特徵
若
是具有
零均值
和協方差
的正態過程, 則對於任意的非負數
和
,有如下性質:
(1)
;
(2)
;
(3)
;
(4)
;
(5)
;
(6)
。
(上述結論中(2)和(3)、(5)和(6)可以配套的!)(【3】P93證明)
1。 注意:(a) 一定要注意這些性質的前提條件,即零均值,這是一個特殊的情況;(b) 寫法上要注意,
和
其實是等價的,和均值函式的寫法一樣;(b)性質(2) (6)的證明難一些;(c)多次用到
這個代換,性質(3)(5),反正凡遇到
,則用這個公式來拆!
1.3 定理
(1)正態過程為獨立過程的充要條件為
;(【3】P85的6題)
(2)正態過程具有可加性;(【3】P83證明)
(3)正態過程是二階矩過程,其有窮維分佈由
及其協方差確定。(【3】P163的1題)
1。 注意:證明(2)前要知道
二。 泊松過程
泊松過程用於研究
隨機點過程按時間順序出現的情況。
客觀世界中,存在這樣一類隨機現象,它們發生的時間、地點或者相聯絡的某些屬性,常常可以歸屬於某空間中點的隨機發生,這種點就構成了隨機點過程(早期稱之為隨機事件流)。比如:用蓋格計數器來記錄某類粒子的到達、電話交換機接到的呼叫事件、通訊系統執行中出現的誤碼、細胞中染色體發生的交換、航空公司接收到的託運訂單等等,以上問題共同特點是關心某個事件
,如“到達”、“誤碼”、“交換”、“接受訂單”等
按時間順序出現的情況
。
例項:【1】P46頁。下面這個例子可以理解泊松過程研究的是什麼,以及進一步理解隨機過程:一天中某電話交換臺接收到的呼叫形成一個隨機點過程。每一次呼叫發生的時間就是一個隨機點,這個點過程的一條現實(即樣本函式)是一個時間的序列。(在研究的時候,貌似往往是以“時間段”為分析物件,而非“時刻”)
2.1 齊次泊松過程
2.1.1 判別
(1) 計數過程
是引數為
的齊次泊松過程,當且僅當滿足下列條件:(a)
(b) 具有獨立增量;(c) 對任意
隨機變數
服從引數為
的泊松分佈:
。
(2) 等價定義:若取非負整數值得計數過程
滿足下列條件:(a)
(b)具有平穩獨立增量; (c)
(d)
,稱隨機過程
是引數(或平均率、強度)為
的齊次泊松過程。
1。 注意:判別定義(1) 中 (c) 的證明:【1】P48-49頁。它可由條件(a)零初值性和條件(b)平穩增量性得證,還要用到下面等價定理的條件(c)(d),也就是說,這裡的條件(c)和下面等價定理中的條件(c)(d)是等價的;判別定義(2)中,(b)比較重要,其
中的
只要滿足
,而時間間隔隨意,它可以求得
等,(c)(d)主要為了以後方便計算。
2.1.2 數字特徵
(1)
;
(2)
;
(3)
;
(4)
;
(5)
(之所以用min是因為不明確s和t時刻的大小,下同);
(6)
;
(7)
。
(【1】P50頁(2)~(7)的推導)
1。 注意:(a)推導(2)時,
認準變數名然後往裡代;(b)推導(7)時,用好平穩獨立增量這個性質(“重構機率引數”+“獨立性拆分”),包括以後遇到同樣具有平穩獨立增量性質的隨機過程,要會用這個性質;(c)從推導(3)時可得
是單位時間內平均到達事件數,稱為隨機事件的平均到達率,有了這個概念後,(3)和(4)也很好理解了;(d) 推導(6)時,也利用了泊松過程的平穩獨立增量性進行了一個很精彩的構造。
2。1。3 性質
(1)泊松過程
為平穩獨立增量過程(算機率的時候好好用這個性質);(【3】P172的17題、P175的22題(1))
(2)泊松過程
為馬爾可夫過程;
(3)泊松過程
為生滅過程;
(4)泊松過程
為均方連續、
均方不可導
、均方可積的二階矩過程;(【3】P168的12題、P169的14題、P164的2題)
(5)泊松過程
為非平穩過程,但為平穩增量過程(區分!物件不同)。
1。 套路:只要隨機過程具有平穩獨立增量性質,那麼在證明各種東東的時候要重點嘗試無中生有的技巧。
2.1.4 定理(中間幾個定理是“頻域”和“時域“的轉換)
(1)若
是引數為
的齊次泊松過程。
,事件A在
時間段內出現了
次,則隨機事件A在
時間段內出現
次的機率
為
。(【1】P51證明)
(2)設
是引數為
的泊松過程
的到達時間間隔序列,則
相互獨立同服從指數分佈(
),且
(即平均時間間隔)。其中“到達時間間隔 ”
表示第
次出現到第
次出現間的點間間距。(【1】P53證明)
(3)設
為引數為
的泊松過程
的等待時間序列,則等待時間
服從
分佈,其機率密度為
,其中“等待時間序列”
分別表示事件第1,第2,。。。,第n次出現的時間。(【1】P53證明)
(4)(a)設
是齊次泊松過程,已知事件
在
上出現1次,則這1次事件的到達時間
的條件機率密度為
(【1】P54證明)
(b)推廣:設
是泊松過程,已知在
時間內
出現
次,則這
次事件的到達時間
的聯合條件機率密度為
(【1】P55證明)(【3】P106的43題)
(c)引理:設
是引數為
的齊次泊松過程,如果
內有
個隨機事件A到達,則
個到達時間
和
個相互獨立同服從
上均勻分佈的隨機變數
的順序統計量
同分布。
(5)設
和
是相互獨立,引數分別為
和
的泊松過程,則
是引數為
的柏松過程。該定理稱為泊松過程的疊加定理。(和正態過程的一樣具有可加性)(【1】P68-69證明)
(6)引數為
的泊松過程
,全體事件可分為
類,第
類事件發生的機率為
則
可分解為
個相互獨立的泊松過程之和,各泊松過程的引數分別為
。該定理稱為泊松過程的分解定理。(【1】P71-72證明)(【1】P69的例2。4。12、【3】P104的40題、P103的37題、P107的44題,這些題都是定理在現實問題中的應用)
1。注意:泊松分佈
的含義是什麼,即在
時刻內發生的次數,而非
時刻時;
2.2 非齊次泊松過程
非齊次泊松過程與齊次泊松過程的區別在於:
非齊次泊松過程的增量分佈與時間起點有關,即 #FormatImgID_141# 不是一個常數,而是一個強度函式 #FormatImgID_142#
。之所以引進非齊次泊松過程,是因為大多數現實系統的實際點過程的到達率往往不能理想化為常數,比如觀察透過某哨所的車流量,往往需要考慮高峰期等等,因此不滿足泊松過程的增量平穩性特徵。
2.2.1 判別
若計數過程
滿足下列條件:(a)
(b) 具有獨立增量;(c)
(d)
,則稱
為具有強度函式
的非齊次泊松過程。(【3】P91的12題,應用題)
2.2.2 數字特徵
(1)若
是非齊次泊松過程,且其強度函式
為連續函式,則在時間段
內事件
出現
次的機率為
,其中
。由上式可知
服從均值為
的泊松分佈 。(【1】P57的例2。3。10)
(2)
。
(3)
。
(4)一維特徵函式為
。(【1】P57證明)
(【3】P108的46題)
2.3 複合泊松過程
實際應用中我們往往還關注“總數量”,因此在非齊次泊松過程的基礎上引入複合泊松過程。它具有很強的應用背景。
2.3.1 判別
若對於
,
可以表示為
,其中
是一個泊松過程,
是獨立同分布的隨機變數序列,並與
相互獨立(即與次數無關),則稱隨機過程
為複合泊松過程。(【3】P91的13題)
1。 理解:【1】P64-65頁(公交車到站的例子!及公交車到站數是泊松過程,公交車裡面的人數又是一個隨機過程,考慮這兩個因素的複合,就是到站總人數)
理解:
是同分布的隨機變數,但並不侷限在哪一種分佈,但是這個合成的分佈
卻與泊松分佈有關。
2.3.2 數字特徵
設
是一個複合泊松過程,泊松過程
的強度為
,則
滿足:
(1)是獨立增量過程;
(2)一維特徵函式為
;
(3)
,
。(【1】P65-66證明)
2.4 更新計數過程
齊次泊松過程的到達時間間隔序列相互獨立同服從指數分佈,但實際計數過程的到達時間間隔序列往往僅滿足相互獨立同分布性,因此有必要對齊次泊松過程進行推廣。
2.4.1 判別
設
是相互獨立同分布的非負隨機變數序列,其分佈函式均為
,令
。將由
定義的計數過程
稱為更新(計數)過程,稱其均值函式
為更新函式,稱
為更新間距。(上述記號
表示“上確界“,即最小的上界)
1。 理解:【1】P59-60頁的例項
2.4.2 性質
設
為計數過程
第
個事件的到達時間,
,事件
等價於事件
,則
。其
的分佈函式
可由其特徵函式
確定,
。
2.4.3 定理
(1)設
是更新過程,其更新函式為
(若更新函式的導函式存在,記
稱為更新過程的更新密度(強度),有
)。(【1】P63證明)
(2)更新計數過程
是泊松過程的充要條件是更新間距具有指數分佈。
1。 注意:對於定理(2) ,【1】P62頁,該定理可以給出泊松過程的又一種定義方法,這種定義方法提供了一種在計算機上模擬泊松過程現實的途徑
三。 維納過程
維納過程對布朗運動在理論上做出了精確的數學描述。布朗運動是物理學家布朗在觀察漂浮在液麵上的花粉的不規則運動而提出的。因此布朗運動又稱為維納過程。
它是最基本同時也是最重要的隨機過程,許多隨機過程都可以看做是它在某種意義下的推廣。
3。1 判別
(1)如果隨機過程
滿足下列條件:(a)
(b)
(c) 具有平穩獨立增量;(d)
,稱隨機過程
是引數為
的維納過程。(若
,則稱為標準維納過程)。
(2)3個等價條件:(a) 是獨立增量過程;(b)對任意
;(c)
。
1。 思想和推導:【1】P41頁(先從離散情形建模開始,求出均值和方差的表示式,再推廣至連續情形,最後來個泛函中心極限定理證明它趨近於正態分佈!),一定要注意:維納過程的模型,等機率(即1/2)地向左或向右移動。
2。 理解:維納過程研究這樣一種情形:一個粒子遵從上述遊走模型運動,第t步後它會與初始位置有一個偏移量。當然,進行多次實驗它都可能會在同樣的步數後處於不同的偏移位移,拿出三維模型進行多次實驗結果的疊加,可以得到不同時刻的不同偏移量在所有實驗中出現頻率的一個統計分佈,神奇的是,它就是正態分佈。
3。2 數字特徵
(1)
。
(2)
。
(3)
。
(4)
。
(5)
。
(6)
。
(7)
(8)
。
(9)
。
(10)
。(【3】P93的15題、P95的19題)
1。 注意:(a) 協方差矩陣
的表示;(b) 證明過程中用到
。
3。3 性質
(1)維納過程
為平穩獨立增量過程;(【3】P192的15題證明)
(2)維納過程
為正態過程;(【1】P42證明)
(3)維納過程
為馬爾可夫過程;
(4)維納過程
為均方連續、
均方不可導
、均方可積的二階矩過程;(【3】P168的11題和13題、P170的15題)
(5)維納過程
為非平穩過程,但為平穩增量過程。
3。4 定理
(1)設
是正態過程,若
,對任意
,有
,且軌道連續,則
是維納過程,反之亦然。其中,軌道連續是指隨機過程的樣本函式是連續函式。可以證明維拉過程
幾乎所有樣本函式都是連續的,即存在
,使
時,
在
上連續。用上述定理還可以得到一系列有用的結論:(【3】P97的23題(2))
(2)設
是引數為
的維納過程,記
,則
(a) 對任意
(b) 對常數
(c)
其中
;
仍為維納過程。(【1】P44證明)
(【3】P99-100的25題、26題和27題,分別是Brown橋過程、帶有漂移的Brown橋過程和幾何Brown橋過程,它們在證券價格波動問題中有著重要的應用)
點選返回目錄