__________________________2.dvi

תמליל

1 תורת ההסתברות 2). מבוסס על הרצאות פרופ' אורי גוראל גורביץ בקורס "תורת ההסתברות 2" 8042) האוניברסיטה העברית, סמסטר ב' 206 להערות: Ò º ÚÖ Ñ Ñ ÐºÓÑ נחי

2 תוכן עניינים 3 Á מבוא: הסתברות מנקודת מבט של תורת המידה 3 אלגבראות, σ אלגבראות מרחבים מדידים, מרחבי מידה משפטים יסודיים דוגמאות יסודיות סדרות מאורעות ÁÁ אי תלות 7 5 חוק 0 של קולמוגורוב ÁÁÁ משתנים מקריים התפלגות של משתנה מקרי הסתברות של קבוצות מדידות אינווריאנטיות משתנים מקריים רציפים, וצפיפות תוצאות יסודיות אי שוויונים מרקוב, צ'בישב) חוק המספרים הגדולים מבוא החוק החלש של המספרים הגדולים החוק החזק של המספרים הגדולים פונקציה יוצרת מומנטים, וחסמי הופדינג וצ'רנוף ÁÎ מרטינגלים 30 0 מרטינגל - הגדרה מצומצמת מבוא: תוחלת מותנית מרטינגל - הגדרה כללית זמן עצירה ריכוז מידה של מרטינגלים Î שרשראות מרקוב התכנסות לסטציונריות Ê Ú Ö Ð ØÝ 3.3 ÎÁ משפט הגבול המרכזי 52 4 התכנסויות של משתנים מקריים התכנסות של פונקציות התפלגות מצטברת משפט הגבול המרכזי פונקציות אופייניות הוכחת משפט הגבול המרכזי

3 חלק Á מבוא: הסתברות מנקודת מבט של תורת המידה אלגבראות, σ אלגבראות הגדרה: תהי Ω קבוצה כלשהי. נאמר כי F 0 2 Ω היא אלגברה על Ω, אם מתקיימות התכונות הבאות: F 0..2 לכל A F 0 גם.A c F לכל A,B F 0 גם.A B F 0 הגדרה: תהי Ω קבוצה כלשהי. נאמר כי F 2 Ω היא σ אלגברה על Ω, אם מתקיים: Ω. היא אלגברה על F. 3. n N A n F מתקיים,{A n } n N.2 לכל F הגדרה: תהי Ω קבוצה כלשהי ותהי S 2 Ω כלשהי לאו דווקא אלגברה). נגדיר את ה σ אלגברה הנוצרת על ידי S להיות ה σ אלגברה המינימלית שמכילה את S. נסמנה על ידי.σS) נשים לב כי היות שבאופן כללי חיתוך כלשהו של σ אלגבראות הוא σ אלגברה, σs) = {F F Ñ ¹ Ð Ö ÓÒØ Ò S} חיתוך זה אינו ריק כי 2 Ω כולה היא σ אלגברה המכילה את S). מזהות זו נובע כי אכן σs) קיימת ומוגדרת היטב. 2 מרחבים מדידים, מרחבי מידה הגדרה: מרחב מדיד הוא זוג,Ω,F) כאשר Ω קבוצה כלשהי, σ אלגברה F על Ω. הגדרה: יהי Ω,F) מרחב מדיד. נאמר כי פונקציה µ : F R היא מידה על F, אם מתקיימות התכונות הבאות: µ ) = 0..2 לכל A F מתקיים 0 µa) A} n } n N סדרת קבוצות זרות בזוגות, F לכל σ אדיטיביות:.3 ) µ A n = n NµA n ) n N הגדרה: מרחב מידה הוא שלשה,Ω,F,P) כאשר Ω קבוצה כלשהי, σ אלגברה F על µ Ω, מידה על F. במקרה שמתקיים =,µω) נאמר כי µ מידת הסתברות וכי המרחב הוא מרחב הסתברות. כלומר, F 0 היא משפחה של תתי קבוצות של Ω. 2 כאשר A c היא הקבוצה המשלימה של A. 3 זוהי הכללה של תכונה 3 בהגדרת אלגברה.

4 n N תכונות: יהי Ω,F,µ) מרחב הסתברות.. מונוטוניות: לכל,A,B F אם A B אז µb).µa) A} n } n N לאו דווקא זרות בזוגות),.2 תת אדיטיביות: לכל F ) µ A n µa n ) µ n= n= A n ) = lim µa n).3 רציפות מלמטה: לכל סדרה,A A 2... F.4 רציפות מלמעלה: לכל סדרה,A A 2... F אם קיים m עבורו < ) m,µa אז ) µ A n = lim µa n) n= תרגיל: נאמר כי קבוצה S 2 N היא בעלת צפיפות אסימפטוטית, אם קיים הגבול S {,...,n} ds) := lim n כך למשל אם 2N היא קבוצת המספרים הזוגיים, d2n) = 2 נתבונן באוסף כל תת הקבוצות של N שהן בעלות צפיפות אסימפטוטית. האם זו אלגברה? σ אלגברה? אף אחת מהאפשרויות הללו? 3 משפטים יסודיים משפט: משפט ההרחבה של קרתאודורי) יהי Ω,F) מרחב מדיד. נניח כי ) 0 F = σf עבור F 0 אלגברה על Ω. תהי µ 0 מידה על.µ F0 המקיימת µ 0 F מידה על µ אזי קיימת 4,F 0 משפט: דינקין) יהי Ω,F) מרחב מדיד. תהי S 2 Ω קבוצה כלשהי הסגורה לחיתוכים סופיים, ונניח Ω. S לכל µ µ, 2 מידות סופיות על,σS) אם,µ S µ 2 S אז.µ µ 2 משפט: יהי Ω,F,P) מרחב הסתברות. נניח כי ) 0 F = σf עבור F 0 אלגברה על Ω. µa A ǫ 0) < ǫ אזי לכל,A F לכל > 0 ǫ קיימת,A ǫ 0 F 0 כך שמתקיים 4 נשיםלב כי הגדרנו "מידה" על σ אלגבראות ולא על אלגבראות. נתייחס ל µ 0 כמידה על האלגברה F במובן זה שלכל A}, {n n N F 0 אם n N An F 0 אז מתקיימת σ אדיטיביות. 4

5 הוכחה: תהי E קבוצת תתי הקבוצות שמקיימות את התכונה שבמשפט. כלומר, E := { A 2 Ω ǫ > 0 A ǫ 0 F 0, µa A ǫ 0) < ǫ } ניתן להראות כי E היא σ אלגברה, וברור כי F, 0 E ולכן מהגדרת ה σ אלגברה הנוצרת נובע כי F, = σf 0 ) E כנדרש. 3. דוגמאות יסודיות מרחב קטע היחידה הממשי ניקח את הקבוצה [0,) =: Ω. נגדיר על Ω את האלגברה, { n } F 0 := a i,b i ] n N, i n a i,b i 0,] i= P 0 a,b]) = b a F := σf 0 ) נגדיר מידה P 0 על האלגברה F, 0 ניתן לראות כי מאדיטיביות המידה, P 0 מוגדרת על כל F. 0 נגדיר על Ω את ה σ אלגברה, ועל ידי משפט קרתאודורי ומשפט דינקין, תהי P המידה היחידה על F המרחיבה את P. 0 מרחב הסדרות הבינאריות ניקח את הקבוצה.Ω := {0,} N כלומר איבר כללי ω Ω הוא סדרה...) 2 ω = ω ω עבור {0,} i.ω נגדיר על Ω את אלגברת הצילינדרים, { n } F 0 := C i n N, C i ÝÐ Ò Ö Ó ÓÖ Ö i i= כאשר צילינדר מסדר i הוא קבוצה המוגדרת ביחס ל i קבועים {0,} i a a,..., כלשהם, על ידי הצורה, C i = C i a,...,a i ) := {ω Ω ω = a,...,ω i = a i } נגדיר מידה P 0 על אלגברת הצילינדרים, P 0 C i ) = 2 i ניתן לראות כי מאדיטיביות המידה, P 0 מוגדרת על כל אלגברת הצילינדרים. נגדיר על Ω את ה σ אלגברה, F := σf 0 ) ועל ידי משפט קרתאודורי ומשפט דינקין, תהי P המידה היחידה על F המרחיבה את P. 0

6 4 סדרות מאורעות =n A} n } סדרת מאורעות. נגדיר את המאורעות: הגדרה: יהי Ω,F,P) מרחב הסתברות, ותהי F lim inf A n := lim supa n := N=n=N N=n=N A n = {ω Ω m n m, ω A n } A n = {ω Ω n m n, ω A m } lim inf A n limsup A n הערה: ניתן לראות כי באופן כללי, משפט: הלמה של פאטו) יהי Ω,F,P) מרחב הסתברות. אזי: P ) lim inf A n liminf P A n). P lim sup ) A n limsupp A n ).2, אז משפט: הלמה הראשונה של בורל קנטלי) יהי Ω,F,P) מרחב הסתברות. אם < n =n µa ) P lim inf A n = 0 הערה: נשים לב כי הכיוון השני של הלמה של בורל קנטלי אינו נכון בהכרח.. ועדיין נגדיר n) A n = 0, ואז,P A n ) = n כלומר = n) n= P A 0,] שהגדרנו. נתבונן למשל במרחב של ).P lim inf A n ולכן = 0,liminf A n = {0} 6

7 חלק ÁÁ אי תלות הגדרה: יהי Ω,F,P) מרחב הסתברות. יהיו F F, 2 F זוג תת σ אלגבראות. נאמר כי F F, 2 בלתי תלויות, אם לכל זוג קבוצות,A F, A 2 F 2 P A A 2 ) = P A ) P A 2 ) הערה: זו הכללה של אי תלות של מאורעות במובן המוכר. כלומר, A,B F מאורעות בלתי תלויים, אם ורק אם F A := σ{a}) = {,A,A c,ω} F B := σ{b}) = {,B,B c,ω} הן זוג σ אלגבראות בלתי תלויות. למה: אם S,S 2 2 Ω זוג קבוצות סגורות לחיתוכים סופיים, ולכל A S,B S 2 מתקיים B),P A B) = P A)P אז ) 2 σs ),σs בלתי תלויות. הוכחה: תהי.A S נגדיר זוג מידות חדשות A C),P C) = P A)P C), P 2 C) = P לכל.C F מההנחה נובע כי.P σs2) P 2 σs2) ולכן ממשפט דינקין,P S2 P 2 S2 כעת נתבונן בזוג האוספים ) 2 S.,σS בפרט שני אלה סגורים לחיתוכים סופיים. תהי ) 2.B σs נגדיר עוד זוג מידות חדשות C) P 3 C) = P B C), P 4 C) = P B)P לכל.C F נשים לב כי ממה שהוכחנו נובע כי,P 3 S P 4 S ולכן שוב ממשפט דינקין σs).p 3 σs) P 4 שוויון זה הוא בדיוק השוויון הנדרש. F} i } i I משפחה של תת σאלגבראות של F, עבור I קבוצת אינדקסים כלשהי. נאמר הגדרה: יהי Ω,F,P) מרחב הסתברות. יהיו F} i } i I הן בלתי תלויות, אם הן בלתי תלויות באופן סופי. כי σ אלגבראות P A i... A ik ) = P A i )... P A ik ) כלומר, לכל,i,...,i k I לכל,A i F i,...,a ik F ik.f של סדרת תת σ אלגבראות {F i } i= הגדרה: יהי Ω,F,P) מרחב הסתברות. תהי נגדיר לכל n את ה σ אלגברה, T n := σf n F n+...) ונגדיר את σ אלגברת הזנב, T := n NT n.{f i } i= הערה: הגדרת T אינה תלויה בסדר של 7

8 5 חוק 0 של קולמוגורוב T בלתי תלויות, אז סדרת תת σ אלגבראות {F i } i= משפט: חוק 0 של קולמוגורוב) יהי Ω,F,P) מרחב הסתברות. אם טריוויאלית. כלומר, לכל A T מתקיים {0,} A).P הוכחה: ראשונה) למה:,... 2 T,F,F כולן σ אלגבראות בלתי תלויות. הוכחה: מספיק להראות שעבור כל,A T,A F,...,A n F n P A A... A n ) = P A) P A )... P A n ) נשים לב שמהגדרת T נובע בפרט כי,...) n+.a T n+ = σf n+,f נתון כי i= {F i } ב"ת, נרצה להראות שנובע מכך כי n+ F,...,F n,t ב"ת. מהלמה שהראינו לעיל עבור אי תלות, נובע כי אם G G, 2 קבוצות סגורות לחיתוכים בלתי תלויות, אז ) 2 σg ),σg הן σ אלגבראות בלתי תלויות. ניתן להכליל ולהראות כי אם G G, 2 G, 3 קבוצות סגורות לחיתוכים בלתי תלויות, אז ) 3 σg ),σg 2 G הן σ אלגבראות בלתי תלויות, כנדרש. מסקנה: T ב"ת בעצמה. הוכחה: ישלהראותכי A) 2 P A A) = P לכל.A T נשיםלבכיאם A T אזבפרט...,.A T T = σf,f 2 אבל מהלמה נובע כי T,T בלתי תלויות, ולכן A) 2.P A A) = P מסקנה: לכל,P A) = P A A) = P A) 2,A T לכן {0,} A).P הוכחה: שנייה) =: G היא אלגברה איחוד סדרה עולה של אלגבראות היא נגדיר ) n G n := σf,...,f ההפך מ.T n נשים לב כי n= G n אלגברה). T := σf,f 2,...) = σg) ניתן להראות הכלה דו צדדית ולקבל את השוויון תהי.A T ממשפט שהראינו לעיל נובע שלכל > 0,ǫ קיימת B ǫ G כך שמתקיים.P A B ǫ ) < ǫ כלומר < A) ǫ P.P B ǫ ) < P A)+ǫ יהי N כלשהו שעבורו ) N.B ǫ G N = σf,...,f נשים לב כי בפרט,...) n+2,a T T N+ = σf N+,F ולכן A,B ǫ בלתי תלויות, כלומר P A) ǫ < P A B ǫ ) = P A)P B ǫ ) < P A)P A)+ǫ) אבל > 0 ǫ שרירותי, ולכן בהכרח {0,} A).P דוגמה: נתבונן במרחב Ω = {+, }N עם מידת 5. 2, 2 לכל n N נגדיר את F n להיות ה σ אלגברה של הקואורדינטה ה n. כלומר F n = {,Ω,{ω n, ω n = +},{ω n, ω n = }} { = A הוא מאורע זנב ביחס n= X n Ü Ø } ניתן להראות כי המאורע.X n ω) = ωn n לכל n N נגדיר משתנה מקרי ל σ אלגבראות n=.{f n } 5 כלומר, P היא המידה המתקבלת על ידי משפט קרתאודורי מהמידה על הצילינדרים P 0 {ω ω = a,...,ω i = a i }) = 2 i עבור קבועים n a,...,a.{+, }

9 דוגמה: V,E) G = גרף בן מניה קשיר ובעל דרגות סופיות לכל קודקוד מספר סופי של שכנים). צובעים כל קשת בגרף בצבע כחול בהסתברות < p <,0 באופן בלתי תלוי. ביחס למניה כלשהי של הקשתות נניח שקיימת), נגדיר F n להיות ה σ אלגברה של הקשת ה n. כלומר F n := {,Ω,{Ω Ø Ò³Ø ÐÙ },{{Ω Ø Ò³Ø ÒÓØ ÐÙ }}} =n F} n } אלו σ אלגבראות בלתי תלויות, כי הצביעות כולן בלתי תלויות. נשים לב כי נגדיר את A להיות אוסף המקרים בהם קיים רכיב קשירות כחול אינסופי. טענה: A הוא מאורע. הוכחה: לכלקודקוד v נגדיראת A v להיותאוסףהמקריםבהם v שייךלרכיבקשירותכחולאינסופי. ברורכי,A = v V A v לכן מספיק להראות כי A v מאורע. נתבונן בקבוצה המשלימה A c v אוסף המקרים בהם v שייך לרכיב קשירות כחול סופי). i { Gv} מניה של כל הגרפים הקשירים הסופיים שמכילים את v. לכל i N נגדיר את Bv i להיות המאורע שרכיב תהי =i הקשירות הכחול של v הוא תת גרף של Gi v ולכן רק סופי). ברור כי Bv i מאורע, שכן הוא מתואר על ידי מספר סופי.A c v = של צביעות. ניתן להראות כי כי =i Bi v טענה: A מאורע זנב, ולכן {0,} A).P הוכחה: המאורע שקיים רכיב קשירות כחול אינסופי,הוא אותו מאורע שקיים רכיב קשירות כחול אינסופי בגרף לאחר שמסירים כל מספר סופי של קודקודים. טענה: נגדיר A) f. p) = P p זו פונקציה מונוטונית עולה. הוכחה: נרצה להראות שלכל.f p ) f p 2 ),p < p 2 נשתמש בטכניקה שנקראת צימוד. ÓÙÔÐ Ò ) ניקחאתהגרףG,וכלקשתבונצבעבכחולבהסתברות p,נצבעבאדוםבהסתברות p,ולאנצבעבכללבהסתברות 2 p p. 2 נגדיר את A להיות המאורע שיש רכיב קשירות כחול אינסופי. נגדיר את A 2 להיות המאורע שיש רכיב קשירות אינסופי שבו כל הקשתות כחולות או אדומות. נקבל כי ) P A ) = f p וכי ) 2.P A 2 ) = f p 2 p +p ) = f p אבל,A A 2 ולכן ) 2.f p ) f p מסקנה: f היא פונקציית מדרגה שמקבלת ערך 0 עד c p 0 כלשהו, והחל ממנו את הערך. נרצה לדעת מהו?p c מהו ) c?f p האם < c < p 0 ממש? הערה: תחילה נשים לב כי אין תשובות אחידות לשאלות אלה. נראה שתי דוגמאות קיצוניות. נשים לב כי בגרף שרשרת למשל N מתקיים = c,p שכן לכל < p 0 מתקיים = 0 p).f נשים לב כי בגרף עץ שבו הדרגות של העץ הולכות וגדלות ל, מתקיים = 0 c p, שכן לכל p < 0 מתקיים = p) f אינטואיטיבית). p c Z טענה: > 0 3 ) 2 p, ) c Z אולם לא נוכיח זאת כאן. 2 = 2 הערה: ידוע למעשה כי.f p) = 0,p < 3 הוכחה: יש להראות שלכל נתבונן בקודקוד v Z 2 כלשהו, ונגדיר את A v להיות המאורע ש v נמצא ברכיב קשירות כחול אינסופי. נגדיר את A n v להיות המאורע שיש מסלול פשוט כלומר שלא חוזר פעמיים על אותה קשת) כחול באורך n המתחיל ב v. זה ודאי מאורע, כי יש מספר סופי של מסלולים באורך n המתחילים ב v. P A v ) P A n v ) טענה לא לגמרי טריוויאלית, אבל אפשר להשתכנע בה). לכן נובע זו A v = נשים לב כי =n An v לכל.n N מספר המסלולים הפשוטים בגרף Z 2 שמתחילים ב v באורך n הוא לכל היותר n 3 4 יש 4 אפשרויות לצאת מ v, ומשם לכל היותר 3 אפשרויות להמשיך לכל כיוון, כי הגרף פשוט). כמו כן ההסתברות של מסלול להיות כחול היא p. n

10 כעת נשים לב כי אם X n מ"מ שסופר את מספר המסלולים באורך n המתחילים ב v, אז ניתן להציג N n X n = i= X i n עבור X i n אינדיקטור למאורע המסלול ה i כחול, ועבור n N. n 3 4 לכן E[X n ] 4 3 n p n = 4 3 3p)n,p < 3 ולכן לכל E[X n ] 0 מצד שני, מאי שוויון מרקוב, P A n v) = P X n ) E[X n ] 0 ולכן = 0 ) v.p A הערה: בהוכחת הטענה השתמשנו רק בתכונה שהדרגה של Z 2 היא 4 יש 4 יציאות מכל קודקוד). לכן קיבלנו למעשה תוצאה כללית יותר: לגרף G בעל דרגה,d מתקיים.p c G) d 3 3p)n p c Z טענה: < ) 2 הוכחה: יש להראות שיש < p עבורו = p) f. נתבונן בגרף הדואלי של Z, 2 כלומר בגרף בו הקודקודים הם הריבועים של Z, 2 והקשתות הן בין פיאות סמוכות. 6 נבצע צביעה של הגרף הדואלי באופן הבא: כל קשת e d בגרף הדואלי נחתכת עם קשת אחת בדיוק e בגרף Z. 2 אם e כחולה - לא נצבע את e d כלל. אם e לא כחולה - נצבע את e d באדום. ניתן להשתכנע שיש מסלול פשוט אדום סופי בגרף הדואלי המקיף את v, אם ורק אם v לא בתוך רכיב קשירות כחול אינסופי. נשים לב עוד שההסתברות לצביעה באדום של קשת בגרף הדואלי היא p, ולכן ההסתברות למסלול אדום מסוים באורך n היא. p) n כמו כן, מספר המסלולים הפשוטים באורך n המקיפים את v חסום על ידי n 3 n במסלול באורך n מותר להתרחק מ v רק עד כדי n). לכן ההסתברות שיש מסלול אדום באורך n שמקיף את v חסומה על ידי n. 3 3 p))n כלומר, עבור > 2 3 p נקבל כי ההסתברות לקיום מסלול כזה שואפת לאפס., אז ההסתברות ש v נמצא ברכיב קשירות כחול לכן אם p מספיק קרוב ל, כך שמתקיים < 3 p))n =n n 3 אינסופי חיובית, ולכן ההסתברות שקיים רכיב קשירות כחול אינסופי כלשהו חיובית, ולכן היא. הערה: באופן כללי ידוע כי p. c זו עובדה לא פשוטה. Z d ) 2d.Z 2 כי Z 3,p c Z 3 ) p c Z ניתן לשים לב שבפרט מתקיים ) 2 6 בשרטוט, הגרף הדואלי נראה כמו הסטה של הגרף Z 2 בחצי ריבוע ימינה או שמאלה) ובחצי ריבוע למטה או למעלה). 0

11 חלק ÁÁÁ משתנים מקריים הגדרה: יהיו ) 2 Ω,F ), Ω 2,F זוג מרחבים מדידים. אומרים כי פונקציה f : Ω Ω 2 היא מדידה, אם לכל A F 2 מתקיים.f A) F הגדרה: יהי Ω,F) מרחב מדיד. נתבונן במרחב המדיד R,B) עבור σ אלגברת B בורל של הממשיים. משתנה מקרי הוא פונקציה מדידה מהצורה.X : Ω R טענה: יהי X : Ω R פונקציה כלשהי, ותהי S 2 B קבוצה כלשהי היוצרת את B כלומר σs).b = אם לכל A S מתקיים,X A) F אז X משתנה מקרי. הוכחה: ניתן להראות כי אוסף הקבוצות שעבורן X פונקציה מדידה מהווה σ אלגברה המכילה את S. מסקנה: פונקציה X : Ω R המקיימת X,a]) F לכל,a R היא מ"מ. מסקנה: פונקציה רציפה X : Ω R היא מ"מ. טענה: אם X,X 2 : Ω R מ"מ, אז X,X 2 ) : Ω R R מ"מ. באופן כללי יותר, אם X n : Ω R עבור n N סדרה של מ"מ, אז n N X n : Ω R N מ"מ. הוכחה: נתבונן בקבוצה R}.S := {,a],b] a,b מתקיים,σS) = B B וכן X,X 2 ),a],b]) = X,a]) X 2,b]) F כלומר ) 2 X) X, פונקציה מדידה. טיעון דומה מתקיים עבור מכפלה בת מניה.,Ω X גם ההרכבה X 2 X : Ω R היא מ"מ. R X2 טענה: עבור זוג מ"מ R X 2 X ) B) = X X 2 B) ) הוכחה: נשים לב כי לכל B, B.X2 X ממדידות X 2 נובע,X2 B) B וממדידות X נובע B) ) F מסקנות:. צירוף לינארי של מ"מ הוא מ"מ. הוכחה: אם X : Ω R מ"מ, אז tx מתקבל על ידי הרכבה של פונקציית כפל בקבוע פונקציה רציפה ולכן מדידה). כמו כן אם X X, 2 : Ω R זוג מ"מ, אז X X+ 2 מתקבל על ידי הרכבה של פוקציית הסכום פונקציה רציפה ולכן מדידה) על הזוג ) 2 X) X, שגם הוא פונקציה מדידה כפי שהראינו). 2. כפל ומנה כשמוגדרת) של מ"מ, הם מ"מ. 3. max,min וערך מוחלט של מ"מ הוא מ"מ. n= {X n } סדרת מ"מ, אז sup n N X n, inf n N X n הם מ"מ אם הוכחה: נסמן.Y := sup n N X n נשים לבכי,a],Y,a] n N, X n ולכן =,a]) Y. n N X n,a]) F 7 אולי משתנה מקרי זה מקבל ערכים אינסופיים, ומובן כיצד להגדיר את המרחב המדיד { ±} R R. = ½½

12 } n {X סדרת מ"מ, אז limsupx n, liminf X n הם מ"מ. n= 5. אם הוכחה: נשים לב כי ) lim supx n = inf sup X n N N n ) lim inf X n = sup inf X n N N n כלומר זו הרכבה של פונקציות מדידות..6 אםR X,X 2 : Ω זוגמ"מ,אז{ ω ) ω }מדידהכיזותמונההפוכהמהצורה 0 ) Ω X ω) = X 2 ) 2,X X ולכן גם ω)} {ω Ω X ω) X 2 מדידה. { lim X nω) = } n {X סדרת מ"מ, אז lim X n הוא מ"מ, כי n= 7. אם } ω Ω limsupx n ω) = liminf X nω) הערה: גם כאשר הגבול לא קיים, ניתן להתבונן בו מעל למרחב גדול יותר { } { ±} R Rˆ, = ולזרוק את כל נקודות אי ההתכנסות לנקודה. P º º {n X} סדרת מ"מ, אומרים כי X n X כמעט תמיד כ"ת), אם n= הגדרה: אם { }) ω Ω lim X nω) = X ω) = הגדרה: אם X מ"מ, נגדיר את σx) F להיות ה σ אלגברה המינימלית שעבורה X מדיד. באופן שקול: σx) := { X B) B B } קל לראות שזו σ אלגברה). {σx i )} i I קבוצת σ אלגבראות בלתי תלויה. {X i } i I נקראת בלתי תלויה, אם הגדרה: קבוצת מ"מ כלשהי {X i } i I היא בלתי תלויה בזוגות. אם לכל i,j I מתקיים כי X i X, j בלתי תלויים, אז נאמר כי P Y n = ) = P Y n = ) = מ"מ ב"ת, עם התפלגות {Y n } N n= הערה חשובה: נראה דוגמהלמ"מ ב"ת בזוגות אבל לא ב"ת. יהיו 2 כמו הטלות מטבע). תהי \{ } {,...,N} c : {,...,2 N } 2 פונקציית מניה חח"ע של תתי הקבוצות של {,...,N} ללא הקבוצה הריקה. 8 X i = n ci) Y n עבור כל N i 2, נגדיר 8 למשל ci) מסתכלת על הייצוג הבינארי של המספר i, ומחזירה את תת הקבוצה שבה מופיע בייצוג הבינארי. ½¾

13 2N X} i } ב"ת בזוגות אבל לא ב"ת. i= טענה: הוכחה: נראה מדוע הם ב"ת בזוגות. נשים לב שלכל i, j קיים Y k כלשהו המופיע ב X i ולא מופיע ב X j בה"כ). אם כך נתנה במשתנה,Y k ונקבל כי X i מקבל תוצאה ± בהסתברויות 2, 2 באופן לא תלוי במשתנה.X j דוגמה: נתבונן במקרה = 2.N מתקיים כי {{},{2},{,2}} {,2,3} : c המעתיקה 3 {2}, 2 {},.{,2} נקבל את שלושת המשתנים המקריים.X = Y, X 2 = Y 2, X 3 = Y Y 2 ניתן לחשוב על X 3 כמ"מ הבודק האם בשתי הטלות מטבע התוצאות יצאו זהות אם כן אז = 3 X ואם לא אז = 3.X נקבל: P X = X 2 = X 3 = ) = 4 8 = 2 3 = P X = )P X 2 = )P X 3 = ) תרגיל: לשנות את הדוגמה הנ"ל כך שנקבל קבוצת מ"מ שהם ב"ת בשלשות או אפלו ב"ת ב k יות) אבל הם לא ב"ת. 6 התפלגות של משתנה מקרי הגדרה: יהי X : Ω R מ"מ. ההתפלגות של X היא מידת הסתברות µ X על,R,B) המוגדרת לכל B B על ידי µ X B) := P X B) זהו סימון מקוצר: B}.{X B} = {ω Ω Xω) הגדרה: יהי X : Ω R מ"מ. פונקציית ההתפלגות המצטברת של X היא פונקציה [0,] R F, X : המוגדרת על ידי F X a) := µ X,a]) = P X a) תכונות: לכל מ"מ :X : Ω R. X F מונוטונית עולה חלש F X a) a 0,F X a) a.2.3 X F רציפה מימין טענה: אם [0,] R F : פונקציה כלשהי המקיימת את שלוש התכונות הנ"ל, אז יש מרחב הסתברות עם מ"מ X, כך ש F היא פונקציית ההתפלגות המצטברת של X. הוכחה: ניקח את X : R R להיות פונקציית הזהות, ונגדיר P להיות מידת הסתברות על R, על ידי µ,a]) := F a) µa,b]) := F b) F a) וכן ממשפט קרתאודורי מתקבלת מידה על כל B. תרגיל: אם F מקיימת את כל התכונות הנ"ל, וגם עולה ממש ורציפה, אז 0,) R F : חח"ע ועל למעשה אפילו הומאומורפיזם), ולכן הפיכה. נגדיר אם כך.X := F : 0,) R להראות כי.F X = F 3

14 7 הסתברות של קבוצות מדידות אינווריאנטיות הגדרה: תהי T : Ω Ω טרנספורמציה כלשהי. נאמר כי קבוצה A Ω היא T אינווריאנטית, אם.T A) = A הגדרה: טרנספורמציה T : Ω Ω של מרחב הסתברות כלשהו Ω,F,P) נקראת ארגודית, אם לכל קבוצה מדידה A F שהיא.P A) {0, } מתקיים T אינווריאנטית, T x k ) k Z היא ארגודית. ) = xk+ ) k Z משפט: ארגודיות של הזזה) הטרנספורמציה T : R Z R Z המוגדרת הוכחת משפט זה דומה מאוד להוכחת חוק 0 של קולמוגורוב. הגדרה: אם I קבוצת אינדקסים כלשהי, נאמר כי פרמוטציה π : I I היא סופית, אם היא מזיזה רק קבוצה סופית מהאינדקסים של.I כלומר: < i}. {i I πi).t π xi ) i I ) = xπi) הגדרה: כל פרמוטציה סופית π : I I משרה טרנספורמציה,T π : R I R I על ידי )i I משפט: חוק 0 של À Û ØØ¹Ë Ú לכל פרמוטציה סופית,π : I I הטרנספורמציה T π : R I R I היא ארגודית. הערה: בשני המשפטים ניתן לעסוק גם במרחב כללי, לאו דווקא R. דוגמה: למשפט הארגודיות של הזזה) נתבונן בפרקולציה עם פרמטר p על Z d כאשר p ההסתברות לצבוע קשתכלשהי בגרף בכחול, באופן בלתי תלוי בשאר הצביעות). ננסה לבדוק כמה רכיבי קשירות כחולים אינסופיים. נתבונן בזה כמשתנה מקרי שעלול לקבל ערך אינסופי). ראינו לעיל כי המאורע "קיים רכיב קשירות כחול אינסופי" הוא אכן מאורע, ולכן ניתן להשתכנע כי זה אכן מ"מ. נראה כי עבור p נתון, מספר רכיבי הקשירות הכחולים האינסופיים הוא קבוע כ"ת ניתן להראות כי עבור Z d קבוע זה הוא, אולם לא נראה זאת כאן). נראה זאת על ידי ארגודיות ההזזה. נחשוב על Z, 2 וטיעון דומה יהיה תקף לכל Z. d נתבונן בישר אינסופי אנכי של קשתות ב Z 2 מ ועד ), ונצמיד לכל קודקוד בישר הנ"ל קשת אחת משמאל. נשים לב שניתן לכסות את כל Z 2 על ידי ישרים עם קשתות היוצאות מהן.{l i } i Z תהי S i קבוצת כל הצביעות של.l i כלומר לשמאל מהצורה הנ"ל. נסמן מניה של כל קבוצות קשתות אלה על ידי S i =: {0,} Z {0,} Z כאשר הקואורדינטה הראשונה קובעת את הצביעה האופקית, והשנייה את האנכית). זה מרחב מכפלההמצויד ב σ אלגברת בורל והוא למעשה איזומורפי ל R). 2 משתנה מקרי X i : Ω S i הוא הגרלה של צביעה כלשהי של.l i X} i } i Z המייצגת את כל הצביעות על Z. 2 זו סדרה של מ"מ ב"ת וש"ה. נניח כי עבור ω 0 Ω כלשהו הצביעה נתבון בסדרה X} i ω) 0 { i Z מכילה k רכיבי קשירות כחולים אינסופיים, אז נשים לב כי עבור T : R Z R Z העתקת ההזזה שהגדרנו לעיל T} X) i ω) 0 { i Z גם היא מניבה k רכיבי קשירות כחולים אינסופיים, ולכן אם נסמן לכל = {X i+ ω 0 )} i Z מתקיים כי,k 0 E k := { ω Ω {X i ω)} i Z ÓÒØ Ò k Ò Ò Ø ÐÙ ÓÒÒ Ø ÓÑÔÓÒ ÒØ } נקבל כי E k היא קבוצה T אינווריאנטית לכל 0,k ולכן {0,} ) k.p E 8 משתנים מקריים רציפים, וצפיפות תזכורת: יהי Ω,F) מרחב מדיד, ויהיו ν,µ מידות עליו. נאמר ν רציפה בהחלט ביחס ל µ, ונסמן ν, µ אם לכל A F מתקיים כי אם = 0 µa) אז גם = 0.νA) ½

15 תזכורת: משפט רדון ניקודים) אם Ω,F) מרחב מדיד, וכן ν,µ זוג מידות עליו המקיימות ν, µ אזי קיימת פונקציה מדידה A, F המכונה נגזרת רדון ניקודים, כך שמתקיים לכל dν dµ : Ω R ˆ µa) = A dν dµ dµ הגדרה: יהי X מ"מ בעל התפלגות µ. X תהי m מידת לבג על.R,B) נאמר כי X מ"מ רציף אם µ. X m B, B המקיימת לכל X, נגזרת רדון ניקודים המתאימה היא הצפיפות של f X =: dm dµ X במקרה זה נאמר כי ˆ µ X B) := f X dm B הערה: אם ההתפלגות המצטברת F X גזירה בכל,R אז.F X = f X הגדרה: יהי X : Ω R משתנה מקרי.נגדיר את התוחלת של X להיות ˆ E[X] := XdP Ω אזי הערה: התוחלת תלויה רק בהתפלגות. כלומר, אם X,Y שווי התפלגות אפילו אם הם לא מוגדרים על אותו מרחב הסתברות), אז.E[X] = E[Y] ניתן להראות זאת עבור פונקציות מציינות, להסיק מלינאריות עבור פונקציות פשוטות, ועל ידי משפט ההתכנסות המונוטונית שנצטט מיד נוכל להסיק זאת לכל פונקציה מדידה, שכן כל פונקציה מדידה ניתנת לקירוב מונוטוני על ידי פונקציות פשוטות). טענה: אם X n X כ"ת, וגם מתקיים לפחות אחד מהדברים הבאים:. קיים חסם M R שעבורו X n M לכל n N משפט ההתכנסות החסומה). 2. n X סדרה מונוטונית עולה משפט ההתכנסות המונוטונית)..3 קיים מ"מ Y עם <,E[Y] כך שמתקיים X n Y לכל n N משפט ההתכנסות הנשלטת). E[X n ] E[X] דוגמה: אנטי דוגמה) נגדיר [n/ X n = n,0] סדרה זו מקיימת 0 n X כ"ת, אבל היא לא חסומה, לא מונוטונית ולא נשלטת..E[X n ] = נשים לב כי [0]E = 0 טענה: התכנסות כ"ת אינה התכנסות טופולוגית. כלומר אין טופולוגיה שניתן להגדיר על מרחב המשתנים המקריים שההתכנסות בה היא התכנסות כ"ת. ½

16 a n אזיa נקודהכלשהיבמרחב. סדרהותהיa {a n } n= הוכחה: נשיםלבשבכלמרחבטופולוגימתקיימתהעובדההבאה: תהי { } } nk {a יש תת תת סדרה a nki המתכנסת.a nki a 9 נצביע i k= בטופולוגיה הנתונה, אם ורק אם לכל תת סדרה i= על סדרת מ"מ שאינה מתכנסת כ"ת, למרות שהיא מקיימת את התנאי הנ"ל. נתבונן במרחב [0,] = Ω עם σ אלגברת בורל ומידת לבג. נגדיר לכל n N משתנה מקרי X n t) = {m2 k t m+)2 k } עבור ייצוג n = m+2 k עבור k.m = 0,,...,2 X n k עבור אינסוף אינדקסים k=,{n k } ולכן X n לא מתקיים כי לכל תת קבוצה [0,],A יש t A שעבורה = t) מתכנסת כ"ת לאפס. קיימת לה תת תת סדרה המתכנסת כ"ת לאפס. X}, nk } =k מאידך, ניתן להראות כי בהינתן תת סדרה n= {X n } סדרת מ"מ. אם X n X בהסתברות, אז יש תת סדרה X nk המתכנסת כ"ת. טענה: תהי P X C) E[X] C 9 תוצאות יסודיות 9. אי שוויונים מרקוב, צ'בישב) משפט: אי שוויון מרקוב) יהי X מ"מ אי שלילי, לכל > 0 C, E[X] E[C X C ] = C E[ X C ] = C P X C) הוכחה: נתבונן באינדיקטור. X C מתקיים,C X C X ולכן נחלק ב C ונקבל את הנדרש. משפט: אי שוויון צ'בישב) יהי X מ"מ בעל תוחלת ושונות, אזי לכל > 0 C, P X E[X] C) VarX) C 2 הוכחה: נפעיל את אי שוויון מרקוב על המשתנה המקרי E[X]) 2 X) והקבוע C, 2 ונקבל P X E[X] C) = P X E[X]) 2 C 2) E [X E[X]) 2] C 2 = VarX) C 2 כנדרש. 9 הכיוון = מובן מאליו. בכיוון השני, אם an לא מתכנסת ל a, אז יש סביבה U של a ויש תת סדרה = k= U a}, nk } שעבורה ברור שלכל תת תת סדרה { } מתקיים = U, a nki כלומר כל תת תת סדרה לא מתכנסת ל a. i= ½

17 9.2 חוק המספרים הגדולים 9.2. מבוא משפט: הלמה השנייה של בורל קנטלי) יהיו,... 2 E,E ב"ת בזוגות. אם = i) i P E, אז ) P lim supe i = P E i = i n i n למה: בתנאים הנ"ל מתקיים ) P E i = i הוכחת הלמה: יהי χ i האינדיקטור של.E i נסמן ) i.p i := E[χ i ] = P E אינדיקטורים מפולגים ברנולי, אז מתקיים Varχ i ) = p i p i ) p i P VarY n ) = n i= E c i ) E[Y n ] = n E[χ i ] = i= n Varχ i ) = i= n i=.y n := n אזי מהנחת אי התלות: נגדיר i= χ i p i n p i p i ) i= n i= = P Y n = 0) = P Y n E[Y n ] E[Y n ]) VarY n) E[Y n ] 2 n i= p i p i כעת נקבל מאי שוויון צ'בישב: P i= E c i ) = lim n P n i= E c i ) lim n n i= p = 0 i ולכן לכן נובע ) P E i = i= כנדרש. ½

18 P n ) P E i = i=n ) n n ) E i = limp E i = lim = n n i= i= הוכחה: מהלמה נובע שלכל n, ולכן כנדרש.,ǫ אם לכל > 0,X n P n X ונסמן מתכנסת בהסתברות ל X, X n מ"מ. נאמר כי X סדרת מ"מ ויהי X} n } n הגדרה: תהי lim P X n X > ǫ) = 0,n > N כך שלכל,N קיים ǫ אם ורק אם לכל > 0 X n P טענה: X P ω Ω X n ω) Xω) > ǫ) < ǫ הערה: נשאיר את ההוכחה כתרגיל. נשים לב שבהגדרה הראשונה יש שני אפסילונים שמשחקים תפקיד השני הוא זה שמופיע בהיחבא בגבול). הטענה מצביעה על כך שזה יכול להיות אותו אפסילון החוק החלש של המספרים הגדולים משפט: החוק החלש של המספרים הגדולים) יהיו..., 2 X X, מ"מ ב"ת בזוגות ושווי התפלגות עם תוחלת < µ. אז n n i= X i P µ נדון תחילה כאשר קיים חסם,M עבורו X i M לכל.i במקרה זה קיימת שונות < ) i.σ := VarX,S n := n ואז מהנחת אי התלות נסמן n i= X i [ ] E n S n = n E[X i ] = n n nµ = µ ) Var n S n ) P n S n µ > ǫ i= = n n 2 VarX i ) = n n 2σ = σ n i= הוכחה: מכאן נובע על ידי אי שוויון צ'בישב, שלכל > 0 ǫ, VarS n) ǫ 2 = σ /n ǫ 2 0 ½

19 נדון כעת במקרה בו 0 i X לכל i. לשם כך נוכיח את הלמה הבאה. למה: אם X מ"מ אי שלילי עם תוחלת <.µ אז לכל > 0 ǫ קיים K כך שמתקיים.E[X X K ] < ǫ הוכחה: נסמן Y K := X X K מתקיים 0 K Y כ"ת כאשר K כי כמעט לכל,ω Ω עבור Xω) K 0 מספיק גדול מתקיים = 0 ω).y K0 אבל גם Y K X לכל,K ולכן ממשפט ההתכנסות הנשלטת ) P n S n µ > ǫ E[Y K ] 0 כנדרש. ) P עבור כל n גדול מספיק. אם כך יהי > 0,ǫ ונרצה להראות כי n S n µ ) > ǫ < ǫ מהלמה נבחר K שעבורו.E[X X K ] < ǫ 2 נסמן.X i := X i Xi K,X i := X i Xi<K ואז.X i = X i +X i.s n = S n +S n ואז.S n = n i= X i,s n = n i= X i,s n = n נסמן בהתאם i= X i נסמן עוד n].µ := E[X n],µ := E[X ואז +µ.µ = µ נחשב: = P S n µn ǫn) = P S n µ n)+s n µ n) ǫn) P S n µ n ǫn)+p S n µ n ǫn) המחובר הראשון מקיים P S n µ n ǫn) ǫ 2 n 2VarS n) = ǫ 2 n 2nVarX i ) K2 ǫ 2 n המחובר השני מקיים n 0 P S n µ n ǫn) P S n µ ǫn) ǫn 0 כאשר אי השוויון השני הוא אי שוויון מרקוב). כעת נראה את המקרה הכללי. נכתוב Xi 0.X i := X i Xi<0,X + i = X i באופן דומה נגדיר את,S n,s+ n ואז.S n = S n + S n כן נגדיר את +,µ,µ ואז µ.µ = µ + לבסוף נקבל כי + µ n S+ n וגם µ, n S n ולכן. n S n µ + µ = µ החוק החזק של המספרים הגדולים º º } n X} סדרת מ"מ ויהי X מ"מ. נאמר כי X n מתכנסת כמעט בוודאות ל X, ונסמן X, n X אם n הגדרה: תהי ) P ω Ω lim X nω) = X ω) = משפט: החוק החזק של המספרים הגדולים) יהיו..., 2 X X, מ"מ ב"ת לאו דווקא בזוגות!) ושווי התפלגות עם תוחלת < µ. אזי n n i= X i º º µ ½

20 הוכחה: נדון תחילה כאשר קיים חסם,M עבורו X i M לכל.i במקרה זה קיימת שונות שונות < ) i.σ := VarX,S n := n ומאי שוויון צ'בישב נניח עוד בשלב זה כי X i ב"ת בזוגות. נסמן =i X i ) P n S n µ > ǫ Var S n ) n ǫ 2 = σ ǫ 2 n ) P n 2S n 2 µ > ǫ σ ǫ 2 n 2 נתבונן בתת הסדרה, n 2 S n 2 ונקבל כי,A n := { n ולכןטור ההסתברויותהמתאים מתכנס. אםכךמהלמההשנייהשלבורל קנטלי, אםנסמן S 2 n 2 µ } > ǫ ) P lim supa n = 0 S n 2 n 2 µ ǫ n 2S º º n 2 µ כלומר בהסתברות קיים N כך שלכל n, > N כלומר נרצה להראות כי התכנסות זו מתקיימת לכל הסדרה. נשים לב כי לכל +n) 2 n, 2 k < S n 2 2Mn S k S n 2 +2Mn n 2 k ) n 2S n 2 2M n k S n 2 2Mn k k S k ) n 2 k S n 2 +2Mn k n 2S n 2 +2M n k ולכן k S k n 2S n 2 µ,2 M n ולכן וגם 0 n2 k וכאשר,k,n אז נדון כעת במקרה בו 0 i X לכל i. לשם כך נוכיח את הלמה הבאה. למה: אם 0 i X לכל,i והתוחלת היא <,µ P limsup ) n S n 4µ = נשים לב שזה limsup של מספרים ולא של מאורעות). 20

21 ,X i := X i Xi>2 k,x i := X i Xi 2 k i,נגדיר =,...,2k מסוים,עבור. עבורk S הוכחה: נתבונןבתתהסדרה 2 k 2 k.s 2 k = S 2 +S k 2 ואז.X k i = X i +X i בהתאמה נגדיר P ) 2 ks 2 k > 2µ = P 2 ks 2 + ) k 2 ks 2 > 2µ k P S 2 k > 2µ2k) +P S 2 k > 0) נתבונן בחסם הבא: עבור המחובר השני מתקיים: P S 2 > 0) k 2k P X i > 0) = 2 k P X i > 2 k) עבור המחובר הראשון מתקיים: P S 2 > 2µ2k) = P S k 2 k µ2k > µ2 k) P S 2 µ2k > µ2 k ) k µ µ) P S 2 k µ 2 k > µ2 k ) Ý Ú) k= = µ 2 2 2kVarS 2 k) = µ 2 2 2k2k VarX i) = µ 2 2 kvarx i) ) µ 2 2 kvar X i Xi 2 k µ 2 2 ke[ Xi 2 ] Xi 2 k P S 2 > 0) 2 k P X k i > 2 k) = 2 k = 2 k= i= k= i= k= k= כעת נסמן i+).p i := P 2 i X i 2 עבור המחובר השני: i=k i i 2 k p i = p i 2 k = p i 2 i+ ) p i 2 i 2E[X i ] = 2µ < i= כאשר האי שוויון בשורה האחרונה הוא כי אם i 2i+ Y i := 2 i 2 i X אז Y i X i ולכן = i i= p i2.e[y i ] E[X i ] עבור המחובר הראשון: P S 2 > 2µ2k) k µ 2 2 k E [ Xi 2 ] Xi 2 k µ 2 k= k= i= k=i+ p i i= k= 2 2i+2 p i 2 k k i= = µ 2 2 2i+2 p i 2 k = µ 2 2 2i+2 2 i p i µ 24 2 i p i 4 µ 2E[X i] < i=.x i 2 i+) 2 כאשר אי השוויון האחרון בשורה הראשונה הוא כי i+,2 i X i 2 ולכן 2i+2 = 2 i= ¾½

22 , ולכן מהלמה הראשונה של בורל קנטלי, אם נסמן =: k A k= P S אם כך מצאנו כי < ) 2µ 2 k 2 k >, { 2 S k 2 k > 2µ } P ) lim inf A k = 0 k 2 ks 2 k 2µ כלומר בהסתברות קיים K, כך שלכל k, > K כעת עבור כל k+ 2 k n < 2 לאיזה,k > K מתקיים 2n S n 2 ks n לכן 2 ks 2 k 2µ P ) lim sup n S n 4µ = כנדרש בלמה. אם כך עבור המקרה 0 i,x נקבע > 0,ǫ ונבחר K כך שלכל,k > K E[X i Xi k] < ǫ,µ = µ + µ בהתאמה את התוחלות והממוצעים, ונקבל נסמן X נכתוב X i := X i Xi<k וכן i := X i Xi k limsup בהסתברות. לכן n S n 4µ 4ǫ, ומהלמה נובע כי n S n µ ǫ µ liminf lim sup n S n limsup n S n = µ +4ǫ µ+3ǫ n S n = µ = liminf n S n n S º º n µ.s n = S n +S n º º מהמקרה הראשון נובע כי µ n בהסתברות, אבל > 0 ǫ שרירותי, ולכן בהסתברות, כלומר בהסתברות, X, i ונקבל באותו אופן את = minx i,0),x + i := maxx i,0) כאשר,X i := X + i במקרה הכללי נכתוב + X i הנדרש. החוק החלש), n S n P µ היא התוחלת שלהם, אז µ < מ"מ ב"ת ושווי התפלגות. הראינו שאם X} {i i= תרגיל: יהיו n S º º החוק החזק). n 22 µ

23 מה אם יודעים כי מתקיימת התכנסות ממוצעת לערך כלשהו, בהסתברות או כ"ת, האם זה אומר כי הערך הנ"ל הוא התוחלת? במילים אחרות, האם זה אומר שקיימת תוחלת כי אם יש תוחלת כבר יודעים שההתכנסות היא אליה)? התשובה היא שאם מתקיימת התכנסות בהסתברות זה לא אומר שיש בהכרח תוחלת, ואם מתקיימת התכנסות כ"ת זה אכן אומר שיש בהכרח תוחלת. כלומר, יש דוגמה לסדרת מ"מ ב"ת וש"ה שהם חסרי תוחלת, ועדיין סדרת הממוצעים שלהם מתכנסת בהסתברות לאפס תרגיל). מנגד אין סדרת מ"מ כנ"ל כך שסדרת הממוצעים שלהם מתכנסת כ"ת תרגיל). דוגמה: פרדוקס שתי המעטפות) ניתן לבחור מעטפה אחת מבין שתיים שמכילות כסף. ידוע שאחת מהמעטפות מכילה פי 2 כסף מהשנייה. בוחרים מעטפה אחת וחושפים כמה כסף יש בה, וניתנת לנו ההזדמנות להחליף מעטפה. האם כדאי להחליף? נניח X 0 הוא מה שראינו. אז X הסכום במעטפה השנייה) מקיים E[X ] = 2 2 X X 0 = 5 4 X 0 > X 0 כלומר תמיד כדאי להחליף. מצד שני ברור שיש סימטריה בין שתי המעטפות, ולעובדה שפתחנו מעטפה אחת אין השפעה על סימטריה זו, ולכן ברור שאין כל הבדל בין שתי הבחירות. הבעיה עם פרדוקס זה היא שלא קיימת התפלגות אחידה על הטבעיים, ולכן ההסתברויות של הסכומים במעטפות אינן מוגדרות היטב. נראה גרסה משוכללת יותר של הפרדוקס המצייתת למודל הסתברותי תקף. נניח כי הערכים שנכניס למעטפות הן חזקות של 3. כלומר, נכניס את זוג הערכים 3,9) בהסתברות, 2/ את זוג הערכים 9,27) בהסתברות, /4 וכן הלאה. כלומר,.P 3 n,3 n+) = /2 n נניח כי פתחנו מעטפה אחת ומצאנו.3 k ייתכן אחד משני מקרים: k+) X 0,X ) = 3 k,3 בהסתברות, /2 k או = ) X 0,X. /2 בהסתברות k+ 3 k,3 k) נשים לב כי P X 0 = 3 k X = 3 k) = 2 k + ולכן נובע כי 2 k = 3 2 k p k := P 3 k,3 k+) Ï ÓÙÒ 3 k) = P 3 k,3 k+) = k /2 3/2 k 3/2 k = 3 p k := P 3 k,3 k) Ï ÓÙÒ 3 k) = P 3 k,3 k) = k /2 3/2 k 3/2 k = 2 3 כעת נקבל כי תוחלת הרווח במקרה של החלפה היא כלומר, תמיד כדאי להחליף. p k 3 k+ p k 3 k = 3 3k k = 3 k 2 3 k = 3 k > 0 הסיבה לפרדוקס זה היא שתוחלת הרווח עבור התפלגות זו היא אינסופית, לכן העובדה שמצאנו כי תוחלת הרווח מהחלפת המעטפה היא חיובית אינה מוגדרת היטב למעשה, שכן מדובר בהפרש של זוג ערכים אינסופיים. ¾

24 9.3 פונקציה יוצרת מומנטים, וחסמי הופדינג וצ'רנוף הגדרה: יהי X מ"מ כלשהו. נגדיר את הפונקציה יוצרת המומנטים שלו ψ X : R R להיות ψ X t) := E [ e tx] אם קיימת תוחלת זו. E [ [ ] e tx] t k X k t k = E = k! k! E[ X k] k=0 k=0 הערה: אם קיימת,E[X] =: µ אזי כאשר השוויון האמצעי מתקיים כאשר X חסום M X ), ועל ידי משפט ההתכנסות החסומה. הערה: אם X,Y ב"ת ובעלי פונקציות יוצרות מומנטים, על ידי משפט פוביני, ψ X+Y t) = ψ X t)ψ Y t).i לכל X i שווי התפלגות), ונניח לאו דווקא µ מ"מ ב"ת עם תוחלת = 0 {X i } i= משפט: הופדינג) יהיו,λ אזי לכל > 0,S n := n נסמן i= X i P S n λ) e λ2 2n ψ X t) e 2 t2 למה: אם X מ"מ בעל תוחלת = 0 µ ומקיים X, אזי הוכחה: הפונקציה יוצרת המומנטים היא קמורה כפונקציה של X. לכן בקטע [, ], הפונקציה נמצאת מתחת לישר שנמתח ) =.y כלומר X 2 e t + ) +X בין הערכים בקצוות, שנוסחתו 2 e t +X X e tx 2 ) e t + ψ X t) = E [ e tx] [ X E 2 = e t +e t 2 2 ) e t + ) e t + et e t E[X] = e t +e t 2 }{{} 2 =0 עבור X. לכן בתוחלת נקבל ] +X )e t 2 24

25 . e t +e t נשים לב כי 2 נותר אם כך להראות כי e 2 t2 e t +e t t k + t) k t 2l = = k! 2l)! e 2 t2 = k=0 k=0 ) t 2 k /2 k! = k=0 l=0 t 2k 2 k k! P S n λ) = P e tsn e tλ) Å Ö ÓÚ) ψ S n t) e tλ = e tλ Πψ X t) = e tλ e t2) n t 2 = e 2 n 2 tλ וקל לראות את החסם הנדרש. הוכחה: מהלמה נובע שלכל > 0 t,.t = λ n נקבל נחפש את ה t האידאלי שמקיים את אי השוויון. נגזור ונשווה לאפס את הביטוי מימין, וניתן למצוא את e λ2 2n 2n λ n λ = e λ2 2n כנדרש במשפט..i לכל X i שווי התפלגות), ונניח לאו דווקא µ מ"מ ב"ת עם תוחלת = 0 {X i } i= משפט: צ'רנוף. הכללה) יהיו,λ אזי לכל > 0.v n := n i= σ i וכן S n := n נניח כי ) i.σ i := VarX נסמן i= X i ) P S n λ) max e 4vn,e λ2 λ 2 e λ2 אינו חסם כללי. תרגיל: להראות כי 4vn למה: אם X מ"מ עם תוחלת = 0,µ וכן, X נסמן VarX),v := אזי לכל t,0 ψ X t) e vt2 ψ X t) = E [ e tx] = +tµ+ ) + k=2 k=2 t k k! E[ X 2] = +v t k k! E[ X k] = + k=2 +x e x ) = +v e t t ) e vet t) 0 t = 0 e t t t 2 ) e vt2 t k k! הוכחה: מחסימות X נוכל לכתוב t k k! E[ X k] k=2 )) נשים לב כי 2] E [ X k] E [ X לכל 2,k כי. X ¾

26 P S n λ) = P e tsn e tλ) Å Ö ÓÚ) e tλψ S n t) e tλ e vt 2 = e vt2 tλ הוכחה: באופן דומה להוכחת משפט הופדינג,.t אחרת ניקח את =.λ < 2v כל עוד אכן t = λ 2v נבחר t אידיאלי על ידי גזירה והשוואה לאפס, ונמצא את,e λ2 ובמקרה השני נקבל.e v λ e λ v כלומר במקרה הראשון נקבל 4v λ2 4v = e λ2 4v ) P S n λ) max e 4vn,e λ2 λ 2 כנדרש במשפט. הערה: נשים לב כי לא ניתן לשפר את e λ2 4v כי זו ההתנהגות בקירוב של מ"מ נורמליים). מנגד את החלק e λ 2 ניתן לשפר מעט על ידי e c λlog λ v לאיזה קבוע c. הוכחה: ראינו בלמה כי אם X מ"מ עם תוחלת = 0,µ וכן, X נסמן VarX),v := אזי לכל t,0 ψ X t) e vt2 אבל נשים לב כי למעשה קיבלנו את החסם t) ψ X t) e vet לכל t.0 :λ 2v נתבונן במקרה.t = λ 2v כעת, אם λ < 2v נשתמש במשפט הקודם ונקבל את החסם e λ2 4v על ידי בחירת ψ Sn t) = n ψ Xi t) i= n e t) σiet = e ve t t) i= P S n λ) = P e Sn e λ) ψ Sn t)e tλ e vet t) tλ v e t ) λ = 0 e vλ v + logλ v +)) λlog λ v +) = e λ v+λ)logλ v +).v = n לכן נקבל כי כאשר i= σ i נגזור את המעריך ונשווה לאפס:.t = log λ נציב בחסם ונקבל ונקבל כי + v e λ λlogλ v +) e c λlog λ v כאשר האי שוויון האחרון הוא כי λ. 2v הערה: לא ניתן לשפר יותר את החסם e. c λlog λ v.x n d X Poisson) אז,X n Bin n, n) טענה: אם ¾

27 P X n = k) ) Ber Y i ב"ת. לכן n עבור Xn = n הוכחה: נשים לב כי מהגדרת מ"מ בינומי, =i Y i n ) P X n = k) = P n k ) n i= Y i = k = ) k ) n k = n k! n k ) n ) k ) n k n n! n k)!n }{{ k n } ) n k } {{ } e מכאן נובע שלכל k קבוע, k! e Ber Y i ב"ת, ונגדיר.E[Y i ] = n ) Z i := Y i n אז Z i עונים על תנאי המשפט. מתקיים n) ניקח מ"מ n n S n = Z i = Y i ) n = Y i n i= i= i= ולכן Poisson) S. n מהמשפט נובע כי ) P S n λ) max e λ2 4v,e c λlog λ v v = n עבור ונשים לב כי =i σ i σ i = Var Y i ) = VarY i ) = n ) = n n n n = VarPoisson)) λ! 2π עבור > 0 λ קבוע מספיק גדול נקבל λ 2v ולכן החסם השני הוא המשמעותי, e. c λlog λ v P S n λ) = מצד שני נחשב הסתברות זו במפורש, כי יודעים Poisson) S: n k=λ+ e k! e λ+)! נניח λ מספר טבעי, ואם לא ניקח ערך תקרה). נרצה להשוות זאת לחסם מהמשפט: e λ+)! e c λlog λ v ) λ λ = logλ! log 2π λlog λ e e = log 2π λlogλ λ) מנוסחת סטירלינג, נוציא אקספוננט ונקבל את הנדרש. דוגמה מודל הצפרדעים): אם כן יהי G גרף קשיר ובעל דרגות סופיות. מתחילים עם צפרדעים ישנות בכל הקודקודים, ומעירים צפרדע אחת בקודקוד v. 0 צפרדע זו מתחילה הילוך מקרי פשוט על הגרף, ובכל מפגש עם צפרדע חדשה היא מעירה אותה, והצפרדע החדשה מתחילה גם היא הילוך מקרי פשוט על הגרף, וכן הלאה. 27

28 נשאל מהי ההסתברות שכל הצפרדעים יתעוררו. נשים לב כי אם ההילוך המקרי של הצפרדע v 0 הוא נשנה, אז היא לבד מעירה את כל הצפרדעים. ידוע כי על הגרף Z, d הילוך מקרי פשוט הוא נשנה עבור =,2 d, ואילו עבור 3 d הילוך מקרי פשוט הוא חולף. מתברר שגם עבור 3 d במודל הצפרדעים כולן מתעוררות. נדון כעת במקרה בו G הוא עץ רגולרי מדרגה d כלומר דרגות כל הקודקודים שוות ל d ). נחשוב על כך שאין לעץ זה שורש כלומר אפשר להמשיך "למעלה" בגרף). טענה: עבור d מספיק גדול, בהסתברות לא כל הצפרדעים יתעוררו. הוכחה: נשים לב כי בזמן t, יש לכל היותר 2 t צפרדעים ערות. יותר מכך: קבוצת הצפרדעים הערות נשלטת על ידי קבוצת הצפרדעים הערות במודל הבא: על אותו גרף G, מתחילים עם צפרדע יחידה על v, 0 שעושה הילוך מקרי פשוט. בכל צעד הצפרדע מתפצלת ל 2 שני שכפולים יכולים להיות באותו קודקוד). 0 המיקום של צפרדע במודל הזה בזמן t, הוא תוצאה של הילוך מקרי פשוט על G באורך t. d הגובה גדל ב, ובהסתברות המשלימה d נסתכל על הגובה של מיקום הצפרדע בעץבזמן t, שנסמנו H. t בהסתברות הוא קטן ב. אזי H t = t i= X i.p X i = ) = d,p X i = ) = d d כאשר X i הוא הצעד ה i של הצפרדע, עם ההתפלגות d 2.E[X i ] = החלוקה ב 2 היא כדי לקבל ש i.y אז d Y i = Xi+d 2 d נשים לב כי 2 נגדיר t t ) S t = Y i = X i t d 2 = H t t d 2 ) 2 d 2 d i= i= ) P S t λ) max e λ2 4v,e c λlog λ v ממשפט צ'רנוף, VarX i ) = ) d 2 2 d = ולכן,E[Xi ] = d 2 d,e [ Xi 2 v = te[y i ] = t ) d d ] λ = t 2 d לינארי ב t ). כמו כן נשים לב כי = d 2 נבחר d. 4 כלומר, ) d d, λ v ולכן נקבל את החסם עבור d גדול d e c λlog λ v e c λlogd e c t 2 logd P S t /2 ec d > ואז,logd > c 2 ונקבל את החסם לכן אם ניקח ) 2 d t d e t 2 0 באופן שקול, ניתן לתאר זאת כך שבכל קודקוד יש אינסוף צפרדעים ישנות, וכל צפרדע שמגיע לקודקוד מעירה צפרדע אחת. 28

29 לכן נקבל כי ההסתברות לצפרדע כלשהי בראשית בזמן t קטן מ 2. t e t לכן תוחלת מספר הצפרדעים שיבקרו בראשית היא סופית. נשים לב כי ההסתברות שצפרדע שמתחילה במרחק k מהראשית לבקר בראשית, היא לפחות. יש d k קודקודים d k במרחק k מהראשית, ולכן תוחלת מספר הצפרדעים שהתחילו במרחק k והגיעו לראשית היא לפחות. כעת, אם הייתה הסתברות חיובית שכל הצפרדעים יתעוררו, אז תוחלת מספר הצפרדעים המבקרות בראשית היה, בניגוד למה שראינו, ולכן בהכרח הסתברות זו היא אפס. 29

30 E[M n+ M 0 = m 0,...,M n = m n ] = m n חלק ÁÎ מרטינגלים 0 מרטינגל - הגדרה מצומצמת,n N היא מרטינגל, אם לכל {M n } n 0 הגדרה: סדרה של מ"מ E[X i ] אז = 0.P X i = ) = 2,P X i = ) מ"מ ב"ת עם התפלגות = 2 {X i} i N. הילוך מקרי פשוט על Z: יהיו לכל.i N,M n = n ונקבל כי n= {M n } מרטינגל, שכן נגדיר i= X i E[M n+ M 0 = m 0,...,M n = m n ] = E[M n +X n+ M 0 = m 0,...,M n = m n ] = E[M n M 0 = m 0,...,M n = m n ]+E[X n+ M 0 = m 0,...,M n = m n ] = m n +E[X n+ ] = m n דוגמאות: M n = n היא מרטינגל. i= X i אז,E[X i ] ב"ת ומקיימים = 0 {X i } i 0 באופן כללי, אם באופן כללי עוד יותר, התפלגות כל X i יכולה להיות תלויה בהיסטוריה, ובלבד שהתוחלת המותנית בהיסטוריה של X i היא אפס. 2. הילוך מקרי פשוט על Z: נניח כי Y n הוא הילוך מקרי פשוט על Z, כלומר Y n = n i= X i עבור = /2 ) = i.p X i = ) = P X אזי M n := Yn 2 n הוא מרטינגל, שכן E[M n+...] = E [ [ ] Yn+ 2 n+)...] = E Y n +X n+ ) 2 n+)... = E [ Yn 2 +2Y nx n+ +Xn+ 2 n )... ] = E[M n...]+2e[y n X n+...]+e [ X 2 n+] = m n כאשר = 0 ] n+ E[Y n X כי בהינתן M 0 = m 0,...,M n = m n נובע כי Y n נקבע ויוצא מהתוחלת נשים לב גם כי X i כולם ב"ת), וכן = ] n+.e [ X 2 n {M n } מרטינגל, שכן,M n = n ונקבל כי i= X i נגדיר.i N לכל E[X i ] מ"מ ב"ת, וכן = {X i } i 0 3. נניח E[M n+...] = E[M n X n+...] M n,x n+ Ö Ò Ô Ò ÒØ) = E[M n...] E[X n+...] = m n = m n 30

31 4. הכדשלפוליה: יש כד עם שני כדורים, שחור ולבן. בכל שלב שולפים כדור אקראי ומזהים את צבעו, ולאחר מכן מחזירים אותו לכד יחד עם עוד כדור אחד חדש בעל אותו צבע. תרגיל: התפלגות מספר הכדורים השחורים לבנים) בזמן N כלומר כאשר יש N כדורים בכד), היא אחידה על.,...,N טענה: יהי B N מספר הכדורים השחורים בזמן N כלומר כאשר יש N כדורים בכד). אזי N B N הוא מרטינגל. [ E.B N = N נחשב: הוכחה: נניח כי χ i האינדיקטור אם הוצאנו כדור שחור בזמן i, ואז =i χ i ] = N + E[B N +χ N+...] N + B N+ B = b,..., N B N = N b N = = N + b N + N + E[χ N+...] N + b N + b N N + N = N b N כאשר E[χ N+...] = bn N כי זו ההסתברות להוציא כדור שחור בשלב +.N הגדרה: יהי V,E) G = גרף בעל דרגות סופיות. פונקציה f : V R נקראת הרמונית, אם לכל v, V f v) = degv w,w,v) E f w) תרגיל: יהי V,E) G = גרף בעל דרגות סופיות, X n הילוך מקרי פשוט על G כלומר +n X הוא שכן של X n שנבחר מהתפלגות אחידה על שכני.X n אז לכל f : V R הרמונית, ) n M n := f X מרטינגל. משפט ליוביל: פונקציה הרמונית וחסומה על Z, 2 היא קבועה. תרגיל: למצוא גרף עם פונקציה הרמונית עליו שהיא חסומה, ולא קבועה. יש לשים לב שידוע כי משפט ליוביל נכון לכל Z. d תרגיל: בחפיסת קלפים בה 26 אדומים ו 26 שחורים, שולפים קלפים עד שאנחנו מורים לשולף לעצור. בשלב זה השולף מוציא קלף אחד, אם הוא שחור זכינו, ואם אדום הפסדנו. להראות כי שיעור הקלפים השחורים שנותרו בחפיסה הוא מרטינגל, ולכן לא משנה איזו אסטרטגיה נבחר - ההסתברות לזכות היא. /2 מבוא: תוחלת מותנית הגדרה: יהי Ω,F,P) מרחב הסתברות, G F תת σ אלגברה. יהי X : Ω R מ"מ בעל תוחלת. נאמר כי מ"מ Y : Ω R הוא התוחלת המותנית של X בהינתן G ונסמן [G Y, =: E[X אם מתקיימים הדברים הבאים: E[X ½ A ] = E[Y ½ A ]. Y הוא G מדיד..2 לכל,A G 3

32 דוגמה: אם {Ω, } G, = הפונקציות המדידות הן כל הקבועות. לכן אם X מ"מ, כלומר פונקציה קבועה, אז גם [G Y = E[X פונקציה קבועה, ומתקיים Y = E[Y] = E[Y ½ Ω ] = E[X ½ Ω ] = E[X] = X דוגמה: אם,Ω} G = {,A,A c לאיזו,A F אז G] Y = E[X קבועה על A וקבועה על.A c במקרה זה E[X G]ω) = { PA) E[X ½ A] ω A PA c ) E[½ Ac] ω Ac טענה: אם X : Ω R מ"מ בעל תוחלת, אז קיימת תוחלת מותנית של X ביחס לכל, G F והיא יחידה כ"ת. תזכורת: משפט רדון ניקודים) יהי Ω,F) מרחב מדיד, ויהיו עליו זוג מידות µ,ν המקיימות ν, µ אז יש µ) f L יחידה כ"ת, כך שלכל A, F ˆ νa) = fdµ A f, =: dν והיא נקראת נגזרת רדון ניקודים. dµ נהוג לסמן פונקציה זו הוכחה: נניח ללא הגבלת הכלליות 0 X אחרת נפרק לחלק חיובי ושלילי). נתבונן במידה µ = P ובמידה ν המוגדרת.A G לכל νa) := E[X ½ A ] dν מההנחה כי X בעל תוחלת נובע כי ν מידה סופית על.Ω,G) כמו כן ν. P לכן יש נגזרת רדון ניקודים P) dp L יחידה כ"ת, המקיימת ˆ [ ] dν dν E[X ½ A ] = νa) = dp dp = E dp ½ A A dν היא התוחלת המותנית המבוקשת. dp אז G] := E[X נשים לב כי היחידות כ"ת נובעת גם ישירות, כי אם Y Y, 2 זוג תוחלות מותנות, אז יש קבוצה מדידה {ǫ A = Y} 2 Y > עם > 0 A).P אבל A G כי G מדידות), Y,Y 2 ולכן ˆ Y 2 Y )dp = E[X ½ A ] E[X ½ A ] = 0 A ˆ A Y 2 Y )dp ǫp A) אבל Y 2 Y > ǫ על,A ולכן ולכן = 0 A).P כלומר ν רציפה בהחלט ביחס ל µ : לכל.νA) = 0 = µa) = 0,A F ¾

33 לכן הגדרה: אלטרנטיבית) יהי Ω,F) מרחב מדיד, ויהי X : Ω R מ"מ בעל שונות או באופן שקול, בעל מומנט שני). נגדיר [ f a) := E X a) 2] = E [ X 2] 2aE[X]+a 2 f a) = 2E[X]+2a ואם נשווה לאפס, נקבל את המינימום עבור E[X] a. = [ באופן דומה נתבונן בפונקציה 2] Y),f Y) := E X עבור Y פונקציה G מדידה. ניתן להראות כי G] Y = E[X ממזער את Y) f. הגדרה: אלטרנטיבית) מרחב המ"מ שהם בעלי מומנט שני, הוא מרחב הילברט ביחס למכפלה הפנימית [Y.E[X אוסף המ"מ ה G מדידים הוא תת מרחב סגור שלו. אזי התוחלת המותנית [G E[X היא ההטלה של X לתת מרחב הפונקציות ה G מדידות. תכונות: יהי Ω,F) מרחב מדיד, יהיו X,Y : Ω R מ"מ בעלי תוחלת, ותהי G F תת σ אלגברה. E[E[X G]] = E[X]..2 אם X היא G מדידה, אז.E[X G] = X E[aX +by G] = ae[x G]+bE[Y G].3.4 אם 0 X אז 0 G].E[X.5 וריאציה של אי שוויון ינסן: אם ϕ : R R קמורה, G].ϕE[X G]) E[ϕX).6 אם H G F תתי σ אלגבראות, H].E[E[X G] H] = E[X.E[ZX G] = ZE[X G] מ"מ G מדיד, Z אם :ÌÇÏÁÃ Ì Ò ÓÙØ Û Ø ÒÓÛÒ.7.8 אם X ב"ת ב G, אז E[X].E[X G] = X} n } n N סדרת מ"מ עם תוחלת, 9. אם א) התכנסות מונוטונית: אם 0 n X לכל,n N אם,X n X אז G].E[X n G] E[X º º.E[X n G] E[X G] אז,n N לכל X º º ב) התכנסות נשלטת: אם X n X וקיים מ"מ Z עם n Z.0 וריאציה של הלמה של פאטו: אם 0 n X לכל.E[liminfX n G] liminfe[x n G],n N 2 מרטינגל - הגדרה כללית,{F n } n N עולה ביחס להכלה. הגדרה: פילטרציה היא סדרה של σ אלגבראות.n N לכל F מדיד n X n כאשר {X n } n 0 0 n F}, n } היא סדרה של מ"מ הגדרה: תהליך ביחס לפילטרציה n 0 {F n } ייקרא מרטינגל, אם n 0 {X n } ביחס לפילטרציה כלשהי הגדרה: תהליך E[X n+ F n ] = X n.f n := σx 0,...,X n ) תהליך כלשהו, אז הפילטרציה הטבעית שלו, היא {X n } n 0 הגדרה: אם

34 ,{F n } n 0 n 0 {X n } מרטינגל ביחס ל n 0 {F n } פילטרציה כלשהי, נגדיר ] n.x n := E[X F אזי הערה: אם X מ"מ עם תוחלת, שכן E[X n+ F n ] = E[E[X F n+ ] F n ] = E[X F n ] = X n.e[x m F n ] = E[X n ],m > n מרטינגל, אז לכל {X n } n N טענה: אם X n = E[X n+ F n ] = E[E[X n+2 F n+ ] F n ] = E[X n+2 F n ] הוכחה: נחשב, וניתן להמשיך באינדוקציה.. n N לכל F מדיד ייקרא צפוי, אם הוא n {C n } n n 0,{F n } תהליך הגדרה: בהינתן פילטרציה n 0,{C n } נגדיר טרנספורם מרטינגל 0 n F}, n } יחד עם תהליך צפוי מתאים n 0 {X n } עם פילטרציה הגדרה: בהינתן מרטינגל שלהם על ידי C X) n := n C k X k X k ) k= {C X) n מרטינגל. } n 0 0 n C} n } תהליך צפוי וחסום, אז n 0 {X n } מרטינגל וכן n 0,{F n } אם טענה: ביחס לפילטרציה E [ C X) n+ F n ] = E[C X) n +C n+ X n+ X n ) F n ] = E[C X) n F n ]+E[C n+ X n+ X n ) F n ] הוכחה: נחשב, C X) n הוא F מדיד, n ולכן נשים לב כי E[C X) n F n ] = C X) n כמו כן +n C הוא F מדיד, n ולכן E[C n+ X n+ X n ) F n ] = C n+ E[X n+ X n F n ] אבל נשים לב כי E[X n+ X n F n ] = E[X n+ F n ]+E[X n F n ] = X n X n = 0 ולכן בסך הכל E[C X) n ] = C X) n +0 = C X) n כנדרש. 34

35 3 זמן עצירה,n N { } נקראת זמן עצירה, אם לכל τ : Ω N { } פונקציה מדידה,{F n } n N הגדרה: בהינתן פילטרציה {ω Ω τ ω) = n} F n מוטיבציה: באופן אינטואיטיבי, τ היא זמן עצירה אם המאורע {n τ} = נקבע בשלב שלא יאוחר מ F. n למשל, אם אנחנו בסדרת הימורים שעבורה X n הוא הרווח הכולל לאחר ההימור ה n, זמן עצירה τ הוא כלל עצירה הקובע האם להפסיק להמר בשלב ה n, על בסיס המידע של מה התרחש בשלב n, ולא יאוחר מכך. המוטיבציה לכך ברורה: אנחנו רוצים לקבוע האם להפסיק להמר בשלב ה n על בסיס המידע שיש בידינו, ולא על בסיס מידע שנקבע רק מאוחר יותר. הערה: באופן שקול ניתן להתבונן בסדרת זמני עצירה {0,} Ω τ n : שקובעת בכל שלב האם לעצור או לא), ולהגדיר τ ω) := min{n τ n ω) = } כך שמתקיים.{ω Ω τ n ω) = n} F n הערה: נשים לב כי אם τ,τ 2 זמני עצירה, אז } 2 max{τ,τ 2 },min{τ,τ הם זמני עצירה. כמו כן + τ זמן עצירה, אך τ אינו בהכרח זמן עצירה. τ : Ω וזמן עצירה {X n } n N {F n } n N עם מרטינגל משפט: OST) ÓÓ ³ ÇÔØ ÓÒ Ð ËØÓÔÔ Ò Ì Ñ תהי פילטרציה.N { } אם מתקיים אחד מהתנאים הבאים:. K τ כ"ת לאיזה K R קבוע..2 < τ כ"ת, וכן X n K לכל n N לאיזה K R קבוע..3 <,E[τ] וכן X n+ X n K כ"ת לכל n N לאיזה K R קבוע. E[X τ ] = E[X 0 ] אזי הערה: נשים לב כי X τ אכן מ"מ, כי { ω Ω Xτω) ω) s } = {ω Ω τ ω) = n Ò X n ω) s} n N והקבוצות באיחוד הן חיתוך של זוג קבוצות מדידות. {Y n } n N הוא מרטינגל. למה: נסמן min{n,τ}.y n := X אזי הוכחה: נגדיר C n := ½ {τ n} = ½ {τ<n} = ½ {τ n }

36 C X) n הוא C} n } n N תהליך צפוי וחסום. אם כך כפי שהראינו לעיל נשים לב כי n,{τ n } F ולכן מרטינגל. אבל נשים לב כי n n C X) n = C k X k X k ) = ½ {k τ} X k X k ) = k= min{n,τ} k= k= X k X k ) = X min{n,τ} X 0 = Y n X 0 Y n = X 0 +C X) n ולכן Y} n } n N הוא מרטינגל ועוד קבוע, ולכן הוא מרטינגל. כלומר הוכחה:. נניח שמתקיים תנאי : אזי min{k,τ} X τ = X כ"ת, ולכן ממרטינגליות, לכל,n N E [ X min{n,τ} ] = E [ Xmin{0,τ} ] = E[X0 ] min{n,τ} X. ממשפט ההתכנסות החסומה, º º 2. נניח שמתקיים 2: נשים לב כי אם < τ כ"ת אז n X τ E[X 0 ] = E [ X min{n,τ} ] º º E[X τ] X n = X 0 + X 0 + n X k X k ) k= n X k X k X 0 +nk k= X min{n,τ} X 0 +min{n,τ} K X 0 +τk 3. נניח שמתקיים 3: נשים לב כי לכן נובע אבל צד ימין הוא מ"מ בעל תוחלת, ולכן ממשפט ההתכנסות הנשלטת E[X 0 ] = E [ X min{n,τ} ] º º E[X τ] הערה: את תנאים 2,3 ניתן להחליש, ולדרוש אותם רק עבור כל n. τ דוגמה: נתבונן בהילוך מקרי פשוט על Z. מתקיים תנאי 3 עבור = K), ולכן אם יש לנו זמן עצירה נתון כלשהו, אז התוחלת היא X 0 נקודת ההתחלה).

37 דוגמה: נתבונן בהילוך מקרי פשוט על Z, המתחיל בנקודה < a < b a, Z 0 לאיזה b. Z נשאל מה ההסתברות כי ההילוך יפגע ב b לפני שיפגע ב 0. כלומר, נגדיר שני זמני עצירה b},τ 0 := min{t X t = 0},τ b := min{t X t = ונרצה לחשב את.P τ b < τ 0 ) נתבונן בזמן העצירה } b.τ := min{τ 0,τ מתקיימים תנאים 2,3 במשפט עבור,τ ולכן E[X τ ] = E[X 0 ] = a E[X τ ] = 0 P τ 0 < τ b )+b P τ b < τ 0 ) = b P τ b < τ 0 ) אבל נובע מכך כי P τ 0 < τ b ) = a b מסקנה: הילוךמקריפשוטעלZ נשנה. נגדיר{ τ,ונקבל := min{τ 0,τ b.p τ 0 < ) P τ < ) P τ b < τ 0 ) = a b.p τ 0 < ) ולכן =,b לכל P τ 0 < ) b ניקח =,a ונקבל דוגמה: המשך) מהי?E[τ],P τ b < τ 0 ) a b כך שנקבל כי P τ b < τ 0 ) לתת חסם על,X n = a+ n תרגיל: אם m,m) Y k U וכן k= Y k a b מתכנס. כאשר a,b וכן.X n = a+ n נגדיר,Z n := Xn 2 n ונשים לב כי כעת נגדיר,) U Y k וכן k= Y k E [ Xn+ 2 n+) F ] ] n = E [X n +Y n+ ) 2 n F n = E [ Xn 2 +2X n Y n+ +Yn+ 2 ] n F n = Xn 2 n+2x n E[Y n+ F n ] +E [ Y 2 ] n+ F n = E [ X 2 ] n n F n }{{}}{{} =0 = {Z n } n N מרטינגל. כלומר.{Z n } n N עבור } b τ := min{τ 0,τ מתקיים תנאי 3 במשפט, ולכן כעת נתבונן בזמני העצירה τ 0 τ, b של המרטינגל E[Z τ ] = E[Z 0 ] = E [ X ] = a 2 E[Z τ ] = E [ X 2 τ τ] = E [ X 2 τ] E[τ] E [ X 2 τ] = 02 P τ 0 < τ b )+b 2 P τ b < τ 0 ) E[τ] = ab a 2 = ab a) אבל נשים לב כי ומתקיים כלומר 37

38 תרגיל: להראות כי X 3 n 3nX n הוא מרטינגל, ולחשב באמצעותו את ] 0.E[τ τ b < τ אף אחד מהתנאים,2,3 לא מתקיים כאן, אבל ניתן לעקוב אחר ההוכחה ולהיווכח שהמשפט עובד גם כאן). בעל דרגות סופיות V,E),G = פונקציה הרמונית f : V R מוגדרת כפונקציה שמקיימת = v) f הגדרה: לגרף קשיר u,v) E f u) X} n } n N הילוך מקרי פשוט על גרף קשיר בעל דרגות סופיות V,E) G. = תהי f. : V R אז f הרמונית אם ורק טענה: יהי.F n = σx,...,x n ) מרטינגל ביחס לפילטרציה {f X n )} n N אם. degv משפט ליוביל: לגרף קשיר בעל דרגות סופיות V,E) G, = אם הילוך מקרי פשוט עליו הוא נשנה, אז G הוא ליוביל. כלומר הפונקציות ההרמוניות החסומות על G הן רק הפונקציות הקבועות. {f X n )} n N הוא {X n } n N הילוך מקרי פשוט על G עם.X 0 := v 0 V אז מהנחת ההרמוניות של f נובע כי הוכחה: נניח מרטינגל. נגדיר v} τ v := min{t X t = לכל.v V מההנחה כי ההילוך נשנה נובע כי < v τ כ"ת עם הטופולוגיה הדיסקרטית על V). לכן מתקיים תנאי 2 במשפט,OST ולכן f v 0 ) = f X 0 ) = E[f X τv )] = f v) כלומר f קבועה. דוגמה: נראה דוגמה לגרף שאינו ליוביל. ניקח גרף עץ בינארי אינסופי עם שורש נקודת התחלה). ניתן להראות כי גרף זה הוא אכן חולף. נגדיר את f להיות 2/ על השורש, 3 4/ על הענף הימני, 4/ על השמאלי. אחרי זה 7 8/ מתחת לימני בשני הענפים, וכן 8/ מתחת לשמאלי בשני הענפים. אחרי זה 5 6/ בכל הצד הימני, וכן 6/ בכל הצד השמאלי. וכן הלאה, לפי הכלל שבשלב ה k, ניתן את הערכים. 2/ k פונקציה זו מקבלת ערכים רק בקטע [0,] ולכן חסומה, וניתן לבדוק שהיא הרמונית. פונקציה זו מתארת את הסיכוי של הילוך מקרי פשוט המתחיל בנקודה כלשהי, שההילוך כולו "ייבלע" בצד ימין. דוגמה: נסמן ) < v p := P τ + עבור v}.τ + v := min{t > 0 X t = נשים לב כי אם < p, אז התפלגות מספר החזרות ל v היא.Geo p) אם = p, אז בהסתברות חוזרים ל p אינסוף פעמים. = ] + v.e[τ לכן כדי להחליט האם = p, די לקבוע האם התוחלת אינסופית. p במקרה הראשון, בפרט נובע כי < כך, עבור הילוך מקרי פשוט על Z, E[# Ö ØÙÖÒ ] = n P X 2n = 0) = 2n /e) 2n n n /e) n ) 2 n= ) 2n 2 2n n 2π2n 2πn 2 2n = n πn = כמו כן, עבור הילוך מקרי פשוט על Z, 2 אם X n Y, n הם זוג הילוכים מקריים פשוטים ב"ת על Z, אז P X 2n = 0 Y 2n = 0) πn 38

39 . n πn ולכן שוב = כעת נוכל להסתכל על הגרף של Z 2 עם ההילוך X n Y+ n שזה למעשה הילוך על האלכסונים של Z, 2 אבל הסטה של Z 2 ב 45 מעלות נשארת Z), 2 ולקבל כי זהו הילוך נשנה. טענה: עבור 3 d, Z d הוא גרף חולף. הוכחה: מספיק להראות כי < E[#Ö ØÙÖÒ ] כלומר תוחלת מספר החזרות לראשית). ) d אם הצירים היו בלתי תלויים, היינו מקבלים כי P, Ö ØÙ Ò Ø Ø Ñ 2n πn ולכן סכום האפשרויות לחזור לראשית מתכנס עבור 3 d. אבל הצירים תלויים. במקום זאת נתבונן במספר הצעדים שהתבצעו בכל אחד מהצירים. נקבל כי בשלב n, =: k+l+m n, כאשר k,l,m מספרי הצעדים בצירים x,y,z בהתאמה. נתבונן בהחלטה לאן ללכת בשני שלבים. תחילה להחליט באיזה ציר ללכת, ולאחר מכן האם ללכת + או. אם אחד מ k,l,m אי זוגי אין אפשרות להיות בראשית. בהינתן k,l,m זוגיים, ההסתברות להיות בחזרה בראשית בזמן n) n := k +l+m זוגי) הוא אסימפטוטית, סכום ההסתברות שחזרנו בשלושת הצירים יחד). πk πl πm 6),i = k,l,m,p i < n קטנה ממשפט הופדינג עבור המ"מ k,l,m כל אחד מהם הוא סכום של אינדיקטורים ±), נקבל כי אקספוננציאלית. כלומר, ההסתברות להיות בראשית בזמן n, חסומה על ידי ) 3 π n +3 P 6 i < n ) 6 נסתכל על המאורע של לחזור לראשית כך ששלושתם גדולים מ 6 / n לעומת המשלים, כלומר שאחד מהם קטן מ 6 / ). n והסכום של טור זה מתכנס.