סיכומי שעורים בהסתברות (1), שנת 2008 מרצה: רז קופרמן סיכם: שיר פלד ותודה ל: דינה זיל על האירוח באתר הערת המקליד: אפשר וכדאי להשתמש בסיכומים אלו בצמוד

תמליל

1 סיכומי שעורים בהסתברות (), שנת 28 מרצה: רז קופרמן סיכם: שיר פלד ותודה ל: דינה זיל על האירוח באתר הערת המקליד: אפשר וכדאי להשתמש בסיכומים אלו בצמוד לרשימות שרז עצמו מפרסם, בהן הטעויות פחותות והסדר רב יותר. היתרון העיקרי של הסיכומים המצורפים כאן הוא שהם בעברית ושלעיתים רז הוסיף הסברים והבהרות בעל פה שאינם רשומים בגוף הרשימות שלו.

2 בהטלת קוביה הוגנת, מה הסיכוי לקבל 4? מה המשמעות של הטענה הזו? מרחב הסתברות מאחורי כל בעיה הסתברותית עומד ניסוי (ואפילו תאורטי), והבעיה היא הנסיון למדל את הניסוי. כשאנחנו אומרים ניסוי הכוונה לאוסף כל התוצאות האפשריות, מכאן ש ניסוי=קבוצה, כאשר לקבוצה זו נקרא מרחב המדגם Space).(Sample. בד"כ נסמן את מרחב המדגם ב דוגמאות: H}, T }. הטלת מטבע פעם אחת מרחב המדגם הוא עץ ופלי Tails=) :(Heads or (כלומר אוסף הסדרות באורך 3 של עץ ופלי) } 3 T, H} 2. הטלה חוזרת של מטבע 3 פעמים, מרחב המדגם יהיה: 3. הטלה של שתי קוביות שונות (=חשוב מי היא מי, נניח אחת כחולה ואחת אדומה), כאן מרחב המדגם יהיה זוגות סדורים של מספרים מ עד 6, כלומר {6, 2...,}=. 4 הטלת שתי קוביות זהות כל תוצאה שמופיעה פעמיים בסעיף הקודם אפשר למחוק אחת מההישנויות, הדאבלים j 6} ={i, j: i ישארו, כלומר : =R 5. משך חייו של אדם (בשנים), עקרונית יכול להיות ניתן לטעון שאפשר לקטום את מרחב המדגם במקום מסויים כי אדם לא יכול לחיות שנה או משהו בסגנון. אם לא סומכים על היורה. R 2 6. יורים חץ למטרה בצורת עיגול יחידה, מרחב המדגם יכול להיות עיגול היחידה או אפשר לסמן: ={r,, r, 2} ={ x, y: x 2 y 2 } 7. הטלת מטבע אינסוף פעמים: } T, ={H. 8 מטילים מטבע אם יוצא ראש ניגשים למבחן בהסתברות ועוברים/נכשלים, יוצא זנב הולכים לישון ומודדים ={H } {Fail, Pass} {T } {R + } את זמן השינה בשעות. (תיאור תנועת חלקיק במרחב כפונקציה של הזמן) =C ],, R 3 9. תנועת בראון: הטלנו קוביה ונרצה לשאול מה ההסתברות שתוצאת ההטלה היא זוגית. כלומר תת קבוצה של מרחב המדגם. אך התוצאה "זוגית" לא נמצאת בקבוצה, כלומר היא תוצאה אפשרית אך אינה באוסף התוצאות שהגדרנו. אז אולי קצת רימינו בהגדרה כי הסתפקנו באוסף התוצאות שהן "אטומיות" או משהו בסגנון הזה. יש לנו עניין בתתי קבוצות של מרחב המדגם, שכן בגינן על פי רוב תעלה השאלה מה הסיכוי שיצא... משהו? מאורע (evet) = תת קבוצה של מרחב המדגם מספר תת הקבוצות 2 הבעיה יש מצבים שבהם לא ניתן לבנות מרחב מדגם עבור כל המצבים האפשריים, קורה בקבוצות שאינן בנות מנייה. לא ניתן לקחת את כל תת הקבוצות של הקטע [,]. A B= A c B c c P קבוצת המאורעות צריכה לקיים: תנאים ש A A c. ולכן.2 A, B A B.3, הוכחה: A B מסקנות: אם 3 אז גם אז איחוד כל הקבוצות הוא גם תת קבוצה של קבוצת המאורעות (קל מאד באינדוקציה) A,..., A אם לאוסף התנאים שהגדרנו קוראים אלגברה של תת-קבוצות, ולכן היא בדיוק זה. היינו רוצים ש תהיה סגורה גם תחת מספר בן מניה של פעולות (ולא רק סופי שכפי שראינו נובע מהאלגברה) ואז נוכל לקרוא לה " - אלגברה של תת קבוצות.

3 הערות:. הערה טאוטולוגית לחלוטין: ניתן לרשום A} A={:: 2. קיומם של יחידונים (sigletoes) והיותם שונים מאיברים בודדים. 3. הסיגמה-אלגברה הקטנה ביותר שאפשר לבנות היא {, }.4 לכל A אפשר לבנות סיגמה-אלגברה,}, A, A c { 5. לכל אוסף B P אפשר להשלים אותו לסיגמה-אלגברה קטנה ביותר המכילה את B. באופן עקרוני לוקחים את כל הסיגמה-אלגבראות המכילות את B וחותכים אותן, מכאן מגיעים למינימליות. קיום נובע מכך ש B מוכלת בקבוצה שהיא סיגמה-אלגברה. 6. תנועת בראון חד-ממדית, דהיינו פונקציה רציפה על + R, כל אחת היא מאורע. נראה איך בונים סיגמה אלגברה. נסתכל על כל הפונקציות שבזמן x=5 5 קיבלו ערכים בין ל 3. מרחב מדיד Space, Measurable A סדרה אינסופית של מאורעות, A 2,... נסתכל באיחוד האינסופי שלהן נקבל קבוצה שמכילה את כל האיברים שקיימים בלפחות אחת מהקבוצות. החיתוך האינסופי מכילה רק את האיברים שקיימים בכולן. = לכל קיים k = k = Ak =lim sup A כך ש A k, כל ה המופיעות אינסוף פעמים : : A k = קיים כך שלכל k מתקיים = Ak =lim if A k = במילים אחרות limsup הוא קבוצת האיברים הקיימים ב A k כמעט תמיד. באופן שכיח ו limif קבוצת האיברים הקיימים ב A k lim A k הרצאה 6..8 lim if A k אז נאמר ש אם ה =lim sup A k דוגמא: =N ואז =P N עוד דוגמא: קיים. (כלומר הסיגמה אלגברה היא קבוצת החזקה) A k = { {2, N}k eve {2, N}k odd lim sup A = lim if A = A k ={k, k, k 2,...} A k ={} lim A A 2 הגדרה: סדרה של מאורעות תקרא עולה אם... A A 2 והיא תקרא יורדת אם... lim A k = k = a טענה: אם A k סדרה עולה של מאורעות אז הגבול קיים, והוא הוכחה נחשב את הגבול התחתון והעליון ונראה שהם שווים. עבור סדרה עולה האיחוד מהמקום ה A k הוא בעצם האיחוד מ, זה נובע מתכונת העליה. k= lim sup A אם כעת נחתוך מ עד אינסוף, משום כך, נקבל שוב את אותה קבוצה: A k = k= חיתוך על כל הקבוצות החל מהמקום ה k יתן את הקבוצה ה A k (זה נובע מעליית הסדרה) ולכן: lim if A = A =

4 (אדיטיביות בת מניה) P = הגדרה: יהא מרחב מדיד, הסתברות או (מידת הסתברות = measure (probability היא פונקציה ממשית P מעל המאורעות P : R המקיימת:.לכל A מתקיים A P P =.2 A = P A 3. אם A סדרה של מאורעות זרים אז = לשלשה,,P קוראים מרחב הסתברות טענה:. P = P A k סדרה סופית של מאורעות זרים אז A k k= = P A k k= הוכחה =... P = P P k =2 2. אם דוגמאות. הטלת מטבע ={H,T } ={,,{H },{T }} P {H }=P {T }= 2 כל בחירה של P ו Q שסכומם אחד היא לגיטימית, למשל האיברים ב f ולוודא שלכל זוג מאורעות זרים הסתברות האיחוד שווה לסכום הטלת קוביה ={,2,3,4,5,6} =P עקרונית היינו צריכים לרשום את ההסתברויות. אבל אולי לא צריך לעבוד כל כך קשה. היא איחוד של יחידונים וזה קובע את ההסתברות שלה באופן יחיד, לכן לכל איחוד של קבוצות P {i}= 6 וכאן כל תת קבוצה של ניתן לעשות רדוקציה לסדרת איחודים של יחידונים ומכאן לקבוע את ההסתברות שלו באופן יחיד וכן הלאה. הערה: את זה לא ניתן לעשות כאשר אומגה אינה קבוצה בת מניה, כיוון שלא ניתן להסתמך על האקסיומה כדי לאחד את כל היחידונים. מרחב הסתברות אז:, P, טענה: יהא. P A C = P A מתקיים A לכל.2 P A P B אז A B אם P = הוכחה:.נסתמך על ולהעביר אגפים

5 2. נזכיר B=A B A וזה נובע מיד טענה: יהא, f, P מרחב הסתברות אז: לכל A, B f מתקיים P A B=P AP B P A B הוכחה (נציג הכל כאיחוד זר): A B=A B B A A B A= A B A B B=B A A B P A B=P A B P B A P A B P A=P A BP A B P B=P B AP A B הרצאה. הערה: כשאנחנו מוכיחים תכונה של מרחב ההסתברות זו תכונה של המבנה שנובעת מההגדרה האקסיומטית שלו, היא לא קשורה לשום מודל מתמטי מסויים, לא ידוע מה הניסוי, אין קוביות ומטבעות ולא מוציאים שום כדורים מתוך כובעים. טענה: המשך משיעור קודם, יהיו A, B C, f אז P A B C =P AP B PC P A B P B C P C AP A B C הוכחה: P A B C =P A BP C P A B C = P AP B P A BP A C B C = P AP B P A B P A C P B C P A B C משפט (עיקרון ההכלה וההדחה) A ובאופן כללי אם יש מאורעות, A..., P Ai i = = P A i P A i A j P A i A j A k... P Ai i= i= i j i jk מרחב הסתברות בן מניה הקבוצה היא בת מניה נבחר f P= (קבוצת החזקה, בפרט היחידונים מאורעות) מכיוון שאומגה בת מניה נוכל לסמן {...,,2}= P {a i נגדיר }= p i A= {a i } נטען שזה מגדיר בצורה יחידה את מרחב ההסתברות, כי ניתן לכתוב כל מאורע כאיחוד זר בן מניה a i A ומתכונת פונקציית ההסתברות P A= p i a A זה בוודאות מתכנס כי סכימה על כל ה iים תיתן לפי הגדרת פונקציית ההסתברות. מקרה פרטי מרחב הסתברות סופי, ולכל היחידונים אותה הסתברות. ההנחות שלנו על שוויון ההסתברות הן לא פועל יוצא של התכונות המתמטיות אלא הנחות כלפי המציאות (לפי זה ההסתברות לזכות בלוטו היא חצי או שזוכים או שלא זוכים...) בפרט בת מניה ולכן P = i = p i = p = i : p i = p

6 p= ומכאן: P A= p i = a i = A A a i A ועכשיו כמה דוגמאות רז מבקש לשים לב להבדל בין המודל המתמטי, המתמטיקה, והבעיה המיוצגת.. מטילים שתי קוביות, מה ההסתברות שהסכום הוא שבע? מרחב המדגם: אפשר לבחור כמרחב המדגם כאוסף הסכומים, המספרים שאז לא נקבל מרחב שבו כל היחידונים שווי הסתברות. הנסיון הזה מראה לנו שכדאי לקחת את אוסף הזוגות הסדורים. =,...,6 2 ={i, j : i, j 6} כעת נניח שכל היחידונים שווי הסתברות וש f P= =36 A={,6,2,5,3,4,4,3,5,2,6,} P A= A = 6 36 = 6.2 יש קופסה ובה כדורים, 6 מתוכם לבנים ו 5 שחורים. מוציאים באקראי שני כדורים, מה ההסתברות שצבעם שונה? נבחר מודל הסתברותי., הנסיון היומיומי מלמד אותנו שלא כדאי לבחור כך, כיוון מהו מרחב המדגם? נדמיין שהכדורים הם מספרים בין ל, ואז מרחב המדגם הוא אוסף הזוגות של מספרים בין ל : ={i, j : i j } = 2 A={i, j : i 6,7 j } שוב נניח שכל המקרים שווי הסתברויות, נסביר זאת ע"י סימטריה, זו לא תכונה של המתמטיקה המעורבת בעניין אלא של העולם שאנחנו מייצגים. רז: זו תכונה דתית, לא מתמטית. 2 = 6 ב. בואו ננסה מודל אחר, נחשוב על הכדורים כעל זוג סדור: ={i, j:i j, i, j } = כעת אנחנו מבינים שעל כל תוצאה שספרנו קודם יש גם את הסימטריה שלה (לבן שחור = שחור לבן) ולכן מספר המקרים כפול, והפלא ופלא גם גודל מרחב ההסתברות כפול, מכאן שההסתברות נותרה בעינה. P A= מחלקים חפיסה בת 52 קלפים ל 4 שחקנים. מה ההסתברות שאחד השחקנים קיבל את כל התלתנים. מרחב המדגם כל הדרכים לחלק 52 קלפים בין 4 שחקנים. = 52! 3! 4

7 נגדיר את המאורע = השחקן ה i קיבל את כל התלתנים ו = A אחד השחקנים קיבל את כל התלתנים ולכן: A i = 39! 39! 3!4 = 3 3! 3! 3 52! = 52 3 הסיכוי ל A הוא סכום ה A i מכיוון ש ה A i הם מאורעות זרים (=מוציאים זה את זה), ואז P A= =6.3 2 פרדוקס ימי ההולדת (זה לא פרדוקס) יש אנשים בקבוצה אקראית, ונשאל מה ההסתברות שאין שניים שיש להם אותו יום הולדת. 365= אנשים, כלומר כל ההתאמות של ימי הולדת ל = A לכל שני אנשים יום הולדת שונה A = (נזכיר שוב שכל מה שאנחנו עושים תלוי בזה שלכל היחידונים אותה הסתברות) P A = A = P A 23.5 P A 5.3 P A הפקיד המפוזר (= המזכירה המבולבלת, המלחים השיכורים וכו') יש מכתבים ו מעטפות, מכניסים כל מכתב למעטפה כלשהי באקראי, נשאל מה ההסתברות שאף נמען לא קיבל את המכתב המיועד לו. כמו בקורס במתמטיקה דיסקרטית, לפנינו הבעיה של תמורות ונקודות שבת, ולכן כל סידור של מכתבים למעטפות הוא תמורה S על המספרים בין ל. ומכאן = =! = A אף מכתב לא הגיע לתעודתו מסתבר שיותר קל לחשב את המשלים ואז P A= P A C = A C לפחות מכתב אחד הגיע לתעודתו = המכתב ה i הגיע לתעודתו A C = Bi i= P A C = i P B i P B i B j P B i B j B k... P i= i j i j k = P B 2 P B B 2 3 P B B 2 B 3... P B i i B i =! P B =! =! P B B 2 = 2!! P A C = 2 2!! = 3 3!! i = 2! 3!...= i= i! A i B i B i נציב זאת בתוך ההכלה וההדחה ונקבל:...!

8 ,-k כלומר: P A= P A C = i i= i! e.36 i A = P A=! i= i! מהי ההסתברות שבדיוק k נמענים קיבלו את המכתב המיועד. = C המאורע ש k הנמענים הראשונים קיבלו את המכתב המיועד. נתעלם מ k הנמענים הראשונים ונשחזר את החישוב הקודם עבור שאר הנמענים שמספרם C = k! k i i= i! = D בדיוק k נמענים קיבלו מכתב מיועד P D k =! k k! i= k i D = נטען ש k k! i= i! כי כל ה C זרים (=מוציאים זה את זה) k i = i! k! k i e i! k! i= P lim A =lim P A הרצאה 3. מרחב הסתברות,, P האינפי של מרחבי הסתברות" משפט: פונקציית ההסתברות היא רציפה lim באפיון לפי סדרות - אם A קיים אז P lim A =lim P A משפט: אם A הוכחה: ידוע ש סדרה עולה של מאורעות אז lim A = A = נגדיר: B = A P lim A =P k= A k =P k= B k = P B k =lim k= B 2 =A 2 A.. B =A A נטען ש סדרה של מאורעות זרים. P B k =lim k= k = B B k = k= לכל : A וגם: Bk = A k= k = ואז: P B k =lim P A k= תרגיל: כנ"ל לגבי סדרה יורדת. כרגע הסתמכנו מאד על העליה של הקבוצה (או הירידה שלה), אבל אנחנו מחפשים את המקרה הכללי.

9 למה ) Fatou ( A לכל סדרת מאורעות P lim if A lim if P A הוכחה: הוא קבוצת האיברים ש"כמעט תמיד" מופיעים בתוך איברי הסדרה (שהם קבוצות). lim if ניזכר H = A k k על ידי: H נסמן ואז: lim if A = k H = k = בוודאי סדרה עולה של מאורעות ולכן: H P lim if A =P lim H = lim P H lim if P A H A P H P A למה ) Fatou ( reverse לכל סדרת מאורעות A P lim sup A lim sup P A הוכחה: lim sup A = A k = k G G סדרה יורדת ולכן (לפי ה"תרגיל לבית"): P lim sup A = P lim G =lim P G (קיים גבול לסדרה G והוא החיתוך של איברי הסדרה) P G P A ומכאן A לכל מתקיים G lim P G lim sup P A נסכם את התוצאות מהלמה (והלמה ההפוכה): lim sup P A P lim sup A P lim if A lim if P A נשים לב שהאגף הימני ביותר קטן/שווה מהשמאלי ביותר, ולכן אם נצליח ליצור שוויון בין שני האמצעיים נקבל שכולם שווים (מטרנזיטיביות). אם קיים גבול ל הם בוודאי שווים (כי הגבול התחתון והעליון שווים, ובוודאי ההסתברויות שלהם) ומכאן: פונקציית ההסתברות רציפה. A הלמה ה"קלה" Catelli) ( Borel P lim sup A P A אם A סדרת מאורעות המקיימים אז = = הוכחה: (בעיקרון אם ההסתברות של הגבול העליון אינה נובע שיש מאורעות שחוזרים אינסוף פעמים ב P שהסתברותם אינה, ולכן הסכום של ההסתברויות, שהן אי שליליות, לא יהיה סופי) lim sup A = A k = k G סדרה יורדת ולכן =G כאמור

10 P lim sup A =lim sup P G הערה: P A B P AP B, P A P A נחזור להוכחה: P G P A k = k= (אגף ימין הוא זנב של טור מתכנס לפי ההנחה) = E נשאל את השאלה: בדקה ל 2 יש קופסה ריקה, נכניס לתוכה את הכדורים - ואז נוציא באקראי אחד מהכדורים בקבוצה. בחצי דקה ל 2 נכניס את הכדורים -2, ונוציא באקראי אחד מהכדורים בקופסה. ברבע דקה ל 2 נכניס את הכדורים 2-3 ונוציא באקראי כדור מהקופסה. נשאל: מה ההסתברות שכדור מספר נשאר בקופסה בשעה 2? = קבוצת המאורעות כך ש נשאר בקופסה עד וכולל השלב ה- ( אינו אחד מ המספרים הראשונים בסדרה) נסתכל בסדרה E ונראה שהיא סדרה יורדת E ) אינו מופיע בסדרה ( P lim E =lim P E =lim =lim k= 9k = 9k lim k = = lim 9 k 9 k 9k = שיעור חמישי 7. מטילים שתי קוביות, מה ההסתברות שהסכום הוא 8? (אמור להיות די פשוט בשלב זה נבנה מרחב מדגם של הזוגות הסדורים, נראה מה החלק היחסי של הזוגות שסכומם 8) ={,2,3,4,5,6} 2 A={i, j :i j=8} = {2,6,3,5,4,4,5,3,6,2} =P P {i, j}= 36 P A= A = 5 36 מה יקרה אם רז יסתיר את התוצאה אחרי ההטלה? זה לא ישנה את ההסתברות מבחינתנו. מה יקרה אם הוא יספר לנו שבקוביה אחת קיבלנו 3? זה ישנה את "מידת האמונה" שלנו לגבי התוצאה וגם את המודל המתמטי. 6 אם כן מה ההסתברות שהסכום יצא 8 אם נתון שהקוביה הראשונה יצאה 3? F ={3, j :i j 6} באופן אינטואיטיבי יש רק 6 תוצאות שמקיימות את F ורק אחת מהן היא גם ב A, ולכן ההסתברות תהיה נכתוב A F = A F / = P A F F F / P F נעזוב את המציאות ונגדיר משהו ב"עולם המודלים" שלנו:

11 הגדרה: הסתברות מותנית - יהי,, P מרחב הסתברות. יהיו A,B מאורעות, כאשר B P אזי P A B= P A B (באגף שמאל זה הסימון ל A בהנתן B) P B דוגמה: בקופסה כדורים לבנים, 5 צהובים ו שחורים. מוציאים כדור באקראי, מה ההסתברות שהוא צהוב? ={,..., 25} = יצא כדור צהוב P {i}= 25 A={,...,5} ולכן: P A= 5 25 = 5 נשאל מה ההסתברות שיצא צהוב בהנתן שיצא כדור שאינו שחור? {5,...,}=B = יצא כדור שאינו שחור B A= A ולכן על פי ההגדרה שלנו: 5 P A B= P A P B = 5 25 = 3 דוגמה: יש מישהו (רז: בלי שמות) שצריך לגשת לבחינה, ושתי בחינות מתנגשות לו באותו יום בחינה בהסתברות ובחינה בספרות. (רז: הבחירה בהסתברות היא כדי שלכל המשפטים יהיה כפל משמעות כרגע) ספרות יעבור בהסתברות חצי הסתברות יעבור בהסתברות שליש (רז: זה בערך נכון) הוא קיבל החלטה ע"י הטלת מטבע. השאלה: מה ההסתברות שהוא ניגש לבחינה בהסתברות ועבר אותה? הרעיון הוא שאנחנו שואלים כעת שאלות שאפשר לפתור גם בלי לבוא לקורס, אבל בהמשך נראה שאלות שבהן לא ניתן להמשיך את האינטואיציה היומיומית שלנו הלאה, ולכן נפרמל את הרעיונות האלו. {, } {ספרות, הסתברות}= התוצאה של הניסוי שלנו היא זוג סדור נסמן ספרות ב lit והסתברות ב prob ספרות } {,} A={lit הסתברות ={prob} {,} B=A C עבר {} prob}time C={lit, P A=P B= 2 P C A= 2 P C B= 3 P {lit, }= P A C =P C AP A= 2 2

12 P { prob,}=p B C=P C B P B= 3 2 מה ההסתברות, למשל של האפשרות שניגשתי לבחינה בספרות ונכשלתי? P {lit, }=P A C C =P A C C C = P A C C = P B C A C =B = P B P C P B C= P B P C A P C B P B C = 4 P C =P C A B דוגמה אחרונה: כרגיל יש לנו כדורים בתוך קופסה 8 אדומים, 4 לבנים. מוציאים שני כדורים בזה אחר זה, מה ההסתברות שהשני אדום בהנתן שהראשון אדום? מרחב המדגם הפעם יהיה כל הזוגות הסדורים בלי חזרות באיברים 2,..., כאשר 8 הראשונים אדומים והשאר לבנים. ={i, j: i, j 2,i j }, =2 = A הכדור הראשון אדום = B הכדור השני אדום לכן 8= A וגם 8= B יש לנו את המאורע שהוא החיתוך: A B =8 7 ההסתברות של B בהנתן A עפ"י ההגדרה היא: P B A P B A= = 8 7 P A 8 = 7 אפשר גם לפתור את זה בדרך האלמנטרית לקחנו כדור אדום? יופי, נשארנו עם כדורים ש 7 מתוכם אדומים, מה הסיכוי 7 לקחת אדום? זה קל משפט: יהא,,P מרחב הסתברות F מאורע בעל הסתברות חיובית לכל מאורע A נגדיר את Q A=P A F, היא פונקציית הסתברות על Q (ההסתברות של A בהנתן F) מקודם באמצעות P וכו'. P A F אבל זה מוגדר היטב על פי הגדרתנו את הוכחה: - Q מוגדרת על Q A - Q=P F = P F = P F גם כן סדרה של מאורעות זרים ולכן: A F סדרה של מאורעות זרים, - Q = A = P A F P F F, F A P A F = = = Q A P F = הערה: P F F QF = = P F כלומר ניתן להגדיר את Q על המרחב המדיד נחדד הבדל חשוב : כשאני מגדיר משהו כהסתברות מותנה אני מתכוון להגדרה המתמטית, להחליט שבעיה מילולית כלשהי ניתנת לייצוג באופן זה היא החלטה של מידול המציאות, ולא תכונה של ההגדרה המתמטית.

13 חוק ההסתברות השלמה ) probability ( Law of of complete תהי נניח שיש חלוקה של, כלומר איחוד זר וממצה: i = A i כאשר = נקבל (זהו חוק ההסתברות השלמה) (פשוט מניפולציה על הגדרת ההסתברות המותנה) A,..., A B= B A i i= נובע מכך: P B= P B A i i= P A i אם לכל i נדרוש P B= i= P B A i P A i חוק Bayes,A B מאורעות בעלי הסתברות חיובית אז P A B=P A B P B=P B A P A ולכן חוק בייס נובע מיידית: P A B=P B A P A P B A i i = הכללה: יהי B מאורע ו סדרת מאורעות זרים המכסים את P A i B = P B A i P A i = P B A i P A i P B P B A j P A j דוגמה מעבדה לבדיקת,HIV נשא יוצא חיובי בהסתברות 95% ואדם לא-נשא יצא חיובי בהסתברות %..5% מהאוכלוסיה נשאים. (הכל כמובן שקרים וסטטיסטיקה) מה ההסתברות שאדם שיצא חיובי הוא נשא? נצטרך לבנות מרחב הסתברות, חשוב לשים לב שמרחב המדגם יכול להיות ארבע אפשרויות נשא = C, לא נשא = H וחיובי p ושלילי. ={, p} {C, H } A={C } {, p} המאורע שאדם נשא כלומר A B={C, H } {p} המאורע שאדם מקבל חיובי B נתון: P B A=.95 P B A C =. P A B=? סיימנו לתרגם את הבעיה למודל הסתברותי, אפשר לשכוח מהסיפור ולענות על השאלה בתוך הפורמליזם ההסתברותי. מחוק בייס נקבל: P A B=P B A P A P B j= חסרה לנו רק ההסתברות של B, ולפי חוק ההסתברות השלמה נקבל:

14 P B A P A P B A P AP B A C P A C = ובאופן מפתיע נקבל שאם קיבלנו תוצאה חיובית ההסתברות שאנחנו אכן נשאים היא קטנה מחצי. מתכנס ל. p k כך שהטור של p k ניסויים מורכבים דוגמה: ההסתברות שבמשפחה k ילדים היא בהנתן שיש k ילדים יש הסתברות שווה לכל צירוף של בנים ובנות. מה מרחב המדגם? כל הסדרות הסופיות של בנים ובנות: ={a,...,a :a i {b, g}, N} כדי להגדיר מרחב הסתברות אנחנו צריכים לתת הסתברות לכל יחידון. לדוגמה מה ההסתברות של בן,בן,בת? ולכן: P {b, b, g }= P {b, b, g } three kids P three kids = 8 p 3 P {a,...,a }= 2 p שאלה: מה ההסתברות שלמשפחה בדיוק ילד אחד בהנתן שאין בה בנות? (כתוצאה מכך ברור שהילד הוא בן) = A k בדיוק k ילדים (=צאצאים) = B אין בנות ולפי חוק בייס: P A B=P B A P A P B = P B A P A 2 p = P B Ai P A i i= i= 2 i p i נסתכל על משפחות בנות שני ילדים: ={b,b,b, g,g,b, g, g} נשאל בהנתן שיש לפחות בן אחד מה ההסתברות שיש לו אחות? (נניח שהאפשרויות שוות הסתברות) התשובה - שליש סיפור שתכליתו לשגע אותנו עד השיעור הבא: משרד הפנים הוציא הוראה לצבוע את משקופי הדלתות של משפחות שבהן 2 ילדים בדיוק בורוד. תלמידה: מי צובע את המשקופים? רז: המשפחה אני מגיע לדלת ורודה פותח לי ילד ואומר לי "שלום, אני הילד הצעיר במשפחה", מה ההסתברות שיש לו אחות? אני מגיע לדלת ורודה פותח לי ילד ואומר לי "שלום, אני הילד המבוגר במשפחה", מה ההסתברות שיש לו אחות? אני מגיע לדלת ורודה פותח לי ילד מבוהל ולא אומר מילה, מה ההסתברות שיש לו אחות? עכשיו הוא אומר לי שהוא הצעיר, מה ההסתברות שיש לו אחות כעת? שיעור שישי 2. נזכיר הבדל פילוסופי בהסתברות מותנית P A B הבייסיאנים :(Bayesia) זוהי מידת האמונה שלנו שהתרחש A בהנתן ש B התרחש. התדירותניים :(Frequetists) נספור את חלקם היחסי של המאורעות A בכלל המאורעות B. נחזור לפרדוקס הילדים A={bb,bg,gb} B={bg, gb,gg}

15 P A B= P A B = 2 P A 3 הבכור הוא בן =,bg} C={bb P B C = 2 השאלה היא, במובן מסויים, האם בבית הזה תמיד מטילים מטבע מי פותח את הדלת (בן או בת) או אם-יש-בן-אז-הוא-פותח- את-הדלת? לכן מרחב המדגם הוא מורכב ובנוי מ מי פתח את הדלת וגם מי הילדים בבית? {bb,bg, gb,gg} {youg,old } נסמן: = A בן פתח את הדלת = B יש לפחות בת אחת במשפחה A={bb, youg,bb,old,bg, old, gb youg} B={bg, gb,gg} {youg,old } P B A= 2/8 4/8 = 2 P A B=P B A P A P B P A i B posterior belief prior belief P A i ניזכר בחוק Bayes P B A i likelihood of data זו הסתכלות בייסיאנית על הנוסחה. בקורס שלנו זה לא כל כך חשוב, זה יותר משמעותי בסטטיסטיקה. אי תלות הגדרה: נאמר שמאורע A בלתי תלוי במאורע B אם הידיעה ש B אירע "אינה משנה" את ההסתברות ש A אירע. P A B=P A כלומר: ( B A ot הערה חשובה: זרות אינה אי תלות, כיוון שמאורעות מוציאים הם תלויים ) איורים: אי תלות בין A ו B A A B

16 זרות בין A ו B B A זרות "לחבר" אי-תלות "להכפיל" דרך אחרת אפשר להגדיר ששני מאורעות הם בלתי תלויים אם, P A B=P A P B זו בעצם העברת אגפים מההגדרה הקודמת, אלא שאנחנו לא דורשים כעת ש B P שזה במובן מסויים יותר נוח, בנוסף כמו שהגדרנו אותה כרגע מתברר שההגדרה היא סימטרית, מקומוטטיביות של חיתוך וכפל. דוגמה לאי-תלות: בוחרים באקראי (=יחידונים שווי הסתברות) קלף מחפיסת קלפים סטנדרטית בת 52 קלפים. A= הקלף הוא תלתן = B הקלף הוא נסיך האם A ו B בלתי תלויים? = A B הקלף הוא נסיך תלתן P A= 3 52 P B= 4 52 P A B= 52 נשים לב שמתקיים כאן מסקנה: רז: הנסיכיות אינה תלויה בתלתניות B= P A P ולכן המאורעות בלתי תלויים 52 = P A B דוגמה לתלות: מטילים שתי קוביות {6, 2...,}= = A קוביה ראשונה יצאה 4 = B הסכום הוא 6 P A= 6 P B= 5 36 B= 36 P A (כי הקוביה השניה יכול להיות רק 2) מיד רואים ש P A B P B P A P B A= 6

17 P A B= 5 טענה: כל מאורע הוא בלתי תלוי ב כי לכל A מתקבל P A=P A=P A P אם משתמשים בהגדרה הכפלית כל מאורע הוא גם בלתי תלוי בקבוצה הריקה) טענה: אם B בלתי תלוי ב A אז הוא גם בלתי תלוי ב A C הוכחה : P A C B=P B P A B=P B P A P B=P B[ P A]=P B P A C המעבר הראשון הוא כי B הוא איחוד של חיתוכו עם A ועם המשלים של A. מסקנה: אם B אינו תלוי ב A אז הוא אינו תלוי בקבוצת המאורעות הבאים: {A, A C,, }= A זו תהיה הסיגמה-אלגברה שנוצרת ע"י A. כלומר אפשר לומר (בדרך מסובכת) ש B בלתי תלוי ב A אם"ם הוא בלתי תלוי בסיגמה אלגברה ש A יוצר. למה זה טוב? A,B,C מאורעות מהי המשמעות של "A אינו תלוי ב B וב C". אפשרות: A אינו תלוי ב B וגם A אינו תלוי ב C. נשתכנע שזו דרך לא מוצלחת להגדיר. אנטי-דוגמה מטילים שתי קוביות = A הסכום הוא 7 = B קוביה ראשונה היא = C קוביה שניה היא לפי הגדרתנו A אינו תלוי ב B וב C, אבל זה טיפשי, כי ברור שאם גם B וגם C אז זה מוציא את A מכלל אפשרות. בקיצור לא רעיון טוב. הגדרה נאמר ש A אינו תלוי ב B וב C אם A בלתי תלויה ב: B,C ={,,B,C, B C, C C,B C,B C, B C C...} משפט: A אינו תלוי ב B,C אם"ם A אינו תלוי ב,B C וב B C שיעור שביעי 24. הוכחה: אנו כבר יודעים ש A אינו תלוי ב } C {,, B,C,B C,C C, B C, B C C נתבונן לדוגמה ב, B C כלומר להראות ש P A B C =P A P B C ואכן: P A B C =P A B A C =P A BP A C P A B A C (המעבר האחרון מהכלה והדחה) = P AP BP AP C P A P B C =P AP BP C P B C =P A P B C והשאר באופן דומה. מסקנה מיידית: באיזה מצב נוכל לומר ש,A B ו C בת"ל בזה בזה במובן ש B,C בת"ל ב A A,C בת"ל ב B A, B בת"ל ב C? זה קורה כאשר כמובן

18 P A B=P A P B P A C=P A P C P B C= P B P C P A B C =P A P BP C A באופן כללי יותר אם יש סדרה של מאורעות, A..., מתקיים נאמר שכל אחד בת"ל בכל האחרים אם לכל אוסף k P i= k A ji = i= P A ji A j,..., A j k ={a,a 2 {..., למען הפשטות, נניח שמרחב ההסתברות הוא בן מניה, כלומר,, P ניסויים חוזרים נתון מרחב הסתברות P {a i }= p i ( =P (אז = פעמים" מתאים למרחב המדגם,, P הניסוי "חזרנו על P {a j, a j2,..., a j }= p j p j2... p j [,]= A = a j,...,a j p j... p j = p j p j2... p j = a j a j2 a j איך נראה מאורע שמאפיין אך ורק את תוצאת הניסוי ב k?... A... k A k נסמן = B i מאורע שמאפיין את תוצאת הניסוי בחזרה ה iית. B k כאשר k j אז בהנתן מאורעות, B j k B k = k A k P B k = B k B j = j A j j k j without loss of geerality נסתכל בחיתוך המאורעות ונקבל: B k B j = j k A j j k A k P {}= a i a ik A k a i p i... p i =... P A k ומכאן עולה המבוקש: P B k B j =P B k P B j העשרה נסתכל ב [,]= נניח שרוצים לבנות פונקציית הסתברות שהיא אינווריאנטית תחת הזזות ( (mod זה בלתי אפשרי, מדוע? ניתן להציג את הקטע כאיחוד זר בן-מנייה של קבוצות שנבדלות זו מזו בהזזה מה ההסתברות של? אם נבחר אותה להיות ההסתברות של הקטע כולו יהיה, אם נבחר אותה להיות מספר כלשהו, לא משנה כמה קטן, ההסתברות של הקטע כולו תהיה הסכום של ה (P A אינווריאנטית תחת הזזה ולכן ההסתברויות של כל ה A שוות) ולכן אינסופית. מכאן לא ניתן להגדיר פונקציית הסתברות על הקטע. A דוגמה ={,}

19 P {}= p P {}= p=q ניסוי Beroulli נתבונן בחזרה אינסופית של חזרות בת"ל, ונשאל את עצמנו כל מיני שאלות מעניינות: מה ההסתברות שהיתה לפחות הצלחה אחת ב k החזרות הראשונות? מה ההסתברות שהיו בדיוק k הצלחות ב החזרות הראשונות? מה ההסתברות שהיו רק הצלחות? לגבי השאלה הראשונה המשלים הוא רצף k כשלונות, בגלל הנחת אי התלות k q k = ומכאן שההסתברות שהיתה לפחות הצלחה אחת היא p לגבי השאלה השניה נסתכל במספר הקומבינציות לקבל k הצלחות, שהיא P {,,...,}=q k k k pk q k לגבי השאלה השלישית: A = הצלחה בחזרה ה ואז נכפול הסתברויות ונקבל P A =P = = k= A =P lim A k =lim k= P k= A k =lim p = { if p= if p נמשיך בדוגמה קלאסית = The gambler's rui חורבנו של המהמר לשחקן א' יש i שקלים לשחקן ב' יש -i שקלים בכל צעד מטילים מטבע כך שההסתברות לראש היא p וההסתברות לזנב היא q. אם יוצא H שחקן ב' משלם שקל אחד לשחקן א', אחרת להיפך. המשחק נגמר כשאחד מהם מתרושש. מהי ההסתברות ששחקן א' ינצח? מרחב המדגם הסדרות האינסופיות, מדוע? כי אנחנו לא בטוחים שהמשחק יגמר, ובכל מקרה נוכל להסתכל רק על הרישא של הסדרה ולהתעלם ממה שקרה אחרי ששחקן ב' או א' התרוששו. ={H, T } N ההסתברות לכל יחידון סופי היא מכפלת ההסתברויות לפי מה שמופיע ביחידון, כלומר: P {H,T, H, H,...,T } {H,T } N = p q p p... q = E השחקן הראשון ניצח = F ההטלה הראשונה היתה tail of the sequece {H } צריך למצוא את P E נשתמש בחוק ההסתברות השלמה עבור הזוג F ו F C אשר פורשים את המרחב: P E =P E F P F P E F C P F C = p P E F q P E F C נשתמש באינטואיציה שלנו אחרי ההטלה הראשונה ניתן להסתכל על הבעיה מחדש, אם יצא H אז נדמיין שבמשחק החדש לשחקן א' יש כעת +i ולשחקן ב' יש -i- נסמן i = ההסתברות ששחקן א' ניצח כאשר היו לו i שקלים בהתחלה

20 טענה: i = p i q i = = i = p i q p i i i = p i p q i = q p i i = q p q2 2 = q p 3 2 = = q 2 p q p p... q 2 p q q p = p q p = q p q p q p q p a = q p q p i ={ q p... q p i } i =... q i = q i p p q p q i p q p q i p q p ההסתברות ש א' ניצח = ההסתברות ש ב' ניצח =

21 ההסתברות שאף אחד לא ינצח לעולם היא אפס. שיעור שמיני אי תלות האם מאורע יכול להיות להיות בלתי תלוי בעצמו? האם יש מאורע שהמידע שהוא אירע (או לא) לא תשפיע על הערכתנו את ההסתברות שהוא אירע? בעצם רק אם ההסתברות שלו היא או, למה? P A=P A A=P A P A P A 2 =P A P A=, חוקי (Kolmogorov) - מושיבים קוף ליד מכונת כתיבה, הוא מקליד באקראי, שם לכל המקשים יש הסתברות חיובית. מרחב המדגם הוא שרשרת אינסופית של תווים של מכונת כתיבה. נלך לאורך השרשרת ונשאל האם יש מקטע בשרשרת שהוא בדיוק הספר "מובי דיק"? מהי ההסתברות שיופיעו עותקים של "מובי דיק? רז: אם כבר מצאנו שיטה להוצאה לאור, אז למה לא נגדיר את המאורעות הבאים: = H הודפסו אינסוף עותקים של "מובי דיק" = הודפסו לפחות k עותקים H k סדרה יורדת ולכן גבולה הוא H. = הודפסו לפחות k עותקים עד התו ה m. H k H m,k lim H m, k = H k m זו סדרה עולה כפונקציה של m וגבולה H m = H הודפסו אינסוף עותקים של "מובי דיק", ברור ש החל מהתו ה m = H m משנה תכונות אינסופיות. (Tail evet) הוא מאורע זנב H כי הרישא של הסדרה לא H m k, אלו מאורעות בלתי תלויים כי ההקלדות השונות הן בלתי תלויות ולכן: H m נקבע m ו k ונסתכל ב: P H m,k H m =P H m,k P H m =P H m, k P H משיקולי אריתמטיקה של גבולות, אפשר להשתכנע ש: lim H m, k H =H k H m ולכן: lim P H m, k H =P lim H m, k H =P H k H m m וזה גם שווה מצד שני: lim P H m, k H = lim P H m,k P H = P lim H m, k P H =P H k P H m m m P H =P H k H =P H k P H k P H = P H 2 P H =, רז: אפשר לשאול כמה זמן זה יקח, אבל זה לא... זה לא... זה יקח הרבה זמן

22 המשתנה המקרי דוגמה {6, 2,}= מטילים שתי קוביות, כמו למשל הסכום, או זוגיות הקוביה הכחולה, בהסתברות יש שם =P P {}= 36 נוכל להסתכל על פונקציה מעל המשתנה המקרי. facy לפונקציה R הגדרה זמנית בהנתן מרחב הסתברות משתנה מקרי (ממשי) הוא פונקציה נחזור לדוגמה שלנו עם הקוביות: ={i, j: i, j 6} X i, j=i j X : {2,,2} S R מרגע שהגדרנו פונקציה, אולי נוכל להגדיר פונקציית הסתברות ל S, אשר תהיה תלויה באופן כלשהו בפונקציית ההסתברות שכבר הגדרנו במרחב. נשאל A=? P כאשר A S זה כמובן חסר משמעות כי P מוגדרת על מרחב המדגם ולא על מרחב הסכומים, נסמן את הפונקציה המבוקשת שלנו P X ונבקש שהיא תשקף את ההסתברות לכך שנקבל את הסכום, כלומר: P X A=P { : X A}=P X A אוסף מקורות ולא פונקציה הופכית לפונקציה P X נקרא ההתפלגות של המ"מ (=משתנה מקרי) S היא קבוצה שגם עליה אפשר לבנות סיגמה אלגברה, נסמנה S לקבוצה אלא של מרחב מדיד למרחב מדיד. אז אפשר לחשוב על X כהעתקה לא של קבוצה נסתכל על מאורע A S X A={, X A} נשאל מה ההסתברות של X A, אם כי לא מובטח שזה מאורע., A S X : S,, S, S משתנה מקרי בהנתן שני מרחיבים מדידים X A ופונקציה יקרא משתנה מקרי אם לכל X : S, X : S הערה לתשומת לב: טענה: X A X מתחלפת עם כל הפעולות על קבוצות, דהיינו: X A C = X A C X A = = = זרים X A, X B וגם A,B זרים אז הוכחה X A i ={: X A C }={: X A}={: X A} C = X A C זה כמעט טאוטולוגיה וכך מוכיחים גם את השאר. שיעור.2.8, 9 דוגמה למשתנה מקרי:

23 יהא,, P מרחב הסתברות A I A = { A A I A :{,}=S A. היא הפונקציה המציינת של המאורע I A אזי הסיגמה אלגברה של S היא {{,},{},}{, }= S 2 X {}= A, X {}= A C P X {}= P { : X {}}= P X {}=P A,,P מ"מ מעל מרחב הסתברות X :,, P S,, P X משפט: יהי פונקצית הסתברות מעל S הוכחה : לכל A S P X (תכונה של פונקציית הסתברות) A=P X A [,] P X (תכונה (2 S= P X S =P = A, A 2 תהי סדרת מאורעות זרים, S X A קבוצות זרות, X A 2, (תכונה 3 אדיטיביות בת מניה) אז ההתפלגות של X היא P X i X Ai = X A i i = i = A i =P X A i =P X A i S קבוצה בת מניה P X התפלגות מוגדרת ע"י ערכה עבור כל היחידונים. k S P { : X =k}=p X אבל {k} p x k=p X לשם הנוחות נסמן {k { מכיוון שזו ההתפלגות כשהיא מוערכת ביחידון נכנה אותה התפלגות נקודתית של משתנה מקרי X. יש בזה טעם רק כאשר מרחב ההסתברות הוא בן מניה, במקרים אחרים נשתמש במשהו אחר. נחדד ונזכיר: P : [,] P X : S [,] p x :S [,] דוגמה: נתונים 2 כדורים ממוספרים, מוציאים שלושה, מה ההסתברות שלפחות אחד מהשלושה הוא 7 או יותר? ={i, j,k: i jk 2} הסתברות אחידה יש 8 דרכים לבחור את i, ואז 9-i דרכים לבחור את j וכן הלאה. נגדיר משתנה מקרי שיתן את הכדור הגדול בכל שלשה: X :{3,,2} X i, j,k=k נתבקשנו לענות על השאלה: P {i, j, k : k 7}=P {i, j, k : X 7}=P X {7,8,9,2} = p X 7 p X 8 p X 9 p X 2 ולאחר כל המשחקים האלו (שבהם לא ביצענו שום פעולה אלא רק הצגנו את הבעיה בכמה דרכים) נחזור לשאלה מה ההסתברות שהגדול ביותר הוא k?

24 p X k= P X =k= k ונשוב לעוד דוגמה קלאסית: בעיית אספן הקופונים collector) ( coupo יש N קופונים שונים כשנלך לחנות אנחנו מקבלים באקראי אחד מהקופונים הללו, כשאנחנו מגיעים הביתה, בודקים אם כבר יש לנו אותו, אם לא אנחנו מדביקים אותו באלבום. נשאלת השאלה: כמה קופונים עלינו לקנות עד להשלמת הרצף??? N סדרות אינסופיות בתחום המספרים הטבעיים הקטנים או שווים ל =,}=, N } N ניקח את כל המאורעות המתייחסים למספר סופי של קופונים, כלומר כל אלו שמספיק להסתכל על רישא של הסדרות האינסופיות כדי לוודא את קיום האירוע, למשל המאורע "הקופון הראשון הוא 5, כלומר: = כל תת הקבוצות של המתקבלות על ידי מספר בן מניה של פעולות על תת קבוצות המתייחסות למספר סופי של קופונים. למשל : A i, j ={a,a 2, : a i = j } פונקציית ההסתברות היא כזאת שכל המאורעות האפשריים המתארים קומבינציה של k הקופונים הראשונים הם שווי הסתברות. T מספר הקופונים שנאסף עד קבלת אוסף מלא. T a,a 2, =mi { j N j {a,,a k }} k T :{N, N, } {} ( ) T = מה ההסתברות ש N שאלתנו היא : עבור P T {}= p T = ההסתברות שלא היה אוסף מלא לאחר צעדים P T {,2, } = לאחר צעדים הקופון ה j היה חסר. T N N P T {,2, }=P A j j = = P A j P A i A j P A i A j A k... j = i j i j k = N N N N N 2 2 N... P N T {, 2,...}= N k= k k N k N p T =P T {}=P T {,, } {, 2, } N = P T {,,...} P T {,2,...}= k N k= N k k N k N = A j p T = p T = הגדרה: X משתנה מקרי מעל,, P לכל a R נגדיר את פונקציית ההתפלגות של X ע"י: F X a=p { : X a }= p X,a] F x :R[,]

25 דוגמה: הטלת שתי קוביות, X הסכום, אז F X תראה כך: טענה: כל פונקציית התפלגות מקיימת : אינה יורדת X F. lim F X a= a.2 F X a =.3 lim a רציפה מימין הוכחה ab ( F X a=p X, a ]=P X, b ]][b, a]= F X b P X b, a ] F X b lim F X a= lim P X,a ]=P X lim a a a F X.4 (2,a]= P X = 3 באותו אופן (4 lim F X a =lim P X,a ] =P lim X, a ] = P,a]= F a X X P X F X טענה: מגדירה את P X a,b ]=P X,b],a ]=F X b F X a F b X F a X ] P X a,b=p X lim a,b ] =lim [ שיעור עשירי ניגע היום במשתנים מקריים מסויימים אלה שנתקלים בהם מספיק פעמים בחיים כדי שיהיה להם שם משלהם.

26 הגדרה {,} משתנה מקרי נקרא משתנה ברנולי (Beroulli) אם טווח הערכים שלו הוא כי ההסתברויות האחרות P X {}= p ההסתברות שלו מוגדרת באופן יחיד ע"י ההתפלגות של אחד היחידונים, נאמר תהיינה: P X {,}= P X {}= p P X { }= הדגשנו בפעמים הקודמות את החשיבות שבבניית מרחב הסתברות, אבל הפעם ההגדרה של משתנה ברנולי בעצם בונה מרחב {,},2 {,}, P X הסתברות ע"י הגדרה: תהליך ברנולי הוא ניסוי המורכב מחזרות בלתי תלויות של ניסויים בינאריים (=ברנוליים...). כלומר אם: ={,} N ( הוא p, כלומר שווה בכולם. {} כך שבכל תת ניסוי מהניסויים הללו ההסתברות ל"הצלחה" (= P {a,a 2,,a כשלונות p הצלחות }= p כל הסתברות של יחידון תהיה נגדיר משתנה מקרי X להיות הצלחות (=מספר ההצלחות) נתהה מהי ההתפלגות של המשתנה המקרי? הטווח של X הוא,} S={,, ההתפלגות: P X {k }= p X k= k pk p k (***) הגדרה משתנה מקרי יקרא משתנה בינומי עם פרמטרים (,p) אם טווח הערכים שלו הוא S וההתפלגות שלו (***). נסמן X ~B, p כדי לומר ש X מתפלג כמו משתנה בינומי עם פרמטרים אלו. תרגיל יצרנית של חיתולים מייצרת חיתול פגום בהסתברות. כל שני חיתולים הם בלתי תלויים... החברה מוכרת חבילות של עשרה חיתולים ומחזירה ללקוח את כספו רק אם יותר מחיתול אחד פגום. מה ההסתברות שלקוח שקנה חבילה יחזיר אותה? רז: התשובה היא כמובן כי יאשימו אותו שהוא זה שהרס את החיתול הפגום אבל בואו נהיה אופטימיים ונענה על השאלה. X ~B,.99 מספר החיתולים התקינים ={,,} p X k= P X {k }= k.99k. k p x = בערך.7 p x תשובה = 9 A 2 תרגיל קצת מרתיע מנוע של מטוס שובק במהלך טיסה בהסתברות p מטוס נוחת בשלום רק אם לפחות מחצית ממנועיו תקינים, מה עדיף מטוס דו מנועי או 4 -מנועי? X מספר המנועים התקינים ~ B2, p X 2 כנ"ל ~B 4, p = A יצאנו בשלום עם מטוס דו מנועי = יצאנו בשלום עם מטוס 4 -מנוע

27 כדי שהעסק הזה יראה מתמטית כמו שצריך, אז אפשר לבנות שני מרחבי הסתברות שונים עבור כל אחד מהמקרים, ואפשר להסתכל על מכפלה שלהם. אבל אפשר פשוט לשאול כל שאלה בנפרד ואז: A ={,2} A 2 ={2,3,4} P X {,2}= p X p X 2=2p p p 2 p =2 p p 2 P X 2 {2,3,4}=6 p 2 p 2 4 p 3 p p 4 p =3 p 4 8 p 3 6 p 2 2 p p 2 p 2 3 כלומר יש להעדיף מטוס 4 -מנועי רק אם שאלה מטילים מטבע הוגן פעמים, מה ההסתברות שיצא H בדיוק 5 פעם. הטלות, אז המשתנה המקרי X ~B2, 2 P X {}= p X = ! 2 =! ניעזר בקירוב סטרלינג.!~2 2 e ולכן נקבל: e 2 =...= 2 2 e = 2 ועבור המקרה שלנו זה יצא בערך.8 k= p טענה: ההתפלגות הנקודתית של משתנה בינומי עולה עד הערך ויורדת לאחר מכן: k pk k p k = pk p k p x k p x k הוכחה נסתכל ב ונקבל: k! k! p = k p k! k! p k p k p k p הפונקציה עולה אם כנדרש. k p כלומר המשך שעורים עם רז קופרמן בהסתברות ) ( שיעור 8.2.8, X :,, P S, S, P X משתנים מקריים S מרחב בדיד P X בתפלגות p X התפלגות נקודתית

28 ( X ~Poi עם פרמטר Poisso והתפלגותו הנקודתית היא: הגדרה: משתנה מקרי X יקרא בעל התפלגות אם הוא מקבל ערכים בקבוצה {...,,,2} (נסמן p x k= e k! k אפשר לראות שזה אי שלילי לכל k ושהטור על הטבעיים עם אפס נותן. אבל למה להגדיר דבר כזה? למשל התפרקות רדיואקטיבית. אם אקח חומר רדיואקטיבי (רז: לא לפחד) ואשים לידו מונה גייגר שסופר כמה פגיעות בשניה היו, זה משתנה מקרי שאני לא יכול לחזות מראש. אבל אם אבנה היסטוגרמה של שכיחות מספר הפגיעות, ההיסטוגרמה תתכנס למשהו שיהיה התפלגות פואסונית, כאשר תלוי בכל מיני גורמים פיסיקליים שאינם ממין העניין כרגע. למה זה קורה? נניח שאני מונה פגיעות לאורך ציר הזמן: t= כאשר השנתות בדרך הן בכל מקטע זמן t נוסף למונה אפס או אחד. ההסתברות שיתווסף במקטע t היא t ההסתברות לתוספת בכל מקטע זמן בלתי תלוייה במקטעי הזמן האחרים. = X מספר הפגיעות ביחידת זמן. ואז: X ~B, (נקבע את להיות מספיק גדול כך שזה יתקיים, כלומר תהיה פגיעה אחת לכל היותר בכל יחידת זמן) p X k= k k k k! = k! k! k k k! = k k = k k! 2... k k k k... k k! e k דוגמה: מספר שגיאות הדפוס בעמוד מרשימותיו של רז (26) הוא משתנה Poi 2 מה ההסתברות שיש לפחות שגיאה אחת בעמוד נתון? נשים לב שברגע שמדברים על משתנה פואסוני, אנחנו מדברים על מרחב הסתברות שהוא הטבעיים ואפס. ולכן השאלה שנשאל: S={,, } P X S {}= p X = e 2

29 מוטיבציה להגדרת משתנה מקרי גיאומטרי - נתונה סדרה אינסופית של ניסויי ברנולי בלתי תלויים עם פרמטר P. = X מספר החזרות עד להצלחה ראשונה S={,2, }=N מה ההסתברות שצריך בדיוק k הטלות? הסיפור הוא ש -k פעמים נכשלנו ובפעם ה p X זה אנחנו מכירים: k= p k p ואם אנחנו לא מאמינים שזו התפלגות, נסכום: p X k= p p k = k הצלחנו לראשונה, ואת ההסתברות של k = k = p k = p ומכיוון שזה נהיה טור גיאומטרי, X כנ"ל יהיה משתנה מקרי גיאומטרי (כלומר שהתפלגותו כנ"ל והוא מקבל ערכים טבעיים) נסמן X ~Geo p הערה: בספרות לעיתים יופיע k ולא -k כי השאלה תהיה "מה ההסתברות שהיו k כשלונות ואז הצלחה" תרגיל: N כדורים לבנים M כדורים שחורים אנחנו מוציאים כדור באקראי, אם הוא שחור ניצחנו, אם הוא לבן מחזירים אותו פנימה, בוחשים ומוציאים כדור אחר. ) מה ההסתברות שנזקקנו ל k הוצאות? 2) מה ההסתברות שנזקקנו לפחות ל הוצאות? M M N k = ) זה די מיידי, כי זו סדרת ניסויי ברנולי, שבה ההסתברות להוצאת שחור (=הצלחה) היא M k = p X k= M N M M N k k= ולכן: p X k= M k M M N M N (2 M = M M N M N M M N = M N תכונת היעדר זיכרון של המשתנה המקרי הגיאומטרי: X ~Geo p אם >k אז: P X = X k = p X k הוכחה: קודם נסתכל מה אנחנו בעצם מנסים להוכיח לפי הגדרת ההסתברות המותנה: P X = X k p = X P X k p X {k, } = p p = p k p p k סדרת ניסויי ברנולי עם פרמטר p. = X מספר הכשלונות עד קבלת הצלחות p X k= k k p p k = k! k!! p p k מסתבר שאם נרצה להרחיב את זה לא רק לטבעיים, נוכל להשתמש בפונקציית גאמה, הלא היא הרחבה של פונקציית העצרת:

30 p is prime A p C ={}, p =! x= e t t x dt הגדרה: X נקרא מתפלג בינומי שלילי עם פרמטרים (r,p) אם: p X k= rk k! r pr p k שעשוע ניתן הוכחה הסתברותית למשהו מתורת המספרים. כידוע מאינפי הטור ההרמוני לא מתכנס, ואילו ריבועו מתכנס. נסתכל בטור p = p is prime יהא <S ונתבונן במשתנה מקרי X עם ערכים טבעיים והתפלגות נקודתית: p X k= k S S= S s = (זוהי פונקציית זטא של רימן) = קבוצת הכפולות של m A m תהי אזי: k P X A m = m k S = k m k= S =m S בלתי תלויות. ו נטען: אם,q p ראשוניים אז A q A p צ"ל: P X A q A p =P X A p P X A q A p q ואגף ימין הוא אכן: p S q S = pq S ולכן אי התלות מתקיימת. A p C נזכיר ש = אוסף המספרים שאינם כפולה של p אם נחתוך את כל אלו עבור p ראשוני נקבל, כי רק הוא אינו כפולה של אף מספר ראשוני, כלומר ומכאן: p X =P X {}=P X A C p = P X A C p = p is prime p is prime p is prime p = S S והדבר האחרון שקיבלנו נקרא נוסחת אויילר, שמבטאת זיקה (שהיא לא מיידית מהסתכלות על הפונקציה) בין פונקציית זטא של רימן לראשוניים. פונקציית זטא שואפת לאינסוף באחד ואז ההופכי ישאף לאפס באחד ולכן: lim S p is prime = p S lim S p is prime log p = x ולכל x.6 מתקיים log x 2 x ואז: log p 2 = p p is prime p is prime

31 . שני משתנים מקריים נגדיר שני משתנים מקריים X :,, P S X, X, P X Y :,, P S Y, Y, P Y נניח: B Y A X מה ההסתברות ש Y B, X A P. אבל לא את P X נניח שאני יודע רק את, P Y כי כמובן שזה P { : X A,Y B} הנקודה היא שלא צריך לחשוב על X ועל Y כפונקציות, אלא כהעתקה: X,Y :,, P S X S Y, X,Y, P X,Y כרגיל נדרוש מהסיגמה אלגברה שהגדרנו שהמקור שלה ע"י ההעתקה יהיה ב ומהי? P X,Y X,Y נגדיר: A S X בהנתן S Y P X,Y A=P { : X,Y A} ואז היא תקרא ההתפלגות המשותפת של המשתנים המקריים X ו Y. B X אז: P X,Y B S Y =P {: X B,Y S Y }=P X B ובאותו אופן: C Y P X,Y S X C =P Y C ואז: p X,Y x, y=p X, Y {x, y} x S X, y S Y p X, Y x, y p X x= y S Y p X, Y x, y p Y y= x S X פונקציית התפלגות משותפת: F X,Y a,b =P X,Y,a],,b ] = P {: X a,y b} דוגמה: בכד 3 כדורים אדומים 4 לבנים 5 כחולים מוציאים שלושה באקראי. X מספר האדומים בהוצאה Y מספר הלבנים בהוצאה כל אחד מהם כשלעצמו הוא משתנה מקרי שאנחנו יודעים לחשב את ההתפלגות שלו. סוג השאלות עבור ההתפלגות המשותפת יהיה מה ההסתברות ש = X וגם =Y כלומר הזוגות הסדורים כך: X,Y {i, j:i, j,i j 3} S X ={,,2,3}=S Y אפשר להסתכל בקבוצת המכפלה של המרחבים ולתת הסתברות אפס לכל הדברים ש"לא יתכנו", כלומר שמספר הכדורים הכולל עולה על 3.

32 P X,Y j=? i, נשאל אם כן ניתן להציג זאת כטבלה: i \ j למשל: P X,Y,= ואז הסכומים על העמודות יתנו את ההתפלגות של Y וההתפלגות על השורות יתנו את ההתפלגות של X, כי למשל כל השורה הראשונה היא אוסף כל המקרים =X וכו'. לסיכום: ברור שאין שום דבר קדוש במספר 2, ויכול להיות כל מספר שהוא של משתנים מקריים, והדרך לחשוב עליהם היא לא כ העתקות אלא כהעתקה אחת לעולם של וקטורים מימדיים. שיעור לרז נגמר הקול ננסה להבין מה הוא אומר למרות שזה יחסית בשקט. נמשיך עם ריבוי משתנים מקריים למשל. S ואז ההעתקה שלנו תהיה S וההתפלגות המשותפת ה מימדית תהיה: P x,, x A=P { : X,, X A}? B S אז מה עם S P x,, x B=P { : X,, X B} = P { : X,, X B S }=P x,, x B בהנתן התפלגות מימדית, ניתן ליצור ממנה התפלגויות חד ממדיות אבל ההיפך אינו נכון. ( X נתבונן במשתנה מקרי X : S x (בעצם זה לא ממש מאומגה אלא מהסיגמה-אלגברה המקורית ל X A יש A X לכל ואז: X ={X A : A X } טענה:, תת קבוצה ממש. -אלגברה של היא תת- X דוגמה: שלנו זוהי קבוצה שהמקורות שלה הם סכומים, כלומר מתארת X אם נסתכל בסכום שתי הטלות של קוביה בתור ה אינו {4,3} ולכן היחידון 5,2 B אז גם 4,3 B X מאורעות שהמשותף להם הוא הסכום, ולכן אם כי כל קבוצה שמכילה אותו צריכה להכיל את כל המאורעות שנותנים את אותו סכום. X נמצא ב שני משתנים מקריים X,Y

33 B Y, A X כל אחד מגדיר -אלגברה: X, Y X ו Y יקראו בלתי תלויים, אם כל זוג מאורעות בלתי תלויים. דוגמה: ={,,6} 2 X i, j=i j Y i, j=i דהיינו מטילים קוביה פעמיים Y {2} ראינו כבר שהמאורע X {7} (יצא סכום שבע) בלתי תלוי במאורע (הקוביה הראשונה היא 2) אבל ראינו גם ש X {6} ו Y {2} הם תלויים וזה מספיק כדי להכריע ש X ו Y הם תלויים. בעצם זה ברור כי למשל הידיעה שהסכום הוא 2 משנה את הערכתנו לגבי "האם הקוביה הראשונה יצאה 2. בשלב זה נראה שיהיה לא פשוט לגלות אם X ו Y הם תלויים או לא, כי בעצם נצטרך לבדוק את כל האפשרויות... התשובה היא שקל מאד לקבל קריטריון שיכריע בדבר. P X,Y נתבונן בהתפלגות המשותפת של X ו Y על ידי: A=P {:X,Y A} S X S Y A X,Y A= B C B X,C Y lim sup אז ההתפלגות המשותפת תהיה: P X,Y B C =P x B, y C= P{ : X B,Y C } =P { : X B} { :Y C }= P {: X B } P {:Y C } אי תלות =P X B P Y C P X,, X A A = P X k A k k= בלתי תלויים אם"ם X, X, בהכללה שסכום ההסתברויות שלהם סופי, אז ההסתברות של ה A, למה: חלק ב' של Borel Catelli חלק א' אמר שאם יש סדרת מאורעות החלק השני אומר: P lim sup A = והמאורעות בלתי תלויים אז = P A אם מתקיים = היא. P k= A C k = k= lim sup A C = = A k C = = = P C Ak = P Ak k = e P A k k= =exp k = sice x e x P lim sup A = הוכחה A C C k =lim if A = כעת נתבונן במשלים P Ak = כיוון שהמשלים הוא אזי שיעור בהמשך ללמה דוגמה: נתונה סדרה אינסופית של ניסויי ברנולי ב"ת עם הסתברות הצלחה p. ={,}

34 מה ההסתברות שהשרשרת,, חוזרת אינסוף פעמים. A 3 ={a k :a 3 =, a 3 =,a 32 נגדיר את המאורע {= כלומר המאורע הזה אירע אם במקום ה 3 יש שרשרת כמבוקש. A 3 סדרה של מאורעות בלתי תלויים. ולכן = P A 3 ולפי הלמה של בורל קנטלי נקבל: = ואם נסכם נקבל pa 5 = p p p= p A 3 = P lim sup A וזו ההסתברות לקבלת המאורע "שרשרת,, שמתקיים בכל איבר בסדרה. = בלתי תלויים (=כל סדרה סופית שלהם היא בלתי תלויה) X שימוש נוסף נסתכל בסדרה של משתנים מקריים המקבלים ערכים חיוביים לפי החוק הבא: F X x= P X x = { x e x x ולכן: P X x= { x e x x נקבל: ו N כאשר x= log בפרט: נציב P X alph log =e log = עבור אינסוף ים. X log כנ"ל מה ההסתברות ש X שאלה: בהנתן סדרה אינסופית הערה אפשר לומר שכל X הוא משתנה שלא "אוהב" להיות גדול, כי ההסתברות שלו להיות די גדול דועכת ממש מהר. נסמן: A ={ : X log } אלו מאורעות בלתי תלויים. כרגע אם נסתכל בסכום ההסתברויות אם הוא יהיה סופי אז הלמה הראשונה תבטיח לנו שההסתברות לכך שאינסוף מהם אירעו היא אפס, מצד שני אם הסכום הוא אינסופי לפי הלמה השניה נקבל שההסתברות היא. P A = = = = { קיבלנו ש P X log i.o. = ofte { p X,Y x, y ועל ההסתברות של יחידון כ S X S Y סכום של משתנים מקריים יהיו X,Y משתנים מקריים נזכיר שאנחנו חושבים על זה כעל נגדיר משתנה מקרי Z כך: Z =X Y מה ניתן לומר על ההתפלגות של Z?? F Z נשאל מה הערך של z= P Z z=p {: Z z} {:Z z}= נכתוב אחרת: F Z z= x S X P X =x,y,= z x= x S X {: X = x,y z x}= y z x x S X {: X =x,y z x} y z x P X =x,y = y נשים לב שכאן עשינו שימוש ברישום: {: X = x, Y = y} F Z z= x S X p X,Y x, y y z x

35 p Z z= x F Z z= x y=z x p X x y z x p X, Y x, y = x p Z z= x p Y y= x p X,Y x, z x אם X,Y בלתי תלויים אז p X x p Y z x p X x F Y z x דוגמה: X ~Poi Y ~Poi 2 אם הם בלתי תלויים אז: p X,Y x, y= p X x p Y y= e x! x e 2 y! y 2 מהי ההתפלגות של?Z=X+Y z p Z z= p X,Y x,z x= e 2 x z x 2 x= x= x!z x! z! z! = e z 2 z! z x= x lambda x z x 2 = e 2 z! 2 z כלומר גם זו התפלגות פואסונית עם מקדם שהוא סכום המקדמים. P X Y x y =P X =x Y = y= P X = x, Y = y P Y = y התפלגות מותנה הגדרה: = p x, y X, Y p X, Y w, y דוגמה: X,Y משתני ברנולי שנציג את התפלגותם המשותפת ע"י טבלה: Y\X w אזי: P X Y =.4.4. P X Y = דוגמה מספר הביצים שחרק מטיל הוא משתנה מקרי Poi כל ביצה מתפתחת בהסתברות p מה ההסתברות שבהטלה מסויימת יתפתחו k חרקים? X מספר הביצים שהוטלו Y מספר החרקים שהתפתחו והשאלה היא P Y =k לפי הנתון X ~Poi וגם Y X =~B, p P Y =k = P Y =k X =P X = (לפי חוק ההסתברות השלמה להתפלגויות) =

36 = e pk k! p X X Y k = = בעצם אין טעם לסכום כאשר k ולכן זה: =k k pk p k e! נשנה את הסכימה כך שתתחיל מ (וכך נחליף את ה ב :(+k k = k pk p e k! k =! [ p] =e p pk ~Poi p k! הערות. P X,Y x, y= p X Y x y p Y p Y y.2 p X,Y Z x, y z=p X =x,y = y Z =z e p X Y, Z x y, z=p X =x Y = y,z=z.3 p X,Y,Z x, y, z= p X Y, Z x y, z p Y Z y z p Z z תרגיל יהיו שני משתנים מקריים פואסוניים בלתי תלויים: X ~Poi Y ~Poi 2 מהי ההתפלגות המותנה של X בהנתן?X+Y P X =k, X Y = P X Y = k e 2 k! k! 2 k e 2! 2 = k = P X =k P Y = k P X Y = אי תלות 2 k X X Y =~B, 2 k 2 X ~Poi2 Y ~Poi3 X Y =7 X ~B 7, 2 5 שיעור 3 התפלגויות מותנות P X,Y Z,W, x, y z,w,... כלל הכפל: p X,..., X x,, x = p x x x p x x x 2 p x

37 מחלקה מיוחדת של סדרות של משתנים מקריים: px k x, x, x k = p x k x k כלומר "העתיד אינו תלוי בעבר בהנתן ההווה) במתמטיקה זה נקרא מרקוביות (Markov) p X k X k אם פונקציה שאינה תלויה ב k אז הסדרה נקראת הומוגנית בזמן במקרה זה: p X k X k x k x k =M X =a matrix k, X k לסדרה של מ"מ כנ"ל קוראים שרשרת מרקוב Chai) (Markov px,, x =M X, X M X, X 2 M X, X px x נסכום על כל הערכים האפשריים של, x, px = M X, X px x תוחלת ) Expectatio ( X : S R X P {} ממוצע משוקלל של, X המשקל הוא ההסתברות. אם הסכום הזה מתכנס בהחלט אז נקרא לו התוחלת של המשתנה המקרי. X והוא מסומן ב ] X E [ X {x} E [ X ]= X P {}= x S X {x} x S x X {x} = x S x S P {x}= x S X {x} x p X x p X k= 6 דוגמאות. זורקים קוביה מה התוחלת של התוצאה? }=S {6 תוצאת ההטלה, אז X ו והתוחלת: 6 E [ X ]= k p X k = 2 k= 6 =3.5 =! p k k p k= k! k! k pk E [ X ]= k k= = p k= k pk E [ X ]= k e k=.2 X ~B, p p k! p = k p k k= k!k! נשחק עם האינדקסים: הבינום של ניוטון p k = p p p = p k! k = k = e k! k = k =.3 X ~Poi e k! k =.4 X ~Geo p

38 E [ X ]= k= k p q k p= p k q k = p d k = d q k = = p d d q q = p k q = p d d q q q = p d q 2 = p נגזרת פנימית לפי q d q q q q 2 = p נעיר כי אפשר להוכיח כי =[ X E [ גם ע"י שינוי אינדקסים כך ש k יתחיל מ ופיתוח אחר, אפשר למצוא את זה p בסיכומים של רז וזה אולי פחות מסובך. הפיתוח לעיל עם גזירה של טור חזקות הוא זה שראינו בכיתה. x p X x x S E [ X ]= X P {} שיעור 5 נזכיר שהגדרנו את התוחלת: והוכחנו שזה שווה ל נדגיש את ההבדל בין תוחלת ובין ממוצע - אנחנו לוקחים X תוצאת ניסוי: פעמים, ניסוי זהה, הניסויים בלתי תלויים. ממוצע = מספר הפעמים שיצא k k k = דוגמה X משתנה מקרי המקבל ערכים,,2 את ההסתברות אפשר להציג כטבלה: x 2 p X x לדוגמה Y = X 2 וכעת התוחלת תהיה = 2 3 נגדיר משתנה מקרי נוסף Y =g X מהי התוחלת של Y. x 4 p Y x וכעת התוחלת תהיה = Y =g X אז נקבל נראה כאילו חישבנו בשני המקרים משקל כפול הסתברות לכל ערך אפשרי וסכמנו. p X ויש Y המוגדר ע"י עושה רושם שאם יש משתנה מקרי X עם התפלגות x E [Y ]= g x p X x x S x E [Y ]= y p Y y אבל זו בכלל לא ההגדרה של התוחלת, שאמורה להיות y S y רק "במקרה" זה מתלכד... ובעצם העובדה שהם מתלכדים היא: משפט הסטטיסטיקאי הלא-מודע,,P מ"מ מעל מרחב הסתברות X p X עם התפלגות נקודתית x g :R R אזי:

39 p Y y= P{:Y = y}=p {: g X = y}=p {: X y g x p X x x g y E [Y ]= y y=g x E [ g x]= g x p X x x S (בהנחה שאגף ימין סופי) הוכחה: נגדיר Y =g X S y =g S X הטווח של = g g y set of p X g y= x g y y p X x x g y x g y y ' s sources p X x אז: } והתוחלת היא: אבל נטען כי אם אז ואז התוחלת תהיה שזה בעצם E [ g x]= g X P {}= x X x g X P {}= x x X x = x g x p X x הוכחה חליפית g x P {} g x p X x אבל כאן השתמשנו באופן סמוי בכך ש היא קבוצה בת מניה, ולכן זה פחות מוצלח. X =a ומשתנה מקרי כזה יש לו התפלגות: הערות. אם a R נוכל לתת משמעות לתוחלת של a אם נגדיר p X x= { x=a otherwise.2 g :R 2 R כאשר p X,Y x, y מ"מ X,Y E [ g X, Y ]= g x, y p X, Y x, y x y והרחבה לכל מספר סופי של משתנים מקריים. מסקנה תוחלת היא פונקציונל לינארי כלומר: E [a X b Y ]=a E [ X ]b E [Y ] הוכחה E [a X b Y ]= axby p X,Y x, y=a x p X,Y x, yb y p X,Y x, y=... x, y x, y x, y הסיבה העמוקה יותר היא שתוחלת היא אינטגרל, ואינטגרל הוא פונקציונל לינארי. הרבה דברים מאד מסובכים נעשים טריוויאליים אם זוכרים שתוחלת היא פונקציונל לינארי. הגדרות יהא X מ"מ M k המומנט ה k של X יוגדר ] k [ X ]=E [ X

40 ] k C k [ X ]=E [ X E [ X ] המומנט המרכזי ה k של X יוגדר ] 2 Var [ X ]=E [ X E [ X ] שונותשל X היא המומנט השני של X שתסומן ] X X =VAR[ סטיית התקן היא השורש של השונות שתסומן X ונפתח סוגריים בהגדרת השונות: נסמן ] X = E [ Var [ X ]=E [ X X 2 ]=E [ X 2 2 X X 2 X ]= E [ X 2 ] 2 X E [ X ]E [ 2 X ]=E [ X 2 ] E [ X ] 2 יהיו a,b קבועים אז Var [a X b ]=E [a X b E [a X b ] 2 ]=E [a 2 X E [ X ] 2 ]=a 2 Var [ X ] p X p X = בהסתברות. E [ X X ]= kk k= E [ X 2 ]= k = וזה אפס אם"ם 2 = k = k pk טענה אם השונות היא אז ] X X =E [ הוכחה Var [ X ]= x X 2 p X x x q k = k =2 דוגמה: X ~B, p ראינו ש E [ X ]= p! k!k 2! pk q k! 2 k! k! pk2 q 2 k = p 2 Var [ X ]=E [ X 2 ] E 2 [ X ] 2 k k pk q k = E [ X X ] E [ X ]= p 2 p Var [ X ]= p 2 p p 2 = p 2 p= p p דוגמה: X ~Poi התפלגות פואסון היא גבול של B, p p p Var [ X ]= E [ X ]= הגדרות: Y,X משתנים מקריים, השונות המשותפת שלהם Covariace תהיה: Cov [ X, Y ]=E [ X E [ X ]Y E [Y ]] x X y Y p X,Y x, y = x, y קבוע הקורלציה שלהם הוא: X, Y = Cov[ X, Y ] X Y אם לשני משתנים מקריים שונות משותפת אפס, נאמר שהם חסרי קורלציה. נזכיר משהו שאולי הוכחנו (אולי בתרגיל...) אז בהנתן שני משתנים מקריים בלתי תלויים, בהנתן כל שתי פונקציות ממשיות

41 ו hx gy אזי גם h ו g הם משתנים מקריים בלתי תלויים, זה גובל בטריוויאליות. טענה ] E [ g X hy ]=E [ g X ] E [hy אם X,Y משתנים מקריים בלתי תלויים אז הוכחה קצרצרה E [ g X h Y ]= g xh y p X, Y x, y = g x p X x hu p Y y x, y x y אין קורלציה מסקנה אי תלות מדוע? כי אי תלות משמעה: Cov [ X,Y ]=E [ X X Y Y ]=E [ X X ] E [Y Y ]= טענה אין קורלציה לא בהכרח גורר אי תלות! X\Y X,Y תלויים לפי הטבלה. X = 3 Y = Cov [ X, Y ]= = 9 9 = שימושים בלינאריות של התוחלת. טענה Var[ X Y ]=E [ X Y X Y 2 ]=E [ X X 2 Y Y 2 2 X X Y Y ] =Var [ X ]Var [Y ]2Cov [ X,Y ] כלומר השונות אינה לינארית אלא אם אין קורלציה בין המשתנים המקריים ובפרט אם הם בלתי תלויים. Var [ i= X i ]= i= הרחבה Var [ X i ]2 Cov [ X i, X j ] i j.2 X ~B, p Var [ X ]=p p E [ X ]=p Idepedet idetically distributed כלומר iid נסמן זאת,p משתני ברנולי בלתי תלויים עם פרמטר X i i= X = i= X i אז X יסמן כעת את המשתנה המקרי של סכום המשתנים המקריים לעיל כלומר ~B, p E [ X ]=E [ i= ואז: X i ]= E [ X i ]= E [ X ]=p i=

42 X הוא משתנה ברנולי עם פרמטר p אז E [ X ]= p E [ X 2 ]= p Var [ X ]= p p 2 = p p Var[ X ]=Var [ X i ]= Var [ X i ]= p p i = i=.3 המזכירה המבולבלת, מה תוחלת מספר המכתבים שהגיעו ליעדם? X i = { letter reached destiatio otherwise E [ X i ]= X = i= X i E [ X ]= = מספר המכתבים שהגיעו ליעדם = שיעור 6 בהמשך לשאלת המזכירה המבולבלת/ המלחים השיכורים / מסיבת הפיראטים: מה השונות של X? Var [ X ]= Var [ X i ]2 Cov[ X i, X j ] i= i j =Var [ X ]= Var [ X ]2 2 cov[ X, X 2 ] ניזכר בהגדרה של שונות משותפת: Cov [ X, X 2 ]=E [ X E [ X ]X 2 E [ X 2 ]]=E [ X X 2 X E [ X 2 ] X 2 E [ X ]E [ X ] E [ X 2 ]] =E [ X X 2 ] E [ X ] E [ X 2 ] ולכן נשים לב שמכפלה של המשתנים המקריים כאן גם היא משתנה מקרי והיא ההסתברות שגם המכתב ה i וגם המכתב ה j הגיעו ליעדם ולכן המשך החישוב הקודם: Var [ X ]= Cov [ X, X 2 ]= E [ X X 2 ] P X =, X 2 =2P X =2 X =P X == Var [ X ]= i 2 2 E [ X ] E [ X 2 ] 2 = = 2 הערה: נשים לב שמכאן אפשר לראות שסיפור המזכירה המבולבלת (או המלחים וכו'...) הוא המשתנה המקרי הכי דומה למשתנה פואסוני שהוא עדיין סופי. תרגיל 2 קלפים: 2 2 לוקחים m קלפים אקראיים, מהי התוחלת של מספר הזוגות שנשארו שלמים? X k = { the k couple remaied itact otherwise k = X k מספר הזוגות השלמים יהיה = X = E [ X ]= E [ X ] 2 m P X == 2 2 m

43 חוזרים לבעיית אוסף הקופונים. מספר הקופונים שיש לרכוש עד השלמת אוסף מלא בגודל = X נשאל כעת מהי התוחלת. נחשוב על התהליך. בהתחלה אני רוכש קופונים עד שאני מקבל קופון כלשהו (זה ) ואחר כך עד שאני מקבל קופון שונה מהקופון הראשון וכן הלאה, לכן אפשר לחשוב על התהליך כ צעדים שבהם בכל צעד אנחנו רוצים להגדיל את אוסף הקופונים שלנו ב. = מספר הקופונים שקניתי בין הרגע בו היה לי אוסף בגודל k ועד שהיה לי אוסף בגודל +k X k נזכיר כי מרחב המדגם הוא סדרות אינסופיות של קופונים. X k X = k= E [ X ]= k= X k E [ X k ] נטען ש הוא משתנה גיאומטרי, היינו מספר הפעמים שיש לחזור על ניסוי ברנולי עד להצלחה, ולכן: X k ~Geo k E [ X k ]= k E [ X ]= = k k k= k= זהו המספר ההרמוני, אשר מתבדר כמו log ומכאן שבהנתן שצריך לאסוף, קופונים בממוצע נצטרך לאסוף, log, קופונים כדי להשלים את האוסף. E [ X ]= x x p X x x a p X a=a E [ X ] a תכונות נוספות של תוחלת. בהסתברות מדוע? כי E [ X ] = x x p X x x X a.2 E [ X ] E [ X ] if defied הוכחה x p X x=e [ X ].3 אם E [ X ] = אז E [ X ]= E [ X ] = = לא נוכיח זאת כי זה קצת מהתחום של תורת המידה, אבל לעיתים נשתמש כדי להיעזר באדיטיביות במקרים אינסופיים. משתנה מקרי המקבל ערכים טבעיים ונגדיר: X i = { i=.3 נניח ש X X i otherwise וכעת נגדיר את X: X i = = X i X