67865 כלים מתמטיים 7 בינואר 2014 מרצה: מיכאל בן אור מתרגל: צור לוריא איני לוקחת אחריות על מה שכתוב כאן, so tread lightly אין המרצה קשור לסיכום זה בשום

תמליל

1 67865 כלים מתמטיים 7 בינואר 2014 מרצה: מיכאל בן אור מתרגל: צור לוריא איני לוקחת אחריות על מה שכתוב כאן, so tread lightly אין המרצה קשור לסיכום זה בשום דרך הערות יתקבלו בברכה nogarotman@gmailcom אהבתם? יש עוד! wwwbitly/integrali 1

2 תוכן עניינים 4 הקדמה 01 4 מנהלות 02 5 הסתברות 1 5 הסתברות בדידה 11 5 הגדרות בסיסיות אי שיוויונות פשוטים בהסתברות שימושים במומנט שני 2] E [ X 13 בעיה מעניינת ושימושית כדורים ותיבות 15 Balls and Bins הליכה מקרית על הישר א"ש צ'רנוף (Hoeffeding) מרחבי הסתברות אחרים דוגמא אחרונה למשפט ריכוז משפט הגבול המרכזי דוגמא לשמוש במשפט הריכוז של Azuma תרגולים ) ( 26 2m 131 חסמים על 29 m 30 שימוש קומבינטורי לא"ש צ'רנוף משתנים מקריים רציפים אלגברה לינארית ושימושיה 2 33 תזכורות מהעבר הגדרות בסיסיות העתקות לינאריות Transformations) (Linear מטריצות וערכים עצמיים פולינומים מעל שדות סופיים כמה דוגמאות לשימושים של פולינומים מעל שדה נורמות ומרחבים מטריים דוגמאות מאוד חשובות של נורמות פרספקטיבה גיאומטרית של נורמות אי שיוויונים מטריצות ופרספקטיבה גיאומטרית פירוק SV D של מטריצות מטריצות סימטריות ממשיות ושרשראות מרקוב תהליכים מקריים ושרשראות מרקוב גרפים מרחיבים תרגולים שיטת החזקה לחישוב ע"ע Power iteration אי שיוויון קושי שוורץ גיאומטריה טרנספורם פוריה משפט ה D SV הילוכים מקריים ושרשראות מרקוב דגימה של זיווג מושלם זמן ערבוב והפער הספקטרלי תכנון לינארי 3 2

3 104 הצגת הבעיה 31 ייצוגים שונים של בעיה בתכנון לינארי ופתרונותיה הצגות שונות של בעיה בתכנון לינארי אוסף הפתרונות המותרים כיצד נראית הקבוצה P על פוליטופים קמורים דואליות בתכנון לינארי 33 תרגולים שתי הצגות לתוכנית לינארית פוליטופים קמורים דוגמא להרצה של אלגוריתם הסימפלקס 343 רשימת אלגוריתמים 1 אלגוריתם הסימפלקס 116 3

4 01 הקדמה מה נלמד? "דברים שצריכים להיות בקצות אצבעותיכם בכל תחומי מדעי המחשב" כל מה שנלמד היום אמור להיות לכולנו חזרה ולא יותר מזה מכיוון וזה קורס יותר מתקדם, נתקדם יותר מהר, הדוגמאות יהיו יותר מורכבות ממה שראינו בעבר, וכו' מנהלות לקורס יש אתר שהוא כרגע ריק באתר בשנה שעברה יש את כל החומר בפרט יש שם הפניה לסיכומי הרצאות משנים קודמות מבחינה האדמיניסטרטיבית ישנו תרגול שבועי דרישות: בסיום כל פרק נעשה בוחן קטן (בערך 10 דקות) שכל אחד שקרא ויודע אמור לעשות אותו בלי בעיה ברגע זה מתוכננת בחינה סופית לקבוצות קטנות יותר המרצה מעדיף לתת עבודה, אבל זה עלול להיות מסורבל ועל כן רב הסיכויים שתהיה בחינה :( אתר הקורס: ותיבת הדואר של הקורס להגשת תרגילים: wwwcshujiacil/ mathtool2 תרגיל בכל שבוע להגשה ביום חמישי תא להגשת תרגילים ברוס 1 או הגשה אלקטרונית לאימייל של הקורס התרגילים לא יבדקו, אולם בסוף כל נושא (יהיו שלושה נושאים) יערך סבב ראיונות רישום דרך האתר של הקורס הראיונות האלו יהיו 20% מהציון הסופי בנוסף יהיו בחנים בסוף כל נושא, שיהוו 10% מהציון הסופי 1 שעות קבלה של המתרגל: ימי שלישי 16 : : 00 ברוס, 1 חדר 36 ספר מומלץ: The Probabilistic Method - Alon &Spencer 1 שאלות פשוטות "נסח את אי שיוויון צ'ביצ'ב" ולא "הוכח את אי שיוויון צ'ביצ'ב" 4

5 1 הסתברות השיעור נדבר בעיקר על הסתברות בדידה 11 הסתברות בדידה 111 הגדרות בסיסיות הגדרה 11 מרחב הסתברות דיסקרטי (סופי או בן מניה) מורכב מקבוצה Ω ופונקציה : r P R} Ω R + = {x 0 x לממשיים החיוביים כך ש: P r [ω] = 1 ω Ω בהמשך נכליל המושג להסתברות רציפה למשל הגדרה זו אינה מתאימה להגדרת הסתברות על הקטע בין 0 ל 1 הגדרה 12 מאורע (Event) הוא קבוצה Ω A כך ש: P r [A] = ω A P r [ω] כאשר [A] P r היא ההסתברות של המאורע A אי תלות הגדרה 13 שני מאורעות Ω,A B נקראים בלתי תלויים (Independent) אם: P r [A B] = P r [A] P r [B] לדוגמא: ניקח את מרחב ההסתברות של n הטלות מטבע (הוגן) Ω =,0} {1 n = 1 [ω],p r ונגדיר את שני המאורעות: 2 כאשר ω {0, 1} n n A = {x = (x 1,, x n ) {0, 1} n x 1 = 0} B = {x = (x 1,, x n ) {0, 1} n x 2 = 0} P r [A] = A Ω = 2n 1 2 n = 1 2 = P r [B] P r [A B] = 2n 2 2 n = 1 4 = הגדרה A 1,, A k 14 הם מאורעות בלתי תלויים, אם לכל תת קבוצה של אינדקסים S = {i 1,, i t },{1,, k} S מתקיים: P r [A i1 A i2 A it ] = P r [A i1 ] P r [A it ] 5

6 הגדרה 15 מאורעות אלו נקראים בלתי תלויים בזוגות, אם כל שני מאורעות מתוכם בלתי תלויים במדעי המחשב רואים הרבה מאוד מאורעות שהם בלתי תלויים בזוגות או בשלשות, אך לא בלתי תלויים הסתברות מותנית rob) (Conditional P הגדרה 16 בהנתן A, B מאורעות, כאשר 0 [B],P r ההסתברות המותנית של A בהנתן B מוגדרת להיות: P r [A B] = P r [A B] P r [B] לדוגמא: נביט במרחב מהדוגמא הקודמת ללא ידע אנו רק יודעים שיש הסתברות אחידה לכל סדרה נגיד ואנו יודעים כי מאורע B קרה בהנתן הידע הזה, מה אנחנו יודעים על ההסתברות של המאורע הראשון? האם הידע שלנו השתנה? מכיוון ו B,A בלתי תלויים: P r [A B] = P r [A B] P r [B] = P r [A] P r [B] P r [B] = P r [A] כלומר, הידע שלנו לא משתנה אמ"מ המשתנים הם בלתי תלויים משתנים מקריים ממשיים ariables) (Random V הגדרה 17 משתנה מקרי ממשי הוא פונקציה f : Ω R לדוגמא: בהנתן קבוצה W, R ניתן לדוגמא להגדיר את המאורע: A = {ω Ω f (ω) W } בהנתן מאורע Ω, A ניתן להגדיר את הפונקציה המציינת unction) :(Indicator F { 1 ω A I A (ω) := 0 otherwise הגדרה 18 הערך הממוצע של f על מרחב ההסתברות, או התוחלת (Expectation) של f היא: E [f] = ω Ω P r [ω] f (ω) נשים לב כי לא תמיד התוחלת קיימת הטור לא תמיד מתכנס! במקרים שאנחנו נתעסק בהם, התוחלת תהיה לפחות קיימת (אם כי יתכן ותהיה אינסופית) 6

7 Ω = {1, 2,, n, } P r [k] = 1 2 k, k=1 1 2 k = 1 f (k) = 2 k E [f] = 1 f (k) = 2 k ( 1) k E [f] does not exist =a {}}{ k=1 k 2 k = k=1 1 2 k + k=1 k 1 2 k = a = a 1 2 a = 1 a = 2 k=1 k 1 2 k 1 = k=1 לדוגמא: k 2 k התוחלת של משתנה גיאומטרי מטילים מטבע {1,0}, ונסמן: P r [1] = p, P r [0] = 1 p כמה פעמים יש להטיל את המטבע על ל"הצלחה" הראשונה? לכל n, מגדירים מ"מ על {,n,,2,1} כך ש: P r [n] = (1 p) n 1 p כלומר, הפסד בכל ההטלות עד ל n ואז הצלחה נגדיר f (n) = n אזי, תוחלת מספר הטלות המטבע עם הסתברות הצלחה p הינה [f] E, וכפי שראינו בקורסים קודמים היא שווה ל p 1 מרחב המ"מ אם מתבוננים על מרחב של הפונקציות: f : Ω R זהו מרחב לינארי מעל R בהנתן g, f : Ω R וכן,α, β R מתקיים: h = (α g + β f) : Ω R (α g + β f) (ω) = α g (ω) + β f (ω) הערה 19 התוחלת היא לינארית: [ ] E αg + β f = α E [g] + β E [f] 7

8 משתנים מקריים בלתי תלויים הגדרה 110 שני משתנים מקריים הם בלתי תלויים, אם לכל שני ערכים R,,s t המאורעות f (ω) = s ו t g (ω) = הם בלתי תלויים השונות arience) (V הגדרה 111 נסמן את התוחלת של משתנה מקרי X : Ω R ב η E [X] = השונות היא ההבדל בין המ"מ לתוחלת: V ar (X) = V = E [(X E [X]) 2] הגדרה 112 סטיית התקן σ של המ"מ הנ"ל הינה σ 2 = V V = E [ X 2] (E [X]) 2 := V ar [X] ומקבלים מחישוב קצר: 112 אי שיוויונות פשוטים בהסתברות כדי להעריך הסתברויות שונות עלינו להשתמש בחסמים {A i } i I אוסף של מאורעות,,A = i I A i אזי: חסם האיחוד אם P r [A] i I P r [A i ] הוכחה: נובעת ישירות מההגדרה של [A] P r כסכום ההסתברויות של אברי A אי שיוויון מרקוב (Markov) יהי X 0 מ"מ לא שלילי, ו c 1 קבוע כלשהוא אזי: P r [X > c E [X]] 1 c הוכחה: מקורס הסתברות אי שיוויון צ'ביצ'ב (Chebychev) יהי X מ"מ עם תוחלת E [X] = µ ושונות = V :1 c אזי לכל קבוע σ 2 = V,σ וסטיית תקן V ar [X] P r [ X µ > c σ] 1 c 2 ההוכחה מוכחת מתוך אי שיוויון מרקוב (ניתן לראות בקורס הסתברות) אנחנו נשתמש ונוכיח בהמשך אי שיוויונות יותר מסובכים 8

9 דוגמא נתבונן באוסף הפרמוטציות על n איברים: S n = {π π : [n] [n], π is }, [n] = {1,, n} אנו יודעים כי n!, S n = נסמן Ω = S n עם התפלגות אחידה: P r [π] = 1 n! בהנתן פרמוטציה מקרית, מהי תוחלת מספר האיברים שנשארים במקום? יהי X המ"מ: X (π) = # {i π (i) = i} מהי התוחלת [X] E? E [X] = 1 טענה 113 הוכחה: בעזרת הלינאריות של פונקציית התוחלת: נתבונן במ"מ: { 1 π (i) = i X i (π) = 0 otherwise נשים לב כי X i היא הפונקציה המציינת של המאורע "i נשאר במקום" כעת: n X = נחשב המאורע הזה מקבע רק איבר אחד במקום ספציפי, ושאר האיברים האחרים יכולים לעבור לכל מקום אחר על כן: E [X i ] = S n 1 = S n n E [X] = X i (n 1)! n! = 1 n E [X i ] = n 1 n = 1 עוד דוגמא! באופן הבא: כל פרמוטציה π S n ניתן לפרק לאוסף של ציקלים ( Cycles )/מעגלים זרים 1 π (1) π (π (1)) 1 מעגל באורך אחד הוא איבר שנשאר במקום π (i) = j π (j) = i הוא מעגל באורך 2 אם (i, j) מעגל באורך k ב π הוא אוסף של איברים שונים i 1,, i k כך ש: π (i 1 ) = i 2, π (i 2 ) = i 3,, π (i k 1 ) = i k, π (i k ) = i 1 ונסמן ) k (i 1,, i 9

10 למה 114 יהי X k : S n N פונקציה הסופרת את מספר המעגלים באורך k המופיעים בפרמוטציה אזי, כאשר בוחרים S n π בהתפלגות אחידה: E [X] = 1 k נשים לב כי עבור = 1 k מקבלים 1, ועבור k = n יש!(1 n) פרמוטציות שמקיימות זאת (n 1)! הוכחה: n! + 0 = 1 n (כל האיברים על מעגל), והתוחלת המתקבלת במקרה זה היא תהי F k אוסף המעגלים השונים באורך k על n איברים נגדיר יחס שקילות על סדרות של :{1,, n} איברים מתוך k (i 1,, i k ) (i k, i 1,, i k 1 ) (i k 1, i k, i 1,, i k 2 ) F k = ( n k ) (k 1)! אזי: בהנתן ) k,f k (i 1,, i נגדיר: { 1 (i 1,, i k ) π X (i1,,i k ) (π) = 0 otherwise X k = E [X k ] = F k (i 1,,i k ) F k X (i1,,i k ) E ( ) (n k)! X (i1,,i k ) = n! (n k)! n! = אזי: נחשב את התוחלת של ) k : X (i1,,i n! (k 1)! (n k)! k! (n k)!n! ומלינאריות התוחלת: = 1 k דוגמא מתורת Ramsey ישנה תופעה קומבינטורית מעניינת כשלוקחים דברים "גדולים", קשה מאוד שלא יהיה בהם איזשהוא סדר איזה מבנה מאוד יפה, או דברים דומים בתופעה זו עוסקת תורת רמזי נתבונן בגרף המלא E) G = (V, על n קודקודים ;K n נסמן n},v = {1,, ו E היא קבוצת כל הקשתות נבחר צביעת קשתות {R f : E,B} אזי, לכל k, l טבעיים קיים l) 2 R (k, כך שלכל צביעה של קשתות R (k, l) n,k n בשני צבעים אדום וכחול, או שיש קליקה אדומה בגודל l, או שיש קליקה כחולה בגודל k 2 כאשר R הוא מספר הנקרא "מספר רמזי", התלוי ב k ו l 10

11 הערה 115 ההוכחה הסטנדרטית נותנת חסם: ( ) k + l 2 R (k, l) k 1 R (k, k) 2 2k = 4 k ועבור :k = l במילים אחרות, בכל גרף על n קודקודים או שיש קליקה בגודל, 1 2 log 2 n או שיש אנטי (כלומר הצביעה בשני הצבעים קובעת אם קיימת או לא קיימת 1 קליקה בגודל 2 log 2 n קליקה) R (k, k) 2 k /2 טענה 116 מתקיים: או במילים אחרות, קיימים גרפים בגודל n שבהם אין קליקה או אנטי קליקה בגודל 2 log 2 n הוכחה: נתבונן במודל של גרף הסתברותי (p G:,n) זהו גרף על n קודקודים שכל קשת = 1 2 p מקבלים התפלגות אחידה קיימת בהסתברות p, וקשתות שונות הן בלתי תלויות עבור על כל הגרפים נשתמש בערך זה (ההוכחה נובעת מכך!), ונגדיר משתנה מקרי (G) = X מספר הקליקות בגודל,k = 2 log 2 n ומשתנה מקרי נוסף (G) = Y מספר האנטי קליקות בגודל k כמו כן, נגדיר מ"מ: { 1 S is a clique in G X S = X = X S 0 otherwise S =k E [X S ] = P r [S is a clique in G] = ( ) 1 k(k 1) 2 2 וכנ"ל עבור Y S אזי: כדי להוכיח את הטענה על מספר,Ramsey נראה שעבור ה k שבחרנו מתקיים: E [X + Y ] < 1 שכן התוחלת הזו היא מספר הקליקות ועוד מספר האנטי קליקות, ואם זה מתקיים אז חייב להיות קיים גרף עבורו המספר הזה שווה לאפס (אחרת הממוצע היה גדול או שווה מ 1 ), כלומר קיים גרף G עבורו: X (G) = Y (G) = 0 E [X] = E [Y ] נשים לב: E [X] = ( n E [X S ] = k S =k ) 2 k(k 1) 2 nk k! איך נחשב את התוחלת הזו? ) k (2 k

12 בסיכום מופיע שימוש בנוסחאת סטרלינג, לאחריה מתקבל: = 2k /2 k! ( ) k n 2 k 2 וכאשר בוחרים k 2 log 2 n מקבלים: 2k /2 k! k 0 נזכור כי בסוף ההוכחה מעלה קיבלנו מ"מ X 0, כאשר (ω) X לכל ω Ω הוא מספר שלם אם כך, כאשר קיבלנו כי < 1 [X] E, המשמעות היא כי קיים ω Ω כך ש: E [X n ] n = 0 (ω) 3 X למעשה, הראנו כי 0 עולה השאלה, מה קורה כאשר דוגמים במרחב? אולי לפעמים המספר מאוד גדול, אולי המספר מאוד קטן מעניין אותנו לדעת אינפורמציה יותר טובה רק מהתוחלת נשאל, מה קורה עם (0 = n P? r X) נטען כי הסתברות זו שואפת ל 1 אחרת, קיימת תת סדרה עבורה > 0 ε P r (X n 1) מכאן, > 0 ε,e [X] בסתירה למה שהוכחנו קיבלנו אם כך טענה הרבה יותר חזקה כמעט כל גרף שנבחר יקיים זאת לכך מתכוונים כשאומרים שכמעט בוודאות surely) X n = 0 (almost הגדרה A n 117 סדרה של מאורעות מתרחשת כמעט בוודאות (או כמעט בבטחה) אם P r (A n ) 1 בתרגיל שניתן לנו (בשאלה על מעגלים המילטוניים), רואים כי גם אם התוחלת לא שואפת לאפס (ולמעשה, במקרה של מעגלים המילטוניים שואפת לאינסוף) כמעט תמיד מקבלים P r (X n = 0) n אפס, כלומר: 1 במקרה שלנו, אנחנו יודעים מה קורה בהסתברות הרב מרוכז סביב 1 אפשר לדעת הרבה יותר על ההסתברות במקרה הכללי אם יודעים את התוחלת של,Xn 2 או בדרגות הרבה יותר גבוהות (וגם זה לעיתים לא מספיק) ככל שמוסיפים ממונטים יותר גבוהים, יש יותר מידע הסיבה במקרה שיש מומנט שני אפשר לחשב את השונות, ואז אפשר להשתמש בא"ש צ'בישב ולקבל תוצאות יותר טובות מא"ש מרקוב (וכמובן ויש א"ש מתאימים ומדוייקים יותר למומנטים גבוהים יותר) מטרתנו הינה לדעת איך מתנהג באמת X n אבל זה מאוד קשה, על כן נתמקד בלפחות לענות על השאלה האם X n באמת מרוכז סביב התוחלת? בהנתן 0 X, מא"ש מרקוב נקבל: P r [X a] E [X] a ומכאן אנחנו לא יודעים איך ההסתברות "זזה" אם מסתכלים על א"ש צ'בישב: P r [ X E [X] a] V ar [X] a 2 וזה כבר אומר ש"אי אפשר לזוז פה הרבה", וזה בתנאי שהשונות קטנה מהתוחלת בריבוע לשימוש הזה בצ'בישב או בשימוש התוחלת בריבוע נקרא שיטת המומנט בריבוע, ואותה נראה בשיעור זה: 3 למעשה המ"מ שלנו היה X + Y 12

13 113 שימושים במומנט שני 2] E [ X בהנתן סדרה של משתנים 0 n,e [X n ],X והשונות ] n V ar [X "לא גדולה מידי" (כלומר קטנה מהתוחלת בריבוע בהמשך טענה שמפרטת זאת), נוכל להסיק כי משתנה באמת יהיה מרוכז סביב התוחלת שלו, דהיינו כמעט בוודאות > 0 n X מדוע? אם לוקחים [X] a = E למשל, לא מקבלים כלום מא"ש צ'בישב אולם, ברגע ש [X] V ar קצת יותר קטן מהתוחלת, כבר מקבלים משהו P r [X = 0] V ar (X) E [X] 2 טענה 118 A = {ω X (ω) = 0}, B = {ω X (ω) E [X] E [X]} הוכחה: נתבונן במאורעות: V ar [X] P r [B] 2, P r [A] P r [B] E [X] A מא"ש צ'בישב: כי B דוגמא לשימוש נתבונן בגרף מקרי ) n G n = G,n) p גרף מקרי על n קודקודים; ההסתברות לכל צלע היא p נתבונן במאורע: "יש קליקה בגודל 4 בגרף G" למרבית התופעות האלו בגרפים (במיוחד לתכונות מונוטוניות ככל שיש יותר צלעות ההסתברות תעלה לקיום קליקה, למשל) יש סף ספציפי של p כמעט תמיד מעל הסף התכונה מתרחשת, וכמעט תמיד מתחת לסף התכונה לא מתקיימת ( ) טענה אם 2 3 n, 4 p n = o אזי כמעט בוודאות G לא מכיל 5 K 4 ( ) 2 אם 2 3 n p n = ω אזי כמעט בוודאות יש K 4 ב G הוכחה: את 1 ניתן להוכיח בשיטות של שבוע שעבר יהי X מ"מ המציין את מספר הקליקות בגודל 4 ב G אזי ניתן לסמן: X = T =4; T {1,,n} X T כאשר X T מ"מ המציין האם T הוא קליקה ב G : { 1 T is a clique in G X T (G) = 0 otherwise p n n 2 3 n 4 כלומר 0 5 כמובן שאנחנו מדברים כאן על סדרה של p n אם p קבוע, לשאיפה אסימפטוטית אין משמעות 13

14 אזי, התוחלת E X] T ] = p 6 (אם קיימות כל הצלעות בגרף בן 4 קודקודים) על כן: ( ) n E [X] = p 6 n 4 p 6 4 ( ) במקרה הראשון, כלומר אם 2 3 n,p = o אזי: n 4 p 6 n 0 ההוכחה של 2 תדרוש מאיתנו קצת יותר את חישוב השונות: ההסתברות שלא קיימת K 4 בגרף שואפת לאפס במקרה 2 מתקיים: נרצה להוכיח כי E [X] (n 3)4 4! p 6 n זה טוב ויפה, אבל איך נראה שכמעט תמיד באמת קיימת קליקה, הרי ייתכן שהרבה פעמים ההסתברות היא אפס, למרות השאיפה הנ"ל נרצה להראות כי 0 ar(x) V לשם כך, E[X] 2 נחשב את השונות: V ar (X) = E 2 X T E 2 X T = T =4 T,S; T = S =4 ( ) E [X T X S ] T =4 T,S; T = S =4 E [X T ] E [X S ] { }}{ = E [ { XT 2 ] }}{ E [XT ] 2 + E [X T X S ] E [X T ] E [X S ] T =4 T S; T = S =4 מכיוון ו X T הוא מ"מ מציין, דהיינו ערכיו הם אפס או 1, אז נוכל לוותר על הריבוע בביטוי השמאלי ביותר ב ( ) אזי מחישובים קודמים נקבל: ( ) E [X T ] n 4 p 6 << n 8 p 12 T =4 X T, X S הם מ"מ בלתי תלויים אלא אם כן = 2, 3 S T (במקרה בו (T S נזכיר כי אם,U V מ"מ, cov (U, V ) = E [U V ] E [U] E [V ] הוא ה coveriance אם X T ב"ת ב X, S אזי האיבר בסכום ( ) הוא אפס נותר אם כך לבדוק מה קורה במקרה בו החיתוך שווה ל 2 ובמקרה בו החיתוך שווה ל 3 : V n 4 p 6 + cov (X T, X S ) + cov (X T, X S ) T S =2, T = S =4 ( ) T S =3, T = S =4 14

15 איך מקרה התלות נראה? במקרה ש: 2 = S T *באיור*, צריך ש 11 הצלעות שבין 6 הקודקודים יתקיימו: ( ) ( ) ( ) n 4 n 4 E [X T X S ] = p T S =2 כאשר בימני ביותר בוחרים T, בשני בוחרים מתוך T חיתוך עם S, ולאחר מכן בוחרים השלמה ל S (בבחירה למעשה מגדירים את S) כל המספר שקיבלנו = (11 O ( n 6 p באופן דומה: T S =3 ( n E [X T X S ] = 4 ) ( 4 3 ) ( n 4 21 V n 4 p 6 + n 4 p 11 + n 5 p 9 = o ( n 8 p 12) ) p 9 = O ( n 5 p 9) ואם נסכם את הכל, נקבל את הביטוי הבא: ובמקרה בו 2 3 n p << נקבל כי הביטוי הזה שווה ל: V ar (X) E [X] בעיה מעניינת ושימושית כדורים ותיבות Balls and Bins 1 פרדוקס יום ההולדת: זורקים כדורים ל n תיבות יותר מכדור אחד 6 אזי אחרי בערך n כדורים, סביר שתהיה תיבה עם 2 בעיית איסוף הקופונים: כמה כדורים יש לזרוק עד שכמעט בוודאות אין תיבה ריקה? מהי ההסתברות שאין חזרות כאשר זורקים r כדורים ל n תיבות? P n,r =1 n 1 n 2 ( n (r 1) = n n n n ) פרדוקס יום ההולדת ( 1 r 1 ) n כל עוד r לא יותר מידי גדול, אפשר להשתמש בהערכה שאנחנו כבר מכירים: x e x 1 (עד כדי הקבוע), ואז נקבל כי הביטוי e r 1 i n = e r (r 1) 2n r 2 n 0 אם n) :r = ω ( 6 כלומר, מספר הכדורים חלקי n שואף לאינסוף ניסוח מסודר בהמשך 15

16 כלומר, כמעט בוודאות יש תיבה שיש בה יותר מכדור אחד בכיוון השני, אם n) :r = o ( r 2 n 0 P n,r 1 כלומר, כמעט בוודאות אין תיבה שיש בה יותר מכדור אחד באופן דומה נקבל הכללה: בוחרים שתי קבוצות מקריות, {n,a B,1} כך ש A =,k B = l באופן ב"ת, ונניח k l נשאל, מהי ההסתברות שהחיתוך של הקבוצות ריק\לא ריק? בה"כ אפשר להניח ש { k A, =,1}, ובוחרים B מקרית בגודל l מתוך {1,, n} ( n k ) P r (A B = φ) = = l ( n l ( 1 n k ) = (n k) (n k 1) (n k l + 1) l! l! n (n 1) (n l + 1) ) ( 1 k ) ( 1 k ) ( 1 n 1 n 2 e l 1 k i=0 n i e l k n e l 1 i=0 k n i e k l n l e 1 לעומת זאת, אם,l k >> n החסם העליון k l (n l) ) k n l + 1 אם,n >> k l החסם התחתון e l k,0 דהיינו החיתוך ריק n בעיית איסוף הקופונים טענה אם בוחרים m פעמים מתוך n איברים באופן בלתי תלוי, ו n m, << n log אזי כמעט בוודאות נבחרו כל האיברים 2 תוחלת הזמן עד שנבחר נציג מכל האיברים הוא (n) n log e n + O בהמשך נראה תוצאה הרבה יותר חזקה לא צריך לבחור כל כך הרבה באופן אסימפטוטי הוכחה: 1 יהי X מ"מ הסופר את מספר התאים הריקים נרצה להוכיח שכמעט בוודאות = 0 X ניתן לרשום: n X = i=0 כאשר X i מ"מ המציין אם האיבר ה iאי נבחר או לא (1 אם i לא נבחר, 0 אם נבחר) ( E [X i ] = 1 n) 1 m ( E [X] = n 1 1 ) m n X i נבחר ) n,m = n (log n + כאשר n 7 במקרה זה: [( E [X] n 1 1 ) n ] (log n+ n) = n e log e n n = e n 0 n 7 למעשה אנחנו מוכיחים כאן טענה חזקה יותר מהמבוקש 16

17 2 יהי Y מ"מ הסופר כמה בחירות היו עד שכולם נבחרו נסמן: Y = n כאשר Y i הוא מ"מ הסופר את מספר הבחירות מהרגע שנבחר האיבר ה ( 1 i) ועד לבחירת האיבר ה i אי (האיבר Y 1 הוא זהותית 1) נשים לב כי המשתנים המקריים Y i הם בלתי p 17 = n 16 n תלויים; Y 17 הוא מ"מ גיאומטרי עם הסתברות הצלחה בהנתן Y k מ"מ מפולג גיאומטרית עם הסתברות הצלחה E [Y k ] = E [Y ] = : n k+1 n n n k + 1 n k=1 n n k + 1 = n Y i H n {}}{ n k=1 P r (Y > 10n log e n) < k n log e n + O (n) מכאן בעזרת מרקוב נקבל: נרצה להוכיח כי הריכוז של ההסתברות היא באמת סביב התוחלת הזו השונות: n V ar (Y ) independance = V ar (Y k ) = ( ) נחשב את k=1 נזכור כי אם Z מפולגת גיאומטרית עם הסתברות הצלחה p, אז: V ar (Z) = 1 p p 2 1 p 2 ולכן: ( ) n ( ) 2 n = n 2 n k + 1 k=1 n k=1 1 k 2 n2 k=1 1 k 2 = n2 π 2 6 נשתמש בא"ש צ'בישב ונקבל: ( P r Y > n H n + c nπ ) < 1 6 c 2 ואם נבחר c = log n נקבל שאיפה לאפס, ולכן ההסתברות ממש מרוכזת סביב התוחלת נמשיך עם הסתברות, ונראה משפטי ריכוז עד כה ראינו את א"ש מרקוב וצ'בישב קיימות דוגמאות בהן הא"ש הללו הם הטובים ביותר, אולם עבור מקרים רבים אפשר להוכיח משפטי ריכוז חזקים יותר

18 115 הליכה מקרית על הישר מתחילים ב 0, ובכל צעד מטילם מטבע: בהסתברות ובהסתברות 1 2 זזים אחד שמאלה (1 ) כלומר: 1 2 זזים צעד אחד ימינה (1+), X i = { 1 p = p = 1 2 X = n יש הרבה תהליכים שקרובים לתהליך אך אחרי n צעדים נגיע לנקודה 1=i X i הרבה יותר מסובכים לניתוח לכן המקרה הזה מאוד מעניין, שכן הוא מאוד פשוט בהנתן + Z,l ההסתברות l) P r (X = מתרחשת אם הלכנו t צעדים ( 1) ו ( t (n צעדים (1+) עלינו למצוא את t מתקיים: n t t = n 2t = l t = n l על כן ההסתברות היא: 2 ולכן נכיע ל l אם ( ) ( ) n n n l t 2 P r (X = l) = 2 n = ( ) 2 n n n n l 2 P r (X a) = l=a כאשר ההסתברות מעלה קיימת כאשר האיבר העליון זוגי (כמעט חצי מהביטויים מעלה הם אפס) כדברי המרצה, "אפשר להסתכל על הביטוי הזה והוא פשוט יסתכל עלינו חזרה" כלומר, לא מיידי ואפילו קשה להעריך כמה הביטוי מעלה קטן עבור l אים גדולים עם זאת, ישנם כלים שיעזרו לנו במשימת ההערכה: נבחר פרמטר > 0 t כלשהוא (נמצא את הבחירה הטובה ביותר מאוחר יותר) X a ta e tx e ta tx הסיבה לשימוש במעבר ( ) לא ברורה, אך תדבהר בעתיד, ונובעת פשוט ממונוטוניות e לכן נקבל: 2 n P r (X a) = P r ( e tx Markov e ta) E [ e tx] e ta כעת נעשה אנליזה של המונה ושל המכנה, כאשר מעבר ( ) נובע מכך כי X i ב"ת: E [ [ e tx] = E [e ] n ] n txi = E e tx ( ) n = E [ e txi] E [ e txi] = 1 2 et e t = 1 2 [ k=0 t k k! + k=0 ] ( t) k כאן נחלק לערכים זוגיים ולא זוגיים כאשר האיברים אי זוגי מקבלים ביטול, כאשר הערך זוגי מקבלים את אותו ערך פעמיים (אפשר לשנות את סדר הסכימה שכן הטור מתכנס k! 18

19 = k=0 t 2k (2k)! 2 k k! (2k)! E [ e tx] n k=0 e t2 nt 2 = e 2 2 P (X a) e nt2 2 ta ( t 2 ) k 2 k k! = k=0 ( ) k t 2 2 k! = e t2 2 בהחלט) על כן: קיבלנו פרבולה בעלת מרכז חיובילאחר גזירה והשוואה לאפס נקבל כי המינימום מתקבל עבור: t = a n ערך זה יתן לנו את החסם הכי טוב כעת נציב ונקבל: a2 n e 2n 2 a2 n = e a2 2n P r (X a) e a2 2n ובאופן סימטרי: P r (X a) e a2 2n P r ( X a) 2 e a2 2n עבור מספרים גדולים, אם בוחרים למשל a, = n נקבל e 2, n 2 כלומר ביטוי אקספוננציאלי קטן, כלומר "לא מצפים לראות מופע כזה", כלומר קיבלנו חסם "אמיתי" = a החסם הוא אקספוננציאלי n 1100, a = n 4 אם לדוגמא בוחרים (n) a, = O כלומר,a = b n מקבלים: קטן במספר הצעדים, ואם בוחרים ) n,a = O ( n log e למשל log e n b n log n e n 1 n b, σ = n, V = n נרחיב את מה שעשינו מעלה למשפטים יותר כללים המשפטים הללו מופיעים בשמות רבים ושונים בספרות 116 א"ש צ'רנוף eding) (Hoef f משפט 121 יהיו X 1,, X n מ"מ ב"ת כך שכל X i הוא מציין של אירוע ) i X מקבל ערכי µ = E [X],X = n אזי: (0, 1 נסמן X i ( ) µ e δ δ > 0 P r (X (1 + δ) µ) (1 + δ) 1+δ (1) ( ) µ e δ 1 > δ > 0 P r (X (1 δ) µ) (1 δ) 1 δ (2) 19

20 הוכחה: נוכיח את אי השיוויון הראשון, השני מוכח באופן דומה שוב נבחר פרמטר > 0 t ( ) P r (X a) = P r ( e tx Markov e ta) E [ e tx] e ta, a = (1 + δ) µ באופן דומה למקרה של ההליכה המקרית, X i ב"ת, ולכן: E [ e tx] = n E [ e txi] אם X i מציין של מאורע המתרחש בהסתברות p: i E [ e txi] = p i e t + (1 p i ) e 0 = 1 + p i ( e t 1 ) כפי שהביטוי כתוב קשה להעריכו, על כן נשתמש בעובדה כי לכל + x e x x, 1, ונקבל: E [ e txi] e pi(et 1) E [ e tx] = n E [ e txi] n ( ) E [X i ] = p i E [X] = µ = E [ e tx] e µ (et 1) e pi(et 1) = e ( n pi)(et 1) n ( ) + ( ) P r (X (1 + δ) µ) e µ(et 1) t+(1+δ)µ = e µ(et 1 t(1+δ)) p i והמינימום מתקבל בנקודה δ) t = ln (1 + נציב ונקבל: P r (X µ (1 + δ)) e µ [δ ln(1+δ) (1+δ)] = ( e δ (1 + δ) 1+δ ) δ הביטוי שקיבלנו הוא שבר עבור כל δ והולך וקטן אקספוננציאלית הערה 122 ישנו אוסף שלם של משפטים למקרים פרטיים של המשפט הנ"ל, כאשר הטריק המרכזי נשאר המעבר בין ההסתברות a) P r (X להסתברות ta),p r ( e tx e ואי השיוויון המתקבל כתוצאה ממרקוב חזק כל כך: ] E[etx, והוא מפתיע בכוחו! יש סיבה שהטריק הזה e ta e tx (tx) k = k! k=1 E [ e tx] t k E [ X k] = k! k=1 20

21 למעשה הביטוי הזה משקלל מומנטים יותר גבוהים באיזושהיא צורה שטובה לנו בתחום הזה שכן ראינו שככל שהמומנט גדול יותר אנו מקבלים דיוק גדול יותר (המעבר ממרקוב לצ'בישב למשל) ננסח (לפחות חלק) מהמשפטים הנ"ל, אך לא נעבור על ההוכחות שלהם בתנאים דומים לתנאי המשפט נקבל: 1 0 < δ < 1 P r (X (1 + δ) µ) e µδ < δ < 1 P r (X (1 δ) µ) e µδ2 2 3 R 6µ P r (X R) 2 R לצורך אי שיוויון נוסף, נתבונן בהליכה המקרית המורכבת מ"מ X 1,, X n ב"ת המקבלים F k נתבונן בסדרת המ"מ F k = k בהסתברות 1 2 את הערכים,(±1) ונגדיר X i F 0 ונוסיף = 0,k = 1,, n E [F k F k 1,, F 0 ] = F k 1 k=1 {F k } n מתקיים: סדרת משתנים מקריים כזו נקראת Martingale אם למרטינגייל F k F k 1 c k (כמעט בוודאות), כאשר בדוגמא שלנו = 1 k c, אזי הלמה של Azuma נותנת חסם על הריכוז של F: n t 2 P r (F n F 0 t) e 2( n c 2 k=1 k) עבור ההליכה המקרית, n = n k=1 c 2 k e t2 2n אי שיוויון דומה: t 2 P r (F n F 0 t) e 2( n c 2 k=1 k) 12 מרחבי הסתברות אחרים נביט במשתנה גיאומטרי, ונטיל אינסוף מטבעות נרצה לטעון למשל כי בהסתברות 1 נראה 1 די קל לראות כי נקבל שאיפה לאפס מהר מאוד בתהליך הסתברותי נמשך רוצים לטעון שתכונה מסויימת מתקיימת בהסתברות כלשהיא (נניח (0, 1 לדוגמא Ω = {0, 1} N ), n (x 1, x 2,, x המרחב של סדרה איסופית של הטלות מטבע 21

22 בוחרים קבוצה חלקית A [1,0] מהי ההסתברות שבחירת X באופן אחיד בקטע [1,0] נמצאת ב A? מתברר 8 כי לא ניתן להגדיר את ההסתברות הזו מה אם נרצה להגדיר הזזה צפידה של A, כלומר: B = A + ε = {a + ε a A} מה כן קורה? אפשר לחלק את הפנים של כדור תלת מימדי לשלוש קבוצות זרות, 9 כך שבסיבוב כל זוג קבוצות ירכיבו את כל פני הכדור עוד על דוגמא זו בוויקיפדיה: "יש באינסוף דברים מפתיעים" הגדרה 123 תהי Ω קבוצה כלשהיא משפחה F תת קבוצות של Ω (כלומרF 2) Ω נקראת σ אלגברה מעל Ω אם: 1φ F 2A F F (Ω\A) 3A 1, A 2, F A i F הגדרה 124 מידה על σ אלגברה F היא פונקציה: µ : F R + כך ש: µ (φ) = אם, n F A 1,, A קבוצות זרות אזי: ( ) µ A i = µ (A i ) i i הגדרה 125 המידה נקראת מידת הסתברות אם = 1 (Ω) µ ניתן להגדיר σ אלגברה בעזרת בסיס, כלומר אוסף E של קבוצות חלקיות ל Ω כך ש σ אלגברה הקטנה ביותר המכילה את E נותנת את ה σ אלגברה המקורית למשל, דרך להגדיר מידת הסתברות (ההסתברות האחידה) על הקטע [b,a]: E = {(c, d) a c < d b} 8 עוד על כך בתורת המידה 9 אפשר להראות קיום של קבוצות אלו בעזרת אקסיומת הבחירה, זוהי לא בניה קונטרוקטיבית 22

23 בתור בסיס אפשר להגדיר מידה על ה σ אלגברה הנוצרת באופן הבא תחילה, נותנים מידה לכל קטע: µ ((c, d)) = d c b a לכל קבוצה ב σ אלגברה אפשר להגדיר מידה חיצונית: { } µ (A) = inf µ (E i ) E i basis groups, A E i ובאופן דומה מידה פנימית: { } µ (A) = sup µ (E i ) E i foreign basis groups, A E i µ (A) = µ (A) קבוצה A נקראת מדידה אם: ראינו שתי דוגמאות קטע על הישר, ואוסף הסדרות האינסופיות "כל הקבוצות היפות הן מדידות" לא נביא דוגמא לקבוצה לא מדידה, אולם ניתן להוכיח קיום קבוצה שכזו נגדיר קבוצות בסיס למרחב {1 N,0} נביט בקבוצות מהצורה: {0, 1} k a 1,, a k, E a1,,a k = {(x 1,, x k, x k+1,, x n, ) x 1 = a 1, x 2 = a 2,, x k = a k } כדי לקבל מרחב מידה, יש לקבוע על כל קבוצת בסיס את המידה הבאה: µ (E a1,,a k ) = 1 2 k {0, 1} k a 1,, a k,k לכל 0 E a1,,a k כאשר הבסיס למרחב הוא אוסף כל הקבוצות בדרך דומה, בהנתן שני מרחבי הסתברות ) 2,(Ω 1, µ 1 ), (Ω 2, µ ניתן להרחיב מרחב הסתברות על המכפלה Ω 1 Ω 2 בעזרת מידת המכפלה: קבוצות הבסיס תהיינה E, 1 E 2 כאשר E i קבוצות בסיס ב Ω i (או סתם קבוצה מדידה כלשהיא), וכן: µ (E 1 E 2 ) = µ 1 (E 1 ) µ (E 2 ) [0, 1] n [a, b] [c, d] לדוגמא: 23

24 121 דוגמא אחרונה למשפט ריכוז משפט הגבול המרכזי g : R R, g (x) 0, אפשר להגדיר מידת הסתברות על R: g (x) dx = 1 g מגדירה מידת הסתברות הניתנת לקטע [b,a] את המידה: µ ([a, b]) = b a g (x) dx כאשר g נקראת פונקציית הצפיפות של µ פונקציית צפיפות מעניינת היא הפונקציה הבאה: ϕ (x) = 1 2π e 1 2 x2 תרגיל לא קל באינפי הוא להוכיח כי = 1 (x) ϕ למידת ההסתברות הזו קוראית התפלגות נורמלית\גאוסיאנית למה קוראים לה נורמלית? כי היא מופיעה בכל מקום! בתור דוגמא לכך: משפט 126 אם, n X 1,, X סדרה אינסופית של מ"מ ב"ת, ונסמן = ) i E [X i ] = µ, V ar (X, 10 Z n = Yn nµ אזי: σ n,y n = n X i אזי אם נגדיר,σ 2 lim P r [Z n < a] = n ϕ (x) dx =: Φ (a) lim P r [a < Z n < b] = n b a ϕ (x) dx מסקנה דוגמא לשמוש במשפט הריכוז של Azuma נשלים עוד דבר קטן לפני שנמשיך לנושא הבא שימוש נוסף בלמה של אזומה יש הרבה שימושים ללמה הזו, ולכן הניסוח המסורבל שלה תזכורת: נתון מרטינגייל, דהיינו, n X 0, X 1,, X סדרה של מ"מ כך שמתקיים: E [X k+1 X k,, X 0 ] = X k נשים לב שתוחלת שווה למשתנה מה זה אומר? לכל השמה של משתנים בצד שמאל, אפשר להסתכל על התוחלת, והיא שווה למספר X k (זה כאמור נכון לכל המספרים האפשריים) 10 למעשה ההגדרה של Z n היא נירמול של Y n כך שהתוחלת של Z n היא 0 והשונות היא 1 24

25 המקרים המעניינים במשפט הזה מתרחשות כאשר המשתנים תלויים לינארית (אין חובה על המ"מ להיות בת"ל) דוגמא: נתונה פונקציה: F : Ω 1 Ω n R ונתונה התפלגות על המרחב הזה; נסמן ) n F (x 1,, x ] F] E כמו כן, אפשר להגדיר משתנים חדשים: Y 1 (a 1 ) = E [F x 1 = a 1 ] Y 2 (a 1, a 2 ) = E [F x 1 = a 1, x 2 = a 2 ] אפשר להגדיר את המ"מ = 0 Y Y n = F בצורה ברורה הסדרה Y 0, Y 1,, Y n היא מרטינגייל למשל: E [Y 1 Y 0 ] = Y 0 כי Y 0 קבוע, וממוצע של ממוצעים שווה לעצמו 11 אם ידוע כי Y k Y k 1 c k עבור,k = 1,, n אזי: P r ( Y n Y 0 t) 2e ( t 2 2 ( nk=1 c 2 k) ) זו דוגמא נחמדה, אבל נרצה דוגמא מעניינת יותר נתבונן בגרף (2 1,n G ( (באותה צורה אפשר גם p) (G (n, בהנתן גרף G, מספר הצביעה (G) χ הוא מספר הצבעים המינימלי שבו אפשר לצבוע את קודקודי G כך שכל שני קודקודים עם צלע ביניהם אינם צבועים באותו צבע אפשר לשאול כמה מרוכז (G) χ אם לוקחים קבוצה של קודקודים שצבועים באותו צבע, אז בין כל שניים מהם אין צלע בגרף נתבונן בקבוצה הצבועה בצבע כלשהוא היא אנטי קליקה בגרף המשלים! חישבנו כבר מהו גודל הקליקה המקסימלית כבר הראינו שאין קליקה בגודל יותר מ n log (כפול קבוע כלשהוא) כמעט בוודאות בגרף המקורי לכן עבור p קבוע, מספר הצבעים הדרוש הוא n log n ) ( Ω כמעט בוודאות נראה שמספר הצביעה בגרף הוא אכן מרוכז נראה סדר של n מתקיים: χ : Graph collection R n 2 וזו פונקציה χ, :,0} {1 R כאשר הנתון הוא וקטור מציין של צלעות הגרף (כך ניתן להגדיר את הגרף) נגדיר: Y 0,, Y n 2 11 אפשר לבצע את החישובים במדויק בכדי להיווכח 25

26 כאשר Y 0 הוא התוחלת של (G) χ, והסדרה מהווה מרטינגייל כפי שכבר ראינו נשים לב כי k Y 1+k Y 1 כי כל צלע נוגעת רק בשני קודקודים שונים, ואת אחד מהם ניתן תמיד לצבוע בצבע נוסף מיוחד לכן נקבל: Y n Y 0 {}}{{}}{ P r χ (G) E [χ (G)] t 2e t 2 2 ולכן (n) t = ω נקבל הסתברות שואפת לאפס הצעה לשיפור נגדיר את המרטינגייל בצורה יותר קצרה בכל שלב לא נגלה רק את הצלע, אלא נבחר קודקוד ונגלה את כל הצלעות המחוברות אליו שלא התגלו עד עכשיו תרגיל: הראו כי מרטינגייל דומה (כנתון בהסבר) באורך n (יתן ( ריכוז טוב יותר נקבל n Ω, הסבירות שנסטה log n (n t = ω ( ההסתברות זניחה (כיוון שהתוחלת היא גדולה היא קטנה, כלומר הריכוז הוא באמת סביב התוחלת) = 1 p עבור < 1 α, מתברר משהו די מדהים לא רק שיש ריכוז, n אם p קטן, למשל α (G) χ הוא כמעט בוודאות למספר אחד 12 n 2 13 תרגולים דוגמא משתנה מקרי גיאומטרי יהי פלוני תלמיד מאסטר ע"מ לסיים את התואר, פלוני צריך לכתוב תזה, ועל מנת לעשות p = זאת הוא זקוק להשראה נניח שבכל יום הסיכוי של פלוני לקבל השראה היא 1 מה תוחלת מספר הימים עד שפלוני מקבל השראה? 2 מה הסיכוי שזה יקרה עד תום שנתיים (730 ימים)? נגדיר את מרחב ההסתברות, כאשר s משמעו :inspiration has Struck Ω = { n k s k N {0} }, P r ( n k s ) = (1 p) k p נגדיר מ"מ = X מספר הימים עד לקבלת השראה P r (X = i) = (1 p) i 1 p E [X] = i (1 p) i 1 p = p i (1 p) i 1 ( ) ( ) i t i 1 = t i = E [X] = p 1 p 2 = 1 p ( ) ( t = 1 t נסמן t = 1 p אזי: ) 1 (1 t) 2 12 מספר כלשהוא, כלומר ±1 מהמספר הזה תרגול 26

27 אפשר לעשות זאת ישירות מההגדרה, אבל בשביל הדגמה נראה איך נותנים את התשובה לשאלה השניה מאי שיוויון צ'בישב נחשב תחילה את השונות של X: ( p) 1 2 V ar [X] = E [ X 2] {}}{ (E [X]) 2 חוק הסטטיסטיקאי חסר ההכרה קובע: E [f (X)] = x f (x) P r (X = x) j=1 E [ X 2] = = {}}{ i 2 (1 p) i 1 p = p i 2 t i 1 i = (2j 1) t i 1 = = (2j 1) t i 1 = 1 1 t j=1 i=j i 2 = (2i 1) j=1 j=1 j=1 i=j ומכאן נקבל: נזכר בזהות הבאה: ומכאן : 13 i ( (2j 1) t i 1 ) = (2j 1) t i 1 (2j 1) t j 1 = 1 1 t 2 { 1 (1 t) }} 2 { j=1 1 1 t {}}{ j t j 1 t j 1 = j=1 2 (1 t) (1 t) 3 E [X] = 2 p p 2 V ar [X] = 2 p p 2 1 p 2 = 1 p p V ar [X] = 1 p p 2 = ואם נציב את המספרים נקבל: = נשתמש בא"ש צ'בישב על מנת להעריך הם לפלוני תהיה השראה לפני תום השנתיים: P r (X 730) = P r ( X ) (430) עצה מצור: כשרוצים להעריך טור, נסו להחליף את סדר הסכימה, "זה בדר"כ עוזר" 27

28 P r [X 730] = = p i=730 P r (X 730) E [X] 730 = P r (X = i) = i=730 כלומר, החסם לא משהו ננסה להשתמש בא"ש מרקוב: (1 p) i 1 p = p וזה כבר יותר טוב נחשב ישירות: (1 p) i 1 i=730 (1 p) 730 ומקירוב טיילור נקבל תוצאה שאנחנו מכירים: p)730 p) = (1 (1 1 ( 1 1 ) 730 e = תרגול דהיינו הסיכוי לא להצליח מאוד נמוך, ועל כן הסיכוי להצליח גדול! הגדרה 128 מספר רמזי (t R,s) הוא המספר המינימלי n כך שכל צביעה של צלעות הגרף המלא K n באדום ובכחול מכילה קליקה אדומה בגודל s או קליקה כחולה בגודל t R (3, 3) = 6 טענה 129 הוכחה: נראה צביעה של K 5 בלי משולש: *איור* צביעה של K 6 הסבר בעל פה ובציור מ x יוצאות שלוש צלעות (בה"כ) כחולות לפחות אם אחת מהצלעות בין הקודקודים היא כחולה, אז מצאנו משולש כחול אחרת כל הצלעות אדומות, ואז נוצר משולש אדום ידוע כי = 18 4) (4, R שאלה פתוחה: =? 5) (5, R ידוע כי: 43 R (s, s) 49 בכיתה הגדרנו את X להיות מספר ה K 4 ב G, וראינו כי אם p קטן המספר הוא 0 נפרמל את השיטות בהן השתמשנו: טענה 130 יהי X n מ"מ שלם ואי שלילי אז אם 0 [X],E אז 1 0) = (X P r P r (X > 0) = P r (X 1) E [X] 1 0 הוכחה: 28

29 טענה 131 אם 0 ar(x), V אז לכל > 0 :ε (E[X]) 2 P r ((1 ε) E [X] X (1 + ε) E [X]) 1 P r ( X E [X] ε E [X]) V ar (X) ε 2 E [X] 2 0 הוכחה: לפי מרקוב: 2 2m 4 m ( 2m m ) 2 2m ( 2m m ) 131 חסמים על טענה 132 (1 + 1) 2m = 2m k=0 ( 2m : m ( 2m k ) (2m)! m!m!? 1 m (m 1) (k + 1) ) ( = 2 2m 2m m ( 2m k (2m)! k! (2m k)!? הוכחה: הצד הימני טריוויאלי: ) 2 2m ) נוכיח את הצד השמאלי: נראה ש נניח בה"כ כי k < m לאחר צמצום צ"ל: 1 (2m k) (m + 1) כל הגורמים בצד ימין גדולים מהגורמים בצד שמאל, ולכן אי השיוויון מתקיים כעת: 2m k=0 ( 2m k ) ( 2m (2m + 1) m ) ( 2m m ) 22m m + 1 נשתמש בהתפלגות של משתנה בינומי: ( ) n X B (n, p) E [X] = n p, V ar (X) = n p (1 p), P r (X = k) = p k (1 p) n k k 29

30 :X B ( 2m, 1 2) נביט ב E [X] = m, V ar (X) = 2m = m 2, P r (X = k) = ( 2m k ) ( ) 2m 1 2 m+ m k=m m+1 ( 1 2 ( 2m m ( 2m k ) 2m ( 2 m 1 ) ( 2m m P r ( X m m ) m 2 m = 1 2 מאי שיוויון צ'בישב: ) ( ) 2m 1 = P r ( m m < X < m + m ) Chevichev ) ) 2 2m 2 (2 m 1) 2m 4 m m+ m k=m m ( 2m k ) ( ) 2m כעת: "האמת היא שהחישוב למעלה קצת מטופש כי אפשר פשוט להציב בנוסחאת שטרלינג": n! ( n ) n 2 2m 2πn e πm תרגול אבל המתרגל רצה להראות שימוש בחומר, כי נצטרך להשתמש בו בתרגיל בשבוע הבא בסוף התרגול יהיו שתי שאלות ניסוח משפט מהרצאה או תרגול, או הגדרת מושג 132 שימוש קומבינטורי לא"ש צ'רנוף משפט 133 כמעט לכל הגרפים יש קוטר 2, כלומר, אם G נדגם באופן מקרי (כלומר הסתברות אחידה) מקבוצת כל הגרפים על n קודקודים, אז: P r (diam (G)) = 2 n 1 הגדרה 134 קוטר של גרף זה המרחק המקסימלי בין שני קודקודים בגרף (אם הגרף לא קשיר, הקוטר מוגדר להיות אינסופי) 1 2 אין ביניהם צלע נסתכל הוכחה: אינטואיציה: נסתכל על שני קודקודים: בהסתברות על קודקודי הביניים (בין שני הקודקודים המקוריים) כדי שיהיה מסלול דרך אחד מהם, 1 4 לכל קודקוד ביניים צריך ששתי הצלעות המתאימות יתקיימו, וזה מתרחש בהסתברות באמצעות חסם צרנוף נחסום את האפשרות שלא קיים כזהץ 30

31 ,n 1 G זו התפלגות אחידה על פני כל הגרפים עם n, קודקודים, וכן: 2 ( ) n 1 2 P r (G) = 2 הערה 135 נתחיל מבחינת ההסתברות שהקוטר שווה לאחד: ( ) n 1 2 P r (diam (G) = 1) = P r (G = K n ) = 0 2 כעת, נראה כי ההסתברות שהקוטר גדול מ 2 שואפת לאפס: נקבע שני קודקודים,u v נגדיר מ"מ X u,v להיות מספר המסלולים באורך 2 בין u ל v לכל קודקוד אחר {v w V \,u} נגדיר מ"מ מציין Xu,v w באופן הבא: { Xu,v w 1 {u, w}, {v, w} E = 0 otherwise } { הם ב"ת כמו כן, מ"מ אלו הם שווי התפלגות: Xu,v נשים לב כי ל v,u קבועים, w X u,v = w w V \{u,v} P r ( Xu,v w = 1 ) = 1 4 E [ Xu,v w ] 1 = 4 X w u,v, E [X u,v ] = w E [ Xu,v w ] n 2 = 4 יתרה על כן, נזכר בא"ש צ'רנוף בניסוח האהוב על המתרגל: אם X i,x = i X i מ"מ מציינים וב"ת, וכן נסמן,E [X] = µ אזי: 1P r (X (1 + δ) µ) e δ2 µ 3 2P r (X (1 δ) µ) e δ2 µ 2 במקרה שלנו, לכל < 1 δ < :0 ( P r (X u,v = 0) P r X u,v (1 δ) n 2 ) e δ2 (n 2) 8 4 P r (X u,v = 0) e (n 2) 8 עם א"ש צ'בישב, היינו יכולים לעשות חישוב דומה אך היינו מקבלים פונקציה השואפת לאפס בצורה פולינומית, ואז מה שנעשה הלאה חסם על האיחוד לא היה עובד בעזרת צ'רנוף לעומת זאת קיבלת שאיפה אקספוננציאלית, שתאפשר לנו את הצעד שאנו צריכים P r (diamg > 2) = P r {X u,v = 0} P r (X u,v = 0) {u,v} {u,v} ( n 2 ) e (n 2) n

32 בתרגיל נוכיח את הסף ב G n,p לקשירות הרעיון: אם p גדול, לעבור על כל S V עבור S n 2 ולהראות בעזרת צ'רנוף כי ההסתברות שאין מ S צלעות יוצאות נורא קטנה אז צריך לעשות חסם איחוד (כמו למעלה) על פני כל ה S אים 133 משתנים מקריים רציפים לא כל המ"מ הם רציפים או בדידים; יש כאלה שלא זה ולא זה, "וזה בסדר" הגדרה 136 מ"מ X : Ω R נקרא רציף אם יש פונקציה (פונקציית צפיפות): f : R R + {0} P r (X [a, b]) = E [X] = b a f (x) dx xf (x) dx והתוחלת: מגדירים: דוגמא מ"מ אוניפורמי מ"מ אוניפורמי הוא מ"מ רציף שפונקציית הצפיפות שלו היא: f (x) = { 1 b a a x b 0 otherwise E [X] = V ar (X) = E E [ X 2] = b x xf (x) = a b a = 1 ( ) x 2 b b a 2 a [ (X E [X]) 2] = E [ X 2] E [X] 2 x 2 f (x) = b V ar (X) = b2 + ab + a 3 3 a ונסמן: b]) X U ([a, נחשב את התוחלת ואת השונות של מ"מ שכזה: x 2 b a = 1 b a (a + b)2 4 = = ( ) x 3 b 3 = b2 a 2 2 (b a) = a + b 2 a (b a)2 12 = b3 a 3 3 (b a) = b2 + ab + a

33 2 אלגברה לינארית ושימושיה 21 תזכורות מהעבר 211 הגדרות בסיסיות הגדרה 21 נתון שדה,F לדוגמא F = Z p,f = C,F = R השדה מודולו p מרחב וקטורי V מעל שדה F הוא מבנה עם פעולות חיבור + וכפל בקבועים ב F שמקיים אוסף של אקסיומות דוגמאות סטנדרטיות 1 n V = F עם חיבור בכל קואורדינטה וכפל בסקלר מתוך F מכפיל את כל האיברים 2 נתונה קבוצה V = F Ω,Ω הינו אוסף כל הפונקציות מ Ω ל F אם n},ω = {1,, אזי F Ω = F n 3 אוסף הפונקציות הממשיות הרציפות על הקטע [1,0] הוא מרחב וקטורי מעל R :A = {v i } i I הגדרה 22 בהנתן אוסף של וקטורים { m } A W = Span {A} = a k v ik v ik A, a k F m k=1 כאשר W בעצמו שדה וקטורי אזי V W הוא תת מרחב הנפרש ע"י קבוצת הוקטורים A והוא זהה לתת המרחב הוקטורי המינימלי המכיל את A הערה 23 אם A אוסף סופי ההגדרה יותר פשוטה: { m } A = {v 1,, v m }, I = {1,, m} Span (A) = a i v i a i F הגדרה 24 המימד של מרחב וקטורי V, המסומן ב ) V),dim הוא המספר המינימלי של וקטורים הפורשים את כל המרחב קל לראות: dim F) n ) = n ע"מ שיהיה באמת קל לראות זאת, נשתמש בכמה כלים שהכרנו בקורס אלגברה לינארית הגדרה 25 קבוצת וקטורים v 1,, v m נקראת בלתי תלויה מעל F אם (וקטור האפס)== a 1,, a m F ואחרת הקבוצה נקראת תלויה לינארית מעל 0, m a iv i = 0 למה 26 אם dim V) ) = n אזי התנאים הבאים שקולים: Span (v 1,, v n ) = V 1 33

34 2 n v 1,, v בלתי תלויה לינארית הוכחה: תרגיל פשוט באלגברה לינארית הגדרה 27 ל v 1,, v n מהלמה מעלה קוראים בסיס למרחב V מסקנה 28 לכל v V יש הצגה יחידה: n v = a i v i, a i F 212 העתקות לינאריות Transformations) (Linear הגדרה 29 יהיו,V W מרחבים וקטורים מעל שדה F T : V W היא העתקה לינארית אם: v 1, v 2 V T (v 1 + v 2 ) = T (v 1 ) + T (v 2 ) v V a F T (av) = at (v) דוגמא להעתקה לינארית v = n אזי ההעתקה הבאה: נתון V ממימד v 1,, v n n בסיס ל V אם a iv i T : V F n, T (v) = (a 1,, a n ) היא בבירור העתקה לינארית בהנתן בסיס v 1,, v n למרחב V, כדי להגדיר העתקה לינארית T, די להגדיר מה T עושה לאיברי הבסיס: i = 1,, n T (v i ) = w i a i,v = n הם יחידים, ולכן: ואז הרחבה לינארית היא יחידה אם 1=i a iv i T (v) = n a i w i ואין כל דרישה לתכונות נוספות על הקבוצה w 1,, w n חוץ מכך שהם וקטורים ב W 34

35 דוגמא נוספת להעתקה לינארית יהי V n אוסף הפולינומים ממעלה 1 n מעל הממשיים פולינום נקבע ע"פ מקדמיו: p (x) = a 0 + a 1 x + + a n x n 1 ולכן dim (V n ) = n אם נסתכל על פונקציית הגזירה הסטנדרטית מעל הממשיים: D (p (x)) = p (x) כללי הגזירה אומרים לנו כי n 1 D : V n V העתקה לינארית, כאשר k 1 D ( x k) = kx עבור 1 n k = 0,, מגדיר את הפעולה על V n אם בוחרים בסיס v 1,, v n למרחב ממימד n,v ובסיס w 1,, w m למרחב,W אזי אם T : V W טרנספורמציה לינארית: V = F n, W = F m m T = a ik w i T (v 1) {}}{ a 11 T (v n) {}}{ a 1n a m1 a mn = A נביט במטריצה הבאה: A, ובאופן כללי A מגדירה העתקה ע"י כפל = a 1k a mk אז הוקטור ) k = T (v מטריצה בוקטור,A : F n F m וזו העתקה המתאימה ל T עבור v 1,, v n ו,w 1,, w m ולהפך A כזאת קובעת T הגדרה 210 תהי T : V W טרנספורמציה לינארית הגרעין של T, או הקרנל (Kernel) מוגדר להיות: Ker (T ) := {v V T (v) = 0} Im (T ) := {w W v V T (v) = w} וזהו תת מרחב של V הטווח של T מוגדר להיות: וזהו תת מרחב של W 35

36 הגדרה 211 הדרגה של הטרנספורמציה T הינה: Rank (T ) = dim (Im (T )) dim (Ker (T )) + Rank (T ) = dim (V ) וידוע: הגדרה 212 אם בוחרים בסיסים ב V ו W, אזי הדרגה של המטריצה A המתאימה ל T היא דרגת T זו דרך אחת להגדיר את הדרגה של מטריצה דרכים שקולות אחרות להגדרת דרגת מטריצה :(m n (מסדר A 1 מספר מקסימלי של שורות בלתי תלויות לינארית 2 מספר מקסימלי של עמודות בלתי תלויות לינארית y 1 x 1 =,y ומטריצה מדרגה :1,x = 3 בהנתן שני וקטורים y n x m B = x y T = x 1 x m (y 1,, y n ) וכל מטריצה מדרגה 1 מתקבלת כך מסמנים גם B = x y "המכפלה הטנזורית של x ו y " אזי הדרגה של A הוא המספר המינימלי של מטריצות B 1,, B r מדרגה 1 כך שסכומם שווה ל A : A = B B r 213 מטריצות וערכים עצמיים כאן נדון בשדות F = R, C תהי M n (C) A מטריצה מסדר n n מעל המרוכבים אפשר לחשוב על A כעל טרנספורמציה לינארית מ C n אל עצמו (בוחרים בסיס סטנדרטי) איך נראית טרנספורמציה לינארית? מה היא עושה? אולי מעל המרוכבים זה פחות טבעי (יותר "הגיוני" מעל הממשיים), אולם לצורך זה נשתמש בכלי שאנו כבר מכירים: הגדרה 213 נאמר שוקטור 0 x C n הוא וקטור עצמי של A עם ערך עצמי C λ אם Ax = λx 36

37 המשמעות הגיאומטרית כאן היא שכפל במטריצה A היא למעשה מותחת\מכווצת ו\או מסובבת את הו"ע במרחב (שכן כל רכיבי הוקטור מוכפלים באותו גורם λשהוא הע"ע) במרוכבים יכול להיות שמסובבים את הוקטור סביב כל המעגל (מעל הממשיים אפשר לסובב לכיוון ההפוך ע"י הכפלה ב 1 ) I = נרצה למצוא את הע"ע של מטריצה נסמן את מטריצת היחידה ב מתקיים: Ax = λx (A λ I) x = 0 כלומר בקרנל של המטריצה (I A) λ יש וקטור שאיננו אפס, ועל כן היא איננה מדרגה מלאה אזי: אם נתבונן ב λ כמשתנה, אזי: det (A λi) = 0 det (A λ I) = p A (λ) כאשר הפולינום שהתקבל הוא מדרגה n תמיד (האלכסון מלא אין בו אפסים), ולכן λ ע"ע של p A (λ) = 0 A הגדרה (λ) 214 p A הינו הפולינום האופייני של (Characteristic Poly) A לאחר שמצאנו את הע"ע, אפשר להציב במערכת המשוואות הלינאריות = 0 x A) λ (I ולקבל את הו"ע x מסקנה 215 כיוון שדרגת הפולינום האופייני = n, יש לכל היותר n ערכים עצמיים שונים מסקנה 216 ל A ול A T יש אותם ע"ע הערה 217 זאת מכיוון ו ) T,det (B) = det ( B כלומר הפולינום האופייני הוא זהה המקרה בו יש פחות מ n ע"ע שונים הוא מאוד מיוחד (מגביל למרחב מסויים מאוד של מטריצות), ובדר"כ לרב המטריצות יש n ערכים עצמיים שונים טענה 218 יהיו v 1,, v r וקטורים עצמיים של A עם ערכים עצמיים,λ 1,, λ r כאשר ה λ i שונים זה מזה אזי v 1,, v r בלתי תלויים לינארית הוכחה: בה"כ נניח בשלילה כי v 1,, v k הקבוצה הקטנה ביותר מתוך v 1,, v r שהיא תלויה לינארית לכן, קיימים קבועים c 1,, c k כולם 0 כך ש: (1) k c i v i = 0 (2) A (0) = 0 = k c i Av i = k c i λ i v i 37

38 את 2 ונחסיר מ 1 ונקבל תלות קצרה יותר מ k : λ 1 בה"כ 0 1 λ נכפיל ב 1 0 = k 0 = c i λ i v i λ 1 1 = c 1 v 1 + k c i v i c 1 v 1 + k i=2 k i=2 c i λ i λ 1 1 v i c i λ i λ 1 1 v i = k i=2 c i λ i λ 1 1 v i בסתירה מהנחת המינימליות כאמור במקרה הגנרי יש n ערכים שונים, ולכן קיים בסיס למרחב המרוכב מוקטורים עצמיים כאמור וקטורים עצמיים מגדירים לנו סיבוב במרחב והגדלה\הקטנה בשיעור הבא נגדיר את המושג של מרחק (כמובן ויש הרבה מאוד דרכים לעשות זאת) ונראה מה נקבל 22 פולינומים מעל שדות סופיים הגדרה 219 חוג הוא מבנה הכולל קבוצה עם פעולות חיבור וכפל, כאשר: שתי הפעולות אסוציאטיביות פעולת החיבור היא קמוטטיבית קיים איבר יחידה לגבי פעולת החיבורץ קיים איבר נגדי לכל איבר ביחס לפעולת החיבור מתקיים חוק הפילוג (דיסטריביוטיביות) הערה 220 ההגדרה מעלה אינה סטנדרט לעיתים מגדירים חוג כך שיש בו גם איבר יחידה כפלי במידה וקיים כזה, אנחנו נגיד שהחוג עם יחידה הערה 221 אם גם פעולת הכפל היא קמוטטיבית, נגיד שהחוג קמוטטיבי הגדרה 222 בהנתן שדה F, חוג הפולינומים מעליו מוגדר להיות: { d } R = F [x] = a i x i a i F, d 0 i=0 החוג הזה, שהוא קמוטטיבי עם יחידה, הוא ממימד אינסופי, כאשר פעולות החיבור והכפל הן כמצופה "מה שנחמד בחוג הזה" הוא שקיים חילוק עם שארית מעל השדה: הגדרה 223 בהנתן שני פולינומים (x) R, f (x), g פעולת החילוק עם שארית מעל השדה F מוגדרת להיות: f (x) = q (x) g (x) + r (x) כאשר ((x) deg f) היא החזקה הגבוהה ביותר של x עם מקדם 0 ב ( x ) f, ומתקיים: deg (g (x)) > deg (r (x)) 38

39 הגדרה 224 אם = 0 (x),r אזי נסמן (x) g (x) f ונאמר ש ( x ) g מחלק את (x) f אם ל ( x ) f ו ( x ) g אין מחלק משותף מדרגה 1, 14 אם נמשיך כמו באלגוריתם של אוקלידס נוכל למצוא פולינומים (x) u (x), v כך ש: u (x) f (x) + v (x) g (x) = 1 הגדרה 225 פולינום (x) f נקרא פולינום ראשוני אם אין לו מחלקים לא טריוויאלים מדרגה נמוכה יותר הגדרה 226 בהנתן (x) p פולינום ראשוני ב [ x ],R = F ונסמן (x)),d = deg (p נגדיר: R/(p) := { a 0 + a 1 x + + a d 1 x d 1 ai F } עם פעולות מודולו (x) p, כלומר מבצעים פעולות חיבור וכפל, ואם התוצאה דרגתה d, לוקחים את השארית בחלוקה ב ( x ) p טענה 227 מכיוון ו ( x ) p פולינום ראשוני, נקבל כי (p)/ R עם פעולות חישוב מודולו (x) pהינו שדה 15 הוכחה: על מנת שחוג יהיה שדה, יש להוכיח כי הכפל קמוטטיבי, וכי קיים איבר יחידה כפלי העובדה שהכפל הוא קמוטטיבי היא טריוויאלית נותר אם כך להראות כי בחוג שהגדרנו מעלה קיים איבר יחידה יהי /(p) f R בהכרח (p) deg (f) < deg נסמן: d 1 a i x i = f (x) i=0 אזי = 1 ((x) f) (x), p הוא המחלק המשותף המקסימלי (f דרגתו קטנה מ p, ולכן אם היה כזה שאינו קבוע אזי p לא היה ראשוני) על כן, קיימים (x) v (x), u כך ש: לאחר ביצוע (((x) modp ))נקבל: u (x) f (x) + v (x) p (x) = 1 u (x) f (x) (mod (p (x))) כעת, (x) f (x) (mod p) (((x) = f על כן (לאחר בדיקה כי בעת ביצוע מודולו p "הפעולות בסדר" כלומר החיבור והכפל נשמרות) ניתן לקבל ש: [u (x) (mod (p (x)))] f (x) 1 (mod (p (x))) דהיינו מצאנו ל ( x ) f הופכי כפלי, כנדרש 14 קבועים, שהם מדרגה 0, מחלקים כל דבר 15 אם לא היה ראשוני, היינו מקבלים עוד חוג 39

40 221 כמה דוגמאות לשימושים של פולינומים מעל שדה שימוש ראשון מציאת שדה ממימד כלשהוא אם מתחילים מ F = Z 2 שדה השאריות מודולו 2, ו ( x ) p פולינום אי פריק מדרגה d, נקבל שדה: F [x]/p(x) בשדה הזה יש 2 d איברים, כי יש בדיוק 2 d פולינומים מדרגה 1 d עם מקדמים 0 או,1 כלומר d 1 a 0, a 1,, a 1} {0, ידוע כי לכל שדה סופי F (בפרט F, = Z q שדה השאריות מודולו q ראשוני) יש לכל קבוע d פולינומים ראשוניים מדרגה d למשל, הפולינום + 1 x x 2 + הוא פולינום אי פריק מעל F 2 = Z 2 מסקנה 228 לכל ראשוני q ולכל d טבעי יש שדה עם q d איברים דוגמא לפולינום שהינו אי פריק מעל שדה אחד, אך פריק מעל שדה אחר נביט בפולינום + 1 x x: 2 + כפי שציינו מעלה, הוא אי פריק מעל Z, 2 אבל אם נסתכל על +x+1) F [y] y 2 + y + 1,F = Z2[x] /(x 2 המשמעות כאן היא שהאיברים הם מהצורה,a, b {0, 1},a + bx וכל פעם שמכפילים ומקבלים x 2 אזי + 1 x,x 2 = דהיינו פעולת הכפל היא מהצורה: (a + bx) (c + dx) = ac + (bc + ad) x + bd x 2 = (ac + bd) + (bc + ad + bd) x כאשר a, b, c, d Z 2 נשים לב כי אם נציב בפולינום הזה x, נקבל כי פולינום פריק (ואפילו כל השורשים שלו בשדה זה לא דבר טריוויאלי ודורש הוכחה): (y + x) (y + x + 1) = y 2 + (x + x + 1) y + x (x + 1) = y 2 + y + 1 שימוש שני בניית פונקציות ערבול (Hash) יהי F = F p n עבור p ראשוני כלשהוא, ונסמן F = p n = q אפשר להציג פולינום: f (x) = a 0 + a 1 x + + a t x t, a i F דרך שניה להציג את הפולינום (x) f היא ע"י בחירת α 0, α 1,, α t איברים שונים בשדה F, ולחשב את: f (α 0 ), f (α 1 ),, f (α t ) 40

41 1 α 0 α 2 0 α t 0 1 α 1 α 2 01 α t 1 ונסמן ) k β k = f (α איך מחשבים זאת? a 0 f (α 1 ) a 1 = f (α 1 ) a t f (α t ) 1 α t αt 2 αt t המטריצה מצד שמאל V היא מטריצת ון דר מונדה, והיא הפיכה, ונקבל: det (V ) = (α i α j ) 0 i<j a 0 f (α 1 ) V = a t f (α t ) a 0 f (α 1 ) = V 1 a t f (α t ) כיוון והמטריצה V הפיכה, אפשר מכל בחירה של β 0,, β t לקבל מקדמי פולינום = (x) f f (α k ) = β k כך ש: a a t x t בפרט, כאשר קובעים את F α 0, α 1,, α t (איברים שונים זה מזה), אזי אם בוחרים את מקדמי (x) a 0 +a 1 x++a t x t = f בהתפלגות אחידה על t+1,f אזי גם ה β 0,, β t המתקבלים מפולגים גם הם בהתפלגות אחידה על t+1 β k = f (α k ),F וכך להיפך אם β 0,, β t נבחרים בהתפלגות אחידה, אזי מקדמי פולינום האינטרפולציה F מפולגים בהתפלגות אחידה על t+1 a 0,, a t בוחרים a 0 + a 1 x + + a t x t = f באופן אחיד, אבל בוחרים יותר מ ( 1 + (t נקודות הערכה: נבחר,α 0,, α n כאשר α i שונים זה מזה, t + 1 n נקבל: β 0 (f (α 0 )),, β n (f (α n )) סדרה של משתנים מקריים כך שכל אחד מהם מפולג באופן אחיד על F, וכל קבוצה של + 1 t מה β אים הם משתנים מקריים בלתי תלויים (זה לא נכון שהם כולם בלתי תלויים אם ניקח + 2 t, t + 1 יקבע את הפולינום, וזה יקבע את הערך הנוסף ) 2+t f) α) במשל, במקרה בו = 1 t, מסתכלים על פולינום: f = a 0 + a 1 x α 0, α 1,, α N (N = 2 n ) עכשיו בוחרים: כל האיברים השונים בשדה f (α i ), f (α j )F עבור i j ב"ת ומפולגים באופן אחיד כאשר a 0, a 1 נבחרים בהתפלגות אחידה (כל אחד מהם בעל n סיביות) אם,F = F 2 n אזי אוסף הפונקציות: H = {f (x) = a 0 + a 1 x a i F } הוא אוסף פונקציות מ F ל F שהוא 2 אוניברסלי 41

42 הגדרה 229 אוסף H של פונקציות H = {h}, h : X Y הוא k אוניברסלי אם לכל x 1,, x k שונים ב X, המשתנים המקריים ) k h (x 1 ),, h (x עבור h מקרי ב H, כל אחד מפולג באופן אחיד על Y והם בלתי תלויים במקרה של פונקציות Hashing התחום X הוא גדול ו Y הוא קטן, וזה המקרה המעניין במקרה שלנו הפונקציות הן מהתחום לעצמו, וזה "לא מעניין" כדי להצליח לעשות Hashing למספרים יותר קטנים, משתמשים במה שעשינו עד כה עם שינוי קטן הערה 230 אם,X Y מ"מ בלתי תלויים על תחום Ω, 1 אזי לכל פונקציה: f : Ω 1 Ω 2 גם המשתנים המקריים (X) f ו ( f Y) הם בלתי תלויים אם F, = F 2 n אזי לכל איבר יש ייצוג בתור וקטור של 0 ו 1 באורך n: π : {0, 1} n {0, 1} k, (x 1,, x n ) (x 1,, x k ) אזי התפלגות אחידה על {1 n,0} ואח"כ הפעלת π מגדירה התפלגות אחידה על {1 k,0} פונקצית ערבול (Hash),h : {0, 1} n {0, 1} k כאשר :k n נתבונן על 1} n {0, כשדה סופי נבחר פולינום מקרי h (x) = a 0 + a 1 x עם מקדמים מקריים בשדה h (x) = π (h (x)) בקורסים במבני נתונים, ע"מ לא להשתמש בפולינומים, משתמשים במשהו שהוא "כמעט" נכון:,2 n < p,f = Z p H = {a + bx a, b < p} עם חשבון מודולו,α 0 = 0, α 1 = 1,, α p 1 = p 1 p אזי ) i h (α נותנים hashing לתוך תחום גדול אם n+1 p < 2 ניתן להציג את המספרים הללו בתור n+1 (x 0,, x n ) {0, 1} אם לוקחים את k הביטים הראשונים: π : Z p {0, 1} k הבעיה פה היא שלא מתקבלת התפלגות אחידה לא כל האיברים מקבלים פה באותו מספר (מקודם בדיוק מספר המקורות היה קבוע לכולם) ההפרש יהיה קטן מאוד (1 יותר מהאחרים נגיד), אבל "באופן יחסי" זה מתנהג אותו דבר, ולכן מראים את הפונקציה הזו שימוש שלישי תיקון שגיאות נרצה להיות (a 0,, a k 1 ) F k יהי F שדה, ונתונה הודעה בת k איברים בשדה: מסוגלים לספוג שגיאות בחלק ממהקואורדינטות למשל, אם מעתיקים את האינפורמציה כולה 3 פעמים, כלומר k איברים ל 3k איברים, נוכל לשחזר את האינפורמציה המקורית גם אם מישהו ישנה את אחת מ 3k הקואורדינטות זוהי דרך מאוד גרועה לעשות זאת, כי הכפלנו את המידע פי 3, אבל קיבלנו רק יכולת לספוג טעות יחידה 42

43 המטרה שלנו היא להעתיק את המידע כמה שפחות פעמים, ולקבל יכולת לספוג כמה שיותר טעויות בו זמנית נראה דרך אחת לעשות זאת בעזרת פולינומים: כדי להגן על הוקטור ) 1 k a) 0,, a בצורה יותר יעילה ויותר עמידה, נתבונן על הוקטור כמקדמי פולינום ממעלה 1 k: f (x) = a 0 + a 1 x + + a k 1 x k 1 ונבחר n נקודות שונות בשדה,α 1,, α n F ונחשב את: (f (α 1 ),, f (α n )) כאשר k n קודם כל, לא איבדנו את האינפורמציה יש k קואורדינטות הקובעות את הפולינום הטענה היא שזה עמיד בפני שגיאות נניח ש t קואורדינטות שגויות (ולא יודעים היכן) (x) f המקורית עוברת דרך לפחות n t נקודות אם גם (x) g עוברת דרך n t נקודות ו ( 1 (k,deg (g (x)) עדיין יש n 2t נקודות α i כך ש: ) i f (α i ) = g (α אם,n 2t k אזי (x),g (x) = f כי שני פולינומים מדרגה קטנה מ k המתלכדים על k נקודות זהים t, n k אפשר לתקן עד t שגיאות: יש פולינום אחד כזה (x) f, נעבור על 2 לכן, אם הפולינומים האפשריים ונבדוק "מי מהם בסדר" זה מאוד לא יעיל, כי המספר יכול להיות אקספוננציאלי, "וזה לא מוצלח במיוחד" לדוגמא, אם n, = 3k אז הכפלנו את האינפורמציה פי שלוש (כמו בנסיון הראשון שלנו), ונוכל לתקן: t 3k k 2 = 2k 2 = k אכן שיפרנו את העמידות, אבל קיבלנו כאמור אלגוריתם לא יעיל ננפנף בידיים כדי להסביר איך עושים זאת בצורה יעילה, בעזרת אלגוריתם בסיסי שלומדים בכל קורס על קודים מתקני 43

44 : 16 תואיגש 1 α 1 α k 1 1 α n α n α n 1 n a 0 a k 1 0 = f (α 1 ) f (α n ) V a 0 a k 1 0 = f (α 1 ) f (α n ) a 0 a k 1 0 = V 1 f (α 1 ) f (α n ) םונילופ תא בשחל ךרד והז תונורחאה תוטנידרואוקה n k ןה ספאה תוטנידרואוקה רשאכ?תואיגש הזל ףיסונ םא המ היצלופרטניאה a 0 a k 1 0 = V 1 f (α 1 ) f (α n ) + e 1 e n :ספא ןניאש תורושב לכתסנ 0 e i מ t רתויה לכל רשאכ n k last rows of V 1 f (α 1 ) f (α n ) + e 1 e n = same n k rows e 1 e n = s 1 s n k םירתופ ךיא הארנ "םיאקיזיפ לש הטישב" םימלענ 2t הפ שי יכ ןעטנ n k 2t יכ םיעדוי רמולכ,α i םיאתמ i ל הדשב רביא םיאתנ הטנידרואוק לכל :םיידיב ףנפננ רמולכ תאז םתוא תחקל רושיא םילבקמ כ"רדב ח"מדמ ידימלת םג לבא תירבעב הקיטמתמ לוכשא תחת ולאה םיסרוקה 16 44

45 נסתכל על המיקום כאל איבר בשדה יש לנו לפחות 2t: מתוכם t נעלמים בהם מתרחשת הטעות, ועוד t נעלמים המייצגים מהי הטעות "אם יש צדק" אפשר גם לחשב את מיקום השגיאה ומהו הגודל של ה e i הזה מתוך 2t המשתנים נקבל כי אנחנו יכולים לתקן הרבה מאוד שגיאות בעוד שניפחנו את המידע רק פי קבוע, בעוד שאם משתמשים בחזרה כמו בדוגמא הראשונה מקבלים תוצאה הרבה פחות טובה 23 נורמות ומרחבים מטריים מיכאל חולה שיעור השלמה עם נתי ליניאל! כשמלמדים אלגברה לינארית בתואר ראשון, יש אספקט גיאומטרי שלא רואים אותו נראה בקורס הזה המושג הכי בסיסי שרואים באינפי בתואר ראשון הוא התכנסות אולי ראינו כבר במקומות אחרים שאין בעיה להסתכל על סדרות מתכנסות לא של מספרים, אלא של נקודות במישור מה דרוש לכך? מעט מאוד מה שבעצם צריך הוא מושג של מרחק זאת מכיוון והתשובה לשאלה מתי x n x היא "כשאתה מספיק רחוק בסדרה, אתה מאוד קרוב ל x ": x n x < ε וזהו מרחק! מרחק יכול להיות הרבה דברים מרחק גיאוגרפי, מרחק נסיעה, ועוד ועוד מכאן אנחנו מגיעים להגדרה של מרחב מטרי : הגדרה 231 תהי X קבוצה העתקה d : X X R המקיימת את התנאים הבאים נקראת מטריקה (על X): 1 x, y X d (x, y) 0 ושיוויון אמ"מ x = y 2 x, y X d (x, y) = d (y, x) 3 א"ש המשולש: x, y, z X d (x, y) + d (y, z) d (x, z) פחות או יותר כל האינפי הבסיסי אפשר לעשות (ויש ספרים וקורסים שעושים את זה) בתוך המסגרת של מרחבים מטריים וההגדרה מעלה אנחנו מכירים עוד הרבה מטריקות פשוטות שראינו כבר פעמים רבות, ונוסיף עוד עושר עליהן: 17 יש מספר וריאציות קלות להגדרה הזו, ואולי נראה בהמשך הדרך האקדמית שלנו הגדרות אחרות 45