קונוולוציה 2D
הגדרה ותכונות
מוטיבציה — למה זה חשוב?
קונוולוציה דו-מימדית היא פעולה מתמטית בסיסית בעיבוד תמונה וברשתות נוירונים. היא מאפשרת לנו להפעיל "פילטרים" על תמונות כדי לזהות תכונות כמו קצוות, פינות, או לבצע פעולות כמו טשטוש וחידוד.
הגדרה
תהי \(A\) מטריצה בגודל \(m \times n\) ו-\(B\) מטריצה בגודל \(p \times q\). הקונוולוציה \(C = A * B\) היא מטריצה בגודל \((m+p-1) \times (n+q-1)\), שאיבריה מוגדרים על ידי:
תכונות
- קומוטטיביות: \(A * B = B * A\)
- אסוציאטיביות: \((A * B) * C = A * (B * C)\)
- ליניאריות: הפעולה \(A*B\) היא ליניארית ביחס ל-\(A\) (כאשר \(B\) קבוע) וביחס ל-\(B\) (כאשר \(A\) קבוע).
דוגמה: טשטוש תמונה
אפשר לטשטש תמונה (המיוצגת כמטריצה \(X\)) על ידי ביצוע קונוולוציה עם מטריצת פילטר (נקראת גם "קרנל"), למשל:
פעולה זו מחליפה כל פיקסל בממוצע של שכניו, ובכך יוצרת אפקט טשטוש.
שאלת בדיקה: בחרו את האפשרות הנכונה
אם מטריצה \(A\) היא בגודל \(5 \times 4\) ומטריצה \(B\) היא בגודל \(3 \times 3\), מה יהיה גודל המטריצה \(C = A * B\)?
הסבר: גודל מטריצת התוצאה הוא \((m+p-1) \times (n+q-1)\). במקרה זה, \((5+3-1) \times (4+3-1) = 7 \times 6\).
פונקציות ליניאריות
הצגה מטריציונית ותכונת סופרפוזיציה
מוטיבציה — למה זה חשוב?
פונקציות ליניאריות הן אבני הבניין של מודלים רבים במדע והנדסה. היכולת לייצג אותן באמצעות מטריצות מאפשרת לנו לנתח מערכות מורכבות, לפתור משוואות ולבצע טרנספורמציות גיאומטריות בצורה יעילה.
הגדרה
פונקציה \(f: \mathbb{R}^n \to \mathbb{R}^m\) נקראת ליניארית אם היא מקיימת את תכונת הסופרפוזיציה:
לכל וקטורים \(x, y \in \mathbb{R}^n\) ולכל סקלרים \(\alpha, \beta \in \mathbb{R}\).
נוסחאות: הצגה מטריציונית
כל פונקציה ליניארית \(f: \mathbb{R}^n \to \mathbb{R}^m\) ניתן לייצג באופן ייחודי על ידי כפל במטריצה \(A\) בגודל \(m \times n\):
את המטריצה \(A\) ניתן למצוא על ידי הפעלת הפונקציה על וקטורי הבסיס הסטנדרטי \(e_1, e_2, \ldots, e_n\):
דוגמה
נתונה הפונקציה הליניארית \(f: \mathbb{R}^2 \to \mathbb{R}^2\) המוגדרת כך: \(f(x_1, x_2) = (x_1 + x_2, x_1 - x_2)\). נמצא את המטריצה \(A\) המייצגת.
נפעיל את \(f\) על וקטורי הבסיס:
\(f(e_1) = f(1, 0) = (1+0, 1-0) = (1, 1)\)
\(f(e_2) = f(0, 1) = (0+1, 0-1) = (1, -1)\)
לכן, המטריצה היא:
שאלת בדיקה: בחרו את האפשרות הנכונה
איזו מהפונקציות הבאות \(f: \mathbb{R}^2 \to \mathbb{R}\) אינה ליניארית?
הסבר: פונקציה ליניארית מורכבת רק מסכומים של משתנים המוכפלים בקבועים. הביטוי \(x_1 x_2\) הוא מכפלה של שני משתנים, ולכן הפונקציה אינה ליניארית (היא ריבועית).
מערכת משוואות ליניאריות
ייצוג ופתרונות
מוטיבציה — למה זה חשוב?
מערכות משוואות ליניאריות מופיעות כמעט בכל תחום מדעי וטכנולוגי, החל מניתוח מעגלים חשמליים, דרך מודלים כלכליים ועד לאופטימיזציה של רשתות לוגיסטיות. היכולת לייצג ולפתור מערכות כאלה היא כלי מרכזי בארגז הכלים של מדען הנתונים.
הגדרה
מערכת של \(m\) משוואות ליניאריות עם \(n\) נעלמים \(x_1, \ldots, x_n\) ניתנת לכתיבה בצורה מטריציונית קומפקטית.
נוסחאות
הצורה המטריציונית של מערכת משוואות ליניאריות היא:
כאשר \(A\) היא מטריצת המקדמים בגודל \(m \times n\), \(x\) הוא וקטור הנעלמים בגודל \(n \times 1\), ו-\(b\) הוא וקטור המקדמים החופשיים בגודל \(m \times 1\).
דוגמה
את מערכת המשוואות:
\(x_1 + x_2 - x_3 = 5\)
\(2x_1 + 0.2x_3 = 2.4\)
ניתן לכתוב כך:
אפשרויות הפתרון
למערכת משוואות ליניאריות יש תמיד בדיוק אחת משלוש האפשרויות הבאות:
- אין פתרון.
- יש פתרון יחיד.
- יש אינסוף פתרונות.
שאלת בדיקה: בחרו את האפשרות הנכונה
בהינתן המערכת \(Ax=b\), פתרון המערכת מייצג את:
הסבר: המשוואה \(Ax=b\) שקולה לביטוי \(x_1 a_1 + x_2 a_2 + \cdots + x_n a_n = b\), כאשר \(a_i\) הן עמודות המטריצה \(A\). כלומר, וקטור הפתרון \(x\) מכיל את המקדמים הנדרשים כדי לבטא את \(b\) כצירוף ליניארי של עמודות \(A\).
מערכות דינמיות ליניאריות
תיאור שינוי בזמן
מוטיבציה — למה זה חשוב?
מערכות דינמיות מתארות תהליכים המשתנים בזמן, כמו התפתחות אוכלוסייה, מודלים של התפשטות מחלות או תנודות במחירי מניות. מודלים ליניאריים מספקים דרך פשוטה אך עוצמתית לנתח ולחזות את התנהגות המערכות הללו.
הגדרה
מערכת דינמית ליניארית היא מערכת שבה המצב הבא, \(x_{t+1}\), הוא פונקציה ליניארית של המצב הנוכחי, \(x_t\).
נוסחאות: משוואת העדכון
ההתפתחות של המערכת בזמן מתוארת על ידי "משוואת העדכון":
כאשר \(x_t\) הוא וקטור המצב בזמן \(t\), ו-\(A\) היא "מטריצת הדינמיקה" או "מטריצת המעבר" המתארת כיצד המערכת משתנה מצעד לצעד.
דוגמה: סדרת פיבונאצ'י
ניתן לתאר את סדרת פיבונאצ'י כמערכת דינמית. נגדיר וקטור מצב \(x_t = (F_t, F_{t+1})^T\). המעבר למצב הבא \(x_{t+1} = (F_{t+1}, F_{t+2})^T\) מתבצע כך:
כך, בעזרת כפל חוזר במטריצת המעבר, ניתן לחשב כל איבר בסדרה.
שאלת בדיקה: בחרו את האפשרות הנכונה
במערכת דינמית ליניארית \(x_{t+1}=Ax_t\), כיצד ניתן לבטא את המצב \(x_t\) כפונקציה של המצב ההתחלתי \(x_0\)?
הסבר: \(x_1 = A x_0\), \(x_2 = A x_1 = A(A x_0) = A^2 x_0\), ובאופן כללי, לאחר \(t\) צעדים, מכפילים את וקטור המצב ההתחלתי \(t\) פעמים במטריצה \(A\).
כפל מטריצות
הרכבת טרנספורמציות ליניאריות
מוטיבציה — למה זה חשוב?
כפל מטריצות מייצג הרכבה של פונקציות ליניאריות. פעולה זו מאפשרת לנו לשרשר טרנספורמציות, למשל לסובב אובייקט ואז להזיז אותו, ולבטא את כל רצף הפעולות באמצעות מטריצה יחידה. זהו כלי יסודי בגרפיקה ממוחשבת, רובוטיקה ורשתות נוירונים.
הגדרה
אם \(A\) היא מטריצה בגודל \(m \times p\) ו-\(B\) היא מטריצה בגודל \(p \times n\), אז המכפלה \(C = AB\) היא מטריצה בגודל \(m \times n\). האיבר בשורה \(i\) ועמודה \(j\) של \(C\) הוא המכפלה הפנימית של השורה ה-\(i\) של \(A\) עם העמודה ה-\(j\) של \(B\).
נוסחאות
דוגמה
תכונות חשובות
- לא קומוטטיבי: בדרך כלל, \(AB \neq BA\).
- אסוציאטיבי: \((AB)C = A(BC)\).
- שחלוף של מכפלה: \((AB)^T = B^T A^T\) (שימו לב להיפוך הסדר!).
שאלת בדיקה: בחרו את האפשרות הנכונה
נתונות מטריצות \(A\) בגודל \(3 \times 5\), \(B\) בגודל \(5 \times 2\), ו-\(C\) בגודל \(2 \times 4\). מהו גודל המטריצה \(D = ABC\)?
הסבר: המכפלה \(AB\) היא בגודל \(3 \times 2\). כפל התוצאה במטריצה \(C\) (בגודל \(2 \times 4\)) ייתן מטריצה בגודל \(3 \times 4\).
תרגול מסכם
שאלה 1: נתונה פונקציה ליניארית \(f: \mathbb{R}^3 \to \mathbb{R}^2\) המוגדרת \(f(x_1, x_2, x_3) = (2x_1-x_3, x_2+x_3)\). מצאו את המטריצה \(A\) המייצגת אותה.
שאלה 2: נתונה המערכת הדינמית \(x_{t+1} = \begin{pmatrix} 0 & 1 \\ -1 & 0 \end{pmatrix} x_t\). אם \(x_0 = (1,0)^T\), מה יהיה \(x_2\)?
שאלה 3: חשבו את המכפלה \(AB\) כאשר \(A = \begin{pmatrix} 1 & 0 \\ -1 & 2 \end{pmatrix}\) ו-\(B = \begin{pmatrix} 3 & -1 \\ 0 & 1 \end{pmatrix}\). האם \(AB=BA\)?
פתרון שאלה 1:
נציב את וקטורי הבסיס:
\(f(1,0,0) = (2,0)\)
\(f(0,1,0) = (0,1)\)
\(f(0,0,1) = (-1,1)\)
המטריצה היא \(A = \begin{pmatrix} 2 & 0 & -1 \\ 0 & 1 & 1 \end{pmatrix}\).
פתרון שאלה 2:
\(x_1 = A x_0 = \begin{pmatrix} 0 & 1 \\ -1 & 0 \end{pmatrix} \begin{pmatrix} 1 \\ 0 \end{pmatrix} = \begin{pmatrix} 0 \\ -1 \end{pmatrix}\)
\(x_2 = A x_1 = \begin{pmatrix} 0 & 1 \\ -1 & 0 \end{pmatrix} \begin{pmatrix} 0 \\ -1 \end{pmatrix} = \begin{pmatrix} -1 \\ 0 \end{pmatrix}\)
שימו לב ש-\(x_2 = -x_0\). זוהי טרנספורמציה של סיבוב ב-90 מעלות בכל צעד.
פתרון שאלה 3:
\(AB = \begin{pmatrix} 1 & 0 \\ -1 & 2 \end{pmatrix} \begin{pmatrix} 3 & -1 \\ 0 & 1 \end{pmatrix} = \begin{pmatrix} 3 & -1 \\ -3 & 3 \end{pmatrix}\)
\(BA = \begin{pmatrix} 3 & -1 \\ 0 & 1 \end{pmatrix} \begin{pmatrix} 1 & 0 \\ -1 & 2 \end{pmatrix} = \begin{pmatrix} 4 & -2 \\ -1 & 2 \end{pmatrix}\)
כצפוי, \(AB \neq BA\).
מילון מונחים
פונקציה ליניארית: פונקציה \(f\) המקיימת את תכונת הסופרפוזיציה, \(f(\alpha x + \beta y) = \alpha f(x) + \beta f(y)\), וניתן לייצג אותה על ידי כפל במטריצה, \(f(x)=Ax\).
קונוולוציה (\((A*B)\)): פעולה מתמטית בין שתי מטריצות המשמשת רבות בעיבוד תמונה ורשתות נוירונים להחלת פילטרים.
מערכת דינמית ליניארית: מערכת שהתפתחותה בזמן מתוארת על ידי משוואת העדכון \(x_{t+1} = A x_t\), כאשר \(A\) היא מטריצת המעבר.
סופרפוזיציה: תכונה של פונקציות ליניאריות המאפשרת לפרק את תגובת המערכת לקלט מורכב לסכום תגובותיה לקלט פשוט יותר.
פונקציה אפינית: הרחבה של פונקציה ליניארית הכוללת הזזה (וקטור הזזה \(b\)). צורתה הכללית היא \(f(x) = Ax+b\).