آموزش جبر خطی کامل: تئوری و پیاده سازی در کد

سرفصل ها و درس ها

مقدمه ها Introductions

• جبر خطی چیست؟ What is linear algebra?

• کاربردهای جبر خطی Linear algebra applications

• شروعی فریبنده برای درس جبر خطی! An enticing start to a linear algebra course!

• بهترین روش برای یادگیری از این دوره How best to learn from this course

• تجربه Udemy خود را به حداکثر برسانید Maximizing your Udemy experience

مطالب دوره را دریافت کنید Get the course materials

• نحوه دانلود و استفاده از مطالب دوره How to download and use course materials

بردارها Vectors

• تفاسیر جبری و هندسی بردارها Algebraic and geometric interpretations of vectors

• جمع و تفریق برداری Vector addition and subtraction

• ضرب برداری-اسکالر Vector-scalar multiplication

• ضرب بردار-بردار: حاصل ضرب نقطه ای Vector-vector multiplication: the dot product

• ویژگی های محصول نقطه ای: انجمنی، توزیعی، جابه جایی Dot product properties: associative, distributive, commutative

• چالش کد: محصولات نقطه ای با ستون های ماتریسی Code challenge: dot products with matrix columns

• چالش کد: آیا محصول نقطه ای جابجایی است؟ Code challenge: is the dot product commutative?

• طول برداری Vector length

• طول وکتور در متلب Vector length in MATLAB

• طول برداری در پایتون Vector length in Python

• هندسه محصول نقطه ای: علامت و متعامد Dot product geometry: sign and orthogonality

• عمود بردار Vector orthogonality

• چالش کد: نابرابری کوشی-شوارتز Code challenge: Cauchy-Schwarz inequality

• زوایای برداری نسبی Relative vector angles

• چالش کد: علامت محصول نقطه ای و ضرب اسکالر Code challenge: dot product sign and scalar multiplication

• وکتور ضرب هادامارد Vector Hadamard multiplication

• محصول بیرونی Outer product

• وکتور محصول متقاطع Vector cross product

• بردارهایی با اعداد مختلط Vectors with complex numbers

• ترانسپوز هرمیتی (معروف به انتقال مزدوج) Hermitian transpose (a.k.a. conjugate transpose)

• تفسیر و ایجاد بردارهای واحد Interpreting and creating unit vectors

• چالش کد: محصولات نقطه با بردار واحد Code challenge: dot products with unit vectors

• ابعاد و میدان ها در جبر خطی Dimensions and fields in linear algebra

• فضاهای فرعی Subspaces

• فضاهای فرعی در مقابل زیر مجموعه ها Subspaces vs. subsets

• طول Span

• در بازه؟ In the span?

• استقلال خطی Linear independence

• اساس Basis

مقدمه ای بر ماتریس ها Introduction to matrices

• اصطلاحات و ابعاد ماتریس Matrix terminology and dimensionality

• اندازه و ابعاد ماتریس Matrix sizes and dimensionality

• باغ وحشی از ماتریس ها A zoo of matrices

• آیا می توان ماتریس ها را به هم متصل کرد؟ Can the matrices be concatenated?

• جمع و تفریق ماتریس Matrix addition and subtraction

• ضرب ماتریس-اسکالر Matrix-scalar multiplication

• چالش کد: آیا ضرب ماتریس-اسکالر یک عملیات خطی است؟ Code challenge: is matrix-scalar multiplication a linear operation?

• جابجا شود Transpose

• ماتریس های پیچیده Complex matrices

• جمع، برابری و جابجایی Addition, equality, and transpose

• مورب و ردیابی Diagonal and trace

• چالش کد: خطی بودن ردیابی Code challenge: linearity of trace

• محاسبات ماتریس پخش Broadcasting matrix arithmetic

ضرب های ماتریسی Matrix multiplications

• مقدمه ای بر ضرب ماتریس استاندارد Introduction to standard matrix multiplication

• چهار راه برای تفکر در مورد ضرب ماتریس Four ways to think about matrix multiplication

• چالش کد: ضرب ماتریس با لایه بندی Code challenge: matrix multiplication by layering

• ضرب ماتریس با یک ماتریس مورب Matrix multiplication with a diagonal matrix

• ترتیب عملیات روی ماتریس ها Order-of-operations on matrices

• ضرب ماتریس-بردار Matrix-vector multiplication

• مقدار گمشده را پیدا کنید! Find the missing value!

• ماتریس های تبدیل دوبعدی 2D transformation matrices

• چالش کد: ماتریس های چرخش خالص و ناخالص Code challenge: Pure and impure rotation matrices

• چالش کد: تبدیل های هندسی از طریق ضرب ماتریس Code challenge: Geometric transformations via matrix multiplications

• هویت های ماتریس افزایشی و ضربی Additive and multiplicative matrix identities

• ماتریس های متقارن جمعی و ضربی Additive and multiplicative symmetric matrices

• هادامارد (عنصر) ضرب Hadamard (element-wise) multiplication

• برابری عملیات ماتریسی Matrix operation equality

• چالش کد: تقارن ماتریس های متقارن ترکیبی Code challenge: symmetry of combined symmetric matrices

• ضرب دو ماتریس متقارن Multiplication of two symmetric matrices

• چالش کد: ضرب استاندارد و هادامارد برای ماتریس های مورب Code challenge: standard and Hadamard multiplication for diagonal matrices

• چالش کد: تبدیل فوریه از طریق ضرب ماتریس! Code challenge: Fourier transform via matrix multiplication!

• محصول Frobenius dot Frobenius dot product

• هنجارهای ماتریس Matrix norms

• چالش کد: شرایط برای خود الحاق Code challenge: conditions for self-adjoint

• چالش کد: شاخص عدم تقارن ماتریس Code challenge: The matrix asymmetry index

• در مورد تقسیم ماتریس چطور؟ What about matrix division?

رتبه ماتریسی Matrix rank

• رتبه: مفاهیم، ​​اصطلاحات و کاربردها Rank: concepts, terms, and applications

• حداکثر رتبه ممکن Maximum possible rank.

• رتبه محاسباتی: نظریه و عمل Computing rank: theory and practice

• رتبه ماتریس های جمع شده و ضرب شده Rank of added and multiplied matrices

• حداکثر رتبه ممکن چقدر است؟ What's the maximum possible rank?

• چالش کد: ماتریس کاهش رتبه از طریق ضرب Code challenge: reduced-rank matrix via multiplication

• چالش کد: ضرب اسکالر و رتبه Code challenge: scalar multiplication and rank

• رتبه A^TA و AA^T Rank of A^TA and AA^T

• چالش کد: رتبه ماتریس های ضرب شده و جمع شده Code challenge: rank of multiplied and summed matrices

• ساخت یک ماتریس با رتبه کامل با "تغییر" Making a matrix full-rank by "shifting"

• چالش کد: آیا این بردار در گستره این مجموعه است؟ Code challenge: is this vector in the span of this set?

• مماس دوره: خود پاسخگویی در یادگیری آنلاین Course tangent: self-accountability in online learning

فضاهای ماتریسی Matrix spaces

• فضای ستون یک ماتریس Column space of a matrix

• فضای ستون، در کد تجسم شده است Column space, visualized in code

• فضای ردیف یک ماتریس Row space of a matrix

• فضای تهی و فضای خالی سمت چپ یک ماتریس Null space and left null space of a matrix

• فضاهای ستون/سمت چپ و تهی و ردیف/تهی متعامد هستند Column/left-null and row/null spaces are orthogonal

• ابعاد فضاهای ستون/ردیف/تهی Dimensions of column/row/null spaces

• نمونه ای از چهار زیرفضا Example of the four subspaces

• بیشتر در مورد Ax=b و Ax=0 More on Ax=b and Ax=0

حل سیستم معادلات Solving systems of equations

• سیستم معادلات: جبر و هندسه Systems of equations: algebra and geometry

• تبدیل سیستم معادلات به معادلات ماتریسی Converting systems of equations to matrix equations

• حذف گاوسی Gaussian elimination

• فرم اسکله و محورها Echelon form and pivots

• فرم ردیف ردیف کاهش یافته است Reduced row echelon form

• چالش کد: RREF ماتریس ها با اندازه ها و رتبه های مختلف Code challenge: RREF of matrices with different sizes and ranks

• فضاهای ماتریسی پس از کاهش ردیف Matrix spaces after row reduction

تعیین کننده ماتریس Matrix determinant

• تعیین کننده: مفهوم و کاربردها Determinant: concept and applications

• تعیین کننده یک ماتریس 2x2 Determinant of a 2x2 matrix

• چالش کد: تعیین کننده ماتریس های کوچک و بزرگ منفرد Code challenge: determinant of small and large singular matrices

• تعیین کننده یک ماتریس 3x3 Determinant of a 3x3 matrix

• چالش کد: ماتریس های بزرگ با تبادل ردیف Code challenge: large matrices with row exchanges

• مقادیر ماتریس را برای یک تعیین کننده معین پیدا کنید Find matrix values for a given determinant

• چالش کد: تعیین کننده ماتریس های جابجا شده Code challenge: determinant of shifted matrices

• چالش کد: تعیین کننده محصول ماتریس Code challenge: determinant of matrix product

ماتریس معکوس Matrix inverse

• معکوس ماتریس: مفهوم و کاربردها Matrix inverse: Concept and applications

• محاسبه معکوس در کد Computing the inverse in code

• معکوس یک ماتریس 2x2 Inverse of a 2x2 matrix

• الگوریتم MCA برای محاسبه معکوس The MCA algorithm to compute the inverse

• چالش کد: پیاده سازی الگوریتم MCA!! Code challenge: Implement the MCA algorithm!!

• محاسبه معکوس از طریق کاهش ردیف Computing the inverse via row reduction

• چالش کد: معکوس یک ماتریس مورب Code challenge: inverse of a diagonal matrix

• چپ معکوس و راست معکوس Left inverse and right inverse

• معکوس های یک طرفه در کد One-sided inverses in code

• اثبات: معکوس منحصر به فرد است Proof: the inverse is unique

• شبه معکوس، قسمت 1 Pseudo-inverse, part 1

• چالش کد: شبه معکوس ماتریس های معکوس Code challenge: pseudoinverse of invertible matrices

• چرا باید از معکوس اجتناب کنید؟ Why should you avoid the inverse?

پیش بینی ها و متعامدسازی Projections and orthogonalization

• پیش بینی ها در R^2 Projections in R^2

• پیش بینی ها در R^N Projections in R^N

• اجزای بردار متعامد و موازی Orthogonal and parallel vector components

• چالش کد: بردار را به اجزای متعامد تجزیه کنید Code challenge: decompose vector to orthogonal components

• ماتریس های متعامد Orthogonal matrices

• روش گرام اشمیت Gram-Schmidt procedure

• تجزیه QR QR decomposition

• چالش کد: الگوریتم گرام اشمیت Code challenge: Gram-Schmidt algorithm

• معکوس ماتریس از طریق تجزیه QR Matrix inverse via QR decomposition

• چالش کد: معکوس از طریق QR Code challenge: Inverse via QR

• چالش کد: معکوس شرمن-موریسون را ثابت و نشان دهید Code challenge: Prove and demonstrate the Sherman-Morrison inverse

• چالش کد: A^TA = R^TR Code challenge: A^TA = R^TR

حداقل مربعات برای برازش مدل در آمار Least-squares for model-fitting in statistics

• مقدمه ای بر حداقل مربعات Introduction to least-squares

• حداقل مربعات از طریق معکوس چپ Least-squares via left inverse

• حداقل مربعات از طریق طرح ریزی متعامد Least-squares via orthogonal projection

• حداقل مربعات از طریق کاهش ردیف Least-squares via row-reduction

• مقادیر و باقیمانده های پیش بینی شده توسط مدل Model-predicted values and residuals

• کاربرد حداقل مربعات 1 Least-squares application 1

• کاربرد حداقل مربعات 2 Least-squares application 2

• چالش کد: حداقل مربعات از طریق تجزیه QR Code challenge: Least-squares via QR decomposition

تجزیه ویژه Eigendecomposition

• مقادیر ویژه و بردارهای ویژه چیست؟ What are eigenvalues and eigenvectors?

• یافتن مقادیر ویژه Finding eigenvalues

• میانبر برای مقادیر ویژه یک ماتریس 2x2 Shortcut for eigenvalues of a 2x2 matrix

• چالش کد: مقادیر ویژه ماتریس های مورب و مثلثی Code challenge: eigenvalues of diagonal and triangular matrices

• چالش کد: مقادیر ویژه ماتریس های تصادفی Code challenge: eigenvalues of random matrices

• یافتن بردارهای ویژه Finding eigenvectors

• تجزیه ویژه با دست: دو مثال Eigendecomposition by hand: two examples

• مورب سازی Diagonalization

• قدرت های ماتریس از طریق مورب Matrix powers via diagonalization

• چالش کد: تجزیه ویژه تفاوت های ماتریس Code challenge: eigendecomposition of matrix differences

• بردارهای ویژه مقادیر ویژه متمایز Eigenvectors of distinct eigenvalues

• بردارهای ویژه مقادیر ویژه مکرر Eigenvectors of repeated eigenvalues

• تجزیه ویژه ماتریس های متقارن Eigendecomposition of symmetric matrices

• لایه های ویژه یک ماتریس Eigenlayers of a matrix

• چالش کد: بازسازی یک ماتریس از لایه های ویژه Code challenge: reconstruct a matrix from eigenlayers

• تجزیه ویژه ماتریس های منفرد Eigendecomposition of singular matrices

• چالش کد: ردیابی و تعیین کننده، مجموع مقادیر ویژه و محصول Code challenge: trace and determinant, eigenvalues sum and product

• تجزیه ویژه تعمیم یافته Generalized eigendecomposition

• چالش کد: GED در ماتریس های کوچک و بزرگ Code challenge: GED in small and large matrices

تجزیه مقدار منفرد Singular value decomposition

• تجزیه مقدار منفرد (SVD) Singular value decomposition (SVD)

• آیا این دو عبارت برابرند؟ Are these two expressions equal?

• چالش کد: SVD در مقابل تجزیه ویژه برای ماتریس های متقارن مربع Code challenge: SVD vs. eigendecomposition for square symmetric matrices

• رابطه بین مقادیر مفرد و مقادیر ویژه Relation between singular values and eigenvalues

• چالش کد: U از تجزیه ویژه A^TA Code challenge: U from eigendecomposition of A^TA

• چالش کد: A^TA، Av، و بردارهای منفرد Code challenge: A^TA, Av, and singular vectors

• SVD و چهار فضای فرعی SVD and the four subspaces

• نظریه طیفی ماتریس ها Spectral theory of matrices

• SVD برای تقریب های رتبه پایین SVD for low-rank approximations

• مقادیر مفرد را به درصد واریانس تبدیل کنید Convert singular values to percent variance

• چالش کد: چه زمانی UV^T معتبر است، هنجار آن چیست و آیا متعامد است؟ Code challenge: When is UV^T valid, what is its norm, and is it orthogonal?

• مقادیر منفرد یک ماتریس متعامد Singular values of an orthogonal matrix

• SVD، معکوس ماتریس و شبه معکوس SVD, matrix inverse, and pseudoinverse

• SVD، (شبه) معکوس، و معکوس چپ SVD, (pseudo)inverse, and left-inverse

• شماره شرط یک ماتریس Condition number of a matrix

• چالش کد: ایجاد ماتریس با شماره شرط دلخواه Code challenge: Create matrix with desired condition number

• چالش کد: چرا از معکوس اجتناب می کنید؟ Code challenge: Why you avoid the inverse

شکل درجه دوم و قطعیت Quadratic form and definiteness

• شکل درجه دوم در جبر The quadratic form in algebra

• شکل درجه دوم در هندسه The quadratic form in geometry

• فرم درجه دوم نرمال شده The normalized quadratic form

• چالش کد: فرم درجه دوم نرمال شده را تجسم کنید Code challenge: Visualize the normalized quadratic form

• بردارهای ویژه و سطح درجه دوم شکل می گیرند Eigenvectors and the quadratic form surface

• کاربرد فرم درجه دوم نرمال شده: PCA Application of the normalized quadratic form: PCA

• شکل درجه دوم تجزیه ویژه تعمیم یافته Quadratic form of generalized eigendecomposition

• قطعیت ماتریس، هندسه و مقادیر ویژه Matrix definiteness, geometry, and eigenvalues

• اثبات: A^TA همیشه مثبت (نیمه) معین است Proof: A^TA is always positive (semi)definite

• اثبات: مقادیر ویژه و قطعیت ماتریس Proof: Eigenvalues and matrix definiteness

بخش پاداش Bonus section

• سخنرانی پاداش Bonus lecture