Kuliah · Kuliah · Aljabar

Matematika untuk Informatika dan Data/AI

Mata kuliah ini mengumpulkan matematika yang paling sering dipakai pemrogram dan ilmuwan data. Aljabar linear terapan memberi bahasa untuk data (vektor, matriks, kemiripan kosinus, nilai eigen, regresi kuadrat terkecil). Probabilitas dan teorema Bayes memodelkan ketidakpastian. Optimasi dengan gradient descent adalah mesin pelatihan model pembelajaran mesin. Notasi Big-O mengukur seberapa cepat algoritma bertumbuh terhadap ukuran masukan.

Daftar isi
  1. Konsep
  2. Rumus
  3. Contoh soal
  4. Kesalahan umum
  5. Coba sendiri
  6. Kuis 5 soal
  7. Tanya jawab
  8. Topik terkait
  9. Untuk guru

Konsep Matematika untuk Informatika dan Data/AI

Bab 1 — Aljabar linear terapan

Setiap data dapat ditulis sebagai vektor fitur; kumpulan data menjadi matriks XX berukuran n×dn \times d. Hasil kali titik u⋅v=∑uiviu \cdot v = \sum u_iv_i dan norma ∥u∥=u⋅u\|u\| = \sqrt{u \cdot u} melahirkan kemiripan kosinus cos⁡θ=u⋅v∥u∥∥v∥\cos\theta = \frac{u \cdot v}{\|u\|\|v\|}, yang dipakai di mesin pencari dan sistem rekomendasi.

Nilai eigen λ\lambda dan vektor eigen vv memenuhi Av=λvAv = \lambda v, dicari dari det⁡(A−λI)=0\det(A - \lambda I) = 0. Pada analisis komponen utama (PCA), vektor eigen matriks kovarians menunjukkan arah variasi terbesar, dan proporsi variansi yang dijelaskan komponen ke-kk adalah λk∑λi\frac{\lambda_k}{\sum \lambda_i}. Regresi kuadrat terkecil menyelesaikan persamaan normal XTXβ=XTyX^{T}X\beta = X^{T}y; untuk satu fitur, kemiringannya b=∑(xi−xˉ)(yi−yˉ)∑(xi−xˉ)2b = \frac{\sum (x_i - \bar{x})(y_i - \bar{y})}{\sum (x_i - \bar{x})^{2}}. Dekomposisi nilai singular (SVD) memperumum gagasan ini untuk kompresi dan reduksi dimensi.

Bab 2 — Probabilitas

Peluang memenuhi 0≤P(A)≤10 \le P(A) \le 1, P(Ω)=1P(\Omega) = 1, dan aturan penjumlahan P(A∪B)=P(A)+P(B)−P(A∩B)P(A \cup B) = P(A) + P(B) - P(A \cap B). Peluang bersyarat P(A∣B)=P(A∩B)P(B)P(A \mid B) = \frac{P(A \cap B)}{P(B)}; kejadian saling bebas jika P(A∩B)=P(A)P(B)P(A \cap B) = P(A)P(B).

Teorema Bayes membalik arah peluang bersyarat:

P(H∣E)=P(E∣H)P(H)P(E∣H)P(H)+P(E∣¬H)P(¬H).P(H \mid E) = \frac{P(E \mid H)P(H)}{P(E \mid H)P(H) + P(E \mid \neg H)P(\neg H)}.

Teorema ini menjadi dasar pengklasifikasi Naive Bayes (misalnya penyaring spam). Variabel acak diringkas oleh nilai harapan E[X]E[X] dan variansi Var⁡(X)=E[X2]−(E[X])2\operatorname{Var}(X) = E[X^{2}] - (E[X])^{2}. Distribusi baku: Bernoulli, binomial (E=npE = np, Var⁡=np(1−p)\operatorname{Var} = np(1 - p)), Poisson, dan normal.

Bab 3 — Optimasi dan gradient descent

Melatih model berarti meminimumkan fungsi rugi L(w)L(w), misalnya galat kuadrat rata-rata. Syarat perlu minimum adalah ∇L(w)=0\nabla L(w) = 0, dan fungsi konveks menjamin setiap minimum lokal adalah minimum global.

Gradient descent memperbarui parameter berlawanan arah gradien:

wk+1=wk−η∇L(wk),w_{k + 1} = w_k - \eta \nabla L(w_k),

dengan laju belajar η>0\eta > 0. Untuk L(w)=(w−a)2L(w) = (w - a)^{2}, galat menyusut dengan faktor ∣1−2η∣|1 - 2\eta| setiap langkah: konvergen jika 0<η<10 < \eta < 1, berosilasi jika 12<η<1\frac{1}{2} < \eta < 1, dan divergen jika η>1\eta > 1. Varian praktis meliputi stochastic gradient descent (gradien dari sebagian data), momentum, dan Adam. Untuk optimasi berkendala dipakai pengali Lagrange.

Bab 4 — Kompleksitas dan notasi Big-O

f(n)=O(g(n))f(n) = O(g(n)) jika ada konstanta c>0c > 0 dan n0n_0 sehingga f(n)≤c g(n)f(n) \le c\,g(n) untuk semua n≥n0n \ge n_0; Ω\Omega memberi batas bawah dan Θ\Theta batas ketat. Hanya suku dengan pertumbuhan tercepat yang menentukan: 3n2+100nlog⁡n=O(n2)3n^{2} + 100n\log n = O(n^{2}).

KelasContoh algoritma
O(1)O(1)akses elemen larik
O(log⁡n)O(\log n)pencarian biner
O(n)O(n)pencarian linear
O(nlog⁡n)O(n \log n)merge sort
O(n2)O(n^{2})bubble sort
O(2n)O(2^{n})mencoba semua himpunan bagian

Algoritma rekursif dianalisis dengan relasi rekurensi. Teorema master untuk T(n)=aT(nb)+Θ(nd)T(n) = aT\left(\frac{n}{b}\right) + \Theta(n^{d}): jika d=log⁡bad = \log_b a, maka T(n)=Θ(ndlog⁡n)T(n) = \Theta(n^{d}\log n); merge sort (a=b=2a = b = 2, d=1d = 1) termasuk kasus ini.

Rumus

Kemiripan kosinus
cos⁡θ=u⋅v∥u∥ ∥v∥\cos\theta = \frac{u \cdot v}{\|u\|\,\|v\|}
Teorema Bayes
P(H∣E)=P(E∣H)P(H)P(E)P(H \mid E) = \frac{P(E \mid H)P(H)}{P(E)}
Langkah gradient descent
wk+1=wk−η∇L(wk)w_{k + 1} = w_k - \eta \nabla L(w_k)
Kemiringan regresi kuadrat terkecil
b=∑(xi−xˉ)(yi−yˉ)∑(xi−xˉ)2b = \frac{\sum (x_i - \bar{x})(y_i - \bar{y})}{\sum (x_i - \bar{x})^{2}}
Definisi Big-O
f(n)=O(g(n))  ⟺  ∃c,n0:f(n)≤c g(n) ∀n≥n0f(n) = O(g(n)) \iff \exists c, n_0 : f(n) \le c\,g(n)\ \forall n \ge n_0

Contoh soal matematika untuk informatika dan data/ai dan pembahasan

Contoh 1 · Mudah

Kemiripan kosinus dua dokumen

Dua dokumen direpresentasikan oleh vektor frekuensi kata u=(1,2,2)u = (1, 2, 2) dan v=(2,1,2)v = (2, 1, 2). Hitung kemiripan kosinusnya.

Lihat langkah penyelesaian
  1. u⋅v=1×2+2×1+2×2=8u \cdot v = 1 \times 2 + 2 \times 1 + 2 \times 2 = 8.
  2. ∥u∥=1+4+4=3\|u\| = \sqrt{1 + 4 + 4} = 3 dan ∥v∥=3\|v\| = 3.
  3. cos⁡θ=89\cos\theta = \frac{8}{9}, mendekati 1, jadi kedua dokumen sangat mirip.

Kemiripan kosinusnya 89\frac{8}{9}.

Contoh 2 · Sedang

Teorema Bayes pada penyaring spam

Sebanyak 20% email adalah spam. Kata "gratis" muncul pada 60% email spam dan 5% email bukan spam. Jika sebuah email memuat kata "gratis", berapa peluang email itu spam?

Lihat langkah penyelesaian
  1. P(S)=0,2P(S) = 0{,}2, P(G∣S)=0,6P(G \mid S) = 0{,}6, P(G∣¬S)=0,05P(G \mid \neg S) = 0{,}05.
  2. P(G)=0,2×0,6+0,8×0,05=0,12+0,04=0,16P(G) = 0{,}2 \times 0{,}6 + 0{,}8 \times 0{,}05 = 0{,}12 + 0{,}04 = 0{,}16.
  3. P(S∣G)=0,120,16=34P(S \mid G) = \frac{0{,}12}{0{,}16} = \frac{3}{4}.

Peluangnya 34\frac{3}{4} atau 75%.

Contoh 3 · Sedang

Proporsi variansi pada PCA

Matriks kovarians dua fitur adalah C=(3113)C = \begin{pmatrix} 3 & 1 \\ 1 & 3 \end{pmatrix}. Tentukan nilai eigennya dan proporsi variansi yang dijelaskan komponen utama pertama.

Lihat langkah penyelesaian
  1. det⁡(C−λI)=(3−λ)2−1=0\det(C - \lambda I) = (3 - \lambda)^{2} - 1 = 0 memberi λ=4\lambda = 4 atau λ=2\lambda = 2.
  2. Vektor eigen untuk λ=4\lambda = 4 adalah 12(1,1)\frac{1}{\sqrt{2}}(1, 1): arah variasi terbesar.
  3. Proporsi variansi =44+2=23= \frac{4}{4 + 2} = \frac{2}{3}. Perhatikan 4+24 + 2 sama dengan jejak CC, yaitu total variansi.

Nilai eigen 4 dan 2; komponen pertama menjelaskan 23\frac{2}{3} variansi.

Contoh 4 · Sedang

Dua langkah gradient descent

Minimumkan L(w)=(w−3)2L(w) = (w - 3)^{2} dengan gradient descent dari w0=0w_0 = 0 dan laju belajar η=0,25\eta = 0{,}25. Tentukan w2w_2.

Lihat langkah penyelesaian
  1. L′(w)=2(w−3)L'(w) = 2(w - 3).
  2. w1=0−0,25×2(0−3)=1,5w_1 = 0 - 0{,}25 \times 2(0 - 3) = 1{,}5.
  3. w2=1,5−0,25×2(1,5−3)=1,5+0,75=2,25w_2 = 1{,}5 - 0{,}25 \times 2(1{,}5 - 3) = 1{,}5 + 0{,}75 = 2{,}25.
  4. Galat ∣wk−3∣|w_k - 3| menjadi 3; 1,5; 0,75: menyusut dengan faktor 1−2η=0,51 - 2\eta = 0{,}5 menuju minimum w=3w = 3.

w2=2,25w_2 = 2{,}25.

Contoh 5 · Penalaran

Rekurensi merge sort

Banyak perbandingan merge sort dimodelkan T(n)=2T(n2)+nT(n) = 2T\left(\frac{n}{2}\right) + n dengan T(1)=0T(1) = 0. Hitung T(1.024)T(1.024) dan nyatakan kompleksitasnya.

Lihat langkah penyelesaian
  1. Uraikan: setiap tingkat rekursi menyumbang total nn dan ada log⁡2n\log_2 n tingkat, sehingga T(n)=nlog⁡2nT(n) = n\log_2 n untuk nn pangkat dari 2.
  2. Cek kecil: T(2)=2×0+2=2=2log⁡22T(2) = 2 \times 0 + 2 = 2 = 2\log_2 2.
  3. T(1.024)=1.024×log⁡21.024=1.024×10=10.240T(1.024) = 1.024 \times \log_2 1.024 = 1.024 \times 10 = 10.240.
  4. Teorema master dengan a=b=2a = b = 2, d=1=log⁡22d = 1 = \log_2 2 memberi T(n)=Θ(nlog⁡n)T(n) = \Theta(n\log n).

T(1.024)=10.240T(1.024) = 10.240, dan kompleksitasnya Θ(nlog⁡n)\Theta(n\log n).

Kesalahan yang sering terjadi

Menganggap P(A∣B)=P(B∣A)P(A \mid B) = P(B \mid A), misalnya "peluang kata gratis muncul pada spam 60%, jadi email bergratis 60% spam".
Keduanya berbeda dan dihubungkan oleh teorema Bayes yang memperhitungkan peluang awal (prior). Pada contoh, hasilnya 75%, bukan 60%.
Memilih laju belajar sebesar-besarnya agar gradient descent cepat.
Laju belajar terlalu besar membuat iterasi melompati minimum dan bisa divergen. Untuk L=(w−a)2L = (w - a)^{2}, syaratnya 0<η<10 < \eta < 1.
Menyimpulkan algoritma O(n2)O(n^{2}) selalu lebih lambat daripada O(nlog⁡n)O(n\log n).
Big-O menyatakan laju pertumbuhan untuk nn besar dan mengabaikan konstanta. Untuk data kecil, algoritma O(n2)O(n^{2}) berkonstanta kecil (misalnya insertion sort) bisa lebih cepat.

Coba sendiri

Tulis jawabanmu, tekan Periksa. Jika belum tepat, buka petunjuk satu per satu.

Soal 1Aplikasi
Hitung norma Euclid vektor u=(3,4,12)u = (3, 4, 12).
Soal 2Aplikasi
Dua server gagal secara saling bebas dengan peluang P(A)=0,3P(A) = 0{,}3 dan P(B)=0,5P(B) = 0{,}5 dalam sehari. Berapa peluang paling sedikit satu server gagal?
Soal 3Penalaran
Minimumkan L(w)=2w2L(w) = 2w^{2} dengan gradient descent dari w0=4w_0 = 4 dan η=0,1\eta = 0{,}1. Tentukan w2w_2.

Kuis 5 soal

Kerjakan semua soal, lalu periksa sekaligus.

Soal 1Pemahaman
Kompleksitas waktu pencarian biner pada larik terurut berukuran nn adalah …
Soal 2Pemahaman
Pernyataan: "3n2+100nlog⁡n3n^{2} + 100n\log n termasuk O(n2)O(n^{2})." Benar atau salah?
Soal 3Aplikasi
Pada kasus terburuk, berapa banyak perbandingan yang dibutuhkan pencarian biner pada larik terurut berisi 1.000 elemen?
Soal 4Penalaran
Untuk A=(2003)A = \begin{pmatrix} 2 & 0 \\ 0 & 3 \end{pmatrix}, pilih semua pernyataan yang benar.
Pilih semua jawaban yang benar.
Soal 5Aplikasi
Perkalian dua matriks n×nn \times n dengan algoritma standar memerlukan n3n^{3} perkalian skalar. Berapa banyak perkalian skalar untuk n=100n = 100?

Latihan tanpa batas

Soal kembar dengan angka baru, petunjuk bertingkat, dan catatan penguasaanmu.

Mulai latihan

Tanya jawab

Seberapa dalam matematika yang dibutuhkan untuk belajar AI?

Untuk memakai pustaka pembelajaran mesin, cukup memahami vektor, matriks, turunan, dan probabilitas dasar. Untuk merancang atau meneliti model, dibutuhkan aljabar linear yang kuat, kalkulus multivariabel, statistika, dan teori optimasi.

Mengapa Big-O mengabaikan konstanta?

Konstanta bergantung pada perangkat keras dan bahasa pemrograman, sedangkan laju pertumbuhan menentukan apakah algoritma tetap praktis ketika data membesar dari ribuan menjadi miliaran.

Topik terkait

Ringkasan untuk guru

Tujuan pembelajaran

  • Mahasiswa memakai vektor, matriks, nilai eigen, dan kuadrat terkecil untuk mengolah data.
  • Mahasiswa menghitung peluang bersyarat, menerapkan teorema Bayes, serta nilai harapan dan variansi.
  • Mahasiswa menjalankan gradient descent dan menganalisis pengaruh laju belajar.
  • Mahasiswa menentukan kompleksitas algoritma dengan notasi Big-O dan relasi rekurensi.

Ide aktivitas kelas

  • Notebook mini: mahasiswa menulis gradient descent untuk regresi linear dari nol, lalu membandingkan hasilnya dengan solusi persamaan normal.
  • Penyaring spam sederhana: kelompok menghitung peluang kata dari kumpulan pesan contoh dan menerapkan teorema Bayes untuk mengklasifikasikan pesan baru.
  • Lomba stopwatch algoritma: mahasiswa mengukur waktu pencarian linear dan biner untuk berbagai ukuran data, lalu mencocokkan grafiknya dengan kurva Big-O.

Acuan: Silabus umum mata kuliah matematika untuk informatika, sains data, dan kecerdasan artifisial (disusun tim redaksi), elemen Aljabar.

Bagikan latihan ke kelas dengan kode tugas