ในบทความนี้ ผมจะอธิบายคณิตศาสตร์ที่จำเป็นสำหรับ AI และ Machine Learning ให้คุณเข้าใจแบบง่ายๆ พร้อมแชร์ แผนการและแหล่งเรียนรู้ที่ชัดเจน ที่ผมใช้เองด้วย เริ่มกันเลย
1. สถิติและความน่าจะเป็น
ภาษาของความไม่แน่นอน ข้อมูล และการอนุมาน
ระบบ AI/ML เรียนรู้จากข้อมูลที่อาจมีสัญญาณรบกวน ไม่สมบูรณ์ และไม่แน่นอน ความน่าจะเป็นและสถิติเป็นเครื่องมือที่ช่วยให้เราสามารถให้เหตุผลภายใต้ความไม่แน่นอน และดึงรูปแบบที่เชื่อถือได้ออกมาจากกลุ่มตัวอย่าง
1.1 ประชากรและการสุ่มตัวอย่าง
- ประชากร: ชุดข้อมูลที่เป็นไปได้ทั้งหมด (โดยปกติไม่สามารถสังเกตได้ทั้งหมด)
- ตัวอย่าง: ส่วนย่อยที่ถูกดึงมาจากประชากร
- การเข้าใจอคติในการสุ่มตัวอย่าง ความเป็นตัวแทน และความแปรปรวน เป็นสิ่งสำคัญสำหรับการทำให้โมเดลสามารถสรุปผลได้ดี
1.2 สถิติเชิงพรรณนา
- ค่าเฉลี่ย มัธยฐาน ฐานนิยม: ค่าที่ใช้วัดแนวโน้มเข้าสู่ส่วนกลาง
- ค่าคาดหวัง: ค่าเฉลี่ยเชิงความน่าจะเป็น เป็นพื้นฐานสำหรับฟังก์ชัน Loss และการลดความเสี่ยง
1.3 ความแปรปรวนและความแปรปรวนร่วม
- ความแปรปรวน: วัดการกระจายหรือความไม่แน่นอนของข้อมูล
- ความแปรปรวนร่วม: วัดว่าตัวแปรสองตัวแปรผันร่วมกันอย่างไร
- นำไปสู่ความเข้าใจเกี่ยวกับสหสัมพันธ์ ภาวะพหุสัมพันธ์ร่วม และปฏิสัมพันธ์ระหว่างฟีเจอร์
1.4 ตัวแปรสุ่ม
- ตัวแปรสุ่มแบบไม่ต่อเนื่อง vs. ต่อเนื่อง
- ฟังก์ชันมวลความน่าจะเป็น (PMF) และฟังก์ชันความหนาแน่นความน่าจะเป็น (PDF)
1.5 การแจกแจงความน่าจะเป็นที่พบบ่อย
สิ่งเหล่านี้กำหนดสมมติฐานเกี่ยวกับวิธีการสร้างข้อมูล:
- การแจกแจงปกติ (เกาส์เซียน): โมเดลสัญญาณรบกวน ข้อผิดพลาด ทฤษฎีบทขีดจำกัดกลาง
- การแจกแจงทวินาม: ผลลัพธ์แบบสองทาง สัญชาตญาณในการจำแนกประเภท
- การแจกแจงแบบเอกรูป: ค่าความน่าจะเป็นก่อนหน้าที่ไม่มีข้อมูล และค่าพื้นฐานของความสุ่ม
1.6 ทฤษฎีบทขีดจำกัดกลาง (CLT)
- อธิบายว่าทำไมสมมติฐานแบบเกาส์เซียนจึงปรากฏอยู่ทั่วไป
- ทำให้วิธีการทางสถิติหลายๆ วิธีใช้ได้ แม้ว่าข้อมูลจะไม่ได้มีการแจกแจงแบบปกติ
1.7 ความน่าจะเป็นแบบมีเงื่อนไข
- ความน่าจะเป็นเมื่อมีข้อมูลบางส่วน
- จำเป็นสำหรับการให้เหตุผล การทำนาย และสัญชาตญาณเชิงสาเหตุ
1.8 ทฤษฎีบทของเบย์
- ปรับปรุงความเชื่อด้วยหลักฐาน
- เป็นรากฐานของการอนุมานแบบเบย์ โมเดลความน่าจะเป็น และ ML สมัยใหม่ที่คำนึงถึงความไม่แน่นอน
1.9 การประมาณค่าความเป็นไปได้สูงสุด (MLE)
- กรอบการทำงานสำหรับการปรับพารามิเตอร์โมเดลให้เข้ากับข้อมูล
- ฟังก์ชัน Loss เช่น MSE และ Cross-Entropy เกิดขึ้นตามธรรมชาติจาก MLE
1.10 การถดถอยเชิงเส้นและโลจิสติก
- การถดถอยเชิงเส้น: การทำนายแบบต่อเนื่องภายใต้สัญญาณรบกวนแบบเกาส์เซียน
- การถดถอยโลจิสติก: การจำแนกประเภทแบบสองทางเชิงความน่าจะเป็น
- ทั้งสองอย่างเป็นประตูสู่การทำความเข้าใจโมเดลที่ซับซ้อนมากขึ้น
2. พีชคณิตเชิงเส้น
โครงสร้างของข้อมูลและโมเดล
เกือบทุกอย่างใน Machine Learning คือการดำเนินการกับเมทริกซ์ ข้อมูล พารามิเตอร์ ค่า Activation และ Gradient ล้วนเป็นเวกเตอร์ เมทริกซ์ หรือเทนเซอร์
2.1 สเกลาร์ เวกเตอร์ เมทริกซ์ เทนเซอร์
- สเกลาร์: ค่าเดี่ยว
- เวกเตอร์: การแทนค่าฟีเจอร์
- เมทริกซ์: ชุดข้อมูล น้ำหนัก การแปลง
- เทนเซอร์: ลักษณะทั่วไปในหลายมิติ (Deep Learning)
2.2 การดำเนินการของเมทริกซ์
- การบวกและการลบ: การรวมสัญญาณ
- การคูณ: การแปลงเชิงเส้นและเลเยอร์ของโครงข่ายประสาทเทียม
- ทรานสโพส: การจัดแนวรูปร่างและสมมาตร
- การดำเนินการเหล่านี้กำหนด Forward Pass ในโมเดล
2.3 ดีเทอร์มิแนนต์และอินเวอร์ส
- ดีเทอร์มิแนนต์: การปรับขนาดปริมาตรและภาวะเอกฐาน
- อินเวอร์ส: การแก้ระบบสมการเชิงเส้น (ไม่ค่อยได้คำนวณโดยตรงในทางปฏิบัติ แต่มีความสำคัญทางแนวคิด)
2.4 แรงค์ของเมทริกซ์และความเป็นอิสระเชิงเส้น
- แรงค์กำหนดปริมาณข้อมูล
- อธิบายความซ้ำซ้อน การยุบตัวของฟีเจอร์ และความสามารถในการระบุค่าได้
2.5 ค่าไอเกนและเวกเตอร์ไอเกน
- อธิบายทิศทางที่ไม่เปลี่ยนแปลงของการแปลง
- เป็นศูนย์กลางของเสถียรภาพ การลู่เข้า และการลดมิติ
2.6 การแยกเมทริกซ์
ใช้เพื่อทำให้ข้อมูลง่ายขึ้น วิเคราะห์ และบีบอัด:
- การแยกค่าเอกฐาน (SVD): เครื่องมือหลักสำหรับเสถียรภาพเชิงตัวเลขและการประมาณค่าแบบแรงค์ต่ำ
- การวิเคราะห์องค์ประกอบหลัก (PCA): การลดมิติ การกรองสัญญาณรบกวน และการสกัดฟีเจอร์
3. แคลคูลัส
การเรียนรู้คือการหาค่าที่เหมาะสมที่สุด
การฝึกโมเดล AI คือปัญหาการหาค่าที่เหมาะสมที่สุด แคลคูลัสอธิบายว่าโมเดลเรียนรู้อย่างไร เรียนรู้ได้เร็วแค่ไหน และจะลู่เข้าหรือไม่
3.1 อนุพันธ์และเกรเดียนต์
- อนุพันธ์: อัตราการเปลี่ยนแปลง
- เกรเดียนต์: ทิศทางที่เพิ่มขึ้นเร็วที่สุดในหลายมิติ
- เกรเดียนต์ขับเคลื่อนการเรียนรู้ผ่าน Gradient Descent
3.2 แคลคูลัสเวกเตอร์และเมทริกซ์
โมเดลสมัยใหม่มีหลายมิติ:
- จาโคเบียน: อนุพันธ์อันดับหนึ่งของฟังก์ชันที่มีค่าเป็นเวกเตอร์
- เฮสเซียน: ข้อมูลความโค้งอันดับสอง
- กฎลูกโซ่: กระดูกสันหลังของ Backpropagation
3.3 พื้นฐานของการหาค่าที่เหมาะสมที่สุด
การทำความเข้าใจภูมิทัศน์ของ Loss เป็นสิ่งสำคัญ:
- จุดต่ำสุดเฉพาะที่ vs. จุดต่ำสุดรวม: ทำไมการฝึกถึง "ติด"
- จุดอานม้า: พบได้บ่อยในพื้นที่หลายมิติ
- ความโค้งนูน: รับประกันความเหมาะสมที่สุดและเสถียรภาพ (พบได้ยากแต่สำคัญ)
วิธีที่ผมเรียนคณิตศาสตร์พวกนี้จริงๆ (แหล่งเรียนรู้)
นี่คือแผนการที่ใช้ได้ผลสำหรับผม
1. สร้างสัญชาตญาณก่อน
ก่อนอ่านตำรา ผมเน้นทำความเข้าใจด้วยภาพ
- 3Blue1Brown โดยเฉพาะ:
- Essence of Linear Algebra
- Essence of Calculus
2. คอร์สเรียนที่มีโครงสร้าง
- Imperial College London – Mathematics for Machine Learning บน Coursera เหมาะมากสำหรับพีชคณิตเชิงเส้นและแคลคูลัสหลายตัวแปร สอนในรูปแบบที่ใช้งานได้จริง
3. สถิติและความน่าจะเป็น
- Khan Academy คำอธิบายที่ชัดเจนและแบบฝึกหัดมากมาย
4. เชื่อมโยงคณิตศาสตร์กับ ML
- เหมาะอย่างยิ่งสำหรับการทำความเข้าใจว่าทฤษฎีกลายเป็นโมเดล ML จริงได้อย่างไร หนังสือ: An Introduction to Statistical Learning
5. เชื่อมทุกอย่างเข้าด้วยกัน
- แสดงให้เห็นว่าแนวคิดทั้งหมดประกอบเข้าด้วยกันในอัลกอริทึมจริงได้อย่างไร หนังสือ: Mathematics for Machine Learning
