AI ในระบบรักษาความปลอดภัยทางไซเบอร์

AI ในโลกไซเบอร์ ครอบคลุมการใช้งานที่หลากหลาย ตั้งแต่ชัยชนะที่แท้จริงไปจนถึงข้อกังวลที่แท้จริง การตลาดของ "การรักษาความปลอดภัยที่ขับเคลื่อนด้วย AI" ดำเนินไปไกลกว่าความสามารถจริงในหลายกรณี ในกรณีอื่นๆ ความสามารถที่สำคัญนั้นน่าทึ่งกว่าการตลาด

ที่ซึ่ง AI ชนะจริงๆ สำหรับผู้ปกป้อง

• การตรวจจับความผิดปกติในวงกว้าง เครื่องมือ EDR และ SIEM สมัยใหม่ใช้ ML เพื่อตรวจจับการเบี่ยงเบนจากพฤติกรรมพื้นฐานในเหตุการณ์นับล้าน ดีกว่าการตรวจจับตามกฎสำหรับการโจมตีแบบใหม่มาก
• การจัดหมวดหมู่ฟิชชิ่ง โมเดล ML ที่ดูส่วนหัว URL เนื้อหา และพฤติกรรมของผู้ส่งจะตรวจจับฟิชชิ่งสินค้าส่วนใหญ่โดยอัตโนมัติ อัตราบวกลวงคือสิ่งที่จำกัดการบล็อกเชิงรุก
• การจำแนกมัลแวร์ การวิเคราะห์แบบคงที่และไดนามิกรวมกับ ML จะจัดประเภทไฟล์ใหม่ได้เร็วกว่า AV ที่ใช้ลายเซ็น EDR สมัยใหม่ส่วนใหญ่ใช้ ML เป็นส่วนหนึ่งของไปป์ไลน์การจัดประเภท
• การแยกส่วนและการจัดลำดับความสำคัญ นักวิเคราะห์ความปลอดภัยจมอยู่กับการแจ้งเตือน ML สามารถจัดอันดับตามความรุนแรงที่อาจเกิดขึ้น ซึ่งจะช่วยลดเวลาการตรวจสอบต่อนักวิเคราะห์
• การค้นพบช่องโหว่ การทดสอบ Fuzz ที่ได้รับคำแนะนำจาก ML และการวิเคราะห์กราฟคุณสมบัติโค้ดจะพบจุดบกพร่องได้เร็วกว่าการคลุมเครือแบบดั้งเดิม OSS-Fuzz ของ Google พบจุดบกพร่องนับหมื่นในโครงการโอเพ่นซอร์สด้วยวิธีนี้
• LLM ช่วยตรวจสอบโค้ด ตรวจพบรูปแบบการรักษาความปลอดภัยทั่วไป (การแทรก SQL, XSS, ความลับแบบฮาร์ดโค้ด) ในคำขอดึง AI การตรวจสอบโค้ดสมัยใหม่จับได้เพียงเศษเสี้ยวของสิ่งเหล่านี้

ที่ซึ่ง AI ได้รับความสนใจมากเกินไปสำหรับผู้ปกป้อง

• "ข้อมูลภัยคุกคามที่ขับเคลื่อนด้วย AI" มักจะเป็นเพียงการแยกคำหลักออกจากฟีด ส่วนที่ยากคือการดำเนินการ ไม่ใช่การตรวจจับ
• การตอบสนองอัตโนมัติ มีองค์กรเพียงไม่กี่แห่งที่ปล่อยให้ AI ดำเนินการทำลายล้างที่มีความหมาย (การบล็อกบัญชี การแยกโฮสต์) โดยไม่ได้รับการอนุมัติจากมนุษย์ ความเสี่ยงของผลบวกลวงสูงเกินไป โปรแกรมป้องกันไวรัส "next-gen" ที่ขับเคลื่อนด้วย
• AI ที่สัญญาว่าจะจับทุกการโจมตี ฝ่ายตรงข้ามปรับตัว; ไม่มีโมเดลใดที่จะจับทุกอย่างได้ AV พร้อม ML นั้นดีกว่าไม่มีเลย แต่ก็ไม่ใช่เรื่องเสียหาย

ที่ซึ่ง AI ช่วยเหลือผู้โจมตีได้จริง

• หอกฟิชชิ่งในวงกว้าง LLM ช่วยให้ผู้โจมตีปรับแต่งอีเมลฟิชชิ่งให้เป็นแบบส่วนตัวสำหรับเป้าหมายนับพันในคุณภาพที่ก่อนหน้านี้ทำได้เพียงเป้าหมายเดียวเท่านั้น นี่เป็นผลกระทบจาก AI ที่ได้รับการสังเกตมากที่สุดในฝั่งผู้โจมตีในช่วงปี 2568-2569
• การโคลนเสียง โมเดลเสียงสมัยใหม่ที่ได้รับการฝึกโดยใช้เสียงเพียงไม่กี่วินาทีจะสร้างเสียงเลียนแบบที่น่าเชื่อถือ เหตุการณ์ Arup deepfake CFO (2024) คือเสียงและวิดีโอของ AI การโจมตีแบบวิชชิ่งได้รับการปรับปรุงอย่างมาก
• การสร้างโค้ดสำหรับการหาประโยชน์ LLM ช่วยให้ผู้โจมตีที่มีทักษะน้อยสร้างมัลแวร์ที่ใช้งานได้ ปรับโครงสร้างการหาช่องโหว่ที่มีอยู่ และเขียนเนื้อหาวิศวกรรมสังคมที่ได้รับการขัดเกลา
• การวิจัยช่องโหว่ เทคนิค fuzz-and-ML แบบเดียวกันที่ผู้ปกป้องใช้สามารถเปลี่ยนไปใช้การค้นหาจุดบกพร่องได้ ในซอฟต์แวร์ที่เป็นกรรมสิทธิ์
• Captcha และบายพาสการป้องกันบอท AI Solvers เอาชนะ Visual Captchas ส่วนใหญ่ได้ บริการแก้ไข captcha เชิงพาณิชย์นั้นใช้ AI พื้นผิวการโจมตีเฉพาะ

AI ระบบ

AI มีหมวดหมู่ช่องโหว่ใหม่:

• Prompt insert. อินพุตที่ไม่น่าเชื่อถือ (จากผู้ใช้ เอกสารที่ดึงข้อมูล หน้าเว็บ) จะแทนที่คำสั่งของระบบไปยัง LLM และทำให้คำสั่งทำงานนอกนโยบาย ขณะนี้ยังไม่ได้รับการแก้ไขในระดับสถาปัตยกรรม
• การเป็นพิษของข้อมูล ฝ่ายตรงข้ามมีส่วนสนับสนุนข้อมูลการฝึกอบรมที่ออกแบบมาเพื่อแนะนำแบ็คดอร์หรือทำให้โมเดลอ่อนแอลง
• การแยกโมเดล การสืบค้น API ในเวลาเพียงพอเพื่อสร้างน้ำหนักของโมเดลหรือข้อมูลการฝึกขึ้นใหม่
• Adversarial ตัวอย่าง อินพุตที่สร้างขึ้นเพื่อทำให้โมเดลมีการจัดประเภทผิด — ในอดีตแสดงให้เห็นในตัวแยกประเภทรูปภาพ และเทียบกับตัวแยกประเภทมัลแวร์
• Memorization โมเดล จดจำข้อมูลการฝึก หากข้อมูลการฝึกอบรมรวมความลับ (คีย์ API ที่มอบให้กับ GitHub สาธารณะ) โมเดลอาจทำให้ข้อมูลเหล่านั้นรั่วไหล

การเปลี่ยนแปลงครั้งใหญ่ในปี 2026

• AI เจ้าหน้าที่กำลังกลายเป็นพื้นผิวการโจมตีที่แท้จริง Autonomous agent พร้อมการเข้าถึงเครื่องมือ (เบราว์เซอร์, เชลล์, API) สามารถถูกแย่งชิงได้โดยการฉีดทันทีเพื่อทำ การเสนอราคาของผู้โจมตี
• ฝ่ายป้องกันใช้ LLM ใน SOC มากขึ้น สำหรับการร่างรายงานเหตุการณ์ การสรุปบันทึก และการแนะนำขั้นตอนถัดไป ลดเวลาตอบสนองลงอย่างมาก
• การแข่งขันทางอาวุธมีอยู่จริง ทั้งสองฝ่ายปรับใช้ AI ได้เร็วกว่าการปรับใช้กรอบกฎหมายและข้อบังคับ ในอีกหลายปีข้างหน้าจะเกิดความวุ่นวาย

สิ่งนี้มีความหมายต่อผู้ใช้อย่างไร

สำหรับบุคคลทั่วไป:

• ฟิชชิ่งจะถูกเขียนให้ดีขึ้น อย่าเชื่อถือคุณภาพของร้อยแก้วเป็นสัญญาณอีกต่อไป
• Voice และวิดีโอปลอมมีจริง สำหรับการตรวจสอบที่มีเดิมพันสูง ให้ใช้วลีรหัสหรือโทรกลับไปยังหมายเลขที่รู้จัก
• Hardware-key 2FA เอาชนะฟิชชิ่งที่ปรับปรุงโดย AI ส่วนใหญ่ เนื่องจากการเชื่อมโยงต้นทางไม่สนใจเกี่ยวกับคุณภาพร้อยแก้ว
• เครื่องมือของเบราว์เซอร์และเครื่องมือระบบปฏิบัติการที่ปกป้องคุณดีขึ้นเช่นกัน ผลกระทบสุทธิสำหรับผู้ใช้ที่ระมัดระวังโดยทั่วไปจะค่อนข้างเป็นกลาง

สำหรับองค์กร:

• ลงทุนใน EDR/XDR ด้วยองค์ประกอบ ML ที่แข็งแกร่ง — ขอบเขตของการป้องกันได้เพิ่มขึ้น
• Plan สำหรับวิศวกรรมสังคมที่ปรับปรุงด้วย AI โปรโตคอลการตรวจสอบนอกวงมีความสำคัญมากกว่าที่เคย
• หากคุณปรับใช้ LLM ภายใน ให้ถือว่า LLM เป็นแพลตฟอร์มการเรียกใช้โค้ดที่ไม่น่าเชื่อถือ การสั่งสมคำสั่งนั้นมีจริง
• อย่าปล่อยให้คำศัพท์ "AI security" เป็นตัวขับเคลื่อนการจัดซื้อจัดจ้าง ถามว่าโมเดลทำอะไร ได้รับการฝึกอบรมอย่างไร มีการจัดการผลบวกลวงอย่างไร