Generative AI สามารถนำไปใช้ในด้านความปลอดภัยทางไซเบอร์ได้อย่างไร?

การแนะนำ

Generative AI หรือระบบปัญญาประดิษฐ์ที่สามารถสร้างเนื้อหาหรือการคาดการณ์ใหม่ๆ กำลังก้าวขึ้นมาเป็นพลังขับเคลื่อนการเปลี่ยนแปลงในความมั่นคงปลอดภัยไซเบอร์ เครื่องมือต่างๆ เช่น GPT-4 ของ OpenAI ได้แสดงให้เห็นถึงความสามารถในการวิเคราะห์ข้อมูลที่ซับซ้อนและสร้างข้อความที่เหมือนมนุษย์ ซึ่งนำไปสู่แนวทางใหม่ๆ ในการป้องกันภัยคุกคามทางไซเบอร์ ผู้เชี่ยวชาญด้านความมั่นคงปลอดภัยไซเบอร์และผู้มีอำนาจตัดสินใจทางธุรกิจในอุตสาหกรรมต่างๆ กำลังสำรวจว่า Generative AI สามารถเสริมสร้างการป้องกันการโจมตีที่พัฒนาอย่างต่อเนื่องได้อย่างไร ตั้งแต่ภาคการเงินและการดูแลสุขภาพ ไปจนถึงการค้าปลีกและภาครัฐ องค์กรต่างๆ ในทุกภาคส่วนต่างเผชิญกับความพยายามฟิชชิ่งที่ซับซ้อน มัลแวร์ และภัยคุกคามอื่นๆ ที่ Generative AI อาจช่วยรับมือได้ ในเอกสารฉบับนี้ เราจะศึกษา วิธีการใช้ Generative AI ในด้านความมั่นคงปลอดภัยไซเบอร์ โดยเน้นถึงการประยุกต์ใช้จริง ความเป็นไปได้ในอนาคต และข้อควรพิจารณาที่สำคัญสำหรับการนำไปใช้

Generative AI แตกต่างจาก AI เชิงวิเคราะห์แบบดั้งเดิมตรงที่ไม่เพียงแต่ตรวจจับรูปแบบ แต่ยัง สร้าง เนื้อหาด้วย ไม่ว่าจะเป็นการจำลองการโจมตีเพื่อฝึกฝนการป้องกัน หรือการสร้างคำอธิบายภาษาธรรมชาติสำหรับข้อมูลความปลอดภัยที่ซับซ้อน ความสามารถคู่ขนานนี้ทำให้ Generative AI เปรียบเสมือนดาบสองคม มอบเครื่องมือป้องกันใหม่ๆ ที่ทรงพลัง แต่ผู้ก่อภัยคุกคามก็สามารถใช้ประโยชน์จากมันได้เช่นกัน หัวข้อต่อไปนี้จะสำรวจกรณีการใช้งานที่หลากหลายของ Generative AI ในด้านความมั่นคงปลอดภัยไซเบอร์ ตั้งแต่การตรวจจับฟิชชิ่งอัตโนมัติไปจนถึงการปรับปรุงการตอบสนองต่อเหตุการณ์ นอกจากนี้ เรายังกล่าวถึงประโยชน์ที่นวัตกรรม AI เหล่านี้มอบให้ ควบคู่ไปกับความเสี่ยง (เช่น "ภาพหลอน" ของ AI หรือการใช้ในทางที่ผิด) ที่องค์กรต่างๆ ต้องจัดการ สุดท้ายนี้ เราจะนำเสนอแนวทางปฏิบัติเพื่อช่วยให้ธุรกิจต่างๆ ประเมินและผสานรวม Generative AI เข้ากับกลยุทธ์ความมั่นคงปลอดภัยไซเบอร์ของตนอย่างมีความรับผิดชอบ

AI เชิงสร้างสรรค์ในด้านความปลอดภัยทางไซเบอร์: ภาพรวม

Generative AI ในด้านความปลอดภัยไซเบอร์ หมายถึงโมเดล AI ซึ่งมักเป็นโมเดลภาษาขนาดใหญ่หรือเครือข่ายประสาทเทียมอื่นๆ ที่สามารถสร้างข้อมูลเชิงลึก คำแนะนำ โค้ด หรือแม้แต่ข้อมูลสังเคราะห์ เพื่อช่วยในงานด้านความปลอดภัย แตกต่างจากโมเดลเชิงทำนายเพียงอย่างเดียว Generative AI สามารถจำลองสถานการณ์และสร้างผลลัพธ์ที่มนุษย์สามารถอ่านได้ (เช่น รายงาน การแจ้งเตือน หรือแม้แต่ตัวอย่างโค้ดที่เป็นอันตราย) โดยอ้างอิงจากข้อมูลการฝึก ความสามารถนี้กำลังถูกนำไปใช้เพื่อ คาดการณ์ ตรวจจับ และตอบสนอง ต่อภัยคุกคามในรูปแบบที่เปลี่ยนแปลงไปมากกว่าแต่ก่อน ( Generative AI ในด้านความปลอดภัยไซเบอร์คืออะไร? - Palo Alto Networks ) ยกตัวอย่างเช่น โมเดลเชิงกำเนิดสามารถวิเคราะห์บันทึกข้อมูลขนาดใหญ่หรือที่เก็บข้อมูลข่าวกรองภัยคุกคาม และจัดทำสรุปหรือคำแนะนำการดำเนินการที่กระชับ ซึ่งทำหน้าที่เสมือนเป็น “ผู้ช่วย” ของ AI ให้กับทีมรักษาความปลอดภัย

การนำ AI แบบสร้างกำเนิดมาใช้ในช่วงแรกๆ เพื่อการป้องกันทางไซเบอร์นั้นแสดงให้เห็นถึงศักยภาพที่ดี ในปี 2023 Microsoft ได้เปิด ตัว Security Copilot ซึ่งเป็นผู้ช่วยที่ขับเคลื่อนด้วย GPT-4 สำหรับนักวิเคราะห์ความปลอดภัย เพื่อช่วยระบุช่องโหว่และคัดกรองสัญญาณ 65 ล้านล้านสัญญาณที่ Microsoft ประมวลผลในแต่ละวัน ( Microsoft Security Copilot คือผู้ช่วย AI แบบ GPT-4 ใหม่สำหรับความปลอดภัยทางไซเบอร์ | The Verge ) นักวิเคราะห์สามารถแจ้งเตือนระบบนี้ด้วยภาษาธรรมชาติ (เช่น "สรุปเหตุการณ์ด้านความปลอดภัยทั้งหมดในช่วง 24 ชั่วโมงที่ผ่านมา" ) และผู้ช่วยจะสร้างบทสรุปเชิงบรรยายที่เป็นประโยชน์ ในทำนองเดียวกัน Threat Intelligence AI ใช้โมเดลแบบสร้างกำเนิดที่เรียกว่า Gemini เพื่อเปิดใช้งานการค้นหาแบบสนทนาผ่านฐานข้อมูลข่าวกรองภัยคุกคามขนาดใหญ่ของ Google โดยวิเคราะห์โค้ดที่น่าสงสัยและสรุปผลการค้นพบอย่างรวดเร็วเพื่อช่วยเหลือนักล่ามัลแวร์ ( Generative AI สามารถนำมาใช้ในด้านความปลอดภัยทางไซเบอร์ได้อย่างไร? 10 ตัวอย่างจากสถานการณ์จริง ) ตัวอย่างเหล่านี้แสดงให้เห็นถึงศักยภาพ: AI เชิงสร้างสรรค์สามารถย่อยข้อมูลความปลอดภัยทางไซเบอร์ขนาดใหญ่ที่ซับซ้อนและนำเสนอข้อมูลเชิงลึกในรูปแบบที่เข้าถึงได้ ช่วยเร่งการตัดสินใจ

ในขณะเดียวกัน generative AI สามารถสร้างเนื้อหาปลอมที่สมจริงอย่างมาก ซึ่งเป็นประโยชน์ต่อการจำลองสถานการณ์และการฝึกอบรม (และน่าเสียดายที่ผู้โจมตีกำลังสร้างวิศวกรรมสังคม) เมื่อเราพิจารณากรณีการใช้งานเฉพาะเจาะจง เราจะเห็นว่าความสามารถของ generative AI ใน การสังเคราะห์ และ วิเคราะห์ ข้อมูลเป็นรากฐานของแอปพลิเคชันด้านความปลอดภัยทางไซเบอร์มากมาย ด้านล่างนี้ เราจะเจาะลึกกรณีการใช้งานสำคัญๆ ครอบคลุมทุกอย่างตั้งแต่การป้องกันฟิชชิ่งไปจนถึงการพัฒนาซอฟต์แวร์ที่ปลอดภัย พร้อมตัวอย่างการประยุกต์ใช้ในแต่ละอุตสาหกรรม

การประยุกต์ใช้หลักของ Generative AI ในด้านความปลอดภัยทางไซเบอร์

รูป: กรณีการใช้งานหลักของ Generative AI ในด้านความปลอดภัยทางไซเบอร์ ได้แก่ AI copilots สำหรับทีมรักษาความปลอดภัย การวิเคราะห์ช่องโหว่ของโค้ด การตรวจจับภัยคุกคามแบบปรับตัว การจำลองการโจมตีแบบ zero-day การรักษาความปลอดภัยทางไบโอเมตริกซ์ที่ได้รับการปรับปรุง และการตรวจจับฟิชชิ่ง ( 6 กรณีการใช้งานสำหรับ Generative AI ในด้านความปลอดภัยทางไซเบอร์ [+ ตัวอย่าง] )

การตรวจจับและป้องกันฟิชชิ่ง

ฟิชชิงยังคงเป็นหนึ่งในภัยคุกคามทางไซเบอร์ที่แพร่หลายที่สุด โดยหลอกล่อผู้ใช้ให้คลิกลิงก์อันตรายหรือเปิดเผยข้อมูลประจำตัว ปัญญาประดิษฐ์เชิงสร้างสรรค์ (Genative AI) กำลังถูกนำมาใช้เพื่อ ตรวจจับความพยายามฟิชชิง และเสริมสร้างการฝึกอบรมผู้ใช้เพื่อป้องกันการโจมตีที่ประสบความสำเร็จ ในด้านการป้องกัน โมเดล AI สามารถวิเคราะห์เนื้อหาอีเมลและพฤติกรรมของผู้ส่ง เพื่อตรวจจับสัญญาณฟิชชิงที่แฝงอยู่ ซึ่งตัวกรองตามกฎอาจมองข้ามไป ด้วยการเรียนรู้จากชุดข้อมูลขนาดใหญ่ของอีเมลที่ถูกต้องและอีเมลหลอกลวง โมเดลเชิงสร้างสรรค์สามารถระบุความผิดปกติในน้ำเสียง ถ้อยคำ หรือบริบทที่บ่งชี้ว่าเป็นการหลอกลวง แม้ว่าไวยากรณ์และการสะกดคำจะไม่สามารถบ่งชี้ได้อีกต่อไป อันที่จริง นักวิจัยของ Palo Alto Networks พบว่า ปัญญาประดิษฐ์เชิงสร้างสรรค์สามารถระบุ "สัญญาณแฝงของอีเมลฟิชชิงที่อาจไม่ถูกตรวจจับ" ได้ ช่วยให้องค์กรต่างๆ ก้าวล้ำหน้านักต้มตุ๋นไปหนึ่งก้าว ( ปัญญาประดิษฐ์เชิงสร้างสรรค์ในด้านความปลอดภัยทางไซเบอร์คืออะไร? - Palo Alto Networks )

ทีมรักษาความปลอดภัยยังใช้ generative AI เพื่อ จำลองการโจมตีแบบฟิชชิง เพื่อการฝึกอบรมและวิเคราะห์ ตัวอย่างเช่น Ironscales ได้นำเสนอเครื่องมือจำลองฟิชชิงที่ขับเคลื่อนด้วย GPT ซึ่งสร้างอีเมลฟิชชิงปลอมโดยอัตโนมัติที่ปรับแต่งให้เหมาะกับพนักงานขององค์กร ( จะใช้ generative AI ในงานไซเบอร์ซีเคียวริตี้ได้อย่างไร? 10 ตัวอย่างจากสถานการณ์จริง ) อีเมลที่สร้างขึ้นโดย AI เหล่านี้สะท้อนให้เห็นถึงกลยุทธ์ล่าสุดของผู้โจมตี ช่วยให้พนักงานได้ฝึกฝนอย่างสมจริงในการตรวจจับเนื้อหาฟิชชิง การฝึกอบรมเฉพาะบุคคลเช่นนี้มีความสำคัญอย่างยิ่ง เนื่องจากผู้โจมตีเองก็นำ AI มาใช้เพื่อสร้างเหยื่อล่อที่น่าเชื่อถือยิ่งขึ้น ที่น่าสังเกตคือ แม้ว่า generative AI สามารถสร้างข้อความฟิชชิงที่สวยงามได้ (ยุคสมัยของภาษาอังกฤษที่เดาง่ายนั้นหมดไปแล้ว) แต่ผู้ป้องกันพบว่า AI ก็ยังไม่สามารถเอาชนะได้ ในปี 2024 นักวิจัยด้านความปลอดภัยของ IBM ได้ทำการทดลองเปรียบเทียบอีเมลฟิชชิงที่เขียนโดยมนุษย์กับอีเมลที่สร้างโดย AI และ "น่าประหลาดใจที่อีเมลที่สร้างโดย AI ยังคงตรวจจับได้ง่ายแม้จะมีไวยากรณ์ที่ถูกต้อง" ( 6 กรณีศึกษาสำหรับ generative AI ในงานไซเบอร์ซีเคียวริตี้ [+ ตัวอย่าง] ) สิ่งนี้ชี้ให้เห็นว่าสัญชาตญาณของมนุษย์ที่ผสานกับการตรวจจับด้วยความช่วยเหลือของ AI ยังคงสามารถจดจำความไม่สอดคล้องเล็กๆ น้อยๆ หรือสัญญาณเมตาเดตาในกลลวงที่เขียนโดย AI ได้

Generative AI ยังช่วยป้องกันฟิชชิงในรูปแบบอื่นๆ อีกด้วย โมเดลเหล่านี้สามารถใช้สร้าง การตอบกลับอัตโนมัติหรือตัวกรอง เพื่อทดสอบอีเมลที่น่าสงสัยได้ ตัวอย่างเช่น ระบบ AI สามารถตอบกลับอีเมลด้วยคำถามเฉพาะเพื่อยืนยันความถูกต้องของผู้ส่ง หรือใช้ LLM เพื่อวิเคราะห์ลิงก์และไฟล์แนบของอีเมลในแซนด์บ็อกซ์ แล้วสรุปเจตนาที่เป็นอันตราย แพลตฟอร์มความปลอดภัยของ NVIDIA อย่าง Morpheus แสดงให้เห็นถึงประสิทธิภาพของ AI ในด้านนี้ โดยใช้โมเดล Generative NLP เพื่อวิเคราะห์และจำแนกอีเมลอย่างรวดเร็ว และพบว่าสามารถปรับปรุงการตรวจจับอีเมลแบบสเปียร์ฟิชชิงได้ 21% เมื่อเทียบกับเครื่องมือรักษาความปลอดภัยแบบเดิม ( 6 กรณีศึกษาสำหรับ Generative AI ด้านความปลอดภัยทางไซเบอร์ [+ ตัวอย่าง] ) Morpheus ยังสร้างโปรไฟล์รูปแบบการสื่อสารของผู้ใช้เพื่อตรวจจับพฤติกรรมที่ผิดปกติ (เช่น ผู้ใช้ส่งอีเมลไปยังที่อยู่อีเมลภายนอกจำนวนมากโดยกะทันหัน) ซึ่งสามารถบ่งชี้ว่าบัญชีที่ถูกบุกรุกกำลังส่งอีเมลฟิชชิง

ในทางปฏิบัติ บริษัทต่างๆ ในอุตสาหกรรมต่างๆ เริ่มไว้วางใจ AI ในการกรองอีเมลและปริมาณการใช้งานเว็บไซต์เพื่อป้องกันการโจมตีทางวิศวกรรมสังคม ยกตัวอย่างเช่น บริษัทการเงินใช้ AI เชิงสร้างสรรค์ (generative AI) เพื่อสแกนการสื่อสารเพื่อหาความพยายามในการปลอมแปลงตัวตนที่อาจนำไปสู่การฉ้อโกงทางสายโทรศัพท์ ขณะที่ผู้ให้บริการด้านการดูแลสุขภาพใช้ AI เพื่อปกป้องข้อมูลผู้ป่วยจากการละเมิดที่เกี่ยวข้องกับฟิชชิง ด้วยการสร้างสถานการณ์ฟิชชิงที่สมจริงและระบุลักษณะเด่นของข้อความอันตราย ปัญญาประดิษฐ์เชิงสร้างสรรค์จึงช่วยเพิ่มศักยภาพให้กับกลยุทธ์การป้องกันฟิชชิงได้อย่างมีประสิทธิภาพ สรุปคือ AI สามารถช่วยตรวจจับและป้องกันการโจมตีฟิชชิง ได้เร็วและแม่นยำยิ่งขึ้น แม้ว่าผู้โจมตีจะใช้เทคโนโลยีเดียวกันนี้เพื่อยกระดับการโจมตีก็ตาม

การตรวจจับมัลแวร์และการวิเคราะห์ภัยคุกคาม

มัลแวร์สมัยใหม่มีการพัฒนาอย่างต่อเนื่อง โดยผู้โจมตีจะสร้างตัวแปรใหม่หรือสร้างโค้ดที่ซับซ้อนเพื่อหลบเลี่ยงลายเซ็นของโปรแกรมป้องกันไวรัส Generative AI นำเสนอเทคนิคใหม่ๆ สำหรับการตรวจจับและทำความเข้าใจพฤติกรรมของมัลแวร์ วิธีหนึ่งคือการใช้ AI เพื่อ สร้าง “ฝาแฝดชั่วร้าย” ของมัลแวร์ นักวิจัยด้านความปลอดภัยสามารถป้อนตัวอย่างมัลแวร์ที่รู้จักแล้วลงในแบบจำลอง Generative เพื่อสร้างตัวแปรที่กลายพันธุ์ของมัลแวร์นั้นจำนวนมาก การทำเช่นนี้ทำให้พวกเขาสามารถคาดการณ์การปรับแต่งที่ผู้โจมตีอาจทำได้อย่างมีประสิทธิภาพ ตัวแปรที่ AI สร้างขึ้นเหล่านี้สามารถนำไปใช้ฝึกระบบป้องกันไวรัสและระบบตรวจจับการบุกรุก เพื่อให้แม้แต่มัลแวร์เวอร์ชันที่ถูกดัดแปลงก็ยังสามารถตรวจพบได้ ( 6 กรณีศึกษาการใช้งาน Generative AI ด้านความปลอดภัยทางไซเบอร์ [+ ตัวอย่าง] ) กลยุทธ์เชิงรุกนี้ช่วยทำลายวงจรที่แฮกเกอร์ปรับเปลี่ยนมัลแวร์เล็กน้อยเพื่อหลีกเลี่ยงการตรวจจับ และผู้ป้องกันต้องรีบเขียนลายเซ็นใหม่ทุกครั้ง ดังที่ได้กล่าวไว้ในพอดแคสต์อุตสาหกรรมหนึ่ง ปัจจุบันผู้เชี่ยวชาญด้านความปลอดภัยใช้ AI เชิงสร้างสรรค์ (generative AI) เพื่อ "จำลองทราฟฟิกเครือข่ายและสร้างเพย์โหลดอันตรายที่เลียนแบบการโจมตีที่ซับซ้อน" โดยทดสอบระบบป้องกันจากภัยคุกคามทั้งกลุ่ม แทนที่จะทดสอบเพียงกรณีเดียว การตรวจจับภัยคุกคามแบบปรับตัว หมายความว่าเครื่องมือรักษาความปลอดภัยมีความทนทานต่อมัลแวร์โพลีมอร์ฟิก (polymorphic malware) มากขึ้น ซึ่งปกติแล้วอาจหลุดรอดไปได้

นอกเหนือจากการตรวจจับแล้ว Generative AI ยังช่วยใน การวิเคราะห์มัลแวร์และวิศวกรรมย้อนกลับ ซึ่งโดยทั่วไปแล้วเป็นงานที่ต้องใช้แรงงานมากสำหรับนักวิเคราะห์ภัยคุกคาม โมเดลภาษาขนาดใหญ่สามารถได้รับมอบหมายให้ตรวจสอบโค้ดหรือสคริปต์ที่น่าสงสัยและอธิบายด้วยภาษาที่เข้าใจง่ายว่าโค้ดนั้นมีจุดประสงค์เพื่อทำอะไร ตัวอย่างในโลกแห่งความเป็นจริงคือ VirusTotal Code Insight ซึ่งเป็นฟีเจอร์ของ VirusTotal ของ Google ที่ใช้ประโยชน์จากโมเดล Generative AI (Sec-PaLM ของ Google) เพื่อสร้างสรุปภาษาธรรมชาติของโค้ดที่อาจเป็นอันตราย ( Generative AI สามารถใช้ในด้านความปลอดภัยทางไซเบอร์ได้อย่างไร? 10 ตัวอย่างในโลกแห่งความเป็นจริง ) โดยพื้นฐานแล้วมันคือ "ChatGPT ประเภทหนึ่งที่อุทิศให้กับการเขียนโค้ดความปลอดภัย" ทำหน้าที่เป็นนักวิเคราะห์มัลแวร์ AI ที่ทำงานตลอด 24 ชั่วโมงทุกวันเพื่อช่วยให้นักวิเคราะห์มนุษย์เข้าใจภัยคุกคาม ( 6 กรณีการใช้งานสำหรับ Generative AI ในด้านความปลอดภัยทางไซเบอร์ [+ ตัวอย่าง] ) แทนที่จะต้องนั่งอ่านสคริปต์หรือโค้ดไบนารีที่ไม่คุ้นเคย สมาชิกทีมรักษาความปลอดภัยสามารถรับคำอธิบายจาก AI ได้ทันที เช่น "สคริปต์นี้พยายามดาวน์โหลดไฟล์จากเซิร์ฟเวอร์ XYZ แล้วแก้ไขการตั้งค่าระบบ ซึ่งบ่งชี้ถึงพฤติกรรมของมัลแวร์" วิธีนี้ช่วยเร่งการตอบสนองต่อเหตุการณ์ได้อย่างมาก เนื่องจากนักวิเคราะห์สามารถคัดกรองและทำความเข้าใจมัลแวร์ใหม่ๆ ได้เร็วกว่าที่เคย

Generative AI ยังใช้เพื่อ ระบุมัลแวร์ในชุดข้อมูลขนาดใหญ่ โปรแกรมป้องกันไวรัสแบบดั้งเดิมจะสแกนไฟล์เพื่อหาลายเซ็นที่รู้จัก แต่โมเดล Generative สามารถประเมินลักษณะของไฟล์และแม้แต่คาดการณ์ว่าไฟล์นั้นเป็นอันตรายหรือไม่โดยอิงจากรูปแบบที่เรียนรู้ ด้วยการวิเคราะห์แอตทริบิวต์ของไฟล์หลายพันล้านไฟล์ (ทั้งที่เป็นอันตรายและไม่เป็นอันตราย) AI อาจตรวจจับเจตนาที่เป็นอันตรายได้แม้ในขณะที่ไม่มีลายเซ็นที่ชัดเจน ตัวอย่างเช่น โมเดล Generative สามารถตั้งค่าสถานะไฟล์ปฏิบัติการว่าน่าสงสัยได้ เนื่องจากโปรไฟล์พฤติกรรมของมัน "ดู" คล้ายกับแรนซัมแวร์ที่เปลี่ยนแปลงไปเล็กน้อยที่พบระหว่างการฝึก แม้ว่าไบนารีจะเป็นไฟล์ใหม่ก็ตาม การตรวจจับตามพฤติกรรมนี้ช่วยต่อต้านมัลแวร์ใหม่หรือมัลแวร์แบบ Zero-day Threat Intelligence AI ของ Google (ซึ่งเป็นส่วนหนึ่งของ Chronicle/Mandiant) มีรายงานว่าใช้โมเดล Generative เพื่อวิเคราะห์โค้ดที่อาจเป็นอันตราย และ "ช่วยเหลือผู้เชี่ยวชาญด้านความปลอดภัยในการต่อสู้กับมัลแวร์และภัยคุกคามประเภทอื่นๆ ได้อย่างมีประสิทธิภาพและประสิทธิผลมากขึ้น" ( Generative AI สามารถนำมาใช้ในด้านความปลอดภัยทางไซเบอร์ได้อย่างไร? 10 ตัวอย่างจากสถานการณ์จริง )

ในทางกลับกัน เราต้องยอมรับว่าผู้โจมตีก็สามารถใช้ generative AI ได้เช่นกัน เพื่อสร้างมัลแวร์ที่สามารถปรับตัวได้โดยอัตโนมัติ อันที่จริง ผู้เชี่ยวชาญด้านความปลอดภัยเตือนว่า generative AI สามารถช่วยให้อาชญากรไซเบอร์พัฒนามัลแวร์ ที่ตรวจจับได้ยากขึ้นได้ ( generative AI ในไซเบอร์ซีเคียวริตี้คืออะไร? - Palo Alto Networks ) แบบจำลอง AI สามารถถูกสั่งให้แปลงร่างมัลแวร์ซ้ำๆ (เช่น เปลี่ยนโครงสร้างไฟล์ วิธีการเข้ารหัส ฯลฯ) จนกว่าจะหลบเลี่ยงการตรวจสอบโปรแกรมป้องกันไวรัสที่รู้จักทั้งหมด การใช้แบบต่อต้านนี้กำลังเป็นข้อกังวลที่เพิ่มมากขึ้น (บางครั้งเรียกว่า "มัลแวร์ที่ขับเคลื่อนด้วย AI" หรือมัลแวร์โพลีมอร์ฟิกในรูปแบบบริการ) เราจะพูดถึงความเสี่ยงดังกล่าวในภายหลัง แต่สิ่งนี้จะเน้นย้ำว่า generative AI เป็นเครื่องมือในเกมแมวไล่หนูที่ทั้งฝ่ายป้องกันและฝ่ายโจมตีใช้กัน

โดยรวมแล้ว generative AI ช่วยเพิ่มประสิทธิภาพการป้องกันมัลแวร์ด้วยการช่วยให้ทีมรักษาความปลอดภัย คิดเหมือนผู้โจมตี สร้างสรรค์ภัยคุกคามและโซลูชันใหม่ๆ ภายในองค์กร ไม่ว่าจะเป็นการสร้างมัลแวร์สังเคราะห์เพื่อปรับปรุงอัตราการตรวจจับ หรือการใช้ AI เพื่ออธิบายและควบคุมมัลแวร์จริงที่พบในเครือข่าย เทคนิคเหล่านี้สามารถนำไปประยุกต์ใช้ได้ในทุกอุตสาหกรรม ธนาคารอาจใช้การวิเคราะห์มัลแวร์ที่ขับเคลื่อนด้วย AI เพื่อวิเคราะห์มาโครที่น่าสงสัยในสเปรดชีตอย่างรวดเร็ว ขณะที่บริษัทผู้ผลิตอาจใช้ AI เพื่อตรวจจับมัลแวร์ที่กำหนดเป้าหมายระบบควบคุมอุตสาหกรรม การเสริมการวิเคราะห์มัลแวร์แบบดั้งเดิมด้วย generative AI ช่วยให้องค์กรต่างๆ สามารถตอบสนองต่อแคมเปญมัลแวร์ได้รวดเร็วและเชิงรุกมากขึ้นกว่าเดิม

การวิเคราะห์ภัยคุกคามและการทำงานอัตโนมัติ

ในแต่ละวัน องค์กรต่างๆ ต้องเผชิญกับข้อมูลข่าวกรองภัยคุกคามมากมาย ตั้งแต่ฟีดของตัวบ่งชี้การบุกรุก (IOC) ที่เพิ่งค้นพบ ไปจนถึงรายงานของนักวิเคราะห์เกี่ยวกับกลยุทธ์ของแฮ็กเกอร์ที่กำลังเกิดขึ้น ความท้าทายสำหรับทีมรักษาความปลอดภัยคือการกลั่นกรองข้อมูลจำนวนมหาศาลนี้และดึงข้อมูลเชิงลึกที่ นำไปใช้ได้จริง ปัญญาประดิษฐ์เชิงสร้างสรรค์ (Generative AI) กำลังพิสูจน์ให้เห็นถึงคุณค่าอย่างยิ่งในการวิเคราะห์และการใช้ข้อมูลข่าวกรองภัยคุกคามโดย อัตโนมัติ แทนที่จะต้องอ่านรายงานหรือรายการฐานข้อมูลจำนวนมากด้วยตนเอง นักวิเคราะห์สามารถใช้ AI เพื่อสรุปและวิเคราะห์ข้อมูลข่าวกรองภัยคุกคามในบริบทต่างๆ ได้อย่างมีประสิทธิภาพ

ตัวอย่างที่เป็นรูปธรรมอย่างหนึ่งคือ Threat Intelligence ซึ่งผสานรวม Generative AI (โมเดล Gemini) เข้ากับข้อมูลภัยคุกคามมากมายของ Google จาก Mandiant และ VirusTotal AI นี้มอบ "การค้นหาแบบสนทนาในคลังข้อมูลภัยคุกคามอันกว้างขวางของ Google" ทำให้ผู้ใช้สามารถถามคำถามตามธรรมชาติเกี่ยวกับภัยคุกคามและได้รับคำตอบที่สรุปแล้ว ( Generative AI สามารถใช้ในความมั่นคงปลอดภัยไซเบอร์ได้อย่างไร? 10 ตัวอย่างจากสถานการณ์จริง ) ตัวอย่างเช่น นักวิเคราะห์อาจถามว่า "เราพบมัลแวร์ที่เกี่ยวข้องกับ Threat Group X ที่กำหนดเป้าหมายอุตสาหกรรมของเราหรือไม่" และ AI จะดึงข้อมูลที่เกี่ยวข้อง โดยอาจระบุว่า "ใช่ Threat Group X เชื่อมโยงกับแคมเปญฟิชชิ่งเมื่อเดือนที่แล้วโดยใช้มัลแวร์ Y" พร้อมกับสรุปพฤติกรรมของมัลแวร์นั้น ซึ่งจะช่วยลดเวลาในการรวบรวมข้อมูลเชิงลึกซึ่งปกติแล้วจะต้องใช้เครื่องมือหลายตัวหรืออ่านรายงานยาวๆ ลงอย่างมาก

Generative AI ยังสามารถเชื่อมโยงและ สรุปแนวโน้มภัยคุกคาม ได้ โดยอาจค้นหาบล็อกโพสต์ด้านความปลอดภัย ข่าวการละเมิด และการสนทนาในเว็บมืดนับพัน แล้วสร้างบทสรุปสำหรับผู้บริหาร (Executive Summary) ของ "ภัยคุกคามทางไซเบอร์ที่สำคัญประจำสัปดาห์" เพื่อนำเสนอต่อ CISO ตามปกติแล้ว การวิเคราะห์และการรายงานในระดับนี้ต้องใช้ความพยายามของมนุษย์อย่างมาก แต่ในปัจจุบัน โมเดลที่ปรับแต่งมาอย่างดีสามารถร่างได้ภายในไม่กี่วินาที โดยมนุษย์เพียงแค่ปรับแต่งผลลัพธ์ บริษัทต่างๆ เช่น ZeroFox ได้พัฒนา FoxGPT ซึ่งเป็นเครื่องมือ Generative AI ที่ออกแบบมาโดยเฉพาะเพื่อ "เร่งการวิเคราะห์และสรุปข้อมูลเชิงลึกในชุดข้อมูลขนาดใหญ่" ซึ่งรวมถึงเนื้อหาที่เป็นอันตรายและข้อมูลฟิชชิ่ง ( Generative AI สามารถนำมาใช้ในด้านความปลอดภัยทางไซเบอร์ได้อย่างไร? 10 ตัวอย่างจากสถานการณ์จริง ) ด้วยการทำให้การอ่านและการอ้างอิงข้อมูลจำนวนมากเป็นไปโดยอัตโนมัติ AI ช่วยให้ทีมข่าวกรองภัยคุกคามสามารถมุ่งเน้นไปที่การตัดสินใจและการตอบสนอง

อีกกรณีการใช้งานหนึ่งคือ การสืบหาภัยคุกคามผ่านบทสนทนา ลองนึกภาพนักวิเคราะห์ความปลอดภัยโต้ตอบกับผู้ช่วย AI ว่า “แสดงสัญญาณการขโมยข้อมูลในช่วง 48 ชั่วโมงที่ผ่านมาให้ฉันดูหน่อย” หรือ “ช่องโหว่ใหม่ๆ ที่สำคัญที่สุดที่ผู้โจมตีกำลังใช้ประโยชน์ในสัปดาห์นี้คืออะไร” AI สามารถตีความคำค้นหา ค้นหาบันทึกภายในหรือแหล่งข้อมูลภายนอก และตอบกลับด้วยคำตอบที่ชัดเจนหรือแม้แต่รายการเหตุการณ์ที่เกี่ยวข้อง ซึ่งไม่ใช่เรื่องไกลตัวเลย ระบบจัดการข้อมูลและเหตุการณ์ด้านความปลอดภัย (SIEM) สมัยใหม่กำลังเริ่มนำการสืบค้นด้วยภาษาธรรมชาติมาใช้ ตัวอย่างเช่น ชุดโปรแกรมความปลอดภัย QRadar ของ IBM กำลังเพิ่มฟีเจอร์ generative AI ในปี 2024 เพื่อให้นักวิเคราะห์สามารถ “ถาม […] คำถามเฉพาะเจาะจงเกี่ยวกับเส้นทางการโจมตีที่สรุปไว้” ของเหตุการณ์ และได้รับคำตอบโดยละเอียด นอกจากนี้ยังสามารถ “ตีความและสรุปข้อมูลภัยคุกคามที่เกี่ยวข้องสูง” โดยอัตโนมัติ ( Generative AI สามารถนำมาใช้ในด้านความปลอดภัยไซเบอร์ได้อย่างไร? 10 ตัวอย่างจากสถานการณ์จริง ) โดยพื้นฐานแล้ว generative AI จะเปลี่ยนข้อมูลทางเทคนิคจำนวนมหาศาลให้กลายเป็นข้อมูลเชิงลึกขนาดแชทได้ตามต้องการ

สิ่งนี้ส่งผลกระทบอย่างมากต่อทุกอุตสาหกรรม ผู้ให้บริการด้านการดูแลสุขภาพสามารถใช้ AI เพื่อติดตามกลุ่มแรนซัมแวร์ล่าสุดที่พุ่งเป้าไปที่โรงพยาบาล โดยไม่ต้องพึ่งพานักวิเคราะห์เพื่อทำการวิจัยเต็มเวลา SOC ของบริษัทค้าปลีกสามารถสรุปกลยุทธ์มัลแวร์ POS ใหม่ๆ ได้อย่างรวดเร็วเมื่อบรรยายสรุปให้เจ้าหน้าที่ฝ่ายไอทีประจำร้านค้าทราบ และในภาครัฐ ซึ่งจำเป็นต้องสังเคราะห์ข้อมูลภัยคุกคามจากหน่วยงานต่างๆ AI สามารถสร้างรายงานแบบรวมศูนย์ที่เน้นย้ำถึงคำเตือนสำคัญๆ ได้ ด้วยการทำให้ การรวบรวมและตีความข้อมูลภัยคุกคามเป็นระบบอัตโนมัติ ปัญญา ประดิษฐ์ (Generative AI) ช่วยให้องค์กรต่างๆ ตอบสนองต่อภัยคุกคามที่เกิดขึ้นใหม่ได้เร็วขึ้น และลดความเสี่ยงที่จะพลาดคำเตือนสำคัญที่ซ่อนอยู่ในข้อมูลที่ไม่เกี่ยวข้อง

การเพิ่มประสิทธิภาพศูนย์ปฏิบัติการด้านความปลอดภัย (SOC)

ศูนย์ปฏิบัติการด้านความปลอดภัยขึ้นชื่อเรื่องความเหนื่อยล้าจากการแจ้งเตือนและข้อมูลจำนวนมหาศาล นักวิเคราะห์ SOC ทั่วไปอาจต้องตรวจสอบการแจ้งเตือนและเหตุการณ์นับพันรายการในแต่ละวัน เพื่อตรวจสอบเหตุการณ์ที่อาจเกิดขึ้น ปัญญาประดิษฐ์เชิงสร้างสรรค์ (Generative AI) ทำหน้าที่เป็นตัวคูณกำลังใน SOC ด้วยการทำให้งานประจำเป็นอัตโนมัติ ให้ข้อมูลสรุปที่ชาญฉลาด และแม้กระทั่งจัดการการตอบสนองบางอย่าง เป้าหมายคือการปรับปรุงเวิร์กโฟลว์ของ SOC เพื่อให้นักวิเคราะห์ที่เป็นมนุษย์สามารถมุ่งเน้นไปที่ปัญหาที่สำคัญที่สุด ขณะที่ผู้ช่วย AI จัดการส่วนที่เหลือ

แอปพลิเคชันหลักอย่างหนึ่งคือการใช้ AI แบบสร้าง (generative AI) เป็น “ผู้ช่วยวิเคราะห์” Security Copilot ของ Microsoft ดังที่ได้กล่าวไว้ก่อนหน้านี้ เป็นตัวอย่างที่ดีว่า “ถูกออกแบบมาเพื่อช่วยงานของนักวิเคราะห์ความปลอดภัย ไม่ใช่มาแทนที่” ช่วยในการสืบสวนและรายงานเหตุการณ์ ( Microsoft Security Copilot คือผู้ช่วย AI GPT-4 ตัวใหม่สำหรับความปลอดภัยทางไซเบอร์ | The Verge ) ในทางปฏิบัติ หมายความว่านักวิเคราะห์สามารถป้อนข้อมูลดิบ เช่น บันทึกไฟร์วอลล์ ไทม์ไลน์เหตุการณ์ หรือคำอธิบายเหตุการณ์ แล้วขอให้ AI วิเคราะห์หรือสรุปข้อมูล ผู้ช่วยอาจแสดงคำบรรยาย เช่น “ดูเหมือนว่าเวลา 2:35 น. การล็อกอินที่น่าสงสัยจาก IP X สำเร็จบนเซิร์ฟเวอร์ Y ตามด้วยการถ่ายโอนข้อมูลที่ผิดปกติ ซึ่งบ่งชี้ถึงความเสี่ยงที่อาจเกิดการละเมิดเซิร์ฟเวอร์นั้น” การวิเคราะห์บริบทแบบทันทีเช่นนี้มีประโยชน์อย่างยิ่งเมื่อเวลาเป็นสิ่งสำคัญ

ผู้ช่วย AI ยังช่วยลดภาระการคัดกรองระดับ 1 อีกด้วย ข้อมูลจากอุตสาหกรรมระบุว่า ทีมรักษาความปลอดภัยสามารถใช้เวลา 15 ชั่วโมงต่อสัปดาห์ เพียงเพื่อคัดกรองการแจ้งเตือนและผลบวกลวงประมาณ 22,000 รายการ ( 6 กรณีศึกษาสำหรับ Generative AI ในด้านความมั่นคงปลอดภัยไซเบอร์ [+ ตัวอย่าง] ) Generative AI ช่วยให้สามารถคัดกรองการแจ้งเตือนเหล่านี้ได้โดยอัตโนมัติ โดย AI สามารถตัดการแจ้งเตือนที่ไม่เป็นอันตราย (พร้อมเหตุผลประกอบ) และเน้นการแจ้งเตือนที่ต้องการการดูแลเป็นพิเศษ บางครั้งถึงขั้นแนะนำลำดับความสำคัญ อันที่จริง ความแข็งแกร่งของ Generative AI ในการทำความเข้าใจบริบทหมายความว่าสามารถเชื่อมโยงการแจ้งเตือนที่อาจดูเหมือนไม่เป็นอันตรายเมื่อมองแยกกัน แต่เมื่อนำมารวมกันกลับบ่งชี้ถึงการโจมตีหลายขั้นตอนได้ ซึ่งช่วยลดโอกาสที่จะพลาดการโจมตีเนื่องจาก "ความเหนื่อยล้าจากการแจ้งเตือน"

นักวิเคราะห์ SOC ยังใช้ภาษาธรรมชาติร่วมกับ AI เพื่อเร่งการค้นหาและการตรวจสอบ ตัวอย่างเช่น แพลตฟอร์ม Purple AI "ถามคำถามที่ซับซ้อนเกี่ยวกับการค้นหาภัยคุกคามด้วยภาษาอังกฤษแบบง่ายๆ และได้รับคำตอบที่รวดเร็วและแม่นยำ" ( How Can Generative AI Be Used in Cybersecurity? 10 Real-World Examples ) นักวิเคราะห์สามารถพิมพ์ว่า "มีจุดเชื่อมต่อใดที่สื่อสารกับโดเมน badguy123[.]com ในเดือนที่แล้วหรือไม่" จากนั้น Purple AI จะค้นหาผ่านบันทึกเพื่อตอบกลับ วิธีนี้ช่วยให้นักวิเคราะห์ไม่ต้องเขียนคำสั่งหรือสคริปต์ฐานข้อมูล ซึ่ง AI จะทำการดำเนินการนี้เอง นอกจากนี้ ยังหมายความว่านักวิเคราะห์ระดับจูเนียร์สามารถจัดการงานที่ก่อนหน้านี้ต้องใช้วิศวกรที่มีประสบการณ์และเชี่ยวชาญด้านภาษาคำสั่ง ซึ่งจะ ช่วยยกระดับทักษะของทีมได้อย่างมีประสิทธิภาพด้วยความช่วยเหลือจาก AI อันที่จริง นักวิเคราะห์รายงานว่าคำแนะนำด้าน AI เชิงสร้างสรรค์ "ช่วยเพิ่มทักษะและความเชี่ยวชาญ" ของพวกเขา เนื่องจากพนักงานระดับจูเนียร์สามารถรับการสนับสนุนการเขียนโค้ดตามต้องการหรือคำแนะนำในการวิเคราะห์จาก AI ได้แล้ว ซึ่งช่วยลดการพึ่งพาการขอความช่วยเหลือจากสมาชิกทีมระดับสูงอยู่เสมอ ( 6 กรณีการใช้งานสำหรับ AI เชิงสร้างสรรค์ในด้านความปลอดภัยทางไซเบอร์ [+ ตัวอย่าง] )

การเพิ่มประสิทธิภาพ SOC อีกประการหนึ่งคือ การสรุปเหตุการณ์และจัดทำเอกสารโดยอัตโนมัติ หลังจากจัดการเหตุการณ์แล้ว จะต้องมีคนเขียนรายงาน ซึ่งเป็นงานที่หลายคนมองว่าน่าเบื่อ Generative AI สามารถนำข้อมูลทางนิติวิทยาศาสตร์ (บันทึกระบบ การวิเคราะห์มัลแวร์ ไทม์ไลน์การดำเนินการ) มาสร้างรายงานเหตุการณ์ฉบับร่างแรก IBM กำลังเพิ่มความสามารถนี้ลงใน QRadar เพื่อให้ สามารถสรุปเหตุการณ์ให้กับผู้มีส่วนได้ส่วนเสียต่างๆ (ผู้บริหาร ทีมไอที ฯลฯ) ได้ "คลิกเพียงครั้งเดียว" Generative AI สามารถนำมาใช้ในด้านความปลอดภัยทางไซเบอร์ได้อย่างไร? 10 ตัวอย่างจากสถานการณ์จริง ) ซึ่งไม่เพียงแต่ช่วยประหยัดเวลา แต่ยังช่วยให้มั่นใจได้ว่าไม่มีสิ่งใดถูกมองข้ามในรายงาน เนื่องจาก AI สามารถรวมรายละเอียดที่เกี่ยวข้องทั้งหมดไว้ได้อย่างสม่ำเสมอ ในทำนองเดียวกัน AI สามารถกรอกแบบฟอร์มหรือตารางหลักฐานโดยอิงจากข้อมูลเหตุการณ์เพื่อการปฏิบัติตามข้อกำหนดและการตรวจสอบ

ผลลัพธ์ในโลกแห่งความเป็นจริงนั้นน่าสนใจ ผู้ที่นำ SOAR (การประสานงานด้านความปลอดภัย การทำงานอัตโนมัติ และการตอบสนอง) ที่ขับเคลื่อนด้วย AI ของ Swimlane มาใช้ในช่วงแรกๆ รายงานว่าผลผลิตเพิ่มขึ้นอย่างมาก ยกตัวอย่างเช่น Global Data Systems พบว่าทีม SecOps ของพวกเขาสามารถจัดการภาระงานที่มากขึ้นได้ ผู้อำนวยการท่านหนึ่งกล่าวว่า "สิ่งที่ผมทำทุกวันนี้กับนักวิเคราะห์ 7 คน น่าจะต้องใช้พนักงานถึง 20 คน หากไม่มี ระบบอัตโนมัติที่ขับเคลื่อนด้วย AI ( How Can Generative AI be Used in Cybersecurity )" กล่าวอีกนัยหนึ่ง AI ใน SOC สามารถเพิ่มขีดความสามารถได้หลายเท่า ในทุกอุตสาหกรรม ไม่ว่าจะเป็นบริษัทเทคโนโลยีที่จัดการกับการแจ้งเตือนด้านความปลอดภัยบนคลาวด์ หรือโรงงานผลิตที่ตรวจสอบระบบ OT ทีม SOC มีแนวโน้มที่จะได้รับการตรวจจับและการตอบสนองที่รวดเร็วขึ้น ลดโอกาสเกิดเหตุการณ์ที่พลาดไป และการดำเนินงานที่มีประสิทธิภาพมากขึ้นด้วยการนำผู้ช่วย AI เชิงสร้างสรรค์มาใช้ สิ่งสำคัญคือการทำงานอย่างชาญฉลาดยิ่งขึ้น ช่วยให้เครื่องจักรสามารถจัดการกับงานที่ซ้ำซากและหนักหน่วงด้วยข้อมูล เพื่อให้มนุษย์สามารถนำสัญชาตญาณและความเชี่ยวชาญไปใช้ในจุดที่สำคัญที่สุดได้

การจัดการช่องโหว่และการจำลองภัยคุกคาม

การระบุและจัดการช่องโหว่ ซึ่งเป็นจุดอ่อนในซอฟต์แวร์หรือระบบที่ผู้โจมตีสามารถใช้ประโยชน์ได้ ถือเป็นภารกิจหลักด้านความปลอดภัยทางไซเบอร์ Generative AI กำลังเพิ่มประสิทธิภาพการจัดการช่องโหว่ด้วยการเร่งการค้นพบ ช่วยในการจัดลำดับความสำคัญของแพตช์ และแม้แต่การจำลองการโจมตีช่องโหว่เหล่านั้นเพื่อปรับปรุงความพร้อมรับมือ โดยพื้นฐานแล้ว AI กำลังช่วยให้องค์กรต่างๆ ค้นหาและแก้ไขช่องโหว่ได้เร็วขึ้น และ เชิงรุก ก่อนที่ผู้โจมตีจริงจะทำได้

แอปพลิเคชันที่สำคัญอย่างหนึ่งคือการใช้ Generative AI สำหรับ การตรวจสอบโค้ดและการค้นหาช่องโหว่โดยอัตโนมัติ ฐานโค้ดขนาดใหญ่ (โดยเฉพาะระบบเดิม) มักมีข้อบกพร่องด้านความปลอดภัยที่ไม่มีใครสังเกตเห็น โมเดล Generative AI สามารถฝึกฝนตามแนวทางการเขียนโค้ดที่ปลอดภัยและรูปแบบบั๊กที่พบบ่อย จากนั้นจึงเผยแพร่ลงบนซอร์สโค้ดหรือไฟล์ไบนารีที่คอมไพล์แล้วเพื่อค้นหาช่องโหว่ที่อาจเกิดขึ้น ยกตัวอย่างเช่น นักวิจัยของ NVIDIA ได้พัฒนา Generative AI pipeline ที่สามารถวิเคราะห์คอนเทนเนอร์ซอฟต์แวร์เก่าและระบุช่องโหว่ “ด้วยความแม่นยำสูง — เร็วกว่าผู้เชี่ยวชาญถึง 4 เท่า” ( 6 กรณีศึกษาสำหรับ Generative AI ด้านความปลอดภัยทางไซเบอร์ [+ ตัวอย่าง] ) โดยพื้นฐานแล้ว AI เรียนรู้ว่าโค้ดที่ไม่ปลอดภัยมีลักษณะอย่างไร และสามารถสแกนผ่านซอฟต์แวร์ที่มีอายุหลายสิบปีเพื่อตรวจหาฟังก์ชันและไลบรารีที่มีความเสี่ยง ซึ่งช่วยเร่งกระบวนการตรวจสอบโค้ดด้วยตนเองที่ปกติจะใช้เวลานาน เครื่องมือประเภทนี้สามารถพลิกโฉมอุตสาหกรรมต่างๆ เช่น ภาคการเงินหรือภาครัฐที่ต้องพึ่งพาฐานโค้ดขนาดใหญ่และเก่า AI ช่วยปรับปรุงความปลอดภัยให้ทันสมัยด้วยการค้นหาปัญหาที่เจ้าหน้าที่อาจต้องใช้เวลาหลายเดือนหรือหลายปีในการค้นหา (หากพบ)

Generative AI ยังช่วยใน กระบวนการจัดการช่องโหว่ ด้วยการประมวลผลผลการสแกนช่องโหว่และจัดลำดับความสำคัญ เครื่องมืออย่าง ExposureAI ใช้ Generative AI เพื่อให้นักวิเคราะห์สามารถสืบค้นข้อมูลช่องโหว่ด้วยภาษาที่เข้าใจง่ายและได้รับคำตอบทันที ( Generative AI สามารถนำมาใช้ในด้านความปลอดภัยทางไซเบอร์ได้อย่างไร? 10 ตัวอย่างจากสถานการณ์จริง ) ExposureAI สามารถ "สรุปเส้นทางการโจมตีทั้งหมดในรูปแบบการเล่าเรื่อง" สำหรับช่องโหว่สำคัญที่กำหนด โดยอธิบายว่าผู้โจมตีสามารถเชื่อมโยงช่องโหว่นั้นกับจุดอ่อนอื่นๆ เพื่อโจมตีระบบได้อย่างไร มันยังแนะนำแนวทางแก้ไขและตอบคำถามเพิ่มเติมเกี่ยวกับความเสี่ยง ซึ่งหมายความว่าเมื่อมีการประกาศ CVE สำคัญ (Common Vulnerabilities and Exposures) ใหม่ นักวิเคราะห์สามารถถาม AI ได้ว่า "เซิร์ฟเวอร์ของเราได้รับผลกระทบจาก CVE นี้หรือไม่ และสถานการณ์ที่เลวร้ายที่สุดคืออะไรหากเราไม่แก้ไข" และรับการประเมินที่ชัดเจนจากข้อมูลการสแกนขององค์กรเอง การนำ AI เชิงสร้างสรรค์มาปรับใช้กับจุดอ่อนในบริบทต่างๆ (เช่น จุดอ่อนนี้ถูกเปิดเผยต่ออินเทอร์เน็ตและบนเซิร์ฟเวอร์ที่มีมูลค่าสูง ดังนั้นจึงมีความสำคัญสูงสุด) ช่วยให้ทีมงานแก้ไขจุดอ่อนได้อย่างชาญฉลาดด้วยทรัพยากรที่มีจำกัด

นอกเหนือจากการค้นหาและจัดการช่องโหว่ที่ทราบแล้ว ปัญญาประดิษฐ์ (Genative AI) ยังมีส่วนช่วยใน การทดสอบการเจาะระบบและการจำลองการโจมตี ซึ่งโดยพื้นฐานแล้วคือการค้นพบ ที่ไม่รู้จัก หรือการทดสอบการควบคุมความปลอดภัย เครือข่ายต่อต้านแบบสร้าง (Genative Adversarial Networks: GAN) ซึ่งเป็น AI แบบสร้างประเภทหนึ่ง ถูกนำมาใช้เพื่อสร้างข้อมูลสังเคราะห์ที่เลียนแบบปริมาณการใช้งานเครือข่ายจริงหรือพฤติกรรมผู้ใช้ ซึ่งอาจรวมถึงรูปแบบการโจมตีที่ซ่อนอยู่ การศึกษาในปี 2023 แนะนำให้ใช้ GAN เพื่อสร้างปริมาณการโจมตีแบบ Zero-day ที่สมจริงเพื่อฝึกระบบตรวจจับการบุกรุก ( 6 กรณีการใช้งานสำหรับปัญญาประดิษฐ์ (Genative AI) ด้านความปลอดภัยทางไซเบอร์ [+ ตัวอย่าง] ) ด้วยการป้อนข้อมูลสถานการณ์การโจมตีที่ AI สร้างขึ้นให้กับ IDS (ซึ่งไม่เสี่ยงต่อการใช้มัลแวร์จริงบนเครือข่ายที่ใช้งานจริง) องค์กรต่างๆ สามารถฝึกระบบป้องกันให้สามารถตรวจจับภัยคุกคามใหม่ๆ ได้โดยไม่ต้องรอให้ถูกโจมตีจริง ในทำนองเดียวกัน AI สามารถจำลองการโจมตีของผู้โจมตีที่กำลังตรวจสอบระบบ เช่น การลองใช้เทคนิคการเจาะระบบต่างๆ โดยอัตโนมัติในสภาพแวดล้อมที่ปลอดภัย เพื่อดูว่าเทคนิคใดประสบความสำเร็จหรือไม่ สำนักงานโครงการวิจัยขั้นสูงด้านกลาโหมสหรัฐฯ (DARPA) มองเห็นศักยภาพในเรื่องนี้: โครงการ AI Cyber ​​Challenge ปี 2023 ได้ใช้ AI เชิงสร้างสรรค์ (เช่น โมเดลภาษาขนาดใหญ่) เพื่อ "ค้นหาและแก้ไขช่องโหว่ในซอฟต์แวร์โอเพนซอร์สโดยอัตโนมัติ" ซึ่งเป็นส่วนหนึ่งของการแข่งขัน ( DARPA มุ่งพัฒนา AI, แอปพลิเคชันอัตโนมัติที่นักรบไว้วางใจได้ > กระทรวงกลาโหมสหรัฐฯ > ข่าวกระทรวงกลาโหม ) โครงการริเริ่มนี้เน้นย้ำว่า AI ไม่เพียงแต่ช่วยแก้ไขช่องโหว่ที่ทราบแล้วเท่านั้น แต่ยังค้นหาช่องโหว่ใหม่ๆ และเสนอแนวทางแก้ไข ซึ่งโดยทั่วไปแล้ว งานที่มักจำกัดอยู่แค่นักวิจัยด้านความปลอดภัยที่มีทักษะ (และมีค่าใช้จ่ายสูง)

Generative AI สามารถสร้าง ฮันนี่พ็อตอัจฉริยะและดิจิทัลทวินส์ เพื่อการป้องกันได้ สตาร์ทอัพกำลังพัฒนาระบบล่อหลอกที่ขับเคลื่อนด้วย AI ซึ่งเลียนแบบเซิร์ฟเวอร์หรืออุปกรณ์จริงได้อย่างแนบเนียน ดังที่ซีอีโอท่านหนึ่งอธิบายไว้ เจนเนอเรทีฟ AI สามารถ "โคลนระบบดิจิทัลเพื่อเลียนแบบระบบจริงและล่อลวงแฮกเกอร์" ( 6 กรณีศึกษาสำหรับ Generative AI ด้านความปลอดภัยทางไซเบอร์ [+ ตัวอย่าง] ) ฮันนี่พ็อตที่ AI สร้างขึ้นเหล่านี้มีพฤติกรรมเหมือนสภาพแวดล้อมจริง (เช่น อุปกรณ์ IoT ปลอมที่ส่งข้อมูลทางไกลตามปกติ) แต่มีอยู่เพื่อดึงดูดผู้โจมตีเท่านั้น เมื่อผู้โจมตีเล็งเป้าหมายไปที่ตัวล่อหลอก AI จะหลอกล่อพวกเขาให้เปิดเผยวิธีการ ซึ่งผู้ป้องกันสามารถศึกษาและนำไปใช้เพื่อเสริมความแข็งแกร่งให้กับระบบจริงได้ แนวคิดนี้ซึ่งขับเคลื่อนด้วยการสร้างแบบจำลองเจนเนอเรทีฟ นำเสนอแนวทางที่มองการณ์ไกลใน การพลิกสถานการณ์จากผู้โจมตี โดยใช้การหลอกลวงที่เสริมประสิทธิภาพด้วย AI

ในทุกอุตสาหกรรม การจัดการช่องโหว่ที่รวดเร็วและชาญฉลาดยิ่งขึ้นหมายถึงการละเมิดที่น้อยลง ยกตัวอย่างเช่น ในด้านไอทีด้านการดูแลสุขภาพ AI อาจตรวจพบไลบรารีที่ล้าสมัยที่มีช่องโหว่ในอุปกรณ์ทางการแพทย์ได้อย่างรวดเร็ว และแจ้งเตือนการแก้ไขเฟิร์มแวร์ก่อนที่ผู้โจมตีจะใช้ประโยชน์จากมัน ในด้านธนาคาร AI สามารถจำลองการโจมตีภายในแอปพลิเคชันใหม่ เพื่อให้แน่ใจว่าข้อมูลลูกค้ายังคงปลอดภัยในทุกสถานการณ์ ดังนั้น Generative AI จึงทำหน้าที่เป็นทั้งกล้องจุลทรรศน์และเครื่องมือทดสอบความเครียดสำหรับสถานะความปลอดภัยขององค์กร โดยจะเผยให้เห็นข้อบกพร่องที่ซ่อนอยู่และกดดันระบบด้วยวิธีที่สร้างสรรค์เพื่อให้มั่นใจถึงความยืดหยุ่น

การสร้างรหัสที่ปลอดภัยและการพัฒนาซอฟต์แวร์

ความสามารถของ Generative AI ไม่ได้จำกัดอยู่แค่การตรวจจับการโจมตีเท่านั้น แต่ยังขยายไปถึง การสร้างระบบที่ปลอดภัยยิ่งขึ้นตั้งแต่เริ่มต้น ในการพัฒนาซอฟต์แวร์ โปรแกรมสร้างโค้ด AI (เช่น GitHub Copilot, OpenAI Codex เป็นต้น) สามารถช่วยให้นักพัฒนาเขียนโค้ดได้เร็วขึ้นด้วยการแนะนำโค้ดสั้นๆ หรือแม้แต่ฟังก์ชันทั้งหมด ประเด็นด้านความปลอดภัยทางไซเบอร์คือการทำให้มั่นใจว่าโค้ดที่ AI แนะนำเหล่านี้มีความปลอดภัย และการใช้ AI เพื่อปรับปรุงการเขียนโค้ด

ในอีกแง่หนึ่ง ปัญญาประดิษฐ์ (AI) สามารถทำหน้าที่เป็น ผู้ช่วยเขียนโค้ดที่ฝังแนวทางปฏิบัติที่ดีที่สุดด้านความปลอดภัยไว้ นักพัฒนาสามารถสั่งให้เครื่องมือ AI "สร้างฟังก์ชันรีเซ็ตรหัสผ่านใน Python" และในอุดมคติแล้วจะได้รับโค้ดที่ไม่เพียงแต่ใช้งานได้จริง แต่ยังเป็นไปตามแนวทางความปลอดภัย (เช่น การตรวจสอบความถูกต้องของอินพุต การบันทึกข้อมูล การจัดการข้อผิดพลาดโดยไม่ทำให้ข้อมูลรั่วไหล เป็นต้น) ผู้ช่วยดังกล่าวซึ่งได้รับการฝึกฝนจากตัวอย่างโค้ดที่ปลอดภัยอย่างครอบคลุม สามารถช่วยลดข้อผิดพลาดของมนุษย์ที่นำไปสู่ช่องโหว่ได้ ตัวอย่างเช่น หากนักพัฒนาลืมล้างข้อมูลอินพุตของผู้ใช้ (เช่น การเปิดช่องให้มีการแทรก SQL หรือปัญหาอื่นๆ ที่คล้ายคลึงกัน) AI ก็สามารถรวมข้อมูลนั้นไว้เป็นค่าเริ่มต้นหรือแจ้งเตือนพวกเขาได้ ปัจจุบันเครื่องมือเขียนโค้ด AI บางตัวกำลังได้รับการปรับแต่งด้วยข้อมูลที่เน้นความปลอดภัยเพื่อตอบสนองวัตถุประสงค์นี้โดยเฉพาะ ซึ่งโดยพื้นฐานแล้ว AI จะจับคู่การเขียนโปรแกรมกับจิตสำนึกด้านความ ปลอดภัย

อย่างไรก็ตาม ยังมีอีกด้านหนึ่ง: generative AI สามารถสร้างช่องโหว่ได้ง่ายเช่นกันหากไม่ได้รับการควบคุมอย่างเหมาะสม ดังที่ Ben Verschaeren ผู้เชี่ยวชาญด้านความปลอดภัยของ Sophos ได้กล่าวไว้ การใช้ generative AI ในการเขียนโค้ดนั้น “เหมาะสำหรับโค้ดสั้นๆ ที่ตรวจสอบได้ แต่จะมีความเสี่ยงเมื่อโค้ดที่ไม่ได้รับการตรวจสอบถูกรวมเข้า กับระบบที่ใช้งานจริง” ความเสี่ยงคือ AI อาจสร้างโค้ดที่ถูกต้องตามหลักตรรกะแต่ไม่ปลอดภัยในแบบที่ผู้ที่ไม่ใช่ผู้เชี่ยวชาญอาจไม่ทันสังเกต ยิ่งไปกว่านั้น ผู้ไม่ประสงค์ดีอาจจงใจมีอิทธิพลต่อโมเดล AI สาธารณะโดยการฝังรูปแบบโค้ดที่มีช่องโหว่ (รูปแบบหนึ่งของการวางยาพิษข้อมูล) ลงไป เพื่อให้ AI แนะนำโค้ดที่ไม่ปลอดภัย นักพัฒนาส่วนใหญ่ไม่ใช่ผู้เชี่ยวชาญด้านความปลอดภัย ดังนั้นหาก AI แนะนำโซลูชันที่สะดวก พวกเขาอาจใช้มันอย่างมั่วๆ โดยไม่รู้ว่ามันมีข้อบกพร่อง ( 6 กรณีศึกษาสำหรับ Generative AI ด้านความปลอดภัยทางไซเบอร์ [+ ตัวอย่าง] ) ความกังวลนี้เป็นเรื่องจริง ในความเป็นจริง ขณะนี้มีรายชื่อ OWASP Top 10 สำหรับ LLM (โมเดลภาษาขนาดใหญ่) ที่ระบุถึงความเสี่ยงทั่วไป เช่นนี้ในการใช้ AI ในการเขียนโค้ด

เพื่อรับมือกับปัญหาเหล่านี้ ผู้เชี่ยวชาญแนะนำให้ "ต่อสู้กับ AI เชิงสร้างสรรค์ด้วย AI เชิงสร้างสรรค์" ในวงการเขียนโค้ด ในทางปฏิบัติ หมายถึงการใช้ AI เพื่อ ตรวจสอบและทดสอบโค้ด ที่ AI อื่นๆ (หรือมนุษย์) เขียนขึ้น AI สามารถสแกนโค้ดที่คอมมิตได้เร็วกว่าผู้ตรวจสอบโค้ดที่เป็นมนุษย์มาก และยังสามารถระบุช่องโหว่หรือปัญหาเชิงตรรกะที่อาจเกิดขึ้นได้ เราเห็นเครื่องมือใหม่ๆ เกิดขึ้นมากมายที่ผสานรวมเข้ากับวงจรการพัฒนาซอฟต์แวร์: โค้ดจะถูกเขียนขึ้น (อาจจะด้วยความช่วยเหลือจาก AI) จากนั้นโมเดลเชิงสร้างสรรค์ที่ฝึกฝนตามหลักการโค้ดที่ปลอดภัยจะตรวจสอบและสร้างรายงานเกี่ยวกับข้อกังวลต่างๆ (เช่น การใช้ฟังก์ชันที่ล้าสมัย การตรวจสอบสิทธิ์ที่หายไป ฯลฯ) งานวิจัยของ NVIDIA ที่กล่าวถึงก่อนหน้านี้ ซึ่งตรวจจับช่องโหว่ในโค้ดได้เร็วขึ้น 4 เท่า เป็นตัวอย่างหนึ่งของการนำ AI มาใช้เพื่อวิเคราะห์โค้ดที่ปลอดภัย ( 6 กรณีศึกษาสำหรับ AI เชิงสร้างสรรค์ในด้านความปลอดภัยทางไซเบอร์ [+ ตัวอย่าง] )

ยิ่งไปกว่านั้น ปัญญาประดิษฐ์ (Generative AI) ยังช่วย สร้างการกำหนดค่าและสคริปต์ที่ปลอดภัยได้อีก ด้วย ตัวอย่างเช่น หากบริษัทจำเป็นต้องปรับใช้โครงสร้างพื้นฐานคลาวด์ที่ปลอดภัย วิศวกรสามารถขอให้ AI สร้างสคริปต์การกำหนดค่า (Infrastructure as Code) พร้อมระบบควบคุมความปลอดภัย (เช่น การแบ่งส่วนเครือข่ายที่เหมาะสม บทบาท IAM ที่มีสิทธิ์น้อยที่สุด) AI ที่ผ่านการฝึกฝนจากการกำหนดค่าดังกล่าวหลายพันแบบ สามารถสร้างบรรทัดฐานที่วิศวกรสามารถนำไปปรับแต่งได้ วิธีนี้จะช่วยเร่งการตั้งค่าระบบให้ปลอดภัยและลดข้อผิดพลาดในการกำหนดค่า ซึ่งเป็นสาเหตุที่พบบ่อยของปัญหาด้านความปลอดภัยบนคลาวด์

บางองค์กรยังใช้ประโยชน์จาก Generative AI เพื่อรักษาฐานความรู้เกี่ยวกับรูปแบบการเขียนโค้ดที่ปลอดภัย หากนักพัฒนาไม่แน่ใจว่าจะนำฟีเจอร์บางอย่างไปใช้อย่างปลอดภัยได้อย่างไร พวกเขาสามารถสอบถาม AI ภายในที่ได้เรียนรู้จากโครงการและแนวทางปฏิบัติด้านความปลอดภัยในอดีตของบริษัท AI อาจส่งคืนแนวทางที่แนะนำหรือแม้แต่โค้ดสั้นๆ ที่สอดคล้องกับทั้งข้อกำหนดด้านการทำงานและมาตรฐานความปลอดภัยของบริษัท วิธีการนี้ถูกนำมาใช้โดยเครื่องมือต่างๆ เช่น Questionnaire Automation ของ Secureframe ซึ่งดึงคำตอบจากนโยบายและโซลูชันในอดีตของบริษัทเพื่อให้แน่ใจว่าคำตอบมีความสอดคล้องและแม่นยำ (โดยพื้นฐานแล้วคือการสร้างเอกสารที่ปลอดภัย) ( How Can Generative AI Be Used in Cybersecurity? 10 Real-World Examples ) แนวคิดนี้แปลเป็นการเขียนโค้ด: AI ที่ "จดจำ" วิธีที่คุณใช้งานบางสิ่งอย่างปลอดภัยก่อนหน้านี้ และแนะนำให้คุณทำซ้ำอีกครั้ง

โดยสรุปแล้ว ปัญญาประดิษฐ์ (AI) กำลังมีอิทธิพลต่อการพัฒนาซอฟต์แวร์โดย ทำให้การช่วยเหลือด้านการเขียนโค้ดที่ปลอดภัยเข้าถึงได้ง่ายขึ้น อุตสาหกรรมที่พัฒนาซอฟต์แวร์เฉพาะทางจำนวนมาก เช่น เทคโนโลยี การเงิน กลาโหม ฯลฯ จะได้รับประโยชน์จากการมีผู้ช่วย AI ที่ไม่เพียงแต่ช่วยเร่งความเร็วในการเขียนโค้ด แต่ยังทำหน้าที่เป็นผู้ตรวจสอบความปลอดภัยที่เฝ้าระวังอยู่เสมอ เมื่อได้รับการควบคุมอย่างเหมาะสม เครื่องมือ AI เหล่านี้สามารถลดการเกิดช่องโหว่ใหม่ๆ และช่วยให้ทีมพัฒนาปฏิบัติตามแนวปฏิบัติที่ดีที่สุดได้ แม้ว่าทีมจะไม่มีผู้เชี่ยวชาญด้านความปลอดภัยเข้ามาเกี่ยวข้องในทุกขั้นตอน ผลลัพธ์ที่ได้คือซอฟต์แวร์ที่แข็งแกร่งขึ้นต่อการโจมตีตั้งแต่วันแรก

การสนับสนุนการตอบสนองต่อเหตุการณ์

เมื่อเกิดเหตุการณ์ด้านความมั่นคงปลอดภัยไซเบอร์ ไม่ว่าจะเป็นการระบาดของมัลแวร์ การละเมิดข้อมูล หรือการล่มของระบบจากการโจมตี เวลาคือสิ่งสำคัญอย่างยิ่ง ปัญญาประดิษฐ์เชิงสร้างสรรค์ (Generative AI) กำลังถูกนำมาใช้มากขึ้นเพื่อ สนับสนุนทีมรับมือเหตุการณ์ (IR) ในการควบคุมและแก้ไขเหตุการณ์ให้รวดเร็วยิ่งขึ้นและมีข้อมูลพร้อมใช้มากขึ้น แนวคิดคือ AI สามารถช่วยแบ่งเบาภาระในการสืบสวนและจัดทำเอกสารระหว่างเกิดเหตุการณ์ และสามารถแนะนำหรือทำให้การดำเนินการรับมือบางอย่างเป็นแบบอัตโนมัติได้

บทบาทสำคัญอย่างหนึ่งของ AI ใน IR คือ การวิเคราะห์และสรุปเหตุการณ์แบบเรียลไทม์ ท่ามกลางเหตุการณ์ ผู้ตอบสนองอาจต้องการคำตอบสำหรับคำถามเช่น "ผู้โจมตีเข้ามาได้อย่างไร" " ระบบใดได้รับผลกระทบ" และ "ข้อมูลใดที่อาจถูกบุกรุก" Generative AI สามารถวิเคราะห์บันทึก การแจ้งเตือน และข้อมูลทางนิติวิทยาศาสตร์จากระบบที่ได้รับผลกระทบ และให้ข้อมูลเชิงลึกได้อย่างรวดเร็ว ตัวอย่างเช่น Microsoft Security Copilot ช่วยให้ผู้ตอบสนองเหตุการณ์สามารถป้อนหลักฐานต่างๆ (ไฟล์, URL, บันทึกเหตุการณ์) และขอไทม์ไลน์หรือสรุป ( Microsoft Security Copilot คือผู้ช่วย AI GPT-4 ใหม่สำหรับความปลอดภัยทางไซเบอร์ | The Verge ) AI อาจตอบกลับว่า: "การละเมิดน่าจะเริ่มต้นจากอีเมลฟิชชิ่งถึงผู้ใช้ JohnDoe เวลา 10:53 น. GMT ซึ่งมีมัลแวร์ X เมื่อถูกเรียกใช้งาน มัลแวร์จะสร้างแบ็คดอร์ซึ่งถูกใช้สองวันต่อมาเพื่อย้ายไปยังเซิร์ฟเวอร์การเงิน ซึ่งเป็นที่ที่รวบรวมข้อมูล" การมีภาพที่สอดคล้องกันภายในไม่กี่นาทีแทนที่จะเป็นหลายชั่วโมง ช่วยให้ทีมสามารถตัดสินใจอย่างรอบรู้ (เช่น ควรแยกระบบใด) ได้เร็วขึ้นมาก

Generative AI ยังสามารถ แนะนำมาตรการควบคุมและแก้ไขได้ ตัวอย่างเช่น หากอุปกรณ์ปลายทางติดแรนซัมแวร์ เครื่องมือ AI สามารถสร้างสคริปต์หรือชุดคำสั่งเพื่อแยกเครื่องนั้น ปิดใช้งานบัญชีบางบัญชี และบล็อก IP อันตรายที่รู้จักบนไฟร์วอลล์ ซึ่งโดยพื้นฐานแล้วถือเป็นขั้นตอนปฏิบัติ Palo Alto Networks ระบุว่า Generative AI สามารถ "สร้างการดำเนินการหรือสคริปต์ที่เหมาะสมตามลักษณะของเหตุการณ์" ทำให้ ขั้นตอนเริ่มต้นของการตอบสนองเป็นแบบอัตโนมัติ ( Generative AI ในไซเบอร์ซีเคียวริตี้คืออะไร? - Palo Alto Networks ) ในสถานการณ์ที่ทีมรักษาความปลอดภัยถูกโจมตีอย่างหนัก (เช่น การโจมตีที่แพร่กระจายไปในอุปกรณ์หลายร้อยเครื่อง) AI อาจดำเนินการบางอย่างเหล่านี้โดยตรงภายใต้เงื่อนไขที่ได้รับการอนุมัติล่วงหน้า โดยทำหน้าที่เสมือนผู้ตอบสนองระดับจูเนียร์ที่ทำงานอย่างไม่รู้จักเหน็ดเหนื่อย ตัวอย่างเช่น ตัวแทน AI สามารถรีเซ็ตข้อมูลประจำตัวที่ตรวจพบว่าถูกบุกรุก หรือกักกันโฮสต์ที่แสดงกิจกรรมอันตรายที่ตรงกับโปรไฟล์ของเหตุการณ์โดยอัตโนมัติ

ระหว่างการตอบสนองต่อเหตุการณ์ การสื่อสารเป็นสิ่งสำคัญอย่างยิ่ง ทั้งภายในทีมและผู้มีส่วนได้ส่วนเสีย Generative AI สามารถช่วยได้โดย การร่างรายงานหรือสรุปเหตุการณ์ที่เกิดขึ้นได้ทันที แทนที่วิศวกรจะหยุดแก้ไขปัญหาเพื่อเขียนอีเมลอัปเดต พวกเขาสามารถขอให้ AI สรุปสิ่งที่เกิดขึ้นในเหตุการณ์นี้เพื่อแจ้งให้ผู้บริหารทราบได้ เมื่อ AI ได้รับข้อมูลเหตุการณ์แล้ว AI จะสรุปข้อมูลสรุปสั้นๆ ได้ว่า "ณ เวลา 15.00 น. ผู้โจมตีได้เข้าถึงบัญชีผู้ใช้ 2 รายและเซิร์ฟเวอร์ 5 เครื่อง ข้อมูลที่ได้รับผลกระทบรวมถึงบันทึกไคลเอ็นต์ในฐานข้อมูล X มาตรการควบคุม: สิทธิ์การเข้าถึง VPN สำหรับบัญชีที่ถูกบุกรุกถูกเพิกถอนและแยกเซิร์ฟเวอร์ออก ขั้นตอนต่อไป: สแกนหากลไกการคงอยู่ใดๆ" จากนั้นผู้ตอบสนองสามารถตรวจสอบหรือปรับแต่งข้อมูลนี้ได้อย่างรวดเร็วและส่งข้อมูลออกไป เพื่อให้มั่นใจว่าผู้มีส่วนได้ส่วนเสียจะได้รับข้อมูลที่ถูกต้องและอัปเดตอยู่เสมอ

หลังจากสถานการณ์คลี่คลายลง มักจะมีรายงานเหตุการณ์โดยละเอียดที่ต้องจัดทำและบทเรียนที่ได้รับเพื่อรวบรวม นี่เป็นอีกด้านที่การสนับสนุน AI มีประสิทธิภาพอย่างยิ่ง AI สามารถตรวจสอบข้อมูลเหตุการณ์ทั้งหมดและ สร้างรายงานหลังเหตุการณ์ ที่ครอบคลุมสาเหตุหลัก ลำดับเหตุการณ์ ผลกระทบ และคำแนะนำ ยกตัวอย่างเช่น IBM กำลังผสานรวม Generative AI เพื่อสร้าง "สรุปกรณีและเหตุการณ์ด้านความปลอดภัยอย่างง่ายที่สามารถแบ่งปันกับผู้มีส่วนได้ส่วนเสีย" ได้ ด้วยการกดปุ่มเพียงปุ่มเดียว ( Generative AI สามารถนำมาใช้ในด้านความปลอดภัยไซเบอร์ได้อย่างไร? 10 ตัวอย่างจากสถานการณ์จริง ) การปรับปรุงการรายงานหลังเหตุการณ์จะช่วยให้องค์กรต่างๆ สามารถดำเนินการปรับปรุงได้เร็วขึ้น และยังมีเอกสารประกอบที่ดีขึ้นสำหรับการปฏิบัติตามข้อกำหนด

หนึ่งในนวัตกรรมเชิงอนาคตที่ล้ำสมัยคือ การจำลองเหตุการณ์ที่ขับเคลื่อนด้วย AI คล้ายกับการฝึกซ้อมดับเพลิง บริษัทบางแห่งกำลังใช้ AI เชิงสร้างสรรค์เพื่อวิเคราะห์สถานการณ์จำลองเหตุการณ์แบบ “จะเกิดอะไรขึ้นถ้า” AI อาจจำลองการแพร่กระจายของแรนซัมแวร์โดยพิจารณาจากโครงสร้างเครือข่าย หรือวิธีที่บุคคลภายในสามารถขโมยข้อมูล แล้วประเมินประสิทธิภาพของแผนรับมือปัจจุบัน วิธีนี้ช่วยให้ทีมต่างๆ เตรียมความพร้อมและปรับปรุงแผนการรับมือก่อนที่จะเกิดเหตุการณ์จริง เปรียบเสมือนการมีที่ปรึกษาด้านการรับมือเหตุการณ์ที่พัฒนาอย่างต่อเนื่องคอยทดสอบความพร้อมของคุณอยู่เสมอ

ในอุตสาหกรรมที่มีความเสี่ยงสูง เช่น การเงินหรือการดูแลสุขภาพ ซึ่งการหยุดทำงานหรือการสูญเสียข้อมูลจากเหตุการณ์ต่างๆ มีค่าใช้จ่ายสูงเป็นพิเศษ ความสามารถ IR ที่ขับเคลื่อนด้วย AI เหล่านี้จึงน่าสนใจอย่างยิ่ง โรงพยาบาลที่ประสบเหตุทางไซเบอร์ไม่สามารถรับมือกับการหยุดทำงานของระบบเป็นเวลานานได้ AI ที่ช่วยควบคุมได้อย่างรวดเร็วอาจช่วยชีวิตได้อย่างแท้จริง ในทำนองเดียวกัน สถาบันการเงินสามารถใช้ AI เพื่อจัดการการคัดกรองเบื้องต้นของการโจมตีที่น่าสงสัยว่าเป็นการฉ้อโกงในเวลาตีสาม ดังนั้นเมื่อเจ้าหน้าที่เวรออนไลน์ งานพื้นฐานจำนวนมาก (เช่น การออกจากระบบบัญชีที่ได้รับผลกระทบ การบล็อกธุรกรรม ฯลฯ) ก็เสร็จสิ้นไปแล้ว การเพิ่มทีมรับมือเหตุการณ์ด้วย AI เชิงสร้างสรรค์ ช่วยให้ องค์กรต่างๆ สามารถลดเวลาในการตอบสนองได้อย่างมาก และปรับปรุงความละเอียดรอบคอบในการจัดการ ซึ่งท้ายที่สุดแล้วจะช่วยบรรเทาความเสียหายจากเหตุการณ์ทางไซเบอร์ได้

การวิเคราะห์พฤติกรรมและการตรวจจับความผิดปกติ

การโจมตีทางไซเบอร์จำนวนมากสามารถตรวจจับได้ด้วยการสังเกตเมื่อมีบางสิ่งที่ผิดปกติไปจากพฤติกรรม "ปกติ" ไม่ว่าจะเป็นบัญชีผู้ใช้ที่ดาวน์โหลดข้อมูลปริมาณมากผิดปกติ หรืออุปกรณ์เครือข่ายที่จู่ๆ ก็สื่อสารกับโฮสต์ที่ไม่คุ้นเคย Generative AI นำเสนอเทคนิคขั้นสูงสำหรับ การวิเคราะห์พฤติกรรมและการตรวจจับความผิด ปกติ โดยเรียนรู้รูปแบบปกติของผู้ใช้และระบบ แล้วแจ้งเตือนเมื่อมีบางสิ่งผิดปกติ

การตรวจจับความผิดปกติแบบดั้งเดิมมักใช้เกณฑ์ทางสถิติหรือการเรียนรู้ของเครื่องอย่างง่ายกับตัวชี้วัดเฉพาะ (เช่น การใช้งาน CPU พุ่งสูง การเข้าสู่ระบบในเวลาที่ไม่ปกติ ฯลฯ) ปัญญาประดิษฐ์เชิงสร้างสรรค์ (Generative AI) สามารถพัฒนาสิ่งนี้ต่อไปได้โดยการสร้างโปรไฟล์พฤติกรรมที่ละเอียดขึ้น ยกตัวอย่างเช่น โมเดล AI สามารถดึงข้อมูลการเข้าสู่ระบบ รูปแบบการเข้าถึงไฟล์ และพฤติกรรมการใช้อีเมลของพนักงานเมื่อเวลาผ่านไป และสร้างความเข้าใจแบบหลายมิติเกี่ยวกับ "ปกติ" ของผู้ใช้รายนั้น หากในภายหลังบัญชีนั้นทำสิ่งที่แตกต่างไปจากมาตรฐานอย่างมาก (เช่น การเข้าสู่ระบบจากประเทศใหม่และเข้าถึงไฟล์ทรัพยากรบุคคลจำนวนมากในเวลาเที่ยงคืน) AI จะตรวจจับความเบี่ยงเบนไม่เพียงแต่ในตัวชี้วัดเดียว แต่รวมถึงรูปแบบพฤติกรรมโดยรวมที่ไม่ตรงกับโปรไฟล์ของผู้ใช้ ในทางเทคนิค โมเดลเชิงสร้างสรรค์ (เช่น ตัวเข้ารหัสอัตโนมัติหรือแบบจำลองลำดับ) สามารถจำลองว่า "ปกติ" มีลักษณะอย่างไร แล้วจึงสร้างช่วงพฤติกรรมที่คาดหวังไว้ เมื่อความเป็นจริงอยู่นอกช่วงนั้น จะถูกทำเครื่องหมายว่าเป็นความผิดปกติ ( ปัญญาประดิษฐ์เชิงสร้างสรรค์คืออะไรในด้านความปลอดภัยทางไซเบอร์ - Palo Alto Networks )

การประยุกต์ใช้งานจริงอย่างหนึ่งคือ การตรวจสอบปริมาณการรับส่งข้อมูลเครือข่าย จากการสำรวจในปี 2024 พบว่า 54% ขององค์กรในสหรัฐอเมริการะบุว่าการตรวจสอบปริมาณการรับส่งข้อมูลเครือข่ายเป็นกรณีการใช้งาน AI อันดับต้นๆ ในด้านความมั่นคงปลอดภัยไซเบอร์ ( อเมริกาเหนือ: กรณีการใช้งาน AI อันดับต้นๆ ในด้านความมั่นคงปลอดภัยไซเบอร์ทั่วโลก ปี 2024 ) AI แบบสร้างสามารถเรียนรู้รูปแบบการสื่อสารปกติของเครือข่ายองค์กรได้ เช่น เซิร์ฟเวอร์ใดที่มักจะสื่อสารกัน ปริมาณข้อมูลที่เคลื่อนย้ายในช่วงเวลาทำการเทียบกับช่วงกลางคืน เป็นต้น หากผู้โจมตีเริ่มขโมยข้อมูลจากเซิร์ฟเวอร์ แม้อย่างช้าๆ เพื่อหลีกเลี่ยงการถูกตรวจจับ ระบบที่ใช้ AI อาจสังเกตเห็นว่า "เซิร์ฟเวอร์ A ไม่เคยส่งข้อมูล 500MB ในเวลา 2.00 น. ไปยัง IP ภายนอก" และแจ้งเตือน เนื่องจาก AI ไม่ได้ใช้แค่กฎแบบคงที่เท่านั้น แต่ยังใช้แบบจำลองพฤติกรรมเครือข่ายที่พัฒนาอย่างต่อเนื่อง จึงสามารถตรวจจับความผิดปกติเล็กๆ น้อยๆ ที่กฎแบบคงที่ (เช่น "แจ้งเตือนหากข้อมูลมากกว่า X MB") อาจพลาดหรือตั้งค่าสถานะผิดพลาดได้ ลักษณะการปรับตัวนี้ทำให้การตรวจจับความผิดปกติที่ขับเคลื่อนด้วย AI มีประสิทธิภาพในสภาพแวดล้อมเช่นเครือข่ายธุรกรรมการธนาคาร โครงสร้างพื้นฐานบนคลาวด์ หรือกลุ่มอุปกรณ์ IoT ซึ่งการกำหนดกฎเกณฑ์คงที่สำหรับปกติและผิดปกตินั้นมีความซับซ้อนอย่างยิ่ง

Generative AI ยังช่วย วิเคราะห์พฤติกรรมผู้ใช้ (UBA) ซึ่งเป็นกุญแจสำคัญในการตรวจจับภัยคุกคามภายในหรือบัญชีที่ถูกบุกรุก ด้วยการสร้างฐานข้อมูลพื้นฐานของผู้ใช้หรือหน่วยงานแต่ละราย AI สามารถตรวจจับสิ่งต่างๆ เช่น การใช้ข้อมูลประจำตัวในทางที่ผิดได้ ตัวอย่างเช่น หาก Bob จากฝ่ายบัญชีเริ่มสืบค้นฐานข้อมูลลูกค้าอย่างกะทันหัน (ซึ่งเป็นสิ่งที่เขาไม่เคยทำมาก่อน) โมเดล AI สำหรับพฤติกรรมของ Bob จะระบุว่าสิ่งนี้ผิดปกติ ซึ่งอาจไม่ใช่มัลแวร์ แต่อาจเป็นกรณีที่ข้อมูลประจำตัวของ Bob ถูกขโมยและนำไปใช้โดยผู้โจมตี หรือ Bob กำลังตรวจสอบในที่ที่ไม่ควรเข้าไปยุ่งเกี่ยว ไม่ว่าจะด้วยวิธีใด ทีมรักษาความปลอดภัยก็จะได้รับการแจ้งเตือนให้เข้าไปตรวจสอบ ระบบ UBA ที่ขับเคลื่อนด้วย AI เหล่านี้มีอยู่ในผลิตภัณฑ์รักษาความปลอดภัยต่างๆ และเทคนิคการสร้างแบบจำลองเชิงกำเนิดกำลังเพิ่มความแม่นยำและลดการแจ้งเตือนที่ผิดพลาดโดยการพิจารณาบริบท (บางที Bob อาจอยู่ในโครงการพิเศษ ฯลฯ ซึ่งบางครั้ง AI สามารถอนุมานจากข้อมูลอื่นๆ ได้)

ในแวดวงการจัดการข้อมูลประจำตัวและการเข้าถึง การตรวจจับดีปเฟก กำลังเป็นที่ต้องการมากขึ้นเรื่อยๆ โดยเจเนอเรทีฟ AI สามารถสร้างเสียงและวิดีโอสังเคราะห์ที่หลอกระบบรักษาความปลอดภัยแบบไบโอเมตริกซ์ได้ ที่น่าสนใจคือ เจเนอเรทีฟ AI ยังสามารถช่วยตรวจจับดีปเฟกเหล่านี้ได้ด้วยการวิเคราะห์สิ่งแปลกปลอมเล็กๆ น้อยๆ ในเสียงหรือวิดีโอที่มนุษย์สังเกตได้ยาก เราเห็นตัวอย่างจาก Accenture ซึ่งใช้เจเนอเรทีฟ AI เพื่อจำลองการแสดงออกทางสีหน้าและสภาวะต่างๆ มากมาย เพื่อ ฝึกฝน ระบบไบโอเมตริกซ์ให้แยกแยะผู้ใช้จริงออกจากดีปเฟกที่ AI สร้างขึ้น ตลอดระยะเวลาห้าปีที่ผ่านมา วิธีการนี้ช่วยให้ Accenture กำจัดรหัสผ่านได้ถึง 90% ของระบบ (โดยเปลี่ยนไปใช้ไบโอเมตริกซ์และปัจจัยอื่นๆ) และลดการโจมตีลงได้ 60% ( 6 กรณีศึกษาสำหรับเจเนอเรทีฟ AI ในด้านความมั่นคงปลอดภัยไซเบอร์ [+ ตัวอย่าง] ) โดยพื้นฐานแล้ว พวกเขาใช้เจเนอเรทีฟ AI เพื่อเสริมความแข็งแกร่งให้กับการพิสูจน์ตัวตนแบบไบโอเมตริกซ์ ทำให้ทนทานต่อการโจมตีแบบเจเนอเรทีฟ (ซึ่งเป็นตัวอย่างที่ดีของ AI ที่ต่อสู้กับ AI) การสร้างแบบจำลองพฤติกรรมประเภทนี้ – ในกรณีนี้คือการจดจำความแตกต่างระหว่างใบหน้ามนุษย์ที่มีชีวิตจริงกับใบหน้าที่สังเคราะห์โดย AI – ถือเป็นสิ่งสำคัญ เนื่องจากเราต้องพึ่งพา AI ในการตรวจสอบตัวตนมากขึ้น

การตรวจจับความผิดปกติที่ขับเคลื่อนด้วย AI แบบสร้างกำเนิดสามารถนำไปประยุกต์ใช้ได้ในหลายอุตสาหกรรม ได้แก่ ในด้านการดูแลสุขภาพ การตรวจสอบพฤติกรรมของอุปกรณ์ทางการแพทย์เพื่อหาสัญญาณการแฮ็ก ในด้านการเงิน การเฝ้าสังเกตระบบการซื้อขายเพื่อหารูปแบบที่ผิดปกติซึ่งอาจบ่งชี้ถึงการฉ้อโกงหรือการแทรกแซงโดยอัลกอริทึม ในด้านพลังงาน/สาธารณูปโภค การสังเกตสัญญาณของระบบควบคุมเพื่อหาสัญญาณการบุกรุก การผสมผสานระหว่าง ความกว้าง (การมองทุกแง่มุมของพฤติกรรม) และ ความลึก (การทำความเข้าใจรูปแบบที่ซับซ้อน) ที่ AI แบบสร้างกำเนิดมีให้ ทำให้เป็นเครื่องมือที่มีประสิทธิภาพในการตรวจจับตัวบ่งชี้เหตุการณ์ทางไซเบอร์ที่เหมือนงมเข็มในมหาสมุทร เมื่อภัยคุกคามเริ่มซ่อนตัวอยู่ในการปฏิบัติงานปกติ ความสามารถในการระบุ "ปกติ" ได้อย่างแม่นยำและแจ้งเตือนเมื่อมีสิ่งผิดปกติจึงมีความสำคัญอย่างยิ่ง ดังนั้น AI แบบสร้างกำเนิดจึงทำหน้าที่เป็นยามเฝ้าที่ไม่รู้จักเหน็ดเหนื่อย เรียนรู้และปรับปรุงนิยามของความปกติอยู่เสมอเพื่อให้ทันกับการเปลี่ยนแปลงของสภาพแวดล้อม และแจ้งเตือนทีมรักษาความปลอดภัยถึงความผิดปกติที่ควรได้รับการตรวจสอบอย่างใกล้ชิด

โอกาสและประโยชน์ของ Generative AI ในด้านความปลอดภัยทางไซเบอร์

โอกาสและประโยชน์ มากมาย สำหรับองค์กรที่ต้องการนำเครื่องมือเหล่านี้มาใช้ ด้านล่างนี้คือข้อดีหลักที่ทำให้ generative AI เป็นส่วนเสริมที่น่าสนใจสำหรับโครงการความมั่นคงปลอดภัยไซเบอร์:

• ตรวจจับและตอบสนองภัยคุกคามได้เร็วขึ้น: ระบบ AI เชิงสร้างสรรค์สามารถวิเคราะห์ข้อมูลจำนวนมหาศาลแบบเรียลไทม์และตรวจจับภัยคุกคามได้เร็วกว่าการวิเคราะห์ด้วยมือมนุษย์มาก ข้อได้เปรียบด้านความเร็วนี้หมายถึงการตรวจจับการโจมตีได้เร็วกว่าและควบคุมเหตุการณ์ได้รวดเร็วยิ่งขึ้น ในทางปฏิบัติ การตรวจสอบความปลอดภัยที่ขับเคลื่อนด้วย AI สามารถตรวจจับภัยคุกคามที่มนุษย์ต้องใช้เวลานานกว่าในการเชื่อมโยง ด้วยการตอบสนองต่อเหตุการณ์อย่างทันท่วงที (หรือแม้แต่การดำเนินการตอบสนองเบื้องต้นโดยอัตโนมัติ) องค์กรต่างๆ สามารถลดระยะเวลาที่ผู้โจมตีต้องอยู่ในเครือข่ายได้อย่างมาก และลดความเสียหายให้น้อยที่สุด

• ความแม่นยำและการครอบคลุมภัยคุกคามที่ดีขึ้น: เนื่องจากโมเดลแบบสร้าง (generative models) เรียนรู้จากข้อมูลใหม่ๆ อย่างต่อเนื่อง จึงสามารถปรับตัวให้เข้ากับภัยคุกคามที่เปลี่ยนแปลงไป และตรวจจับสัญญาณที่ละเอียดกว่าของกิจกรรมที่เป็นอันตรายได้ ส่งผลให้ความแม่นยำในการตรวจจับดีขึ้น (ผลลบลวงและผลบวกลวงน้อยลง) เมื่อเทียบกับกฎแบบคงที่ ยกตัวอย่างเช่น AI ที่เรียนรู้ลักษณะเด่นของอีเมลฟิชชิงหรือพฤติกรรมของมัลแวร์ สามารถระบุตัวแปรที่ไม่เคยพบเห็นมาก่อน ผลลัพธ์คือความครอบคลุมของภัยคุกคามประเภทต่างๆ ที่กว้างขึ้น รวมถึงการโจมตีใหม่ๆ ซึ่งช่วยเสริมสร้างความมั่นคงปลอดภัยโดยรวม ทีมรักษาความปลอดภัยยังได้รับข้อมูลเชิงลึกอย่างละเอียดจากการวิเคราะห์ AI (เช่น คำอธิบายพฤติกรรมของมัลแวร์) ทำให้การป้องกันแม่นยำและตรงเป้าหมายมากขึ้น ( Generative AI ในไซเบอร์ซีเคียวริตี้คืออะไร? - Palo Alto Networks )

• ระบบอัตโนมัติสำหรับงานที่ทำซ้ำๆ: ปัญญาประดิษฐ์ (Genative AI) โดดเด่นในด้านการทำให้งานด้านความปลอดภัยที่ต้องใช้แรงงานหนักและเป็นประจำเป็นระบบอัตโนมัติ ตั้งแต่การตรวจสอบบันทึกและรวบรวมรายงาน ไปจนถึงการเขียนสคริปต์รับมือเหตุการณ์ ระบบอัตโนมัตินี้ ช่วยลดภาระของนักวิเคราะห์มนุษย์ ทำให้พวกเขามีอิสระที่จะมุ่งเน้นไปที่กลยุทธ์ระดับสูงและการตัดสินใจที่ซับซ้อน ( ปัญญาประดิษฐ์คืออะไรในด้านความปลอดภัยทางไซเบอร์ - Palo Alto Networks ) AI สามารถจัดการงานทั่วไปแต่สำคัญ เช่น การสแกนช่องโหว่ การตรวจสอบการกำหนดค่า การวิเคราะห์กิจกรรมผู้ใช้ และการรายงานการปฏิบัติตามข้อกำหนด (หรืออย่างน้อยก็ร่างขึ้นก่อน) ได้ การจัดการงานเหล่านี้ด้วยความเร็วระดับเครื่องจักร ปัญญาประดิษฐ์ไม่เพียงแต่ช่วยเพิ่มประสิทธิภาพ แต่ยังช่วยลดข้อผิดพลาดของมนุษย์ (ซึ่งเป็นปัจจัยสำคัญที่ทำให้เกิดการละเมิด) อีกด้วย

• การป้องกันและการจำลองเชิงรุก: ปัญญาประดิษฐ์ (Generative AI) ช่วยให้องค์กรเปลี่ยนจากการรักษาความปลอดภัยเชิงรับเป็นเชิงรุก ด้วยเทคนิคต่างๆ เช่น การจำลองการโจมตี การสร้างข้อมูลสังเคราะห์ และการฝึกอบรมตามสถานการณ์จริง ฝ่ายป้องกันสามารถคาดการณ์และเตรียมพร้อมรับมือกับภัยคุกคาม ก่อนที่ จะเกิดขึ้นจริงในโลกแห่งความเป็นจริง ทีมรักษาความปลอดภัยสามารถจำลองการโจมตีทางไซเบอร์ (แคมเปญฟิชชิ่ง การระบาดของมัลแวร์ DDoS ฯลฯ) ในสภาพแวดล้อมที่ปลอดภัย เพื่อทดสอบการตอบสนองและแก้ไขจุดอ่อน การฝึกอบรมอย่างต่อเนื่องนี้ ซึ่งมักไม่สามารถทำได้อย่างละเอียดถี่ถ้วนด้วยความพยายามของมนุษย์เพียงอย่างเดียว ช่วยให้การป้องกันมีความเฉียบคมและทันสมัยอยู่เสมอ เปรียบเสมือนการฝึกซ้อมดับเพลิงทางไซเบอร์ – AI สามารถโยนภัยคุกคามสมมุติฐานมากมายใส่ระบบป้องกันของคุณ เพื่อให้คุณสามารถฝึกฝนและพัฒนาตนเองได้

• เสริมความเชี่ยวชาญของมนุษย์ (AI เป็นตัวคูณพลัง): Generative AI ทำหน้าที่เป็นนักวิเคราะห์รุ่นเยาว์ ที่ปรึกษา และผู้ช่วยที่ไม่รู้จักเหน็ดเหนื่อยในหนึ่งเดียว สามารถให้คำแนะนำและข้อเสนอแนะแก่สมาชิกทีมที่มีประสบการณ์น้อยกว่า ซึ่งโดยทั่วไปแล้วคาดหวังจากผู้เชี่ยวชาญที่มี ประสบการณ์ กระจายความเชี่ยวชาญ ทั่วทั้งทีมได้อย่างมีประสิทธิภาพ ( 6 กรณีศึกษาสำหรับ Generative AI ในด้านความมั่นคงปลอดภัยไซเบอร์ [+ ตัวอย่าง] ) สิ่งนี้มีประโยชน์อย่างยิ่งเมื่อพิจารณาถึงปัญหาการขาดแคลนบุคลากรในด้านความปลอดภัยไซเบอร์ – AI ช่วยให้ทีมขนาดเล็กทำงานได้มากขึ้นด้วยทรัพยากรที่น้อยลง ในทางกลับกัน นักวิเคราะห์ที่มีประสบการณ์จะได้รับประโยชน์จาก AI ที่จัดการงานหนักและนำเสนอข้อมูลเชิงลึกที่ไม่ชัดเจน ซึ่งพวกเขาสามารถตรวจสอบและดำเนินการได้ ผลลัพธ์โดยรวมคือทีมรักษาความปลอดภัยที่มีประสิทธิภาพและความสามารถมากขึ้น โดย AI จะขยายผลกระทบของสมาชิกแต่ละคน ( Generative AI สามารถนำมาใช้ในความมั่นคงปลอดภัยไซเบอร์ได้อย่างไร )

• การสนับสนุนการตัดสินใจและการรายงานที่ดีขึ้น: ด้วยการแปลงข้อมูลทางเทคนิคเป็นข้อมูลเชิงลึกที่เป็นภาษาธรรมชาติ ปัญญาประดิษฐ์ (Generative AI) ช่วยปรับปรุงการสื่อสารและการตัดสินใจ ผู้นำด้านความปลอดภัยจะมองเห็นปัญหาได้ชัดเจนยิ่งขึ้นผ่านบทสรุปที่สร้างโดย AI และสามารถตัดสินใจเชิงกลยุทธ์ได้อย่างชาญฉลาดโดยไม่จำเป็นต้องวิเคราะห์ข้อมูลดิบ เช่นเดียวกัน การสื่อสารข้ามสายงาน (กับผู้บริหาร เจ้าหน้าที่ฝ่ายปฏิบัติตามกฎระเบียบ ฯลฯ) จะดีขึ้นเมื่อ AI จัดทำรายงานเกี่ยวกับสถานะและเหตุการณ์ด้านความปลอดภัยที่เข้าใจง่าย ( Generative AI สามารถนำมาใช้ในความมั่นคงปลอดภัยไซเบอร์ได้อย่างไร? 10 ตัวอย่างจากสถานการณ์จริง ) สิ่งนี้ไม่เพียงแต่สร้างความเชื่อมั่นและความสอดคล้องกันในเรื่องความปลอดภัยในระดับผู้นำเท่านั้น แต่ยังช่วยสนับสนุนการลงทุนและการเปลี่ยนแปลงด้วยการระบุความเสี่ยงและช่องว่างที่ AI ค้นพบอย่างชัดเจน

เมื่อนำมารวมกัน ประโยชน์เหล่านี้หมายความว่าองค์กรที่ใช้ประโยชน์จาก generative AI ในด้านความมั่นคงปลอดภัยไซเบอร์ จะสามารถยกระดับความปลอดภัยให้แข็งแกร่งยิ่งขึ้น พร้อมลดต้นทุนการดำเนินงานลงได้ องค์กรเหล่านี้สามารถรับมือกับภัยคุกคามที่เคยท่วมท้น ปิดช่องโหว่ที่ไม่ได้รับการตรวจสอบ และพัฒนาอย่างต่อเนื่องผ่านวงจรป้อนกลับที่ขับเคลื่อนด้วย AI ในที่สุด generative AI มอบโอกาสในการก้าวล้ำนำหน้าคู่แข่งด้วยการจับคู่ ความเร็ว ขนาด และความซับซ้อน ของการโจมตีสมัยใหม่เข้ากับระบบป้องกันที่ซับซ้อนไม่แพ้กัน ผลสำรวจหนึ่งพบว่า ผู้นำธุรกิจและผู้นำด้านไซเบอร์กว่าครึ่งคาดการณ์ว่าการตรวจจับภัยคุกคามจะเร็วขึ้นและความแม่นยำที่เพิ่มขึ้นผ่านการใช้ generative AI ( [PDF] Global Cybersecurity Outlook 2025 | World Economic Forum ) ( Generative AI in Cybersecurity: A Comprehensive Review of LLM ... ) ซึ่งเป็นเครื่องพิสูจน์ถึงความเชื่อมั่นในประโยชน์ของเทคโนโลยีเหล่านี้

ความเสี่ยงและความท้าทายของการใช้ AI เชิงสร้างสรรค์ในการรักษาความปลอดภัยทางไซเบอร์

แม้ว่าโอกาสจะมีความสำคัญ แต่สิ่งสำคัญคือต้องพิจารณาถึง AI เชิงสร้างสรรค์ (generative AI) ในด้านความมั่นคงปลอดภัยไซเบอร์โดยคำนึงถึง ความเสี่ยงและความท้าทาย ที่เกี่ยวข้อง การไว้วางใจ AI อย่างไม่ลืมหูลืมตาหรือการใช้งาน AI ในทางที่ผิดอาจนำไปสู่ช่องโหว่ใหม่ๆ ได้ ด้านล่างนี้คือข้อกังวลและอุปสรรคสำคัญ พร้อมบริบทของแต่ละข้อ:

• การใช้เชิงรุกโดยอาชญากรไซเบอร์: ความสามารถเชิงสร้างสรรค์แบบเดียวกันนี้ที่ช่วยเหลือผู้ป้องกันสามารถเสริมศักยภาพให้กับผู้โจมตีได้ ผู้ก่อภัยคุกคามกำลังใช้ generative AI เพื่อสร้างอีเมลฟิชชิงที่น่าเชื่อถือยิ่งขึ้น สร้างตัวตนปลอมและวิดีโอ deepfake เพื่อสร้างวิศวกรรมสังคม พัฒนามัลแวร์ polymorphic ที่เปลี่ยนแปลงอยู่ตลอดเวลาเพื่อหลีกเลี่ยงการตรวจจับ และแม้แต่ทำให้การแฮ็กเป็นไปโดยอัตโนมัติ ( Generative AI ในความมั่นคงปลอดภัยไซเบอร์คืออะไร? - Palo Alto Networks ) ผู้นำด้านความมั่นคงปลอดภัยไซเบอร์เกือบครึ่ง (46%) กังวลว่า generative AI จะนำไปสู่การโจมตีเชิงรุกที่ก้าวหน้ายิ่งขึ้น ( Generative AI Security: Trends, Threats & Mitigation Strategies ) “การแข่งขันด้าน AI” นี้หมายความว่า เมื่อผู้ป้องกันนำ AI มาใช้ ผู้โจมตีก็จะตามหลังมาไม่ไกล (อันที่จริง พวกเขาอาจนำหน้าในบางด้านด้วยการใช้เครื่องมือ AI ที่ไม่มีการควบคุม) องค์กรต่างๆ ต้องเตรียมพร้อมสำหรับภัยคุกคามที่เสริมประสิทธิภาพด้วย AI ซึ่งเกิดขึ้นบ่อยครั้ง ซับซ้อน และยากต่อการติดตาม

• ภาพหลอนของ AI และความไม่แม่นยำ: โมเดล AI แบบสร้างภาพ (Genative AI) สามารถแสดงผลลัพธ์ที่ น่าเชื่อถือ แต่ไม่ถูกต้องหรือทำให้เข้าใจผิด ซึ่งเป็นปรากฏการณ์ที่เรียกว่าภาพหลอน ในบริบทด้านความปลอดภัย AI อาจวิเคราะห์เหตุการณ์และสรุปอย่างผิดพลาดว่าช่องโหว่บางอย่างเป็นสาเหตุ หรืออาจสร้างสคริปต์แก้ไขที่มีข้อบกพร่องซึ่งไม่สามารถควบคุมการโจมตีได้ ข้อผิดพลาดเหล่านี้อาจเป็นอันตรายหากมองตามความเป็นจริง ดังที่ NTT Data เตือนไว้ว่า “AI แบบสร้างภาพอาจแสดงเนื้อหาที่ไม่เป็นความจริง และปรากฏการณ์นี้เรียกว่าภาพหลอน... ปัจจุบันยากที่จะกำจัดภาพหลอนเหล่านี้ออกไปได้อย่างสมบูรณ์” ( ความเสี่ยงด้านความปลอดภัยของ AI แบบสร้างภาพและมาตรการรับมือ และผลกระทบต่อความมั่นคงปลอดภัยไซเบอร์ | NTT DATA Group ) การพึ่งพา AI มากเกินไปโดยปราศจากการตรวจสอบอาจนำไปสู่ความพยายามที่ผิดพลาดหรือความรู้สึกปลอดภัยที่ผิดเพี้ยน ตัวอย่างเช่น AI อาจตั้งค่าสถานะระบบสำคัญว่าปลอดภัยอย่างผิดพลาด ทั้งที่ไม่ใช่ หรือในทางกลับกัน ก่อให้เกิดความตื่นตระหนกโดยการ “ตรวจจับ” การละเมิดที่ไม่เคยเกิดขึ้น การตรวจสอบผลลัพธ์ของ AI อย่างเข้มงวดและให้มนุษย์มีส่วนร่วมในการตัดสินใจที่สำคัญถือเป็นสิ่งจำเป็นในการบรรเทาความเสี่ยงนี้

• ผลบวกลวงและผลลบลวง: หากโมเดล AI ได้รับการฝึกอบรมหรือกำหนดค่าไม่ดี อาจ รายงานกิจกรรมที่ไม่เป็นอันตรายเกินจริงว่าเป็นกิจกรรมที่เป็นอันตราย (ผลบวกลวง) หรือที่แย่กว่านั้นคือ พลาดภัยคุกคามจริง (ผลลบลวง) ( เราจะนำ Generative AI ไปใช้ในไซเบอร์ซีเคียวริตี้ได้อย่างไร ) การแจ้งเตือนลวงที่มากเกินไปอาจทำให้ทีมรักษาความปลอดภัยรับมือไม่ไหวและนำไปสู่ความเหนื่อยล้าจากการแจ้งเตือน (ซึ่งทำลายประสิทธิภาพที่ AI สัญญาไว้) ในขณะที่การตรวจจับที่พลาดอาจทำให้องค์กรตกอยู่ในความเสี่ยง การปรับแต่งโมเดล Generative ให้สมดุลเป็นเรื่องท้าทาย แต่ละสภาพแวดล้อมมีความแตกต่างกัน และ AI อาจไม่สามารถทำงานได้อย่างเต็มประสิทธิภาพทันทีที่แกะกล่อง การเรียนรู้อย่างต่อเนื่องก็เป็นดาบสองคมเช่นกัน หาก AI เรียนรู้จากฟีดแบ็กที่เบี่ยงเบน หรือจากสภาพแวดล้อมที่เปลี่ยนแปลง ความแม่นยำของ AI อาจผันผวน ทีมรักษาความปลอดภัยต้องตรวจสอบประสิทธิภาพของ AI และปรับเกณฑ์ หรือให้ฟีดแบ็กเพื่อแก้ไขให้กับโมเดล ในบริบทที่มีความสำคัญสูง (เช่น การตรวจจับการบุกรุกโครงสร้างพื้นฐานที่สำคัญ) อาจมีความรอบคอบในการรันข้อเสนอแนะด้าน AI ควบคู่ไปกับระบบที่มีอยู่สักระยะหนึ่ง เพื่อให้แน่ใจว่าข้อเสนอแนะเหล่านั้นสอดคล้องและเสริมกันแทนที่จะขัดแย้งกัน

• ความเป็นส่วนตัวของข้อมูลและการรั่วไหล: ระบบ Generative AI มักต้องการข้อมูลจำนวนมากสำหรับการฝึกอบรมและการดำเนินงาน หากโมเดลเหล่านี้อยู่บนคลาวด์หรือไม่ได้แยกส่วนอย่างเหมาะสม มีความเสี่ยงที่ข้อมูลที่ละเอียดอ่อนอาจรั่วไหล ผู้ใช้อาจป้อนข้อมูลที่เป็นกรรมสิทธิ์หรือข้อมูลส่วนบุคคลลงในบริการ AI โดยไม่ได้ตั้งใจ (ลองนึกถึงการขอให้ ChatGPT สรุปรายงานเหตุการณ์ที่เป็นความลับ) และข้อมูลดังกล่าวอาจกลายเป็นส่วนหนึ่งของความรู้ของโมเดล อันที่จริง การศึกษาเมื่อเร็วๆ นี้พบว่า 55% ของอินพุตสำหรับเครื่องมือ Generative AI มีข้อมูลที่ละเอียดอ่อนหรือข้อมูลที่สามารถระบุตัวตนได้ ซึ่งก่อให้เกิดความกังวลอย่างมากเกี่ยวกับการรั่วไหลของข้อมูล ( Generative AI Security: Trends, Threats & Mitigation Strategies ) นอกจากนี้ หาก AI ได้รับการฝึกอบรมจากข้อมูลภายในและมีการสอบถามข้อมูลในรูปแบบเฉพาะเจาะจง AI อาจ ส่ง ข้อมูลที่ละเอียดอ่อนนั้นบางส่วนไปยังผู้อื่น องค์กรต่างๆ ต้องดำเนินนโยบายการจัดการข้อมูลที่เข้มงวด (เช่น การใช้อินสแตนซ์ AI ภายในองค์กรหรือแบบส่วนตัวสำหรับข้อมูลที่ละเอียดอ่อน) และให้ความรู้แก่พนักงานเกี่ยวกับการไม่วางข้อมูลลับลงในเครื่องมือ AI สาธารณะ กฎระเบียบด้านความเป็นส่วนตัว (GDPR เป็นต้น) ยังเข้ามามีบทบาทด้วย การใช้ข้อมูลส่วนบุคคลเพื่อฝึก AI โดยไม่ได้รับความยินยอมหรือการปกป้องที่เหมาะสมอาจขัดต่อกฎหมายได้

• ความปลอดภัยและการจัดการแบบจำลอง: แบบจำลอง Generative AI อาจกลายเป็นเป้าหมายได้ ฝ่ายตรงข้ามอาจพยายาม วางยาพิษแบบจำลอง โดยป้อนข้อมูลที่เป็นอันตรายหรือทำให้เข้าใจผิดในระหว่างขั้นตอนการฝึกหรือการฝึกซ้ำ เพื่อให้ AI เรียนรู้รูปแบบที่ไม่ถูกต้อง ( วิธีการใช้ Generative AI ในด้านความมั่นคงปลอดภัยไซเบอร์ ) ตัวอย่างเช่น ผู้โจมตีอาจวางยาพิษข้อมูลภัยคุกคามอย่างแนบเนียน เพื่อให้ AI ไม่สามารถรับรู้มัลแวร์ของผู้โจมตีว่าเป็นมัลแวร์ อีกกลยุทธ์หนึ่งคือ การฉีดหรือการจัดการผลลัพธ์แบบทันที ซึ่งผู้โจมตีจะหาวิธีป้อนข้อมูลไปยัง AI ที่ทำให้ AI มีพฤติกรรมที่ไม่ได้ตั้งใจ เช่น เพิกเฉยต่อมาตรการรักษาความปลอดภัย หรือเปิดเผยข้อมูลที่ไม่ควรเปิดเผย (เช่น ข้อความแจ้งเตือนภายในหรือข้อมูล) นอกจากนี้ยังมีความเสี่ยงใน การหลบเลี่ยงแบบจำลอง : ผู้โจมตีสร้างอินพุตที่ออกแบบมาโดยเฉพาะเพื่อหลอก AI เราเห็นสิ่งนี้ในตัวอย่างของการต่อต้าน – ข้อมูลที่ถูกรบกวนเล็กน้อยซึ่งมนุษย์มองว่าเป็นเรื่องปกติ แต่ AI จัดประเภทผิด การทำให้แน่ใจว่าห่วงโซ่อุปทานของ AI มีความปลอดภัย (ความสมบูรณ์ของข้อมูล การควบคุมการเข้าถึงโมเดล การทดสอบความทนทานของฝ่ายตรงข้าม) ถือเป็นส่วนใหม่แต่จำเป็นของการรักษาความปลอดภัยทางไซเบอร์เมื่อใช้งานเครื่องมือเหล่านี้ ( AI เชิงสร้างสรรค์คืออะไรในการรักษาความปลอดภัยทางไซเบอร์ - Palo Alto Networks )

• การพึ่งพา AI มากเกินไปและการถดถอยของทักษะ: มีความเสี่ยงเล็กน้อยที่องค์กรต่างๆ อาจพึ่งพา AI มากเกินไปและปล่อยให้ทักษะของมนุษย์เสื่อมถอย หากนักวิเคราะห์ระดับจูเนียร์เชื่อถือผลลัพธ์ของ AI อย่างงมงาย พวกเขาอาจไม่สามารถพัฒนาความคิดเชิงวิพากษ์และสัญชาตญาณที่จำเป็นเมื่อ AI ไม่พร้อมใช้งานหรือผิดพลาด สถานการณ์ที่ควรหลีกเลี่ยงคือทีมรักษาความปลอดภัยที่มีเครื่องมือที่ยอดเยี่ยม แต่ไม่รู้ว่าจะต้องทำงานอย่างไรหากเครื่องมือเหล่านั้นล้มเหลว (เช่นเดียวกับนักบินที่พึ่งพาระบบอัตโนมัติมากเกินไป) การฝึกอบรมเป็นประจำโดยปราศจากความช่วยเหลือจาก AI และการปลูกฝังทัศนคติที่ว่า AI เป็นผู้ช่วย ไม่ใช่ผู้ทำนายที่ไร้ข้อผิดพลาด เป็นสิ่งสำคัญที่จะทำให้นักวิเคราะห์มนุษย์มีความเฉียบแหลม มนุษย์ต้องเป็นผู้ตัดสินใจขั้นสุดท้าย โดยเฉพาะอย่างยิ่งในการตัดสินใจที่มีผลกระทบสูง

• ความท้าทายด้านจริยธรรมและการปฏิบัติตามกฎระเบียบ: การใช้ AI ในด้านความมั่นคงปลอดภัยไซเบอร์ก่อให้เกิดคำถามด้านจริยธรรมและอาจก่อให้เกิดปัญหาการปฏิบัติตามกฎระเบียบ ยกตัวอย่างเช่น หากระบบ AI กล่าวหาพนักงานอย่างไม่ถูกต้องว่าเป็นบุคคลภายในที่มีเจตนาร้ายเนื่องจากความผิดปกติ ระบบอาจสร้างความเสียหายต่อชื่อเสียงหรืออาชีพการงานของบุคคลนั้นอย่างไม่เป็นธรรม การตัดสินใจของ AI อาจคลุมเครือ (ปัญหาที่เรียกว่า “กล่องดำ”) ทำให้ยากที่จะอธิบายให้ผู้ตรวจสอบบัญชีหรือหน่วยงานกำกับดูแลทราบถึงเหตุผลในการดำเนินการบางอย่าง เมื่อเนื้อหาที่สร้างโดย AI แพร่หลายมากขึ้น การรับรองความโปร่งใสและการรักษาความรับผิดชอบจึงเป็นสิ่งสำคัญยิ่ง หน่วยงานกำกับดูแลกำลังเริ่มตรวจสอบ AI อย่างเข้มข้น เช่น พระราชบัญญัติ AI ของสหภาพยุโรปจะกำหนดข้อกำหนดสำหรับระบบ AI ที่มีความเสี่ยงสูง และ AI ด้านความมั่นคงปลอดภัยไซเบอร์อาจจัดอยู่ในกลุ่มนี้ บริษัทต่างๆ จะต้องปฏิบัติตามกฎระเบียบเหล่านี้ และอาจต้องปฏิบัติตามมาตรฐานต่างๆ เช่น กรอบการจัดการความเสี่ยง AI ของ NIST เพื่อใช้ generative AI อย่างมีความรับผิดชอบ ( Generative AI สามารถนำมาใช้ในความมั่นคงปลอดภัยไซเบอร์ได้อย่างไร? 10 ตัวอย่างจากสถานการณ์จริง ) การปฏิบัติตามยังขยายไปถึงการออกใบอนุญาตด้วย: การใช้โมเดลโอเพ่นซอร์สหรือของบริษัทอื่นอาจมีข้อกำหนดที่จำกัดการใช้งานบางประเภทหรือต้องมีการแบ่งปันการปรับปรุง

โดยสรุปแล้ว ปัญญาประดิษฐ์เชิงสร้างสรรค์ (generative AI) ไม่ใช่เครื่องมือที่สมบูรณ์แบบ หากไม่ได้นำมาใช้อย่างระมัดระวัง ปัญญาประดิษฐ์อาจก่อให้เกิดจุดอ่อนใหม่ๆ แม้ว่าจะแก้ไขจุดอ่อนอื่นๆ ก็ตาม ผลการศึกษาของฟอรัมเศรษฐกิจโลกในปี 2024 ชี้ให้เห็นว่าองค์กรประมาณ 47% ระบุว่าความก้าวหน้าของปัญญาประดิษฐ์เชิงสร้างสรรค์โดยผู้โจมตีเป็นข้อกังวลหลัก ทำให้เป็น “ผลกระทบที่น่ากังวลที่สุดของปัญญาประดิษฐ์เชิงสร้างสรรค์” ต่อความมั่นคงปลอดภัยทางไซเบอร์ ( [PDF] Global Cybersecurity Outlook 2025 | ฟอรัมเศรษฐกิจโลก ) ( ปัญญาประดิษฐ์เชิงสร้างสรรค์ในความมั่นคงปลอดภัยทางไซเบอร์: การทบทวนอย่างครอบคลุมของหลักสูตรปริญญาโทบริหารธุรกิจ (LLM) ... ) ดังนั้น องค์กรต่างๆ จึงต้องปรับใช้แนวทางที่สมดุล กล่าวคือ ใช้ประโยชน์จากปัญญาประดิษฐ์ควบคู่ไปกับการจัดการความเสี่ยงเหล่านี้อย่างเข้มงวดผ่านการกำกับดูแล การทดสอบ และการกำกับดูแลโดยมนุษย์ ต่อไปเราจะหารือถึงวิธีการบรรลุความสมดุลนั้นในทางปฏิบัติ

แนวโน้มในอนาคต: บทบาทที่เปลี่ยนแปลงไปของ Generative AI ในด้านความปลอดภัยทางไซเบอร์

มองไปข้างหน้า ปัญญาประดิษฐ์ (AI) กำลังจะกลายเป็นส่วนสำคัญของกลยุทธ์ความมั่นคงปลอดภัยไซเบอร์ และในทำนองเดียวกัน จะกลายเป็นเครื่องมือที่ศัตรูไซเบอร์จะใช้ประโยชน์ต่อไป พลวัตแบบแมวไล่หนู จะเร่งตัวขึ้น โดย AI จะอยู่เคียงข้างทั้งสองฝ่าย นี่คือข้อมูลเชิงลึกเชิงคาดการณ์เกี่ยวกับวิธีที่ปัญญาประดิษฐ์ (AI) อาจกำหนดทิศทางความมั่นคงปลอดภัยไซเบอร์ในอีกไม่กี่ปีข้างหน้า:

• การป้องกันไซเบอร์ด้วย AI-Augmented กลายเป็นมาตรฐาน: ภายในปี 2025 และปีต่อๆ ไป เราคาดการณ์ได้ว่าองค์กรขนาดกลางถึงขนาดใหญ่ส่วนใหญ่จะได้นำเครื่องมือที่ขับเคลื่อนด้วย AI เข้ามาใช้ในการดำเนินงานด้านความปลอดภัย เช่นเดียวกับที่โปรแกรมป้องกันไวรัสและไฟร์วอลล์เป็นมาตรฐานในปัจจุบัน ระบบ AI copilot และระบบตรวจจับความผิดปกติอาจกลายเป็นองค์ประกอบพื้นฐานของสถาปัตยกรรมความปลอดภัย เครื่องมือเหล่านี้มีแนวโน้มที่จะมีความเฉพาะทางมากขึ้น เช่น โมเดล AI เฉพาะที่ปรับแต่งให้เหมาะสมกับความปลอดภัยบนคลาวด์ สำหรับการตรวจสอบอุปกรณ์ IoT สำหรับความปลอดภัยของโค้ดแอปพลิเคชัน และอื่นๆ ซึ่งทั้งหมดนี้ทำงานร่วมกัน ดังที่คาดการณ์ไว้ว่า “ในปี 2025 Generative AI จะเป็นส่วนสำคัญของความมั่นคงปลอดภัยไซเบอร์ ช่วยให้องค์กรต่างๆ สามารถป้องกันภัยคุกคามที่ซับซ้อนและกำลังพัฒนาได้เชิงรุก” ( How Can Generative AI be used in Cybersecurity ) AI จะเพิ่มประสิทธิภาพการตรวจจับภัยคุกคามแบบเรียลไทม์ ทำให้การดำเนินการตอบสนองต่างๆ เป็นอัตโนมัติ และช่วยให้ทีมรักษาความปลอดภัยสามารถจัดการข้อมูลปริมาณมหาศาลได้มากกว่าที่สามารถทำได้ด้วยตนเอง

• การเรียนรู้และการปรับตัวอย่างต่อเนื่อง: ระบบ AI เชิงสร้างสรรค์แห่งอนาคตในโลกไซเบอร์จะ เรียนรู้ จากเหตุการณ์ใหม่ๆ และข่าวกรองภัยคุกคามได้ดีขึ้น พร้อมอัปเดตฐานความรู้แบบเกือบเรียลไทม์ ซึ่งอาจนำไปสู่การป้องกันที่ปรับตัวได้อย่างแท้จริง ลองนึกภาพ AI ที่เรียนรู้เกี่ยวกับแคมเปญฟิชชิ่งใหม่ที่โจมตีบริษัทอื่นในตอนเช้า และในช่วงบ่ายก็ได้ปรับตัวกรองอีเมลของบริษัทคุณให้ตอบสนองแล้ว บริการรักษาความปลอดภัย AI บนคลาวด์อาจเอื้อต่อการเรียนรู้แบบรวมกลุ่มนี้ ซึ่งข้อมูลเชิงลึกที่ไม่ระบุตัวตนจากองค์กรหนึ่งจะเป็นประโยชน์ต่อผู้ใช้ทุกคน (คล้ายกับการแบ่งปันข่าวกรองภัยคุกคาม แต่เป็นระบบอัตโนมัติ) อย่างไรก็ตาม การทำเช่นนี้จำเป็นต้องมีการจัดการอย่างระมัดระวังเพื่อหลีกเลี่ยงการแชร์ข้อมูลสำคัญ และเพื่อป้องกันไม่ให้ผู้โจมตีป้อนข้อมูลที่ไม่ถูกต้องลงในโมเดลที่ใช้ร่วมกัน

• การผสานรวมความสามารถด้าน AI และความมั่นคงปลอดภัยไซเบอร์: ทักษะของผู้เชี่ยวชาญด้านความมั่นคงปลอดภัยไซเบอร์จะพัฒนาไปสู่ความเชี่ยวชาญด้าน AI และวิทยาศาสตร์ข้อมูล เช่นเดียวกับที่นักวิเคราะห์ในปัจจุบันเรียนรู้ภาษาคิวรีและสคริปต์ นักวิเคราะห์ในอนาคตอาจปรับแต่งโมเดล AI หรือเขียน “คู่มือ” ให้ AI ใช้งานได้อย่างสม่ำเสมอ เราอาจเห็นบทบาทใหม่ๆ เช่น “ผู้ฝึกอบรมด้านความปลอดภัย AI” หรือ “วิศวกร AI ด้านความมั่นคงปลอดภัยไซเบอร์” ซึ่งเป็นผู้เชี่ยวชาญในการปรับเครื่องมือ AI ให้ตรงกับความต้องการขององค์กร ตรวจสอบประสิทธิภาพ และรับรองว่าเครื่องมือเหล่านั้นทำงานอย่างปลอดภัย ในทางกลับกัน การพิจารณาถึงความมั่นคงปลอดภัยไซเบอร์จะมีอิทธิพลต่อการพัฒนา AI มากขึ้น ระบบ AI จะถูกสร้างขึ้นด้วยคุณสมบัติด้านความปลอดภัยตั้งแต่พื้นฐาน (สถาปัตยกรรมที่ปลอดภัย การตรวจจับการปลอมแปลง บันทึกการตรวจสอบสำหรับการตัดสินใจด้าน AI ฯลฯ) และกรอบการทำงานสำหรับ AI ที่เชื่อถือได้ (ยุติธรรม อธิบายได้ แข็งแกร่ง และปลอดภัย) จะเป็นแนวทางในการปรับใช้ในบริบทที่สำคัญด้านความปลอดภัย

• การโจมตีด้วย AI ที่ซับซ้อนยิ่งขึ้น: น่าเสียดายที่ภูมิทัศน์ของภัยคุกคามจะพัฒนาไปพร้อมกับ AI เช่นกัน เราคาดการณ์ว่าจะมีการใช้งาน AI บ่อยขึ้นเพื่อค้นหาช่องโหว่แบบ Zero-day เพื่อสร้างการฟิชชิงแบบเจาะจงเป้าหมาย (เช่น AI ดึงข้อมูลจากโซเชียลมีเดียเพื่อสร้างเหยื่อล่อที่ปรับแต่งได้อย่างสมบูรณ์แบบ) และเพื่อสร้างเสียงหรือวิดีโอ Deepfake ที่น่าเชื่อถือเพื่อหลีกเลี่ยงการยืนยันตัวตนแบบไบโอเมตริกซ์หรือฉ้อโกง อาจมีเอเจนต์แฮ็กเกอร์อัตโนมัติเกิดขึ้น ซึ่งสามารถดำเนินการโจมตีหลายขั้นตอนได้อย่างอิสระ (การลาดตระเวน การใช้ประโยชน์ การเคลื่อนไหวด้านข้าง ฯลฯ) โดยมีมนุษย์ควบคุมน้อยที่สุด สิ่งนี้จะกดดันให้ผู้ป้องกันต้องพึ่งพา AI เช่นกัน ซึ่งโดยพื้นฐานแล้วคือ ระบบอัตโนมัติเทียบกับระบบอัตโนมัติ การโจมตีบางอย่างอาจเกิดขึ้นด้วยความเร็วของเครื่องจักร เช่น บอท AI ที่ลองส่งอีเมลฟิชชิงนับพันฉบับเพื่อดูว่าฉบับใดผ่านตัวกรองได้ การป้องกันทางไซเบอร์จะต้องทำงานด้วยความเร็วและความยืดหยุ่นที่ใกล้เคียงกันเพื่อให้ทันต่อสถานการณ์ ( Generative AI ในความมั่นคงปลอดภัยไซเบอร์คืออะไร? - Palo Alto Networks )

• กฎระเบียบและจริยธรรม AI ด้านความปลอดภัย: เมื่อ AI ฝังรากลึกอยู่ในระบบความมั่นคงปลอดภัยไซเบอร์ จะต้องมีการตรวจสอบอย่างเข้มงวดและอาจมีกฎระเบียบที่เข้มงวดขึ้นเพื่อให้มั่นใจว่าระบบ AI เหล่านี้จะถูกใช้งานอย่างมีความรับผิดชอบ เราคาดหวังกรอบการทำงานและมาตรฐานเฉพาะสำหรับ AI ด้านความปลอดภัย รัฐบาลอาจกำหนดแนวทางเพื่อความโปร่งใส เช่น กำหนดให้การตัดสินใจด้านความปลอดภัยที่สำคัญ (เช่น การยกเลิกการเข้าถึงของพนักงานเนื่องจากต้องสงสัยว่ามีกิจกรรมที่เป็นอันตราย) ไม่สามารถกระทำได้โดย AI เพียงอย่างเดียวโดยปราศจากการตรวจสอบโดยมนุษย์ นอกจากนี้ อาจมีการรับรองผลิตภัณฑ์ด้านความปลอดภัยของ AI เพื่อให้ผู้ซื้อมั่นใจได้ว่า AI ได้รับการประเมินด้านอคติ ความทนทาน และความปลอดภัยแล้ว นอกจากนี้ ความร่วมมือระหว่างประเทศอาจเติบโตขึ้นเกี่ยวกับภัยคุกคามทางไซเบอร์ที่เกี่ยวข้องกับ AI เช่น ข้อตกลงเกี่ยวกับการจัดการข้อมูลบิดเบือนที่ AI สร้างขึ้น หรือบรรทัดฐานต่อต้านอาวุธไซเบอร์ที่ขับเคลื่อนด้วย AI บางชนิด

• การบูรณาการกับ AI และระบบนิเวศไอทีที่กว้างขึ้น: AI เชิงสร้างสรรค์ (Generative AI) ในด้านความปลอดภัยไซเบอร์มีแนวโน้มที่จะบูรณาการเข้ากับระบบ AI อื่นๆ และเครื่องมือการจัดการไอที ตัวอย่างเช่น AI ที่จัดการการเพิ่มประสิทธิภาพเครือข่ายอาจทำงานร่วมกับ AI ด้านความปลอดภัย เพื่อให้แน่ใจว่าการเปลี่ยนแปลงจะไม่เปิดช่องโหว่ การวิเคราะห์ธุรกิจที่ขับเคลื่อนด้วย AI อาจแบ่งปันข้อมูลกับ AI ด้านความปลอดภัยเพื่อเชื่อมโยงความผิดปกติ (เช่น ยอดขายลดลงอย่างกะทันหันกับปัญหาเว็บไซต์ที่อาจเกิดขึ้นจากการโจมตี) โดยพื้นฐานแล้ว AI จะไม่แยกส่วน แต่จะเป็นส่วนหนึ่งของโครงสร้างอัจฉริยะที่ใหญ่กว่าในการดำเนินงานขององค์กร สิ่งนี้เปิดโอกาสให้มีการจัดการความเสี่ยงแบบองค์รวม ซึ่งข้อมูลการดำเนินงาน ข้อมูลภัยคุกคาม และแม้แต่ข้อมูลความปลอดภัยทางกายภาพ จะถูกรวมเข้าด้วยกันโดย AI เพื่อให้มุมมองแบบ 360 องศาเกี่ยวกับสถานะความปลอดภัยขององค์กร

ในระยะยาว ความหวังคือ AI เชิงสร้างสรรค์ (generative AI) จะช่วยปรับสมดุลให้เอื้อต่อฝ่ายป้องกัน AI สามารถทำให้ไซเบอร์สเปซมีการป้องกันที่ดีขึ้นได้ ด้วยการรับมือกับขนาดและความซับซ้อนของสภาพแวดล้อมไอทีสมัยใหม่ อย่างไรก็ตาม มันคือการเดินทาง และจะมีอุปสรรคเพิ่มขึ้นเรื่อยๆ ในขณะที่เราพัฒนาเทคโนโลยีเหล่านี้และเรียนรู้ที่จะไว้วางใจอย่างเหมาะสม องค์กรที่คอยติดตามข้อมูลและลงทุนใน การนำ AI มาใช้อย่างมีความรับผิดชอบ เพื่อความปลอดภัย น่าจะเป็นองค์กรที่พร้อมรับมือกับภัยคุกคามในอนาคตได้ดีที่สุด

รายงานแนวโน้มความมั่นคงปลอดภัยไซเบอร์ฉบับล่าสุดของ Gartner ระบุว่า “การเกิดขึ้นของกรณีการใช้งาน AI เชิงสร้างสรรค์ (และความเสี่ยง) กำลังสร้างแรงกดดันให้เกิดการเปลี่ยนแปลง” ( Cybersecurity Trends: Resilience Through Transformation - Gartner ) ผู้ที่ปรับตัวจะใช้ประโยชน์จาก AI ในฐานะพันธมิตรที่แข็งแกร่ง ส่วนผู้ที่ยังล้าหลังอาจพบว่าตนเองถูกแซงหน้าโดยคู่แข่งที่ใช้ AI ในอีกไม่กี่ปีข้างหน้าจะเป็นช่วงเวลาสำคัญในการกำหนดว่า AI จะปรับเปลี่ยนสนามรบไซเบอร์อย่างไร

แนวทางปฏิบัติในการนำ AI เชิงสร้างสรรค์มาใช้ในด้านความปลอดภัยทางไซเบอร์

สำหรับธุรกิจต่างๆ ที่กำลังประเมินวิธีใช้ประโยชน์จาก AI เชิงสร้างสรรค์ในกลยุทธ์ด้านความปลอดภัยทางไซเบอร์ ต่อไปนี้คือ ข้อสรุปและคำแนะนำเชิงปฏิบัติ เพื่อนำทางการนำไปใช้อย่างมีความรับผิดชอบและมีประสิทธิผล:

1. เริ่มต้นด้วยการศึกษาและการฝึกอบรม: สร้างความมั่นใจว่าทีมรักษาความปลอดภัยของคุณ (และเจ้าหน้าที่ไอทีในวงกว้าง) เข้าใจถึงสิ่งที่ Generative AI ทำได้และทำไม่ได้ จัดการฝึกอบรมเกี่ยวกับพื้นฐานของเครื่องมือรักษาความปลอดภัยที่ขับเคลื่อนด้วย AI และอัปเดต โปรแกรมสร้างความตระหนักรู้ด้านความปลอดภัย ให้กับพนักงานทุกคน เพื่อให้ครอบคลุมภัยคุกคามจาก AI ตัวอย่างเช่น สอนพนักงานว่า AI สามารถสร้างกลโกงฟิชชิ่งและการโทรแบบ Deepfake ได้อย่างน่าเชื่อถือได้อย่างไร ขณะเดียวกัน ฝึกอบรมพนักงานเกี่ยวกับการใช้เครื่องมือ AI อย่างปลอดภัยและได้รับอนุมัติในการทำงาน ผู้ใช้ที่มีความรู้ความเข้าใจเป็นอย่างดีจะมีโอกาสน้อยที่จะจัดการ AI อย่างไม่ถูกต้องหรือตกเป็นเหยื่อของการโจมตีที่เสริมประสิทธิภาพด้วย AI ( Generative AI สามารถนำมาใช้ในความมั่นคงปลอดภัยไซเบอร์ได้อย่างไร? 10 ตัวอย่างจากสถานการณ์จริง )

2. กำหนดนโยบายการใช้งาน AI ที่ชัดเจน: ปฏิบัติต่อ AI แบบสร้างสรรค์เช่นเดียวกับเทคโนโลยีอันทรงพลังอื่นๆ – ที่มีธรรมาภิบาล พัฒนานโยบายที่ระบุว่าใครสามารถใช้เครื่องมือ AI ได้ เครื่องมือใดที่ได้รับอนุญาต และใช้เพื่อวัตถุประสงค์ใด ระบุแนวทางในการจัดการข้อมูลที่ละเอียดอ่อน (เช่น ห้ามส่งข้อมูลลับ ไปยังบริการ AI ภายนอก) เพื่อป้องกันการรั่วไหล ตัวอย่างเช่น คุณอาจอนุญาตให้เฉพาะสมาชิกทีมรักษาความปลอดภัยใช้ผู้ช่วย AI ภายในเพื่อรับมือกับเหตุการณ์ และฝ่ายการตลาดสามารถใช้ AI ที่ผ่านการตรวจสอบแล้วสำหรับเนื้อหาได้ แต่บุคคลอื่นจะถูกจำกัดการใช้งาน หลายองค์กรได้ระบุถึง AI แบบสร้างสรรค์อย่างชัดเจนในนโยบายด้านไอที และหน่วยงานมาตรฐานชั้นนำสนับสนุนนโยบายการใช้งานที่ปลอดภัยแทนที่จะห้ามโดยสิ้นเชิง ( Generative AI สามารถนำมาใช้ในความมั่นคงปลอดภัยไซเบอร์ได้อย่างไร? 10 ตัวอย่างจากสถานการณ์จริง ) อย่าลืมสื่อสารกฎเหล่านี้และเหตุผลเบื้องหลังให้พนักงานทุกคนทราบ

3. บรรเทา “Shadow AI” และติดตามการใช้งาน: เช่นเดียวกับ Shadow IT “Shadow AI” เกิดขึ้นเมื่อพนักงานเริ่มใช้เครื่องมือหรือบริการ AI โดยที่ฝ่าย IT ไม่ทราบ (เช่น นักพัฒนาใช้ AI code assistant ที่ไม่ได้รับอนุญาต) ซึ่งอาจนำไปสู่ความเสี่ยงที่มองไม่เห็น ควรใช้มาตรการเพื่อ ตรวจจับและควบคุมการใช้งาน AI ที่ไม่ได้รับอนุญาต การตรวจสอบเครือข่ายสามารถแจ้งเตือนการเชื่อมต่อกับ AI API ยอดนิยม และการสำรวจหรือการตรวจสอบเครื่องมือสามารถเปิดเผยสิ่งที่พนักงานกำลังใช้ เสนอทางเลือกอื่นที่ได้รับอนุมัติ เพื่อป้องกันไม่ให้พนักงานที่มีเจตนาดีถูกล่อลวงให้ใช้งานในทางที่ผิด (เช่น มอบบัญชี ChatGPT Enterprise อย่างเป็นทางการหากพนักงานเห็นว่ามีประโยชน์) การเปิดเผยการใช้งาน AI ช่วยให้ทีมรักษาความปลอดภัยสามารถประเมินและจัดการความเสี่ยงได้ การตรวจสอบก็เป็นสิ่งสำคัญเช่นกัน โดยบันทึกกิจกรรมและผลลัพธ์ของเครื่องมือ AI ให้ได้มากที่สุดเท่าที่จะเป็นไปได้ เพื่อให้มีหลักฐานการตรวจสอบสำหรับการตัดสินใจที่ AI มีอิทธิพล ( Generative AI สามารถนำมาใช้ในด้านความปลอดภัยทางไซเบอร์ได้อย่างไร? 10 ตัวอย่างจากสถานการณ์จริง )

4. ใช้ประโยชน์จาก AI ในเชิงรับ – อย่าล้าหลัง: ตระหนักว่าผู้โจมตีจะใช้ AI ดังนั้นฝ่ายป้องกันของคุณก็ควรใช้เช่นกัน ระบุพื้นที่ที่มีผลกระทบสูงบางจุดที่ generative AI สามารถช่วยเหลือการดำเนินงานด้านความปลอดภัยของคุณได้ทันที (อาจเป็นการคัดกรองการแจ้งเตือน หรือการวิเคราะห์บันทึกอัตโนมัติ) และดำเนินโครงการนำร่อง เสริมการป้องกันของคุณด้วยความเร็วและขนาดของ AI เพื่อรับมือกับภัยคุกคามที่เคลื่อนไหวอย่างรวดเร็ว ( Generative AI สามารถนำมาใช้ในด้านความปลอดภัยทางไซเบอร์ได้อย่างไร? 10 ตัวอย่างจากสถานการณ์จริง ) แม้แต่การผสานรวมที่เรียบง่าย เช่น การใช้ AI เพื่อสรุปรายงานมัลแวร์หรือสร้างแบบสอบถามการค้นหาภัยคุกคาม ก็สามารถประหยัดเวลาให้กับนักวิเคราะห์ได้หลายชั่วโมง เริ่มต้นจากสิ่งเล็กๆ ประเมินผลลัพธ์ และทำซ้ำ ความสำเร็จจะสร้างกรณีศึกษาสำหรับการนำ AI มาใช้ในวงกว้าง เป้าหมายคือการใช้ AI เป็นตัวคูณกำลัง ตัวอย่างเช่น หากการโจมตีแบบฟิชชิ่งทำให้ฝ่ายช่วยเหลือของคุณล้นหลาม ให้ปรับใช้ระบบจำแนกอีเมล AI เพื่อลดปริมาณดังกล่าวลงอย่างเชิงรุก

5. ลงทุนในแนวปฏิบัติด้าน AI ที่ปลอดภัยและมีจริยธรรม: เมื่อนำ AI แบบสร้างกำเนิดมาใช้ ควรปฏิบัติตามแนวปฏิบัติด้านการพัฒนาและการปรับใช้ที่ปลอดภัย ใช้ โมเดลแบบส่วนตัวหรือแบบโฮสต์เอง สำหรับงานที่ละเอียดอ่อนเพื่อรักษาการควบคุมข้อมูล หากใช้บริการ AI ของบุคคลที่สาม ให้ตรวจสอบมาตรการด้านความปลอดภัยและความเป็นส่วนตัว (การเข้ารหัส นโยบายการเก็บข้อมูล ฯลฯ) ผสานกรอบการจัดการความเสี่ยงด้าน AI (เช่น กรอบการจัดการความเสี่ยงด้าน AI ของ NIST หรือแนวทาง ISO/IEC) เพื่อจัดการกับปัญหาต่างๆ เช่น อคติ ความสามารถในการอธิบาย และความทนทานในเครื่องมือ AI ของคุณอย่างเป็นระบบ ( ใช้ AI แบบสร้างกำเนิดในด้านความปลอดภัยทางไซเบอร์ได้อย่างไร? 10 ตัวอย่างจากสถานการณ์จริง ) นอกจากนี้ ควรวางแผนอัปเดต/แพตช์โมเดลเป็นส่วนหนึ่งของการบำรุงรักษาด้วย เพราะโมเดล AI อาจมี "ช่องโหว่" ได้เช่นกัน (เช่น อาจต้องฝึกอบรมใหม่หากเริ่มมีข้อผิดพลาด หรือหากพบการโจมตีแบบต่อต้านรูปแบบใหม่กับโมเดล) การนำความปลอดภัยและจริยธรรมมาใช้ในการใช้งาน AI จะช่วยสร้างความเชื่อมั่นในผลลัพธ์และรับรองว่าเป็นไปตามกฎระเบียบใหม่ๆ

6. คอยติดตามความคืบหน้าของ AI: ใช้ AI เพื่อช่วยเหลือ ไม่ใช่แทนที่การตัดสินใจของมนุษย์ในด้านความปลอดภัยทางไซเบอร์ทั้งหมด กำหนดจุดตัดสินใจที่จำเป็นต้องมีการตรวจสอบโดยมนุษย์ (ตัวอย่างเช่น AI อาจร่างรายงานเหตุการณ์ แต่นักวิเคราะห์ตรวจสอบก่อนเผยแพร่ หรือ AI อาจแนะนำให้บล็อกบัญชีผู้ใช้ แต่มนุษย์อนุมัติการดำเนินการนั้น) วิธีนี้ไม่เพียงแต่ป้องกันไม่ให้ข้อผิดพลาดของ AI ไม่ได้รับการตรวจสอบ แต่ยังช่วยให้ทีมของคุณเรียนรู้จาก AI และในทางกลับกัน ส่งเสริมเวิร์กโฟลว์การทำงานร่วมกัน: นักวิเคราะห์ควรรู้สึกสบายใจที่จะตั้งคำถามเกี่ยวกับผลลัพธ์ของ AI และตรวจสอบความถูกต้อง เมื่อเวลาผ่านไป การสนทนานี้จะช่วยพัฒนาทั้ง AI (ผ่านฟีดแบ็ก) และทักษะของนักวิเคราะห์ โดยพื้นฐานแล้ว จงออกแบบกระบวนการของคุณให้ AI และจุดแข็งของมนุษย์เสริมซึ่งกันและกัน – AI จัดการปริมาณและความเร็ว ในขณะที่มนุษย์จัดการความคลุมเครือและการตัดสินใจขั้นสุดท้าย

7. วัดผล ติดตาม และปรับแต่ง: สุดท้ายนี้ ให้ถือว่าเครื่องมือ AI เชิงสร้างสรรค์ของคุณเป็นองค์ประกอบที่มีชีวิตของระบบนิเวศความปลอดภัยของคุณ วัดประสิทธิภาพ – ช่วยลดเวลาตอบสนองเหตุการณ์หรือไม่? ตรวจจับภัยคุกคามได้เร็วกว่าเดิมหรือไม่? อัตราผลบวกลวงมีแนวโน้มเป็นอย่างไร? ขอความคิดเห็นจากทีม: คำแนะนำของ AI มีประโยชน์หรือไม่ หรือสร้างสัญญาณรบกวน? ใช้ตัวชี้วัดเหล่านี้เพื่อปรับแต่งโมเดล อัปเดตข้อมูลการฝึกอบรม หรือปรับวิธีการผสานรวม AI ภัยคุกคามทางไซเบอร์และความต้องการทางธุรกิจมีการเปลี่ยนแปลง โมเดล AI ของคุณควรได้รับการอัปเดตหรือฝึกอบรมใหม่เป็นระยะเพื่อให้มีประสิทธิภาพ มีแผนสำหรับการกำกับดูแลโมเดล รวมถึงผู้ที่รับผิดชอบในการบำรุงรักษาและความถี่ในการตรวจสอบ การจัดการวงจรชีวิตของ AI อย่างแข็งขันจะช่วยให้มั่นใจได้ว่าโมเดลยังคงเป็นทรัพย์สิน ไม่ใช่ภาระผูกพัน

สรุปได้ว่า ปัญญาประดิษฐ์ (AI) เชิงสร้างสรรค์สามารถยกระดับขีดความสามารถด้านความมั่นคงปลอดภัยไซเบอร์ได้อย่างมีนัยสำคัญ แต่การนำไปใช้อย่างประสบความสำเร็จต้องอาศัยการวางแผนอย่างรอบคอบและการกำกับดูแลอย่างต่อเนื่อง ธุรกิจที่ให้ความรู้แก่บุคลากร กำหนดแนวทางปฏิบัติที่ชัดเจน และบูรณาการปัญญาประดิษฐ์ (AI) อย่างสมดุลและปลอดภัย จะได้รับผลตอบแทนจากการจัดการภัยคุกคามที่รวดเร็วและชาญฉลาดยิ่งขึ้น บทเรียนเหล่านี้เปรียบเสมือนแผนงาน: ผสานความเชี่ยวชาญของมนุษย์เข้ากับระบบอัตโนมัติของ AI ครอบคลุมพื้นฐานการกำกับดูแล และรักษาความคล่องตัวในขณะที่ทั้งเทคโนโลยี AI และภูมิทัศน์ของภัยคุกคามกำลังพัฒนาอย่างหลีกเลี่ยงไม่ได้

การดำเนินการตามขั้นตอนปฏิบัติเหล่านี้จะช่วยให้องค์กรต่างๆ สามารถตอบคำถามที่ว่า “เราจะนำ Generative AI มาใช้ในการรักษาความปลอดภัยทางไซเบอร์ได้อย่างไร” ไม่ใช่แค่ในทางทฤษฎีเท่านั้น แต่ยังรวมถึงในทางปฏิบัติในชีวิตประจำวันด้วย ซึ่งจะช่วยเสริมสร้างการป้องกันในโลกยุคดิจิทัลที่ขับเคลื่อนด้วย AI มากขึ้นเรื่อยๆ ของเรา (เรา จะนำ Generative AI มาใช้ในการรักษาความปลอดภัยทางไซเบอร์ได้อย่างไร )

เอกสารไวท์เปเปอร์ที่คุณอาจต้องการอ่านหลังจากนี้:

🔗 งานที่ AI ไม่สามารถแทนที่ได้ และงานใดที่ AI จะเข้ามาแทนที่?
สำรวจมุมมองระดับโลกเกี่ยวกับบทบาทใดบ้างที่ปลอดภัยจากระบบอัตโนมัติและบทบาทใดบ้างที่ไม่ปลอดภัย

🔗 AI สามารถคาดการณ์ตลาดหุ้นได้หรือไม่?
เจาะลึกข้อจำกัด ความก้าวหน้า และตำนานต่างๆ เกี่ยวกับความสามารถของ AI ในการคาดการณ์ความเคลื่อนไหวของตลาด

🔗 ปัญญาประดิษฐ์เชิงสร้างสรรค์ (Genative AI) ทำอะไรได้บ้างโดยไม่ต้องมีการแทรกแซงจากมนุษย์?
ทำความเข้าใจว่า AI สามารถทำงานได้อย่างอิสระตรงไหน และการควบคุมดูแลโดยมนุษย์ยังคงมีความจำเป็นตรงไหน