ปัญญาประดิษฐ์ (AI) ใช้พลังงานมากแค่ไหน?

คำตอบ: AI สามารถใช้ไฟฟ้าได้น้อยมากสำหรับงานประมวลผลข้อความแบบง่ายๆ แต่จะใช้พลังงานมากขึ้นเมื่อข้อความยาว ผลลัพธ์มีหลายรูปแบบ หรือระบบทำงานในระดับขนาดใหญ่ โดยปกติแล้ว การฝึกฝนจะเป็นการใช้พลังงานหลักในช่วงเริ่มต้น ในขณะที่การประมวลผลในแต่ละวันจะใช้พลังงานมากขึ้นเมื่อจำนวนคำขอเพิ่มมากขึ้น

ประเด็นสำคัญ:

บริบท: กำหนดงาน รูปแบบ ฮาร์ดแวร์ และขนาดให้ชัดเจนก่อนที่จะเสนอราคาประมาณการพลังงานใดๆ

การฝึกอบรม: ควรพิจารณาการฝึกอบรมเกี่ยวกับแบบจำลองเป็นกิจกรรมด้านพลังงานหลักในช่วงเริ่มต้นของการวางแผนงบประมาณ

การอนุมาน: ควรจับตาดูการอนุมานซ้ำๆ อย่างใกล้ชิด เพราะต้นทุนเล็กน้อยต่อคำขอแต่ละครั้งจะสะสมเพิ่มขึ้นอย่างรวดเร็วเมื่อขยายขนาดขึ้น

โครงสร้างพื้นฐาน: ควรพิจารณาระบบทำความเย็น ระบบจัดเก็บพลังงาน เครือข่าย และกำลังการผลิตที่ไม่ได้ใช้งาน ในการประมาณการที่สมจริงทุกครั้ง

ประสิทธิภาพ: ใช้โมเดลขนาดเล็กกว่า ข้อความแจ้งเตือนสั้นกว่า การแคช และการประมวลผลแบบกลุ่ม เพื่อลดการใช้พลังงาน

บทความที่คุณอาจสนใจอ่านต่อหลังจากบทความนี้:

🔗 ปัญญาประดิษฐ์ส่งผลกระทบต่อสิ่งแวดล้อมอย่างไร
อธิบายถึงผลกระทบต่อสิ่งแวดล้อม การใช้พลังงาน และข้อแลกเปลี่ยนด้านความยั่งยืนของ AI.

🔗 ปัญญาประดิษฐ์ (AI) เป็นอันตรายต่อสิ่งแวดล้อมหรือไม่?
เปิดเผยต้นทุนด้านสิ่งแวดล้อมที่ซ่อนเร้นของโมเดล AI และศูนย์ข้อมูล.

🔗 ปัญญาประดิษฐ์ (AI) ดีหรือร้าย? ข้อดีและข้อเสีย
การวิเคราะห์อย่างรอบด้านเกี่ยวกับประโยชน์ ความเสี่ยง จริยธรรม และผลกระทบที่แท้จริงของปัญญาประดิษฐ์.

🔗 ปัญญาประดิษฐ์ (AI) คืออะไร? คู่มือฉบับย่อ
เรียนรู้พื้นฐาน AI คำศัพท์สำคัญ และตัวอย่างในชีวิตประจำวันได้ภายในไม่กี่นาที.

ทำไมคำถามนี้ถึงสำคัญกว่าที่หลายคนคิด 🔍

การใช้พลังงานของ AI ไม่ใช่แค่ประเด็นด้านสิ่งแวดล้อมที่พูดถึงกันเท่านั้น แต่ยังส่งผลกระทบต่อหลายสิ่งหลายอย่างในชีวิตจริงด้วย:

• ต้นทุนค่าไฟฟ้า - โดยเฉพาะสำหรับธุรกิจที่ใช้งาน AI จำนวนมาก

• ผลกระทบต่อคาร์บอน - ขึ้นอยู่กับแหล่งพลังงานที่ใช้กับเซิร์ฟเวอร์

• ภาระของฮาร์ดแวร์ - ชิปประสิทธิภาพสูงกินไฟมาก

• การตัดสินใจเกี่ยวกับการขยายขนาด - การแจ้งเตือนราคาถูกเพียงครั้งเดียวอาจกลายเป็นการแจ้งเตือนราคาแพงนับล้านครั้งได้

• การออกแบบผลิตภัณฑ์ - ประสิทธิภาพมักเป็นคุณสมบัติที่ดีกว่าที่หลายคนคิด (Google Cloud, AI สีเขียว)

หลายคนถามว่า “ปัญญาประดิษฐ์ (AI) ใช้พลังงานมากแค่ไหน?” เพราะพวกเขาต้องการตัวเลขที่น่าทึ่ง ตัวเลขมหาศาล ตัวเลขที่ดึงดูดความสนใจ แต่คำถามที่ดีกว่าคือ เรากำลังพูดถึงการใช้งาน AI ในรูปแบบใด? เพราะนั่นจะเปลี่ยนทุกอย่าง (IEA)

คำแนะนำเติมคำอัตโนมัติเพียงคำเดียว? เล็กน้อยมาก
การฝึกโมเดลล้ำสมัยบนคลัสเตอร์ขนาดใหญ่? ใหญ่กว่ามาก
เวิร์กโฟลว์ AI ระดับองค์กรที่ทำงานตลอดเวลาและเข้าถึงผู้ใช้หลายล้านคน? ใช่ มันเพิ่มขึ้นอย่างรวดเร็ว... เหมือนเงินเหรียญเล็ก ๆ กลายเป็นค่าเช่า (DOE, Google Cloud)

AI ใช้พลังงานเท่าไหร่? คำตอบสั้นๆ ⚡

นี่คือเวอร์ชันที่ใช้งานได้จริง.

AI สามารถใช้พลังงานได้ตั้งแต่เศษเสี้ยวของวัตต์-ชั่วโมงสำหรับงานเบาๆ ไปจนถึงพลังงานไฟฟ้ามหาศาลสำหรับการฝึกอบรมและการใช้งานในวงกว้าง ช่วงการใช้พลังงานนี้ฟังดูกว้างมากเพราะมันกว้างจริงๆ (Google Cloud, Strubell et al.)

พูดให้เข้าใจง่ายๆ คือ:

• งานอนุมานอย่างง่าย - โดยทั่วไปมักมีค่าใช้จ่ายไม่มากนักเมื่อพิจารณาต่อการใช้งานแต่ละครั้ง

• การสนทนาที่ยาวนาน การส่งออกข้อมูลจำนวนมาก การสร้างภาพ การสร้างวิดีโอ ล้วนใช้พลังงานมากกว่าอย่างเห็นได้ชัด

• การฝึกโมเดลขนาดใหญ่ - แชมป์เปี้ยนด้านการใช้พลังงานตัวท็อป

• การใช้งาน AI ในระดับขนาดใหญ่ตลอดทั้งวัน - ที่ซึ่ง "ค่าใช้จ่ายต่อคำขอเล็กน้อย" กลายเป็น "ค่าใช้จ่ายรวมจำนวนมาก" (Google Cloud, DOE)

หลักการง่ายๆ ที่ควรยึดถือคือ:

• การฝึกซ้อมเป็นกิจกรรมที่ต้องใช้พลังงานมหาศาลในตอนเริ่มต้น 🏭

• การอนุมานเปรียบเสมือนบิลค่าสาธารณูปโภคที่ต้องจ่ายอย่างต่อเนื่อง 💡 (Strubell et al., Google Research)

ดังนั้น เมื่อมีคนถามว่า AI ใช้พลังงานมากแค่ไหนคำตอบโดยตรงคือ “ไม่ใช่ปริมาณที่แน่นอน แต่มากพอที่จะทำให้ประสิทธิภาพมีความสำคัญ และมากพอที่จะทำให้ขนาดเปลี่ยนแปลงเรื่องราวทั้งหมด” (IEA, AI สีเขียว)

ฉันรู้ว่ามันอาจจะไม่ติดหูอย่างที่หลายคนหวัง แต่เป็นความจริง.

อะไรคือคุณสมบัติที่ทำให้การประมาณการพลังงานด้วย AI เวอร์ชันที่ดี? 🧠

การประมาณค่าที่ดีไม่ใช่แค่ตัวเลขที่ดูน่าตื่นตาตื่นใจแล้วนำมาแสดงบนกราฟ การประมาณค่าที่ใช้งานได้จริงนั้นต้องคำนึงถึงบริบทด้วย มิเช่นนั้นก็เหมือนกับการชั่งน้ำหนักหมอกด้วยตาชั่งในห้องน้ำ ใกล้เคียงพอที่จะฟังดูน่าประทับใจ แต่ไม่ใกล้เคียงพอที่จะเชื่อถือได้ (IEA, Google Cloud)

การประเมินการใช้พลังงานของ AI ที่ดีควรประกอบด้วย:

• ประเภทของงาน - ข้อความ รูปภาพ เสียง วิดีโอ การฝึกอบรม การปรับแต่ง

• ขนาดของโมเดล - โมเดลขนาดใหญ่มักต้องการการประมวลผลที่มากกว่า

• ฮาร์ดแวร์ที่ใช้ - ไม่ใช่ว่าชิปทุกตัวจะมีประสิทธิภาพเท่ากัน

• ระยะเวลาของเซสชัน - คำถามสั้นๆ กับขั้นตอนการทำงานหลายขั้นตอนที่ยาวนั้นแตกต่างกันมาก

• การใช้งาน - ระบบที่ไม่ได้ใช้งานก็ยังคงใช้พลังงานอยู่

• ระบายความร้อนและโครงสร้างพื้นฐาน - เซิร์ฟเวอร์ไม่ใช่ค่าใช้จ่ายทั้งหมด

• สถานที่ตั้งและส่วนผสมของแหล่งพลังงาน - ไฟฟ้าไม่ได้สะอาดเท่ากันทุกที่ (Google Cloud, IEA)

นี่แหละคือเหตุผลว่าทำไมคนสองคนถึงเถียงกันเรื่องการใช้ไฟฟ้าของ AI แล้วดูมั่นใจทั้งคู่ ทั้งๆ ที่พูดถึงเรื่องที่แตกต่างกันอย่างสิ้นเชิง คนหนึ่งหมายถึงการตอบกลับของแชทบอทเพียงครั้งเดียว อีกคนหมายถึงการฝึกฝนระบบครั้งใหญ่ แต่พอทั้งคู่พูดว่า "AI" บทสนทนาก็เริ่มออกนอกประเด็นซะแล้ว 😅

ตารางเปรียบเทียบ - วิธีที่ดีที่สุดในการประเมินการใช้พลังงานของ AI 📊

นี่คือตารางที่ใช้งานได้จริงสำหรับทุกคนที่พยายามตอบคำถามโดยไม่ต้องเปลี่ยนมันให้กลายเป็นศิลปะการแสดง.

เครื่องมือหรือวิธีการ	กลุ่มเป้าหมายที่ดีที่สุด	ราคา	เหตุผลที่มันได้ผล
การประมาณค่าแบบง่ายๆ โดยใช้หลักการคร่าวๆ	ผู้อ่านที่ใฝ่รู้ นักเรียน	ฟรี	รวดเร็ว ง่าย และไม่คมชัดนัก แต่ก็ดีพอสำหรับการเปรียบเทียบคร่าวๆ
มิเตอร์วัดวัตต์ฝั่งอุปกรณ์	ผู้สร้างอิสระ, ผู้ที่ชื่นชอบงานอดิเรก	ต่ำ	วัดปริมาณการดึงของเครื่องจักรจริง ซึ่งเป็นสิ่งที่ชัดเจนและน่าพอใจ
แดชบอร์ดข้อมูลการวัดระยะไกล GPU	วิศวกร, ทีม ML	ปานกลาง	ให้รายละเอียดที่ดีขึ้นเกี่ยวกับงานที่ต้องใช้การประมวลผลหนัก แต่ก็อาจพลาดข้อมูลเกี่ยวกับค่าใช้จ่ายส่วนเกินของโรงงานขนาดใหญ่ไปบ้าง
การเรียกเก็บเงินผ่านระบบคลาวด์ + บันทึกการใช้งาน	สตาร์ทอัพ, ทีมปฏิบัติการ	ระดับปานกลางถึงสูง	การเชื่อมโยงการใช้งาน AI กับการใช้จ่ายจริง - แม้จะไม่สมบูรณ์แบบ แต่ก็ยังถือว่ามีคุณค่ามาก
การรายงานพลังงานของศูนย์ข้อมูล	ทีมองค์กร	สูง	ช่วยให้มองเห็นภาพรวมการดำเนินงานได้กว้างขึ้น ระบบระบายความร้อน และโครงสร้างพื้นฐานเริ่มปรากฏให้เห็นชัดเจนขึ้น
การประเมินตลอดวงจรชีวิต	ทีมงานด้านความยั่งยืน องค์กรขนาดใหญ่	ค่อนข้างสูง บางครั้งก็เจ็บปวด	เหมาะที่สุดสำหรับการวิเคราะห์อย่างจริงจัง เพราะมันวิเคราะห์ได้มากกว่าแค่ตัวชิป... แต่ก็ช้าและค่อนข้างใหญ่เทอะทะ

ไม่มีวิธีการใดที่สมบูรณ์แบบ นั่นเป็นส่วนที่น่าหงุดหงิดเล็กน้อย แต่ก็มีระดับของมูลค่า และโดยปกติแล้ว สิ่งที่ใช้งานได้ดีย่อมดีกว่าสิ่งที่สมบูรณ์แบบ (Google Cloud)

ปัจจัยสำคัญที่สุดไม่ใช่เวทมนตร์ แต่เป็นพลังการประมวลผลและฮาร์ดแวร์ 🖥️🔥

เมื่อผู้คนนึกภาพการใช้พลังงานของ AI พวกเขามักจะนึกภาพว่าตัวโมเดลเองเป็นสิ่งที่ใช้พลังงาน แต่แท้จริงแล้ว โมเดลเป็นเพียงตรรกะซอฟต์แวร์ที่ทำงานบนฮาร์ดแวร์ ฮาร์ดแวร์ต่างหากที่เป็นส่วนที่ทำให้ค่าไฟฟ้าปรากฏขึ้น (Strubell et al., Google Cloud)

ตัวแปรสำคัญที่สุดมักได้แก่:

• ประเภท GPU หรือตัวเร่งความเร็ว

• ใช้ชิปจำนวนเท่าใด

• ระยะเวลาที่พวกมันยังคงใช้งานอยู่

• โหลดหน่วยความจำ

• ขนาดชุดการผลิตและอัตราการประมวลผล

• ไม่ว่าระบบจะได้รับการปรับให้เหมาะสมอย่างดีหรือเพียงแค่ใช้กำลังทั้งหมด (Google Cloud, การกำหนดปริมาณ, การจัดกลุ่ม และกลยุทธ์การให้บริการในการใช้พลังงาน LLM)

ระบบที่ได้รับการปรับแต่งอย่างเหมาะสมที่สุดสามารถทำงานได้มากขึ้นโดยใช้พลังงานน้อยลง ในขณะที่ระบบที่ไม่ได้มาตรฐานอาจสิ้นเปลืองไฟฟ้าอย่างน่าตกใจ คุณก็รู้ใช่ไหม บางระบบก็เหมือนรถแข่ง บางระบบก็เหมือนรถเข็นที่ติดจรวดไว้แบบลวกๆ 🚀🛒

ใช่แล้ว ขนาดของโมเดลมีความสำคัญ โมเดลขนาดใหญ่มีแนวโน้มที่จะต้องการหน่วยความจำและการประมวลผลมากขึ้น โดยเฉพาะอย่างยิ่งเมื่อสร้างเอาต์พุตที่ยาวหรือจัดการกับการให้เหตุผลที่ซับซ้อน แต่เทคนิคการเพิ่มประสิทธิภาพสามารถเปลี่ยนสถานการณ์ได้ (เช่น AI สีเขียว การแบ่งกลุ่ม การจัดกลุ่ม และกลยุทธ์การให้บริการในการใช้พลังงานของ LLM )

• การหาปริมาณ

• การกำหนดเส้นทางที่ดีขึ้น

• รุ่นเฉพาะทางขนาดเล็กกว่า

• การแคช

• การจัดกลุ่ม

• การจัดตารางเวลาฮาร์ดแวร์ที่ชาญฉลาดกว่า (กลยุทธ์การกำหนดปริมาณ การจัดกลุ่ม และการให้บริการในการใช้พลังงาน LLM)

ดังนั้นคำถามจึงไม่ใช่แค่ "โมเดลนี้มีขนาดใหญ่แค่ไหน?" แต่ยังรวมถึง "โมเดลนี้ถูกบริหารจัดการอย่างชาญฉลาดแค่ไหน?" ด้วย

การฝึกฝนกับการอนุมาน - สองสิ่งนี้แตกต่างกันอย่างสิ้นเชิง 🐘🐇

นี่คือการแบ่งแยกที่ทำให้เกือบทุกคนงงงวย.

การฝึกอบรม

การฝึกฝนคือกระบวนการที่แบบจำลองเรียนรู้รูปแบบจากชุดข้อมูลขนาดใหญ่ ซึ่งอาจเกี่ยวข้องกับการใช้ชิปจำนวนมากทำงานเป็นเวลานาน และประมวลผลข้อมูลปริมาณมหาศาล ขั้นตอนนี้ใช้พลังงานสูงมาก บางครั้งก็สูงมากจนเกินไป (Strubell et al.)

พลังงานในการฝึกฝนขึ้นอยู่กับ:

• ขนาดโมเดล

• ขนาดของชุดข้อมูล

• จำนวนการฝึกซ้อม

• การทดลองที่ล้มเหลว

• การปรับแต่งอย่างละเอียด

• ประสิทธิภาพของฮาร์ดแวร์

• การระบายความร้อนเหนือศีรษะ (Strubell et al., Google Research)

และนี่คือส่วนที่คนมักมองข้ามไป – สาธารณชนมักนึกภาพการฝึกฝนครั้งใหญ่เพียงครั้งเดียว จบเรื่อง ในทางปฏิบัติ การพัฒนาอาจเกี่ยวข้องกับการฝึกฝนซ้ำๆ การปรับแต่ง การฝึกฝนใหม่ การประเมินผล และกระบวนการต่างๆ ที่ดูธรรมดาแต่มีค่าใช้จ่ายสูงรอบๆ ขั้นตอนหลัก (Strubell et al., Green AI)

การอนุมาน

การอนุมานคือแบบจำลองที่ตอบสนองต่อคำขอของผู้ใช้จริง คำขอหนึ่งอาจดูไม่มากนัก แต่การอนุมานเกิดขึ้นซ้ำแล้วซ้ำเล่าเป็นล้านครั้ง บางครั้งอาจเป็นพันล้านครั้ง (Google Research, DOE)

พลังงานการอนุมานจะเพิ่มขึ้นตาม:

• ความยาวของข้อความแจ้งเตือน

• ความยาวเอาต์พุต

• จำนวนผู้ใช้

• ข้อกำหนดด้านความหน่วงแฝง

• คุณลักษณะหลายรูปแบบ

• ความคาดหวังเรื่องความพร้อมใช้งาน

• ขั้นตอนด้านความปลอดภัยและการประมวลผลภายหลัง (Google Cloud, การกำหนดปริมาณ, การจัดกลุ่ม และกลยุทธ์การให้บริการในการใช้พลังงาน LLM)

ดังนั้น การฝึกฝนเปรียบเสมือนแผ่นดินไหว การอนุมานเปรียบเสมือนกระแสน้ำ อย่างหนึ่งเกิดขึ้นอย่างรวดเร็ว อีกอย่างหนึ่งเกิดขึ้นอย่างต่อเนื่อง และทั้งสองอย่างสามารถเปลี่ยนแปลงชายฝั่งได้บ้าง อาจเป็นคำเปรียบเทียบที่แปลกไปบ้าง แต่ก็พอใช้ได้...ไม่มากก็น้อย.

ค่าใช้จ่ายด้านพลังงานที่ซ่อนอยู่ซึ่งคนส่วนใหญ่มักลืมไป 😬

เมื่อมีคนประเมินการใช้พลังงาน AI โดยพิจารณาจากชิปเพียงอย่างเดียว พวกเขามักจะประเมินต่ำกว่าความเป็นจริง ไม่ถึงกับหายนะเสมอไป แต่ก็มากพอที่จะส่งผลกระทบ (Google Cloud, IEA)

นี่คือชิ้นส่วนที่ซ่อนอยู่:

ทำความเย็น ❄️

เซิร์ฟเวอร์สร้างความร้อน ฮาร์ดแวร์ AI ประสิทธิภาพสูงสร้างความร้อนจำนวนมาก การระบายความร้อนจึงเป็นสิ่งจำเป็น พลังงานทุกวัตต์ที่ใช้ในการประมวลผลมักจะนำไปสู่การใช้พลังงานเพิ่มเติมเพื่อรักษาระดับอุณหภูมิให้เหมาะสม (IEA, Google Cloud)

การเคลื่อนย้ายข้อมูล 🌐

การเคลื่อนย้ายข้อมูลระหว่างหน่วยจัดเก็บ หน่วยความจำ และเครือข่ายก็ต้องใช้พลังงานเช่นกัน ปัญญาประดิษฐ์ไม่ใช่แค่ "การคิด" เท่านั้น แต่ยังเป็นการสลับสับเปลี่ยนข้อมูลไปมาอย่างต่อเนื่องด้วย (IEA)

ความจุขณะไม่ได้ใช้งาน 💤

ระบบที่สร้างขึ้นเพื่อรองรับความต้องการสูงสุดไม่ได้ทำงานที่ระดับความต้องการสูงสุดเสมอไป โครงสร้างพื้นฐานที่ไม่ได้ใช้งานหรือใช้งานน้อยก็ยังคงใช้ไฟฟ้าอยู่ (Google Cloud)

ความซ้ำซ้อนและความน่าเชื่อถือ 🧱

ระบบสำรองข้อมูล ระบบสลับการทำงานเมื่อเกิดข้อผิดพลาด พื้นที่สำรองข้อมูล และชั้นความปลอดภัยต่างๆ ล้วนมีคุณค่าและเป็นส่วนหนึ่งของภาพรวมด้านพลังงานที่ใหญ่กว่า (IEA)

พื้นที่จัดเก็บ 📦

ข้อมูลสำหรับการฝึกอบรม, การฝังข้อมูล, บันทึก, จุดตรวจสอบ, ผลลัพธ์ที่สร้างขึ้น – ทั้งหมดนี้ล้วนถูกจัดเก็บไว้ที่ใดที่หนึ่ง การจัดเก็บข้อมูลนั้นถูกกว่าการประมวลผลก็จริง แต่ไม่ได้ฟรีในแง่ของพลังงาน (IEA)

ด้วยเหตุนี้ คำถามที่ว่า AI ใช้พลังงานเท่าไหร่ จึง ไม่สามารถตอบได้อย่างดีโดยการดูแค่แผนภูมิเปรียบเทียบเพียงอย่างเดียว ภาพรวมทั้งหมดมีความสำคัญ (Google Cloud, IEA)

ทำไมข้อความแจ้งเตือนจาก AI บางข้อความถึงเล็กนิดเดียว แต่บางข้อความกลับใหญ่โตมโหฬาร 📝➡️🎬

คำขอแต่ละอย่างไม่เหมือนกัน คำขอสั้นๆ เช่น การแก้ไขประโยค ย่อมไม่สามารถเทียบได้กับการขอวิเคราะห์อย่างละเอียด การเขียนโค้ดหลายขั้นตอน หรือการสร้างภาพความละเอียดสูง (Google Cloud)

สิ่งต่างๆ ที่มักทำให้สิ้นเปลืองพลังงานต่อการโต้ตอบแต่ละครั้ง:

• หน้าต่างบริบทที่ยาวขึ้น

• คำตอบที่ยาวขึ้น

• ขั้นตอนการใช้งานและการดึงเครื่องมือ

• การประมวลผลหลายรอบเพื่อการให้เหตุผลหรือการตรวจสอบความถูกต้อง

• การสร้างภาพ เสียง หรือวิดีโอ

• การทำงานพร้อมกันที่สูงขึ้น

• เป้าหมายความหน่วงต่ำ (Google Cloud, การกำหนดปริมาณ, การจัดกลุ่ม และกลยุทธ์การให้บริการในการใช้พลังงาน LLM)

การตอบข้อความแบบง่ายๆ อาจมีราคาถูกกว่า แต่เวิร์กโฟลว์แบบหลายรูปแบบขนาดใหญ่ก็อาจมีราคาไม่ถูกนัก มันก็เหมือนกับการสั่งกาแฟกับการจัดเลี้ยงงานแต่งงาน ทั้งสองอย่างจัดอยู่ในหมวด "บริการด้านอาหาร" เหมือนกัน แต่สิ่งหนึ่งไม่เหมือนอีกสิ่งหนึ่ง ☕🎉

เรื่องนี้สำคัญอย่างยิ่งสำหรับทีมพัฒนาผลิตภัณฑ์ ฟีเจอร์ที่ดูเหมือนไม่มีอันตรายเมื่อมีการใช้งานน้อย อาจกลายเป็นเรื่องแพงเมื่อมีการใช้งานมากขึ้น หากแต่ละเซสชันของผู้ใช้ยาวนานขึ้น มีรายละเอียดมากขึ้น และใช้ทรัพยากรการประมวลผลมากขึ้น (DOE, Google Cloud)

AI สำหรับผู้บริโภคและ AI สำหรับองค์กรไม่เหมือนกัน 🏢📱

คนทั่วไปที่ใช้ AI เป็นครั้งคราวอาจคิดว่าการแจ้งเตือนที่เกิดขึ้นเป็นครั้งคราวนั้นเป็นปัญหาใหญ่ แต่โดยปกติแล้ว นั่นไม่ใช่จุดสำคัญของเรื่องราวการใช้พลังงาน (Google Cloud)

การใช้งานในระดับองค์กรทำให้การคำนวณเปลี่ยนไป:

• พนักงานหลายพันคน

• นักบินผู้ช่วยที่พร้อมให้บริการตลอดเวลา

• การประมวลผลเอกสารอัตโนมัติ

• การสรุปการโทร

• การวิเคราะห์ภาพ

• เครื่องมือตรวจสอบโค้ด

• เอเจนต์เบื้องหลังทำงานอยู่ตลอดเวลา

นั่นคือจุดที่การใช้พลังงานโดยรวมเริ่มมีความสำคัญอย่างมาก ไม่ใช่เพราะการกระทำแต่ละครั้งจะนำมาซึ่งหายนะ แต่เพราะการทำซ้ำจะทวีคูณขึ้น (DOE, IEA)

จากการทดสอบและการตรวจสอบขั้นตอนการทำงานของผมเอง พบว่านี่คือจุดที่หลายคนประหลาดใจ พวกเขามุ่งเน้นไปที่ชื่อรุ่น หรือการสาธิตที่ดูหวือหวา แต่กลับมองข้ามปริมาณ ปริมาณต่างหากที่เป็นตัวขับเคลื่อนที่แท้จริง หรือเป็นตัวช่วยชีวิต ขึ้นอยู่กับว่าคุณกำลังเรียกเก็บเงินจากลูกค้าหรือจ่ายค่าสาธารณูปโภค 😅

สำหรับผู้บริโภค ผลกระทบอาจดูเป็นนามธรรม แต่สำหรับธุรกิจ ผลกระทบจะปรากฏชัดเจนอย่างรวดเร็ว:

• ร่างกฎหมายโครงสร้างพื้นฐานที่ใหญ่กว่า

• แรงกดดันที่มากขึ้นในการปรับปรุงให้เหมาะสม

• มีความจำเป็นอย่างยิ่งที่ต้องใช้โมเดลขนาดเล็กหากเป็นไปได้

• การรายงานความยั่งยืนภายในองค์กร

• ให้ความสำคัญกับการแคชและการกำหนดเส้นทางมากขึ้น (Google Cloud, Green AI)

วิธีลดการใช้พลังงานของ AI โดยไม่ต้องละทิ้ง AI 🌱

ส่วนนี้สำคัญเพราะเป้าหมายไม่ใช่ “หยุดใช้ AI” ซึ่งโดยปกติแล้วไม่ใช่เรื่องที่เป็นไปได้และไม่จำเป็นด้วยซ้ำ การใช้งานอย่างมีประสิทธิภาพมากขึ้นต่างหากคือแนวทางที่ชาญฉลาดกว่า.

นี่คือปัจจัยสำคัญที่สุด:

1. เลือกใช้รุ่นที่เล็กที่สุดที่สามารถทำงานได้สำเร็จ

ไม่ใช่ทุกงานที่จะต้องใช้ตัวเลือกที่มีประสิทธิภาพสูงเสมอไป โมเดลที่เบากว่าสำหรับการจำแนกประเภทหรือการสรุปข้อมูลสามารถลดความสิ้นเปลืองได้อย่างรวดเร็ว (ปัญญาประดิษฐ์สีเขียว, Google Cloud)

2. ลดความยาวของข้อความแจ้งเตือนและผลลัพธ์

ป้อนรายละเอียดมาก ผลลัพธ์ก็มากตามไปด้วย โทเค็นเพิ่มเติมหมายถึงการคำนวณเพิ่มเติม บางครั้งการตัดทอนข้อความแจ้งเตือนก็เป็นวิธีที่ง่ายที่สุด (กลยุทธ์การกำหนดปริมาณ การจัดกลุ่ม และการให้บริการในการใช้พลังงาน LLM, Google Cloud)

3. แคชผลลัพธ์ที่ซ้ำกัน

หากคำค้นหาเดิมปรากฏขึ้นซ้ำๆ อย่าสร้างคำค้นหาใหม่ทุกครั้ง นี่เป็นเรื่องที่ชัดเจนมาก แต่หลายคนกลับมองข้ามไป (Google Cloud)

4. ประมวลผลงานแบบกลุ่มเมื่อเป็นไปได้

การดำเนินการงานเป็นชุดๆ สามารถเพิ่มประสิทธิภาพการใช้ทรัพยากรและลดของเสียได้ (กลยุทธ์การกำหนดปริมาณ การจัดกลุ่ม และการให้บริการในการใช้พลังงานของ LLM)

5. จัดสรรเส้นทางการทำงานอย่างชาญฉลาด

ควรใช้โมเดลขนาดใหญ่เฉพาะเมื่อความมั่นใจลดลงหรือความซับซ้อนของงานเพิ่มขึ้นเท่านั้น (ปัญญาประดิษฐ์สีเขียว, Google Cloud)

6. ปรับปรุงโครงสร้างพื้นฐานให้เหมาะสม

การจัดตารางเวลาที่ดีขึ้น ฮาร์ดแวร์ที่ดีขึ้น กลยุทธ์การระบายความร้อนที่ดีขึ้น - สิ่งธรรมดาๆ แต่ให้ผลตอบแทนมหาศาล (Google Cloud, DOE)

7. วัดก่อนสรุป

หลายทีมคิดว่าพวกเขารู้ว่าพลังงานไปอยู่ที่ไหน แต่พอไปวัดดูก็พบว่าส่วนที่แพงที่สุดอยู่ที่อื่น (Google Cloud)

การทำงานเพื่อเพิ่มประสิทธิภาพอาจไม่ใช่เรื่องที่น่าดึงดูดใจ และไม่ค่อยได้รับเสียงชื่นชม แต่เป็นหนึ่งในวิธีที่ดีที่สุดที่จะทำให้ AI มีราคาที่เข้าถึงได้และมีความน่าเชื่อถือมากขึ้นในระดับใหญ่ 👍

ความเชื่อผิดๆ เกี่ยวกับการใช้ไฟฟ้าของ AI 🚫

เรามาลบล้างความเข้าใจผิดบางประการกันก่อน เพราะหัวข้อนี้ค่อนข้างซับซ้อน.

ความเชื่อผิดๆ ข้อที่ 1 - การค้นหาข้อมูลด้วย AI ทุกครั้งนั้นสิ้นเปลืองอย่างมาก

ไม่จำเป็นเสมอไป บางแห่งก็มีขนาดเล็ก ขนาดและประเภทของงานมีความสำคัญมาก (Google Cloud)

ความเชื่อผิดๆ ข้อที่ 2 - การฝึกฝนเป็นสิ่งเดียวที่สำคัญ

ไม่ การอนุมานสามารถมีบทบาทสำคัญมากขึ้นเมื่อเวลาผ่านไป เมื่อมีการใช้งานอย่างมหาศาล (Google Research, DOE)

ความเชื่อผิดๆ ข้อที่ 3 - โมเดลขนาดใหญ่กว่าย่อมให้ผลลัพธ์ที่ดีกว่าเสมอไป

บางครั้งก็ใช่ บางครั้งก็ไม่ใช่เลย งานหลายอย่างก็ทำงานได้ดีด้วยระบบขนาดเล็ก (AI สีเขียว)

ความเชื่อผิดๆ ข้อที่ 4 - การใช้พลังงานเท่ากับผลกระทบต่อคาร์บอนโดยอัตโนมัติ

ไม่เชิง คาร์บอนยังขึ้นอยู่กับแหล่งพลังงานด้วย (IEA, Strubell et al.)

ความเชื่อผิดๆ ข้อที่ 5 - คุณสามารถหาตัวเลขเดียวที่ใช้ได้ทั่วไปสำหรับการใช้พลังงานของ AI

คุณทำไม่ได้หรอก อย่างน้อยก็ไม่ใช่ในรูปแบบที่ยังคงมีความหมายอยู่ หรือคุณอาจทำได้ แต่ผลลัพธ์จะถูกเฉลี่ยออกไปจนหมดคุณค่าไป (IEA)

นี่จึงเป็นเหตุผลว่าทำไมการถามว่า AI ใช้พลังงานมากแค่ไหน จึงเป็นคำถามที่ฉลาด – แต่จะได้ผลก็ต่อเมื่อคุณพร้อมที่จะรับคำตอบที่มีหลายแง่มุม แทนที่จะเป็นเพียงคำขวัญสั้นๆ

แล้ว... AI ใช้พลังงานมากแค่ไหนกันแน่? 🤔

นี่คือข้อสรุปที่อิงตามหลักเหตุผล.

การใช้งาน AI:

• เล็กน้อยสำหรับงานง่ายๆ บางอย่าง

• มากขึ้นอีกมากสำหรับการผลิตสื่อหลายรูปแบบที่มีปริมาณมาก

• ปริมาณมหาศาลสำหรับการฝึกโมเดลขนาดใหญ่

• โดยรวมแล้วจะเป็นจำนวนมหาศาลเมื่อคำขอหลายล้านรายการสะสมมากขึ้นเรื่อยๆ (Google Cloud, DOE)

ลักษณะมันก็ประมาณนั้นแหละ.

ประเด็นสำคัญคืออย่าลดทอนปัญหาทั้งหมดให้เหลือแค่ตัวเลขที่น่ากลัวหรือการเพิกเฉยอย่างไม่ใส่ใจ การใช้พลังงานของ AI เป็นเรื่องจริง มันสำคัญ และสามารถปรับปรุงได้ และวิธีที่ดีที่สุดในการพูดคุยเกี่ยวกับเรื่องนี้คือการให้บริบท ไม่ใช่การสร้างภาพ (IEA, Green AI)

การสนทนาสาธารณะส่วนใหญ่มักแกว่งไปมาระหว่างสองขั้วสุดโต่ง – “AI นั้นแทบจะฟรี” ในด้านหนึ่ง และ “AI คือหายนะทางไฟฟ้า” ในอีกด้านหนึ่ง ความเป็นจริงนั้นธรรมดามากกว่า ซึ่งทำให้ข้อมูลมีประโยชน์มากขึ้น มันเป็นปัญหาของระบบ ฮาร์ดแวร์ ซอฟต์แวร์ การใช้งาน ขนาด การระบายความร้อน การเลือกออกแบบ ธรรมดาไหม? นิดหน่อย สำคัญไหม? สำคัญมาก (IEA, Google Cloud)

ประเด็นสำคัญ ⚡🧾

หากคุณมาที่นี่เพื่อถามว่า AI ใช้พลังงานมากแค่ไหน?นี่คือข้อสรุป:

• ไม่มีตัวเลขใดที่เหมาะกับทุกคน

• การฝึกฝนมักจะใช้พลังงานมากที่สุดในช่วงแรก

• การอนุมานกลายเป็นปัจจัยสำคัญเมื่อพิจารณาในระดับที่ใหญ่ขึ้น

• ขนาดของโมเดล ฮาร์ดแวร์ ปริมาณงาน และระบบระบายความร้อน ล้วนมีความสำคัญ

• การปรับปรุงเล็กน้อยสามารถสร้างความแตกต่างอย่างมากได้อย่างน่าประหลาดใจ

• คำถามที่ชาญฉลาดที่สุดไม่ใช่แค่ "เท่าไหร่" แต่ยังรวมถึง "สำหรับงานอะไร บนระบบใด ในระดับใด" ด้วย (IEA, Google Cloud)

ใช่แล้ว AI ใช้พลังงานจริง มากพอที่จะสมควรได้รับความสนใจ มากพอที่จะ justifies การออกแบบทางวิศวกรรมที่ดีกว่า แต่ไม่ใช่ในแบบที่ดูตลกหรือวัดผลด้วยตัวเลขเพียงตัวเดียว.

ตัวอย่างในโลกแห่งความเป็นจริง: การวัดต้นทุนด้านพลังงานของระบบช่วยเหลืออัตโนมัติ (AI)

สถานการณ์

ลองนึกภาพบริษัท SaaS ขนาดเล็กแห่งหนึ่งใช้ผู้ช่วย AI ในการร่างคำตอบสำหรับตั๋วขอความช่วยเหลือจากลูกค้า นี่เป็นตัวอย่างสมมติแต่สมจริง ไม่ใช่กรณีศึกษาของบริษัทจริง.

ทีมงานจัดการกับคำขอความช่วยเหลือประมาณ 500 รายการต่อสัปดาห์ ส่วนใหญ่เป็นเรื่องง่ายๆ เช่น การรีเซ็ตรหัสผ่าน คำถามเกี่ยวกับการเรียกเก็บเงิน คำอธิบายคุณสมบัติ และการแก้ไขปัญหาเบื้องต้น บริษัทไม่ต้องการให้ผู้ช่วยส่งคำตอบโดยอัตโนมัติ แต่จะร่างคำตอบเพื่อให้เจ้าหน้าที่ฝ่ายสนับสนุนตรวจสอบ.

คำถามเรื่องพลังงานไม่ได้อยู่ที่ว่า “โดยทั่วไปแล้ว AI ใช้พลังงานเท่าไหร่?” แต่เป็นเรื่องที่ใช้งานได้จริงมากกว่า:

“การเพิ่ม AI เข้าไปในขั้นตอนการทำงานนี้สร้างภาระการประมวลผลเพิ่มขึ้นมากแค่ไหน และเราสามารถลดภาระการประมวลผลนั้นลงได้โดยไม่กระทบต่อคุณภาพหรือไม่?”

สิ่งที่ผู้ช่วยต้องการ

ทีมจะเริ่มต้นด้วย:

ฐานข้อมูลความรู้ศูนย์ช่วยเหลือที่สะอาดและเป็นระเบียบ

รายการกฎเกณฑ์ที่ได้รับการอนุมัติเกี่ยวกับการคืนเงิน ความเป็นส่วนตัว และการร้องเรียน

ตัวอย่างการตอบกลับที่ได้รับการสนับสนุนอย่างแข็งแกร่งในอดีต 20-30 ตัวอย่าง

คำสั่งที่ชัดเจนว่าผู้ช่วยต้องร่างเอกสาร ไม่ใช่ส่ง

บันทึกการใช้งานระบบคลาวด์ หรือบันทึกการใช้งาน API ของโมเดล

ตารางคำนวณอย่างง่ายสำหรับติดตามประเภทของตั๋ว ความยาวของคำถาม ความยาวของผลลัพธ์ เวลาในการตรวจสอบ และว่าคำตอบได้รับการยอมรับหรือไม่

ส่วนสำคัญคือการวัดผล หากไม่มีบันทึกข้อมูล ทีมงานก็ทำได้เพียงคาดเดาเท่านั้น.

ตัวอย่างคำแนะนำ

คุณเป็นผู้ช่วยร่างเอกสารสนับสนุนสำหรับผลิตภัณฑ์ SaaS ใช้เฉพาะเนื้อหาศูนย์ช่วยเหลือและบันทึกนโยบายที่ได้รับอนุมัติเท่านั้น ร่างคำตอบที่ชัดเจนและสุภาพภายใน 180 คำ หากลูกค้าขอเงินคืน ลบบัญชี คำแนะนำทางกฎหมาย รายละเอียดด้านความปลอดภัย หรือสิ่งใดก็ตามที่ไม่ได้ระบุไว้ในเอกสาร อย่าตอบโดยตรง ให้ทำเครื่องหมายไว้เพื่อส่งให้มนุษย์ตรวจสอบและอธิบายว่าข้อมูลใดขาดหายไป.

ก่อนเขียนคำตอบ โปรดจำแนกประเภทของปัญหา: ปัญหาทั่วไป ปัญหาที่เกี่ยวข้องกับนโยบาย ปัญหาทางเทคนิค หรือปัญหาที่ต้องส่งต่อให้ผู้บริหารระดับสูง.

วิธีการทดสอบ

ทีมงานสามารถทดสอบระบบช่วยเหลือดังกล่าวกับตั๋วงานเก่า 50 รายการก่อนที่จะนำไปใช้งานจริง.

ชุดทดสอบอย่างง่ายอาจประกอบด้วย:

ตั๋วรหัสผ่านหรือล็อกอิน 10 ใบ

ตั๋วเรียกเก็บเงิน 10 ใบ

ตั๋วแก้ไขปัญหาทางเทคนิค 10 ใบ

ข้อความจากลูกค้าที่ไม่ชัดเจนหรือไม่ครบถ้วน 10 ข้อ

มีคำร้องเรียนที่เกี่ยวข้องกับนโยบาย 10 รายการ ซึ่งเกี่ยวข้องกับการคืนเงิน ความเป็นส่วนตัว หรือการปิดบัญชี

สำหรับตั๋วแต่ละใบ ทีมงานควรบันทึกข้อมูลดังต่อไปนี้:

ร่างเอกสารนั้นถูกต้องตามข้อเท็จจริงหรือไม่?

ใช้เฉพาะข้อมูลที่ได้รับอนุมัติหรือไม่?

เนื้อหาไม่เกินจำนวนคำที่กำหนดหรือไม่?

ระบบระบุกรณีที่ละเอียดอ่อนได้อย่างถูกต้องหรือไม่?

ตัวแทนที่เป็นมนุษย์ใช้เวลานานเท่าไหร่ในการแก้ไข?

กระบวนการทำงานนี้ใช้โทเค็นหรือคำขอไปกี่รายการ?

วิธีนี้ทำให้ทีมมีข้อมูลที่จับต้องได้เพื่อใช้เปรียบเทียบ แทนที่จะอาศัยเพียงแค่การคาดเดา.

ผลลัพธ์

ผลลัพธ์ที่แสดงให้เห็น: จากการจับเวลาตั๋วตัวอย่าง 50 ใบ ก่อนและหลังการใช้เวิร์กโฟลว์ ทีมงานประเมินว่าเวลาเฉลี่ยในการร่างฉบับแรก ลดลงจาก 6 นาทีต่อตั๋ว เหลือ 2 นาทีต่อตั๋ว.

สำหรับการออกตั๋ว 500 ใบต่อสัปดาห์ จะช่วยประหยัดเวลาได้ประมาณ 2,000 นาที หรือประมาณ 33 ชั่วโมงในการร่างเอกสาร.

แต่บันทึกข้อมูลยังแสดงให้เห็นถึงสิ่งที่มีค่าอีกอย่างหนึ่ง นั่นคือ 38% ของคำถามทั้งหมดเป็นคำถามซ้ำๆ โดยการจัดเก็บคำตอบที่ได้รับการอนุมัติแล้วสำหรับคำถามซ้ำๆ เหล่านี้ไว้ในแคช แทนที่จะสร้างคำตอบฉบับร่างใหม่ทั้งหมด ทีมงานสามารถลดจำนวนคำขอจาก AI จาก 500 คำขอต่อสัปดาห์ เหลือ 310 คำขอต่อสัปดาห์.

นั่นหมายถึงการลดจำนวนการเรียกใช้ฟังก์ชันอนุมานรายสัปดาห์ลง 38% สำหรับเวิร์กโฟลว์นี้ โดยไม่ต้องลบฟีเจอร์ AI ออก.

ทีมสามารถตรวจสอบเรื่องนี้ได้โดยการเปรียบเทียบ:

จำนวนคำขอ AI รายสัปดาห์ทั้งหมด ก่อนและหลังการแคช

ความยาวเฉลี่ยของข้อความแจ้งเตือนและผลลัพธ์

อัตราการยอมรับของมนุษย์

จำนวนการแจ้งเตือนที่ได้รับการแก้ไขอย่างถูกต้อง

คะแนนคุณภาพการสนับสนุนหรือจำนวนการแก้ไข

การประหยัดพลังงานไฟฟ้าที่แท้จริงนั้นจะขึ้นอยู่กับรุ่น ฮาร์ดแวร์ ผู้ให้บริการ และโครงสร้างพื้นฐาน แต่การลดภาระงานนั้นสามารถวัดผลได้.

อะไรบ้างที่อาจผิดพลาดได้

ผู้ช่วยอาจตอบคำถามเกี่ยวกับนโยบายมากเกินไป หากกฎการแจ้งปัญหาไม่ชัดเจน.

เอกสารศูนย์ช่วยเหลือที่มีความยาวมากอาจทำให้ความยาวของข้อความแจ้งเตือนเพิ่มขึ้น หากโครงสร้างการเรียกค้นข้อมูลไม่ดี.

ตัวแทนอาจเชื่อถือต้นฉบับที่เขียนอย่างคล่องแคล่วเร็วเกินไปและมองข้ามข้อผิดพลาดเล็กน้อยไปได้.

การแคชข้อมูลอาจกลายเป็นเรื่องเสี่ยงหากนโยบายการคืนเงิน ราคา หรือความเป็นส่วนตัวเก่าๆ ยังคงมีการเผยแพร่อยู่.

ทีมอาจปรับกลยุทธ์ให้ใช้โทเค็นน้อยลง แต่ในขณะเดียวกันก็อาจให้คำตอบที่ไม่เป็นประโยชน์เท่าที่ควร.

เวอร์ชันที่ปลอดภัยที่สุดคือเวอร์ชันที่ยังคงให้มนุษย์มีส่วนร่วมในกระบวนการตรวจสอบ วัดจำนวนคำตอบที่ได้รับการยอมรับ และตรวจสอบคำตอบที่บันทึกไว้ทุกครั้งที่มีการเปลี่ยนแปลงนโยบาย.

ข้อคิดที่นำไปใช้ได้จริง

การประเมินพลังงานของ AI ที่ถูกต้องเริ่มต้นด้วยขั้นตอนการทำงานที่เป็นรูปธรรม นับจำนวนคำขอ ลดความยาวของข้อความแจ้งเตือน จัดเก็บคำตอบที่ซ้ำกันไว้ในแคช และวัดคุณภาพการตรวจสอบ นั่นจะเปลี่ยนคำถามที่ว่า “AI ใช้พลังงานเท่าไหร่?” จากการถกเถียงที่คลุมเครือ ให้กลายเป็นคำถามทางวิศวกรรมที่ใช้งานได้จริง พร้อมตัวเลขที่ทีมสามารถนำไปปรับปรุงได้ในทางปฏิบัติ.

คำถามที่พบบ่อย

AI ใช้พลังงานเท่าไหร่ในการแสดงข้อความแจ้งเตือนเพียงครั้งเดียว?

ไม่มีตัวเลขตายตัวสำหรับคำถามแต่ละข้อ เพราะการใช้พลังงานขึ้นอยู่กับรุ่น ฮาร์ดแวร์ ความยาวของคำถาม ความยาวของผลลัพธ์ และเครื่องมือเสริมอื่นๆ ที่เกี่ยวข้อง การตอบข้อความสั้นๆ อาจใช้พลังงานค่อนข้างน้อย ในขณะที่งานหลายรูปแบบที่ยาวกว่าอาจใช้พลังงานมากกว่าอย่างเห็นได้ชัด คำตอบที่มีความหมายที่สุดไม่ใช่ตัวเลขหลักเพียงตัวเดียว แต่เป็นบริบทโดยรอบของงานนั้น.

เหตุใดการประมาณการการใช้พลังงาน AI จึงแตกต่างกันมาก?

การประมาณการอาจแตกต่างกันไป เนื่องจากผู้คนมักเปรียบเทียบสิ่งต่างๆ ที่แตกต่างกันมากภายใต้ชื่อเดียวกันว่า AI การประมาณการหนึ่งอาจอธิบายถึงการตอบกลับของแชทบอทขนาดเล็ก ในขณะที่อีกการประมาณการหนึ่งอาจครอบคลุมการสร้างภาพ วิดีโอ หรือการฝึกโมเดลขนาดใหญ่ เพื่อให้การประมาณการมีความหมาย จำเป็นต้องมีบริบท เช่น ประเภทของงาน ขนาดของโมเดล ฮาร์ดแวร์ การใช้งาน การระบายความร้อน และสถานที่ตั้ง.

การฝึกฝน AI หรือการใช้งาน AI ในแต่ละวัน อย่างไหนใช้พลังงานมากกว่ากัน?

โดยปกติแล้ว การฝึกฝน (Training) มักเป็นกระบวนการที่ใช้พลังงานมากที่สุดในช่วงเริ่มต้น เพราะอาจเกี่ยวข้องกับการใช้ชิปจำนวนมากทำงานเป็นเวลานานกับชุดข้อมูลขนาดใหญ่ ในขณะที่การอนุมาน (Inference) เป็นต้นทุนที่เกิดขึ้นอย่างต่อเนื่องทุกครั้งที่ผู้ใช้ส่งคำขอ และในระดับที่ใหญ่ขึ้น ต้นทุนนี้ก็อาจสูงมากเช่นกัน ในทางปฏิบัติ ทั้งสองอย่างมีความสำคัญ แต่มีความสำคัญในรูปแบบที่แตกต่างกัน.

อะไรทำให้คำขอ AI หนึ่งใช้พลังงานมากกว่าคำขอ AI อื่นอย่างเห็นได้ชัด?

หน้าต่างบริบทที่ยาวขึ้น ผลลัพธ์ที่ยาวขึ้น การประมวลผลซ้ำ การเรียกใช้เครื่องมือ ขั้นตอนการดึงข้อมูล และการสร้างแบบหลายรูปแบบ ล้วนมีแนวโน้มที่จะเพิ่มการใช้พลังงานต่อการโต้ตอบแต่ละครั้ง เป้าหมายด้านความหน่วงก็มีความสำคัญเช่นกัน เพราะข้อกำหนดการตอบสนองที่เร็วขึ้นอาจลดประสิทธิภาพลง คำขอเขียนใหม่ขนาดเล็กและเวิร์กโฟลว์การเขียนโค้ดหรือรูปภาพที่ยาวนานนั้นไม่สามารถเปรียบเทียบกันได้.

อะไรคือต้นทุนพลังงานแฝงที่ผู้คนมองข้ามไปเมื่อถามว่า AI ใช้พลังงานมากแค่ไหน?

หลายคนมักให้ความสนใจเฉพาะตัวชิป แต่ละเลยปัจจัยอื่นๆ เช่น การระบายความร้อน การเคลื่อนย้ายข้อมูล การจัดเก็บข้อมูล ความจุขณะไม่ได้ใช้งาน และระบบความน่าเชื่อถือ เช่น ระบบสำรองข้อมูลหรือส่วนสำรองข้อมูลเมื่อเกิดข้อผิดพลาด องค์ประกอบสนับสนุนเหล่านี้สามารถเปลี่ยนแปลงการใช้พลังงานโดยรวมได้อย่างมาก นั่นเป็นเหตุผลว่าทำไมการทดสอบประสิทธิภาพเพียงอย่างเดียวจึงไม่สามารถแสดงภาพรวมการใช้พลังงานทั้งหมดได้อย่างครบถ้วน.

โมเดล AI ขนาดใหญ่ใช้พลังงานมากกว่าเสมอไปหรือไม่?

โดยทั่วไปแล้ว โมเดลขนาดใหญ่ต้องการพลังประมวลผลและหน่วยความจำมากกว่า โดยเฉพาะอย่างยิ่งสำหรับผลลัพธ์ที่ยาวหรือซับซ้อน ดังนั้นจึงมักใช้พลังงานมากกว่า แต่ขนาดใหญ่ไม่ได้หมายความว่าดีกว่าเสมอไปสำหรับทุกงาน และการเพิ่มประสิทธิภาพสามารถเปลี่ยนแปลงภาพรวมได้อย่างมาก โมเดลเฉพาะทางขนาดเล็ก การแบ่งกลุ่ม การจัดกลุ่มข้อมูล การแคช และการกำหนดเส้นทางที่ชาญฉลาด ล้วนสามารถปรับปรุงประสิทธิภาพได้.

การใช้งาน AI ของผู้บริโภคเป็นปัญหาหลักด้านพลังงาน หรือ AI ขององค์กรเป็นปัญหาใหญ่กว่ากัน?

การใช้งานทั่วไปของผู้บริโภคอาจก่อให้เกิดการใช้พลังงานจำนวนมาก แต่ปัญหาการใช้พลังงานที่ใหญ่กว่ามักเกิดขึ้นในการใช้งานระดับองค์กร ระบบช่วยเหลืออัตโนมัติที่ทำงานตลอดเวลา การประมวลผลเอกสาร การสรุปการโทร การตรวจสอบโค้ด และเอเจนต์ที่ทำงานอยู่เบื้องหลัง สร้างความต้องการใช้งานซ้ำๆ ในกลุ่มผู้ใช้จำนวนมาก ปัญหาโดยทั่วไปไม่ได้อยู่ที่การกระทำเพียงครั้งเดียว แต่เป็นปริมาณการใช้งานที่ต่อเนื่องยาวนานมากกว่า.

AI ใช้พลังงานมากแค่ไหนเมื่อรวมถึงศูนย์ข้อมูลและระบบระบายความร้อน?

เมื่อรวมระบบโดยรวมเข้าไปด้วย คำตอบก็จะสมจริงมากขึ้นและมักจะมีขนาดใหญ่กว่าที่ประมาณการไว้จากเฉพาะชิปเพียงอย่างเดียว ศูนย์ข้อมูลต้องการพลังงานไม่เพียงแต่สำหรับการประมวลผลเท่านั้น แต่ยังรวมถึงการระบายความร้อน การเชื่อมต่อเครือข่าย การจัดเก็บข้อมูล และการรักษากำลังการผลิตสำรองด้วย นั่นเป็นเหตุผลว่าทำไมการออกแบบโครงสร้างพื้นฐานและประสิทธิภาพของสิ่งอำนวยความสะดวกจึงมีความสำคัญเกือบเท่ากับการออกแบบโมเดล.

วิธีที่ใช้งานได้จริงที่สุดในการวัดการใช้พลังงานของ AI ในขั้นตอนการทำงานจริงคืออะไร?

วิธีการที่ดีที่สุดนั้นขึ้นอยู่กับว่าใครเป็นผู้ทำการวัดและเพื่อวัตถุประสงค์ใด กฎง่ายๆ ทั่วไปอาจช่วยในการเปรียบเทียบอย่างรวดเร็ว ในขณะที่เครื่องวัดวัตต์ ข้อมูลการใช้งาน GPU บันทึกการเรียกเก็บเงินบนคลาวด์ และรายงานจากศูนย์ข้อมูลจะให้ข้อมูลเชิงลึกด้านการดำเนินงานที่แข็งแกร่งขึ้นเรื่อยๆ สำหรับงานด้านความยั่งยืนที่จริงจัง มุมมองตลอดวงจรชีวิตที่สมบูรณ์จะยิ่งมีประสิทธิภาพมากขึ้น แม้ว่าจะช้ากว่าและต้องใช้ทรัพยากรมากกว่าก็ตาม.

ทีมต่างๆ จะลดการใช้พลังงานของ AI โดยไม่ลดทอนคุณสมบัติ AI ที่มีประโยชน์ได้อย่างไร?

โดยทั่วไปแล้ว ผลประโยชน์ที่มากที่สุดมักมาจากการใช้โมเดลที่เล็กที่สุดที่ยังคงทำงานได้ ลดจำนวนข้อความแจ้งเตือนและผลลัพธ์ จัดเก็บผลลัพธ์ที่ซ้ำกันไว้ในแคช จัดกลุ่มงาน และส่งต่อเฉพาะงานที่ยากกว่าไปยังโมเดลขนาดใหญ่กว่า การเพิ่มประสิทธิภาพโครงสร้างพื้นฐานก็มีความสำคัญเช่นกัน โดยเฉพาะอย่างยิ่งการจัดตารางเวลาและประสิทธิภาพของฮาร์ดแวร์ ในหลายๆ กระบวนการ การวัดผลก่อนจะช่วยป้องกันไม่ให้ทีมเพิ่มประสิทธิภาพในสิ่งที่ผิดพลาด.

เอกสารอ้างอิง

1. สำนักงานพลังงานระหว่างประเทศ (IEA) - ความต้องการพลังงานจาก AI - iea.org

2. กระทรวงพลังงานสหรัฐฯ (DOE) - DOE เผยแพร่รายงานฉบับใหม่ประเมินความต้องการใช้ไฟฟ้าที่เพิ่มขึ้นของศูนย์ข้อมูล - energy.gov

3. Google Cloud - การวัดผลกระทบต่อสิ่งแวดล้อมของการประมวลผล AI - cloud.google.com

4. Google Research - ข่าวดีเกี่ยวกับรอยเท้าคาร์บอนของการฝึกอบรมแมชชีนเลิร์ - research.google

5. Google Research - รอยเท้าคาร์บอนของการฝึกอบรมแมชชีนเลิร์นนิงจะทรงตัวแล้วลดลงในที่สุด - research.google

6. arXiv - ปัญญาประดิษฐ์สีเขียว - arxiv.org

7. arXiv - Strubell และคณะ - arxiv.org

8. arXiv - กลยุทธ์การกำหนดปริมาณ การจัดกลุ่ม และการให้บริการในการใช้พลังงานของ LLM - arxiv.org

ค้นหา AI รุ่นล่าสุดได้ที่ร้านค้าผู้ช่วย AI อย่างเป็นทางการ

เกี่ยวกับเรา