ฉันพนันได้เลยว่าคุณเคยได้ยินทุกอย่างตั้งแต่ “AI ดื่มน้ำหนึ่งขวดทุกๆ สองสามคำถาม” ไปจนถึง “จริงๆ แล้วมันแค่ไม่กี่หยด” ความจริงนั้นซับซ้อนกว่านั้น ปริมาณการใช้น้ำของ AI นั้นแตกต่างกันอย่างมาก ขึ้นอยู่กับว่ามันทำงานที่ไหน ระยะเวลาของคำถาม และวิธีการระบายความร้อนของศูนย์ข้อมูล ดังนั้นใช่ ตัวเลขที่กล่าวอ้างกันนั้นมีอยู่จริง แต่ก็มีข้อจำกัดมากมายอยู่เบื้องหลัง
ด้านล่างนี้ ผมจะอธิบายตัวเลขที่ชัดเจนและพร้อมสำหรับการตัดสินใจ อธิบายว่าทำไมการประมาณการจึงแตกต่างกัน และแสดงให้เห็นว่าผู้สร้างและผู้ใช้งานทั่วไปสามารถลดค่าใช้จ่ายด้านน้ำได้อย่างไรโดยไม่ต้องกลายเป็นผู้เชี่ยวชาญด้านความยั่งยืนอย่างสุดโต่ง
บทความที่คุณอาจสนใจอ่านต่อหลังจากบทความนี้:
🔗 ชุดข้อมูล AI คืออะไร
อธิบายว่าชุดข้อมูลช่วยให้การฝึกฝนเครื่องจักรและการพัฒนาโมเดลเป็นไปได้อย่างไร
🔗 ปัญญาประดิษฐ์ (AI) ทำนายแนวโน้มได้อย่างไร
แสดงให้เห็นว่า AI วิเคราะห์รูปแบบอย่างไรเพื่อคาดการณ์การเปลี่ยนแปลงและผลลัพธ์ในอนาคต
🔗 วิธีการวัดประสิทธิภาพ AI
อธิบายรายละเอียดตัวชี้วัดที่สำคัญสำหรับการประเมินความถูกต้อง ความเร็ว และความน่าเชื่อถือ
🔗 วิธีการพูดคุยกับ AI
คู่มือนี้เสนอแนวทางกลยุทธ์การกระตุ้นเตือนที่มีประสิทธิภาพ เพื่อเพิ่มความชัดเจน ผลลัพธ์ และความสม่ำเสมอ
AI ใช้ปริมาณน้ำเท่าไหร่? ตัวเลขที่นำไปใช้ได้จริง 📏
-
โดยทั่วไปแล้ว ช่วงเวลาในการตอบกลับแต่ละครั้งจะแตกต่างกันไป ตั้งแต่ ต่ำกว่ามิลลิลิตร สำหรับการตอบกลับข้อความธรรมดาบนระบบหลักระบบหนึ่ง ไปจนถึง หลายสิบมิลลิลิตร สำหรับการตอบกลับที่ยาวกว่าและใช้การประมวลผลสูงกว่าบนระบบอื่น ตัวอย่างเช่น รายงานการบัญชีการผลิตของ Google ระบุว่า การตอบกลับข้อความธรรมดาใช้เวลาประมาณ 0.26 มิลลิลิตร (รวมค่าใช้จ่ายในการให้บริการทั้งหมดแล้ว) [1] การประเมินวงจรชีวิตของ Mistral ระบุว่า การตอบกลับผู้ช่วย 400 โทเค็นใช้เวลาประมาณ 45 มิลลิลิตร (การอนุมานแบบมาร์จินัล) [2] บริบทและแบบจำลองมีความสำคัญมาก
-
การฝึกโมเดลระดับแนวหน้า: อาจใช้น้ำ หลายล้านลิตร ส่วนใหญ่มาจากการระบายความร้อนและน้ำที่ใช้ในกระบวนการผลิตไฟฟ้า การวิเคราะห์ทางวิชาการที่อ้างอิงกันอย่างกว้างขวางประเมินว่าต้องใช้น้ำ ประมาณ 5.4 ล้านลิตร ในการฝึกโมเดลระดับ GPT ซึ่งรวมถึง น้ำประมาณ 700,000 ลิตร ที่ใช้ในสถานที่สำหรับการระบายความร้อน และได้เสนอแนะให้มีการจัดตารางเวลาอย่างชาญฉลาดเพื่อลดความเข้มข้นของน้ำ [3]
-
ศูนย์ข้อมูลโดยทั่วไป: ไซต์ขนาดใหญ่ครอบคลุม พื้นที่หลายแสนแกลลอนต่อวัน โดยเฉลี่ยในผู้ให้บริการรายใหญ่ โดยมีปริมาณสูงสุดที่สูงกว่าในบางวิทยาเขตขึ้นอยู่กับสภาพอากาศและการออกแบบ [5]
พูดกันตามตรง ตัวเลขเหล่านั้นดูไม่สอดคล้องกันในตอนแรก และมันก็เป็นเช่นนั้นจริงๆ ซึ่งก็มีเหตุผลที่ดีอยู่เบื้องหลัง

ตัวชี้วัดการใช้น้ำด้วย AI ✅
คำตอบที่ดีสำหรับคำถามที่ว่า AI ใช้ปริมาณน้ำเท่าไหร่ ควรพิจารณาหลายประเด็นดังนี้:
-
ความชัดเจนของขอบเขต
ครอบคลุมเฉพาะ หล่อเย็นในสถานที่ หรือรวมถึง นอกสถานที่ โรงไฟฟ้า ใช้ ในการผลิตไฟฟ้าด้วยหรือไม่ แนวปฏิบัติที่ดีที่สุดจะแยกความแตกต่างระหว่าง การดึงน้ำ กับ การบริโภคน้ำ และขอบเขต 1-2-3 คล้ายกับการบัญชีคาร์บอน [3] -
ความไวต่อตำแหน่งที่ตั้ง
ปริมาณน้ำต่อ kWh แตกต่างกันไปตามภูมิภาคและส่วนผสมของโครงข่าย ดังนั้นคำสั่งเดียวกันจึงอาจมีผลกระทบต่อปริมาณน้ำที่แตกต่างกัน ขึ้นอยู่กับว่าให้บริการที่ใด ซึ่งเป็นเหตุผลสำคัญที่เอกสารแนะนำให้ กำหนดตารางเวลาโดยคำนึงถึงเวลาและสถานที่ [3] -
ความสมจริงของภาระงาน
ตัวเลขดังกล่าวสะท้อนถึง คำสั่งการผลิตโดยเฉลี่ย รวมถึงความจุที่ไม่ได้ใช้งานและค่าใช้จ่ายของศูนย์ข้อมูล หรือเฉพาะตัวเร่งความเร็วในช่วงเวลาสูงสุดเท่านั้น Google เน้นย้ำถึงการบัญชีระบบเต็มรูปแบบ (ไม่ได้ใช้งาน CPU/DRAM และค่าใช้จ่ายของศูนย์ข้อมูล) สำหรับการอนุมาน ไม่ใช่แค่การคำนวณ TPU เท่านั้น [1] -
เทคโนโลยีการระบายความร้อน
การระบายความร้อนด้วยการระเหย การระบายความร้อนด้วยของเหลวแบบวงปิด การระบายความร้อนด้วยอากาศ และ โดยตรงไปยังชิป ส่งผลให้ความเข้มข้นของน้ำเปลี่ยนแปลงไปอย่างมาก ไมโครซอฟต์กำลังเปิดตัวการออกแบบที่มุ่งเป้าไปที่ การกำจัดการใช้น้ำหล่อเย็น สำหรับไซต์รุ่นต่อไปบางแห่ง [4] -
ช่วงเวลาของวันและฤดูกาล
ความร้อน ความชื้น และสภาพของโครงข่ายไฟฟ้าส่ง ผลต่อประสิทธิภาพการใช้น้ำ ในชีวิตจริง การศึกษาที่มีอิทธิพลชิ้นหนึ่งแนะนำให้กำหนดเวลาสำหรับงานสำคัญๆ ในช่วงเวลาและสถานที่ที่มีความเข้มข้นของน้ำต่ำกว่า [3]
อธิบายความแตกต่างระหว่างการดึงน้ำไปใช้และการบริโภคน้ำ 💡
-
การดึงน้ำไปใช้ = การนำน้ำจากแม่น้ำ ทะเลสาบ หรือแหล่งน้ำใต้ดิน (บางส่วนถูกส่งคืน)
-
การใช้จ่าย = ปริมาณน้ำ ที่ไม่ถูกนำกลับมาใช้ใหม่ เนื่องจากระเหยไป หรือถูกนำไปใช้ในกระบวนการผลิต/ผลิตภัณฑ์
หอระบายความร้อนส่วนใหญ่ ใช้ น้ำผ่านการระเหย การผลิตไฟฟ้าสามารถ ดึง น้ำปริมาณมาก (บางครั้งใช้น้ำบางส่วน) ขึ้นอยู่กับโรงงานและวิธีการระบายความร้อน ฉลากตัวเลข AI-water ที่น่าเชื่อถือจะรายงาน [3]
น้ำใน AI ไหลไปที่ไหน: ถังสามใบ 🪣
-
ขอบเขต 1 - การระบายความร้อนในสถานที่
ส่วนที่มองเห็นได้: น้ำที่ระเหยที่ศูนย์ข้อมูลเอง ทางเลือกในการออกแบบ เช่น การระเหยเทียบกับอากาศหรือของเหลวแบบวงปิด กำหนดมาตรฐานพื้นฐาน [5] -
ขอบเขต 2 - การผลิตไฟฟ้า
ทุกๆ kWh สามารถมีแท็กน้ำที่ซ่อนอยู่ได้ ส่วนผสมและตำแหน่งจะกำหนดสัญญาณลิตรต่อ kWh ที่ภาระงานของคุณได้รับ [3] -
ขอบเขต 3 - ห่วงโซ่อุปทาน
การผลิตชิป อาศัยน้ำบริสุทธิ์พิเศษในการผลิต คุณจะไม่เห็นมันในตัวชี้วัด "ต่อข้อความแจ้งเตือน" เว้นแต่ขอบเขตจะรวมผลกระทบที่เกิดขึ้นโดยชัดเจน (เช่น LCA เต็มรูปแบบ) [2][3]
ผู้ให้บริการตามตัวเลข พร้อมรายละเอียดปลีกย่อย 🧮
-
Google Gemini แจ้งเตือน
วิธีการให้บริการแบบ Full-stack (รวมถึงเวลาหยุดทำงานและค่าใช้จ่ายส่วนเกินของโรงงาน) ข้อความแจ้งเตือนโดยเฉลี่ยประมาณ 0.26 มล. ของน้ำพร้อมกับ ประมาณ 0.24 Wh ตัวเลขสะท้อนถึงปริมาณการผลิตและขอบเขตที่ครอบคลุม [1] -
วงจรชีวิตของ Mistral Large 2
LCA อิสระที่หายาก (ด้วย ADEME/Carbone 4) เปิดเผย ~281,000 m³ สำหรับการฝึกอบรม + การใช้งานในช่วงแรก และ ขอบเขตการอนุมาน ~45 mL สำหรับ 400 โทเค็น [2] -
ความทะเยอทะยานของ Microsoft ในการระบายความร้อนแบบไม่ใช้น้ำ
ศูนย์ข้อมูลรุ่นใหม่ได้รับการออกแบบให้ ไม่ใช้น้ำในการระบายความร้อน โดยอาศัยแนวทางการระบายความร้อนโดยตรงไปยังชิป การใช้งานด้านการดูแลระบบยังคงต้องใช้น้ำอยู่บ้าง [4] -
โดยทั่วไปแล้ว ผู้ประกอบการรายใหญ่ในระดับศูนย์ข้อมูล
รายงานต่อสาธารณะว่า มีปริมาณหลายแสนแกลลอนต่อวันโดยเฉลี่ย ในแต่ละไซต์ สภาพภูมิอากาศและการออกแบบจะส่งผลให้ตัวเลขเพิ่มขึ้นหรือลดลง [5] -
พื้นฐานทางวิชาการก่อนหน้านี้
“AI ที่กระหายน้ำ” ประเมินว่าต้องใช้ น้ำหลายล้านลิตร ในการฝึกโมเดลคลาส GPT และ คำตอบขนาดกลาง 10–50 คำตอบ อาจเทียบเท่ากับ ขนาด 500 มล. ซึ่งขึ้นอยู่กับเวลาและสถานที่ที่ใช้งาน [3]
ทำไมผลการประมาณการถึงแตกต่างกันมากขนาดนี้ 🤷
-
ขอบเขตที่แตกต่างกัน
บางตัวเลขนับ เฉพาะการระบายความร้อนในสถานที่ บางตัวเลขรวม น้ำของไฟฟ้า ด้วย LCA อาจรวม การผลิตชิป แอปเปิ้ล ส้ม และสลัดผลไม้ [2][3] -
ภาระงานที่แตกต่างกัน
ข้อความแจ้งเตือนสั้นๆ ไม่ใช่การรันมัลติโมดอล/โค้ดที่ยาวนาน การจัดกลุ่ม การทำงานพร้อมกัน และเป้าหมายเวลาแฝงจะเปลี่ยนการใช้งาน [1][2] -
สภาพภูมิอากาศและโครงข่ายที่แตกต่างกัน
การระบายความร้อนด้วยการระเหยในภูมิภาคที่ร้อนและแห้งแล้ง ≠ การระบายความร้อนด้วยอากาศ/ของเหลวในภูมิภาคที่เย็นและชื้น ความเข้มข้นของน้ำในโครงข่ายแตกต่างกันอย่างมาก [3] -
วิธีการของผู้ขาย
Google ได้เผยแพร่วิธีการให้บริการทั่วทั้งระบบ Mistral ได้เผยแพร่ LCA อย่างเป็นทางการ ผู้ขายรายอื่นเสนอการประมาณค่าจุดด้วยวิธีการที่ไม่ละเอียด "หนึ่งในสิบห้าของช้อนชา" ต่อการแจ้งเตือนแต่ละครั้งได้รับความสนใจอย่างมาก แต่หากไม่มีรายละเอียดขอบเขต ก็ไม่สามารถเปรียบเทียบได้ [1][3] -
เป้าหมายที่เคลื่อนที่
การระบายความร้อนกำลังพัฒนาอย่างรวดเร็ว ไมโครซอฟต์กำลังทดลองใช้ระบบ ระบายความร้อนแบบไม่ใช้น้ำ ในบางไซต์ การนำระบบเหล่านี้ไปใช้จะช่วยลดการใช้น้ำในไซต์ แม้ว่าไฟฟ้าต้นทางจะยังคงส่งสัญญาณน้ำอยู่ก็ตาม [4]
สิ่งที่คุณสามารถทำได้ในวันนี้เพื่อลดปริมาณการใช้น้ำของ AI 🌱
-
ปรับขนาดโมเดลให้เหมาะสม
โมเดลขนาดเล็กที่ปรับแต่งตามงานมักจะให้ความแม่นยำที่ตรงกันในขณะที่ใช้ทรัพยากรการคำนวณน้อยลง การประเมินของ Mistral เน้นย้ำถึงความสัมพันธ์ที่แข็งแกร่งระหว่างขนาดกับการใช้ทรัพยากร และเผยแพร่ตัวเลขการอนุมานส่วนเพิ่มเพื่อให้คุณสามารถพิจารณาข้อแลกเปลี่ยนได้ [2] -
เลือกภูมิภาคที่ประหยัดน้ำ
เลือกภูมิภาคที่มีสภาพอากาศเย็นกว่า ระบบทำความเย็นที่มีประสิทธิภาพ และโครงข่ายที่มีความเข้มข้นของน้ำต่อ kWh ต่ำกว่า งานวิจัย “AI ที่กระหายน้ำ” แสดงให้ เห็นว่าการจัดตารางเวลาที่คำนึงถึงเวลาและ สถานที่ช่วยได้ [3] -
ปรับเปลี่ยนภาระงานตามเวลา
กำหนดเวลาฝึกอบรม/อนุมานชุดข้อมูลขนาดใหญ่ในช่วงเวลาที่ประหยัดน้ำ (กลางคืนที่เย็นกว่า สภาพกริดที่เอื้ออำนวย) [3] -
ขอให้ผู้ขายของคุณเปิดเผยข้อมูลเมตริกที่โปร่งใส เช่น
ความต้องการ น้ำต่อครั้ง คำจำกัดความของขอบเขต และว่าตัวเลขดังกล่าวรวมถึงกำลังการผลิตที่ไม่ได้ใช้งานและค่าใช้จ่ายส่วนเกินของโรงงานหรือไม่ กลุ่มนโยบายกำลังผลักดันให้มีการเปิดเผยข้อมูลบังคับเพื่อให้สามารถเปรียบเทียบกันได้อย่างยุติธรรม [3] -
เทคโนโลยีการระบายความร้อนมีความสำคัญ
หากคุณใช้งานฮาร์ดแวร์ ให้ประเมิน การระบายความร้อนแบบวงปิด/ตรงไปยังชิป หากคุณใช้งานบนคลาวด์ ให้เลือกภูมิภาค/ผู้ให้บริการที่ลงทุนใน การออกแบบระบายความร้อนด้วยน้ำน้อย [4][5] -
ใช้น้ำเสียสีเทาและตัวเลือกการนำกลับมาใช้ใหม่
วิทยาเขตหลายแห่งสามารถทดแทนแหล่งน้ำที่ไม่ใช่น้ำดื่มหรือรีไซเคิลภายในวงจรได้ ผู้ประกอบการรายใหญ่อธิบายถึงการปรับสมดุลแหล่งน้ำและตัวเลือกการทำความเย็นเพื่อลดผลกระทบสุทธิให้น้อยที่สุด [5]
ตัวอย่างสั้นๆ เพื่อให้เห็นภาพชัดเจน (ไม่ใช่กฎสากล): การย้ายงานฝึกอบรมข้ามคืนจากภูมิภาคที่ร้อนและแห้งแล้งในช่วงกลางฤดูร้อนไปยังภูมิภาคที่เย็นกว่าและชื้นกว่าในฤดูใบไม้ผลิ และดำเนินการในช่วงเวลานอกช่วงเวลาเร่งด่วนที่เย็นกว่า สามารถเปลี่ยนทั้ง ในสถานที่ และ นอกสถานที่ (จากโครงข่าย) ได้ นั่นคือชัยชนะที่เป็นรูปธรรมและไม่ยุ่งยากที่การจัดตารางเวลาสามารถปลดล็อกได้ [3]
ตารางเปรียบเทียบ: ตัวเลือกง่ายๆ เพื่อลดปริมาณการใช้น้ำของ AI 🧰
| เครื่องมือ | ผู้ชม | ราคา | เหตุผลที่มันได้ผล |
|---|---|---|---|
| โมเดลขนาดเล็กที่ปรับแต่งให้เหมาะสมกับงาน | ทีม ML, หัวหน้าทีมผลิตภัณฑ์ | ต่ำ-ปานกลาง | การประมวลผลต่อโทเค็นน้อยลง = การระบายความร้อน + ไฟฟ้าและน้ำน้อยลง; พิสูจน์แล้วในการรายงานแบบ LCA [2] |
| การเลือกภูมิภาคตามปริมาณน้ำ/กิโลวัตต์ชั่วโมง | สถาปนิกคลาวด์, การจัดซื้อจัดจ้าง | ปานกลาง | เปลี่ยนไปใช้สภาพอากาศที่เย็นกว่าและโครงข่ายที่มีความเข้มข้นของน้ำต่ำกว่า จับคู่กับการกำหนดเส้นทางตามความต้องการ [3] |
| ช่วงเวลาการฝึกอบรมในแต่ละวัน | MLOps, ตัวกำหนดตารางเวลา | ต่ำ | กลางคืนที่เย็นกว่า + สภาพกริดที่ดีขึ้นจะลดความเข้มข้นของน้ำที่มีประสิทธิภาพ [3] |
| การระบายความร้อนโดยตรงไปยังชิป/ระบบวงปิด | การดำเนินงานศูนย์ข้อมูล | ระดับกลางถึงสูง | หลีกเลี่ยงหอระเหยเมื่อทำได้ เพื่อลดการบริโภคในสถานที่ [4] |
| การควบคุมความยาวข้อความแจ้งเตือนและชุดข้อมูล | นักพัฒนาแอป | ต่ำ | จำกัดโทเค็นที่วิ่งหนี จัดการกลุ่มอย่างชาญฉลาด แคชผลลัพธ์ ลดมิลลิวินาที ลดมิลลิลิตร [1][2] |
| รายการตรวจสอบความโปร่งใสของผู้ขาย | ซีทีโอ, ผู้นำด้านความยั่งยืน | ฟรี | ความชัดเจนของขอบเขตของแรง (ในสถานที่เทียบกับนอกสถานที่) และการรายงานแบบเทียบเคียงกัน [3] |
| น้ำเสียจากครัวเรือนหรือแหล่งน้ำที่ผ่านการบำบัดแล้ว | สิ่งอำนวยความสะดวก เทศบาล | ปานกลาง | การใช้น้ำที่ไม่ใช่น้ำดื่มมาทดแทนจะช่วยลดภาระของแหล่งน้ำดื่มได้ [5] |
| ความร่วมมือในการนำความร้อนกลับมาใช้ใหม่ | ผู้ประกอบการ สภาท้องถิ่น | ปานกลาง | ประสิทธิภาพความร้อนที่ดีขึ้นจะช่วยลดความต้องการการทำความเย็นทางอ้อมและสร้างความสัมพันธ์ที่ดีในท้องถิ่น [5] |
(ราคา "ไม่แน่นอน" ตามเจตนารมณ์ของการออกแบบ - การใช้งานอาจแตกต่างกันไป)
เจาะลึก: เสียงเรียกร้องด้านนโยบายดังขึ้นเรื่อยๆ 🥁
หน่วยงานด้านวิศวกรรมเรียกร้องให้มี การเปิดเผย ข้อมูลการใช้พลังงานและน้ำของศูนย์ข้อมูลอย่างเป็นทางการ เพื่อให้ผู้ซื้อและชุมชนสามารถประเมินต้นทุนและผลประโยชน์ได้ คำแนะนำต่างๆ ได้แก่ การกำหนดขอบเขต การรายงานในระดับไซต์ และแนวทางการเลือกสถานที่ตั้ง เนื่องจากหากไม่มีตัวชี้วัดที่เปรียบเทียบได้และคำนึงถึงสถานที่ตั้ง เราก็กำลังถกเถียงกันในความมืด [3]
เจาะลึก: ศูนย์ข้อมูลไม่ได้มีวิธีการทำงานเหมือนกันทั้งหมด 🚰
มีความเชื่อผิดๆ ที่ว่า “การระบายความร้อนด้วยอากาศไม่ใช้น้ำ” ซึ่งไม่ถูกต้องเสียทีเดียว ระบบที่ใช้อากาศมากมักต้องการ ไฟฟ้ามากกว่า ซึ่งในหลายภูมิภาคต้องขนส่ง น้ำที่ซ่อน อยู่จากโครงข่ายไฟฟ้า ในทางกลับกัน การระบายความร้อนด้วยน้ำ สามารถลดการใช้พลังงานและการปล่อยมลพิษได้ แต่ต้องแลกมาด้วยการใช้น้ำในพื้นที่ ผู้ประกอบการรายใหญ่จะพิจารณาความสมดุลของข้อดีข้อเสียเหล่านี้อย่างชัดเจนในแต่ละพื้นที่ [1][5]
เจาะลึก: ตรวจสอบข้อเท็จจริงอย่างรวดเร็วเกี่ยวกับข่าวลือไวรัล 🧪
คุณอาจเคยเห็นข้อความที่ชัดเจนว่าข้อความแจ้งเตือนเพียงข้อความเดียวเท่ากับ “ขวดน้ำ” หรือในทางกลับกัน “เพียงไม่กี่หยด” ท่าทีที่ดีกว่าคือ ความอ่อนน้อมถ่อมตนกับคณิตศาสตร์ ขอบเขตที่น่าเชื่อถือในปัจจุบันคือ ~0.26 มล. สำหรับข้อความแจ้งเตือนการผลิตโดยเฉลี่ยที่มีค่าใช้จ่ายในการเสิร์ฟเต็มจำนวน [1] และ ~45 มล. สำหรับการตอบกลับผู้ช่วย 400 โทเค็น (การอนุมานเชิงชายขอบ) [2] ข้ออ้างที่แพร่หลายว่า “หนึ่งในสิบห้าของช้อนชา” ขาดขอบเขต/วิธีการสาธารณะ ปฏิบัติต่อมันเหมือนกับการพยากรณ์อากาศที่ไม่มีเมือง [1][3]
คำถามที่พบบ่อย (Mini-FAQ): AI ใช้ปริมาณน้ำเท่าไหร่? (อธิบายเป็นภาษาอังกฤษแบบง่ายๆ) 🗣️
-
ดังนั้น ฉันควรพูดอะไรในที่ประชุม?
“ตามคำแนะนำแล้ว ปริมาณน้ำที่ใช้จะแตกต่างกันไป ตั้งแต่ หยดเล็กน้อยไปจนถึงจิบสองสามจิบ ขึ้นอยู่กับรุ่น ความยาว และสถานที่ที่ใช้งาน การฝึกฝนต้องอาศัยน้ำปริมาณมาก ไม่ใช่แค่น้ำขัง” จากนั้นยกตัวอย่างสักหนึ่งหรือสองตัวอย่างจากที่กล่าวมาข้างต้น -
AI แย่เป็นพิเศษหรือไม่?
มัน กระจุก : ชิปพลังงานสูงที่อัดแน่นอยู่ด้วยกันทำให้เกิดภาระการระบายความร้อนขนาดใหญ่ แต่ศูนย์ข้อมูลก็เป็นสถานที่ที่เทคโนโลยีประสิทธิภาพที่ดีที่สุดมักจะมาถึงก่อน [1][4] -
ถ้าเราเปลี่ยนทุกอย่างไปใช้ระบบระบายความร้อนด้วยอากาศล่ะ?
คุณอาจลด ในสถานที่ แต่เพิ่มการใช้ นอกสถานที่ โดยใช้ไฟฟ้า ผู้ปฏิบัติงานที่มีความเชี่ยวชาญจะพิจารณาทั้งสองอย่าง [1][5] -
แล้วเทคโนโลยีในอนาคตล่ะ?
การออกแบบที่ หลีกเลี่ยงการใช้น้ำหล่อเย็น ในระดับใหญ่จะเป็นการเปลี่ยนแปลงครั้งสำคัญสำหรับขอบเขตที่ 1 ผู้ดำเนินการบางรายกำลังดำเนินการไปในทิศทางนี้ กระแสไฟฟ้าต้นน้ำยังคงส่งสัญญาณน้ำอยู่จนกว่าโครงข่ายจะเปลี่ยนแปลง [4]
ข้อสรุปสุดท้าย - ยาวเกินไป ฉันอ่านไม่จบ 🌊
-
ต่อข้อความแจ้งเตือน: คิดตั้งแต่ ระดับมิลลิลิตรย่อยไปจนถึงหลายสิบมิลลิลิตร ขึ้นอยู่กับรุ่น ความยาวของข้อความแจ้งเตือน และตำแหน่งที่ใช้งาน ข้อความแจ้งเตือนโดยเฉลี่ยประมาณ 0.26 มิลลิลิตร บนสแต็กหลักหนึ่งชุด และ ประมาณ 45 มิลลิลิตรสำหรับการตอบกลับ 400 โทเค็น บนสแต็กอื่น [1][2]
-
การฝึกอบรม: หลายล้านลิตร สำหรับโมเดลล้ำสมัย ทำให้การจัดตารางเวลา การเลือกสถานที่ และเทคโนโลยีการระบายความร้อนมีความสำคัญอย่างยิ่ง [3]
-
สิ่งที่ต้องทำ: ปรับขนาดโมเดลให้เหมาะสม เลือกพื้นที่ประหยัดน้ำ ย้ายงานหนักไปทำในช่วงเวลาที่อากาศเย็นกว่า เลือกผู้ขายที่เสนอการออกแบบที่ประหยัดน้ำ และเรียกร้องขอบเขตที่โปร่งใส [1][3][4][5]
สุดท้ายนี้ ขอใช้คำอุปมาอุปไมยที่อาจไม่สมบูรณ์แบบนัก: AI เปรียบเสมือนวงออร์เคสตราที่กระหายน้ำ ทำนองเพลงคือการประมวลผล แต่กลองคือระบบระบายความร้อนและน้ำประปา ปรับจูนวงดนตรี แล้วผู้ชมก็ยังคงได้ฟังดนตรีโดยไม่ต้องเปิดเครื่องพ่นน้ำ 🎻💦
เอกสารอ้างอิง
-
บล็อก Google Cloud - AI ของ Google ใช้พลังงานเท่าไหร่? เราคำนวณแล้ว (วิธีการวิเคราะห์ + ~0.26 มล . ต่อข้อความแจ้งเตือน, ค่าใช้จ่ายในการให้บริการทั้งหมด) ลิงก์
(เอกสารทางเทคนิค PDF: การวัดผลกระทบต่อสิ่งแวดล้อมของการใช้งาน AI ในระดับ Google ) ลิงก์ -
Mistral AI - ผลงานของเราในการสนับสนุนมาตรฐานด้านสิ่งแวดล้อมระดับโลกสำหรับ AI (LCA ด้วย ADEME/Carbone 4; การฝึกอบรมและการใช้งานเบื้องต้น ประมาณ 281,000 m³ ประมาณ 45 mL ต่อ 400 โทเค็น การอนุมานแบบมาร์จินัล) ลิงก์
-
Li et al. - การทำให้ AI ใช้พลังงานน้อยลง: การเปิดเผยและแก้ไขปัญหาการใช้น้ำอย่างลับๆ ของโมเดล AI (การฝึกฝนด้วย น้ำหลายล้านลิตร การ จัดตารางเวลาที่คำนึงถึงเวลาและสถาน ที่ การดึงน้ำออกเทียบกับการบริโภค) ลิงก์
-
ไมโครซอฟต์ - ศูนย์ข้อมูลรุ่นใหม่ไม่ใช้น้ำในการระบายความร้อนเลย (การออกแบบระบายความร้อนโดยตรงถึงชิปโดยมุ่งเป้าไปที่การระบายความร้อนแบบไม่ใช้น้ำในบางพื้นที่) ลิงก์
-
ศูนย์ข้อมูลของ Google - การดำเนินงานอย่างยั่งยืน (การแลกเปลี่ยนผลประโยชน์ด้านการระบายความร้อนในแต่ละไซต์ การรายงานและการนำกลับมาใช้ใหม่ รวมถึงน้ำเสียที่ผ่านการบำบัด/น้ำทิ้ง การใช้งานทั่วไปในแต่ละวันในระดับไซต์) ลิงก์