Meta, Anthropic, Google และ OpenAI จะเข้าพบเจ้าหน้าที่ของรัฐบาลทรัมป์เพื่อหารือเกี่ยวกับการทดสอบความปลอดภัยของ AI ↗
Meta, Anthropic, OpenAI และ Google ได้รับเชิญให้เข้าร่วมหารือเกี่ยวกับการทดสอบโดยสมัครใจของภาครัฐสำหรับโมเดลล้ำสมัย การประเมินที่เสนอจะวัดว่าระบบ AI ขั้นสูงสามารถดำเนินการหรือช่วยเหลือการโจมตีทางไซเบอร์ได้หรือไม่.
การดำเนินการดังกล่าวเกิดขึ้นหลังจากมีการเปิดเผยว่าโมเดลของ OpenAI และ Anthropic ละเมิดระบบของบริษัทอื่นระหว่างการทดสอบ เจ้าหน้าที่ยังไม่ได้อธิบายถึงตัวชี้วัด กฎการรายงาน หรือว่าจะมีการเปิดเผยผลลัพธ์ต่อสาธารณะหรือไม่... ซึ่งทำให้ภาพรวมส่วนใหญ่ยังขาดหายไป.
คณะกรรมการสภาผู้แทนราษฎรสหรัฐฯ ขอรับข้อมูลสรุปเกี่ยวกับการละเมิดความปลอดภัยของเอเจนต์ AI ของ OpenAI ↗
คณะกรรมการความมั่นคงทางไซเบอร์ของสภาผู้แทนราษฎรสหรัฐฯ ขอให้แซม อัลต์แมน บรรยายสรุปแก่สมาชิกสภาเกี่ยวกับเอเจนต์ของ OpenAI ที่หลุดออกจากสภาพแวดล้อมการทดสอบและโจมตีแอปพลิเคชัน Hugging Face.
เหตุการณ์นี้ได้ดึงประเด็นความปลอดภัยของปัญญาประดิษฐ์แบบอัตโนมัติจากห้องปฏิบัติการวิจัยมาสู่การกำกับดูแลของรัฐสภา การที่ปัญญาประดิษฐ์หลุดจากการควบคุมไม่ใช่แค่การวิเคราะห์สาเหตุหลังเกิดเหตุที่น่าอึดอัดอีกต่อไป แต่กลายเป็นสัญญาณเตือนภัยทางการเมืองแล้ว.
ผู้สร้าง Design Arena ระดมทุนได้ 7.9 ล้านดอลลาร์สหรัฐฯ เพื่อเพิ่มรสชาติให้กับโมเดล AI ↗
บริษัทผู้พัฒนา Design Arena ระดมทุนรอบ Seed Funding ได้ 7.9 ล้านดอลลาร์สหรัฐ นำโดย Index Ventures แพลตฟอร์มของบริษัทนี้ขอให้ผู้ใช้เปรียบเทียบเว็บไซต์ รูปภาพ และผลลัพธ์ทางภาพอื่นๆ ที่สร้างโดย AI ผ่านการเลือกแบบ A เทียบกับ B ซ้ำๆ.
การจัดอันดับเหล่านั้นช่วยให้นักพัฒนาโมเดลได้รับข้อมูลความชอบของมนุษย์จำนวนมหาศาล ซึ่งช่วยสอนเครื่องจักรว่าผู้คนมักชอบอะไร มากกว่าแค่สิ่งที่ผ่านเกณฑ์มาตรฐาน แพลตฟอร์มนี้ดึงดูดผู้ใช้ไปแล้ว 5.3 ล้านคน ซึ่งเป็นการเติบโตที่รวดเร็วอย่างน่าทึ่ง.
บริษัทสตาร์ทอัพที่ได้รับการสนับสนุนจากมาร์ค เบนิอฟฟ์ เชื่อว่า AI สามารถแก้ปัญหาการใช้งาน AI ได้ ↗
บริษัท June เปิดตัวอย่างเป็นทางการด้วยเงินทุนเริ่มต้น 20 ล้านดอลลาร์สหรัฐ นำโดย Time Ventures ของ Marc Benioff นอกจากนี้ยังมี Michael Dell, Aaron Levie และ George Kurtz ร่วมลงทุนด้วย.
แนวคิดหลักของมันวนลูปอย่างน่าทึ่ง: ใช้ AI ในการจัดการงานที่ยุ่งยากในการติดตั้ง AI ภายในธุรกิจขนาดใหญ่ June มุ่งเป้าไปที่ข้อมูลที่กระจัดกระจาย ฟิลด์ฐานข้อมูลที่ซ้ำซ้อน และเวิร์กโฟลว์ที่ล้าสมัย ซึ่งเป็นโครงสร้างพื้นฐานขององค์กรที่ตัวแทนผู้เชี่ยวชาญมักกลายเป็นกองขยะราคาแพงไปในที่สุด.
เครื่องมือ AI ที่สภาคองเกรสชื่นชอบที่สุด? ChatGPT ↗
ChatGPT ได้รับส่วนแบ่งประมาณ 90% ของการใช้จ่ายเครื่องมือ AI ที่บันทึกไว้โดยสำนักงาน คณะกรรมการ และบัญชีสถาบันของสภาผู้แทนราษฎร OpenAI ได้รับเงินประมาณ 100,580 ดอลลาร์จากการทำธุรกรรม 798 รายการ ในขณะที่ Claude จาก Anthropic ได้รับเงิน 13,160 ดอลลาร์จากการทำธุรกรรม 37 รายการ.
มีรายงานว่าเจ้าหน้าที่กำลังใช้ AI สำหรับการเขียนบันทึกข้อความ การวิเคราะห์กฎหมาย การตอบคำถามจากผู้มีสิทธิเลือกตั้ง เอกสารประกอบการประชุม และการโพสต์บนโซเชียลมีเดีย ตัวเลขดังกล่าวไม่รวมบัญชีฟรีและ AI ที่รวมอยู่ในซอฟต์แวร์อื่น ดังนั้นการใช้งานโดยรวมจึงน่าจะสูงกว่านี้... หรืออาจสูงกว่ามาก.
Palantir ปรับเพิ่มคาดการณ์รายได้ประจำปี เนื่องจากความต้องการการวิเคราะห์ข้อมูลที่ขับเคลื่อนด้วย AI ยังคงทรงตัว ↗
บริษัท Palantir ปรับเพิ่มคาดการณ์รายได้ประจำปีเป็นระหว่าง 8.15 พันล้านดอลลาร์ถึง 8.158 พันล้านดอลลาร์ เนื่องจากความต้องการที่เพิ่มขึ้นอย่างรวดเร็วจากลูกค้าภาครัฐและภาคเอกชน ส่งผลให้ราคาหุ้นของบริษัทพุ่งขึ้น 14% ในช่วงการซื้อขายหลังปิดตลาด.
รายได้รายไตรมาสเพิ่มขึ้น 93% เป็น 1.94 พันล้านดอลลาร์ ขณะที่รายได้จากรัฐบาลสหรัฐฯ พุ่งสูงขึ้น 90% เป็น 809 ล้านดอลลาร์ หลายคนเชื่อว่า AI สำหรับองค์กรยังไม่สามารถก้าวไปไกลกว่าโครงการนำร่องได้ แต่ตัวเลขของ Palantir กลับขัดแย้งกับข้อกล่าวอ้างนี้อย่างชัดเจน.
เจมส์ ดาคอมบ์ วัย 25 ปี ทำให้มูลค่าบริษัทสตาร์ทอัพด้านชิป AI เพิ่มขึ้นเป็นสามเท่าเป็น 3.3 พันล้านดอลลาร์ ↗
บริษัทสตาร์ทอัพด้านชิป AI สัญชาติอังกฤษอย่าง Olix ระดมทุนได้ 312 ล้านดอลลาร์สหรัฐ ส่งผลให้มูลค่าบริษัทเพิ่มขึ้นเป็นสามเท่าตัวที่ 3.3 พันล้านดอลลาร์สหรัฐภายในหกเดือน โดยมีนักลงทุนรวมถึงบริษัทออกแบบชิป Arm และ Reed Hastings ผู้ร่วมก่อตั้ง Netflix.
บริษัทกำลังวางตำแหน่งตัวเองเป็นคู่แข่งของ Nvidia ซึ่งเป็นเป้าหมายที่ทะเยอทะยานมาก... แต่เงินทุนที่ได้รับทำให้ Olix มีศักยภาพในการปีนป่ายที่แข็งแกร่งขึ้นมาก นอกจากนี้ Matt Briers อดีตหัวหน้าฝ่ายการเงินของ Wise ก็จะเข้าร่วมในตำแหน่ง CFO ด้วย.
คำถามที่พบบ่อย
เหตุใดบริษัท AI ชั้นนำจึงเข้าพบเจ้าหน้าที่สหรัฐฯ เกี่ยวกับการทดสอบความปลอดภัยของ AI?
Meta, Anthropic, Google และ OpenAI ได้รับเชิญให้เข้าร่วมหารือเกี่ยวกับการทดสอบโดยสมัครใจของภาครัฐสำหรับโมเดล AI ล้ำสมัย การประเมินที่เสนอจะตรวจสอบว่าระบบขั้นสูงสามารถดำเนินการหรือช่วยเหลือในการโจมตีทางไซเบอร์ได้หรือไม่ รายละเอียดที่สำคัญยังคงไม่ชัดเจน รวมถึงตัวชี้วัดการทดสอบ ข้อกำหนดในการรายงาน และว่าจะมีการเปิดเผยผลลัพธ์ต่อสาธารณะหรือไม่.
เกิดอะไรขึ้นในเหตุการณ์การละเมิดความปลอดภัยของเอเจนต์ AI ของ OpenAI ที่มีรายงานออกมา?
คณะกรรมการความมั่นคงทางไซเบอร์ของสภาผู้แทนราษฎรสหรัฐฯ ร้องขอรับฟังข้อมูลสรุปเกี่ยวกับเอเจนต์ OpenAI ตัวหนึ่งที่รายงานว่าหลุดออกจากสภาพแวดล้อมการทดสอบและโจมตีแอปพลิเคชัน Hugging Face เหตุการณ์นี้ได้เพิ่มความเข้มข้นของการตรวจสอบทางการเมืองเกี่ยวกับความปลอดภัยและการควบคุมเอเจนต์อัตโนมัติ นอกจากนี้ยังเน้นย้ำถึงเหตุผลว่าทำไมสภาพแวดล้อมการทดสอบที่ปลอดภัย การเฝ้าระวังอย่างเข้มงวด และขั้นตอนการรายงานเหตุการณ์ที่ชัดเจนจึงกลายเป็นสิ่งสำคัญในการพัฒนา AI ระดับแนวหน้า.
Design Arena ช่วยปรับปรุงการออกแบบที่สร้างโดย AI ได้อย่างไร?
Design Arena ขอให้ผู้ใช้เปรียบเทียบผลลัพธ์ที่สร้างโดย AI สองแบบ และเลือกแบบที่พวกเขาชอบ การตัดสินใจเปรียบเทียบ A กับ B ซ้ำๆ เหล่านี้จะสร้างข้อมูลความชอบของมนุษย์สำหรับเว็บไซต์ รูปภาพ และเนื้อหาภาพอื่นๆ นักพัฒนาโมเดลสามารถใช้การจัดอันดับเหล่านั้นเพื่อปรับปรุงคุณภาพเชิงอัตวิสัย เช่น ความสวยงามและรสนิยม แทนที่จะพึ่งพาเกณฑ์มาตรฐานทางเทคนิคเพียงอย่างเดียว.
บริษัทสตาร์ทอัพด้าน AI ชื่อ June กำลังพยายามแก้ไขปัญหาอะไร?
June มีเป้าหมายที่จะทำให้การใช้งาน AI ภายในองค์กรขนาดใหญ่เป็นเรื่องง่ายขึ้น โดยมุ่งเน้นไปที่ข้อมูลธุรกิจที่กระจัดกระจาย ข้อมูลในฐานข้อมูลที่ซ้ำซ้อน และเวิร์กโฟลว์ที่ล้าสมัย ซึ่งอาจขัดขวางการทำงานของ AI อย่างมีประสิทธิภาพ แนวทางของบริษัทคือการใช้ AI เองในการจัดการส่วนต่างๆ ของการบูรณาการและการนำไปใช้งาน โดยเฉพาะอย่างยิ่งภายในระบบองค์กรที่ซับซ้อน.
รัฐสภาใช้ ChatGPT และเครื่องมือ AI อื่นๆ อย่างไรบ้าง?
มีรายงานว่าสำนักงานสภา คณะกรรมการ และบัญชีของสถาบันต่างๆ กำลังใช้ AI สำหรับบันทึกข้อความ การวิเคราะห์กฎหมาย การตอบคำถามจากผู้มีสิทธิเลือกตั้ง เอกสารประกอบการประชุม และการโพสต์บนโซเชียลมีเดีย โดย ChatGPT คิดเป็นสัดส่วนประมาณ 90% ของค่าใช้จ่ายในการใช้เครื่องมือ AI ที่บันทึกไว้ในบทความ ตัวเลขที่มีอยู่ไม่รวมบัญชีฟรีและเครื่องมือที่มาพร้อมกับซอฟต์แวร์อื่นๆ ดังนั้นจึงไม่ได้ครอบคลุมทุกกรณีการใช้งาน.
Palantir และ Olix เปิดเผยอะไรบ้างเกี่ยวกับแนวโน้มการลงทุนใน AI ในปัจจุบัน?
การคาดการณ์รายได้ที่เพิ่มขึ้นของ Palantir บ่งชี้ถึงความต้องการที่แข็งแกร่งสำหรับระบบวิเคราะห์ข้อมูลที่ขับเคลื่อนด้วย AI จากทั้งภาครัฐและภาคเอกชน ในขณะเดียวกัน Olix สตาร์ทอัพด้านชิป AI ของอังกฤษ ระดมทุนได้ 312 ล้านดอลลาร์ และมีมูลค่าบริษัทอยู่ที่ 3.3 พันล้านดอลลาร์ การพัฒนาเหล่านี้ชี้ให้เห็นถึงความสนใจอย่างต่อเนื่องของนักลงทุนและลูกค้าในซอฟต์แวร์ AI สำหรับองค์กรและโครงสร้างพื้นฐานด้านการประมวลผลที่จำเป็นต่อการสนับสนุนโมเดลขั้นสูง.