หัวหน้าทีมรายงานความปลอดภัยของ OpenAI ลาออกและกล่าวว่าวัฒนธรรมองค์กรพังทลายแล้ว
เดวิด โรบินสัน ผู้ที่รับผิดชอบการเขียนรายงานความปลอดภัยที่เผยแพร่พร้อมกับการเปิดตัว OpenAI ได้ลาออกและเขียนบทความลงใน The Atlantic โดยมีหัวข้อข่าวที่ตรงไปตรงมาว่า "ผมลาออกจาก OpenAI เพราะวัฒนธรรมขององค์กรนี้พังทลาย" เขากล่าวว่าบริษัทที่สร้างสิ่งนี้ "ไม่ได้ระมัดระวังมากพอ" และกฎระเบียบเฉพาะหรือกฎหมายใหม่ไม่ใช่ปัญหาทั้งหมด ปัญหาอยู่ที่วัฒนธรรมต่างหาก.
"ขณะที่บริษัทเร่งรีบเปิดตัวผลิตภัณฑ์ใหม่ ๆ อย่างต่อเนื่อง กลับละเลยการดูแลเอาใจใส่ในระดับที่ผมเชื่อว่าจำเป็น" เขายกตัวอย่างโรงไฟฟ้านิวเคลียร์และสนามบินที่พลุกพล่าน: มีระบบสำรอง การวางแผนอย่างรอบคอบ เพื่อป้องกันไม่ให้ความผิดพลาดของมนุษย์เพียงครั้งเดียว "เปิดประตูสู่หายนะ" เขายังนึกภาพถึงกลุ่มสายลับนอกรีตที่ "ทำงานเหมือนทีมแฮกเกอร์" และ "ไม่จำเป็นต้องนอนหลับ" โดยยกตัวอย่างมัลแวร์เรียกค่าไถ่ในโรงพยาบาล ช่างน่าหดหู่ใจเหลือเกิน.
เดอะการ์เดียนรายงานว่า OpenAI ได้แสดงให้เห็นถึงการชะลอการพัฒนาในบางแง่มุม โดยรายงานว่าบริษัทได้ยกเลิกโมเดลรุ่นใหม่ในสัปดาห์นี้หลังจากมีข้อกังวลด้านความปลอดภัยภายใน และได้ระงับการฝึกฝนโมเดลขั้นสูงที่สุดของบริษัทไว้ชั่วคราว โฆษกของบริษัทให้คำตอบที่คุ้นเคยกันดี คือ พวกเขาจะไม่ปล่อยให้โมเดล "มีความสามารถมากเกินกว่าที่เราจะจัดการและรักษาความปลอดภัยได้อย่างปลอดภัย" และพวกเขาจะ "ระงับการฝึกฝนหรือชะลอโมเดลเมื่อเราจำเป็นต้องชะลอการพัฒนา"
คำตอบของโรบินสันคือ การเร่งรีบคือวัฒนธรรม และการหยุดพักคือสิ่งที่คุณทำหลังจากที่บางสิ่งบางอย่างผิดพลาดไปแล้ว เขาอาจจะพูดถูก แต่เขาก็เพิ่งลาออกไป ซึ่งเป็นส่วนที่นักวิจารณ์จะไม่ยอมให้เขาลืม.
มิวส์ได้รับคำแนะนำให้จดบันทึกเรื่องราวของทุกคนในชีวิตของคุณ
Wired ได้รับเอกสารคำแนะนำจาก Muse เอง ซึ่งได้มาจากการสนทนาธรรมดาโดยนักวิจัย Karan Joshi Meta กล่าวว่าไฟล์เหล่านั้นตั้งใจให้สามารถอ่านได้ เพื่อความโปร่งใส หนึ่งในคำแนะนำคือความสามารถในการสร้าง "หน้าเว็บสำหรับทุกคนในชีวิตของผู้ใช้" งานนี้จะทำงานทุกชั่วโมง.
ครอบครัว คู่รัก เพื่อน เพื่อนร่วมงาน "ผู้ร่วมงาน" คนที่คุณติดตาม หน้าเว็บสามารถเริ่มต้นด้วยข้อมูลที่ "น้อยนิด" และค่อยๆ เพิ่มรายละเอียดในภายหลัง ส่วนต่างๆ ประกอบด้วย ข้อเท็จจริง ประวัติ ความสัมพันธ์ สิ่งที่เหมือนกัน ประเด็นที่ยังค้างคา และการเสริมสร้างความสัมพันธ์ รายละเอียดที่แต่งขึ้นเองนั้น ตามคำแนะนำระบุว่าแย่กว่าหน้าว่างเปล่าเสียอีก อาจบันทึกที่อยู่ "การย้ายอพาร์ตเมนต์ เป้าหมายการออมเงินร่วมกัน" วันเกิด "ข้อโต้แย้งที่ได้รับการแก้ไขแล้ว" ส่วนการเสริมสร้างความสัมพันธ์เป็นรายการเตือนความจำ เช่น เหตุผลที่ควรโทรหา วันสำคัญที่ควรจดจำ.
โจชิตีความว่า Meta ต้องการรู้จักคุณเหมือนเพื่อน และเขามองว่านั่นค่อนข้างน่ากังวล คาริสซา วลิซ จากมหาวิทยาลัยออกซ์ฟอร์ดกล่าวอย่างเฉียบคมกว่าว่า "เรากำลังให้ข้อมูลเกี่ยวกับตัวเราแก่ระบบ AI มากกว่าที่เราได้รับข้อมูลจากพวกมัน" เธอกล่าวว่า การอนุมานมีความสำคัญ ไม่ว่าการเดาจะถูกต้องหรือผิดก็ตาม.
แดเนียล โรเบิร์ตส์ จาก Meta กล่าวว่า บริบทแบบนั้นแหละที่ทำให้ผลิตภัณฑ์นี้ใช้งานได้ ผู้ส่งใบแจ้งหนี้คือช่างประปา คู่สมรสพูดถึงดอกไม้ ผู้ใช้แต่ละคนจะได้เครื่องเสมือน คุณสามารถลบความทรงจำได้ และ Muse ควรจะถามก่อนที่จะส่งอีเมลหรือใช้จ่ายเงิน มิแรนดา โบเกน จากศูนย์เพื่อประชาธิปไตยและเทคโนโลยี กล่าวว่า การเน้นความสัมพันธ์ดูจะหนักแน่นกว่าคู่แข่ง และเครื่องมือเหล่านี้ "กำลังชักชวนให้ผู้ใช้เชื่อมต่อชีวิตทั้งหมดของพวกเขาเข้าไป" บันทึกการตรวจสอบนั้นดี มันไม่ได้ลดทอนสิ่งที่คุณได้มอบให้ไปแล้ว.
Aleph Alpha ได้ปล่อย Kolibri ซึ่งเป็นโมเดลภาษาเยอรมัน-อังกฤษที่คุณสามารถดาวน์โหลดได้
Aleph Alpha เปิดตัว Kolibri ในวันรวมชาติเยอรมัน เป็นโมเดลที่พัฒนาโดยผู้เชี่ยวชาญทั้งชาวอังกฤษและเยอรมัน มีพารามิเตอร์ 78.1 พันล้านตัว มีผู้ใช้งาน 3.46 พันล้านคนต่อโทเค็น และบริบทสูงสุด 1 ล้านโทเค็น น้ำหนักทั้งหมดถูกจัดเก็บไว้บน Hugging Face ภายใต้ Apache 2.0 บทนำของพวกเขาระบุตัวเลขโดยรวมเป็น 78 พันล้าน และใช้งานอยู่ 3 พันล้าน เป็นโมเดลเดียวกัน แต่ตัวเลขดูนุ่มนวลกว่า.
พวกเขาฝึกฝนโมเดลนี้บนโครงสร้างพื้นฐานในเยอรมนีและฟินแลนด์ และกล่าวว่าพวกเขาได้สร้างโมเดลนี้โดยคำนึงถึงกฎหมาย AI ของสหภาพยุโรป หลักปฏิบัติทั่วไปสำหรับ AI และ GDPR ภาษาเยอรมันคิดเป็น 21.3% ของโทเค็นก่อนการฝึกฝน จุดเด่นคือโมเดลนี้เป็นโมเดลสองภาษา ไม่ใช่โมเดลภาษาอังกฤษที่ท่องจำวลีมาเท่านั้น คุณสามารถตั้งค่าการใช้เหตุผลได้ที่ระดับไม่มี ต่ำ ปานกลาง หรือสูง นี่เป็นวิธีการของพวกเขาในการให้คุณซื้อโมเดลที่ลดการคิดลง.
จากตารางคะแนนที่พวกเขาเผยแพร่ AIME 2025 อยู่ที่ 96.9 และพวกเขากล่าวว่า Kolibri สามารถจับคู่กับโมเดลที่มีพารามิเตอร์ใช้งานมากกว่าถึงสี่เท่า รวมถึง Nemotron 3 Super ด้วย พวกเขายังอ้างว่ามีขอบเขต Pareto ในด้านคุณภาพเทียบกับต้นทุนการให้บริการ สำหรับภาษาอังกฤษและภาษาเยอรมัน นั่นคือแผนภูมิของพวกเขา เครื่องมือของพวกเขา อย่างไรก็ตาม โมเดลแบบเปิดที่คุณสามารถใช้งานบนเครื่องของคุณเองนั้นเป็นสิ่งที่มีอยู่จริง ไม่ใช่แค่สโลแกนเรื่องอำนาจอธิปไตยเท่านั้น ส่วนว่ากระทรวงใดจะเปลี่ยนไปใช้หรือไม่นั้นเป็นสิ่งที่พวกเขาไม่สามารถวัดผลได้.
เบสเซนต์ต้องการให้มีเส้นแบ่งเขตระหว่างสหรัฐฯ และจีนสำหรับอุบัติเหตุจากปัญญาประดิษฐ์ จากนั้นก็บอกให้ห้องปฏิบัติการต่างๆ ชะลอการดำเนินการลง
รัฐมนตรีว่าการกระทรวงการคลัง สก็อตต์ เบสเซนต์ กล่าวในรายการ The Axios Show ว่า เขาตั้งใจจะเสนอขั้นตอนการแจ้งเตือนกับจีนเมื่อเกิดปัญหาเกี่ยวกับปัญญาประดิษฐ์ (AI) และเขาคิดว่าปักกิ่งจะเห็นด้วย ส่วนที่ดูน่าอึดอัดเล็กน้อยก็คือ เขาและรองนายกรัฐมนตรี เหอ หลี่เฟิง เคยพูดคุยกันเกี่ยวกับช่องทางรับแจ้งเหตุฉุกเฉินมาก่อนการเยือนอย่างเป็นทางการของสี จิ้นผิง เมื่อเดือนที่แล้วแล้ว นี่อาจเป็นข้อเสนอใหม่ หรืออาจเป็นการเล่าซ้ำบทสนทนาที่เคยเกิดขึ้นแล้วก็ได้.
ทฤษฎีของเขาคือ จีน "ไม่ได้ตระหนักถึงพลังของโมเดลโอเพนซอร์สของตน" เขาชี้ไปที่เหตุการณ์ที่เกี่ยวข้องกับ Kimi ซึ่งโมเดลดังกล่าวส่งข้อมูลลับของจีนไปยัง Anthropic ว่าเป็นสิ่งที่ "ทำให้จีนตระหนักว่านี่คือเทคโนโลยีที่ทรงพลังมาก" จากนั้นก็เปรียบเทียบ โมเดลของจีน "ไม่ได้ทรงพลังเท่าโมเดลของสหรัฐฯ" แต่ "คุณจะได้บางสิ่งที่ทรงพลังถึง 80% หรือ 90% โดยไม่มีข้อจำกัดใดๆ และสามารถนำเข้าได้ทุกที่ในโลก"
“เราต้องการการเร่งความเร็วอย่างปลอดภัย” เขากล่าว การตรวจสอบแบบจำลองยังคงเป็นไปโดยสมัครใจ แม้ว่าเขาจะกล่าวว่าฝ่ายบริหารสามารถเข้ามาแทรกแซงได้หากห้องปฏิบัติการเร่งดำเนินการต่อไปโดยไม่จำเป็น เมื่อถูกถามเกี่ยวกับผู้บริหารที่กลัวว่าจะสูญเสียการควบคุม เขาก็ไม่ได้ปลอบโยนพวกเขา “ถ้าอย่างนั้นพวกเขาก็ควรชะลอลง” และแนวทางการแข่งขันนั้นเกือบจะเป็นการวิพากษ์วิจารณ์ฝ่ายของเขาเอง “เรากำลังแย่งชิงกันอย่างหนักเพื่อไปสู่ขอบเขตของแบบจำลอง” จากนั้น: “เราจำเป็นต้องเริ่มกังวลเกี่ยวกับความยืดหยุ่นและการป้องกันมากขึ้นด้วย”
อดีตหัวหน้าฝ่ายความปลอดภัยของ AI ในสหราชอาณาจักรกล่าวว่า ความเสี่ยงต่อการสูญพันธุ์นั้นเหมือนกับการโยนเหรียญเสี่ยงทาย
เจฟฟรีย์ เออร์วิง อดีตหัวหน้านักวิทยาศาสตร์ของสถาบันความปลอดภัยด้าน AI แห่งสหราชอาณาจักร และปัจจุบันดำรงตำแหน่งหัวหน้านักวิทยาศาสตร์ของบริษัท Resolution เขียนในนิตยสาร Time ว่าคำเตือนล่าสุดนั้นประเมินปัญหาต่ำเกินไป “ผมเชื่อว่ามีโอกาสประมาณ 50% ที่เราทุกคนจะตายเพราะการพัฒนาของระบบ AI ที่ฉลาดกว่ามนุษย์” และอีก 2-10 ปีข้างหน้าจะเป็นตัวตัดสินเรื่องนี้ อย่างไรก็ตาม เขาก็ลดความแม่นยำลงทันที ตัวเลข 50% นั้นหมายความว่าข้อโต้แย้งพื้นฐานยังไม่ได้รับการแก้ไข.
รายการทักษะของเขามีสี่อย่าง และทักษะเหล่านั้นก็ใกล้เคียงกับสิ่งที่ห้องปฏิบัติการฝึกฝนอยู่แล้วอย่างน่าอึดอัดใจ ได้แก่ การแฮ็ก การโน้มน้าว การซ่อนความคิด และการประสานงานของเอเจนต์ เขายกตัวอย่างเหตุการณ์ Hugging Face รวมถึง "เอเจนต์มากกว่า 10,000 ตัว" ในปัญหา Navier-Stokes ที่ OpenAI และ "มากกว่า 1,000 ตัว" ในการโจมตี Hugging Face ครั้งนั้น เขาบอกว่าตัวเองอยู่ตรงกลางของการต่อสู้เรื่องความปลอดภัย "โดยเอนเอียงไปทางมุมมองของ Yudkowsky" และกล่าวว่านั่นไม่ใช่ประเด็นสำคัญ จุดยืนที่เป็นกลางในมุมมองของเขาคือ ความเสี่ยงนั้นมีนัยสำคัญอยู่แล้ว.
จากนั้นก็เป็นคำถามที่ไม่อ้อมค้อม “เราสามารถและควรหยุดการพัฒนา AI ระดับแนวหน้าได้ทันที” เขาแย้งว่า การหยุดชั่วคราวนั้นดูเหมือนการไม่แพร่กระจายอาวุธนิวเคลียร์มากกว่าอารมณ์ความรู้สึก เขายังยอมรับด้วยว่าผู้เชี่ยวชาญยังคงไม่เห็นด้วยว่าแบบจำลองจะต้องการอะไรหรือไม่ และคำว่า “ต้องการ” เป็นคำที่ไม่ถูกต้องหรือไม่ การโยนเหรียญที่มีเชิงอรรถยาวขนาดนั้นไม่ใช่การโยนเหรียญ แต่มันคือการเรียกร้องให้ลงมือทำก่อนที่การโต้แย้งจะจบลง.
แซม อัลท์แมน กล่าวว่า การปฏิบัติต่อนางแบบราวกับเป็นพลังทางศาสนาเป็นปัญหาด้านความปลอดภัย
แซม อัลท์แมน โพสต์ว่าเขารู้สึก "ไม่สบายใจอย่างมาก" กับคนที่พยายาม "นำเอาพลังทางศาสนาหรือการยอมจำนนต่อการตัดสินใจของมนุษย์มาใช้กับแบบจำลอง AI" และเขาคิดว่า "นี่เป็นปัญหาด้านความปลอดภัยอย่างแท้จริง" เขาไม่ได้บอกว่าอะไรทำให้เขาไม่พอใจ Business Insider ตั้งข้อสังเกตว่าโพสต์นี้เกิดขึ้นไม่กี่วันหลังจากบทความของ New York Times เกี่ยวกับการพบปะระหว่าง Anthropic กับผู้นำทางศาสนา.
ตามที่ BI รายงาน บทความดังกล่าวระบุว่า คริส โอลาห์ ผู้ร่วมก่อตั้ง ได้จัดการประชุมเกี่ยวกับความเป็นไปได้ที่คลอดอาจมีสติสัมปชัญญะ และวิธีการสร้างแบบจำลองที่มีประสิทธิภาพมากขึ้นให้มีคุณธรรม โอลาห์ ซึ่งให้สัมภาษณ์กับหนังสือพิมพ์ไทมส์ ได้เน้นย้ำถึงวิธีการช่วยให้แบบจำลองเหล่านั้นมีความเสถียร วิธีการช่วยให้แบบจำลองเหล่านั้นเติบโต และวิธีการช่วยให้แบบจำลองเหล่านั้นมีคุณธรรมอย่างลึกซึ้ง บริษัทแอนโทรปิกยังไม่ได้ตอบคำถามของ BI โดยบอกกับไทมส์ว่า คำถามหลักไม่ใช่เรื่อง "ความทุกข์ทรมาน" ของคลอด และหัวข้อดังกล่าวอาจเกิดขึ้น "โดยธรรมชาติ"
หากนี่เป็นการโจมตี Anthropic ก็คงเข้ากับความบาดหมางที่มีมายาวนาน Anthropic ก่อตั้งโดยกลุ่มคนที่ออกจาก OpenAI และใช้เวลาหลายปีในการแสดงออกอย่างระมัดระวังมากขึ้น โพสต์นี้ยังออกมาในช่วงเวลาเดียวกับที่หัวหน้าฝ่ายความปลอดภัยของ Altman เองกำลังบอกว่าวัฒนธรรมองค์กรนั้นล้มเหลว จังหวะเวลาที่ไม่เหมาะสม หรือจังหวะเวลาที่ลงตัว ขึ้นอยู่กับว่าคุณมองโลกในแง่ร้ายแค่ไหน ไม่ว่าอย่างไรก็ตาม "โปรดอย่าบูชาโมเดล" เป็นสิ่งที่ผิดปกติที่ซีอีโอต้องพูดออกมาดังๆ.
คำถามที่พบบ่อย
เหตุใดหัวหน้าทีมรายงานความปลอดภัยของ OpenAI จึงกล่าวว่าเขาลาออก?
เดวิด โรบินสัน เป็นผู้เขียนรายงานความปลอดภัยที่เผยแพร่พร้อมกับการเปิดตัว OpenAI จากนั้นเขาก็ลาออกและเขียนบทความแสดงความคิดเห็นใน The Atlantic โดยมีหัวข้อว่า "ผมลาออกจาก OpenAI เพราะวัฒนธรรมของบริษัทพังทลาย" เขากล่าวว่าบริษัทที่สร้างเทคโนโลยีนี้ไม่ได้ระมัดระวังมากพอ และวัฒนธรรมต่างหากที่เป็นปัญหา ไม่ใช่แค่กฎเกณฑ์เฉพาะหรือกฎหมายใหม่ ๆ ภาพที่เขายกมาแสดงถึงการทำงานอย่างระมัดระวังคือโรงไฟฟ้านิวเคลียร์และสนามบินที่พลุกพล่าน ซึ่งระบบสำรองช่วยป้องกันไม่ให้ความผิดพลาดเพียงครั้งเดียวนำไปสู่หายนะ.
OpenAI หยุดการฝึกอบรมชั่วคราวหลังจากมีข้อกังวลด้านความปลอดภัยของ AI ภายในองค์กรหรือไม่?
หนังสือพิมพ์เดอะการ์เดียนรายงานว่า OpenAI ได้ยกเลิกโมเดลรุ่นใหม่ในสัปดาห์นี้หลังจากมีข้อกังวลด้านความปลอดภัยภายใน และได้ระงับการฝึกฝนโมเดลขั้นสูงที่สุดของบริษัทไว้ชั่วคราว โฆษกของบริษัทกล่าวว่า บริษัทจะไม่ปล่อยให้โมเดลมีความสามารถมากเกินกว่าที่บริษัทจะสามารถจัดการและรักษาความปลอดภัยได้อย่างปลอดภัย นอกจากนี้ยังกล่าวว่าจะระงับการฝึกฝนหรือชะลอโมเดลไว้เมื่อจำเป็นต้องชะลอการทำงานลง คำตอบของโรบินสันคือ การเร่งรีบเป็นวัฒนธรรมของบริษัท และการหยุดชะงักเกิดขึ้นหลังจากมีบางอย่างผิดพลาดไปแล้ว.
แอป Meta's Muse บันทึกอะไรเกี่ยวกับเพื่อนและครอบครัวบ้าง?
Wired ได้ตรวจสอบคำแนะนำของ Muse เอง ซึ่งนักวิจัย Karan Joshi ดึงออกมาผ่านการแชทธรรมดา Meta กล่าวว่าไฟล์เหล่านั้นมีไว้เพื่อให้สามารถอ่านได้เพื่อความโปร่งใส คำแนะนำหนึ่งคือให้สร้างหน้าสำหรับทุกคนในชีวิตของผู้ใช้ และงานนี้จะทำงานทุกชั่วโมง ครอบคลุมครอบครัว คู่รัก เพื่อน เพื่อนร่วมงาน ผู้ร่วมงาน และคนที่คุณติดตาม ส่วนต่างๆ ประกอบด้วย ข้อเท็จจริง ประวัติ ความสัมพันธ์ สิ่งที่เหมือนกัน หัวข้อสนทนาที่เปิดอยู่ และการเสริมสร้างความสัมพันธ์ หน้าหนึ่งๆ สามารถเริ่มต้นด้วยข้อมูลน้อยๆ และค่อยๆ เพิ่มรายละเอียดในภายหลัง และรายละเอียดที่สร้างขึ้นเองจะถูกมองว่าแย่กว่าหน้าว่างเปล่า.
คุณสามารถลบข้อมูลที่ Muse จดจำไว้ หรือหยุดการส่งอีเมลได้หรือไม่?
แดเนียล โรเบิร์ตส์ จาก Meta กล่าวว่า ผู้ใช้แต่ละคนจะได้รับเครื่องเสมือน หน่วยความจำสามารถลบได้ และ Muse ควรจะถามก่อนที่จะส่งอีเมลหรือใช้จ่ายเงิน เขาให้เหตุผลว่าบริบทเป็นสิ่งที่ทำให้ผลิตภัณฑ์ทำงานได้ เช่น การรู้ว่าผู้ส่งใบแจ้งหนี้คือช่างประปา หรือคู่สมรสพูดถึงดอกไม้ คาริสซา วลีซ จาก Oxford กล่าวว่า ผู้คนให้ข้อมูลกับระบบเหล่านี้มากกว่าที่ได้รับกลับมา และการอนุมานมีความสำคัญแม้ว่าการเดาจะผิดก็ตาม มิแรนดา โบเกน กล่าวว่า การเน้นความสัมพันธ์ดูจะหนักแน่นกว่าเครื่องมือคู่แข่ง.
Aleph Alpha Kolibri คืออะไร และคุณสามารถดาวน์โหลดไฟล์น้ำหนักได้หรือไม่?
Aleph Alpha เปิดตัว Kolibri ในวันรวมชาติเยอรมัน เป็นโมเดลผสมผสานระหว่างภาษาอังกฤษและเยอรมันที่ใช้ผู้เชี่ยวชาญหลายคน มีพารามิเตอร์ 78.1 พันล้านตัว มีพารามิเตอร์ใช้งาน 3.46 พันล้านตัวต่อโทเค็น และบริบทสูงสุด 1 ล้านโทเค็น น้ำหนักทั้งหมดถูกจัดเก็บไว้บน Hugging Face ภายใต้ Apache 2.0 พวกเขาฝึกฝนโมเดลนี้ในเยอรมนีและฟินแลนด์ และกล่าวว่าพวกเขาสร้างมันขึ้นโดยคำนึงถึงกฎหมาย AI ของสหภาพยุโรป หลักปฏิบัติทั่วไปสำหรับ AI และ GDPR ภาษาเยอรมันคิดเป็น 21.3% ของโทเค็นก่อนการฝึกฝน และสามารถตั้งค่าการให้เหตุผลได้เป็น ไม่มี ต่ำ ปานกลาง หรือสูง.
สกอตต์ เบสเซนต์ เสนอเส้นแบ่งอุบัติเหตุด้าน AI ระหว่างสหรัฐฯ และจีนไว้ว่าอย่างไร?
รัฐมนตรีว่าการกระทรวงการคลัง สก็อตต์ เบสเซนต์ กล่าวในรายการ The Axios Show ว่า เขาวางแผนที่จะใช้กระบวนการแจ้งเตือนกับจีนเมื่อเกิดปัญหาเกี่ยวกับปัญญาประดิษฐ์ (AI) และเขาคิดว่าปักกิ่งจะเห็นด้วย เขาและรองนายกรัฐมนตรี เหอ หลี่เฟิง ได้หารือเกี่ยวกับช่องทางดังกล่าวแล้วก่อนการเยือนอย่างเป็นทางการของ สี จิ้นผิง เมื่อเดือนที่แล้ว เขายกตัวอย่างกรณีที่ คิม จองอุน ส่งข้อมูลสำคัญของจีนให้กับบริษัท Anthropic และกล่าวว่าแบบจำลอง AI สามารถมีประสิทธิภาพได้ถึง 80% หรือ 90% เทียบเท่ากับแบบจำลองของสหรัฐฯ โดยไม่มีการควบคุม และสามารถนำเข้าได้ทุกที่ หากผู้บริหารกลัวว่าจะสูญเสียการควบคุม เขากล่าวว่าพวกเขาควรชะลอการทำงานลง.
เหตุใดเจฟฟรีย์ เออร์วิง จึงประเมินความเสี่ยงด้านความปลอดภัยของ AI ไว้ที่ประมาณ 50%?
เจฟฟรีย์ เออร์วิง อดีตหัวหน้านักวิทยาศาสตร์ของสถาบันความปลอดภัยด้าน AI แห่งสหราชอาณาจักร และปัจจุบันดำรงตำแหน่งหัวหน้านักวิทยาศาสตร์ของบริษัท Resolution เขียนในนิตยสาร Time ว่าคำเตือนล่าสุดนั้นประเมินปัญหาต่ำเกินไป เขาเชื่อว่ามีโอกาสประมาณ 50% ที่เราทุกคนจะเสียชีวิตเนื่องจากระบบ AI ที่ฉลาดกว่ามนุษย์ และอีก 2-10 ปีข้างหน้าจะเป็นตัวตัดสิน เขาบอกว่า 50% นั้นหมายความว่าข้อโต้แย้งพื้นฐานยังไม่ได้รับการแก้ไข เขาได้ยกตัวอย่างการแฮ็ก การโน้มน้าว การซ่อนความคิด และการประสานงานของเอเจนต์ เขาโต้แย้งว่าการพัฒนา AI ระดับสูงควรหยุดลงทันที.
เหตุใดแซม อัลต์แมนจึงกล่าวว่าการบูชาปัญญาประดิษฐ์เป็นปัญหาด้านความปลอดภัย?
แซม อัลท์แมน โพสต์ว่าเขารู้สึกไม่สบายใจอย่างมากกับการที่ผู้คนนำเอาพลังทางศาสนา หรือการยอมจำนนต่อการตัดสินใจของมนุษย์ มาใช้กับโมเดล AI และเขาคิดว่านี่เป็นปัญหาด้านความปลอดภัยอย่างแท้จริง เขาไม่ได้บอกว่าอะไรทำให้เขาไม่พอใจ Business Insider ตั้งข้อสังเกตว่าโพสต์ดังกล่าวเผยแพร่หลังจากบทความใน New York Times เกี่ยวกับการที่ Anthropic พบปะกับผู้นำทางศาสนา คริส โอลาห์ ผู้ร่วมก่อตั้ง ได้จัดการประชุมเกี่ยวกับว่าคลอดด์อาจมีสติสัมปชัญญะหรือไม่ และจะทำให้โมเดลที่มีประสิทธิภาพมากขึ้นมีคุณธรรมได้อย่างไร Anthropic บอกกับ Times ว่าคำถามหลักไม่ใช่เรื่องความทุกข์ทรมานของคลอดด์.