“เอาอยู่”กี่โมง? ไม่พูดดีกว่าไหม ถอดบทเรียนวนไป จากหาดใหญ่สู่กทม.

 

ผู้วิจัย AI อ้างลาออกจาก Anthropic พร้อมเตือน OpenAI และ Anthropic กำลังแข่งขันสร้าง Superintelligence โดยเสี่ยงต่ออนาคตมนุษยชาติ!

ผู้วิจัย AI อ้างลาออกจาก Anthropic พร้อมเตือน OpenAI และ Anthropic กำลังแข่งขันสร้าง Superintelligence โดยเสี่ยงต่ออนาคตมนุษยชาติ!

วันนี้ผมลาออกจาก Anthropic แล้ว ผมใช้เวลาสามปีที่ผ่านมาทำวิจัยเกี่ยวกับการเตรียมการฝึกโมเดลที่ทั้ง OpenAI และ Anthropic บริษัททั้งสองแห่งไม่ได้ทำอะไรอย่างมีความรับผิดชอบ พวกเขากำลังเร่งพัฒนาปัญญาประดิษฐ์ขั้นสูงที่พัฒนาตัวเองได้ และกำลังเสี่ยงชีวิตของเราอยู่ ความคิดเพิ่มเติมอยู่ด้านล่าง

อย่าประมาทพลังของเทคโนโลยีนี้ ในไม่ช้าสิ่งเหล่านี้จะกลายเป็นระบบเหนือมนุษย์ที่สามารถแฮ็กทุกสิ่ง ปฏิวัติวงการใดๆ ได้ในชั่วข้ามคืน และได้มาซึ่งอำนาจและทรัพยากรอย่างแท้จริง เราทุกคนได้เห็นความก้าวหน้าในแต่ละด้านเหล่านี้แล้ว และความก้าวหน้าก็ไม่ได้ชะลอตัวลง

ผู้คนที่กำลังพัฒนา AI เชื่ออย่างจริงจังว่ามันอาจฆ่าเราทุกคนได้ภายในสิ้นทศวรรษนี้ นี่ไม่ใช่กลยุทธ์ทางการตลาด หากจะมีอะไรเปลี่ยนแปลง ผู้บริหารและนักวิจัยอาวุโสหลายคนจะใช้ถ้อยคำที่ฟังดูสมเหตุสมผลในสื่อ แต่ผมได้ยินคนเหล่านั้นแสดงความกลัวออกมาเป็นการส่วนตัวเช่นกัน ไม่มีกิจกรรมใดของมนุษย์ที่ก่อให้เกิดอันตรายในระดับนี้

คำตอบที่พบบ่อยคือ “ถ้าพวกเขาเชื่ออย่างนั้นจริง ๆ ทำไมพวกเขายังคงสร้างมันอยู่?” ที่ OpenAI หลายคนยังไม่ได้ตระหนักถึงความสำคัญของผลกระทบต่ออารยธรรมอย่างลึกซึ้ง ส่วนที่ Anthropic พวกเขาเข้าใจถึงผลกระทบเป็นอย่างดี แต่พวกเขากำลังแข่งขันกันเพื่อให้บรรลุเป้าหมายก่อนใคร พวกเขาเชื่อว่าไม่มีใครจะทำอย่างรับผิดชอบ ดังนั้นพวกเขาจึงต้องทำเอง แม้จะมีความเสี่ยงก็ตาม

การยอมรับการแข่งขันนี้และเข้าสู่ "ช่วงสุดท้ายของเกม" เป็นการเสี่ยงที่โอหังเกินไป ซึ่งไม่ควรเริ่มต้นจากกลุ่มแชทใน Slack ของบริษัทเอกชน การพยายามเร่งความเร็วในการจัดแนวเส้นทางนั้น ต้องอาศัยความมั่นใจอย่างยิ่งว่าไม่มีเส้นทางที่ดีกว่านี้อีกแล้ว

ฉันมองในแง่ดีเกี่ยวกับศักยภาพในการประสานงาน สัญญาณเตือนอย่างเช่นการโจมตี Hugging Face ทำให้ข้อตกลงเรื่องจังหวะการพัฒนาเทคโนโลยีระหว่างห้องปฏิบัติการในสหรัฐฯ มีความเป็นไปได้มากขึ้น ฉันไม่รู้สึกว่าเรากำลังอยู่ในเส้นทางที่จะป้องกันการแข่งขันระดับโลก ซึ่งอาจต้องใช้มาตรการที่มีค่าใช้จ่ายสูง เช่น การห้ามชั่วคราวในการพัฒนาความสามารถของโมเดล

หากคุณเป็นนักวิจัยในห้องปฏิบัติการ ผมขอให้คุณลองพิจารณาดูว่าอีกไม่กี่ปีข้างหน้าจะเป็นอย่างไร คุณต้องการเริ่มต้นการจำลองแบบเสริมแรงที่มีปัญญาประดิษฐ์ขั้นสูงโดยปราศจากความเข้าใจอย่างถ่องแท้เกี่ยวกับความคิดของมันหรือไม่ คุณควรจะยอมแพ้เพราะ “มันจะเกิดขึ้นอยู่แล้ว” หรือควรใช้โอกาสนี้เรียกร้องให้มีเงื่อนไขที่แตกต่างออกไป?

Jacob Coxon

@hilbertspaess

https://x.com/hilbertspaess/status/2097476216139968662

AI “เสี่ยงทำร้ายเด็ก” หนักกว่ายุคโซเชียล

 

ค่ารักษาพยาบาลโตเร็วกว่า GDP ปี 2030 คาดรัฐแบกไม่ไหว บีบคนซื้อประกัน

 

บิล เกตส์ เตือน AI มีความทรงพลังมากพอจะทำให้มีผู้เสียชีวิตถึง " 1 พันล้านคน"

 บิล เกตส์ (Bill Gates) ผู้ร่วมก่อตั้ง Microsoft ได้ออกมาเตือน โดยเขาระบุว่า เทคโนโลยี AI ในปัจจุบันมีความทรงพลังมากพอที่จะเป็นต้นเหตุให้มีผู้เสียชีวิตถึง "หนึ่งพันล้านคน" ได้ หากตกไปอยู่ในมือของผู้ไม่หวังดี [1, 2]

คำเตือนดังกล่าวมาจากบทสัมภาษณ์ล่าสุดในรายการ Meet the Press ของสถานีโทรทัศน์ NBC โดยมีรายละเอียดสำคัญที่น่าสนใจดังนี้ครับ: [1]

⚠️ ประเด็นสำคัญจากคำเตือนของ Bill Gates

• อาวุธอันตรายที่สุดในประวัติศาสตร์: เกตส์ระบุว่า "ไม่มีอาวุธใดในประวัติศาสตร์จะทรงพลังไปกว่าการที่คนที่มีเจตนาร้าย (Ill Intent) นำเครื่องมือ AI รุ่นล่าสุดไปใช้ทำงาน" [1]
• ความเสี่ยงระดับพันล้านชีวิต: แม้ว่าการที่ AI จะทำลายล้างมนุษยชาติแบบ 100% เต็มจะเป็นเรื่องที่เกิดขึ้นได้ยาก แต่ประสิทธิภาพของมันในตอนนี้ "ทรงพลังพอ" ที่จะขับเคลื่อนให้เกิดเหตุการณ์รุนแรงระดับที่มีคนตายเป็นพันล้านคนได้ [1, 2]
• ภัยคุกคามหลัก: สิ่งที่เกตส์กังวลมากที่สุดคือการนำ AI ไปใช้ในทางที่ผิด เช่น การโจมตีทางไซเบอร์ขนาดใหญ่ (Cyberattacks) เพื่อทำลายระบบสาธารณูปโภค และภัยคุกคามจากก่อการร้ายทางชีวภาพ (Bioterrorism) โดยเขามองว่าความเสี่ยงด้านชีวภาพจากการใช้ AI ออกแบบเชื้อโรคตอนนี้สูงกว่าการระบาดตามธรรมชาติถึง 50 เท่า [1, 2]
• จี้รัฐบาลเข้าควบคุม: บิล เกตส์ เน้นย้ำว่าเราไม่สามารถปล่อยให้บริษัทเทคโนโลยี "ควบคุมและตรวจสอบตัวเอง" (Self-regulation) ได้ เพราะเครื่องมือนี้อันตรายเกินไป และเรียกร้องให้รัฐบาลทั่วโลกเร่งเข้ามาออกกฎหมายควบคุมอย่างจริงจัง [1, 2]

คำเตือนครั้งนี้ถือเป็นการส่งสัญญาณที่ตื่นตัวที่สุดครั้งหนึ่งจาก บิล เกตส์ ซึ่งปกติแล้วมักจะเป็นกลุ่มที่มองโลกในแง่ดีเกี่ยวกับการพัฒนาเทคโนโลยี (Tech Optimist) สะท้อนให้เห็นว่าขีดความสามารถของ AI ในปัจจุบันได้ก้าวข้ามขีดจำกัดที่น่ากังวลไปเรียกว่าเรียบร้อยแล้ว [1, 2]

(ที่มา : google AI )

AI ยังไม่ล้างโลกแต่ล้างงาน และดูดเงินในบัญชี

 

AI แทนแรงงาน แต่ยังต้องการ ‘คนเก่ง’