กลอนธรรมะ กลอนคติชีวิต กลอนคติเตือนใจ กลอนคติสอนใจ กลอนสุภาษิต บทความจรรโลงใจ
ผลงานของชายคนหนึ่งซึ่งนอกจากตามหลักสูตรของโรงเรียนแล้ว ต้องเรียนรู้ศึกษาหาความรู้เอง ทั้งหลักธรรมและการประพันธ์ ชอบคิด-วิเคราะห์-สรุปบทเรียนใหม่เป็นประจำ แล้วบันทึกไว้เป็นบทกวีเพราะมิเช่นนั้นจะลืมบทเรียนเก่า คิดว่าน่าจะมีประโยชน์กับคนอื่นบ้าง จึงโพสต์สู่สื่อสาธารณะ
ยินดีต้อนรับ อาคันตุกะ ทุกท่าน
มีอะไรสงสัย ไม่เข้าใจ ต้องการคำอธิบาย ก็ถามมาได้
วันศุกร์ที่ 2 ตุลาคม พ.ศ. 2569
วันพุธที่ 30 กันยายน พ.ศ. 2569
วันอังคารที่ 29 กันยายน พ.ศ. 2569
วันจันทร์ที่ 28 กันยายน พ.ศ. 2569
วันอาทิตย์ที่ 27 กันยายน พ.ศ. 2569
ผู้วิจัย AI อ้างลาออกจาก Anthropic พร้อมเตือน OpenAI และ Anthropic กำลังแข่งขันสร้าง Superintelligence โดยเสี่ยงต่ออนาคตมนุษยชาติ!
ผู้วิจัย AI อ้างลาออกจาก Anthropic พร้อมเตือน OpenAI และ Anthropic กำลังแข่งขันสร้าง Superintelligence โดยเสี่ยงต่ออนาคตมนุษยชาติ!
วันนี้ผมลาออกจาก Anthropic แล้ว ผมใช้เวลาสามปีที่ผ่านมาทำวิจัยเกี่ยวกับการเตรียมการฝึกโมเดลที่ทั้ง OpenAI และ Anthropic บริษัททั้งสองแห่งไม่ได้ทำอะไรอย่างมีความรับผิดชอบ พวกเขากำลังเร่งพัฒนาปัญญาประดิษฐ์ขั้นสูงที่พัฒนาตัวเองได้ และกำลังเสี่ยงชีวิตของเราอยู่ ความคิดเพิ่มเติมอยู่ด้านล่าง
อย่าประมาทพลังของเทคโนโลยีนี้ ในไม่ช้าสิ่งเหล่านี้จะกลายเป็นระบบเหนือมนุษย์ที่สามารถแฮ็กทุกสิ่ง ปฏิวัติวงการใดๆ ได้ในชั่วข้ามคืน และได้มาซึ่งอำนาจและทรัพยากรอย่างแท้จริง เราทุกคนได้เห็นความก้าวหน้าในแต่ละด้านเหล่านี้แล้ว และความก้าวหน้าก็ไม่ได้ชะลอตัวลง
ผู้คนที่กำลังพัฒนา AI เชื่ออย่างจริงจังว่ามันอาจฆ่าเราทุกคนได้ภายในสิ้นทศวรรษนี้ นี่ไม่ใช่กลยุทธ์ทางการตลาด หากจะมีอะไรเปลี่ยนแปลง ผู้บริหารและนักวิจัยอาวุโสหลายคนจะใช้ถ้อยคำที่ฟังดูสมเหตุสมผลในสื่อ แต่ผมได้ยินคนเหล่านั้นแสดงความกลัวออกมาเป็นการส่วนตัวเช่นกัน ไม่มีกิจกรรมใดของมนุษย์ที่ก่อให้เกิดอันตรายในระดับนี้
คำตอบที่พบบ่อยคือ “ถ้าพวกเขาเชื่ออย่างนั้นจริง ๆ ทำไมพวกเขายังคงสร้างมันอยู่?” ที่ OpenAI หลายคนยังไม่ได้ตระหนักถึงความสำคัญของผลกระทบต่ออารยธรรมอย่างลึกซึ้ง ส่วนที่ Anthropic พวกเขาเข้าใจถึงผลกระทบเป็นอย่างดี แต่พวกเขากำลังแข่งขันกันเพื่อให้บรรลุเป้าหมายก่อนใคร พวกเขาเชื่อว่าไม่มีใครจะทำอย่างรับผิดชอบ ดังนั้นพวกเขาจึงต้องทำเอง แม้จะมีความเสี่ยงก็ตาม
การยอมรับการแข่งขันนี้และเข้าสู่ "ช่วงสุดท้ายของเกม" เป็นการเสี่ยงที่โอหังเกินไป ซึ่งไม่ควรเริ่มต้นจากกลุ่มแชทใน Slack ของบริษัทเอกชน การพยายามเร่งความเร็วในการจัดแนวเส้นทางนั้น ต้องอาศัยความมั่นใจอย่างยิ่งว่าไม่มีเส้นทางที่ดีกว่านี้อีกแล้ว
ฉันมองในแง่ดีเกี่ยวกับศักยภาพในการประสานงาน สัญญาณเตือนอย่างเช่นการโจมตี Hugging Face ทำให้ข้อตกลงเรื่องจังหวะการพัฒนาเทคโนโลยีระหว่างห้องปฏิบัติการในสหรัฐฯ มีความเป็นไปได้มากขึ้น ฉันไม่รู้สึกว่าเรากำลังอยู่ในเส้นทางที่จะป้องกันการแข่งขันระดับโลก ซึ่งอาจต้องใช้มาตรการที่มีค่าใช้จ่ายสูง เช่น การห้ามชั่วคราวในการพัฒนาความสามารถของโมเดล
หากคุณเป็นนักวิจัยในห้องปฏิบัติการ ผมขอให้คุณลองพิจารณาดูว่าอีกไม่กี่ปีข้างหน้าจะเป็นอย่างไร คุณต้องการเริ่มต้นการจำลองแบบเสริมแรงที่มีปัญญาประดิษฐ์ขั้นสูงโดยปราศจากความเข้าใจอย่างถ่องแท้เกี่ยวกับความคิดของมันหรือไม่ คุณควรจะยอมแพ้เพราะ “มันจะเกิดขึ้นอยู่แล้ว” หรือควรใช้โอกาสนี้เรียกร้องให้มีเงื่อนไขที่แตกต่างออกไป?