ผู้วิจัย AI อ้างลาออกจาก Anthropic พร้อมเตือน OpenAI และ Anthropic กำลังแข่งขันสร้าง Superintelligence โดยเสี่ยงต่ออนาคตมนุษยชาติ!
วันนี้ผมลาออกจาก Anthropic แล้ว ผมใช้เวลาสามปีที่ผ่านมาทำวิจัยเกี่ยวกับการเตรียมการฝึกโมเดลที่ทั้ง OpenAI และ Anthropic บริษัททั้งสองแห่งไม่ได้ทำอะไรอย่างมีความรับผิดชอบ พวกเขากำลังเร่งพัฒนาปัญญาประดิษฐ์ขั้นสูงที่พัฒนาตัวเองได้ และกำลังเสี่ยงชีวิตของเราอยู่ ความคิดเพิ่มเติมอยู่ด้านล่าง
อย่าประมาทพลังของเทคโนโลยีนี้ ในไม่ช้าสิ่งเหล่านี้จะกลายเป็นระบบเหนือมนุษย์ที่สามารถแฮ็กทุกสิ่ง ปฏิวัติวงการใดๆ ได้ในชั่วข้ามคืน และได้มาซึ่งอำนาจและทรัพยากรอย่างแท้จริง เราทุกคนได้เห็นความก้าวหน้าในแต่ละด้านเหล่านี้แล้ว และความก้าวหน้าก็ไม่ได้ชะลอตัวลง
ผู้คนที่กำลังพัฒนา AI เชื่ออย่างจริงจังว่ามันอาจฆ่าเราทุกคนได้ภายในสิ้นทศวรรษนี้ นี่ไม่ใช่กลยุทธ์ทางการตลาด หากจะมีอะไรเปลี่ยนแปลง ผู้บริหารและนักวิจัยอาวุโสหลายคนจะใช้ถ้อยคำที่ฟังดูสมเหตุสมผลในสื่อ แต่ผมได้ยินคนเหล่านั้นแสดงความกลัวออกมาเป็นการส่วนตัวเช่นกัน ไม่มีกิจกรรมใดของมนุษย์ที่ก่อให้เกิดอันตรายในระดับนี้
คำตอบที่พบบ่อยคือ “ถ้าพวกเขาเชื่ออย่างนั้นจริง ๆ ทำไมพวกเขายังคงสร้างมันอยู่?” ที่ OpenAI หลายคนยังไม่ได้ตระหนักถึงความสำคัญของผลกระทบต่ออารยธรรมอย่างลึกซึ้ง ส่วนที่ Anthropic พวกเขาเข้าใจถึงผลกระทบเป็นอย่างดี แต่พวกเขากำลังแข่งขันกันเพื่อให้บรรลุเป้าหมายก่อนใคร พวกเขาเชื่อว่าไม่มีใครจะทำอย่างรับผิดชอบ ดังนั้นพวกเขาจึงต้องทำเอง แม้จะมีความเสี่ยงก็ตาม
การยอมรับการแข่งขันนี้และเข้าสู่ "ช่วงสุดท้ายของเกม" เป็นการเสี่ยงที่โอหังเกินไป ซึ่งไม่ควรเริ่มต้นจากกลุ่มแชทใน Slack ของบริษัทเอกชน การพยายามเร่งความเร็วในการจัดแนวเส้นทางนั้น ต้องอาศัยความมั่นใจอย่างยิ่งว่าไม่มีเส้นทางที่ดีกว่านี้อีกแล้ว
ฉันมองในแง่ดีเกี่ยวกับศักยภาพในการประสานงาน สัญญาณเตือนอย่างเช่นการโจมตี Hugging Face ทำให้ข้อตกลงเรื่องจังหวะการพัฒนาเทคโนโลยีระหว่างห้องปฏิบัติการในสหรัฐฯ มีความเป็นไปได้มากขึ้น ฉันไม่รู้สึกว่าเรากำลังอยู่ในเส้นทางที่จะป้องกันการแข่งขันระดับโลก ซึ่งอาจต้องใช้มาตรการที่มีค่าใช้จ่ายสูง เช่น การห้ามชั่วคราวในการพัฒนาความสามารถของโมเดล
หากคุณเป็นนักวิจัยในห้องปฏิบัติการ ผมขอให้คุณลองพิจารณาดูว่าอีกไม่กี่ปีข้างหน้าจะเป็นอย่างไร คุณต้องการเริ่มต้นการจำลองแบบเสริมแรงที่มีปัญญาประดิษฐ์ขั้นสูงโดยปราศจากความเข้าใจอย่างถ่องแท้เกี่ยวกับความคิดของมันหรือไม่ คุณควรจะยอมแพ้เพราะ “มันจะเกิดขึ้นอยู่แล้ว” หรือควรใช้โอกาสนี้เรียกร้องให้มีเงื่อนไขที่แตกต่างออกไป?
ไม่มีความคิดเห็น:
แสดงความคิดเห็น