นักวิจัย Anthropic ลาออก! เตือนการแข่งขันสร้าง “Superintelligence” อาจกำลังเดิมพันด้วยชีวิตมนุษย์
Jacob Coxon นักวิจัยด้าน AI ที่เคยทำงานทั้ง OpenAI และ Anthropic ประกาศลาออกจาก Anthropic พร้อมวิจารณ์ว่า ทั้งสองบริษัทกำลังแข่งขันพัฒนา AI ที่สามารถพัฒนาตัวเองได้ โดยยังไม่มีมาตรการความปลอดภัยที่เพียงพอ
Coxon ระบุว่า เทคโนโลยีกำลังเข้าใกล้ระบบที่อาจมีความสามารถเหนือมนุษย์ สามารถเจาะระบบ สร้างความก้าวหน้าในหลายสาขาอย่างรวดเร็ว และเข้าถึงอำนาจหรือทรัพยากรในโลกจริง
สิ่งที่น่ากังวลที่สุดคือ เขาอ้างว่า ผู้บริหารและนักวิจัยระดับสูงหลายคนในวงการ AI มีความกังวลเป็นการส่วนตัวว่า AI ขั้นสูงอาจกลายเป็นภัยระดับมนุษยชาติภายในสิ้นทศวรรษนี้
เขายังมองว่า Anthropic เข้าใจความเสี่ยงดังกล่าว แต่ติดอยู่ในเกมการแข่งขันที่แต่ละบริษัทเชื่อว่า “ถ้าเราไม่ไปถึงก่อน คนอื่นก็จะไปถึงก่อน”
Coxon จึงเรียกร้องให้นักวิจัย AI ตั้งคำถามว่า เราควรเร่งสร้าง Superintelligence ทั้งที่ยังไม่เข้าใจระบบเหล่านี้อย่างถ่องแท้หรือไม่ และเสนอว่าการประสานงานระหว่าง AI Labs รวมถึงการชะลอการเพิ่มขีดความสามารถของโมเดล อาจจำเป็น
นี่ไม่ใช่ข้อพิสูจน์ว่า AI จะทำลายมนุษยชาติ แต่เป็นคำเตือนจากคนที่เคยอยู่ภายในห้องวิจัยแนวหน้าของ AI ว่า การแข่งขันสู่ Superintelligence อาจกำลังเดินเร็วกว่าความสามารถของมนุษย์ในการควบคุมมัน
ไม่มีความคิดเห็น:
แสดงความคิดเห็น