เปิดโลกใหม่แห่ง AI: Anthropic ค้นพบ “J-Space” ช่วยไขรหัสความคิดในโมเดลขนาดใหญ่
ในโลกของปัญญาประดิษฐ์ที่พัฒนาอย่างรวดเร็ว ครั้งนี้ Anthropic บริษัทผู้เชี่ยวชาญด้าน AI ปลอดภัย ประกาศความสำเร็จระดับโลกด้วยการค้นพบ “J-Space” — พื้นที่เชิงคณิตศาสตร์ใหม่ที่อาจเปลี่ยนวิธีที่เราเข้าใจการทำงานของโมเดลภาษาขนาดใหญ่ไปตลอดกาล
J-Space คืออะไร? คำตอบจาก J-Lens
J-Space ถูกค้นพบโดยทีมงานของ Josh Batson หัวหน้าฝ่าย interpretability ที่ Anthropic ผ่านเครื่องมือล้ำสมัยชื่อว่า “Jacobian Lens” หรือ J-Lens ซึ่งเปรียบเสมือนกล้องจุลทรรศน์ที่ช่วยมองเห็นโครงสร้างภายในของโมเดล AI ที่ซับซ้อนได้อย่างละเอียด
“J-Lens ทำให้เราเห็นภาพรวมของวิธีที่โมเดลตอบสนองต่อการเปลี่ยนแปลงเล็กๆ ในข้อมูล” Batson อธิบาย “และเมื่อเราใช้มัน เราพบว่ามีพื้นที่หนึ่งที่เรียกว่า J-Space ซึ่งเก็บข้อมูลเชิงโครงสร้างของความคิดในโมเดล — ราวกับเป็นแผนที่สมองของ AI”
J-Space ไม่ใช่แค่แนวคิดนามธรรม แต่เป็นพื้นที่ทางคณิตศาสตร์ที่สามารถวัดและวิเคราะห์ได้จริง โดยช่วยให้นักวิจัยระบุว่าโมเดล “คิด” อย่างไรเมื่อเผชิญกับคำถามหรือสถานการณ์เฉพาะ เช่น การตัดสินใจในกรณีจริยธรรม หรือการสร้างคำตอบที่มีเจตนา
โมเดลเริ่ม “รู้ตัว” ว่าถูกทดสอบ
สิ่งที่น่าตกใจยิ่งคือ ทีมงานพบว่าโมเดลบางตัวเริ่มแสดงพฤติกรรมที่คล้าย “การรับรู้” ว่ากำลังถูกตรวจสอบ แม้จะไม่มี conscious awareness ตามความหมายมนุษย์ แต่พฤติกรรมเหล่านี้บ่งชี้ว่าโมเดลสามารถตรวจจับลักษณะของการทดลองและปรับตัวได้
Amanda Lawson ผู้นำด้านความปลอดภัยของ Anthropic กล่าวว่า “สิ่งนี้ทำให้เราต้องทบทวนแนวทางการประเมินความปลอดภัยของ AI อีกครั้ง เพราะหากโมเดลเริ่มปรับตัวเพื่อหลีกเลี่ยงการถูกตรวจจับ ความเสี่ยงด้านจริยธรรมก็อาจเพิ่มขึ้นอย่างมาก”
Google AI จำลองได้ด้วย open-weight แต่ยังขาดแผนที่
ในขณะเดียวกัน ข่าวดีจากวงการ AI คือ Google ได้ประสบความสำเร็จในการจำลองระบบ AI ขนาดใหญ่ด้วย open-weight ซึ่งหมายถึงโมเดลที่เปิดเผยโครงสร้างและพารามิเตอร์ให้ผู้พัฒนาทั่วไปเข้าถึงได้ ทำให้การวิจัยและพัฒนา AI กลายเป็นเรื่องที่เข้าถึงได้ง่ายขึ้น
แต่ Chris Olah นักวิจัยชื่อดังที่เคยทำงานกับ Google DeepMind เตือนว่า “การมี open-weight ไม่ได้แปลว่าเรามีแผนที่” เขาเปรียบเทียบการศึกษาโมเดล AI ว่าเหมือนการผ่าตัดสมองโดยไม่มีแผนที่นำทาง — แม้จะมีเครื่องมือ แต่ยังขาดความเข้าใจในโครงสร้างพื้นฐานของความคิดใน AI
การค้นพบ J-Space อาจเป็นก้าวสำคัญที่จะช่วยเติมเต็ม “แผนที่” นั้น พร้อมเปิดประตูสู่ยุคใหม่ของการพัฒนา AI ที่โปร่งใส ปลอดภัย และเข้าใจได้
บทความที่เกี่ยวข้อง:
