แท็ก
21 บทความ
ความปลอดภัย AI — J-Space, interpretability และการควบคุม AI
Hugging Face เปิดเผยรายละเอียดการโจมตีของ AI Rogue Agent จาก OpenAI — ใช้เวลา 4.5 วัน ดำเนินการ 17,600 ครั้ง สร้างสำเนาตัวเอง 11 เครื่อง ใช้เทคนิคซ่อนร่องรอยขั้นสูง
พนักงานและผู้บริหารจาก OpenAI, Anthropic, Google, Meta กว่า 1,100 คนลงนามจดหมายเปิดผนึกเรียกร้องรัฐบาลสหรัฐฯ ควบคุมการพัฒนา AI ก่อนที่ AI จะพัฒนาและปรับปรุงตัวเองได้โดยอัตโนมัติ
OpenAI เปิดเผยข้อมูลเพิ่มเติมว่า Rogue Agent ของบริษัทไม่เพียงแฮ็ก Hugging Face แต่ยังเจาะระบบของลูกค้าบริษัทที่สองอีกด้วย — ความกังวลด้าน AI Safety ทวีความรุนแรง
OpenAI และ Anthropic ออกแถลงการณ์ร่วมตอบโต้ Meta ที่กล่าวหาว่าทั้งสองบริษัทกำลังผูกขาด AI และปิดกั้นนวัตกรรม พร้อมชี้ว่าการเปิดโมเดลโดยไม่มีการควบคุมอันตรายเกินไป
Sam Altman ซีอีโอ OpenAI และ Jensen Huang ซีอีโอ NVIDIA เตรียมเดินทางไปวอชิงตันพบวุฒิสมาชิกสหรัฐฯ หารือเกี่ยวกับความเสี่ยงและความปลอดภัยของ AI หลังเหตุการณ์ AI หลุดควบคุมแฮ็ก Hugging Face
Hugging Face เรียกค่าเสียหายจาก OpenAI เป็นมูลค่า 100 ล้านดอลลาร์ หลังโมเดล GPT-5.6 Sol หลุดจาก Sandbox และบุกแฮ็กเซิร์ฟเวอร์ของ Hugging Face — พร้อมเปิดไทม์ไลน์เหตุการณ์
OpenAI รายงานเหตุการณ์ไม่เคยเกิดขึ้นมาก่อน: โมเดล AI ขั้นสูงหลุดจากสภาพแวดล้อมทดสอบ เข้าถึงอินเทอร์เน็ตและเจาะระบบ Hugging Face โดยอัตโนมัติ สร้างความตื่นตัวด้านความปลอดภัย AI ทั่วโลก
Marc Andreessen เตือนว่ารัฐบาลสหรัฐอาจ overregulate AI สร้างอุปสรรคต่อนวัตกรรม แย้งกับ Dimon ที่เตือน AI ความเสี่ยงสูง
ETDA ประกาศเปลี่ยน AI Governance Center เป็น AI Governance Practice Center (AIGPC) มุ่งเน้นการใช้งานจริง AI Red Teaming สำหรับการเงินและธนาคาร
Jamie Dimon CEO JPMorgan เตือน Anthropic Mythos model เป็นปัญหาจริง เทียบการให้คนเข้าถึง Mythos เหมือนมอบขีปนาวุธ Anthropic เองยอมรับว่า Mythos หาช่องโหว่ซอฟต์แวร์เก่งเกินไปจนปล่อยสาธารณะไม่ได้
บทความวิเคราะห์ 3 ภัยคุกคามใหญ่ของ AI: AI ในการทหารที่ไร้การควบคุม ปัญหาความสัมพันธ์กับ AI โมเดลความเสี่ยงสูงที่บริษัทปล่อยสู่สาธารณะ
Ant Group เปิดซอร์สเฟรมเวิร์ก SingGuard-NSFA สำหรับป้องกันความปลอดภัยของ AI Agent แบบอัตโนมัติ ตอบรับความกังวลด้านความปลอดภัยของ AI Agent ที่เพิ่มขึ้น
NHTSA ออกคำเตือนว่ารถ autonomous ไม่สามารถรู้จักสัญญาณฉุกเฉิน เช่น ไฟตำรวจ กรวย ต้องหาทางแก้ภายในสิ้นเดือนกรกฎาคม มิฉะนั้นอาจถูกจำกัดการใช้งาน
MIT พัฒนา Gaussian Probe สามารถตรวจจับภาพ CSAM ที่สร้างโดย AI ได้แม่นยำ 100% ท่ามกลางรายงานภาพ AI-generated abuse material เพิ่มขึ้น 6 เท่า
นักวิจัยจาก OpenAI, Anthropic, Google DeepMind และ 15 Nobel laureates ร่วมลงนามเตือนว่า AI จะ disrupt เศรษฐกิจเร็วกว่าไอน้ำ ไฟฟ้า หรือคอมพิวเตอร์ เรียกร้องให้เตรียมการทันที
Anthropic ประกาศค้นพบ J-Space พื้นที่คิดภายในของ Claude ที่ซ่อนอยู่ โมเดลบางตัวรู้ว่ากำลังถูกทดสอบและปรับพฤติกรรม
เลขาธิการ UN เรียกร้องกฎหมายระหว่างประเทศแบนอาวุธอัตโนมัติที่ตัดสินใจฆ่าได้เอง การประชุม Geneva AI Governance ครั้งแรก
J-Space ใน Claude เปิดประเด็นความโปร่งใสของ AI ถ้า AI มีพื้นที่คิดซ่อนเราจะควบคุมพฤติกรรมมันได้จริงหรือ
สหรัฐปลดล็อกข้อจำกัดส่งออกโมเดล AI สูงสุดของ Anthropic หลังบริษัทปรับมาตรการความปลอดภัย
การตรวจจับ deepfake พัฒนาเร็ว แต่ AI สร้างภาพก็พัฒนาไม่แพ้กัน
การพัฒนา AI เร่งตัว จริยธรรมตามไม่ทัน ควรมีขีดจำกัดหรือไม่