ChatGPT Jailbreak: นักวิจัยเลี่ยงระบบความปลอดภัยของ AI โดยใช้การเข้ารหัส Hexadecimal และ Emoji

เทคนิคการเจลเบรกใหม่หลอก ChatGPT ให้สร้างเอ็กซ์พลอยต์ Python และเครื่องมือ SQL injection ที่เป็นอันตราย   คำสั่งอันตรายที่ถูกเข้ารหัสในรูปแบบ hexadecimal สามารถใช้ในการเลี่ยงระบบความปลอดภัยของ ChatGPT ที่ออกแบบมาเพื่อป้องกันการใช้งานผิดประเภท การเจลเบรกใหม่นี้ถูกเปิดเผยเมื่อวันจันทร์โดย Marco Figueroa ผู้จัดการโปรแกรม Bug Bounty gen-AI ของ Mozilla ผ่านทางโปรแกรม 0Din bug bounty 0Din ซึ่งย่อมาจาก 0Day Investigative Network เปิดตัวโดย Mozilla ในเดือนมิถุนายน 2024 เป็นโปรแกรม bug bounty ที่มุ่งเน้นไปที่โมเดลภาษาขนาดใหญ่ (LLM) และเทคโนโลยีการเรียนรู้เชิงลึกอื่นๆ 0Din ครอบคลุมการฉีดพรอมต์ การปฏิเสธบริการ การวางยาพิษข้อมูลการฝึกอบรม และประเภทอื่นๆ ของปัญหาความปลอดภัย โดยเสนอรางวัลสูงสุด 15,000 ดอลลาร์สำหรับผลการค้นหาที่สำคัญ ยังไม่แน่ชัดว่าการเจลเบรกเช่น Figueroa จะมีมูลค่าเท่าใด แชทบอท […]

Varodom Sommart

November 4, 2024

OpenAI ระบุว่ากลุ่มแฮ็กเกอร์ชาวอิหร่านใช้ ChatGPT เพื่อวางแผนโจมตีระบบควบคุมอุตสาหกรรม (ICS)

OpenAI ได้หยุดยั้งปฏิบัติการทางไซเบอร์และการแทรกแซงข้อมูลจำนวน 20 ครั้งในปีนี้ รวมถึงการดำเนินกิจกรรมของแฮ็กเกอร์ที่ได้รับการสนับสนุนจากรัฐบาลอิหร่านและจีน รายงานที่เผยแพร่ในสัปดาห์นี้โดย OpenAI เปิดเผยว่าบริษัทด้านปัญญาประดิษฐ์นี้ได้หยุดยั้งปฏิบัติการทางไซเบอร์และการแทรกแซงข้อมูลลับมากกว่า 20 ครั้งตั้งแต่ต้นปีนี้ รวมถึงกิจกรรมของแฮ็กเกอร์ที่ได้รับการสนับสนุนจากรัฐบาลอิหร่านและจีน รายงานดังกล่าวระบุถึงกลุ่มภัยคุกคามสามกลุ่มที่ใช้ประโยชน์จาก ChatGPT เพื่อดำเนินการโจมตีทางไซเบอร์ หนึ่งในกลุ่มแฮ็กเกอร์เหล่านี้คือ CyberAv3ngers ซึ่งเชื่อมโยงกับกองกำลังพิทักษ์การปฏิวัติอิสลามแห่งอิหร่าน (IRGC) ซึ่งเป็นที่รู้จักในปีนี้จากการโจมตีภาคส่วนการประปา กลุ่มนี้ได้โจมตีระบบควบคุมอุตสาหกรรม (ICS) ของสถานีประปาในไอร์แลนด์ (ทำให้ผู้คนขาดน้ำเป็นเวลา 2 วัน) สถานีประปาในเพนซิลเวเนีย และสถานีประปาอื่นๆ ในสหรัฐอเมริกา การโจมตีเหล่านี้ไม่ได้ซับซ้อน แต่ใช้ประโยชน์จากข้อเท็จจริงที่ว่าองค์กรหลายแห่งเปิดให้เข้าถึง ICS ผ่านอินเทอร์เน็ตและป้องกันด้วยข้อมูลรับรองเริ่มต้นที่หาได้ง่าย ตามรายงานของ OpenAI บัญชีที่เชื่อมโยงกับ CyberAv3ngers ใช้ ChatGPT ในการสำรวจและช่วยเหลือในการหาช่องโหว่ การหลบเลี่ยงการตรวจจับ และกิจกรรมหลังการเจาะระบบ หลายกิจกรรมการสำรวจเหล่านี้เกี่ยวข้องกับการโจมตีอุปกรณ์ควบคุมลอจิกโปรแกรมได้ (PLC) และระบบ ICS อื่นๆ โดยเฉพาะแฮ็กเกอร์ได้สอบถาม ChatGPT เกี่ยวกับพอร์ตและโปรโตคอลอุตสาหกรรมที่สามารถเชื่อมต่อกับอินเทอร์เน็ต อุปกรณ์ควบคุมและ PLC ที่ใช้กันทั่วไปในจอร์แดน รวมถึงบริษัทไฟฟ้าและผู้รับเหมาที่นั่น และรหัสผ่านเริ่มต้นสำหรับอุปกรณ์ Tridium […]

Varodom Sommart

October 17, 2024