openai

openai

ChatGPT Jailbreak: นักวิจัยเลี่ยงระบบความปลอดภัยของ AI โดยใช้การเข้ารหัส Hexadecimal และ Emoji

AI

เทคนิคการเจลเบรกใหม่หลอก ChatGPT ให้สร้างเอ็กซ์พลอยต์ Python และเครื่องมือ SQL injection ที่เป็นอันตราย   คำสั่งอันตรายที่ถูกเข้ารหัสในรูปแบบ hexadecimal สามารถใช้ในการเลี่ยงระบบความปลอดภัยของ ChatGPT ที่ออกแบบมาเพื่อป้องกันการใช้งานผิดประเภท การเจลเบรกใหม่นี้ถูกเปิดเผยเมื่อวันจันทร์โดย Marco Figueroa ผู้จัดการโปรแกรม Bug Bounty gen-AI ของ Mozilla ผ่านทางโปรแกรม 0Din bug bounty 0Din ซึ่งย่อมาจาก 0Day Investigative Network เปิดตัวโดย Mozilla ในเดือนมิถุนายน 2024 เป็นโปรแกรม bug bounty ที่มุ่งเน้นไปที่โมเดลภาษาขนาดใหญ่ (LLM) และเทคโนโลยีการเรียนรู้เชิงลึกอื่นๆ 0Din ครอบคลุมการฉีดพรอมต์ การปฏิเสธบริการ การวางยาพิษข้อมูลการฝึกอบรม และประเภทอื่นๆ ของปัญหาความปลอดภัย โดยเสนอรางวัลสูงสุด 15,000 ดอลลาร์สำหรับผลการค้นหาที่สำคัญ ยังไม่แน่ชัดว่าการเจลเบรกเช่น Figueroa จะมีมูลค่าเท่าใด แชทบอท […]

Varodom Sommart

November 4, 2024

OpenAI ระบุว่ากลุ่มแฮ็กเกอร์ชาวอิหร่านใช้ ChatGPT เพื่อวางแผนโจมตีระบบควบคุมอุตสาหกรรม (ICS)

Security

OpenAI ได้หยุดยั้งปฏิบัติการทางไซเบอร์และการแทรกแซงข้อมูลจำนวน 20 ครั้งในปีนี้ รวมถึงการดำเนินกิจกรรมของแฮ็กเกอร์ที่ได้รับการสนับสนุนจากรัฐบาลอิหร่านและจีน รายงานที่เผยแพร่ในสัปดาห์นี้โดย OpenAI เปิดเผยว่าบริษัทด้านปัญญาประดิษฐ์นี้ได้หยุดยั้งปฏิบัติการทางไซเบอร์และการแทรกแซงข้อมูลลับมากกว่า 20 ครั้งตั้งแต่ต้นปีนี้ รวมถึงกิจกรรมของแฮ็กเกอร์ที่ได้รับการสนับสนุนจากรัฐบาลอิหร่านและจีน รายงานดังกล่าวระบุถึงกลุ่มภัยคุกคามสามกลุ่มที่ใช้ประโยชน์จาก ChatGPT เพื่อดำเนินการโจมตีทางไซเบอร์ หนึ่งในกลุ่มแฮ็กเกอร์เหล่านี้คือ CyberAv3ngers ซึ่งเชื่อมโยงกับกองกำลังพิทักษ์การปฏิวัติอิสลามแห่งอิหร่าน (IRGC) ซึ่งเป็นที่รู้จักในปีนี้จากการโจมตีภาคส่วนการประปา กลุ่มนี้ได้โจมตีระบบควบคุมอุตสาหกรรม (ICS) ของสถานีประปาในไอร์แลนด์ (ทำให้ผู้คนขาดน้ำเป็นเวลา 2 วัน) สถานีประปาในเพนซิลเวเนีย และสถานีประปาอื่นๆ ในสหรัฐอเมริกา การโจมตีเหล่านี้ไม่ได้ซับซ้อน แต่ใช้ประโยชน์จากข้อเท็จจริงที่ว่าองค์กรหลายแห่งเปิดให้เข้าถึง ICS ผ่านอินเทอร์เน็ตและป้องกันด้วยข้อมูลรับรองเริ่มต้นที่หาได้ง่าย ตามรายงานของ OpenAI บัญชีที่เชื่อมโยงกับ CyberAv3ngers ใช้ ChatGPT ในการสำรวจและช่วยเหลือในการหาช่องโหว่ การหลบเลี่ยงการตรวจจับ และกิจกรรมหลังการเจาะระบบ หลายกิจกรรมการสำรวจเหล่านี้เกี่ยวข้องกับการโจมตีอุปกรณ์ควบคุมลอจิกโปรแกรมได้ (PLC) และระบบ ICS อื่นๆ โดยเฉพาะแฮ็กเกอร์ได้สอบถาม ChatGPT เกี่ยวกับพอร์ตและโปรโตคอลอุตสาหกรรมที่สามารถเชื่อมต่อกับอินเทอร์เน็ต อุปกรณ์ควบคุมและ PLC ที่ใช้กันทั่วไปในจอร์แดน รวมถึงบริษัทไฟฟ้าและผู้รับเหมาที่นั่น และรหัสผ่านเริ่มต้นสำหรับอุปกรณ์ Tridium […]

Varodom Sommart

October 17, 2024

กฎระเบียบปัญญาประดิษฐ์ชุดแรกของโลกโดยสหภาพยุโรปกำลังมีผลบังคับใช้อย่างเป็นทางการ

Tech

เจ้าหน้าที่ของสหภาพยุโรปกล่าวว่า พระราชบัญญัติปัญญาประดิษฐ์จะปกป้อง “สิทธิมนุษยชนขั้นพื้นฐาน” ของพลเมือง ในขณะเดียวกันก็ส่งเสริมการลงทุนและนวัตกรรมในอุตสาหกรรม AI ที่กำลังเติบโตอย่างรวดเร็ว กฎหมายปัญญาประดิษฐ์ชุดแรกของโลกโดยสหภาพยุโรปมีผลบังคับใช้อย่างเป็นทางการในวันพฤหัสบดีที่ผ่านมา นับเป็นความก้าวหน้าล่าสุดในความพยายามของสหภาพในการควบคุมเทคโนโลยีนี้ เจ้าหน้าที่กล่าวว่า พระราชบัญญัติปัญญาประดิษฐ์จะปกป้อง “สิทธิมนุษยชนขั้นพื้นฐาน” ของพลเมืองในกลุ่มประเทศสมาชิก 27 ประเทศ ในขณะเดียวกันก็ส่งเสริมการลงทุนและนวัตกรรมในอุตสาหกรรม AI ที่กำลังเติบโตอย่างรวดเร็ว พระราชบัญญัตินี้ได้รับการจัดทำขึ้นเป็นเวลาหลายปี เป็นคู่มือครอบคลุมในการกำกับดูแล AI ในยุโรป และยังสามารถทำหน้าที่เป็นแนวทางสำหรับรัฐบาลอื่น ๆ ที่ยังคงพยายามกำหนดมาตรการป้องกันสำหรับเทคโนโลยีที่กำลังก้าวหน้าอย่างรวดเร็ว พระราชบัญญัติปัญญาประดิษฐ์ครอบคลุมถึงผลิตภัณฑ์หรือบริการใด ๆ ที่นำเสนอในสหภาพยุโรปที่ใช้ปัญญาประดิษฐ์ ไม่ว่าจะเป็นแพลตฟอร์มจากบริษัทเทคโนโลยีในซิลิคอนแวลลีย์หรือสตาร์ทอัพท้องถิ่น ข้อจำกัดต่าง ๆ จะขึ้นอยู่กับระดับความเสี่ยงสี่ระดับ โดยส่วนใหญ่ของระบบ AI คาดว่าจะอยู่ในประเภทความเสี่ยงต่ำ เช่น ระบบแนะนำเนื้อหาหรือระบบกรองสแปม “แนวทางของยุโรปในการใช้เทคโนโลยีให้ความสำคัญกับประชาชนเป็นอันดับแรกและมั่นใจว่าสิทธิของทุกคนจะได้รับการรักษา” Margrethe Vestager รองประธานบริหารของคณะกรรมาธิการยุโรปกล่าว “ด้วยพระราชบัญญัติปัญญาประดิษฐ์ สหภาพยุโรปได้ก้าวสำคัญเพื่อมั่นใจว่าการนำเทคโนโลยี AI มาใช้จะเคารพกฎของสหภาพยุโรปในยุโรป” บทบัญญัติต่าง ๆ จะมีผลบังคับใช้เป็นขั้นตอน โดยวันที่บังคับใช้อย่างเป็นทางการในวันพฤหัสบดีจะเริ่มนับถอยหลังสำหรับการบังคับใช้ในอีกไม่กี่ปีข้างหน้า ระบบ AI ที่มีความเสี่ยง “ไม่สามารถยอมรับได้” เช่น ระบบให้คะแนนทางสังคมที่มีผลต่อพฤติกรรมของผู้คน […]

Thanachart

August 5, 2024

แฮกเกอร์ขโมยความลับจาก OpenAI

Security

หนังสือพิมพ์นิวยอร์กไทม์สรายงานเมื่อวันที่ 4 กรกฎาคม 2024 ว่า OpenAI ประสบกับการละเมิดที่ไม่ได้เปิดเผยในช่วงต้นปี 2023 นิวยอร์กไทม์สระบุว่าผู้โจมตีไม่ได้เข้าถึงระบบที่รองรับและสร้าง AI แต่ได้ขโมยการสนทนาจากฟอรัมของพนักงาน OpenAI ไม่ได้เปิดเผยเหตุการณ์นี้ต่อสาธารณะหรือแจ้ง FBI เพราะอ้างว่าไม่มีข้อมูลเกี่ยวกับลูกค้าหรือพันธมิตรที่ถูกขโมย และการละเมิดไม่ได้ถือเป็นภัยคุกคามต่อความมั่นคงของชาติ บริษัทตัดสินใจว่าการโจมตีนั้นเกิดจากบุคคลเพียงคนเดียวที่ไม่มีความเกี่ยวข้องกับรัฐบาลต่างประเทศใด ๆ อย่างไรก็ตาม เหตุการณ์ดังกล่าวทำให้เกิดการสนทนาภายในระหว่างพนักงานเกี่ยวกับความจริงจังของ OpenAI ในการแก้ไขปัญหาด้านความปลอดภัย “หลังจากการละเมิด เลโอโพลด์ แอสเชนเบรนเนอร์ ผู้จัดการโปรแกรมเทคนิคของ OpenAI ที่มุ่งมั่นให้แน่ใจว่าเทคโนโลยี AI ในอนาคตจะไม่ก่อให้เกิดอันตรายร้ายแรง ได้ส่งบันทึกไปยังคณะกรรมการบริหารของ OpenAI โดยโต้แย้งว่าบริษัทไม่ได้ทำเพียงพอที่จะป้องกันรัฐบาลจีนและศัตรูต่างประเทศอื่น ๆ จากการขโมยความลับของตน” นิวยอร์กไทม์สเขียน เมื่อต้นปีนี้ เขาถูกไล่ออก ซึ่งคาดว่าจะเป็นเพราะการรั่วไหลของข้อมูล (แต่เป็นไปได้มากกว่าเพราะบันทึกนั้น) แอสเชนเบรนเนอร์มีเวอร์ชันที่แตกต่างออกไปเล็กน้อยเกี่ยวกับเรื่องราวการรั่วไหลอย่างเป็นทางการ ในพอดแคสต์กับ ดวาร์เกช พาเทล (วันที่ 4 มิถุนายน 2024) เขากล่าวว่า: “OpenAI อ้างกับพนักงานว่าฉันถูกไล่ออกเพราะการรั่วไหล ฉันและคนอื่น ๆ ได้ผลักดันให้พวกเขาบอกว่าการรั่วไหลคืออะไร นี่คือคำตอบของพวกเขาอย่างเต็มรูปแบบ: […]

Thanachart

July 8, 2024

สอบถามข้อมูลเพิ่มเติม