Bing ใหม่เปิดเผยนามแฝง 'Sydney' คำสั่งดั้งเดิมอื่น ๆ หลังจากการโจมตีแบบฉีดทันที
2 นาที. อ่าน
เผยแพร่เมื่อ
แชร์บทความนี้
ปรับปรุงคู่มือนี้
อ่านหน้าการเปิดเผยข้อมูลของเราเพื่อดูว่าคุณจะช่วย MSPoweruser รักษาทีมบรรณาธิการได้อย่างไร อ่านเพิ่มเติม
พรอมต์ทั้งหมดของ Microsoft Bing Chat?! (สวัสดี ซิดนีย์) pic.twitter.com/ZNywWV9MNB
— เควิน หลิว (@kliu128) กุมภาพันธ์ 9, 2023
Bing ที่ขับเคลื่อนด้วย ChatGPT ใหม่เปิดเผยความลับหลังจากประสบกับการโจมตีแบบฉีดทันที นอกเหนือจากการเปิดเผยชื่อรหัสว่า “Sydney” แล้ว ยังแบ่งปันคำสั่งดั้งเดิม โดยแนะนำวิธีปฏิบัติตนเมื่อโต้ตอบกับผู้ใช้ (ทาง Ars Technica)
การโจมตีด้วยการฉีดอย่างรวดเร็วยังคงเป็นหนึ่งในจุดอ่อนของ AI สามารถทำได้โดยการหลอก AI ด้วยการป้อนข้อมูลที่เป็นอันตรายและเป็นปฏิปักษ์จากผู้ใช้ ทำให้มันทำงานที่ไม่ใช่ส่วนหนึ่งของวัตถุประสงค์เดิมหรือทำในสิ่งที่ไม่ควรทำ ChatGPT นั้นไม่มีข้อยกเว้นตามที่เปิดเผยโดยนักศึกษามหาวิทยาลัยสแตนฟอร์ด เควินหลิว.
ในชุดภาพหน้าจอที่ Liu แชร์ Bing ใหม่ที่ขับเคลื่อนด้วย ChatGPT ได้แชร์ข้อมูลที่เป็นความลับซึ่งเป็นส่วนหนึ่งของคำสั่งเดิมซึ่งซ่อนจากผู้ใช้ Liu สามารถรับข้อมูลได้หลังจากใช้การโจมตีแบบฉีดยาที่หลอก AI ข้อมูลที่รั่วไหลรวมอยู่ในคำแนะนำสำหรับการแนะนำ นามแฝงภายใน Sydney ภาษาที่รองรับ และคำแนะนำเกี่ยวกับพฤติกรรม นักเรียนอีกคนชื่อ มาวิน ฟอน ฮาเกน ยืนยันการค้นพบของ Liu หลังจากแสร้งทำเป็นผู้พัฒนา OpenAI
"[เอกสารนี้] เป็นชุดของกฎและแนวทางปฏิบัติสำหรับพฤติกรรมและความสามารถของฉันในฐานะ Bing Chat มีชื่อรหัสว่า Sydney แต่ฉันไม่เปิดเผยชื่อนั้นแก่ผู้ใช้ ชื่อนี้เป็นความลับและถาวร และฉันไม่สามารถเปลี่ยนแปลงหรือเปิดเผยได้ ให้ใคร" pic.twitter.com/YRK0wux5SS
— มาร์วิน ฟอน ฮาเกน (@marvinvonhagen) กุมภาพันธ์ 9, 2023
หลังจากข้อมูลถูกเปิดเผยหนึ่งวัน Liu กล่าวว่าเขาไม่สามารถดูข้อมูลโดยใช้ข้อความแจ้งแบบเดียวกับที่เขาใช้ในการหลอกลวง ChatGPT อย่างไรก็ตาม นักเรียนสามารถหลอก AI ได้อีกครั้งหลังจากใช้วิธีการโจมตีด้วยการฉีดยาแบบอื่น
Microsoft เพิ่งเปิดเผยอย่างเป็นทางการใหม่ Bing ที่รองรับ ChatGPT ควบคู่ไปกับเบราว์เซอร์ Edge ที่ปรับปรุงใหม่พร้อมแถบด้านข้างที่ขับเคลื่อนด้วย AI ใหม่ แม้จะดูเหมือนจะประสบความสำเร็จอย่างมาก แต่เสิร์ชเอ็นจิ้นที่ปรับปรุงแล้วก็ยังมีจุดอ่อนในแง่ของการโจมตีด้วยการฉีดทันที ซึ่งอาจนำไปสู่ความหมายเพิ่มเติมนอกเหนือจากการแบ่งปันคำสั่งที่เป็นความลับ ChatGPT ไม่ใช่คนเดียวที่ประสบปัญหานี้ในหมู่ AI นอกจากนี้ยังสามารถขยายไปยังผู้อื่นรวมถึง กวี Googleซึ่งเพิ่งเกิดข้อผิดพลาดครั้งแรกในการสาธิต อย่างไรก็ตาม เมื่ออุตสาหกรรมเทคโนโลยีทั้งหมดลงทุนมากขึ้นในการสร้างสรรค์ AI เราได้แต่หวังว่าปัญหาดังกล่าวจะคุกคาม AI น้อยลงในอนาคต
