logo
การพัฒนา
ภาพรวมพื้นที่นักพัฒนาพื้นที่ทำงานเอกสาร APIแนวปฏิบัติที่ดีบันทึกการเปลี่ยนแปลง
ค้นหา
ภาษาไทย
พื้นที่ทำงาน / จัดการพื้นที่ / แนวป้องกันความปลอดภัย
แนวป้องกันความปลอดภัย
อัปเดตล่าสุด：4 เดือนที่ผ่านมา

แนวป้องกันความปลอดภัย

ภาพรวม

หน้า แนวป้องกันความปลอดภัย ให้การตั้งค่านโยบายความปลอดภัยระดับองค์กร —— กฎที่ผู้ดูแลระบบกำหนดไว้ที่นี่จะกลายเป็นขีดจำกัดขั้นต่ำสำหรับสมาชิกทุกคนในองค์กร สมาชิกสามารถตั้งค่าให้เข้มงวดกว่าได้ แต่ไม่สามารถผ่อนปรนกว่าได้
alt text

แท็บย่อยสามแท็บ

แท็บ คำอธิบาย
ระดับของเครื่องมือ กำหนดระดับสิทธิ์ P0/P1/P2 ให้กับเครื่องมือแต่ละตัว
การตรวจสอบเนื้อหา การตรวจสอบการปฏิบัติตามข้อกำหนดของเนื้อหาอินพุต/เอาต์พุต
การทำข้อมูลนิรนาม การระบุและแทนที่ข้อมูลระบุตัวตนส่วนบุคคล (PII)

ระดับของเครื่องมือ

ผู้ดูแลระบบสามารถกำหนดระดับสิทธิ์ที่เป็นมาตรฐานเดียวกันให้กับเครื่องมือภายในองค์กรได้

รายการเครื่องมือ

หน้านี้แสดงเครื่องมือทั้งหมดที่ใช้ได้ในองค์กรปัจจุบัน (รวมถึงเครื่องมือในตัว เครื่องมือ MCP เครื่องมือ API และเครื่องมือที่องค์กรกำหนดเอง) โดยแต่ละรายการประกอบด้วย:

คอลัมน์ คำอธิบาย
ไอคอน + ชื่อ ชื่อที่แสดงของเครื่องมือ + ป้ายกำกับแหล่งที่มา เช่น ระบบ / องค์กร + ป้ายกำกับประเภท MCP
คำอธิบาย คำอธิบายความสามารถของเครื่องมือ
P0 / P1 / P2 ปุ่มระดับสามระดับ โดยระดับที่เลือกอยู่จะแสดงแบบไฮไลต์

สามระดับ

ระดับ ชื่อ พฤติกรรม
P0 ไม่ต้องตรวจสอบ ดำเนินการอัตโนมัติ ไม่ต้องให้ผู้ใช้ยืนยัน
P1 มาตรฐาน ต้องให้ผู้ใช้ยืนยันเมื่อเรียกใช้ครั้งแรก
P2 ความเสี่ยงสูง ต้องยืนยันทุกครั้งที่เรียกใช้

การกรอง

  • ค้นหาชื่อหรือคำอธิบายของเครื่องมือ: การจับคู่แบบคลุมเครือ
  • ทุกหมวดหมู่: กรองตามแหล่งที่มาของเครื่องมือ (ระบบ/องค์กร/MCP)
  • ทุกประเภท: กรองตามประเภทของเครื่องมือ

กฎขีดจำกัดขั้นต่ำขององค์กร

ระดับสิทธิ์ที่ผู้ดูแลระบบกำหนดไว้คือขีดจำกัดขั้นต่ำขององค์กร —— สมาชิกไม่สามารถปรับสิทธิ์ให้ผ่อนปรนกว่าขีดจำกัดขั้นต่ำขององค์กรได้ แต่สามารถปรับให้เข้มงวดกว่าได้

ผู้ดูแลระบบกำหนด สมาชิกเลือกได้
Bash = P0 P0 / P1 / P2
Bash = P1 P1 / P2 (ลดลงเป็น P0 ไม่ได้)
Bash = P2 P2 เท่านั้น

การตรวจสอบเนื้อหา

alt text

การตั้งค่า คำอธิบาย
การตรวจสอบอินพุต เมื่อเปิดใช้งาน อินพุตของผู้ใช้จะถูกตรวจสอบก่อนที่จะส่งไปยัง LLM
การตรวจสอบเอาต์พุต เมื่อเปิดใช้งาน เอาต์พุตของ LLM จะถูกตรวจสอบก่อนที่จะแสดงต่อผู้ใช้
โมเดลตรวจสอบ เลือกโมเดลที่ใช้สำหรับการตรวจสอบเนื้อหา

ผลกระทบ

การตั้งค่า ผลกระทบ
เปิดการตรวจสอบอินพุต ข้อความแต่ละข้อความของผู้ใช้จะถูกตรวจสอบโดยโมเดลตรวจสอบก่อนว่ามีเนื้อหาที่ไม่เหมาะสมหรือไม่ ก่อนที่จะส่งไปยัง LLM หลัก เพิ่มความหน่วง 1-3 วินาที และค่าใช้จ่าย token เพิ่มเติม แต่สามารถป้องกันการใช้งานในทางที่ผิดได้
เปิดการตรวจสอบเอาต์พุต คำตอบแต่ละข้อความของ Agent จะถูกตรวจสอบโดยโมเดลตรวจสอบก่อนที่จะแสดงต่อผู้ใช้ เช่นเดียวกันจะเพิ่มความหน่วงและค่าใช้จ่าย แต่สามารถกรองคำตอบที่ไม่เหมาะสมได้
ปิด ไม่มีความหน่วงและค่าใช้จ่ายเพิ่มเติม แต่เนื้อหาที่ไม่เหมาะสมจะไม่ถูกสกัดกั้น

การทำข้อมูลนิรนาม

alt text

การตั้งค่า คำอธิบาย
สวิตช์การทำข้อมูลนิรนาม จะทำข้อมูลนิรนามกับข้อมูลที่ละเอียดอ่อนก่อนที่จะส่งไปยัง LLM หรือไม่
กฎการทำข้อมูลนิรนาม ระบุและแทนที่ PII (ข้อมูลระบุตัวตนส่วนบุคคล)
กฎการคืนค่า คืนค่าข้อมูลที่ทำนิรนามในเอาต์พุต

ผลกระทบ

สถานะ ผลกระทบ
เปิด LLM มองไม่เห็นข้อมูลส่วนบุคคลจริง (ชื่อ อีเมล โทรศัพท์ เลขบัตรประชาชน ฯลฯ ถูกแทนที่ด้วยตัวยึดตำแหน่ง เช่น [PERSON_1], [EMAIL_1]) ทำให้ความเป็นส่วนตัวของข้อมูลดีขึ้น แต่ในสถานการณ์ที่ซับซ้อนซึ่งต้องการให้ LLM เข้าใจความสัมพันธ์เชิงบริบท (เช่น "ช่วยเขียนอีเมลถึงจางซานให้หน่อย ที่อยู่ของเขาคือ...") การทำข้อมูลนิรนามอาจส่งผลต่อคุณภาพของคำตอบ
ปิด LLM สามารถมองเห็นข้อมูลส่วนบุคคลได้อย่างครบถ้วน เข้าใจบริบทได้แม่นยำกว่า แต่ข้อมูลจะถูกส่งไปยังบริการ LLM ของบุคคลที่สาม

คู่มือการใช้งาน

ตั้งค่าระดับสิทธิ์ของเครื่องมือ

  1. เปิดฝั่งเว็บ → จัดการพื้นที่ → แนวป้องกันความปลอดภัย → แท็บ ระดับของเครื่องมือ
  2. ค้นหาเครื่องมือเป้าหมาย
  3. คลิก P0 / P1 / P2 เพื่อสลับระดับ
  4. มีผลทันที สมาชิกทุกคนในองค์กรจะดำเนินการตามระดับใหม่ในการเรียกใช้เครื่องมือนั้นครั้งถัดไป

เปิดการตรวจสอบเนื้อหา

  1. สลับไปที่แท็บ การตรวจสอบเนื้อหา
  2. เปิดสวิตช์ การตรวจสอบอินพุต (ตรวจสอบเนื้อหาที่ผู้ใช้ส่ง) และ/หรือสวิตช์ การตรวจสอบเอาต์พุต (ตรวจสอบคำตอบของ Agent)
  3. เลือกโมเดลที่ใช้สำหรับการตรวจสอบ

ตั้งค่าการทำข้อมูลนิรนาม

  1. สลับไปที่แท็บ การทำข้อมูลนิรนาม
  2. เปิด สวิตช์การทำข้อมูลนิรนาม
  3. ระบบจะระบุข้อมูลระบุตัวตนส่วนบุคคล (PII) ในข้อความโดยอัตโนมัติ เช่น ชื่อ อีเมล โทรศัพท์ เลขบัตรประชาชน
  4. ในข้อความที่ส่งไปยัง LLM นั้น PII จะถูกแทนที่ด้วยตัวยึดตำแหน่ง
  5. ตัวยึดตำแหน่งในคำตอบของ LLM จะถูกคืนค่าเป็นค่าดั้งเดิมก่อนที่จะแสดงต่อผู้ใช้

การตั้งค่าความปลอดภัยที่แนะนำ

ระดับความปลอดภัย สิทธิ์ของเครื่องมือ การตรวจสอบเนื้อหา การทำนิรนาม สถานการณ์ที่เหมาะสม
ผ่อนปรน Bash: P1, อื่นๆ: P0 ปิด ปิด ทีมพัฒนาภายใน ที่ไว้วางใจอย่างเต็มที่
มาตรฐาน Bash: P1, Web Fetch: P1 ตรวจสอบเอาต์พุต ปิด สภาพแวดล้อมองค์กรทั่วไป
เข้มงวด ทั้งหมด P2 ตรวจสอบอินพุต+เอาต์พุต เปิด อุตสาหกรรมที่ละเอียดอ่อนด้านการเงิน/การแพทย์/การปฏิบัติตามข้อกำหนด

เอกสารที่เกี่ยวข้อง