การกลั่นกรองเนื้อหา

การกลั่นกรองเนื้อหา (Content moderation) คือการตรวจสอบเนื้อหาที่ผู้ใช้ป้อนเข้ามา รวมถึงเนื้อหาที่สร้างโดย AI Agent เพื่อค้นหาสิ่งที่ไม่เหมาะสม เช่น สื่อลามก ความรุนแรง ฯลฯ เพื่อให้แน่ใจว่าเนื้อหามีความปลอดภัย เหมาะสม และลดความเสี่ยงด้านการปฏิบัติตามข้อกำหนดทางธุรกิจของลูกค้า

บริการที่รองรับ

ขณะนี้รองรับเฉพาะ OpenAI Moderation

การตั้งค่าหลัก

GPTBots Key: ผู้ใช้สามารถใช้บริการกลั่นกรองเนื้อหาได้โดยตรงผ่าน Key ที่ GPTBots จัดเตรียมไว้ ไม่ต้องเชื่อมต่อกับ OpenAI เอง
My Key: ผู้ใช้สามารถใช้ OpenAI Key ของตนเองเพื่อเข้าถึงบริการกลั่นกรองเนื้อหานี้ได้เช่นกัน

การขยาย API

หากต้องการเชื่อมต่อบริการกลั่นกรองเนื้อหาจากผู้ให้บริการรายอื่น สามารถอ้างอิงวิธีขยาย API แบบกำหนดเองด้านล่างนี้

การพัฒนา API

หากต้องการใช้ API แบบกำหนดเองสำหรับการกลั่นกรองเนื้อหา API ต้องพัฒนาตามข้อกำหนดดังนี้:

รองรับการยืนยันตัวตนแบบ Bearer
ใช้วิธี POST

รูปแบบข้อมูลที่ส่ง (request body) ต้องเป็นดังนี้:

{ "point": "agent.moderation.input", "params": { "agent_id": "66dacfb60d3bb525b33e7b2b", "query": [ { "type": "text", "text": "...เนื้อหาที่ต้องการตรวจสอบ..." }, { "type": "image", "url": "https://example.com/image.png" } ] } }

                      
                      {
    "point": "agent.moderation.input",
    "params": {
        "agent_id": "66dacfb60d3bb525b33e7b2b",
        "query": [
            {
                "type": "text",
                "text": "...เนื้อหาที่ต้องการตรวจสอบ..."
            },
            {
                "type": "image",
                "url": "https://example.com/image.png"
            }
        ]
    }
}

บล็อกโค้ดนี้ในหน้าต่างลอย

ฟิลด์	ประเภท	คำอธิบาย
point	String	จุดเชื่อมต่อสำหรับการกลั่นกรองเนื้อหา ตรวจสอบอินพุตใช้ `agent.moderation.input` ตรวจสอบเอาต์พุตใช้ `agent.moderation.output`
params	Object	อ็อบเจกต์รายละเอียดสำหรับการร้องขอกลั่นกรองเนื้อหา
- agent_id	String	รหัส Agent ที่จะถูกกลั่นกรองเนื้อหา
- query	Array	เนื้อหาที่ต้องการกลั่นกรอง
- - type	String	ประเภทเนื้อหา: `text`, `image`
- - text	String	หาก type เป็น `text` ให้ใส่ข้อความที่ต้องการตรวจสอบในพารามิเตอร์นี้
- - url	String	หาก type เป็น `image` ให้ใส่ URL ของรูปภาพในพารามิเตอร์นี้

รูปแบบข้อมูลที่ตอบกลับ (response body) ต้องเป็นดังนี้:

{ "flagged": true, "preset_response": "เนื้อหาของคุณละเมิดนโยบายการใช้งานของเรา" }

                      
                      {
    "flagged": true,
    "preset_response": "เนื้อหาของคุณละเมิดนโยบายการใช้งานของเรา"
}

บล็อกโค้ดนี้ในหน้าต่างลอย

ฟิลด์	ประเภท	คำอธิบาย
flagged	Bool	ผลลัพธ์การกลั่นกรองเนื้อหา `true` หมายถึง ไม่ผ่าน การตรวจสอบ, `false` หมายถึง ผ่าน การตรวจสอบ
preset_response	String	เมื่อเนื้อหา ไม่ผ่าน การกลั่นกรอง ข้อความนี้จะใช้ตอบกลับผู้ใช้

การเพิ่ม API

คลิก "New API Extension"

กรอกข้อมูล API ที่ต้องการขยายในแผงควบคุม แล้วคลิก "Test"

หากทดสอบสำเร็จ ให้คลิก "Save" การขยาย API จะเริ่มใช้งานได้ทันที