ภาพรวม
เพื่อรองรับความต้องการที่หลากหลายของลูกค้าในแต่ละบริบททางธุรกิจ GPTBots จึงนำเสนอ LLM และโมเดลเฉพาะทางหลากหลายรูปแบบ เพื่อตอบโจทย์แต่ละสถานการณ์ทางธุรกิจ โมเดลเหล่านี้มีความสามารถ (การรู้จำและสร้างข้อความ/ภาพ/เสียง/ไฟล์) และคุณสมบัติที่แตกต่างกัน โดยราคาค่าบริการจะขึ้นอยู่กับขีดความสามารถของแต่ละโมเดล
ประเภทของบริการโมเดลที่ GPTBots ให้บริการ มีดังนี้:
- LLMs: รองรับ LLM หลายเวอร์ชันจากหลากหลายผู้ให้บริการ เช่น OpenAI, Claude, Gemini, ChatGLM, llama และโมเดลเชิงพาณิชย์/โอเพ่นซอร์สอื่น ๆ ที่ได้รับความนิยม
- Embedding Models: รองรับโมเดล Embedding หลายประเภท เช่น OpenAI, BGE, BCE และโมเดลเชิงพาณิชย์/โอเพ่นซอร์สอื่น ๆ อย่างไรก็ตาม ในเวอร์ชัน SaaS จะรองรับเพียง 1 โมเดล Embedding แต่สามารถใช้เวกเตอร์ได้หลายมิติพร้อมกัน
- Rerank Models: รองรับโมเดล Rerank หลายประเภท เช่น Jina, BGE, BCE และโมเดลเชิงพาณิชย์/โอเพ่นซอร์สอื่น ๆ
- Audio Models: รองรับโมเดลเสียงหลายประเภท เช่น OpenAI, Minimax และโมเดลเชิงพาณิชย์/โอเพ่นซอร์สอื่น ๆ
คำจำกัดความศัพท์เฉพาะ
เพื่อให้ผู้ใช้ในองค์กรบริหารจัดการและใช้งานบริการโมเดลได้อย่างมีประสิทธิภาพ GPTBots จึงสรุปบริการในมุมมองของ แบรนด์โมเดล และเวอร์ชันโมเดล พร้อมนิยามคำสำคัญดังนี้:Model Vendor: ชื่อบริษัทผู้พัฒนาโมเดลขนาดใหญ่ เช่น OpenAI, Anthropic, MistralAI, Ali, ZhiPu, Tencent ฯลฯModel Name: ชื่อแบรนด์ของโมเดลขนาดใหญ่ เช่น GPT, Claude, Gemini, ChatGLM, llama ฯลฯModel Version: เวอร์ชันของโมเดลขนาดใหญ่ที่มีขีดความสามารถแตกต่างกัน เช่น GPT-4o, GPT-o1-mini, Gemini-1.5-pro ฯลฯDeployment Method: บริการ API โมเดลที่ให้โดยผู้ให้บริการดั้งเดิมเรียกว่า การติดตั้งอย่างเป็นทางการ ส่วนที่ให้โดยผู้ให้บริการแพลตฟอร์มคอมพิวติ้งบุคคลที่สามเรียกว่า การติดตั้งแบบเปิดAPI Protocol: ข้อกำหนดโปรโตคอลของแพลตฟอร์มคอมพิวติ้งที่รันโมเดลขนาดใหญ่ เช่น OpenAI ที่รัน GPT, Amazon Bedrock ที่รัน Claude, together.ai ที่รัน Llama และมาตรฐานโปรโตคอล OpenAI ที่ใช้งานได้ทั่วไปAPI KEY: หมายถึงการตั้งค่าการยืนยันตัวตนเมื่อเรียกใช้ API บริการโมเดล โดยผู้ให้บริการโมเดลมักกำหนดขีดจำกัดความถี่และการคิดค่าบริการแยกตามแต่ละ API KEY
การตั้งค่าบริการโมเดล
GPTBots มี 2 วิธีในการตั้งค่าบริการโมเดล: ใช้ Platform KEY สำหรับตั้งค่าบริการโมเดล และใช้ Self-Owned KEY สำหรับตั้งค่าบริการโมเดล องค์กรสามารถเลือกวิธีที่เหมาะสมกับความต้องการได้
เมื่อกำหนดค่าบริการโมเดล GPTBots รองรับการกำหนดค่าโปรโตคอล API โมเดลและ API KEY หลายรายการพร้อมกันสำหรับ "แบรนด์โมเดล/เวอร์ชันโมเดล" ที่ระบุ เมื่อมีการเรียกใช้บริการโมเดล GPTBots จะหมุนเวียน API KEY ต่าง ๆ โดยอัตโนมัติเพื่อให้บริการโมเดล พร้อมใช้งานสูงและรองรับการทำงานพร้อมกันจำนวนมาก
การใช้ Platform KEY เพื่อเรียกใช้บริการโมเดล
องค์กรไม่จำเป็นต้องสมัครบัญชีและซื้อบริการจากผู้ให้บริการโมเดลแต่ละรายโดยตรง สามารถใช้ Platform KEY ของ GPTBots เพื่อเรียกใช้บริการโมเดลได้ทันที องค์กรสามารถดูข้อมูลโทเคนการใช้งานบริการโมเดลโดยละเอียดได้ที่ "GPTBots Platform - องค์กร - การใช้งาน" และจะถูกหักเครดิตการใช้งานจาก GPTBots สำหรับรายละเอียดราคา กรุณาดูที่ Service Pricing
การใช้ Self-Owned KEY เพื่อเรียกใช้บริการโมเดล
องค์กรสามารถนำ Self-Owned KEY ที่สมัครและเปิดใช้งานกับผู้ให้บริการโมเดลแต่ละรายมาโฮสต์ไว้บนแพลตฟอร์ม GPTBots และชำระค่าบริการโดยตรงกับผู้ให้บริการโมเดล องค์กรสามารถดูข้อมูลโทเคนที่ใช้ไปจากการเรียกใช้บริการโมเดลได้ที่ "GPTBots Platform - องค์กร - การใช้งาน" และจะถูกหักเครดิตการใช้งานช่องทางใน GPTBots เพียงเล็กน้อย สำหรับรายละเอียดราคา กรุณาดูที่ Service Pricing
รายการบริการโมเดล
GPTBots จะเพิ่มบริการโมเดลที่เหมาะสมกับบริบทธุรกิจขององค์กรอย่างต่อเนื่อง หากองค์กรต้องการบริการโมเดลที่ยังไม่มีในรายการ กรุณาติดต่อเรา เพื่อให้เราประเมินและทดสอบเพิ่มเติมเพื่อรองรับการใช้งาน รายการบริการโมเดลที่รองรับในปัจจุบันและขีดความสามารถ มีดังนี้:
LLMs
OpenAI GPT Series Models: GPT คือชุดโมเดลภาษาใหญ่ที่พัฒนาโดย OpenAI ประกอบด้วย GPT-3.5, GPT-4o, GPT-o1 และอื่น ๆ
| ผู้ให้บริการ/แบรนด์ | เวอร์ชันโมเดล | ขีดจำกัดบริบท | ขีดจำกัดการสร้าง | ปลั๊กอิน | รับภาพเข้า | รับเสียงเข้า | รับไฟล์เข้า | ส่งข้อความออก | ส่งเสียงออก |
|---|---|---|---|---|---|---|---|---|---|
| OpenAI/GPT | GPT-4o | 128k | 8k | ✓ | ✓ | ✗ | ✗ | ✓ | ✗ |
| OpenAI/GPT | GPT-4o-audio | 128k | 8k | ✓ | ✓ | ✓ | ✗ | ✓ | ✓ |
| OpenAI/GPT | GPT-4o-mini | 128k | 8k | ✓ | ✓ | ✗ | ✗ | ✓ | ✗ |
| OpenAI/GPT | GPT-o1 | 128k | 8k | ✗ | ✓ | ✗ | ✗ | ✓ | ✗ |
| OpenAI/GPT | GPT-o1-mini | 128k | 8k | ✗ | ✓ | ✗ | ✗ | ✓ | ✗ |
| OpenAI/GPT | GPT-3.5-turbo | 16k | 4k | ✓ | ✗ | ✗ | ✗ | ✓ | ✗ |
Anthropic Claude Series Models: Claude คือชุดโมเดลภาษาใหญ่ที่พัฒนาโดย Anthropic ประกอบด้วย Opus, Sonnet, Haiku ฯลฯ
| ผู้ให้บริการ/แบรนด์ | เวอร์ชันโมเดล | ขีดจำกัดบริบท | ขีดจำกัดการสร้าง | ปลั๊กอิน | รับภาพเข้า | รับเสียงเข้า | รับไฟล์เข้า | ส่งข้อความออก | ส่งเสียงออก |
|---|---|---|---|---|---|---|---|---|---|
| Anthropic/Claude | Claude-3-opus | 200k | 4k | ✓ | ✓ | ✗ | ✗ | ✓ | ✗ |
| Anthropic/Claude | Claude-3.5-sonnet | 200k | 8k | ✓ | ✓ | ✗ | ✓ | ✓ | ✗ |
| Anthropic/Claude | Claude-3.5-haiku | 200k | 8k | ✓ | ✓ | ✗ | ✗ | ✓ | ✗ |
Google Gemini Series Models: Gemini คือชุดโมเดลภาษาใหญ่ที่พัฒนาโดย Google ประกอบด้วย Pro, Flash ฯลฯ
| ผู้ให้บริการ/แบรนด์ | เวอร์ชันโมเดล | ขีดจำกัดบริบท | ขีดจำกัดการสร้าง | ปลั๊กอิน | รับภาพเข้า | รับเสียงเข้า | รับไฟล์เข้า | ส่งข้อความออก | ส่งเสียงออก |
|---|---|---|---|---|---|---|---|---|---|
| Google/Gemini | Gemini-1.5-pro | 1M | 8k | ✓ | ✓ | ✓ | ✓ | ✓ | ✗ |
| Google/Gemini | Gemini-1.5-flash | 1M | 8k | ✓ | ✓ | ✓ | ✓ | ✓ | ✗ |
