ภาพรวม

ภาพรวม

เพื่อรองรับความต้องการที่หลากหลายของลูกค้าในแต่ละบริบททางธุรกิจ GPTBots จึงนำเสนอ LLM และโมเดลเฉพาะทางหลากหลายรูปแบบ เพื่อตอบโจทย์แต่ละสถานการณ์ทางธุรกิจ โมเดลเหล่านี้มีความสามารถ (การรู้จำและสร้างข้อความ/ภาพ/เสียง/ไฟล์) และคุณสมบัติที่แตกต่างกัน โดยราคาค่าบริการจะขึ้นอยู่กับขีดความสามารถของแต่ละโมเดล
ประเภทของบริการโมเดลที่ GPTBots ให้บริการ มีดังนี้:

  • LLMs: รองรับ LLM หลายเวอร์ชันจากหลากหลายผู้ให้บริการ เช่น OpenAI, Claude, Gemini, ChatGLM, llama และโมเดลเชิงพาณิชย์/โอเพ่นซอร์สอื่น ๆ ที่ได้รับความนิยม
  • Embedding Models: รองรับโมเดล Embedding หลายประเภท เช่น OpenAI, BGE, BCE และโมเดลเชิงพาณิชย์/โอเพ่นซอร์สอื่น ๆ อย่างไรก็ตาม ในเวอร์ชัน SaaS จะรองรับเพียง 1 โมเดล Embedding แต่สามารถใช้เวกเตอร์ได้หลายมิติพร้อมกัน
  • Rerank Models: รองรับโมเดล Rerank หลายประเภท เช่น Jina, BGE, BCE และโมเดลเชิงพาณิชย์/โอเพ่นซอร์สอื่น ๆ
  • Audio Models: รองรับโมเดลเสียงหลายประเภท เช่น OpenAI, Minimax และโมเดลเชิงพาณิชย์/โอเพ่นซอร์สอื่น ๆ

คำจำกัดความศัพท์เฉพาะ

เพื่อให้ผู้ใช้ในองค์กรบริหารจัดการและใช้งานบริการโมเดลได้อย่างมีประสิทธิภาพ GPTBots จึงสรุปบริการในมุมมองของ แบรนด์โมเดล และเวอร์ชันโมเดล พร้อมนิยามคำสำคัญดังนี้:
Model Vendor: ชื่อบริษัทผู้พัฒนาโมเดลขนาดใหญ่ เช่น OpenAI, Anthropic, MistralAI, Ali, ZhiPu, Tencent ฯลฯ
Model Name: ชื่อแบรนด์ของโมเดลขนาดใหญ่ เช่น GPT, Claude, Gemini, ChatGLM, llama ฯลฯ
Model Version: เวอร์ชันของโมเดลขนาดใหญ่ที่มีขีดความสามารถแตกต่างกัน เช่น GPT-4o, GPT-o1-mini, Gemini-1.5-pro ฯลฯ
Deployment Method: บริการ API โมเดลที่ให้โดยผู้ให้บริการดั้งเดิมเรียกว่า การติดตั้งอย่างเป็นทางการ ส่วนที่ให้โดยผู้ให้บริการแพลตฟอร์มคอมพิวติ้งบุคคลที่สามเรียกว่า การติดตั้งแบบเปิด
API Protocol: ข้อกำหนดโปรโตคอลของแพลตฟอร์มคอมพิวติ้งที่รันโมเดลขนาดใหญ่ เช่น OpenAI ที่รัน GPT, Amazon Bedrock ที่รัน Claude, together.ai ที่รัน Llama และมาตรฐานโปรโตคอล OpenAI ที่ใช้งานได้ทั่วไป
API KEY: หมายถึงการตั้งค่าการยืนยันตัวตนเมื่อเรียกใช้ API บริการโมเดล โดยผู้ให้บริการโมเดลมักกำหนดขีดจำกัดความถี่และการคิดค่าบริการแยกตามแต่ละ API KEY

การตั้งค่าบริการโมเดล

GPTBots มี 2 วิธีในการตั้งค่าบริการโมเดล: ใช้ Platform KEY สำหรับตั้งค่าบริการโมเดล และใช้ Self-Owned KEY สำหรับตั้งค่าบริการโมเดล องค์กรสามารถเลือกวิธีที่เหมาะสมกับความต้องการได้
เมื่อกำหนดค่าบริการโมเดล GPTBots รองรับการกำหนดค่าโปรโตคอล API โมเดลและ API KEY หลายรายการพร้อมกันสำหรับ "แบรนด์โมเดล/เวอร์ชันโมเดล" ที่ระบุ เมื่อมีการเรียกใช้บริการโมเดล GPTBots จะหมุนเวียน API KEY ต่าง ๆ โดยอัตโนมัติเพื่อให้บริการโมเดล พร้อมใช้งานสูงและรองรับการทำงานพร้อมกันจำนวนมาก
models-configuration

การใช้ Platform KEY เพื่อเรียกใช้บริการโมเดล

องค์กรไม่จำเป็นต้องสมัครบัญชีและซื้อบริการจากผู้ให้บริการโมเดลแต่ละรายโดยตรง สามารถใช้ Platform KEY ของ GPTBots เพื่อเรียกใช้บริการโมเดลได้ทันที องค์กรสามารถดูข้อมูลโทเคนการใช้งานบริการโมเดลโดยละเอียดได้ที่ "GPTBots Platform - องค์กร - การใช้งาน" และจะถูกหักเครดิตการใช้งานจาก GPTBots สำหรับรายละเอียดราคา กรุณาดูที่ Service Pricing

การใช้ Self-Owned KEY เพื่อเรียกใช้บริการโมเดล

องค์กรสามารถนำ Self-Owned KEY ที่สมัครและเปิดใช้งานกับผู้ให้บริการโมเดลแต่ละรายมาโฮสต์ไว้บนแพลตฟอร์ม GPTBots และชำระค่าบริการโดยตรงกับผู้ให้บริการโมเดล องค์กรสามารถดูข้อมูลโทเคนที่ใช้ไปจากการเรียกใช้บริการโมเดลได้ที่ "GPTBots Platform - องค์กร - การใช้งาน" และจะถูกหักเครดิตการใช้งานช่องทางใน GPTBots เพียงเล็กน้อย สำหรับรายละเอียดราคา กรุณาดูที่ Service Pricing

รายการบริการโมเดล

GPTBots จะเพิ่มบริการโมเดลที่เหมาะสมกับบริบทธุรกิจขององค์กรอย่างต่อเนื่อง หากองค์กรต้องการบริการโมเดลที่ยังไม่มีในรายการ กรุณาติดต่อเรา เพื่อให้เราประเมินและทดสอบเพิ่มเติมเพื่อรองรับการใช้งาน รายการบริการโมเดลที่รองรับในปัจจุบันและขีดความสามารถ มีดังนี้:

LLMs

OpenAI GPT Series Models: GPT คือชุดโมเดลภาษาใหญ่ที่พัฒนาโดย OpenAI ประกอบด้วย GPT-3.5, GPT-4o, GPT-o1 และอื่น ๆ

ผู้ให้บริการ/แบรนด์ เวอร์ชันโมเดล ขีดจำกัดบริบท ขีดจำกัดการสร้าง ปลั๊กอิน รับภาพเข้า รับเสียงเข้า รับไฟล์เข้า ส่งข้อความออก ส่งเสียงออก
OpenAI/GPT GPT-4o 128k 8k
OpenAI/GPT GPT-4o-audio 128k 8k
OpenAI/GPT GPT-4o-mini 128k 8k
OpenAI/GPT GPT-o1 128k 8k
OpenAI/GPT GPT-o1-mini 128k 8k
OpenAI/GPT GPT-3.5-turbo 16k 4k

Anthropic Claude Series Models: Claude คือชุดโมเดลภาษาใหญ่ที่พัฒนาโดย Anthropic ประกอบด้วย Opus, Sonnet, Haiku ฯลฯ

ผู้ให้บริการ/แบรนด์ เวอร์ชันโมเดล ขีดจำกัดบริบท ขีดจำกัดการสร้าง ปลั๊กอิน รับภาพเข้า รับเสียงเข้า รับไฟล์เข้า ส่งข้อความออก ส่งเสียงออก
Anthropic/Claude Claude-3-opus 200k 4k
Anthropic/Claude Claude-3.5-sonnet 200k 8k
Anthropic/Claude Claude-3.5-haiku 200k 8k

Google Gemini Series Models: Gemini คือชุดโมเดลภาษาใหญ่ที่พัฒนาโดย Google ประกอบด้วย Pro, Flash ฯลฯ

ผู้ให้บริการ/แบรนด์ เวอร์ชันโมเดล ขีดจำกัดบริบท ขีดจำกัดการสร้าง ปลั๊กอิน รับภาพเข้า รับเสียงเข้า รับไฟล์เข้า ส่งข้อความออก ส่งเสียงออก
Google/Gemini Gemini-1.5-pro 1M 8k
Google/Gemini Gemini-1.5-flash 1M 8k