TH ▾
รับคีย์ API

เปรียบเทียบโมเดล AI และราคา: แบบโฮสต์, แบบโลคอล, API นี้

เพื่อเปรียบเทียบโมเดล AI และราคาอย่างยุติธรรม คุณต้องการจำนวนโทเคนของตัวเอง ไม่ใช่รายการราคา บทความนี้ให้สูตร ตัวเลือกสี่อย่างที่คุ้มค่าที่จะเปรียบเทียบ และข้อมูลจริงเมื่อ API นี้ไม่ใช่ตัวเลือกที่ดี

อัปเดต

แพลตฟอร์มสี่แห่งที่มีคลาวด์ ศูนย์เครือข่าย กล่อง GPU และลูกบาศก์ที่เชื่อมต่อกับยอดคงเหลือกลาง เพื่อเปรียบเทียบตัวเลือกโมเดล

สี่วิธีในการเข้าถึงโมเดล และต้นทุนของแต่ละวิธี

การเปรียบเทียบส่วนใหญ่สับสนในสิ่งที่แตกต่างกัน โมเดล ผู้ให้บริการ และแผนการเรียกเก็บเงินเป็นสามตัวเลือกที่แยกจากกัน สำหรับการสร้างข้อความในแอป มีสี่เส้นทางที่เป็นไปได้ และแต่ละเส้นทางมีรูปแบบต้นทุนของตัวเอง

  1. API ของผู้ขายแบบปิดเอง คุณได้โมเดลเรือธงของผู้ขายนั้น ชุดฟีเจอร์ และนโยบายการใช้งานของพวกเขา ราคาต่อโทเคนและเปลี่ยนแปลงได้ ดังนั้นตรวจสอบราคาปัจจุบันของพวกเขาแทนที่จะเชื่อโพสต์บล็อก รวมถึงโพสต์นี้
  2. เร้าเตอร์หรือตลาด บัญชีเดียว โมเดลหลายตัวจากผู้ขายหลายราย สะดวกสำหรับการทดลอง พร้อมมาร์กอัปหรือชั้นค่าธรรมเนียมบนราคาพื้นฐาน ขึ้นอยู่กับบริการ
  3. การรันโมเดลแบบเปิดน้ำหนักด้วยตัวเอง ไม่มีค่าธรรมเนียมต่อโทเคน คุณจ่ายสำหรับ GPU หรือเวิร์กสเตชันที่เพียงพอ ค่าไฟ เวลาติดตั้ง และการบำรุงรักษา และอัตราการทำงานของคุณขึ้นอยู่กับฮาร์ดแวร์ที่คุณมี
  4. API แบบโฮสต์สำหรับโมเดลเปิดน้ำหนักที่มีงานเฉพาะ นี่คือสิ่งที่เว็บไซต์นี้ทำ: โมเดลแบบเปิดน้ำหนักหนึ่งตัว รันโดยผู้ให้บริการอิสระ ปรับแต่งให้ตอบโดยไม่ปฏิเสธเนื้อหาสำหรับการใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมาย ผ่านเอนด์พอยต์ที่เข้ากันได้กับ OpenAI ไม่ใช่ API ทางการของ Meta, Mistral, Qwen, DeepSeek, OpenAI, xAI, Google หรือ Anthropic และไม่ใช่ตัวจัดเส้นทาง

ส่วนที่เหลือของบทความนี้ให้คุณมีวิธีประเมินราคาในแต่ละเส้นทาง API โดยไม่ต้องพึ่งหน้าการตลาดของใคร

สิ่งที่ API นี้เสนอ ในข้อเท็จจริงที่คุณสามารถตรวจสอบได้

เริ่มจากด้านที่คุณสามารถตรวจสอบได้ ทุกอย่างเผยแพร่อยู่ในหน้าราคา และในเอกสารประกอบ

รายการAPI นี้
ID โมเดลuncensored (หนึ่งโมเดล)
เอนด์พอยต์POST /v1/chat/completions, GET /v1/models
ความเข้ากันได้SDK และไคลเอนต์ของ OpenAI โดยเปลี่ยน base URL และคีย์
หน้าต่างบริบท100,000 โทเคน, พรอมต์รวมกับคอมพลีชัน
ราคาอินพุต$0.15 ต่อ 1M โทเคน
ราคาเอาต์พุต$0.50 ต่อ 1M โทเคน
การเรียกเก็บเงินเครดิตแบบเติมเงินล่วงหน้า ไม่มีสมาชิกภาพ ไม่หมดอายุ ไม่เรียกเก็บเงินสำหรับคำขอที่ล้มเหลวหรือถูกปฏิเสธ
ฟีเจอร์สตรีมมิง, การเรียกใช้เครื่องมือ, โหมด JSON, การควบคุม seed และการสุ่มตัวอย่าง
ขีดจำกัดคีย์เต็ม: 8 พร้อมกัน, 300 คำขอต่อนาที คีย์ทดลอง: 2 พร้อมกัน, 60 ต่อนาที
ไม่เสนอรูปภาพ เสียง วิดีโอ embedding การปรับแต่งพิเศษ

ใช้ตารางเดียวกันเป็นเทมเพลตสำหรับเส้นทางอื่นๆ หากไม่สามารถกรอกแถวสำหรับบริการคู่แข่งจากเอกสารประกอบได้ ให้ถือว่านั่นเป็นข้อค้นพบ ความพร้อมกันและขีดจำกัดอัตรามักหายไปจากหน้าการตลาดและมีนัยสำคัญสำหรับงานแบทช์

สูตรต้นทุน พร้อมตัวอย่างที่แม่นยำ

ค่าใช้จ่ายรายเดือนคำนวณจากจำนวนโทเคนอินพุตหารด้วยหนึ่งล้าน คูณด้วยอัตราโทเคนอินพุต บวกกับจำนวนโทเคนเอาต์พุตหารด้วยหนึ่งล้าน คูณด้วยอัตราโทเคนเอาต์พุต ไม่มีค่าใช้จ่ายแอบแฝงอื่น ๆ ในที่นี้ ตัวอย่างสามกรณีสำหรับอัตรา $0.15 และ $0.50:

  • เครื่องมือขนาดเล็ก 2 ล้านโทเคนอินพุตและ 0.5 ล้านโทเคนเอาต์พุตต่อเดือน: 2 x $0.15 = $0.30 บวก 0.5 x $0.50 = $0.25 รวม$0.55
  • ผลิตภัณฑ์ที่มีการใช้งานสูง 50 ล้านโทเคนอินพุตและ 10 ล้านโทเคนเอาต์พุต: 50 x $0.15 = $7.50 บวก 10 x $0.50 = $5.00 รวม$12.50
  • แอปพลิเคชันเขียนที่เน้นเอาต์พุต 5 ล้านโทเคนอินพุตและ 5 ล้านโทเคนเอาต์พุต: 5 x $0.15 = $0.75 บวก 5 x $0.50 = $2.50 รวม$3.25

บรรทัดที่สามแสดงเหตุผลว่าอัตราส่วนอินพุตต่อเอาต์พุตสำคัญอย่างไร ที่ปริมาณเท่ากัน ค่าใช้จ่ายของเอาต์พุตสูงกว่าอินพุตมากกว่าสามเท่าในกรณีนี้ ดังนั้นกรณีการใช้งานที่เขียนคำตอบยาวจากพรอมต์สั้นๆ จึงทำงานแตกต่างจากกรณีอ่านเอกสารยาวแล้วตอบสั้นๆ เมื่อเปรียบเทียบบริการใดๆ สองบริการ ให้คำนวณอัตราส่วนทั้งสองผ่านรายการราคาทั้งสองรายการ

ตอนนี้ถามคำถามเดียวกันกับตัวเลือกอื่นๆ สำหรับผู้ให้บริการแบบปิดหรือเราเตอร์ ให้ใช้อัตราต่อโทเคนปัจจุบันของพวกเขาและรันสถานการณ์สามแบบเดียวกัน สำหรับการทำงานในเครื่อง ให้หารต้นทุนฮาร์ดแวร์ ค่าไฟ และเวลาที่คุณใช้ในการบำรุงรักษาต่อเดือนด้วยจำนวนโทเคนที่มันผลิตได้จริงในเดือนนั้น GPU ที่ว่างเปล่าจะทำให้การรันในเครื่องดูแพงต่อโทเคน ในขณะที่ GPU ที่ทำงานเต็มกำลังอาจดูถูกมาก สิ่งที่คุณได้รับขึ้นอยู่กับโหลดของคุณ ดังนั้นจึงต้องวัดผล

วัดผลบนพรอมต์ของคุณเอง

ราคาที่ประกาศไว้บอกคุณเพียงอัตราและไม่มีข้อมูลเกี่ยวกับจำนวนโทเคนของคุณ โมเดลแต่ละชนิดมีการแปลงเป็นโทเคนที่แตกต่างกัน และโมเดลที่พูดมากจะเขียนคำตอบที่ยาวกว่าสำหรับคำถามเดียวกัน การเปรียบเทียบที่ตรงไปตรงมาที่สุดคือการรันพรอมต์จริงของคุณและบันทึกผลลัพธ์ที่ได้ สคริปต์นี้ทำสิ่งนั้นกับ API นี้; ชี้ URL พื้นฐานและโมเดลไปยังบริการอื่นเพื่อรับตัวเลขเดียวกันจากบริการนั้น

import os, time
from openai import OpenAI

client = OpenAI(
    base_url="https://api.uncensoredaimodels.com/v1",
    api_key=os.environ["UNCENSORED_KEY"],
)

IN_PER_M, OUT_PER_M = 0.15, 0.50   # dollars per 1M tokens

def cost(prompt_tokens, completion_tokens):
    return prompt_tokens / 1e6 * IN_PER_M + completion_tokens / 1e6 * OUT_PER_M

def trial(prompt):
    t0 = time.time()
    r = client.chat.completions.create(
        model="uncensored",
        messages=[{"role": "user", "content": prompt}],
        max_tokens=500,
    )
    u = r.usage
    return {
        "seconds": round(time.time() - t0, 2),
        "in": u.prompt_tokens,
        "out": u.completion_tokens,
        "dollars": round(cost(u.prompt_tokens, u.completion_tokens), 6),
        "text": r.choices[0].message.content,
    }

for p in open("my_real_prompts.txt").read().split("\n---\n"):
    print(trial(p))

ใส่พรอมต์จริง 20 ถึง 50 รายการใน my_real_prompts.txt คั่นด้วยบรรทัดที่มีขีดสามขีด อ่านเอาต์พุตด้วยตัวเอง ค่าใช้จ่ายต่อพรอมต์มีประโยชน์เฉพาะเมื่อคำตอบผ่านมาตรฐานของคุณ และโมเดลที่ถูกกว่าที่ต้องลองสองครั้งต่องานไม่ได้ถูกกว่า คีย์ทดลองเพียงพอสำหรับสิ่งนี้: ผู้ใช้ใหม่สามารถขอเครดิต $0.50 ได้ด้วยการคลิกที่ หน้าคีย์ API มีอายุ 7 วัน ไม่ต้องใช้บัตร หมายเหตุว่าคีย์ทดลองจำกัดคำขอพร้อมกัน 2 คำขอและ 60 คำขอต่อนาที ดังนั้นให้รันสคริปต์แบบลำดับ

เมื่อ API แบบปิดระดับแนวหน้าเป็นทางเลือกที่ดีกว่า

เข้าใจเรื่องนี้ให้ชัดเจนก่อนใช้จ่ายอะไร หากงานของคุณขึ้นอยู่กับความสามารถในการให้เหตุผลทั่วไปที่แข็งแกร่งที่สุด อินพุตภาพ อินพุตเสียง การสร้างเอมเบดดิ้งสำหรับการค้นหา หรือบริการปรับแต่งเฉพาะของผู้ขาย API ของผู้ขายแบบปิดคือเครื่องมือที่เหมาะสมและ API นี้ไม่สามารถแทนที่ได้ API นี้มีโมเดลข้อความหนึ่งโมเดล มันไม่สร้างหรืออ่านภาพหรือเสียง ไม่สร้างเอมเบดดิ้ง และไม่ปรับแต่ง

สิ่งเดียวกันนี้ใช้กับนโยบาย ผู้ขายแบบปิดใช้กฎเนื้อหาของตนเอง และสำหรับบอทบริการลูกค้าหรือเครื่องมือสอนเด็ก กฎเหล่านั้นเป็นคุณสมบัติ API ที่ปรับให้ตอบโดยไม่มีการปฏิเสธไม่เข้ากันกับผลิตภัณฑ์ที่คุณต้องการให้โมเดลโต้แย้งคำขอขอบเขต คุณสามารถเพิ่มการกรองของคุณเองได้ แต่หากการปฏิเสธคือสิ่งที่คุณต้องการ ให้เลือกบริการที่สร้างขึ้นโดยมีจุดเน้นที่การปฏิเสธ

สุดท้าย ตรวจสอบความต้องการระดับองค์กร หากคุณต้องการข้อตกลงการประมวลผลข้อมูลที่มีลายเซ็น การรับประกันภูมิภาค หรือการรับประกันเวลาทำงาน ให้ขอสิ่งเหล่านี้จากผู้ให้บริการแต่ละรายเป็นลายลักษณ์อักษร เว็บไซต์นี้เผยแพร่ข้อเท็จจริงที่ระบุไว้ข้างต้นและไม่มีอะไรเกินกว่านั้น

เมื่อการรันในเครื่องชนะ

การรันในเครื่องเป็นคำตอบที่ถูกต้องเมื่อข้อมูลต้องไม่ออกจากฮาร์ดแวร์ของคุณเมื่อคุณต้องการการทำงานแบบออฟไลน์ เมื่อปริมาณของคุณสูงและคงที่เพียงพอที่จะรักษา GPU ให้ทำงาน หรือเมื่อคุณต้องการควบคุมไฟล์โมเดลและการสุ่มตัวอย่างอย่างเต็มที่ คุณยังสามารถเลือกโมเดลแบบเปิดน้ำหนักใดๆ ก็ได้และสลับได้ตามต้องการ

ราคาของการควบคุมนั้นเป็นจริง คุณจัดการไดรเวอร์ ซอฟต์แวร์การให้บริการ การเลือกการควอนไทซ์ ขอบเขตหน่วยความจำ และการอัปเดต บริบทที่ยาวมีค่าใช้จ่ายด้านหน่วยความจำสูง ดังนั้นหน้าต่าง 100,000 โทเคนที่เป็นเพียงพารามิเตอร์หนึ่งบน API อาจเป็นโครงการฮาร์ดแวร์ในเครื่อง สำหรับโปรโตไทป์ หรือแอปที่มีปริมาณการใช้งานเป็นช่วงๆ API มักจะถึงผลิตภัณฑ์ที่ใช้งานได้เร็วกว่า หากคุณต้องการเข้าใจการแลกเปลี่ยนด้านวิศวกรรมในส่วนการเขียนโค้ด รายการตรวจสอบการผลิตสำหรับ LLM เขียนโค้ดแบบไม่เซ็นเซอร์ จะกล่าวถึงสิ่งเหล่านี้

API นี้เหมาะกับที่ใด และเริ่มต้นอย่างไร

มันเหมาะเมื่อคุณต้องการเอนด์พอยต์ที่เข้ากันได้กับ OpenAI โมเดลที่ไม่ปฏิเสธคำขอผู้ใหญ่ที่ถูกต้องตามกฎหมาย การเรียกเก็บเงินแบบเติมเงินไม่มีสมาชิกภาพ และขอบเขตที่ชัดเจน งานทั่วไปคือแบ็กเอนด์นวนิยายและบทบาทสมมติ แอปพลิเคชันเพื่อนสำหรับผู้ใหญ่ เครื่องมือทดสอบการบุกรุกและเขียนข้อความ และลูปเอเจนต์ที่ล้มเหลวกับการปฏิเสธในบริการอื่น เนื้อหาทางเพศที่เกี่ยวข้องกับผู้เยาว์เป็นขอบเขตที่เข้มงวด พรอมต์ไม่ถูกใช้ในการฝึกฝน

การเปลี่ยนไคลเอนต์ที่มีอยู่ใช้เวลาสองบรรทัด: เปลี่ยน Base URL เป็น https://api.uncensoredaimodels.com/v1 และโมเดลเป็น uncensored การเติมเงินเป็นจำนวนเต็มตั้งแต่ $20 ถึง $500 พร้อมโบนัส +5% จาก $50, +10% จาก $100 และ +15% จาก $200 ชำระด้วยคริปโต (USDT บน TRC20, USDC บน Base) เครดิตไม่หมดอายุ ดังนั้นการเติมเงินครั้งแรก $20 เป็นวิธีที่มีความเสี่ยงต่ำเพื่อรันสคริปต์การวัดข้างต้นด้วยปริมาณจริง คู่มือเริ่มต้นอย่างรวดเร็ว มีรูปแบบคำขอแบบเต็ม

01

คำถามและคำตอบ

ฉันเปรียบเทียบราคาโมเดล AI ได้อย่างถูกต้องอย่างไร

รวบรวมอัตราอินพุตและเอาต์พุต จากนั้นคูณแต่ละอันด้วยปริมาณโทเคนรายเดือนของคุณเองแล้วรวมกัน รันพรอมต์จริงผ่านแต่ละบริการเพื่อรับจำนวนโทเคนที่แท้จริง เนื่องจากโมเดลต่างกันในด้านความพูดมากและการแปลงเป็นโทเคน

API ที่โฮสต์ถูกกว่าการรันโมเดลในเครื่องหรือไม่

สำหรับปริมาณการใช้งานต่ำหรือแบบเป็นช่วงๆ มักใช่ เพราะคุณจ่ายเฉพาะโทเคนที่ใช้เท่านั้น สำหรับโหลดสูงและคงที่ที่รักษา GPU ให้ทำงานเต็มกำลัง การรันในเครื่องอาจถูกกว่าต่อโทเคน รวมฮาร์ดแวร์ ค่าไฟ และเวลาของคุณเองในตัวเลขการรันในเครื่อง

API นี้มีโมเดลหลายตัวหรือไม่

ไม่ มันเปิดใช้งานโมเดลหนึ่งโมเดล โดยมี ID คือ uncensored มันไม่ใช่เราเตอร์ข้ามผู้ขายและไม่ใช่ API ทางการของผู้ขายรายใด

1M โทเคนมีราคาเท่าไรสำหรับอินพุตและเอาต์พุตที่นี่

อินพุตคือ $0.15 ต่อ 1M โทเคน และเอาต์พุตคือ $0.50 ต่อ 1M โทเคน การเรียกเก็บเงินมาจากเครดิตแบบเติมเงินล่วงหน้า และคำขอที่ล้มเหลวหรือถูกปฏิเสธจะไม่ถูกเรียกเก็บเงิน

เพียงกรอกแบบฟอร์มเดียวก็จะได้คีย์ของคุณ

สร้างบัญชี คัดลอกคีย์ และเปลี่ยน base URL นั่นคือการตั้งค่าทั้งหมด

รับคีย์ API