เอเจนต์คลาวด์
รันทั้งหมดบนเซิร์ฟเวอร์ของผู้ให้บริการ เริ่มง่าย แต่ข้อมูล บริบท และคีย์อยู่กับผู้ให้บริการ รวมถึงสวิตช์ปิดด้วย ระบบล่ม เงื่อนไขเปลี่ยน หรือบัญชีถูกระงับ ไม่ว่าเหตุผลใด เอเจนต์ก็หยุด
แนวคิด
เอเจนต์ AI แบบ local-first
เอเจนต์ AI แบบ local-first ทำงานบนเครื่องของคุณเอง ไม่ใช่บนคลาวด์ของผู้ให้บริการ หน้านี้อธิบายว่านั่นหมายความว่าอย่างไร ต่างจากรูปแบบคลาวด์และโฮสต์เองตรงไหน และทำไมจึงสำคัญต่อความเป็นส่วนตัว ค่าใช้จ่าย และการควบคุม
ส่วนไหนกันแน่ที่รันบนเครื่อง
local-first ไม่ใช่แค่เรื่องว่าโปรแกรมเริ่มทำงานที่ไหน เอเจนต์มีชิ้นส่วนเคลื่อนไหวสี่ชิ้น ลูปควบคุมที่วางแผนและตัดสินใจ ความจำที่สะสมขึ้นเรื่อย ๆ เครื่องมือที่ใช้รัน และโมเดลภาษาที่ใช้คิด ใน Veyllo (VAF) สามส่วนแรกรันบนฮาร์ดแวร์ของคุณเสมอ จุดเดียวที่คุณเลือกได้ระหว่างโลคอลกับโฮสต์คือโมเดล การแบ่งตรงนี้คือความต่างทั้งหมดจากเอเจนต์คลาวด์ ที่ซึ่งทั้งสี่ส่วนอยู่กับผู้ให้บริการ
ความต่าง
คลาวด์ vs โฮสต์เอง vs local-first
สามวิธีรันเอเจนต์ และข้อมูลของคุณอยู่ที่ไหนในแต่ละแบบ
เอเจนต์แบบโฮสต์เอง
รันบนโครงสร้างพื้นฐานที่คุณดูแล ปกติคือเซิร์ฟเวอร์ที่คุณบริหารเอง การควบคุมอยู่ฝั่งคุณ แต่การรันและดูแลเซิร์ฟเวอร์ก็เป็นงานของคุณ
เอเจนต์แบบ local-first
รันบนเครื่องของคุณเอง ในหน้าต่างของตัวเอง ตัวติดตั้งจัดเซิร์ฟเวอร์โลคอลและบัญชีให้ ข้อมูลอยู่กับคุณ ไม่มีโครงสร้างพื้นฐานระยะไกลให้ต้องจัดหาหรือดูแล นี่คือวิธีทำงานมาตรฐานของ Veyllo
local-first กับโฮสต์เองมีส่วนทับกัน ทั้งคู่ให้การควบคุมอยู่ฝั่งคุณ สิ่งที่ local-first หมายถึงโดยเฉพาะคือเอเจนต์ทำงานตรงที่คุณอยู่ บนอุปกรณ์ของคุณ Veyllo ทำได้ทั้งสองแบบ รันบนเครื่อง หรือโฮสต์ harness บนเซิร์ฟเวอร์ของคุณเอง
โลคอล แต่ไม่ใช่คนเดียว
โฮสต์เดียว ทั้งทีมของคุณ
local-first ไม่ได้แปลว่าใช้คนเดียว แม้แต่แอปเดสก์ท็อปก็เปิดสู่เครือข่ายได้ด้วยสวิตช์เดียว ไม่ต้องติดตั้งเซิร์ฟเวอร์แยก เครื่องของคุณ เครื่องสำรองที่บ้าน หรือเซิร์ฟเวอร์บริษัท กลายเป็นโฮสต์ แล้วทุกคนใน LAN เข้าถึงผ่าน HTTPS
✓
แชร์ด้วยสวิตช์เดียว เปิดสวิตช์ในแอป (หรือรัน
vaf server on) แล้ว VAF ก็เข้าถึงได้ทั่ว LAN ผ่าน HTTPS การติดตั้งเดสก์ท็อปธรรมดาก็เพียงพอ ไม่ต้องมีเซิร์ฟเวอร์แยก✓
บัญชีแยกต่อคน ทุกคนได้พื้นที่แยกของตัวเอง ความจำ งาน และการตั้งค่าเป็นของแต่ละคน ไม่มีใครเห็นของคนอื่น
✓
ไม่มีค่าบริการรายผู้ใช้ อินสแตนซ์เดียวรองรับทั้งทีมหรือทั้งบ้าน รันครั้งเดียว แทนที่จะจ่ายต่อหัว
ทำไมจึงสำคัญ
สิ่งที่คุณได้กลับมา
✓
พรอมป์ตที่ไม่เคยออกเดินทาง ข้อความที่ไม่ออกจากเครื่อง จะถูกบันทึก เก็บ ใช้ฝึกโมเดล หรือส่งมอบตามคำขอไม่ได้ กับโมเดลโลคอล นี่ครอบคลุมทั้งสายการประมวลผล ไม่ใช่แค่การจัดเก็บ
✓
ไม่มีผู้ให้บริการคั่นระหว่างคุณกับงาน ไม่มีใครขึ้นราคา ปลดโมเดลที่คุณพึ่งพา เปลี่ยนลิมิตอัตราเรียก หรือระงับบัญชีได้ ระบบที่ใช้ได้วันนี้ ปีหน้าก็ยังใช้ได้ ด้วยน้ำหนักโมเดลเดิม
✓
ค่าไฟ ไม่ใช่ค่าโทเค็น โมเดลโลคอลไม่มีบิลรายโทเค็น บริบทยาว ๆ การรันซ้ำ และงานข้ามคืน มีต้นทุนเท่าเครื่องที่เปิดทิ้งไว้ นี่คือเหตุผลที่งานตามกำหนดเวลาและงานหลายขั้นตอนถูกลงจนทำได้จริง
✓
ไม่มีเน็ตก็ทำงาน บนรถไฟหรือในเครือข่ายปิด เอเจนต์ทำงานต่อด้วยโมเดลโลคอล พร้อมความจำและไฟล์ครบ
ทางเลือกจริงมีข้อเดียว
โมเดลโลคอล หรือโมเดลโฮสต์
อย่างอื่นในเอเจนต์แบบ local-first ถูกกำหนดหมดแล้ว การตัดสินใจที่เป็นของคุณจริง ๆ คือข้อนี้ และเปลี่ยนทีหลังได้
✓
โมเดลโลคอล รันบน GPU หรือ CPU ของคุณเอง ไม่มีอะไรออกจากเครื่อง ไม่มีบิลโทเค็น ความเร็วและคุณภาพขึ้นกับฮาร์ดแวร์ โมเดลเล็กรับมืองานร่าง สรุป และจัดการไฟล์ประจำวันได้ดี ส่วนการคิดเชิงลึกต้องการ GPU แรง ๆ
✓
โมเดลโฮสต์ เอเจนต์ยังรันบนเครื่องเหมือนเดิม มีแค่การเรียกโมเดลที่ออกไปข้างนอก ทำให้เข้าถึงโมเดลระดับแนวหน้าโดยไม่ต้องซื้อฮาร์ดแวร์ คิดเงินรายโทเค็น และพรอมป์ตกับไฟล์แนบจะไปถึงผู้ให้บริการโมเดล
✓
ใช้ทั้งคู่ สลับตามงาน ส่วนใหญ่ลงเอยแบบผสม งานประจำและงานลับใช้โมเดลโลคอล งานยากใช้โมเดลโฮสต์ สลับได้ด้วยคอนฟิกบรรทัดเดียว ทางเลือกจึงไม่เคยตายตัว
Veyllo ทำอย่างไร
สิ่งที่ Veyllo วางไว้บนโมเดล
Veyllo เปลี่ยนโมเดลภาษาให้เป็นเอเจนต์ที่ทำงานได้จริงบนเครื่อง ความจำเวกเตอร์ถาวรที่จำข้ามเซสชัน ชุดเครื่องมือครบ (เว็บ โค้ด ไฟล์ เบราว์เซอร์) บวกทุกอย่างที่คุณเชื่อมผ่าน MCP เอเจนต์ย่อยที่มอบหมายงานได้ และการรันโค้ดในแซนด์บ็อกซ์ ใช้กับโมเดลโลคอล หรือชี้ไปที่ Veyllo API ที่เข้ากันได้กับ OpenAI เมื่อต้องการคลาวด์ โอเพนซอร์ส AGPL-3.0 และมีสัญญาอนุญาตเชิงพาณิชย์
คำถามที่พบบ่อย
ถามมา ตอบไป
เอเจนต์ AI แบบ local-first คืออะไร
ลูปควบคุม ความจำ และเครื่องมือรันบนอุปกรณ์ของคุณ มีแค่โมเดลเท่านั้นที่อาจอยู่ที่อื่น หากคุณเลือกแบบโฮสต์ เอเจนต์คลาวด์เอาทั้งหมดไปไว้บนเซิร์ฟเวอร์ของผู้ให้บริการ รวมถึงบริบทของทุกคำขอ
local-first กับการโฮสต์เองเหมือนกันไหม
เหมือนกันตรงที่การควบคุมอยู่กับใคร ต่างกันตรงที่งานเกิดขึ้นที่ไหน โฮสต์เองคือย้ายซอฟต์แวร์ไปเซิร์ฟเวอร์ที่คุณดูแล ส่วน local-first คือวางไว้บนเครื่องตรงหน้า โดยไม่ต้องมีเซิร์ฟเวอร์ Veyllo ทำได้ทั้งคู่ และโฮสต์แบบโฮสต์เองรองรับได้ทั้งทีม
ใช้ Veyllo ต้องส่งข้อมูลขึ้นคลาวด์ไหม
ไม่ต้อง Veyllo เป็น local-first คุณรันเอเจนต์ทั้งหมดบนเครื่องตัวเองได้ รวมถึงโมเดลด้วย Veyllo API แบบโฮสต์เป็นทางเลือก มีไว้จัดหาโมเดลที่ VAF ใช้ (ข้อความ ภาพ เสียง) ในกรณีที่คุณไม่อยากรันเอง
การติดตั้ง Veyllo ชุดเดียวใช้หลายคนได้ไหม
ได้ เปิดการแชร์เครือข่าย แล้ว VAF ก็เข้าถึงได้ทั่ว LAN ผ่าน HTTPS แม้จากการติดตั้งเดสก์ท็อปธรรมดา แต่ละคนมีบัญชีของตัวเอง ความจำและงานแยกจากกัน โฮสต์เดียวรองรับทุกคน ไม่มีค่าบริการรายผู้ใช้
ใช้ OpenAI SDK กับ Veyllo API ได้ไหม
ได้ Veyllo API เข้ากันได้กับ OpenAI ชี้ OpenAI SDK หรือ HTTP ไคลเอนต์ตัวไหนก็ได้ไปที่ api.veyllo.app/v1 แล้วใช้คีย์ Veyllo ของคุณ รองรับแชตและภาพ
สร้างเอเจนต์ AI ของตัวเองด้วย VAF ได้ไหม
ได้ VAF อยู่บน PyPI คำสั่ง pip install --pre vaf ติดตั้งรันไทม์หลัก แล้วคุณสร้างเอเจนต์ เครื่องมือ และโซลูชันของตัวเองบนเฟรมเวิร์กได้ รวมถึง harness ของคุณเอง ส่วนเสริมอย่างเซิร์ฟเวอร์หรือชุดความจำติดตั้งแบบเดียวกัน และคู่มือ embedding ในเอกสาร VAF อธิบายทีละขั้น แฟล็ก --pre จำเป็นระหว่างที่ VAF ยังเป็นรุ่นอัลฟา
Veyllo ใช้สัญญาอนุญาตแบบไหน
Veyllo Agentic Framework (VAF) ใช้สัญญาอนุญาตคู่ การใช้แบบโอเพนซอร์สอยู่ภายใต้ AGPL-3.0 และมีสัญญาอนุญาตเชิงพาณิชย์สำหรับทีมที่ต้องการเงื่อนไขต่างออกไป
รองรับระบบปฏิบัติการอะไรบ้าง
Veyllo ทำงานบน macOS, Windows และ Linux ทั้งแบบแอปเดสก์ท็อป บนเซิร์ฟเวอร์ หรือจากเทอร์มินัล