พร็อกซีท้องถิ่นเพื่อรวม LLM หลายตัวเข้ากับกระบวนการทำงานของ Codex
codex-universal-proxy โดย Bharat2808 เป็นสะพานท้องถิ่นที่ให้สภาพแวดล้อม Codex เรียกใช้โมเดลภาษาและเครื่องมือ MCP ที่ไม่ใช่ภาษาพื้นเมือง มันแปลรูปแบบเครื่องมือเฉพาะ Codex เป็นการเรียกฟังก์ชันที่เข้ากันได้กับ OpenAI และส่งคำขอไปยังผู้ให้บริการ เช่น Ollama, Google Gemini, OpenRouter และ Cohere เครื่องมือนี้รวมถึงการสนับสนุน LLM ท้องถิ่น การแคชภาพ การตรวจสอบลายเซ็น และการควบคุมเสียง macOS มันมุ่งเป้าไปที่นักพัฒนา AI และผู้ใช้ที่มีพลังที่ต้องการการรวมโมเดลที่ยืดหยุ่นภายในกระบวนการทำงานของ Codex ที่มีอยู่
งานใดบ้างที่คุณสามารถใช้พร็อกซี่ได้จริง?
พร็อกซี่ทำหน้าที่เป็นชั้นการแปลที่ช่วยให้ลูกค้าที่เข้ากันได้กับ MCP และเครื่องมือที่ใช้ Codex สามารถเรียกใช้แบ็คเอนด์โมเดลทางเลือกได้ มันแปลงรูปแบบเครื่องมือ Codex เช่น tool_search และ apply_patch เป็นคำขอในรูปแบบการเรียกฟังก์ชันมาตรฐาน จากนั้นจึงแปลงการตอบกลับกลับเป็นโครงสร้างที่คาดหวังจาก Codex กรณีการใช้งานรวมถึงการส่งเสริมการทำงานไปยัง LLMs ท้องถิ่นที่โฮสต์โดย Ollama การส่งคำเรียกการสร้างภาพไปยัง Gemini หรือจุดสิ้นสุดที่เข้ากันได้กับ OpenAI และการรวมหลายแบ็คเอนด์ผ่านสคีมาที่ใช้ร่วมกัน
การแปลโปรโตคอลและการตอบสนองมีความน่าเชื่อถือแค่ไหน?
การแปลได้รับการดูแลรักษาอย่างต่อเนื่องและนักพัฒนาจะอัปเดตตรรกะการแปลและการรวมผู้ให้บริการ ซึ่งสนับสนุนการทำงานร่วมกันที่มีฟังก์ชันระหว่างผู้ให้บริการ ความแม่นยำของการตอบสนองที่แปลขึ้นอยู่กับโมเดลเป้าหมายและความถูกต้องของชั้นการแมพปิ้ง; โครงการนี้ไม่ได้เป็นทางการและเป็นการทดลอง ดังนั้นการเปลี่ยนแปลงรูปแบบเครื่องมือ Codex อาจทำให้เกิดความไม่เข้ากันได้ คาดหวังว่าจะต้องตรวจสอบการเรียกเครื่องมือหลังจากการเปลี่ยนแปลงจากต้นทางและต้องปรับปรุงกฎการแมพปิ้งเมื่อเกิดความไม่ตรงกัน
มีข้อมูลนำเข้า การรวม และข้อกำหนดด้านสิ่งแวดล้อมอะไรบ้าง?
พร็อกซี่ถูกนำไปใช้ใน JavaScript/Node.js และต้องการสภาพแวดล้อมที่รองรับ MCP มันจัดการสินทรัพย์ภาพด้วยการเก็บรักษาแฮชเนื้อหาและสนับสนุนรูปแบบ GIF, JPEG, PNG และ WebP สำหรับสินทรัพย์ที่แคช การตรวจจับกิจกรรมเสียงและโหมดการหยุดเสียงด้วยตนเองมีอยู่ พร้อมกับฟีเจอร์การกดเพื่อพูดที่ปรับให้เหมาะสมกับ macOS การกำหนดเส้นทางแบ็คเอนด์สามารถตั้งค่าได้ ทำให้ผู้ใช้สามารถกำหนดได้ว่าผู้ให้บริการใดจะจัดการการเรียกฟังก์ชันที่กำหนดผ่านไฟล์การกำหนดค่ากลาง
เครื่องมือนี้สนับสนุนการประมวลผลในท้องถิ่นและการจัดการข้อมูลสำหรับการทำงานที่ละเอียดอ่อนหรือไม่?
พร็อกซี่สนับสนุนการดำเนินการโมเดลในท้องถิ่นผ่านการรวม Ollama ซึ่งช่วยให้สามารถอนุมานในโฮสต์แทนการส่งเสริมการทำงานไปยังคลาวด์ที่บังคับ นอกจากนี้ยังมีการแคชในท้องถิ่นและการตรวจสอบลายเซ็นสำหรับสินทรัพย์ที่สร้างขึ้น ดังนั้นภาพจึงสามารถเก็บรักษาและเรียกคืนได้ด้วยแฮชเนื้อหา ผู้ใช้ที่ต้องการควบคุมการกำหนดเส้นทางคำขอสามารถชี้คำเรียกไปยังแบ็คเอนด์ส่วนตัวได้ อย่างไรก็ตาม เนื่องจากโครงการนี้เป็นการทดลอง นโยบายการดำเนินงานและพฤติกรรมการจัดเก็บควรได้รับการตรวจสอบก่อนที่จะนำไปใช้กับข้อมูลที่ละเอียดอ่อนสูง
ใครควรนำ proxy ไปใช้และควรระวังอะไรบ้าง
proxy เป็นทางเลือกที่เหมาะสมสำหรับนักพัฒนา AI ที่มีประสบการณ์และผู้ใช้ที่มีความเชี่ยวชาญซึ่งยอมรับเครื่องมือทดลองและพร้อมที่จะดูแลการแมพเมื่อโปรโตคอลต้นทางมีการเปลี่ยนแปลง วางแผนสำหรับการทดสอบอย่างต่อเนื่องและการจัดการเวอร์ชันการกำหนดค่าเพื่อตรวจจับความไม่เข้ากันได้อย่างรวดเร็ว ใช้ proxy เมื่อคุณสามารถจัดสรรเวลาให้กับนักพัฒนาเพื่อปรับตัวเข้ากับการอัปเดตของผู้ให้บริการและเพื่อรวมการตรวจสอบอัตโนมัติใน Codex หรือ MCP ของคุณ
