Skip to content

The MLOps & LLMOps Community.

Senior ML Infrastructure Engineer | TensorFlow Developer Certificate | Certified Kubernetes Administrator

RUSH.AI

Our Blog

The latest from our world and beyond.

Article Mar 11, 2024

วิธีแปลง Models เป็น GGUF

GGUF (GPT-Generated Unified Format) กลายเป็นรูปแบบไฟล์มาตรฐานสำหรับจัดเก็บ large language models inference ...

Article Apr 12, 2024

วิธี Deploy TensorRT Model

วิธีสร้าง Cluster ขนาดเล็กและมีประสิทธิภาพสำหรับการ Deploy โมเดล optimization ด้วย TensorRT ร่วมถึงการสร้าง Infrastructure as Code ...

Article Apr 14, 2024

วิธี Build Triton Server

วิธีสร้าง container สำหรับ NVIDIA Jetson Agx Xavier เพื่อให้เราสามารถใช้ Triton Server ในการ Deploy โมเดล ...

Article Apr 14, 2024

วิธีการ optimize โมเดล

วิธีสร้าง container สำหรับ NVIDIA Jetson Agx Xavier เพื่อให้เราสามารถใช้ Triton Server ในการ Deploy โมเดล ...