เมื่อ AI ช่วยเขียนโค้ดได้เก่งขึ้น ค่าใช้จ่ายในการใช้งานก็กลายเป็นโจทย์ใหญ่ของบริษัทเทคโนโลยี ล่าสุด Revolut ธนาคารดิจิทัลจากอังกฤษ เลือกเปลี่ยนแนวทางจากการใช้บริการ AI ภายนอก มาเป็นการรันโมเดลบนเซิร์ฟเวอร์ของตัวเอง พร้อมเปิดเผยว่าสามารถลดต้นทุนได้ถึง 90% และลดเวลาที่ใช้เขียนโค้ดลง 60%
จาก Gemini สู่ Claude Code ก่อนตัดสินใจรัน AI เอง
David Abitbol วิศวกรของ Revolut เปิดเผยแนวทางดังกล่าวภายในงานสัมมนา AI Engineer โดยเล่าว่าบริษัทเริ่มทดลองใช้ AI ช่วยเขียนโค้ดด้วย Gemini ในช่วงต้นปี 2025 ก่อนเปลี่ยนมาใช้ Claude Code ในช่วงต้นปี 2026 แต่เมื่อขยายการใช้งานในกลุ่มวิศวกรราว 2,000 คน ค่าใช้จ่ายกลับสูงขึ้นอย่างมาก โดยบางกรณีอาจแตะ 10,000 ดอลลาร์ต่อคนต่อเดือน ขณะที่ประโยชน์ที่ได้รับยังไม่คุ้มกับต้นทุน บริษัทจึงหันมาพัฒนาโครงสร้างพื้นฐานสำหรับรันโมเดลเอง หรือที่เรียกว่า Self-hosted AI
ใช้ NVIDIA B200 จำนวน 56 ตัว รันโมเดล GLM
ระบบใหม่ของ Revolut ใช้ GPU NVIDIA B200 จำนวน 56 ตัว สำหรับประมวลผลโมเดล AI โดยเริ่มจาก GLM-5.1 ก่อนอัปเกรดเป็น GLM-5.3 ในภายหลัง บริษัทระบุว่าต้นทุนการประมวลผลอยู่ที่ประมาณ 0.30 ดอลลาร์ต่อ 1 ล้านโทเคน ซึ่งเป็นหน่วยย่อยของข้อความที่ AI ใช้ในการประมวลผล หรือคิดเป็นประมาณ 1 ใน 10 ของค่าใช้จ่ายเมื่อเทียบกับการใช้ Claude Code หรือ Codex ตามข้อมูลที่ Abitbol เปิดเผย
ลดค่าใช้จ่าย 90% เปิดทางให้วิศวกรใช้ AI ได้เต็มที่
เมื่อค่าใช้จ่ายต่อการใช้งานลดลง Revolut พบว่าเวลาในการเขียนโค้ดลดลงประมาณ 60% ด้วยเช่นกัน อีกทั้งวิศวกรยังสามารถใช้ AI ช่วยงานได้หลากหลายขึ้น ไม่ต้องคอยกังวลกับโควตาโทเคนรายเดือนเหมือนที่ผ่านมา
ตัวอย่างงานที่นำ AI ไปช่วยเพิ่มเติม ได้แก่ การตรวจหาข้อผิดพลาดหรือดีบั๊กโค้ด รวมถึงการจัดการสถานะ Ticket ใน Jira และ Confluence ซึ่งช่วยลดงานประจำที่ต้องทำซ้ำ และทำให้ทีมไม่จำเป็นต้องเก็บโควตาการใช้งานไว้สำหรับงานยากหรือบริหารการใช้ให้พอดีในช่วงท้ายไตรมาส
ปรับ NVFP4 และ Context Window ให้เหมาะสม เพิ่มความเร็วประมวลผล
นอกจากการเลือกโมเดลแล้ว Abitbol ยังเปิดเผยเทคนิคปรับแต่งระบบ โดยเปลี่ยนมาใช้รูปแบบ NVFP4 ซึ่งเป็นวิธีจัดเก็บและประมวลผลตัวเลขแบบความละเอียดต่ำ เพื่อลดภาระด้านหน่วยความจำและเพิ่มประสิทธิภาพการทำงาน พร้อมปรับ Context Window หรือปริมาณข้อมูลที่โมเดลสามารถนำมาพิจารณาในแต่ละครั้งให้เหลือ 256K
เขามองว่าการเพิ่ม Context Window ให้ยาวที่สุดไม่ได้หมายความว่าจะทำให้โมเดลทำงานได้ดีขึ้นเสมอไป หลังปรับแต่ง ระบบสามารถประมวลผลได้ประมาณ 200 โทเคนต่อวินาที และใช้เวลาเพียง 3 วินาทีในการสร้างโทเคนแรก ส่วนช่วงที่มีผู้ใช้งานน้อย เช่น เวลากลางคืน อาจทำความเร็วได้เกือบ 800 โทเคนต่อวินาที
อย่างไรก็ตาม Revolut ไม่ได้เปลี่ยนมาใช้ GLM-5.3 กับทุกงาน เนื่องจากโมเดลดังกล่าวเน้นการประมวลผลข้อความเป็นหลัก จึงไม่เหมาะกับงานที่ต้องเข้าใจหรือควบคุมส่วนติดต่อผู้ใช้ (UI) และยังไม่สามารถทดแทนความสามารถของโมเดล GPT หรือ Claude ได้ในทุกสถานการณ์
tags : theregister
