การวิเคราะห์ต้นทุน Generative AI Cost ในองค์กรและกลยุทธ์ลดต้นทุน

การวิเคราะห์ต้นทุน Generative AI Cost ในองค์กรและกลยุทธ์ลดต้นทุน

สวัสดีค่ะ,, ในบทความนี้นิกจะพาทุกท่านไปทำความรู้จักกับหลักการวิเคราะห์ต้นทุน Generative AI Cost ในองค์กรและกลยุทธ์ลดต้นทุน ซึ่งเป็นสิ่งสำคัญมากสำหรับนักการตลาดยุคดิจิทัลที่เทคโนโลยีก้าวหน้าอย่างรวดเร็ว และ Generative AI กลายเป็นส่วนหนึ่งในการทำงานของพวกเราค่ะ

อย่างที่เราทราบกันดีว่า Generative AI โดยเฉพาะอย่างยิ่ง LLMs เป็นเครื่องมือที่มีประสิทธิภาพมากๆ สำหรับองค์กรที่ต้องการปรับปรุงการวิเคราะห์ข้อมูล และสร้างนวัตกรรมใหม่ ทั้งในส่วนของการปรับแต่งประสบการณ์ลูกค้าเพื่อเพิ่มภาพลักษณ์ที่ดีของแบรนด์ หรือการวิเคราะห์ข้อมูลเชิงลึกของลูกค้าเพื่อเพิ่มยอดขาย รวมถึงการเพิ่มความปลอดภัยในการดำเนินธุรกิจและการจัดเก็บข้อมูลส่วนบุคคลของลูกค้า

แต่การนำ Generative AI มาใช้งานอย่าง Cost Effective กลับไม่ได้เป็นเรื่องง่ายอย่างที่เราคิดค่ะ เนื่องจาก AI, LLMs แต่ละประเภท/ แต่ละแพลตฟอร์ม ต่างก็มีต้นทุนที่เกี่ยวข้องที่แตกต่างกัน ซึ่งเราจะต้องมีการพิจารณาวิธีการวิเคราะห์ที่เฉพาะเจาะจงลงไป,, ว่าแล้วเราก็มาพิจารณาไปพร้อมๆ กันได้เลยค่ะ^^

ต้นทุนของการใช้งาน Generative AI สามารถวิเคราะห์ได้หลักๆ เป็น 2 ประเภทคือ

  • ต้นทุนทางตรง (Direct cost) สามารถพิจารณาตัวอย่างเป็น 3 ส่วนหลักดังนี้
    1. ค่าใช้จ่ายในการพัฒนาโมเดล (Model Development Costs) ซึ่งประกอบด้วยค่าใช้จ่ายในการ Train โมเดล หรือการจ้างผู้เชี่ยวชาญเพื่อพัฒนาและปรับปรุงโมเดล รวมถึงค่าลิขสิทธิ์ซอฟต์แวร์ ค่าเช่าเซิร์ฟเวอร์หรือการใช้บริการคลาวด์เพื่อการ Train โมเดล
    2. ค่าใช้จ่ายในการจัดหาข้อมูล (Data Acquisition Costs) เป็นค่าใช้จ่ายในการรวบรวมข้อมูลจากแหล่งต่าง ๆ เช่น การซื้อข้อมูลจากผู้ให้บริการบุคคลที่สาม หรือการสร้างชุดข้อมูลเฉพาะสำหรับ Training โมเดล AI ซึ่งค่าใช้จ่ายในส่วนนี้จะรวมถึงการจ้างบุคคลากรเพื่อจัดเตรียมและจัดการข้อมูลในขั้นตอน Data Preparation ด้วย (และสำหรับหน่วยงานไหนที่ได้ Social Listening tools ของแพลตฟอร์มต่างๆ ก็ถือเป็นค่าใช้จ่ายในส่วนนี้ด้วยค่ะ)
    3. ค่าใช้จ่ายในบำรุงรักษา (Hosting and Maintenance Costs) ส่วนนี้จะเป็นค่าใช้จ่ายในการโฮสต์โมเดล AI บนเซิร์ฟเวอร์ หรือบริการคลาวด์ เช่น Google Cloud, AWS, หรือ Microsoft Azure และการบำรุงรักษาระบบของเรามีความพร้อมใช้งานตลอดเวลา ซึ่งรวมถึงค่าใช้จ่ายรายเดือนหรือรายปีสำหรับบริการ Hosting ค่าไฟฟ้า และค่าใช้จ่ายในการบำรุงรักษาเซิร์ฟเวอร์ต่างๆ

  • ต้นทุนทางอ้อม (Indirect Cost) สามารถพิจารณาตัวอย่างเป็น 3 ส่วนหลักดังนี้
    1. ค่าใช้จ่ายในการฝึกอบรมและพัฒนาทักษะ: ของพนักงานและส่วนที่เกี่ยวข้อง (Training/ Skill Development Costs) ให้มีความรู้และทักษะในการใช้งาน หรือการพัฒนา Generative AI (หากจำเป็น) เพื่อให้สามารถนำเทคโนโลยีนี้ไปประยุกต์ใช้ได้อย่างมีประสิทธิภาพ โดยค่าใช้จ่ายนี้รวมถึงค่าใช้จ่ายในการจัดการอบรม และการจ้างวิทยากร รวมถึงการเข้าถึงแหล่งข้อมูลออนไลน์/คอร์สออนไลน์ต่างๆ
    2. ค่าใช้จ่ายในการจัดการและปรับปรุงระบบ (Management/ System Improvement Costs) ซึ่งส่วนนี้จะรวมถึงค่าใช้จ่ายในการบริหารจัดการโครงการและภาคส่วนของงานที่มีการใช้ AI รวมถึงค่าใช้จ่ายในการปรับปรุง และอัปเดตระบบให้มีประสิทธิภาพอยู่เสมอ (และหากมีการขยายส่วนงาน/ ขนาดองค์กร ค่าใช้จ่ายในการขยายส่วนงานก็จะอยู่ในข้อนี้ด้วยค่ะ)
    3. ค่าใช้จ่ายด้านความปลอดภัยและการควบคุมความเป็นส่วนตัว (Security/ Privacy Management Costs) นับเป็นอีกส่วนที่สำคัญมากๆ นั่นคือการรักษาความปลอดภัยของข้อมูล และการปฏิบัติตามกฎระเบียบด้านความเป็นส่วนตัว เช่น PDPA โดยค่าใช้จ่ายนี้รวมถึงค่าใช้จ่ายในการติดตั้งระบบความปลอดภัย การตรวจสอบและปรับปรุงระบบความป
  • ลอดภัย และการจัดการความเป็นส่วนตัวของข้อมูล (โดยเฉพาะอย่างยิ่งข้อมูลส่วนบุคคลของลูกค้าค่ะ)

หลังจากที่เราทำความเข้าใจถึงประเภทของต้นทุนการใช้งาน Generative AI แล้ว สิ่งที่เราจะมาพิจารณากันต่อคือ การคำนวณผลตอบแทนการลงทุน หรือ ROI สำหรับการนำเทคโนโลยีมาใช้ค่ะ^^

การประเมินต้นทุนและผลตอบแทนจากการลงทุน (ROI) ของการใช้เทคโนโลยีนี้ถือเป็นสิ่งสำคัญที่จะทำให้การตัดสินใจในการลงทุนด้านการประยุกต์ใช้ AI หรือ LLMs ในองค์กรหรืองานด้านการตลาดต่างๆ เป็นไปอย่างมีประสิทธิภาพ โดยตัวอย่างที่เราจะมาทำความเข้าใจไปพร้อมกันคือ,,

การคำนวณ ROI ในการใช้ LLMs (Large Language Models) ในด้านการตลาด: MarTech

ซึ่งการคำนวณ ROI ประกอบด้วยการเปรียบเทียบกำไรสุทธิที่ได้รับจากการใช้ LLMs กับต้นทุนเริ่มต้นและค่าใช้จ่ายในการดำเนินงานอย่างต่อเนื่อง ดังสมการต่อไปนี้ค่ะ:

เมื่อ;

  • กำไรสุทธิจาก LLMs คือกำไรสุทธิที่เกิดจากการใช้ LLMs เช่น ยอดขายที่เพิ่มขึ้น การมีส่วนร่วมของลูกค้าที่ดีขึ้น และผลลัพธ์อื่นๆ ที่สร้างรายได้
  • ต้นทุนรวมในการดำเนินการ LLMs คือต้นทุนเริ่มต้นในการใช้งาน LLMs เช่น การซื้อ API รวมถึงค่าใช้จ่ายในการดำเนินงาน เช่น การบำรุงรักษาและการฝึกอบรมบุคลากร

ดังนั้นเพื่อความเข้าใจที่ชัดเจนมากยิ่งขึ้น,, เรามาดูตัวอย่างการคำนวณ ROI เพื่อประเมินความเหมาะสมในการลงทุนใช้ Generative AI ดังนี้ค่ะ ヾ(^▽^*)))

#กรณีศึกษา: การใช้ Generative AI: LLMs API ในการทำ Sentiment Analysis

การทำ Sentiment Analysis คือการวิเคราะห์ความรู้สึกเพื่อเข้าใจความคิดเห็น และความรู้สึกของลูกค้าที่มีต่อสินค้าและบริการ โดยการใช้ AI ในการวิเคราะห์ความรู้สึกนั้น จะช่วยให้เราสามารถตอบสนองต่อข้อคิดเห็นและความต้องการของลูกค้าได้อย่างรวดเร็วและมีประสิทธิภาพ นอกจากนี้ยังสามารถปรับปรุงประสบการณ์ของลูกค้า และเพิ่มความพึงพอใจต่อแบรนด์ได้

ซึ่งในตัวอย่างนี้จะพิจารณาที่การเรียกใช้ฟังก์ชันผ่าน API ซึ่ง Step แรกที่เราต้องทำคือ “การคำนวณ Token” ที่ใช้ทั้งในส่วนของการป้อนข้อมูล และการส่งออกผลลัพธ์ไปสู่ลูกค้าดังนี้,,

พิจารณาว่าระบบมีคำถามจากลูกค้าประมาณ 1,000 คำถามต่อวัน หรือ 30,000 คำถามต่อเดือน โดยเฉลี่ยแต่ละคำถามมี 150 Tokens สำหรับการป้อนข้อมูล และ 500 Tokens สำหรับการส่งออกผลลัพธ์ ดังนั้นจำนวน Tokens ทั้งหมดที่เราจะนำมาคิดเป็นต้นทุนจะเท่ากับ 5,000,000 Tokens สำหรับการป้อนข้อมูล (และอาจมีการเรียกฟังก์ชันเสริมสำหรับแต่ละคำสั่งประมาณ 150 Tokens ทำให้จำนวน Tokens รวมเป็น 10,000,000 Tokens สำหรับการป้อนข้อมูล) และ 16,000,000 Tokens สำหรับการส่งออกผลลัพธ์

Step ต่อมา ก็คือส่วนของการคำนวณ “ค่าใช้จ่ายรายเดือน” ซึ่งเป็นค่าใช้จ่ายที่เกิดขึ้นทุกเดือนตามการใช้งาน ซึ่งแตกต่างกันออกไปตามแต่โมเดลที่เราใช้งาน เช่น GPT-4o, GPT-3.5 Turbo, Cohere, และ Claude เป็นต้น (เพื่อนๆ สามารถพิจารณา Cost ของแต่ละโมเดลโดยคร่าวได้ตามภาพด้านล่างนะคะ)

จากการคำนวณ ROI (กรณีที่เรามีค่าคาดการณ์กำไรสุทธิที่ได้รับจากการใช้ AI: LLMs) พบว่าการใช้ AI ในการทำ Sentiment Analysis สามารถเพิ่มยอดขาย และความพึงพอใจของลูกค้าได้ ซึ่งเป็นการสร้างกำไรสุทธิที่คุ้มค่ากับการลงทุน ทั้งในส่วนของค่าใช้จ่ายในการ Train โมเดล (กรณีที่ใช้ข้อมูลภายใน) และการใช้งาน AI ซึ่งเมื่อเปรียบเทียบกับผลประโยชน์ที่ได้รับในระยะยาวการใช้งานโดยการ Prompting สามารถช่วยลดค่าใช้จ่ายและเพิ่มประสิทธิภาพในการใช้งานได้^^

หลังจากที่เราทำการวิเคราะห์ต้นทุน Generative AI Cost และความคุ้มค่าในการลงทุนในองค์กรแล้ว การลดต้นทุนในการใช้ AI ก็มีความสำคัญเป็นอันดับต่อมาค่ะ

ดังนั้นในส่วนท้ายสุดของบทความนี้,, เราจะมาพิจารณากลยุทธ์ลดต้นทุนการใช้งาน Generative AI เพื่อให้เราสามารถใช้ AI ได้อย่างยั่งยืนและคุ้มค่าในระยะยาว ซึ่งมีเทคนิคที่หลักๆ ดังนี้

#การใช้ API ภายนอก:

  • เพิ่มประสิทธิภาพของคำสั่ง (Optimize Query Length): ลดความยาวของคำสั่งที่ส่งไปยัง API เพื่อประหยัดจำนวน Tokens และลดค่าใช้จ่าย
  • ประมวลผลแบบแบทช์ (Batch Processing): คือการรวมคำสั่งหลายคำสั่งเข้าด้วยกันเพื่อส่งในครั้งเดียว ซึ่งมีประสิทธิภาพ และช่วยให้ประหยัดต้นทุนได้มากขึ้น
  • การแคชผลลัพธ์ (Caching Responses): เป็นการเก็บผลลัพธ์ที่ใช้บ่อยไว้ในหน่วยความจำ Local เพื่อลดการเรียก API ซ้ำ
  • การจำกัดอัตราและการควบคุมปริมาณการใช้งาน (Rate Limiting/ Throttling): คือการควบคุมความถี่ของการเรียกใช้ API เพื่อป้องกันการใช้งานที่มากเกินไป และช่วยจัดการต้นทุน

#การโฮสต์โมเดล LLM เอง (Self-hosting LLMs):

  • ปรับแต่งทรัพยากรฮาร์ดแวร์ (Optimize Hardware Resources): ในส่วนนี้จะเป็นการเลือกใช้ทรัพยากรที่ตรงกับความต้องการของโมเดลโดยจำกัดการใช้งานไม่ให้ใช้มากเกินไป
  • ใช้ Architectures ของโมเดลที่มีประสิทธิภาพ (Use Efficient Model Architectures): โดยในส่วนนี้ต้องอาศัยความเข้าใจในการใช้งานโมเดล AI โดยจะเลือกใช้โมเดลขนาดเล็กลงซึ่งสามารถให้ผลลัพธ์ได้ตาม Requirement
  • Model Quantization: คือการลดขนาดโมเดล และการใช้ทรัพยากรโดยการใช้ความแม่นยำที่ต่ำลง (แต่ผลลัพธ์ต้องอยู่ในเกณฑ์ที่รับได้นะคะ) สำหรับการคำนวณ

ทั้งนี้เพื่อนๆ สามารถใช้งานแผนภาพด้านล่างนี้ประกอบสำหรับวางแนวทางการนำโมเดล Generative AI: LLMs ไปใช้อย่างยั่งยืนได้ค่ะ^^

Panaya Sudta

Last but not Least…

การนำ Generative AI, LLMs ไปใช้ในองค์กรทั้งในส่วนของด้านการตลาด Digital และด้านอื่นๆ เราต้องคำนึงถึงการจัดการต้นทุน การปรับแต่งโมเดล และการบำรุงรักษาอย่างต่อเนื่อง ประกอบกับการวางแผน และการประเมินต้นทุนอย่างละเอียด ซึ่งจะช่วยให้เราสามารถใช้เทคโนโลยี AI ได้อย่างยั่งยืน และมีประสิทธิภาพในระยะยาว โดยเพื่อนๆ ที่สนใจศึกษาเพิ่มเติมสามารถอ่าน Paper ฉบับเต็มได้ที่ => LLM Economics – A Guide to Generative AI Implementation Cost และมาร่วมแชร์กันนะคะ^^

Panaya Sudta

Hi, I am Nick,,,,Panaya Sudta (●'◡'●) Engineer during the daytime. Researcher at night. Reader in spare time. (❁´◡`❁) วิศวกร/นักวิจัย/ Market research ค่ะ หวังเป็นอย่างยิ่งว่าจะได้แชร์มุมมองกันนะคะ

Leave a Reply

Your email address will not be published. Required fields are marked *

#การตลาดวันละโพล ผมอยากฟังปัญหาคุณ

ตอนนี้ธุรกิจคุณมีปัญหาอะไร ?