Giá thực sự của AI sáng tạo là gì?

TL;DR Chi phí triển khai AI tạo sinh trong kinh doanh có thể dao động từ (và còn tăng nữa) cho một giải pháp AI tạo sinh riêng biệt dựa trên mô hình nguồn mở được tinh chỉnh. vài trăm đô la mỗi tháng đến 190.000 đô la Sự khác biệt về chi phí AI tổng quát này được thúc đẩy bởi một số yếu tố, bao gồm các nhiệm vụ bạn đang muốn nâng cao, mô hình phù hợp nhất với các nhiệm vụ đó và phương pháp triển khai đã chọn. Để tối ưu hóa các chi phí liên quan, bạn cần xem xét cẩn thận các yêu cầu của dự án, đánh giá chi phí cơ sở hạ tầng tại chỗ và đám mây, đồng thời lựa chọn giữa việc thuê nhân tài AI nội bộ và thuê bên thứ ba thực hiện dự án. Chúng tôi đã cho bạn biết như thế nào cũng như . cũng đã đào sâu vào các trường hợp sử dụng của Gen AI trong một số ngành, bao gồm , và . trí tuệ nhân tạo tổng quát (Gen AI) so sánh với AI truyền thống những ưu và nhược điểm của công nghệ này Nhóm tư vấn về AI tổng hợp của ITRex chăm sóc sức khỏe bán lẻ chuỗi cung ứng Ngoài ra, chúng tôi đã , cơ sở hạ tầng và tất cả, đồng thời xem xét , tính toán chi phí liên quan đến việc chuẩn bị dữ liệu đào tạo, tinh chỉnh mô hình và triển khai các giải pháp do ML cung cấp . đánh giá chi phí xây dựng hệ thống trí tuệ nhân tạo chi phí học máy (ML) Bây giờ là lúc giải mã chi phí triển khai AI tổng quát trong kinh doanh. Phân tích này có thể là một thách thức vì chúng tôi vẫn chưa biết chi tiết cụ thể về dự án của bạn. Tuy nhiên, chúng tôi có thể tận dụng chuyên môn tư vấn AI tổng quát của mình để khám phá mức giá của các dịch vụ Gen AI và liệt kê các yếu tố chính đằng sau chi phí của dự án Gen AI. Bằng cách này, chúng tôi sẽ trang bị cho bạn kiến thức để đưa ra quyết định sáng suốt, có khả năng tiết kiệm đáng kể thời gian và nguồn lực cho doanh nghiệp của bạn trong bối cảnh công nghệ đang phát triển nhanh chóng này. Thú vị? Hãy đi sâu vào ngay sau đó! Việc lựa chọn mô hình và cách tiếp cận triển khai là những yếu tố chính ảnh hưởng đến chi phí của AI tạo ra Khi nghĩ đến việc kết hợp trí tuệ nhân tạo tổng hợp vào kho công nghệ của công ty bạn, điều quan trọng là phải xem xét những điều sau: Bạn sẽ tăng cường những nhiệm vụ kinh doanh nào với AI tổng hợp? Mô hình nào sẽ đủ cho những nhiệm vụ này? Trọng tâm của các giải pháp AI tổng quát là các mô hình nền tảng—tức là các mô hình lớn được đào tạo dựa trên lượng dữ liệu khổng lồ. Về cơ bản, các mô hình nền tảng đóng vai trò là cơ sở để tạo ra các giải pháp AI thế hệ riêng biệt, đơn giản hóa quy trình phát triển và giảm chi phí tổng hợp AI. Khả năng của họ thường bao gồm xử lý ngôn ngữ tự nhiên (NLP), thị giác máy tính (CV) và tạo nội dung. Khả năng nhận thức của các mô hình nền tảng phần lớn phụ thuộc vào số lượng thông số mà chúng đã được đào tạo. Trong ngữ cảnh này, các tham số đề cập đến các thành phần mô hình được học từ dữ liệu huấn luyện, chẳng hạn như trọng số trong mạng nơ-ron. Các tham số này giúp mô hình đưa ra quyết định và dự đoán. Bảng sau đây minh họa mối tương quan giữa số lượng tham số—về cơ bản là số lượng các yếu tố ra quyết định này—và khả năng nhận thức của mô hình. Số lượng thông số đào tạo Đặc điểm hiệu suất mô hình Ứng dụng tiềm năng 1 tỷ thông số Kiến thức cơ bản về thế giới; khớp mẫu trong các bài đánh giá Phân tích tình cảm của khách hàng 10 tỷ thông số Kiến thức sâu rộng hơn về thế giới; làm theo hướng dẫn cơ bản Chatbots hỗ trợ đặt hàng sản phẩm (HoReCa, Thương mại điện tử) Hơn 100 tỷ thông số Kiến thức phong phú về thế giới; lý luận phức tạp Phân tích dữ liệu, nghiên cứu và tạo nội dung Tuy nhiên, số lượng tham số không phải là yếu tố duy nhất ảnh hưởng đến khả năng hoạt động của các mô hình nền móng. Chất lượng và tính đa dạng của dữ liệu đào tạo đều quan trọng như nhau. Dữ liệu huấn luyện là thông tin được đưa vào mô hình để học hỏi, bao gồm nhiều ví dụ giúp mô hình hiểu và diễn giải dữ liệu mới. Ngoài ra, kiến trúc của mô hình—tức là thiết kế cấu trúc về cách các tham số và dữ liệu tương tác—và hiệu quả của các thuật toán học tập, xác định mức độ hiệu quả của mô hình học từ dữ liệu, đóng vai trò quan trọng. Kết quả là, trong một số nhiệm vụ, một mô hình có ít tham số hơn nhưng dữ liệu huấn luyện tốt hơn hoặc kiến trúc hiệu quả hơn có thể hoạt động tốt hơn một mô hình lớn hơn. Làm thế nào công ty của bạn có thể chọn một mô hình nền tảng vừa hiệu quả vừa đáp ứng mong đợi của bạn về chi phí cho AI tạo ra? Tất cả các mô hình AI tổng quát hiện có có thể được phân loại một cách lỏng lẻo thành hai loại: được phát triển bởi các công ty công nghệ lớn như Google, Meta, Microsoft, OpenAI. Mã nguồn, kiến trúc và giao diện lập trình ứng dụng (API) của họ có thể hoàn toàn độc quyền hoặc được cung cấp cho bên thứ ba (thường có tính phí, về cơ bản là chi phí của giải pháp AI tổng hợp). Trong một số trường hợp, bạn có thể tinh chỉnh hiệu suất của các mô hình nguồn đóng bằng cách sử dụng dữ liệu của mình. Với mục đích của bài viết này, chúng tôi sẽ coi các mô hình nguồn đóng là các giải pháp AI tổng hợp có sẵn trên thị trường. Ưu điểm chính của các mô hình như vậy là chúng đi kèm với cơ sở hạ tầng đám mây và được nhà phát triển ban đầu duy trì đầy đủ. Mô hình nguồn đóng có mã nguồn, kỹ thuật đào tạo và đôi khi thậm chí cả dữ liệu đào tạo có sẵn để sử dụng và sửa đổi công khai. Công ty của bạn có thể sử dụng các mô hình như vậy “nguyên trạng” hoặc đào tạo lại chúng trên dữ liệu của riêng bạn để đạt được độ chính xác và hiệu suất tốt hơn. Tuy nhiên, bạn sẽ phải thiết lập cơ sở hạ tầng tại chỗ hoặc đám mây để mô hình có thể chạy trên đó. Do đó, chi phí của các mô hình AI tổng quát như vậy sẽ bao gồm chi phí tính toán và nếu bạn chọn nâng cao giải pháp Gen AI, thì chi phí liên quan đến việc đào tạo mô hình. Các mô hình nguồn mở Hãy xem bảng bên dưới để biết tổng quan nhanh về các đặc điểm của mô hình nguồn đóng và nguồn mở. Mô hình nguồn đóng Các mô hình nguồn mở -Tích hợp dễ dàng bằng cách sử dụng API-Khả năng nhận thức nâng cao hơn-Chi phí tạo ra AI tương đối thấp (phí nhà cung cấp, mô hình dựa trên mức tiêu thụ) -Có thể có nguy cơ bị khóa nhà cung cấp-Có thể chạy trên cơ sở hạ tầng của riêng bạn (tùy thuộc vào nhà cung cấp) -Kiểm soát hoàn toàn hiệu suất của mô hình-Chạy trên cơ sở hạ tầng của riêng bạn (tại chỗ, trên đám mây) -Rủi ro về quyền riêng tư dữ liệu và vi phạm bảo mật thấp hơn-Chi phí AI tạo ra tăng theo khối lượng công việc Hãy tóm tắt. Nếu công ty của bạn đang xem xét triển khai Generative AI, có bốn cách chính để thực hiện điều đó: . Những người tiên phong trong lĩnh vực AI sáng tạo có thể tích hợp các sản phẩm sẵn có như ChatGPT, Google Bard, Claude và Synthesia của OpenAI với các ứng dụng của họ bằng API. Quá trình tích hợp khá đơn giản và việc định giá AI tổng quát cũng vậy (sẽ nói thêm về điều đó sau). Các sản phẩm có sẵn trên thị trường được cập nhật thường xuyên và cung cấp tài liệu phong phú cho các nhà phát triển AI. Nhược điểm? Các tùy chọn tùy chỉnh của bạn sẽ bị hạn chế và bạn sẽ phụ thuộc rất nhiều vào một công ty bên ngoài cho các nhiệm vụ kinh doanh quan trọng, như xử lý các truy vấn hỗ trợ khách hàng hoặc sản xuất nội dung trực quan. Sử dụng các mô hình nguồn đóng mà không cần tùy chỉnh . Trong trường hợp này, nhóm AI nội bộ của bạn sẽ chọn một sản phẩm AI tổng hợp hiện có được phát triển bởi một nhà cung cấp cụ thể, chẳng hạn như OpenAI và tinh chỉnh sản phẩm đó bằng cách sử dụng dữ liệu của riêng bạn. Các giải pháp Gen AI tùy chỉnh sẽ hiểu rõ hơn câu hỏi của người dùng và đưa ra câu trả lời chính xác hơn. Tuy nhiên, nhà cung cấp vẫn sẽ tính một khoản phí nhỏ khi chạy truy vấn của bạn, do đó chi phí AI tổng hợp cuối cùng sẽ bao gồm cả chi phí vận hành và tùy chỉnh. Đào tạo lại các giải pháp thương mại có sẵn trên dữ liệu công ty của bạn Nói một cách phóng đại hơn, công ty của bạn có thể chọn RoBERTa, GPT-2, GPT-Neo hoặc bất kỳ mô hình nguồn mở nào khác và áp dụng nó cho các nhiệm vụ kinh doanh như trả lời email của khách hàng mà không cần đào tạo thêm. Tuy nhiên, chi phí của AI tổng hợp sẽ được xác định bởi tài nguyên máy tính mà mô hình tiêu thụ. Ngoài ra, giải pháp Gen AI của bạn có thể hoạt động kém hơn khi gặp phải các dữ liệu và tác vụ lạ. Sử dụng các mô hình nền tảng nguồn mở “nguyên trạng”. . Trong trường hợp này, bạn sẽ cần thu thập và chuẩn bị dữ liệu cụ thể cho hoạt động đào tạo mô hình Gen AI, cung cấp máy chủ tại chỗ hoặc đám mây để đào tạo và vận hành mô hình, đồng thời tiếp tục tinh chỉnh và cập nhật mô hình khi nhiệm vụ của bạn phát triển. Mặc dù cách tiếp cận riêng biệt này đảm bảo hiệu suất mô hình vượt trội nhưng nó cũng đòi hỏi chi phí tạo AI cao hơn. Đào tạo lại các mô hình nguồn mở trên dữ liệu của bạn Bây giờ bạn đã biết các tùy chọn triển khai của mình, hãy cùng xem xét chi phí của AI tổng hợp mà các tùy chọn này đòi hỏi. Hiểu biết sâu sắc về định giá AI tổng quát dựa trên kịch bản triển khai Chi phí của các công cụ Gen AI có sẵn trên thị trường Các dịch vụ sẵn có hỗ trợ quá trình tạo và xử lý văn bản thường tính phí doanh nghiệp dựa trên số lượng ký tự hoặc mã thông báo—tức là các đơn vị văn bản cơ bản, có thể bao gồm từ dấu chấm câu đến các từ và các thành phần cú pháp khác—trong văn bản đầu vào hoặc đầu ra . Đây là cách nó hoạt động trong thực tế: . Một số giải pháp, chẳng hạn như các công cụ Gen AI do Vertex AI của Google điều khiển, tính phí cho người dùng dựa trên số lượng ký tự trong văn bản đầu vào và đầu ra. Họ đếm từng chữ cái, số, dấu cách và dấu chấm câu là một ký tự. Ví dụ: mức giá AI tổng quát cho mô hình PaLM 2 dành cho Văn bản được Vertex hỗ trợ, bắt đầu từ 0,0005 USD cho mỗi 1.000 ký tự cho văn bản đầu vào và đầu ra (được thanh toán riêng). Thanh toán dựa trên ký tự . Các công cụ Gen AI tiên tiến hơn có xu hướng chia văn bản thành mã thông báo thay vì ký tự. Tùy thuộc vào phương pháp huấn luyện và xử lý của mô hình, mã thông báo có thể là dấu chấm câu, một từ hoặc một phần của từ. Ví dụ: OpenAI định nghĩa mã thông báo là một nhóm gồm khoảng bốn ký tự. Một câu đơn giản như “Tom đã mang hoa cho Jill”. do đó sẽ bao gồm tám mã thông báo vì các từ “mang” và “hoa” vượt quá ngưỡng bốn ký tự một chút. Khi nói đến chi phí của các giải pháp AI tổng quát như vậy, nó phần lớn phụ thuộc vào mô hình ngôn ngữ bạn đã chọn. GPT-4 Turbo của OpenAI, một trong những công cụ phức tạp nhất trên thị trường, tính phí 0,01 USD trên 1.000 mã thông báo cho văn bản đầu vào và 0,03 USD trên 1.000 mã thông báo cho văn bản đầu ra. Đối với GPT-3.5 Turbo, phiên bản cũ hơn, giá thấp hơn đáng kể, dao động từ 0,001 USD trên 1.000 mã thông báo cho văn bản đầu vào đến 0,002 USD trên 1.000 mã thông báo cho văn bản đầu ra. Thanh toán dựa trên mã thông báo Cần lưu ý rằng các nhà cung cấp AI tổng hợp khác nhau có các khái niệm khác nhau về ký tự và mã thông báo. Để chọn tùy chọn tiết kiệm chi phí nhất, bạn nên nghiên cứu tài liệu và kế hoạch của họ và xem xét sản phẩm nào phù hợp nhất với nhu cầu kinh doanh riêng của bạn. Ví dụ: nếu nhiệm vụ của bạn xoay quanh việc tạo văn bản thay vì phân tích, thì dịch vụ AI tổng quát có tốc độ đầu ra thấp hơn sẽ phù hợp hơn. Trong khi đó, các dịch vụ Gen AI để tạo nội dung trực quan có xu hướng tính phí người dùng trên mỗi hình ảnh được tạo ra, với mức phí gắn liền với kích thước và chất lượng hình ảnh. Một hình ảnh 1024 x 1024 pixel do DALL·E 3 tạo ra với chất lượng tiêu chuẩn sẽ khiến bạn phải trả 0,04 USD. Đối với hình ảnh lớn hơn (1024×1792 pixel), cũng như hình ảnh có độ phân giải cao, giá sẽ lên tới 0,08–0,12 USD mỗi bức. Và đừng quên các nền tảng Gen AI chìa khóa trao tay, chẳng hạn như Synthesia.io, áp dụng cách tiếp cận truyền thống hơn về giá cả. Nếu nhóm tiếp thị của bạn đang tìm cách tăng tốc quá trình tạo video, bạn có thể dùng thử công cụ này với mức giá chỉ $804 mỗi năm. Chi phí tùy chỉnh các sản phẩm Gen AI có bán trên thị trường Như bạn có thể thấy ở phần trước, phần lớn các sản phẩm Gen AI được tạo sẵn đều tận dụng chiến lược kiếm tiền theo nhu cầu sử dụng. Mặc dù thoạt nhìn, mô hình định giá của họ trông khá đơn giản nhưng có thể khó dự đoán số lượng truy vấn mà nhân viên của bạn sẽ chạy, đặc biệt nếu bạn muốn khám phá nhiều ở nhiều bộ phận khác nhau. trường hợp sử dụng AI tổng quát Điều này gây ra sự nhầm lẫn về giá cả và tổng chi phí sở hữu của các công cụ Gen AI, giống như những ngày đầu của . điện toán đám mây Một nhược điểm khác của việc sử dụng các giải pháp Gen AI thương mại là các sản phẩm có mục đích chung như ChatGPT thiếu kiến thức theo ngữ cảnh, chẳng hạn như hiểu biết về cấu trúc, sản phẩm và dịch vụ của công ty bạn. Điều này gây khó khăn cho việc tăng cường các hoạt động như hỗ trợ khách hàng và tạo báo cáo bằng khả năng AI, ngay cả khi bạn nắm vững kỹ thuật nhanh chóng. Theo Eric Lamarre, Đối tác cấp cao tại McKinsey, , các tổ chức “ ” Nói cách khác, bạn sẽ phải đào tạo lại các công cụ Gen AI có sẵn trên thị trường về dữ liệu công ty của mình, cũng như thông tin được lấy từ các nguồn bên ngoài thông qua API. để giải quyết vấn đề này cần tạo ra một môi trường dữ liệu mà mô hình có thể sử dụng được. Có hai cách để hoàn thành mục tiêu—và một số yếu tố sẽ ảnh hưởng đến chi phí của AI tạo ra trong mỗi trường hợp: . Nhiều nhà cung cấp SaaS nổi bật, bao gồm SAP, TIBCO Spotfire và Salesforce, đang triển khai các dịch vụ AI tổng quát có thể tinh chỉnh bằng cách sử dụng dữ liệu khách hàng. Ví dụ: Salesforce đã ra mắt Einstein Copilot, một trợ lý AI đàm thoại lấy dữ liệu độc quyền từ Đám mây dữ liệu Salesforce để tạo ra các câu trả lời được cá nhân hóa cho các câu hỏi của khách hàng. Thông tin được trợ lý thông minh sử dụng bao gồm các cuộc hội thoại Slack, đo từ xa, nội dung doanh nghiệp và khác. Khách hàng của Salesforce cũng có thể tạo các mô hình, kỹ năng và lời nhắc AI tùy chỉnh bằng cách sử dụng Trình tạo mô hình và Trình tạo mô hình không cần mã của Einstein Copilot Studio. Tính đến thời điểm hiện tại, công cụ thứ hai hỗ trợ của OpenAI, nhưng có kế hoạch tích hợp sản phẩm này với các giải pháp của bên thứ ba khác, bao gồm Amazon Bedrock và Vertex AI. Vì Einstein Copilot vẫn đang trong giai đoạn thử nghiệm (không có ý định chơi chữ), thông tin về giá AI tổng quát vẫn chưa được tiết lộ. Tuy nhiên, chi phí tổng quát của trợ lý GPT bán hàng AI tổng cộng, hiện , có thể cho bạn ý tưởng chung về những gì sẽ xảy ra. Sử dụng nền tảng phần mềm dưới dạng dịch vụ (SaaS) với khả năng AI tổng quát dữ liệu có cấu trúc và phi cấu trúc các mô hình ngôn ngữ lớn (LLM) có tổng cộng 50 đô la cho mỗi người dùng mỗi tháng . Để giảm chi phí triển khai AI tổng quát, bạn có thể loại bỏ các công cụ SaaS trung gian, hợp nhất trực tiếp ứng dụng của bạn với các giải pháp Gen AI thương mại ở cấp độ API. Ví dụ: nếu bạn đang tìm cách tăng cường khả năng của Gen AI cho của mình, bạn có thể đồng bộ hóa nó với một trong các mô hình của OpenAI—ví dụ: GPT-3.5 hoặc GPT-4—bằng API OpenAI. Tiếp theo, bạn cần , tải dữ liệu lên OpenAI và quản lý quy trình tinh chỉnh bằng công cụ OpenAI CLI và Thư viện Open AI Python. Trong khi tinh chỉnh mô hình, bạn sẽ bị tính phí 0,008 USD cho mỗi 1.000 mã thông báo (GPT-3.5). Sau khi mô hình của bạn đi vào sản xuất, tỷ lệ đầu vào và đầu ra sẽ lần lượt là 0,003 USD trên 1.000 mã thông báo và 0,006 USD trên một nghìn mã thông báo. Tổng chi phí của AI tổng hợp cũng sẽ bao gồm chi phí lưu trữ, miễn là bạn chọn lưu trữ dữ liệu của mình trên các máy chủ OpenAI. Chi phí lưu trữ dữ liệu vào ước tính cuối cùng. Và đừng quên nỗ lực chuẩn bị dữ liệu và tinh chỉnh mô hình. Trừ khi bộ phận CNTT của bạn sở hữu những kỹ năng cần thiết, bạn sẽ phải hợp tác với một đáng tin cậy. Tích hợp phần mềm công ty của bạn với các giải pháp Gen AI qua API và đào tạo lại các mô hình trên dữ liệu của bạn chatbot hỗ trợ khách hàng chuẩn bị dữ liệu cho machine learning có thể tăng thêm 0,2 USD cho mỗi 1GB dữ liệu mỗi ngày công ty dịch vụ phát triển AI Chi phí sử dụng các mô hình Gen AI nguồn mở “nguyên trạng” : Chúng tôi không khuyên bạn nên xây dựng một mô hình nền tảng tùy chỉnh giống như ChatGPT ngay từ đầu—đó là một dự án mạo hiểm tốt nhất dành cho những người có sự hỗ trợ đáng kể, chẳng hạn như sự hỗ trợ của OpenAI từ Microsoft để . Tuyên bố từ chối trách nhiệm bù đắp khoản lỗ 540 triệu USD của họ Ngay cả những mô hình nền tảng cơ bản hơn, như GPT-3, cũng có thể khiến chi phí đào tạo và triển khai ban đầu vượt quá 4 triệu USD. Hơn nữa, độ phức tạp của các mô hình nền tảng này đã tăng vọt với tốc độ đáng kinh ngạc trong những năm gần đây. Lượng tài nguyên máy tính cần thiết để đào tạo các mô hình AI lớn . Độ phức tạp của các mô hình nền tảng cũng đang thay đổi. Chẳng hạn, năm 2016, Bert-Large đã được đào tạo với 340 triệu thông số. Để so sánh, mô hình GPT-3 của OpenAI . tăng gấp đôi sau mỗi 3,5 tháng đã được đào tạo với khoảng 175 tỷ tham số Tin tốt là đã có sẵn các mô hình nền tảng, điều này giúp các doanh nghiệp bắt đầu thử nghiệm chúng tương đối dễ dàng đồng thời tối ưu hóa chi phí triển khai AI tổng quát. Về cơ bản, chúng ta có thể coi các mô hình nền tảng như một bộ công cụ dành cho các kỹ sư phần mềm AI vì chúng cung cấp điểm khởi đầu để giải quyết các vấn đề phức tạp trong khi vẫn còn chỗ cho việc tùy chỉnh. Chúng ta có thể chia các mô hình nền tảng hiện có một cách lỏng lẻo thành ba loại: Các mô hình ngôn ngữ được thiết kế để xử lý các tác vụ dịch văn bản, tạo và trả lời câu hỏi Các mô hình thị giác máy tính vượt trội trong việc phân loại hình ảnh, phát hiện đối tượng và nhận dạng khuôn mặt Loại thứ ba, các mô hình AI tổng quát, tạo ra nội dung giống với dữ liệu mà mô hình đã sử dụng. Nội dung này có thể bao gồm hình ảnh mới, mô phỏng hoặc trong một số trường hợp là thông tin văn bản. Sau khi đã chọn mô hình nguồn mở phù hợp nhất với nhu cầu của mình, bạn có thể tích hợp mô hình đó với phần mềm của mình bằng API và sử dụng cơ sở hạ tầng máy chủ của riêng bạn. Cách tiếp cận này liên quan đến chi phí AI tổng hợp sau: . Việc chạy các mô hình AI, đặc biệt là các mô hình lớn, đòi hỏi nguồn lực tính toán đáng kể. Nếu công ty của bạn thiếu phần cứng phù hợp, bạn có thể cần đầu tư vào GPU hoặc CPU mạnh mẽ, điều này có thể tốn kém. Nếu mô hình của bạn tương đối nhỏ, GPU cao cấp như NVIDIA RTX 3080 hoặc tương tự có thể đủ. Giá của một GPU như vậy có thể dao động từ 700 USD đến 1.500 USD. Đối với các model lớn như GPT-2 hoặc tương tự, bạn cần nhiều GPU cao cấp hoặc thậm chí cả bộ tăng tốc AI chuyên dụng. Ví dụ: một GPU NVIDIA A100 có thể có giá từ 10.000 đến 20.000 USD. Do đó, một thiết lập có nhiều GPU có thể có giá từ 30.000 đến 50.000 USD. Chi phí phần cứng . Để thay thế cho việc mua phần cứng, bạn có thể thuê tài nguyên điện toán đám mây từ các nhà cung cấp như Amazon Web Services (AWS), Google Cloud Platform (GCP) hoặc Microsoft Azure. Các dịch vụ này tính phí dựa trên mức sử dụng, vì vậy chi phí sẽ phụ thuộc vào mức độ bạn sử dụng tài nguyên của chúng xét về thời gian tính toán và dung lượng lưu trữ. Ví dụ: các phiên bản GPU trên AWS (như P3 hoặc P4) có thể có giá từ 3 USD đến 24 USD mỗi giờ, tùy thuộc vào loại phiên bản. Chi phí điện toán đám mây . Nếu bạn sử dụng phần cứng của riêng mình, bạn sẽ phải chịu chi phí điện để chạy máy và có thể cả hệ thống làm mát bổ sung. Chi phí bảo trì phần cứng cũng có thể tăng lên. Điện và bảo trì . Việc tích hợp mô hình AI vào các hệ thống hiện có của bạn và triển khai nó (đặc biệt là trong môi trường sản xuất) có thể yêu cầu nỗ lực phát triển phần mềm bổ sung và có thể phát sinh chi phí lao động. Chi phí thuê ngoài phát triển AI cho một công ty phát triển phần mềm có thể dao động từ 50 đến 200 USD mỗi giờ, với tổng chi phí từ vài nghìn đến hàng chục nghìn đô la. Tích hợp và triển khai . Việc lưu trữ và quản lý dữ liệu mà mô hình sử dụng có thể tốn kém, đặc biệt khi xử lý các tập dữ liệu lớn hoặc sử dụng các giải pháp lưu trữ đám mây. Đối với cài đặt tại chỗ, chi phí lưu trữ dữ liệu AI tổng quát có thể dao động từ 1.000 USD đến 10.000 USD, tùy thuộc vào quy mô của tập dữ liệu huấn luyện và nhu cầu dự phòng. Phí cho các giải pháp lưu trữ dữ liệu dựa trên đám mây, như AWS S3, có thể dao động từ 0,021 USD đến 0,023 USD mỗi GB mỗi tháng, kèm theo chi phí bổ sung cho hoạt động và truyền dữ liệu. Lưu trữ và quản lý dữ liệu Cuối cùng, công ty của bạn có thể tốn bao nhiêu tiền để áp dụng mô hình nền tảng AI tổng quát “nguyên trạng”, triển khai nó trên cơ sở hạ tầng của riêng bạn? Đối với một doanh nghiệp cỡ trung bình muốn sử dụng mô hình lớn vừa phải như GPT-2 tại chỗ, chi phí AI tổng hợp liên quan có thể bao gồm: : 20.000–50.000 USD (đối với một vài GPU cao cấp hoặc thiết lập đa GPU cơ bản) Phần cứng : Khoảng $2,000–$5,000 mỗi năm Điện và bảo trì : 10.000–30.000 USD (giả sử độ phức tạp tích hợp vừa phải) Tích hợp và triển khai : $5.000–$15.000 (thay đổi tùy theo kích thước dữ liệu) Lưu trữ và quản lý dữ liệu Tổng chi phí thiết lập và vận hành giải pháp AI tổng quát sẽ bao gồm: : Khoảng 37.000 USD đến 100.000 USD (phần cứng + thiết lập tích hợp và lưu trữ ban đầu) Chi phí triển khai ban đầu : 7.000 USD đến 20.000 USD (bao gồm chi phí điện, bảo trì, tích hợp liên tục và quản lý dữ liệu) Chi phí định kỳ Những ước tính về sân bóng này có thể thay đổi đáng kể dựa trên các yêu cầu, vị trí và điều kiện thị trường cụ thể. Tốt nhất bạn nên tham khảo ý kiến của chuyên gia để có ước tính cá nhân hóa và chính xác hơn. Ngoài ra, bạn nên kiểm tra giá thị trường hiện tại cho dịch vụ phần cứng và đám mây để biết mức giá cập nhật nhất. Chi phí đào tạo lại các giải pháp Gen AI nguồn mở sử dụng dữ liệu của bạn Nếu công ty của bạn đang nghĩ đến việc điều chỉnh mô hình nền tảng nguồn mở, điều quan trọng là phải xem xét các yếu tố có thể ảnh hưởng đến chi phí triển khai AI tổng quát. Các yếu tố như vậy bao gồm: . Các mô hình lớn hơn, chẳng hạn như GPT-3, cần nhiều tài nguyên hơn để tinh chỉnh và triển khai. Kết quả là chi phí của AI tổng hợp tăng theo quy mô và độ phức tạp của mô hình. Trong khi đó, các mô hình nền tảng nguồn mở đơn giản hơn như GPT-2, XLNet và StyleGAN2 không thể tạo ra nội dung có cùng mức độ mạch lạc và phù hợp. Kích thước mô hình . Việc đào tạo lại mô hình nền tảng bằng cách sử dụng dữ liệu của công ty bạn đòi hỏi sức mạnh tính toán đáng kể. Do đó, chi phí của giải pháp AI tổng quát phụ thuộc vào việc bạn đang sử dụng phần cứng hay dịch vụ đám mây của riêng mình, với mức giá sau này thay đổi tùy theo nhà cung cấp đám mây và quy mô hoạt động của bạn. Nếu bạn chọn một mô hình đơn giản hơn và triển khai nó tại chỗ, bạn sẽ phải chi 10.000–30.000 USD chi phí GPU để tinh chỉnh giải pháp AI tổng hợp. Với điện toán đám mây, chi phí có thể dao động từ 1 USD đến 10 USD mỗi giờ, tùy thuộc vào loại phiên bản. Các mô hình nguồn mở giống GPT-3 yêu cầu thiết lập GPU nâng cao hơn, lên tới 50.000–100.000 USD. Chi phí điện toán đám mây liên quan có thể dao động từ 10 USD đến 24 USD mỗi giờ đối với các phiên bản GPU cao cấp. Tài nguyên tính toán . Quá trình thu thập, làm sạch và chuẩn bị dữ liệu cho các mô hình nền tảng tinh chỉnh có thể tiêu tốn nhiều tài nguyên. Do đó, chi phí triển khai AI tổng quát sẽ bao gồm các chi phí liên quan đến lưu trữ, xử lý dữ liệu và có thể mua bộ dữ liệu đào tạo nếu công ty của bạn thiếu dữ liệu của riêng bạn hoặc không thể sử dụng dữ liệu đó vì lý do bảo mật và quyền riêng tư. Chuẩn bị dữ liệu . Tài năng trí tuệ nhân tạo không hề rẻ. Một kỹ sư AI nội bộ có trụ sở tại Hoa Kỳ , cộng với chi phí tuyển dụng, trả lương, an sinh xã hội và các chi phí hành chính khác. Bạn có thể giảm chi phí tổng hợp AI bằng cách hợp tác với một công ty kỹ thuật phần mềm nước ngoài có chuyên môn phát triển AI. Tùy thuộc vào địa điểm, mức lương theo giờ của các công ty như vậy cho nhân tài phát triển cấp cao ở các địa điểm gia công phần mềm quan trọng, chẳng hạn như Trung Âu và Mỹ Latinh. Thời gian phát triển và chuyên môn sẽ tiêu tốn của công ty bạn từ 70.000 đến 200.000 USD hàng năm có thể dao động từ 62 USD đến 95 USD . Bạn sẽ hoàn toàn chịu trách nhiệm về việc duy trì, cập nhật và khắc phục sự cố của mô hình, vốn đòi hỏi nỗ lực liên tục cũng như kiến thức chuyên môn về kỹ thuật và vận hành máy học (MLOps). Chi phí bảo trì Xem xét các yếu tố được đề cập ở trên, chi phí thực tế của việc tạo ra giải pháp AI có thể tạo ra tùy chỉnh dựa trên mô hình nền tảng sẵn có là bao nhiêu? Đối với một doanh nghiệp cỡ trung bình đang tìm cách tinh chỉnh một mô hình lớn vừa phải như GPT-2, chi phí triển khai AI tổng hợp liên quan có thể bao gồm: : 20.000–30.000 USD (đối với thiết lập GPU vừa phải) Phần cứng : Giả sử thời gian phát triển là sáu tháng với sự kết hợp giữa nhân tài nội bộ và nhân tài thuê ngoài: Phát triển Nội bộ: $35,000–$100,000 (lương nửa năm) Gia công phần mềm: $20.000–$40.000 (giả sử 400 giờ với mức trung bình là $75/giờ) : $5.000–$20.000 (thay đổi tùy theo kích thước và độ phức tạp của dữ liệu) Chuẩn bị dữ liệu : $5.000–$15.000 mỗi năm (chi phí liên tục) Bảo trì Tổng chi phí thiết lập và vận hành giải pháp AI tổng quát sẽ bao gồm: : Khoảng 80.000 USD đến 190.000 USD (bao gồm chi phí phần cứng, phát triển và chuẩn bị dữ liệu) Chi phí triển khai ban đầu : $5.000 đến $15.000 (chi phí bảo trì và liên tục) Chi phí định kỳ Chi phí triển khai và phát triển Gen AI thực tế có thể khác nhau tùy theo yêu cầu cụ thể của dự án, tính sẵn có của dữ liệu đào tạo và nhân tài AI nội bộ cũng như vị trí của đối tác gia công của bạn. Để có mức giá chính xác và cập nhật nhất, bạn nên tham khảo ý kiến trực tiếp của các chuyên gia hoặc nhà cung cấp dịch vụ. Mặc dù 190.000 USD cho một hệ thống AI có thể tạo ra có vẻ đắt một cách vô lý, nhưng chi phí xây dựng một giải pháp AI có thể tạo ra bằng cách sử dụng các mô hình nền tảng nguồn mở có thể thấp hơn so với việc chọn một công cụ thương mại có sẵn. Trước khi ChatGPT thu hút được sự chú ý, Latitude, một công ty khởi nghiệp tiên phong chịu trách nhiệm về trò chơi phiêu lưu dựa trên AI có tên AI Dungeon, để tạo văn bản. đã sử dụng mô hình GPT của OpenAI Khi cơ sở người dùng của họ tăng lên, các hóa đơn của OpenAI và chi phí cơ sở hạ tầng của Amazon cũng tăng theo. Tại một thời điểm nào đó, công ty đã phải trả 200.000 USD mỗi tháng cho các chi phí liên quan để xử lý số lượng truy vấn ngày càng tăng của người dùng. Sau khi chuyển sang một nhà cung cấp AI thế hệ mới, công ty đã giảm chi phí vận hành xuống 100.000 USD mỗi tháng và điều chỉnh chiến lược kiếm tiền của mình, giới thiệu gói đăng ký hàng tháng cho các tính năng nâng cao được hỗ trợ bởi AI. Do đó, để chọn phương pháp triển khai phù hợp đồng thời tối ưu hóa việc định giá AI tổng quát, điều quan trọng là phải phân tích kỹ lưỡng các yêu cầu dự án của bạn trước đó. Và đó là lý do tại sao chúng tôi luôn khuyến khích khách hàng của mình khởi động các sáng kiến phát triển AI của họ bằng . giai đoạn khám phá Những điều cần lưu ý khi triển khai Gen AI trong doanh nghiệp Bây giờ bạn đã biết những gì có thể mong đợi từ AI sáng tạo về mặt chi phí, đã đến lúc nói về những cạm bẫy và cân nhắc khi triển khai công nghệ: Các mô hình nền tảng, đặc biệt là các mô hình ngôn ngữ lớn, có thể gây ảo giác, tạo ra các câu trả lời có vẻ hợp lý nhưng hoàn toàn sai cho các câu hỏi của người dùng. Công ty của bạn có thể tránh tình huống này bằng cách cải thiện dữ liệu đào tạo, thử nghiệm các kiến trúc mô hình khác nhau và giới thiệu hiệu quả của người dùng. các vòng phản hồi Các giải pháp Gen AI được đào tạo bằng cách sử dụng lượng dữ liệu khổng lồ nhanh chóng trở nên lỗi thời. Do đó, bạn sẽ phải đào tạo lại mô hình của mình thường xuyên, điều này làm tăng chi phí triển khai AI tổng hợp. Các mô hình tổ chức được đào tạo về dữ liệu cụ thể, chẳng hạn như mục nhập hồ sơ sức khỏe điện tử (EHR), có thể gặp khó khăn trong việc tạo ra nội dung hợp lệ ngoài chuyên môn trực tiếp của họ. Mặt khác, các mô hình có mục đích chung gặp khó khăn với các truy vấn của người dùng theo miền cụ thể. Một số cách để giải quyết vấn đề này bao gồm tạo các mô hình kết hợp, khai thác các kỹ thuật học chuyển giao và tinh chỉnh các mô hình thông qua phản hồi của người dùng. Các giải pháp Gen AI về bản chất là hộp đen, có nghĩa là hiếm khi hiểu rõ lý do tại sao chúng tạo ra những kết quả nhất định và cách đánh giá độ chính xác của chúng. Sự thiếu hiểu biết này có thể ngăn cản các nhà phát triển điều chỉnh các mô hình. Bằng cách tuân theo trong quá trình đào tạo mô hình AI tổng quát, chẳng hạn như giới thiệu các kỹ thuật có thể diễn giải mô hình, cơ chế chú ý và quy trình kiểm tra, bạn có thể hiểu rõ hơn về quy trình ra quyết định của mô hình và tối ưu hóa hiệu suất của nó. các nguyên tắc AI có thể giải thích Ngoài ra, có một số câu hỏi mà công ty của bạn cần trả lời trước khi bắt đầu triển khai AI tổng quát: Có sẵn chiến lược mua so với xây dựng vững chắc để xác thực rằng công ty của bạn chỉ áp dụng AI tổng quát trong các chức năng mà công nghệ sẽ trở thành yếu tố khác biệt đồng thời ngăn chặn sự khóa chặt của nhà cung cấp không? Chiến lược này cần được bổ sung bằng lộ trình chi tiết để quản lý thay đổi và mở rộng quy mô Gen AI—và các điều khoản để thiết kế lại toàn bộ quy trình kinh doanh, nếu cần. Bộ phận CNTT nội bộ của bạn có đủ kỹ năng MLOps để kiểm tra, tinh chỉnh và duy trì chất lượng của các mô hình ML phức tạp và dữ liệu đào tạo của chúng không? Nếu chưa, bạn đã chọn được một công ty phát triển AI đáng tin cậy để đảm nhận những công việc này chưa? Bạn có một lượng tài nguyên máy tính đáng kể, cả trên đám mây và trên mạng không? Ngoài ra, điều quan trọng là phải đánh giá khả năng mở rộng cơ sở hạ tầng CNTT của bạn cũng như khả năng sử dụng lại các mô hình Gen AI trên các nhiệm vụ, quy trình và đơn vị khác nhau. Công ty hoặc đối tác phát triển AI của bạn có kỹ năng kiểm tra tính khả thi của Gen AI thông qua bằng và mở rộng quy mô thử nghiệm của bạn bên ngoài môi trường hộp cát được kiểm soát không? chứng khái niệm (PoC) Cuối cùng nhưng không kém phần quan trọng, tổ chức của bạn có cơ chế bảo mật và quyền riêng tư hiệu quả để bảo vệ thông tin nhạy cảm và đảm bảo tuân thủ các quy định cụ thể của ngành và khu vực không? Việc có một kế hoạch triển khai được cân nhắc kỹ lưỡng không chỉ giúp bạn áp dụng công nghệ một cách không rủi ro và thu được lợi ích nhanh hơn mà còn giảm chi phí cho AI tạo ra. Hãy khai thác các dịch vụ tư vấn AI tổng quát của chúng tôi để tìm hiểu xem liệu Gen AI có giúp bạn cải tiến quy trình kinh doanh hay không, chọn phương pháp triển khai Gen AI phù hợp và tối ưu hóa chi phí AI tổng hợp. để bóng lăn! Viết thư cho chúng tôi Cũng được xuất bản . ở đây