ChatGPT có thể tốn hơn 700.000 USD mỗi ngày để vận hành

0
0

"Hầu hết chi phí này là do các máy chủ đắt tiền mà dịch vụ này sử dụng", Dylan Patel, nhà phân tích chính của công ty nghiên cứu chất bán dẫn SemiAnalysis chia sẻ.

Việc sử dụng ChatGPT để viết thư xin việc, tạo kế hoạch, làm hồ sơ của bạn có thể tiêu tốn OpenAI tới 700.000 USD mỗi ngày do cơ sở hạ tầng công nghệ đắt đỏ mà AI vận hành, Dylan Patel, nhà phân tích chính của công ty nghiên cứu chất bán dẫn SemiAnalysis chia sẻ The Information.

Đó là vì ChatGPT yêu cầu sức mạnh tính toán cực lớn để xử lý phản hồi dựa trên yêu cầu của người dùng.

"Hầu hết chi phí này là do các máy chủ đắt tiền mà dịch vụ này sử dụng", ông Patel chia sẻ.

 

Trong một cuộc trò chuyện với Insider, ông Patel cho biết việc vận hành bây giờ thậm chí còn tốn kém hơn, vì ước tính ban đầu của ông dựa trên mô hình GPT-3 của OpenAI. Để vận hành được GPT-4 - mô hình mới nhất của công ty - thậm chí còn đắt hơn.

Afzal Ahmad, nhà phân tích khác của SemiAnalysis, đánh giá việc đào tạo mô hình ngôn ngữ lớn có nhiều người dùng như ChatGPT cần chi phí rất lớn, "vượt xa bất kỳ mô hình AI ở quy mô bình thường khác".

Nick Walton, Giám đốc điều hành của Latitude, một công ty khởi nghiệp đằng sau trò chơi Dungeon AI, cho biết việc chạy mô hình này - cùng với các khoản thanh toán cho máy chủ Amazon Web Services - khiến công ty phải trả 200.000 USD mỗi tháng để AI trả lời hàng triệu câu hỏi, truy vấn của người dùng vào năm 2021, CNBC đưa tin.

Chi phí cao là lý do tại sao Walton cho biết ông quyết định chuyển sang một nhà cung cấp phần mềm ngôn ngữ được hỗ trợ bởi AI21 Labs, theo ông, điều này đã cắt giảm một nửa chi phí AI của công ty xuống còn 100.000 USD mỗi tháng.

Cuối năm ngoái, Tom Goldstein, Phó giáo sư khoa học máy tính tại Đại học Maryland, cho rằng OpenAI cần ít nhất 100.000 USD mỗi ngày cho ChatGPT. Ước tính của ông được đưa ra khi siêu AI chưa quá phổ biến. Tính đến tháng 2, ChatGPT đã có hơn 100 triệu người dùng và chi phí vận hành được cho là đã tăng lên nhiều lần.

Hồi tháng 2, Google xác nhận sẽ tốn hàng tỉ USD để vận hành Bard như một công cụ tìm kiếm. "Mỗi truy vấn trên AI như chatbot Bard có thể khiến công ty tốn phí gấp 10 lần so với tìm kiếm thông tin bằng từ khóa trên Google Search", John Hennessy, Chủ tịch Alphabet.

theo viettimes.vn

https://viettimes.vn/chatgpt-co-the-ton-hon-700000-usd-moi-ngay-de-van-hanh-post166073.html


Ý kiến bạn đọc


Lời cảm ơn của gia đình Tổng Bí thư Nguyễn Phú Trọng

Chiều 26/7, ông Nguyễn Trọng Trường, đại diện gia đình Tổng Bí thư Nguyễn Phú Trọng đọc Lời cảm ơn của gia đình Tổng Bí thư tại Lễ Truy điệu.

Bức tâm thư của Phu nhân Tổng Bí thư Lào gửi Phu nhân Tổng Bí thư

(VnMedia) - VnMedia xin đăng tải toàn văn bức tâm thư của Phu nhân Tổng Bí thư Lào Naly Sisoulith gửi Phu nhân Tổng Bí thư Nguyễn Phú Trọng, Ngô Thị Mận.

Nhớ về một người Cộng sản chân chính

(VnMedia)- Mỗi khi nghĩ về Tổng Bí thư Nguyễn Phú Trọng là trong tôi hiện lên hình ảnh một người Cộng sản chân chính. Và, lúc này, tôi lại nhớ đến câu chuyện mẹ tôi vẫn kể trong những năm tháng bà còn sống về cha tôi - một người Cộng sản...

Cảnh báo chiêu trò lừa đảo tuyển người mẫu, cầu thủ nhí trên không gian mạng

(VnMedia) - Bộ Công an vừa phát đi cảnh báo về chiêu trò lừa đảo tuyển mẫu nhí, cầu thủ nhí, người đại diện thương hiệu nhằm chiếm đoạt tài sản qua không gian mạng.

Giá vàng đảo chiều tăng mạnh

(VnMedia) - Chốt phiên giao dịch rạng sáng nay (24/7), giá vàng giao ngay tại thị trường New York đã đảo chiều tăng mạnh hơn 13 USD/ounce. Trong nước, chiều qua, giá vàng miếng SJC vẫn duy trì ở mốc gần 80 triệu đồng/lượng ở chiều bán ra.