Vận hành siêu bot ChatGPT "ngốn" bao nhiêu tiền mỗi ngày?

0
0

ChatGPT là một trong những bot được kỳ vọng nhất trong giới công nghệ trong thời gian gần đây và để vận hành công cụ này cũng tiêu tốn một khoản không nhỏ của OpenAI.

ChatGPT là một chatbot được hỗ trợ bởi AI, có khả năng tạo cuộc trò chuyện, tương tác trực tiếp một cách tự nhiên với người dùng. Được phát triển bởi OpenAI, ChatGPT được biết đến với khả năng đưa ra các phản hồi giống như con người. Được biết, OpenAI đang chi rất nhiều tiền để duy trì hoạt động của ChatGPT.

Ảnh: Google
Ảnh: Google

ChatGPT "ngốn" 100.000 USD mỗi ngày

Theo Goldstein, Phó giáo sư tại Maryland, riêng việc tải và xử lý một đoạn văn bản trong GPT-3 đã cần năm GPU tải mô hình và văn bản. Trong khi đó, ChatGPT hiện có khả năng tạo khoảng 15-20 từ mỗi giây, do đó cần một máy chủ với ít nhất tám GPU A100.

Theo Goldstein, một GPU NVIDIA A100 duy nhất có khả năng chạy mô hình 3 tỉ tham số trong khoảng 6ms. Với tốc độ này, một GPU NVIDIA A100 có thể mất 350 mili giây để tạo ra chỉ một từ trên ChatGPT. Với hơn 175 tỉ tham số, để có đưa ra câu trả lời ChatGPT sẽ cần ít nhất năm GPU A100 để tải mô hình và văn bản.

Trung bình, mỗi GPU A100 tốn khoảng 3 USD mỗi giờ sử dụng, đồng nghĩa với 0,0003 USD cho mỗi từ được tạo ra đối với ChatGPT. Trung bình, mỗi câu trả lời của AI này chứa 30-40 từ, tương đương 1 cent (0,01 USD). Với một đoạn hội thoại ngắn 5-10 câu trả lời mỗi ngày, số tiền sẽ là 0,05-0,1 USD. Nếu một triệu cuộc hội thoại diễn ra, mức phí là 50.000-100.000 USD, 3 triệu USD mỗi tháng. Đây có thể là mức tối thiểu, chưa tính đến các chi phí khác để phát triển và vận hành mô hình.

Con số của Goldstein có thể thấp hơn thực tế, trong bối cảnh lượng người dùng ChatGPT tăng vọt. Theo ước tính của ngân hàng đầu tư UBS, siêu AI đã đạt 100 triệu người dùng sau ba tháng ra mắt.

ChatGPT không có câu trả lời cho toàn bộ câu hỏi của bạn

Mặc dù ChatGPT hiện là mô hình trò chuyện AI tiềm năng nhất, nhưng chatbot này chỉ được đào tạo bằng các mô hình cũ, được tạo ra trước năm 2021. Do đó, ChatGPT có thể không cung cấp cho bạn câu trả lời chính xác cho tất cả các câu hỏi.

ChatGPT đã bắt đầu tính phí người dùng

Mới đây, OpenAI đã công bố phiên bản ChatGPT trả phí, với giá 20 USD một tháng, sẽ cho phép người dùng nhận được một số đặc quyền mà người dùng thông thường không có.

Theo đó, những người dùng này sẽ có “quyền truy cập vào ChatGPT kể cả trong giờ cao điểm, tốc độ phản hồi nhanh hơn và ưu tiên sử dụng các tính năng và cải tiến mới.

theo viettimes.vn

https://viettimes.vn/van-hanh-sieu-bot-chatgpt-ngon-bao-nhieu-tien-moi-ngay-post163837.html


Ý kiến bạn đọc


Lời cảm ơn của gia đình Tổng Bí thư Nguyễn Phú Trọng

Chiều 26/7, ông Nguyễn Trọng Trường, đại diện gia đình Tổng Bí thư Nguyễn Phú Trọng đọc Lời cảm ơn của gia đình Tổng Bí thư tại Lễ Truy điệu.

Bức tâm thư của Phu nhân Tổng Bí thư Lào gửi Phu nhân Tổng Bí thư

(VnMedia) - VnMedia xin đăng tải toàn văn bức tâm thư của Phu nhân Tổng Bí thư Lào Naly Sisoulith gửi Phu nhân Tổng Bí thư Nguyễn Phú Trọng, Ngô Thị Mận.

Nhớ về một người Cộng sản chân chính

(VnMedia)- Mỗi khi nghĩ về Tổng Bí thư Nguyễn Phú Trọng là trong tôi hiện lên hình ảnh một người Cộng sản chân chính. Và, lúc này, tôi lại nhớ đến câu chuyện mẹ tôi vẫn kể trong những năm tháng bà còn sống về cha tôi - một người Cộng sản...

Cảnh báo chiêu trò lừa đảo tuyển người mẫu, cầu thủ nhí trên không gian mạng

(VnMedia) - Bộ Công an vừa phát đi cảnh báo về chiêu trò lừa đảo tuyển mẫu nhí, cầu thủ nhí, người đại diện thương hiệu nhằm chiếm đoạt tài sản qua không gian mạng.

Giá vàng đảo chiều tăng mạnh

(VnMedia) - Chốt phiên giao dịch rạng sáng nay (24/7), giá vàng giao ngay tại thị trường New York đã đảo chiều tăng mạnh hơn 13 USD/ounce. Trong nước, chiều qua, giá vàng miếng SJC vẫn duy trì ở mốc gần 80 triệu đồng/lượng ở chiều bán ra.