据报道,OpenAI的ChatGPT每天运行的成本高达10万美元

发布一下 0 0
据报道,OpenAI的ChatGPT每天运行的成本高达10万美元

ChatGPT-OpenAI

近来,OpenAI所取得的成就让世界大吃一惊。该公司推出了基于人工智能的聊天机器人ChatGPT,这使得交互式对话成为可能。ChatGPT令人翘首以待的一个特点就是其更加符合人类思考模式的回答。OpenAI已经将它免费提供给公众体验,虽然每个人都可以免费访问ChatGPT,但OpenAI需要承担沉重的负担以使ChatGPT保持正常运行。

网民们很快就找到了有关OpenAI必须承担的足以保障ChatGPT正常运行的机器开销成本。关于开发和运行这样一个人工智能服务的开销令人震惊,例如,运行ChatGPT的成本是每天10万美元。根据多个消息来源,ChatGPT托管在微软的Azure云上,这样OpenAI就省去了对自己购买物理机的投资开销。而考虑到微软Azure云目前的价格,每个A100 GPU每小时为3美元,每个在ChatGPT上生成的单词的成本为0.0003美元,至少有8个GPU用于操作单个ChatGPT。因此,考虑到ChatGPT生成回复的平均单词长度是30,OpenAI公司将花费近1美分。通过这样的估算,OpenAI每天可能至少花费10万美元或每月300万美元的运行成本。

另一个消息来源声称,单个NVIDIA A100 GPU可以在约6毫秒内运行30亿参数模型。以这个速度作为参考点,单个NVIDIA A100 GPU需要花费350毫秒才能在ChatGPT上输出一个单词。由于最新版本的ChatGPT-3.5有超过1750亿个参数,它将需要大约5个A100 GPU来执行必要的操作,以获得单个查询的输出。由于考虑到ChatGPT每秒输出约15-20个单词的能力,因此平均至少需要8个A100 GPU,这么高额的计算成本令人惊叹。

从编写复杂的Python代码到按需撰写专业级别的文章,只要人类给它的恰当的提示,ChatGPT都是可以做到的。由于ChatGPT过于强大的人工智能能力,人们已经开始担忧ChatGPT会在未来接管程序员和作家等的工作。尽管这个AI聊天机器人看起来具有一定的颠覆性,但很显然ChatGPT无法知道所有答案,同时不可否认的是,作为世界上最先进的AI聊天机器人,ChatGPT是在2021年以及之前创建的模型基础上进行训练的,因此,它对每个问题给出的回答在一些时候是具有一些缺陷的。

尽管仍然存在种种问题和担忧,但在OpenAI官方推出ChatGPT几天之内,ChatGPT已经吸引了超过一百万的用户,截止目前已经有上亿用户在使用ChatGPT,它在很短的时间内引起了人们足够的兴趣和重视。考虑到人们对OpenAI这一强大产品的好奇心,如果OpenAI需要将ChatGPT变成一个有前景的AI工具,那么OpenAI公司将还有很长的路要走。

版权声明:内容来源于互联网和用户投稿 如有侵权请联系删除

本文地址:http://0561fc.cn/202713.html