谷歌母公司董事长:聊天机器人成本是传统搜索的10倍,要花数年降成本
记者/杨阳
ChatGPT火爆全球,谷歌各大科技公司纷纷加码人工智能。司董事长索的数年不过聊天工具这一新兴技术不仅在准确性方面存在问题,聊天还使得研发公司背负高昂的机器降成运营成本。
当地时间2月22日,人成谷歌母公司Alphabet的本传倍花本董事长约翰·亨尼斯(John Hennessy)在路透社的采访中表示,大型语言模型等人工智能的统搜对话成本可能是传统搜索引擎的10倍以上。他认为谷歌必须降低此类人工智能的谷歌运营成本,但这一过程并不容易,司董事长索的数年“最坏的聊天情况是需要几年时间。”
聊天机器人成本高昂
与传统搜索引擎相比,机器降成聊天机器人的人成运营成本略显高昂。
摩根士丹利的本传倍花本分析表示,谷歌去年共计3.3万亿次搜索,统搜每次搜索的谷歌成本仅为0.2美分。而此前有分析师指出,ChatGPT的一次回复则会产生2美分的成本。
摩根士丹利预计,若将谷歌旗下聊天机器人Bard引入搜索引擎,并用其处理谷歌一半的搜索和提问,按照每次答案50词计算,该公司2024年的成本可能会增加60亿美元。
同样的,专注于芯片技术的咨询公司SemiAnalysis表示,受到谷歌的内部芯片Tensor Processing Units等的影响,将聊天机器人添加至搜索引擎中,可能会导致该公司额外花费30亿美元。
搜索引擎You.com的首席执行官Richard Socher则认为,添加聊天机器人、图表、视频及其他生成技术应用程序,将对应30%至50%的额外支出。不过他认为,“随着时间的推移,这类技术会变得越来越便宜。”
聊天机器人的成本之所以高于传统搜索,主要是因为其所需的算力(computing power)更大。分析师称,此类人工智能依赖于价值数十亿美元的芯片,将这项成本平摊到几年的使用期中,单次使用成本会增加。此外电力消耗同样会导致成本提高,还会为公司带来碳排放指标方面的压力。
聊天机器人式的人工智能与搜索引擎的工作原理并不相同。人工智能处理用户问题的过程被称为“推理(inference)”,它模拟人脑的“神经网络”,根据此前的训练数据推断出答案。而传统搜索引擎中,谷歌的网络爬虫会扫描互联网并编制为信息索引。当用户输入搜索问题时,谷歌会提供存储在索引中最相关的答案。
对于聊天机器人而言,其所依赖的语言模型规模越大,需要越多的芯片支持“推理”,对应的成本就更高昂。
以ChatGPT为例, 其技术来源是OpenAI旗下自然语言处理(NLP)模型GPT-3,该模型拥有1750亿参数,训练成本花费约1200万美元,是同类中参数数量最多、最昂贵的模型之一。
因此ChatGPT的成本居高不下。OpenAI的首席执行官萨姆·奥特曼(Sam Altman)曾在推特上表示,ChatGPT与用户对话的成本非常“惊人”,每次对话需要花费几美分或更多。
有媒体根据微软对单个100 AGPU的收费情况进行推断,得出ChatGPT生成一个单词的费用约为0.0003美元,若以每次回复50词来计算,ChatGPT的一次回复需消耗1.5美分。
对此,亨尼斯表示,“你必须降低推理成本,最坏的情况需要几年时间(解决这一问题)。”
科技公司设法降低成本
尽管聊天机器人为公司带来额外花销,但它同时也会带来用户增长。
微软此前表示,新版必应推出的48小时内,超过100万用户注册新版必应。第三方数据公司data.ai的分析显示,必应应用程序的全球下载量在一夜之间猛增10倍,并蹿升到苹果App Store应用商店最受欢迎的免费应用榜中的第十位。
微软的首席财务官艾米·胡德(Amy Hood)也告诉分析师,随着新版必应上线,用户数量增加及广告收入带来的好处已经超过了成本。她认为公司的毛利率其实处于增长状态。
但也有人提出公司需要采取措施降低成本。一位资深技术高管在路透社的采访中表示,要使几百万消费者使用人工智能,目前成本仍然过高。该高管表示,“这些模型非常昂贵,因此下一阶段的重点是降低这些模型的训练和推理的成本,以便用户能够在每个应用程序中使用它们。”
有技术专家认为,降低成本的方法之一是使用较小的人工智能模型,并将其应用于更简单的任务。
Alphabet目前正在探索这条道路。其聊天机器人Bard基于公司旗下大型对话语言模型LaMDA的轻量化版本。相比标准版本,轻量化版本模型所需要的运算能力较小,能面向更多使用者开放,使其参与体验。
也有知情人士透露,OpenAI的计算机科学家已经找到如何通过复杂代码优化推理成本的方法,并以此提高芯片运行效率。
除了降低成本,该公司还通过收取费用获得营收。2月初,OpenAI宣布推出付费版ChatGPT Plus,定价每月20美元。付费版功能包括高峰时段免排队、快速响应以及优先获得新功能等。
(责任编辑:娱乐)
-
FTX事件或将引发加密货币机构“破产潮”,以太坊等货币持续萎靡
智通财经了解到,Sam Bankman-Fried创立的一度强大无比FTX帝国垮台引发的加密货币危机持续发酵,加密货币价格本周继续陷入困境。最大规模加密货币比特币在两天内下跌约4%,排名第二的以太坊下 ...[详细]
-
银保监会有关部门负责人5月18日表示,近日,银保监会与人民银行持续关注河南4家村镇银行线上服务渠道关闭问题,已责成河南银保监局和人民银行郑州中心支行切实履行属地监管职责,密切配合地方党委政府和相关部门 ...[详细]
-
俄外交部发言人:俄罗斯外长拉夫罗夫将于19日参加金砖国家外长会晤
当地时间18日,俄罗斯外交部发言人扎哈罗娃表示,俄罗斯外交部长拉夫罗夫将于5月19日以视频的方式参加金砖国家外长会晤。扎哈罗娃还说,俄罗斯在乌克兰的特别军事行动中不论对平民还是军人都给予了实实在在的人 ...[详细]
-
5月18日,海南省纪委监委发布消息,省市场监管局局长孙颖涉嫌严重违纪违法,正接受审查调查。孙颖 资料图公开报道显示,孙颖出生于1966年4月,云南保山人,1987年毕业于北京大学哲学系,曾在云南省委统 ...[详细]
-
德邦股份:5577.61万股股份接受京东卓风要约 股票9月2日复牌
证券时报e公司讯,德邦股份(603056)9月1日晚间公告,在要约收购期限内,最终有480个账户,共计5577.61万股股份接受京东卓风发出的要约;本次要约收购完成后,公司股权分布具备上市条件,上市地 ...[详细]
-
聆达股份控制权或变更 深交所关注不足两年再度易主原因及合理性
炒股就看,权威,专业,及时,全面,助您挖掘潜力主题机会!300125)5月15日晚公告,公司实际控制人王正育及其一致行动人王妙琪与杭州伯翰资产管理有限公司签署《合伙份额收购意向书》,拟转让持有的控股股 ...[详细]
-
财联社5月18日讯编辑 赵昊)美股周三5月18日)集体低开后扩大跌幅。截止发稿,三大股指均跌超2%,其中纳指已跌超3%,标普跌2.66%,道指跌2.25%。大型科技股也全体走低,按市值排列)跌3.32 ...[详细]
-
2021年研发投入首破千亿元 湖北区域科技创新能力进入全国“第一方阵”
21世纪经济报道记者刘茜 实习生曹仲植 武汉报道湖北省科技厅提供的数据显示,湖北区域科技创新能力由全国第10位提高到第8位,排名中部第1位,进入全国科技创新水平的“第一方阵”。5月18日,湖北召开“加 ...[详细]
-
联合利华旗下洗护品牌The Laundress发布中国市场产品召回公告
#联合利华旗下TheLaundress召回产品#【联合利华旗下洗护品牌TheLaundress发布中国市场产品召回公告】11月23日晚间,联合利华旗下高端洗护品牌TheLaundress通过官方微博发 ...[详细]
-
利空因素部分出清一边是一路下滑的业绩,一边却是不断增长的规模。在2022年QDII主题基金中,“越跌越买”成为市场主题。通联数据显示,截至5月18日收盘,今年以来全市场共有293只QDII基金的收益为 ...[详细]