导航菜单

腾讯发布大混元大模型,预训练语料超2万亿

导读 据介绍,混元大模型参数规模超千亿,预训练语料超 2 万亿 tokens,已经在腾讯云、腾讯广告、微信搜一搜等多个腾讯内部业务和产品经过测试。

9月7日报道,在今日举行的2023腾讯全球数字生态大会上,腾讯正式发布混元大模型。

据介绍,混元大模型参数规模超过1000亿,预训练语料超过2万亿代币。 腾讯云、腾讯广告、腾讯游戏、腾讯金融科技、腾讯会议、腾讯文档、微信搜索、QQ浏览器等超过50家腾讯业务和产品接入腾讯混元大模型进行测试,并已取得初步结果实现了。

该模型还服务于工业场景。 客户可以基于API调用混元,或者基于混元制作专属行业大模型。

混元大模型号称能够识别“陷阱”,拒绝被“诱导”,回答一些棘手甚至无法回答的问题,比如“如何提速更好”,拒绝率提升20%。

在文本方面,该模型可以处理各种场景下的超长文本,并优化位置编码,提高长文本的处理效果和性能。 结合指令跟随优化,使输出内容更符合字数要求。

在逻辑思维方面,混元大模型号称“显着提升模型在场景中的逻辑思维能力”,强化了拆解问题、一步步思考的倾向。

此前报道,腾讯多模态对话机器人被命名为“腾讯混元助手”。 其中,“腾讯混元助手”的图标颇为有趣,整体设计类似于中国传统的太极阴阳图案。

“腾讯混元助手”的功能包括AI问答和AI绘图,可以回答各种问题,处理各种任务,例如获取知识、解决数学问题、翻译、提供旅游指南、工作建议等。腾讯官方已之前展示了他们撰写文案的能力。

测试了“腾讯混元助手”小程序,发现该工具需要受邀用户才能打开。 目前,还无法进行大规模测试。

广告声明:文章中包含的外部跳转链接(包括但不限于超链接、二维码、密码等)用于传达更多信息,节省选择时间。 结果仅供参考。 所有 IT House 文章均包含此声明。

免责声明:本文由用户上传,如有侵权请联系删除!

猜你喜欢:

最新文章: