产品特性
10月27日音讯，智谱AI于2023我国计算机大会（CNCC）上，推出了全自研的第三代基座大模型ChatGLM3及相关系列新产品，这也是智谱AI继推出千亿基座的对话模型ChatGLM和ChatGLM2之后的又一次重大突破。
此次推出的ChatGLM3采用了首创的多阶段增强预练习方法，使练习更为充沛。评测显现，在44个中英文揭露数据集测验中，ChatGLM3在国内同尺度模型中排名首位。智谱AI CEO张鹏在现场做了新品发布，并实时演示了最新上线的产品功用。
一起，ChatGLM3瞄向GPT-4V本次完结了若干全新功用的迭代晋级，包含多模态理解才能的CogVLM-看图识语义，在10余个国际标准图文评测数据集上获得SOTA；代码增强模块Code Interpreter依照每个用户需求生成代码并履行，主动完结数据剖析、文件处理等杂乱使命；网络查找增强WebGLM-接入查找增强，能主动依据问题在网络上查找有关的材料并在答复时供给参阅相关文献或文章链接。ChatGLM3的语义才能与逻辑才能得到了极大的增强。
ChatGLM3还集成了自研的AgentTuning技能，激活了模型智能体才能，尤其在智能规划和履行方面，比较于ChatGLM2提升了1000% ；敞开了国产大模型原生支撑东西调用、代码履行、游戏、数据库操作、常识图谱查找与推理、操作系统等杂乱场景。
此外，ChatGLM3本次推出可手机布置的端测模型ChatGLM3-1.5B和 ChatGLM3-3B，支撑包含vivo、小米、三星在内的多款手机以及车载渠道，乃至支撑移动渠道上CPU芯片的推理，速度可达20 tokens/s。精度方面1.5B和3B模型在揭露benchmark上与ChatGLM2-6B模型功能挨近。
根据最新的高效动态推理和显存优化技能，ChatGLM3当时的推理框架在相同硬件、模型条件下，相较于现在最佳的开源完结，包含伯克利大学推出的 vLLM 以及Hugging Face TGI的最新版别，推理速度提升了2-3倍，推理本钱下降一倍，每千tokens仅0.5分，本钱最低。
1、本号不对发布的任何信息的可用性、精确性、时效性、有效性或完整性作出声明或确保，并在此声明不承当信息可能会发生的任何职责、任何结果。
2、 本号非商业、非营利性，转载的内容并不意味着附和其观念和对其真实性担任，也无意构成任何其他引导。本号不对转载或发布的任何信息存在的不精确或过错，负任何直接或直接职责。
