“ Databricks 推出开源大模型 DBRX：参数规模达 1320 亿、声称全球最强 头条 ”
Databricks 近日宣布推出开源 AI 模型 DBRX，声称是迄今为止全球最强大的开源大语言模型。
DBRX 采用 transformer 架构，包含 1320 亿参数，共 16 个专家网络组成，每次推理使用其中的 4 个专家网络，激活 360 亿参数。
- https://huggingface.co/databricks/dbrx-instruct
- https://www.github.com/databricks/dbrx
Databricks高管表示，虽然DBRX在某些原始功能上还无法与OpenAI的GPT-4相比，但它无疑是一个功能远超GPT-3.5的替代产品，并且成本只是GPT-3.5的一小部分。
更多细节查看https://www.databricks.com/blog/introducing-dbrx-new-state-art-open-llm
每日一言
"<!doctype html> <html lang="Zh-cn"> <head> <meta http-equiv="Content-Type" content="text/html; charset=utf-8" /> <meta name="robots" content="noindex,nofollow"> <meta name="viewport" content="width=device-width, initial-scale=1.0, maximum-scale=1.0, user-scalable=no"/> <meta name="renderer" content="webkit"> <title>您请求的文件不存在!</title> <link type="text/css" rel="stylesheet" href="https://www.oick.cn/css/404.css" /> <link rel="shortcut icon" href="http://www.oick.cn/favicon.ico" type="image/x-icon" /> </head> <body> <div id="wrap"> <div> <img src="https://www.oick.cn/imgs/404.png" alt="404" /> </div> <div id="text"> <strong> <span></span> <a href="javascript:history.back()">返回上一页</a> </strong> </div> </div> <div class="animate below"></div> <div class="animate above"></div> </body> </html>"