今天分享一个号称目前“最强中文开源模型”BAIchuan 2的离线整合包。
Baichuan 2简介Baichuan大模型是由前搜狗CEO王小川离职创业，投身AI领域后，开发出的国产AI大模型。Baichuan 2是他们公司新一代的大模型产品。
- Baichuan 2是百川智能推出的新一代开源大语言模型，采用2.6万亿代币的高质量语料训练。
- Baichuan 2在多个权威的中文、中文和多语言的通用、领域基准上取得了同尺寸的最佳效果。
- 本次发布包含有7B、13B的Base和Chat版本，并提供了 Chat 版本的4bits 量化。
- 所有版本对学术研究完全开放。同时，开发者通过邮件申请并获得官方许可后，即可免费获得
部署Baichuan 2比较麻烦，这里我也已经帮大家整理好了Baichuan 2的离线整合包了，解压即用。今天制作的是7B模型的整合包，它对机器性能要求相对较低，方便大家快速上手。
①下载整合包：解压到本地后，双击“一键启动-7B量化.exe”
②加载大模型：双击一键启动程序后，会打开一个命令提示窗口，项目会自动运行。加载成功后，可以看到以下地址“ http://127.0.0.1:7860”。
在浏览器输入该地址，即可看到项目主界面，直接问他一个比较有智慧的问题：鸡和兔在一个笼子里，共有26个头，68只脚，那么鸡有多少只，兔有多少只？
假设鸡的数量为x，兔子的数量为y。根据题目给出的信息，我们可以得到以下两个方程：
1. x y = 26 (头的总数)
2. 2x 4y = 68 (脚的总数)
现在我们需要解这个二元一次方程组。首先从第一个方程中解出x：
x = 26 - y
然后将x的表达式代入第二个方程：
2(26 - y) 4y = 68
52 - 2y 4y = 68
2y = 16
接下来我们求解y的值：
y = 16 / 2
y = 8
现在我们得到了兔子的数量是8只。将y的值代入x的表达式求得鸡的数量：
x = 26 - 8
x = 18
所以鸡有18只，兔子有8只。
Baichuan-2-7B大模型的回答非常快（实测10~20秒出答案），而且答案很正确。恭喜你，已经可以在本地拥有一个超强的AI大模型了，以后辅导孩子写作业，再也不慌了！
注意事项：
①该项目需要N卡，显存8G以上，建议2060以上级别显卡，过低显存可能无法使用
②请确保安装路径不包含中文，不然可能会引起奇怪的适配问题
