1. 准备

注:安装包很大,35G左右,理论需要科学上网才能下载,不过可以使用迅雷云添加后取回本地,会快一些(起码速度稳定)。

2. 安装

2.1 准备科学上网

这里很重要,直接决定所消耗的时间成本

打开科学上网,规则选择绕过大陆,全程都需要打开。

2.2 安装ChatWithRTX

过程大概20-60mins,需要下载5、6g左右(按照我的流量消耗粗略估计)

将下载好的压缩包解压到指定位置,然后运行安装。
安装完成后不要立即运行。

注:这部分一定要打开科学上网,如果出现安装失败,要切换其他配置重试,拼手气。

2.3 安装环境依赖

如果运行不报错缺少模块则不需要执行
过程大概10mins内,需要下载的包根据情况不同,一般都很少。

打开你的安装路径\NVDIA\ChatWithRTX\RAG\trt-llm-rag-windows-main,在文件管理器地址栏输入cmd(或右键打开命令行)打开终端,然后输入以下命令


..\..\env_nvd_rag\python.exe -m pip install -r requirements.txt

执行后如图所示,python的环境依赖就安装完毕了。

2024-02-20T11:16:03.png

2.4 安装模型所需文件

直接运行即可,会自动下载

2024-02-20T11:15:19.png

安装完成后如下图所示

2024-02-20T11:17:31.png

3. 报错处理

3.1 安装失败

出现下图中的Failed,基本上都是科学上网的配置问题,建议更换其他地区配置重试,

2024-02-20T11:18:46.png

3.2 运行失败

3.2.1 缺少包

出现下图中的ModuleNotFoundError: No module named XXXX错误提示为python环境包不全,需执行上述步骤2.3

2024-02-20T11:19:08.png

其他问题后续补充ing...

Last modification:February 20, 2024
如果觉得我的文章对你有用,请随意赞赏