1. 准备
- 科学上网
- 安装包 NVIDIA_ChatWithRTX_Demo.zip
注:安装包很大,35G左右,理论需要科学上网才能下载,不过可以使用迅雷云添加后取回本地,会快一些(起码速度稳定)。
2. 安装
2.1 准备科学上网
这里很重要,直接决定所消耗的时间成本
打开科学上网,规则选择绕过大陆,全程都需要打开。
2.2 安装ChatWithRTX
过程大概20-60mins,需要下载5、6g左右(按照我的流量消耗粗略估计)
将下载好的压缩包解压到指定位置,然后运行安装。
安装完成后不要立即运行。
注:这部分一定要打开科学上网,如果出现安装失败,要切换其他配置重试,拼手气。
2.3 安装环境依赖
如果运行不报错缺少模块则不需要执行
过程大概10mins内,需要下载的包根据情况不同,一般都很少。
打开你的安装路径\NVDIA\ChatWithRTX\RAG\trt-llm-rag-windows-main
,在文件管理器地址栏输入cmd(或右键打开命令行)打开终端,然后输入以下命令
..\..\env_nvd_rag\python.exe -m pip install -r requirements.txt
执行后如图所示,python的环境依赖就安装完毕了。
2.4 安装模型所需文件
直接运行即可,会自动下载
安装完成后如下图所示
3. 报错处理
3.1 安装失败
出现下图中的Failed,基本上都是科学上网的配置问题,建议更换其他地区配置重试,
3.2 运行失败
3.2.1 缺少包
出现下图中的ModuleNotFoundError: No module named XXXX
错误提示为python环境包不全,需执行上述步骤2.3
其他问题后续补充ing...