Jlin's Blog

林剑的博客

0%

发表于 分类于
本文字数： 677 阅读时长 ≈ 2 分钟
  1. nvidia-smi: 显示当前系统上Nvidia GPU的状态，包括设备的使用情况、显存使用情况、功耗等信息。使用该命令可以查看GPU的状态，例如GPU的使用率、显存占用率、功耗等信息，以及GPU的温度、风扇转速等参数。

  1. nvidia-smi -l 1:间隔1秒刷新GPU信息
  2. nvidia-smi -l:间隔几秒刷新GPU信息
  3. nvidia-smi -L: 显示当前系统上所有Nvidia GPU设备的信息。使用该命令可以查看当前系统上所有的Nvidia GPU设备的信息，包括设备的名称、索引、总显存大小等。

  1. nvidia-smi dmon: 显示GPU设备的显存使用情况和GPU的繁忙度。使用该命令可以实时监测GPU的显存使用情况和GPU的繁忙度，并以文本形式输出。

  1. nvidia-smi -q: 显示GPU的详细信息，包括硬件规格、驱动版本、显存信息、功耗管理、温度控制、GPU拓扑结构等信息。使用该命令可以了解GPU的硬件配置、驱动版本、显存大小、功耗管理策略、温度控制策略等信息，以及GPU的连接关系、拓扑结构等信息。

  2. nvidia-smi -i [device_index] -q: 显示指定GPU设备的详细信息。使用该命令可以查看指定GPU设备的详细信息，例如该设备的硬件规格、驱动版本、显存信息、功耗管理、温度控制等信息。

  3. nvidia-smi --query-gpu=name,temperature.gpu,utilization.gpu,memory.total,memory.used,memory.free --format=csv: 显示当前系统上所有Nvidia GPU设备的使用情况，并输出到CSV文件中，方便后续分析。使用该命令可以显示当前系统上所有Nvidia GPU设备的使用情况，例如GPU的温度、利用率、显存使用情况等信息，并将信息输出到CSV文件中，方便后续分析。

  4. nvidia-settings: 显示GPU设备的详细配置信息，包括显卡型号、GPU核心时钟、内存时钟、电压等信息。使用该命令可以配置GPU设备的参数，例如GPU的核心时钟、内存时钟、电压等参数。

  5. nvidia-smi -i [device_index] -e 0x20: 显示指定GPU设备的ECC错误日志。使用该命令可以查看指定GPU设备的ECC错误日志，以帮助排查硬件问题。

  6. nvidia-smi topo -m: 显示GPU拓扑结构和连接关系，可用于识别GPU间连接的带宽和延迟等信息。使用该命令可以了解GPU设备之间的连接关系和拓扑结构，以及GPU设备之间的带宽和延迟等信息。

发表于 分类于
本文字数： 16 阅读时长 ≈ 1 分钟

备份

1
mongodump --db mydb --out mydb_backup

恢复

1
mongorestore --db mydb mydb_backup/mydb

发表于 更新于 分类于
本文字数： 186 阅读时长 ≈ 1 分钟 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
# 显示有关Conda安装的信息，例如版本号和各个目录的路径。
conda info
# 列出当前环境中安装的所有软件包。
conda list
# 列出所有的虚拟环境
conda env list
# 创建虚拟环境
conda create
# 创建一个名为myenv的环境，并且Python版本为3.8。
conda create -n myenv python=3.8
# 激活虚拟环境
conda activate myenv
# 停用当前的Conda环境并返回基本环境。
conda deactivate
# 将在当前环境中安装NumPy软件包。
conda install numpy
# 更新NumPy软件包到最新版本。
conda update numpy
# 从当前环境中移除NumPy软件包。
conda remove numpy
# 搜索可在Conda通道中安装的软件包。
conda search
# 删除名为myenv的环境
conda env remove -n myenv

发表于 更新于 分类于
本文字数： 101 阅读时长 ≈ 1 分钟

These four commands quickly and quietly install the latest 64-bit version of the installer and then clean up after themselves. To install a different version or architecture of Miniconda for Linux, change the name of the .sh installer in the wget command.

1
2
3
4
mkdir -p ~/miniconda3
wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh -O ~/miniconda3/miniconda.sh
bash ~/miniconda3/miniconda.sh -b -u -p ~/miniconda3
rm -rf ~/miniconda3/miniconda.sh

After installing, initialize your newly-installed Miniconda. The following commands initialize for bash and zsh shells:

1
2
~/miniconda3/bin/conda init bash
~/miniconda3/bin/conda init zsh

Miniconda — miniconda documentation

发表于 更新于 分类于
本文字数： 196 阅读时长 ≈ 1 分钟

一、搭建虚拟环境

1
2
3
4
# 创建虚拟环境
conda create -n chatglm3-demo python=3.10
# 激活虚拟环境
conda activate chatglm3-demo

二、环境安装

首先需要下载本仓库：

1
2
git clone https://github.com/THUDM/ChatGLM3
cd ChatGLM3

然后使用 pip 安装依赖：

1
pip install -r requirements.txt

三、模型下载

软件依赖

1
pip install protobuf 'transformers>=4.30.2' cpm_kernels 'torch>=2.0' gradio mdtex2html sentencepiece accelerate

模型下载

modelscope API下载

1
pip install modelscope
1
2
from modelscope import snapshot_download 
model_dir = snapshot_download("ZhipuAI/chatglm3-6b", revision = "v1.0.0")

请注意，本项目需要 Python 3.10 或更高版本。

此外，使用 Code Interpreter 还需要安装 Jupyter 内核：

安装ipython3

1
sudo apt install ipython3

安装Jupyter内核

1
ipython3 kernel install --name chatglm3-demo --user

安装streamlit

1
conda install streamlit

设置模型本地路径

1
export MODEL_PATH=/home/jianhai/.cache/modelscope/hub/ZhipuAI/chatglm3-6b

启动demo

1
streamlit run main.py