Skip to content

Instantly share code, notes, and snippets.

@jmkim
Created June 28, 2025 02:23
Show Gist options
  • Save jmkim/e7aa2ff0e268764a82412e9ea1dd52f1 to your computer and use it in GitHub Desktop.
Save jmkim/e7aa2ff0e268764a82412e9ea1dd52f1 to your computer and use it in GitHub Desktop.
---------------
AI 서버 (주)더블오
ai-server.dodev doubleO Co., Ltd.
---------------
CPU : 24 Cores 1 x 12th Gen Intel(R) Core(TM) i9-12900K
Memory : 128 GiB 4 x 32 GiB Samsung DDR5-4800
Disk : 16 TiB 1 x 4 TiB Samsung 990 PRO
VRAM : 48 GiB 2 x 24 GiB NVIDIA RTX 4090
---------------
1) 계정명, 암호 더블오 ID
2) 암호 변경 $ passwd # 또는 https://nas.doubleo.co.kr 에서 변경
3) sudo 명령어 도커 컨테이너 생성 후, 컨테이너 안에서 실행
4) NAS 연결 $ mount nas-home # Y: (home) 마운트 위치 : ~/nas-home
$ mount nas-shared # Z: (shared) 마운트 위치 : ~/nas-shared
5) NAS 연결 해제 $ umount nas-home
$ umount nas-shared
6) 도커 서버 설치 $ dockerd-rootless-setuptool.sh install
시작 $ systemctl --user start docker
중지 $ systemctl --user stop docker
재시작 $ systemctl --user restart docker
상태보기 $ systemctl --user status docker
7) 도커 컨테이너 목록 $ docker container list
8) 시작 $ docker run --gpus all -itd --restart always \
--shm-size=64G -e LC_ALL='en_US.UTF-8' \
-e LANG='en_US.UTF-8' -e LANGUAGE='en_US.UTF-8' \
-v $HOME/data-storage:/data-storage \
-v $HOME/nas-home:/nas-home \
-v host_volume:container_volume \
-p host_port:container_port \
nvidia/cuda:12.8.1-cudnn-devel-ubuntu24.04 # << 여기서 OS 지정
사용 추천 OS : https://hub.docker.com/r/nvidia/cuda
--gpus 인자 : --gpus all ( 전체 GPU 사용 )
--gpus '"device=0"' ( 0번 GPU 사용 )
--gpus '"device=1"' ( 1번 GPU 사용 )
host_port 값 : 1024 ~ 65535 ( 원하는 번호, 선착순 사용 )
9) 진입 $ docker attach # 연결 해제: Ctrl+P, Ctrl+Q 순서대로 입력
10) 파일 송수신 SFTP 프로그램(FileZilla) PC에 설치 사용
SFTP 주소 : sftp://ai-server.dodev
FileZilla 다운로드 : https://filezilla-project.org/download.php?type=client
---------------
DSA
[email protected]
---------------
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment