AI 가 핫하다. 더 나가서 NVIDIA 도 핫한데, AI 를 이용하기 위해서는 NVIDIA 드라이버 설치가 필수가 된다. 이 글에서는 Linux 에서 Nvidia Driver 와 Docker 설치에 대한 것이다. Cuda version Nvidia 드라이버를 설치하기 전에 체크해야할 사항이 있다. Cuda version 을 어떤걸 쓸건지를 먼저 살펴야 한다. 모든 AI 관련 소프트웨어는 Cuda version 에 종속적이다. 예를들면 현 시점(2025.11) VLLM 의 안정버전은 Cuda version 12.8 에서 동작한다. 위 표는 Cuda 버전과 Nvidia Driver 의 호환표다. 주소는 다음과 같다. Cuda version 은 CUDA Toolkit […]
Power User
Python 을 위한 VSCode 기본 세팅
VSCode 는 인기있는 IDE 툴이다. Python 을 위한 기본 세팅을 기록으로 남겨둔다. Shift +Control + P 를 누르면 User Setting(JSON) 을 할 수 있는데, 대략 다음과 같이 설정 한다. 기초적인 세팅이라고 할 수 있다. ruff ruff는 해당 스타일 가이드에 맞지 않은 코드에 대해서 경고를 주거나 코드 변환을 해주는 도구. Rust로 만들어서 성능이 매우 좋다. 거기다 코드 변환까지 지원하기 때문에 Black, Isort 같은 것을 설치하지 않아도 된다. VSCode 에 확장에서 Ruff 를 검색해 설치해준다. mypy Python 정적 검사를 해준다. Python 의 […]
Ai
맥(Mac)에 VLLM 설치하기
맥(Mac) 에 VLLM 을 설치에 대한 문서 입니다. 보통 VLLM 은 Nvidia GPU 를 가진 시스템에서 주로 설치하지만 맥에서도 사용할 수 있다. 이때 핵심은 CPU 기반 LLM 이 되도록 설치하는 것이다. Brew 설치 맥(Mac) 에 Brew 를 설치해준다. 이 brew 는 리눅스에 apt, dnf 와 같은 기능을 한다. 맥으로 포팅된 각종 프로그램들을 brew 명령어를 이용해서 설치할 수 있다. 설치만 해주는게 아니라 프로그램 업데이트 추적, 패키지 삭제 등도 함께 제공한다. brew 를 이용해서 Python3.12 를 설치해 준다. Python3.12 설치 brew 를 […]
MySQL
mysql_secure_installation error
mysql 을 커스텀 설치를 하게 되면 mysql.sock 파일 위치도 변경될 수 있다. 이럴때에 mysql_secure_installation 을 실행하면 임시 패스워드가 맞아도 다음과 같이 오류가 발생한다. mysql.sock 파일이 위치가 반드시 /tmp/mysql.sock 여야만 작동된다는 의미로 에러를 낸다. 해결방법 이럴때는 MYSQL_UNIX_PORT 라는 리눅스 환경변수를 설정해주면 된다. 다음과 같다.
HowTo
Tabby 터미널 설정
Tabby 는 인기있는 Terminal 프로그램 이다. 그런데, 터미널 컬러를 커스텀해서 사용하고 있는데 다음과 같이 기록해 둔다. 터미널 컬러 테마인데, Material 과 Tabby Default Light 세팅이 되어 있고 여기서 Material 을 사용중이다.
MariaDB
Mariadb 11.8.3 컴파일 설치
Mariadb 11.8.3 을 컴파일 설치 해본다. 환경 설치는 Oracle Linux 10 에서 진행됐다. Oracle Linux 는 RHEL 호환 배포판이다. 의존성 패키지 설치 다음과 같이 의존성 패키지를 설치해야 한다. Mariadb 운영을 위한 시스템 계정 생성 mariadb 를 운영하기 위한 시스템 계정을 다음과 같이 생성한다. 이 계정은 빌드 옵션에서 똑같이 사용된다. Mariadb 스토리지 디렉토리 생성 mariadb 에서 사용할 데이터베이스 스토리지 드렉토리를 생성한다. Cmake 빌드 이제 빌드를 위한 Cmake 빌드를 해야 한다. 다음과 같이 한다. 컴파일 이제 다음과 같이 빌드하고 컴파일을 한다. 설치 […]
HowTo
만료된 dnf gpg key 삭제하기
dnf 명령어를 이용해서 패키지를 업데이트를 하던 중에 다음과 같은 증상으로 설치가 되지 않았다. 위와같이 GPG check FAILED 라면서 설치가 되지 않았다. 원인 출력된 내용을 보면 GPG Key 가 문제라는 건데, 만료 날짜가 2025-08-23 이며 날짜가 이미 지났다. 결국에는 GPG Key 가 만료가 되어서 설치가 진행되지 않은 것이다. 해결 먼저 문제가 됐던 GPG Key 에 대한 정보를 얻어야 한다. 다음과 같이 얻을 수 있다. rpm 명령어를 이용해 패키지 GPG Key 리스트를 볼 수 있다. 여기서 문제가 되는 것이 Grafana 이기 때문에 […]
HowTo, Linux
RHEL 10 에 Nvidia 드라이버 설치하기
RHEL 10 이나 Rocky 10 서버에 Nvidia 에 3070 그래픽카드를 장착했다. AI 학습을 할 수 있는 장비를 마련한건데, RHEL 10 에 물려 있다. Nvidia 드라이버 설치가 그렇게 쉬운게 아니여서 기록으로 남긴다. Nvidia 정식 저장소 Nvidia 는 RHEL 10 을 위한 저장소를 제공한다. RHEL 10 이 처음 나왔을때에는 없었는데, 최근에 생겼다. 이 저장소를 추가하면 쉽게 설치가 가능하다. RHEL 의 Code Ready Build 저장소도 활성화를 해주고, epel-release 저장소도 설치해 준다. Kernel 헤더와 개발 라이브러리 설치 커널 헤더와 개발 라이브러리를 설치해야 한다. Nvidia […]
HowTo, Linux
rpmbuild 방법
rpm(RedHat Pakcage Management)는 RedHat 계열에서 사용되는 패키지 시스템이다. 레드햇이 리눅스로 사업을 시작하는데 가장 큰 영향을 줬다고 해도 과언이 아닌 시스템이 바로 RPM이다. 아주 간단하면서도 손쉽게 만들 수 있어서 지금도 많이 사용된다. Source RPM 은 RPM을 작성하기 위한 소스를 제공하는데, RPM 작성에 필요한 모든 것이 담겨 있다. 그래서 뭔가 약간의 기능을 추가/삭제를 하고 싶은 RPM을 제작하고 싶다면 Source RPM 을 다운받아서 설치해서 리빌드해주면 된다. 이때 사용하는 명령어가 rpmbuild 명령어다. 이 포스트는 rpmbuild 를 위한 기초를 다룹니다. 설치 rpmbuild 도 명령어이기 때문에 […]
HowTo, Linux
리눅스 자동 로그아웃 설정
TMOUT 로그 TMOUT 쉘 환경 변수를 설정하면 지정한 시간동안 쉘과 상호작용, 키보드 입력이나 마우스 사용이 없을 경우에 자동으로 로그아웃을 해주게 된다. 그런데, 이렇게 로그아웃을 할 때에 시스템에는 어떤 로그를 남길까? 어뜻 보면 Client 로부터 접속이 차단된것 처럼 로그가 남지고 있다. 현장에서 이걸 보고 사용자가 로그아웃 된 것으로 해석하는 경우가 많은 이유이기도 하다. 하지만 쉘에서 보면 다음과 같다. 이렇게 로그가 다르게 남는 이유가 무엇을까? Shell vs SSHD 서비스 쉘은 sshd 서비스를 이용해 접속하게 되면 받게 되는 사용자 인터페이스다. 굳이 따지자면 sshd […]