Tagged: Linux

Ubuntu 18.04 도메인을 찾을 수 없을때

Ubuntu 18.04 를 사용중인데, 보안 업데이트를 하기 위해서 apt 명령을 입력했더니 다음과 같이 도메인을 찾을 수 없는 이유로 오류가 생긴다.

apt update 오류
ZSH
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
root@ubuntu:~# apt update
Err:1 http://archive.ubuntu.com/ubuntu bionic InRelease
  Temporary failure resolving 'archive.ubuntu.com'
Err:2 http://security.ubuntu.com/ubuntu bionic-security InRelease
  Temporary failure resolving 'security.ubuntu.com'
Err:3 http://archive.ubuntu.com/ubuntu bionic-updates InRelease
  Temporary failure resolving 'archive.ubuntu.com'
Err:4 http://archive.ubuntu.com/ubuntu bionic-backports InRelease
  Temporary failure resolving 'archive.ubuntu.com'
Reading package lists... Done
Building dependency tree
Reading state information... Done
All packages are up to date.
W: Failed to fetch http://archive.ubuntu.com/ubuntu/dists/bionic/InRelease  Temporary failure resolving 'archive.ubuntu.com'
W: Failed to fetch http://archive.ubuntu.com/ubuntu/dists/bionic-updates/InRelease  Temporary failure resolving 'archive.ubuntu.com'
W: Failed to fetch http://archive.ubuntu.com/ubuntu/dists/bionic-backports/InRelease  Temporary failure resolving 'archive.ubuntu.com'
W: Failed to fetch http://security.ubuntu.com/ubuntu/dists/bionic-security/InRelease  Temporary failure resolving 'security.ubuntu.com'
W: Some index files failed to download. They have been ignored, or old ones used instead.

“Temporary failure resolving” 이게 뭘까 싶어서 알아본 내용을 정리한다.

resolve.conf 파일을 열어보면 다음과 같이 되어 있을 것이다.

resolve.conf
1
2
3
4
5
6
7
root@ubuntu:~# cat /etc/resolv.conf
# Dynamic resolv.conf(5) file for glibc resolver(3) generated by resolvconf(8)
#     DO NOT EDIT THIS FILE BY HAND -- YOUR CHANGES WILL BE OVERWRITTEN
# 127.0.0.53 is the systemd-resolved stub resolver.
# run "systemd-resolve --status" to see details about the actual nameservers.
 
nameserver 127.0.0.53

resolv.conf 파일은 다들 알다시피 도메인 네임 서버를 지정해주는 설정 파일로 이 파일이 잘못되면 도메인을 ip로 변환할 수가 없게되어 결국에는 인터넷 연결을 할 수가 없게 된다.

그런데, 위 내용을 보면 도메인 서버 ip는 로컬 호스트로 보이고 코멘트에 이것을 수동으로 바꾸지 말것을 경고하고 있다. 거기다 resolve 상태를 “systemd-resolve –status”로 확인하라고 친절히 안내하고 있다. 이 명령어는 uplink DNS 서버에 대한 상태를 알려준다.

그러면 이 uplink DNS 를 바꿀 수는 없을까?

systemd-resolve 데몬이 이를 수행하는데, 이는 다음과 같은 위치의 파일들을 읽어서 동작한다.

1
2
3
4
/etc/systemd/resolved.conf
/etc/systemd/resolved.conf.d/*.conf
/run/systemd/resolved.conf.d/*.conf
/usr/lib/systemd/resolved.conf.d/*.conf

Ubuntu18.04 에서는 /etc/systemd/resolved.conf 파일이 존재하며 여기에 DNS= 부분에 DNS 서버를 space 로 구분해 리스트로 적어놓을 수 있다.

실제로 ‘DNS=8.8.8.8’ 을 입력하고 ‘systemctl restart systemd-resolved’ 하면 적용되어 apt update 가 잘 동작했다.

PHP7 설치하기

이 문서는 php7.2 설치 문서 입니다.

1. 준비

CentOS 가 최소설치되었다고 가정하고 시작했기 때문에 컴파일 환경을 구축해야 합니다.

php 설치를 위한 의존성 패키지 설치
ZSH
1
2
3
yum update -y
reboot
yum install gcc.x86_64 gcc-c++.x86_64 wget.x86_64 bzip2-devel.x86_64 pkgconfig.x86_64 openssl-devel.x86_64 make.x86_64 man.x86_64 nasm.x86_64 gmp.x86_64 gmp-devel.x86_64 curl-devel.x86_64 libicu-devel.x86_64 libsodium-devel.x86_64 gdbm-devel.x86_64 readline-devel.x86_64 compat-readline43.x86_64 ncurses-devel.x86_64 db4-devel.x86_64 automake* autoconf* -y

Ubuntu16.04 의 경우에는 다음과 같은 프로그램이 설치되어 있어야 합니다.

Ubuntu 16.04 의 컴파일 프로그램 설치.
ZSH
1
2
3
4
5
apt clean all
apt update
apt install build-essential libsystemd-dev pkg-config libxml2-dev libssl-dev libbz2-dev \
libcurl3 libcurl4-openssl-dev libsodium-dev libjpeg9-dev libpng-dev \
libfreetype6-dev libxpm-dev libgmp10-dev libxslt1-dev

 

2.Download and Unpack

최신버전을 다운로드 받아야 합니다.

Download and Unpack to the php source
ZSH
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
]# wget http://jp2.php.net/get/php-7.2.1.tar.bz2/from/this/mirror
--2018-01-07 00:17:28--  http://jp2.php.net/get/php-7.2.1.tar.bz2/from/this/mirror
Resolving jp2.php.net... 49.212.134.217
Connecting to jp2.php.net|49.212.134.217|:80... connected.
HTTP request sent, awaiting response... 302 Found
Location: http://jp2.php.net/distributions/php-7.2.1.tar.bz2 [following]
--2018-01-07 00:17:29--  http://jp2.php.net/distributions/php-7.2.1.tar.bz2
Connecting to jp2.php.net|49.212.134.217|:80... connected.
HTTP request sent, awaiting response... 200 OK
Length: 14980278 (14M) [application/octet-stream]
Saving to: `mirror'
 
100%[===================================================================================>] 14,980,278  6.55M/s   in 2.2s
 
2018-01-07 00:17:31 (6.55 MB/s) - `mirror' saved [14980278/14980278]
]# tar xvjf mirror

3. Configure and Compile

이제 PHP에서 사용할 기능들을 결정해야 합니다. PHP에서 제공하는 기능은 아주 많지만 여기서는 다음과 같은 기능들을 사용할 것입니다.

Compile to the php7
ZSH
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
../configure --prefix=/opt/php-7.2.1 \
--with-config-file-path=/opt/php-7.2.1/etc \
--with-config-file-scan-dir=/opt/php-7.2.1/etc/conf.d \
--with-libdir=lib64 \
--enable-fpm \
--with-fpm-systemd \
--enable-sockets \
--with-gettext \
--with-mhash \
--with-gmp \
--with-gd \
--with-jpeg-dir=/usr \
--with-png-dir=/usr \
--with-zlib-dir=/usr \
--with-freetype-dir=/usr \
--enable-bcmath \
--enable-exif \
--with-zlib \
--with-bz2 \
--enable-calendar \
--enable-mbstring \
--with-mhash \
--enable-intl \
--with-xsl \
--with-sodium \
--with-libxml-dir=/usr \
--with-curl \
--disable-debug \
--with-openssl \
--enable-mysqlnd \
--with-pdo-mysql=mysqlnd \
--with-mysqli=mysqlnd \
--enable-inline-optimization \
--enable-sysvmsg \
--enable-sockets \
--enable-sysvsem \
--enable-sysvshm \
--enable-pcntl \
--enable-mbregex \
--with-mhash \
--enable-zip \
--with-pcre-regex

아무런 에러없이 끝났다면 다음과 같이 컴파일을 해주고 설치해준다.

Compile
ZSH
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
]# make
]# make install
Installing shared extensions:     /opt/php-7.2.1/lib/php/extensions/no-debug-non-zts-20170718/
Installing PHP CLI binary:        /opt/php-7.2.1/bin/
Installing PHP CLI man page:      /opt/php-7.2.1/php/man/man1/
Installing PHP FPM binary:        /opt/php-7.2.1/sbin/
Installing PHP FPM defconfig:     /opt/php-7.2.1/etc/
Installing PHP FPM man page:      /opt/php-7.2.1/php/man/man8/
Installing PHP FPM status page:   /opt/php-7.2.1/php/php/fpm/
Installing phpdbg binary:         /opt/php-7.2.1/bin/
Installing phpdbg man page:       /opt/php-7.2.1/php/man/man1/
Installing PHP CGI binary:        /opt/php-7.2.1/bin/
Installing PHP CGI man page:      /opt/php-7.2.1/php/man/man1/
Installing build environment:     /opt/php-7.2.1/lib/php/build/
Installing header files:          /opt/php-7.2.1/include/php/
Installing helper programs:       /opt/php-7.2.1/bin/
  program: phpize
  program: php-config
Installing man pages:             /opt/php-7.2.1/php/man/man1/
  page: phpize.1
  page: php-config.1
Installing PEAR environment:      /opt/php-7.2.1/lib/php/
[PEAR] Archive_Tar    - installed: 1.4.3
[PEAR] Console_Getopt - installed: 1.4.1
[PEAR] Structures_Graph- installed: 1.1.1
[PEAR] XML_Util       - installed: 1.4.2
[PEAR] PEAR           - installed: 1.10.5
Wrote PEAR system config file at: /opt/php-7.2.1/etc/pear.conf
You may want to add: /opt/php-7.2.1/lib/php to your php.ini include_path
/root/php-7.2.1/build/shtool install -c ext/phar/phar.phar /opt/php-7.2.1/bin
ln -s -f phar.phar /opt/php-7.2.1/bin/phar
Installing PDO headers:           /opt/php-7.2.1/include/php/ext/pdo/

4. Configure to the installed php7

config-file-scan 디렉토리를 생성해 준다.

Create the config dir to scan the config's files
ZSH
1
]# mkdir /opt/php-7.2.1/etc/conf.d

그리고 php.ini 파일을 /opt/php-7.2.1/etc 디렉토리로 복사해준다.

php.ini 파일 복사
ZSH
1
]# cp php.ini-production /opt/php-7.2.1/etc/php.ini

그리고 다음과 같이 php-fpm 을 위한 설정 파일도 만들어 준다. 이것은 php-fpm.conf.default 파일을 php-fpm.conf 파일로 복사해주고 다음과 같이 설정해 주면 된다.

php-fpm.conf
INI
1
2
3
4
5
pid = run/php-fpm.pid
 
error_log = log/php-fpm.log
 
include=/opt/php-7.2.1/etc/php-fpm.d/*.conf

그리고 pool 을 php-fpm.d 디렉토리에 설정해 준다. 보통 기본으로 www.conf 가 있는데 이것을 활요하면 된다.

www.conf 설정
INI
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
[www]
 
prefix = /home/php/www
 
user = nobody
group = nogroup
 
listen = 127.0.0.1:9000
 
listen.allowed_clients = 127.0.0.1
 
pm.max_children = 5
 
pm.start_servers = 2
 
pm.min_spare_servers = 1
 
pm.max_spare_servers = 3
 
rlimit_files = 131072
 
rlimit_core = unlimited
 
chdir = /

위 설정은 각 서버 환경에 맞춰 해줘야 한다. 얼마나 사용자를 받느냐에 따라서 pm 값을 달리 해줘야 한다.

마지막으로 다음과 같이 systemd 를 위한 서비스 파일을 다음과 같이 작성해 줍니다.

php-fpm.service
1
2
3
4
5
6
7
8
9
10
11
[Unit]
Description=PHP FastCGI process manager
After=local-fs.target network.target nginx.service
 
[Service]
PIDFile=/opt/php-7.2.1/var/run/php-fpm.pid
ExecStart=/opt/php-7.2.1/sbin/php-fpm --fpm-config /opt/php-7.2.1/etc/php-fpm.conf --nodaemonize
Type=simple
 
[Install]
WantedBy=multi-user.target

위 내용을 php-fpm.service 파일로 /etc/systemd/system 디렉토리에 작성해 주고 systemd 에 등록해준다.

5. Verify

php-fpm 이 잘 동작하는지 확인 하는 방법으로 cgi-fcgi 명령어를 활용하는 법이 있다. 이 명령어는 php-fpm 처럼 FastCGI 로 동작하는 서버에 직접 연결을 할 수 있게 해준다.

php 정보를 표시해줄 파일을 작성하고 다음과 같이 cgi-fcgi 를 사용해 본다.

cgi-fcgi 사용해 php-fpm 에 직접 연결
ZSH
1
2
3
4
5
]$ SCRIPT_FILENAME=/home/php/www/index.php \
REQUEST_URI=/ \
QUERY_STRING= \
REQUEST_METHOD=GET \
]$ cgi-fcgi -bind -connect 127.0.0.1:9000

index.php  파일에는 ‘phpinfo();’ 를 호출해 php 설치에 관한 정보를 출력하도록 했으며 각종 파라메터를 쉘 환경변수에 지정해서 cgi-fcgi 로 전달해준다.

Database 를 위한 공유 메모리, HugePages 계산하기

Database 시스템은 공유메모리 혹은 HugePages 에 매우 의존적입니다. 서버에서 데이터베이스가 가동되면 Database 가 사용하는 메모리는 Database만을 위해서 사용되어 집니다. 대부분의 큰 Database 시스템은 다른 서버 프로그램 없이 단독으로 설치되어 운영되어지기 때문에 얼마만큼 물리적 메모리를 Database 에 할당할지가 Database 시스템 전체에 큰 영향을 미칩니다.

이 글에서 Database 시스템을 위한 공유메모리, HugePages 등을 할당할때에 고려사항은 무엇이며 얼마나 할당하는 것이 좋은지를 살펴보겠습니다.

Oracle 11g or 12c

먼저 Oracle 은 물리적 메모리에 약 80% 를 Oracle 이 사용하도록 할당하도록 합니다. 여기서 대략 80% 라고 했는데, 만일 몇가지 프로그램을 함께 돌린다면 약 75% 가 적당합니다.

물리 메모리의 약 80% 할당

여기서 고려해야할 사항이 하나 있습니다. 80%를 할당하라고 해서 무조건 80%를 할당하게 되면 문제가 됩니다. 예를들어 16GB 의 물리 메모리로 운영하는 경우에 80%면 12.8GB 이고 서버에서 사용가능한 용량은 3.2GB 입니다. 요새 데스크탑 컴퓨터도 안되도 4GB 는 사용하는데 아무리 가벼운(?) 리눅스 서버라도 3.2GB 는 운영하는데 너무 적어 보입니다.

이럴때는 운영체제에서 사용할 최소 메모리를 남겨두고 나머지를 Oracle 에 할당하는게 현명하다고 할 수 있습니다.

또하나 중요하게 고려해야할 사항은 Oracle 에서 AMM을 쓰느냐 안쓰느냐 하는 문제 입니다. 이 둘의 차이는 다음과 같습니다.

AMM 을 사용할 경우: /dev/shm 장치를 이용한 공유메모리 모델 사용. HugePages 사용 불가

AMM을 사용하지 않을 경우: System V 공유 메모리 모델 사용. HugePages 사용 가능

 

Oracle 11g 버전으로 넘어오면서 전에 없던 기능이 하나 생겼는데, 그것은 바로 AMM(Aotomactic Memory Management) 입니다. AMM은 Oracle의 메모리 모델인 SGA와 PGA 를 통틀어서 메모리 관리를 자동으로 해준다는 개념입니다.

AMM 기능을 이용하면 대략적으로 SGA 영역은 Oracle 할당받은 메모리 영역에서 85%, PGA 는 약 15%로 나눠서 관리한다고 합니다.

또 한가지 AMM의 특징이 있는데, 공유메모리 모델중에서 /dev/shm 장치를 이용한 Posix 규격의 공유메모리 모델을 사용한다고 합니다. 이 메모리 모델은 메모리 가상 장치를 통해서 프로세스가 공유할 내용을 파일로 저장해서 공유하는 방법으로 오로지 용량에만 제약사항이 있습니다. 공유할 내용을 파일로 생성할때에 얼마만한 크기로 생성할지는 전적으로 서버 프로그램, 여기서는 Oracle, 에 의해서 결정됩니다. 최근의 모든 리눅스 서버는 /dev/shm 이 자동으로 마운트되어 있으며 기본적으로 전체 물리메모리의 50%를 사용합니다.

용량을 바꾸기 위해서는 다음과 같이 해줍니다. CentOS 6과 CentOS 7 배포판 별로 차이가 조금 있습니다.

/dev/shm 공유 메모리 크기 변경
ZSH
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
## CentOS 6
umount /dev/shm
mount -t tmpfs shmfs -o size=4g /dev/shm
## /etc/fstab
- tmpfs                   /dev/shm                tmpfs   defaults        0 0
+ tmpfs                   /dev/shm                tmpfs   defaults,size=12G        0 0
 
## Apply changes of /dev/shm
mount -o remount /dev/shm
 
## CentOS 7
## /etc/fstab
+ shmfs                   /dev/shm                tmpfs   defaults,size=12G        0 0
 
## Apply changes of /dev/shm
mount -o remount /dev/shm

 

만일 AMM을 사용하지 않을 경우에는 SystemV 의 공유메모리 설정을 따르게 됩니다. 이때에 HugePages 도 함께 사용할 수 있습니다. 이 설정들은 커널 파라메터로 조정하며 그 설정 변수는 다음과 같습니다.

shmmax: 단일 프로세스가 공유메모리를 호출하기 위한 최대 값. 단위 Bytes

shmall: 시스템을 통틀어 사용가능한 공유 메모리 Page 량. 단위 Page

nr_hugepages: Huge 페이지 개수.

 

여기서 중요한 것이 만일 HugePages 를 사용한다면 shmall 은 사용되지 않습니다. shmall 은 리눅스 메모리의 기본단위인 4096bytes(4k) 를 기반으로 계산되어 지는데, HugPages 는 이보다 더 큰 2048k(2MB) 를 기반으로 페이지를 나누기 때문입니다.

어찌됐든 이런 모든 상황을 고려해서 사용가능한 메모리를 구한다면 다음과 같은 공식으로 구할 수 있습니다.

Oracle 를 위한 shmall, shmmax, nr_hugepages 크기 구하기
ZSH
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
#!/bin/sh
#
#
 
if [ -z $1 ]; then
        echo "Usage: shm_setup.sh size(MB)"
        exit 1
fi
 
DB_MEMORY=$(($1+500))
PAGE=$(getconf PAGESIZE)
HUGEPAGE=$(cat /proc/meminfo |grep -i Hugepagesize|awk '{print $2}')
 
echo "Actually For DB memory has about 100MB bigger than $1
Totally DB's Memory is $DB_MEMORY MB"
 
if [ $DB_MEMORY -le '500' ]; then
        echo "DB's Memory should be greater than 500MB"
        exit 1
else
        echo "PAGESIZE: $PAGE"
        echo "HugePage Size: $HUGEPAGE"
        echo ""
        echo "kernel.shmmax = $(($DB_MEMORY*1024*1024))"
        echo "kernel.shmall = $((($DB_MEMORY*1024*1024)/$PAGE))"
        echo "vm.nr_hugepages = $(($DB_MEMORY/($HUGEPAGE/1024)))"
        echo "@oinstall soft memlock = unlimited"
        #echo "@oinstall soft memlock = $(($DB_MEMORY*1024))"
        echo "@oinstall hard memlock = unlimited"
        #echo "@oinstall hard memlock = $(($DB_MEMORY*1024))"
fi

보시면 아시겠지만 다른분이 만들어놓은 것으로 최소 500MB 용량을 넘는 것으로해서 shmmax, shmall, hugepages 를 모두 계산하고 있습니다.

MySQL 5.x

MySQL 의 경우에, InnoDB 엔진만을 사용한다는 전제하에, 전체 메모리의 80%를 MySQL이 할당해서 사용하도록 설정합니다.

물리 메모리의 약 80%를 MySQL에 할당(InnoDB만 사용)

MySQL 은 오로지 SystemV 의 공유메모리 모델을 따릅니다. 따라서 HugePages 를 사용할 수 있는데, 이를 위해서는 다음과 같이 my.cnf 에 설정을 해줘야 합니다.

MySQL 의 HugePage 사용설정
INI
1
2
[mysqld]
large-pages

그리고 shmmax,shmall,nr_hugepages 는 앞에 스크립트를 이용해서 구합니다.

Linux 설정

SystemV 공유 메모리 모델의 경우에 몇가지를 더 해줘야 합니다.

첫째로 Transparent Huge Pages (THP) 설정을 꺼야 합니다. 성능저하가 발생한다고 하네요. 다음과 같이 간단히 처리 할 수 있습니다.

Transparent Huge Pages (THP) 비활성화
ZSH
1
2
echo never > /sys/kernel/mm/transparent_hugepage/enabled
echo never > /sys/kernel/mm/transparent_hugepage/defrag

매번 부팅시마다 자동으로 설정하고 싶다면 부팅 파라메터를 수정해 줍니다.

Ubuntu 의 경우에는 다음과 같이 해줍니다.

Transparent Huge Pages (THP) 비활성화를 위한 grub 설정
diff
1
2
3
4
# vim /etc/default/grub
- GRUB_CMDLINE_LINUX="net.ifnames=0 biosdevname=0"
+ GRUB_CMDLINE_LINUX="net.ifnames=0 biosdevname=0 transparent_hugepage=never"
# update-grub2

CentOS 의 경우에는 다음과 같이 해줍니다.

Transparent Huge Pages (THP) 비활성화를 위한 grub 설정
diff
1
2
3
4
# vim /etc/default/grub
- GRUB_CMDLINE_LINUX="crashkernel=auto rhgb quiet"
+ GRUB_CMDLINE_LINUX="crashkernel=auto rhgb quiet transparent_hugepage=never"
# update-grub2

확인도 가능한데, 다음과 같이 AnonHugePages 값이 0Kb 명 THP 가 비활성화 된 것입니다.

1
2
]# grep Huge /proc/meminfo
AnonHugePages:     0

마지막으로 커널이 HugePage 를 사용할 그룹이 누군지를 지정해 줍니다.

HugePage 그룹 지정
INI
1
vm.hugetlb_shm_group = `id -g mysql`

위와같이 리눅스 시스템 사용자의 그룹ID 를 알아내도록 명령어를 입력할 수도 있고 아니면 그냥 그룹ID를 찾아서 적어줘도 됩니다.

x86_64 시스템에서 4MB 크기 HugePageSize 변경 불가.

HugePage 는 Linux 의 기본 메모리 페이지 크기인 4K(4096) 가 아닌 더 큰 페이지를 사용하도록함으로서 잦은 메모리 액세스를 줄여 자원 소모를 줄이게 해준다.

최신의 Linux 는 전부 이것을 지원하며 다음과 같이 확인 할 수 있다.

HugePage 지원 확인
ZSH
1
2
3
4
5
6
7
8
[orion@localhost ~]$ grep Huge /proc/meminfo
AnonHugePages:     96256 kB
ShmemHugePages:        0 kB
HugePages_Total:       0
HugePages_Free:        0
HugePages_Rsvd:        0
HugePages_Surp:        0
Hugepagesize:       2048 kB

기본 메모리 페이지는 Hugepagesize 인 2MB(2048kb) 임을 확인할 수 있다.

그런데, 이 메모리 페이지 크기를 바꿀 수 있지 않을까? 결론부터 말하면 불가능하다.

이 Hugepagesize 는 CPU 지원에 의존한다.

  • 2MB – cpu에 ‘pse’ 가 지원되면 된다.
  • 1G – cpu 가 ‘pdpe1gb’ 가 지원되면 된다.

최신의 CPU 는 위 두가지 ‘pse’, ‘pdpe1gb’ 를 모두 지원한다. 1GB 의 메모리 페이지를 지원한다. 하지만 4MB 의 메모리 페이지를 지원하지 않는다. 그렇다면 왜 이 글을 쓰는가? 이유는 MySQL 문서 때문이다.

shell> cat /proc/meminfo | grep -i huge
HugePages_Total: 0
HugePages_Free: 0
HugePages_Rsvd: 0
HugePages_Surp: 0
Hugepagesize: 4096 kB

https://dev.mysql.com/doc/refman/5.7/en/large-page-support.html

MySQL 문서를 보면 위와 같이 4096Kb 라고 나온다. 하지만 x86_64 시스템에서는 절대로 4096kb 가 될수가 없다. 2MB 아니면 1GB 만 가능하다.

혹시나 해서 이것을 바꾸기 위해서 다음과 같이 부팅 파라메터를 주고 재부팅을 해뒀다.

HugePage 파라메터
INI
1
2
root@ubuntu:/opt/sysbench/bin# cat /proc/cmdline
BOOT_IMAGE=/boot/vmlinuz-4.10.0-19-generic root=UUID=b434e26a-280e-4c48-b8c0-9e3322bac299 ro net.ifnames=0 biosdevname=0 transparent_hugepage=never hugepagesz=4194304 default_hugepagesz=4194304

하지만 부팅 메시지에 다음과 같이 나온다.

dmesg 메시지 출력
Shell
1
2
[    0.000000] Kernel command line: BOOT_IMAGE=/boot/vmlinuz-4.10.0-19-generic root=UUID=b434e26a-280e-4c48-b8c0-9e3322bac299 ro net.ifnames=0 biosdevname=0 transparent_hugepage=never hugepagesz=4194304 default_hugepagesz=4194304
[    0.000000] hugepagesz: Unsupported page size 4 M

지원하지 않는다는 메시지를 보여준다.

결론은 Hugepagesize 는 CPU 에서 지원해줘야 하는 것이며 최신의 x86_64 의 경우 2MB, 1GB 두가지만 지원한다.

Linux PAGE_SIZE 그리고 HugePage

다음의 글이 도움이 될 듯 싶다.

Kernel hugepages does not alter the calculation of SHMMAX, which you need to set large enough to fit your largest Oracle SGA. SHMMAX applies to SYS V shared memory, which can be hugepages or use conventional 4K memory pages. SHMMAX is not relevant when you use /dev/shm POSIX shared memory (Oracle AMM).


The Oracle database requires shared memory for the SGA. This can be Sys V (IPC) or POSIX /dev/shm.


Shared memory and semaphores, and the SHM kernel parameters, belong to System V IPC, which can be monitored using the ipcs command. Sys V shared memory can be configured to be 2 MB kernel hugepages, or use the default 4 KB memory pages. Kernel hugepages can drastically reduce the memory requirements for managing required memory pages and make better use of the TLB buffer.


The SHMMAX parameter is used to define the maximum size (in bytes) for a shared memory segment and should be set large enough for the largest SGA size. If the SHMMAX is set incorrectly, for example too low, you may receive the following error: ORA-27123: unable to attach to shared memory segment.


SHMMAX for a server that runs Oracle database is typically set to 4 TB or whatever the platform being x86 or x64 theoretically supports. The parameter is a safeguard parameter. A process cannot use more shared memory than available. Obviously this is not considered a risk when using a dedicated server for running Oracle database.


POSIX shared memory maps shared memory to files using a virtual shared memory filesystem in RAM. It uses /dev/shm and applies when configuring the Oracle database to use Automatic Memory Management (AMM). An Oracle instance can use either Sys V shared memory including kernel hugepages or /dev/shm for SGA, but not both at the same time. You can however use different shared memory concepts for different Oracle instances on the same server. For example, running an +ASM instance using AMM and another Oracle database instance using ASMM.

https://community.oracle.com/thread/3828422

XFS 마운트 옵션.

XFS 파일 시스템은 요즘에 들어서 많이 사용되는 파일 시스템입니다. SGI 회사에서 개발한 것으로 대용량 파일 시스템으로 특화되어 있습니다. 최근들어 Big Data 가 대두되면서 스토리지 용량이 대용량화 되면서 XFS 가 떠오르는데, CentOS 7 배포판은 기본 파일시스템으로 XFS 가 되었습니다.

XFS 는 옵션들이 많이 있는데, 보통 대용량으로 많이 사용할 경우에 다음과 같은 옵션을 주로 많이 사용합니다.

xfs 마운트 옵션
ZSH
1
/dev/sdb /srv/node/sdb xfs noatime,nodiratime,nobarrier,logbufs=8 0 2

 

Apache 2.4 에서 RemoteIPInternalProxy 의미

Apache 2.4 에서 RemoteIPInternalProxy 는 다음과 같이 사용합니다.

RemoteIPInternalProxy 사용법
Apache
1
RemoteIPInternalProxy 192.0.2.0/24

이 문법을 X-Forwared-For 와 함께 사용하면 다음과 같다.

1
2
RemoteIPInternalProxy 192.0.2.0/24
X-Forwarded-For 198.51.100.1, 198.51.100.2, 192.0.2.1

X-Forwarded-For 는 원격지 주소를 192.0.2.1 이 된다. 그런데 RemoteIPInternalProxy 의 영향으로 인해서 192.0.2.1 은 내부 Proxy 로 지정되었기 때문에 X-Forwarded-For 의 원격지 주소는 198.51.100.2 가 된다.

ps, X-Forwarded-For 는 여러개의 IP를 기록할 수 있다. 만일 여러개를 기록할 경우에 맨 오른쪽에 IP가 최종 원격지 IP 주소가 된다.

UBUNTU 14.04 KVM 게스트에 콘솔 접속하기

KVM 가상화를 사용하고 있고 게스트로 Ubuntu14.04 를 사용하고 있다면 콘솔 접속을 위해서는 다음과 같이 해주어야 한다.

ttyS0 터미널 설정

KVM 게스트인 Ubuntu14.04 에 콘솔로 접속하기 위해서는 게스트 Ubuntu14.04 에 ttyS0 터미널로 접속을 해야 한다. 그런데 Ubuntu 14.04 에는 ttyS0 터미널 설정이 되어 있지 않아 이를 설정을 해야 한다.

/etc/init/ttyS0.conf 파일을 다음과 같이 생성한다.

ttyS0 터미널 설정
ZSH
1
2
3
4
5
6
7
8
9
10
# ttyS0 - getty
#
# This service maintains a getty on ttyS0 from the point the system is
# started until it is shut down again.
 
start on stopped rc RUNLEVEL=[2345]
stop on runlevel [!2345]
 
respawn
exec /sbin/getty -L 115200 ttyS0 xterm

 

그리고 다음과 같이 /etc/securetty 파일에 ttyS0 를 추가 해준다.

/etc/securetty 파일 편집
Vim
1
ttyS0

 

/etc/default/grub 편집

이제 grub 에서 ttyS0 이 콘솔 접속이 되도록 다음과 같이 편접해 준다.

/etc/default/grub 편집
Vim
1
2
3
GRUB_CMDLINE_LINUX_DEFAULT="console=ttyS0"
GRUB_TERMINAL=serial
GRUB_SERIAL_COMMAND="serial --unit=0 --speed=115200 --stop=1"

위와같이 편접을 한 후에 grub 을 다시 시작해 줍니다.

grub2 재설정
ZSH
1
]# update-grub

 

위와같이 설정을 하고 재부팅을 한 후에 KVM 콘솔 접속을 하면 아주 잘 됩니다.

 

KVM에 Bridge Network 설정

CentOS 6 에는 가상화로 KVM만 지원합니다. Xen은 빼버렸습니다. 가상화로 KVM을 하게되면 사용할 수 있게됩니다. 그런데, KVM을 활성화하게 되면 virbr0 라는 가상의 이더넷이 생성이되는데 이것이 NAT로 동작하게 됩니다. 그러니까 KVM의 게스트들은 virbr0 의 NAT를 이용해서 인터넷을 하게 되는 것입니다.

그런데 제가 집에서 사용하는 인터넷 사용환경은 공유기를 이용해서 각 피시에서 private ip 주소를 할당해서 사용합니다. 그래서 KVM의 게스트들도 직접 공유기로 부터 private ip 주소를 할당 받기를 원했습니다. 그렇게 하기위해서는 virbr0 를 NAT를 정지시키고 br0 을 만들어서 eth0와 br0를 Bridged 시키면 됩니다.

이 문서는 이것을 설명한 것입니다.

처음 KVM을 설치해서 보면 다음과 같이 나옵니다. NAT로 동작하고 있다는 증거입니다.

KVM의 NAT 네트워크
ZSH
1
2
3
4
5
6
7
8
9
# ifconfig virbr0
virbr0    Link encap:Ethernet  HWaddr 00:00:00:00:00:00
          inet addr:192.168.122.1  Bcast:192.168.122.255  Mask:255.255.255.0
          inet6 addr: fe80::200:ff:fe00:0/64 Scope:Link
          UP BROADCAST RUNNING MULTICAST  MTU:1500  Metric:1
          RX packets:0 errors:0 dropped:0 overruns:0 frame:0
          TX packets:39 errors:0 dropped:0 overruns:0 carrier:0
          collisions:0 txqueuelen:0
          RX bytes:0 (0.0 b)  TX bytes:7921 (7.7 KiB)

Bridged 로 바꿔보겠습니다. 절차는 다음과 같습니다.

  1. virbr0 를 지웁니다.
  2. eth0 에 dhcp 기능을 지우고 br0 로 Bridged 한다.
  3. br0 만드는데, dhcp 로 아이피를 새로 받도록 한다. TYPE 를 Bridged 로 해준다.

Virbr0 를 지운다. 

버추얼쉘(virsh) 명령어를 이용해 네트워크 리스트를 봅니다.

KVM의 네트워크 리스트.
ZSH
1
2
3
4
# virsh net-list
Name                 State      Autostart
-----------------------------------------
default              active     yes

버추얼 네트워크 이름이 ‘default’로 나오네요. 이것을 지우겠습니다.

eth0 의 dhcp 를 지우고 br0 로 Bridged 한다.

다음과 같이 합니다.

eth0 의 Bridged 설정
ZSH
1
2
3
4
5
6
7
cat > ifcfg-eth0 <
DEVICE=eth0
HWADDR=00:16:76:D6:C9:45
ONBOOT=yes
BRIDGE=br0
NM_CONTROLLED=no
EOF

br0 를 만든다.

다음과 같이 합니다.

br0 를 만든다.
ZSH
1
2
3
4
5
6
7
8
# cat > ifcfg-br0 <
DEVICE=br0
TYPE=Bridge
BOOTPROTO=dhcp
ONBOOT=yes
DELAY=0
NM_CONTROLLED=no
EOF

위과정을 거치면 설정은 끝납니다. 한가지 더 있는데, 리눅스의 NetworkManager 데몬을 꺼주고 network 서비스를 다시 올려줍니다.

네트워크 재시작
ZSH
1
2
3
4
# chkconfig NetworkManager off
# chkconfig network on
# service NetworkManager stop
# service network restart

이제 virt-manager 로 KVM 게스트를 설치할 다음과 같이 이더넷을 설정해 주면 됩니다.

Virt-Manager 에서 Br0 설정

 

Ubuntu 16.04 KVM 게스트에 콘솔 접속하기

KVM 가상화를 사용하고 있고 게스트로 Ubuntu16.04 를 사용하고 있다면 콘솔 접속을 위해서는 Grub2 설정을 다음과 같이 해주면 된다.

/etc/default/grub
INI
1
2
3
4
GRUB_CMDLINE_LINUX_DEFAULT="console=ttyS0"
 
GRUB_TERMINAL=serial
GRUB_SERIAL_COMMAND="serial --unit=0 --speed=115200 --stop=1"

위와같이 해주고 다음과 같이 grub 을 갱신해준다.

grub 갱신
ZSH
1
update-grub