Storage
[Ceph] 롤링 재부팅에도 버티는 CephFS MDS 배치: 노드 5대, 파일시스템 3개, MDS 8개
제 홈랩 Proxmox 노드 5대는 한 달에 두 번씩 정해진 날짜에 하나씩 돌아가며 재부팅됩니다. 그 위에서 CephFS 3개가 Kubernetes 파드들에게 파일을 내주고 있고요. 노드가 하나 내려갈 때마다 그 노드의 MDS(메타데이터 서버)도 같이 내려가니 파일시스템 입장에서는 2~4일마다…
[Ceph] Ceph가 매시간 30~60초씩 응답을 멈춘 이유: 스냅샷 정리(snaptrim)와 mClock
홈랩 Ceph 클러스터가 매시 15분만 되면 30초에서 1분 동안 클라이언트 요청을 처리하지 못했습니다. CephFS 메타데이터 풀도, VM 디스크(RBD) 풀도 같이 막혔고요. 처음 눈치챈 건 Nextcloud가 그 시각마다 “not ready”를 띄워서였지만 Nextcloud는 그냥 휘말린 쪽이었고 문제는 그…
[Proxmox] Proxmox VE의 ZFS 부팅 디스크 교체하기: 데이터 복구와 부팅 복구를 따로 보기
ZFS mirror의 디스크를 교체할 때는 resilver만 끝내면 될까? Proxmox 부팅 디스크의 파티션 복제, GUID 재생성, ESP 설정, 재부팅 검증을 차례로 정리했다.
[Ceph] CRUSH의 가상 host 때문에 Proxmox OSD 관리가 깨진 이유
EC와 mirror OSD를 가상 host로 나눴더니 Proxmox가 존재하지 않는 노드를 찾았습니다. device class 전환안을 100만 개 입력으로 비교하고, 기존 구성을 유지하기로 한 기록입니다.
[Ceph] CephFS 마운트 장애 해결하기: systemd.automount로 부팅과 접근 시점 나누기
network-online만 기다리면 CephFS도 준비될까? 실제 홈랩 설정을 바탕으로 automount, nofail, idle-timeout의 역할과 Kubernetes hostPath에서 확인할 점을 정리했다.
ZFS on Windows로 게임용 VHDX 풀 만들기: zpool 옵션 고르기와 부팅 시 자동 마운트
OpenZFS on Windows를 게임 저장소로 테스트해봤습니다. 물리 디스크를 통째로 주는 대신 VHDX 파일 안에 풀을 만들고 부팅할 때 알아서 붙게 했습니다. 옵션을 고르는 과정과 자동 마운트에서 겪은 삽질을 정리합니다. (HDD에서 ZFS를 쓸 때의 단점은 예전 글…
분산 스토리지 벤치마킹: linstor (drbd) vs ceph
정말 오랜만에 글을 쓰게 되었습니다.회사 업무와 건강 문제로 너무나도 바쁜 나날이 지났습니다. xcp-ng와 linstor (oxstor) proxmox와 xcp-ng를 비교하던 중 xostor라는 분산 스토리지 솔루션에 대해서 알게되었습니다.아직은 베타지만, 공식적으로 지원 예정이라고 하기에 조금 알아봤어요. linxtor의 장점과 단점 조사해본…
ceph 구성기
안녕하세요오랜만에 인사드립니다.최근에 회사 일이 너무 바쁜 나머지.. 제가 한 일들을 잘 기록해내지 못했네요. 제목에서 알 수 있듯이, 이번에는 ceph를 구성해봤습니다이 전에는 gluster를 사용했었는데, 왜 ceph로 바꿨는지 장단점을 비교해보고ceph 구성 과정을 적어보려고 합니다. 이유는 안보시고 바로 구성…
GlusterFS + Docker Swarm: 2편 Swarm
계기 인스턴스에 새롭게 적용하고 싶은 것들이 생겼습니다. Cloudflared와 같은 것이 대표적이죠. Cloudflared를 사용하게 되면서 불필요해진 서비스들이 많습니다. VPN 같은 서비스가 대표적인 예시죠. 그러다보니 OS를 재설치하고 싶었습니다. 그런데 인스턴스를 지우려니 많은 서비스가 중단이 된다는 것을 깨닳았죠. 그래서…
GlusterFS + Docker Swarm & Traefik: 1편 GlusterFS
계기 인스턴스에 새롭게 적용하고 싶은 것들이 생겼습니다. Cloudflared와 같은 것이 대표적이죠. Cloudflared를 사용하게 되면서 불필요해진 서비스들이 많습니다. VPN 같은 서비스가 대표적인 예시죠. 그러다보니 OS를 재설치하고 싶었습니다. 그런데 인스턴스를 지우려니 많은 서비스가 중단이 된다는 것을 깨닳았죠. 그래서…