스토리지 관리

MASS Dashboard에서 스토리지 자원, 클라이언트 접근 권한, 시스템 상태를 관리합니다. 애플리케이션은 설정된 연결을 통해 스토리지의 데이터를 직접 읽고 씁니다.

스토리지 자원

파일·오브젝트 스토리지의 볼륨 그룹은 볼륨들이 사용할 용량을 제공합니다. 볼륨은 애플리케이션이 데이터를 저장하는 공간으로, 접근 권한과 데이터 보호 설정을 갖습니다.

KV 캐시 스토어는 여러 GPU 서버가 사용하는 공유 캐시입니다. 스토리지 노드, 캐시 페이지 크기, 연결을 허용할 GPU 서버를 지정해 구성합니다. 파일·오브젝트 볼륨과는 별도의 데이터 경로를 사용합니다.

관리자는 Dashboard에서 사용자·머신과 접근 권한을 설정합니다. 클라이언트의 mass-ctl은 인증과 연결 설정을 담당하며, 파일시스템 볼륨을 마운트하거나 GPU 서버를 KV 캐시 스토어에 연결합니다.

GPU 서버를 연결하면 해당 서버의 캐시 소프트웨어가 스토어에 접근할 수 있습니다. 어떤 KV 캐시 페이지를 저장하고 언제 불러올지는 추론 엔진의 연동 기능이 결정합니다.

스토리지 생성·삭제는 백그라운드에서 처리됩니다. 관리자는 Dashboard에 표시되는 상태를 보고 사용 준비가 끝났는지, 조치가 필요한지 확인할 수 있습니다.

이러한 관리 작업은 애플리케이션 I/O와 별도로 처리됩니다. 다만 스토리지 구성이나 접근 권한을 변경하면 이를 사용하는 클라이언트에도 영향이 있을 수 있습니다.

용량·성능·상태 화면에서 사용 현황을 확인하고 성능 변화나 문제의 원인을 살펴볼 수 있습니다. KV 캐시 통계에는 캐시 적중·미스, 페이지 읽기·쓰기, 연결된 서버별 활동이 포함됩니다.

캐시 적중률과 지연 시간을 함께 확인하면 재사용 효과를 판단하는 데 도움이 됩니다. 적중률은 캐시가 얼마나 재사용되는지 보여 주고, 읽기 지연과 애플리케이션 응답 시간은 그 재사용이 추론 성능에 미치는 영향을 보여 줍니다.