2025년도 까지의 데이터 시장의 전망을 살펴보고, 클라우드 상에서 데이터를 효율적으로 다루기 위한 서비스들을 소개합니다 | Explore the prospects for the data market by 2025 and introduce services to efficiently address data in the cloud
1. 클라우드 상에서의
효율적인 데이터 보관 방법
네이버 비즈니스 플랫폼 솔루션 아키텍트 김민형
2020.09.02
N A V E R C L O U D P L A T F O R M
2. 대용량 데이터의 시대
주목할만 한 2025년 데이터 전망
데이터 트렌드
비정형 데이터 보관과 관리의 고민
레거시 데이터 관리 방법
레거시 환경에서의 스토리지 유형
레거시 환경에서의 스토리지 문제점
N A V E R C L O U D P L A T F O RM
Contents
클라우드 상에서 데이터를
효율적으로 다루는 방법
네이버 클라우드 플랫폼의 Cloud Fit 스토리지 & 연계 상품
네이버 클라우드 플랫폼 NAS
네이버 클라우드 플랫폼 Object Storage
네이버 클라우드 플랫폼 Archive Storage
그 외 데이터 저장 서비스
3. 01
N A V E R C L O U D P L A T F O RM
대용량 데이터 시대
4. 2025년 전 세계 데이터 규모는 175 ZB
주목할만 한 2025년 데이터 전망
향후 7년 동안, 스토리지 업계는
42제타바이트 용량을 출하할 것으로 추측
90제타바이트는 IoT 디바이스에서 생성
49%의 데이터는 퍼블릭 클라우드 환경에 저장
생성된 데이터의 30%는 실시간으로 소비
IDC의 데이터 에이지 2025(Data Age 2025) 백서에 따르자면, 2025년까지의 데이터 전망은 아래와 같습니다
0
20
40
60
80
100
120
140
160
180
200
2018 2019 2020 2021 2022 2023 2024 2025
글로벌 데이터 규모 성장 지표
※ 출처: IDC Setagate DataAge Whitepaper
5. 데이터 트렌드
데이터의 흐름은 Cloud Core 로 집중되고 있으며, 대부분의 데이터의 형태는 비정형적인 구조를 가집니다
대부분의 데이터는 ENDPOINT 에서 생성되어
EDGE 를 통해 CORE 로 집결
다양한 Edge 에서 유입되는
다양한 형태의 데이터
비정형 데이터의
비중이 대다수
정형 데이터
관계형 DB처럼 스키마 형식으로 규격화된 데이터
형태가 정해져 있으며, 연삭 작업이 가능
비정형 데이터
구조가 일정하지 않고, 규격화된 데이터 필드에 저장되지 않는 데이터
연삭 작업이 불가능
80%
비정형 데이터
20%
정형 데이터
Core
프라이빗, 퍼블릭 클라우드를 포함하는
대규모 데이터센터를 의미
6. 비정형 데이터 보관과 관리의 고민
점점 더 늘어나는 비정형 데이터, 어떻게 보관하고 관리해야 효율적일까요?
클라우드의 빠른 확산과 디지털 혁신 가속으로 폭증하는 데이터
비효율적인 운영체계 운영 및 관리 비용 증가 데이터 보안 필요성
업무 효율성 관점
- 저장장치 인프라의 복잡도 증가
- 일관된 데이터 라이프 사이클
관리 필요
- 중복 저장되는 데이터 관리 필요
비용 효율성 관점
- 데이터 운영, 보호, 관리 비용 증가
- 관련 인프라 복잡도 증가
- 운영 효율성 저하로 운영 비용 증
가
보안 안정성 관점
- 데이터의 접근 권한 관리, Audit
- 악의적 데이터 변조 /삭제 위험성
- 바이러스 감염 위험 노출
7. 02
N A V E R C L O U D P L A T F O RM
레거시 데이터 관리 방법
8. 레거시 환경에서의 스토리지 유형
기존 레거시 환경에서는 데이터 저장을 위해 파일 기반 스토리지와 데이터베이스를 사용하였습니다
파일 스토리지
데이터베이스
블록 스토리지
서버가 관리 주체가 되는 종속형 스토리지
- 정해진 블록 안에 데이터를 저장하는 방식이며, LUN 을 할당
- 빠른 속도와 안정성을 위해 설계된 스토리지
- 대표적인 블록 스토리지로는 SAN (Storage Area Network) 가 있다
공유가 가능한 계층형 저장 스토리지
- 네트워크 상의 다른 기기들에게 파일 기반 데이터 저장 서비스를 제공
- 스토리지의 파일을 여러 클라이언트 서버에게 공유할 수 있다
- 대표적인 파일 스토리지로는 NAS (Network Attached Storage) 가 있다
구조화된 데이터들의 집합
- 자기 기술성이 있어 데이터의 삽입 및 삭제가 데이터/구조적 종속 없이 가능하다
- 보통 DBMS 와 함께 사용되며, 일반적으로 미들웨어를 통해 관리된다
- 대표적인 데이터베이스로는 관계형 데이터베이스인 MySQL, MSSQL 등이 있다
9. 레거시 환경에서의 스토리지 문제점
레거시 환경에서의 스토리지들은 “고립” 된 상태에서만 데이터를 관리할 수 있으며, 용량 증설에 제한이 발생합니다
블록 스토리지
파일 스토리지
Shared-Server
Attached Storage
Networked
File Servers
Network-Attached
Storage
iSCSi SAN
FC SAN
여러 서버 간 동일 스토리지 공유는 가능 해졌으나,
같은 IP 대역 에 있는 서버 들만 연결할 수 있다
NAS 장비 1대에 꽃을 수 있는 Disk 용량이 한정되어있으며,
증설 작업 시 Offline -> Online 작업이 필요
안정성은 높으나,
서버 1대에 연결할 수 있는 장비 대수가 한정적
이로인해 용량 증설에 한계가 발생하며,
여러 서버가 하나의 스토리지를 공유할 수 없음
10. 레거시 환경에서의 스토리지 문제점
레거시 스토리지들의 한계를 돌파하며, 클라우드 환경에 맞는 새로운 스토리지가 필요해졌습니다
확장성
개방성
보안성
비용 효율
네트워크 대역에 종속되지 않으며,
동시에 접근 제어 설정이
가능할 순 없을까?
클라우드 환경에서
용량 걱정 없이 마음껏 쓰면서
증설 작업을 없앨 순 없을까?
최소 테라바이트~페타바이트 데이터를
저렴한 비용에 효율적으로
보관 방법은 없을까?
개방성, 보안성, 확장성 그리고 비용 효율성을 가진 Cloud-Fit 한 스토리지가 필요
11. 03
N A V E R C L O U D P L A T F O RM
클라우드 상에서
데이터를
효율적으로 다루는 방법
12. 네이버 클라우드 플랫폼의 Cloud Fit 스토리지 & 연계 상품
개방성, 보안성, 확장성, 그리고 비용 효율성을 갖춘 네이버 클라우드 플랫폼의 스토리지와 연동 상품을 소개합니다
Archive Storage
Cold 데이터를 저렴하게 저장
라이프사이클 설정 가능
CDN+
콘텐츠를 빠르고 안전하게 전달
Object Storage와 연동 가능
NAS
클라우드/온프렘 모두 사용 가능
10TB 까지 확장 가능
증설 작업이 필요 없음
Cloud Functions
서버리스 기반으로 동작
온디맨드-실행으로 비용 절감
Object Storage와 연동 가능
Object Storage
인터넷 상에서 데이터 저장
무한한 확장성
강력한 보안 인증 관리
13. 네이버 클라우드 플랫폼 NAS
온프레미스 NAS의 한계점을 뛰어넘는 네이버 클라우드 플랫폼 NAS 상품
NAS
다수의 서버가 함께 사용하는 네트워크 저장 공간
• 최소 500GB 부터 최대 10TB 까지 생성 가능
• 볼륨 용량과 생성 대수에 제한이 없음
• ACL 설정을 통해 보안 설정이 가능
온프레미스 NAS와 무엇이 다른가요?
1. 증설이 필요할 때마다
디스크 슬롯 걱정을 하지 않아도 됩니다
2. 컨트롤러 및 디스크 어레이가
자체적으로 이중화 되어있습니다
3. 장비 딜리버리를 기다리지 않고,
필요한 만큼만 바로바로,
증설하여 사용할 수 있습니다.
신속하게, 사용하는 용량 만큼만 지불합니다
4. 스냅샷 기능을 함께 제공합니다.
5. 모니터링 및 이벤트 설정이 간편합니다.
14. 네이버 클라우드 플랫폼 Object Storage
Zeta Byte 시대의 비정형 데이터 관리, Object Storage 에서 해결책을 찾으세요
• 용량 제한은 없다, 무제한 확장 스토리지
(단, 단일 파일의 크기는 최대 5TB)
• 안정성을 한층 높혀주는 자체 replica 생성
• 강력한 개방성, 언제 어디서나 누구나 접근 가능
Object Storage
어떤 종류의 데이터든지 언제 어디서나 데이터를
저장하고 확인할 수 있는 객체 스토리지
• 읽기/쓰기 및 특정 사용자, ACL 설정을 통해 보안 UP !
• 다양한 상품과의 연동을 통해 비정형 데이터를 한곳에 !
• S3 SDK Library 호환 지원
• 데이터 수명주기를 자동으로 관리 (w/ Archive Storage)
15. Object Storage 기술
• 모든 데이터를 Object 단위로 저장
• 데이터를 구획 단위로 저장하거나, 계층적으로 저장하지 않음
• 범용 서버 클러스터를 기반으로 하며, Erasure Coding 기술을 활용하여 가용성과 비용 효율성을 동시에 제공
기존 레거시 스토리지와는 전혀 다른 접근방식입니다
16. Object Storage 사용법
❶. 백업 저장소
Archive Storage
Object
Storage
서버의 백업 저장소로 사용해보세요!
AWS S3 에서 제공하는 CLI를 그대로 사용하여
쉽고 빠르게, 용량 걱정 없이 저장이 가능하며,
비용도 절감할 수 있습니다.
백업 데이터를 저장할 공간 선정
aws cli 사용을 위한 패키지 설치
Access Key, Secret Key 발급 및 설정
Object Storage 버킷 생성
End point를 NCP로 잡고,
데이터 copy 스크립트 작성
네이버클라우드플랫폼
홈페이지에서
계정 별 생성이 가능합니다
End Point는 다음과 같습니다:
리전명.objectstorage.ncloud.com
서버 내에서
디렉터리를 생성하거나, 지정합니다
기본 aws cli를 설치합니다
서버에서 복사해온 데이터를
보관할 버킷을 생성합니다
17. Object Storage 사용법
❶. 백업 저장소 - Example
#!/bin/bash
DATE='date +”%Y%m%d”'
rm -rf /backup/*
/usr/bin/mysqldump -u root ncloud > /backup/db_bakup_${DATE}.sql
1. mysql 덤프 파일을 백업용으로 만든 디렉터리에 생성되도록 설정
[root@master-data ~]# pip install awscli==1.15.85in
2. awscli 를 설치
[root@master-data ~]# aws configure
3. aws congifure 명령어를 쳐서 API 인증키를 입력
aws --endpoint-url=http://kr.objectstorage.ncloud.com s3 cp /backup/* s3://dbbackup/
4. 위 bash 파일에 아래 한 줄을 추가
오늘 날짜를 DATE 변수에 받아와,
생성되는 backup 파일의 접미사로 붙입니다
해당 예시는 pip 을 통해
Awscli를 다운로드 하는 과정입니다
(파이썬 설치 선 필요)
먼저 사용하시는 NCP 계정에서
API 인증키를 사전에 생성해줍니다
KR 리전에 생성된 Object Storage의
dbbackup 버킷에 저장하는 예시입니다
18. Object Storage 사용법
❷. WebApp 서비스 구축
Archive Storage
Object
Storage
WebApp 서비스 구축에 사용해보세요!
Object Storage를 CDN+ 상품과 결합하면
전국/전세계 어디든지 빠르게 대응할 수 있는
Web Application 구축이 가능합니다.
데이터를 Object Storage에 저장
CDN+ 서비스 생성
CDN+ 서비스를
Object Storage에 결합
Web 서버에 접속하여
CDN+ 을 통해 데이터를 받도록 설정
CDN 서비스 생성 시,
원본 위치를
Object Storage로 설정합니다
WebApp에서 제공중인
Static data를
Object Storage 에 저장합니다
CDN을 사용하면
원거리에 빠른 속도로
데이터를 전송할 수 있습니다
WebApp에서 서비스하던
이미지 등의 데이터 부분을
CDN에서 받아가도록 설정합니다
19. Object Storage 사용법
❷. WebApp 서비스 구축 - Example
2. CDN 서비스 생성 시 원본 위치를 Object Storage 버킷으로 선택
[root@master-data ~]# aws --endpoint-url=https://kr.object.ncloudstorage.com
s3 cp <local_file_path> s3://<bucket_name>[/<object_name>]
1. 데이터를 Object Storage 버킷에 업로드
3. 서버 상에서 CDN 서비스를 통해 데이터를 받아오도록 설정 변경
<img src='http:// <cdn_name>.cdn.ncloud.com/logo1.jpg' title=‘test’alt=''/>
<img src='logo1.jpg' title=‘test’ alt=''/>
20. Object Storage 사용법
❸. 제공되는 SDK를 이용하여 WebApp 서비스를 간편하게 구축
제공되는 SDK를 사용하시면,
탄력성과 확장성을 가진
WebApp 을 구축 할 수 있습니다!
사용자 가이드에서 제공되고 있는 Java, Python, Javascript 뿐만 아니라,
AWS S3에서 제공하는 SDK는 네이버 클라우드 플랫폼 제품과 호환하여
사용이 가능합니다
SDK를 사용하시면, 업로드/다운로드 같은 작업을 간편하게 할 수 있으며,
에러 처리에 용이하기 때문에,
개발 자체에만 집중할 수 있습니다
SDK 다운로드 (GitHub)
네이버클라우드플랫폼 인증키 생성
소스코드에 인증키 정보 입력,
SDK 활용
21. Object Storage 사용법
❸. 제공되는 SDK를 이용하여 WebApp 서비스를 간편하게 구축 - Example
https://github.com/aws/aws-sdk-java/tree/master/aws-java-sdk-s3
1. GitHub에서 원하는 언어의 S3 SDK 소스를 다운로드
final String endPoint = "https://kr.object.ncloudstorage.com";
final String regionName = "kr-standard";
final String accessKey = "ACCESS_KEY";
final String secretKey = "SECRET_KEY";
final AmazonS3 s3 = AmazonS3ClientBuilder.standard()
.withEndpointConfiguration(new AwsClientBuilder.EndpointConfiguration(endPoint, regionName))
.withCredentials(new AWSStaticCredentialsProvider(new BasicAWSCredentials(accessKey, secretKey)))
.build();
2. 소스코드에 네이버 클라우드 플랫폼 API 인증키 정보 추가 및 s3 객체 생성
해당 예시의 경우,
Java SDK 를 사용하고 있습니다
해당 예시의 경우 KR 리전에 있는 Object Storage와 관련된 작업을 하기 위한 사전 준비를 보여줍니다
원하시는 지역이 다른 경우 endPoint와 regionName을 변경해주시면 됩니다
accessKey 및 secretKey는 본인 계정의 API 인증 키를 넣어줍니다
22. Object Storage 사용법
❸. 제공되는 SDK를 이용하여 WebApp 서비스를 간편하게 구축 - Example
String bucketName = "sample-bucket";
try {
// create bucket if the bucket name does not exist
if (s3.doesBucketExistV2(bucketName)) {
System.out.format("Bucket %s already exists.n", bucketName);
} else {
s3.createBucket(bucketName);
System.out.format("Bucket %s has been created.n", bucketName);
}
} catch (AmazonS3Exception e) {
e.printStackTrace();
} catch(SdkClientException e) {
e.printStackTrace();
}
3. 이제 SDK를 활용하여 네이버 클라우드 플랫폼 Object Storage와 관련된 작업을 진행합니다
해당 예시의 경우,
버킷 생성을 하는 과정을 보여줍니다
23. Object Storage 사용법
❹. 서버리스 및 다양한 서비스와의 연동
Cloud FunctionsAPI Gateway Object Storage
서버리스와 결합한 사용도 가능하며
미디어, CI/CD, 그리고 분석용 서비스와도 연동이 가능합니다!
Media Dev Tools Analytics
NOSQL DB
24. Object Storage 사용법
❺. 안전한 데이터 보관은 필수
데이터 접근및 보관에 있어 보안은 필수 입니다!
Object Storage의 자체 접근 권한 기능과 Sub Account 서비스를 함께 사용한다면,
외부 접근으로부터의 안전은 물론이며, 고객 계정의 리소스 보호도 가능합니다
고객 계정이 관리하는 특정
계정에만 접근 권한 부여 가능
API 접근 제어도 각 계정마다
권한 부여가 가능
인터넷 공개 여부를 버킷/파일
별로 설정 가능
Sub Account에 조회/업로드/
ACL 조회/ACL 수정 권한을
별도로 부여 가능
Sub Account 서비스 신청/생성
오브젝트 스토리지 버킷 생성 및
파일 업로드
오브젝트 스토리지의
인터넷 공개여부 설정
오브젝트 스토리지의
특정 버킷/파일에 Sub Account 권한 설정
25. 네이버 클라우드 플랫폼 Archive Storage
Cold Data는 비용 효율적인 Archive Storage에 저장하세요
• 네이버의 인프라 노하우로 설계된 높은 내구성
• 아카이브 용도니까! 보관 비용이 가장 저렴합니다
• 아카이빙 용도지만 빠른 속도로 데이터 다운로드
( 수분 내로 다운로드 가능 ≠ AWS Glacier(n시간) )
• 웹 콘솔, API 모두 사용이 가능
• 데이터 전송 시 SSL을 지원, 안전하게 전달
• 네이버의 보안 노하우가 담긴 보안 장비 구성
Archive Storage
데이터 아카이빙 및 장기 백업에
최적화된 스토리지
26. Archive Storage 사용법
❶. LifeCycle Management 활용한 효율적 데이터 보관
데이터의 수명주기를 자동으로 관리하세요
Object Storage에서 사용 중인 데이터를
특정 기간이 지나면 삭제하도록 설정이 가능합니다
데이터의 사용은 빈번하지 않지만 정책상 데이터 보관이 필요한 경우,
특정 주기가 지나면 Archive Storage로 옮겨보세요!
데이터 보관 비용은 저렴해지고, 나의 데이터도 안전하게 보관할 수 있습니다
정책 유형을 이관 후 삭제로 설정하면
원하는 데이터들을 Archive Storage로 이관 후,
특정 일이 지나면 삭제되도록 설정이 가능합니다
정책 유형을 이관으로 설정하면
원하는 데이터들을 Archive Storage로
이관할 수 있습니다
데이터는 접두사/폴더 별로 그룹핑하여
설정이 가능합니다
27. 그 외 데이터 저장 서비스
이외에도 다양한 네이버 클라우드 플랫폼의 Cloud-Fit 한 데이터 저장 서비스들을 경험해보세요!
Data Telepoter Backup
어플라이언스 1대 당 Usable 100TB 지원
1Gbps, 10Gbps, 40Gbps 등 다양한 이더넷 속도 지원
SFP+, QSFP 등의 다양한 네트워크 인터페이스를 지원
고객이 신청한 암호화 키로 256비트 암호화되어 저장
기술 지원이 필요한 경우 엔지니어 지원(*별도비용 청구)
온프레미스에서 클라우드로
데이터 이전을 빠르게 하고 싶다면?
중요한 데이터의 손실을
최소화 하고 싶다면?
다양한 OS와 데이터베이스 온라인 백업 지원
데일리 리포트를 제공
설치 스크립트 구동으로 간편한 설정이 가능
최소 1주 ~ 최대 26주 보관이 가능
백업 솔루션 내 별도의 방화벽으로 강력한 보안 제공