로컬에서 IBM Cloud IaaS (SoftLayer)로 거대한 파일 전송
소개
IBM Cloud IaaS(이후 SoftLayer)에 한하지 않고, 클라우드 환경에의 거대한 파일 송신은 번거롭지요.
Public Network 경유로 송신 가능한 발판 서버를 만드는 것도 예산적으로 엄격하고, VPN 경유로 Private Newtork로 전송하면 속도가 나오지 않고 VPN Client가 떨어지고 파일 전송이 이상 종료해 버리는 일도.
그런 때의 대응책으로서 IBM Cloud Object Storage(이후 ICOS)를 통한 파일 송신 방법을 소개합니다.
Local-ICOS간은 Public Network로 접속할 수 있고, ICS-SoftLayer도 내부 접속(이라고 생각되기 때문에) 고속으로 파일의 교환을 할 수 있습니다.
개요
대략적으로 다음의 순서로 진행해 갑니다.
1.ICOS 만들기
2.ICOS에 파일 전송
3.SoftLayer 환경에서 ICOS에서 파일 가져오기
절차
1.ICOS 만들기
IBM Cloud 카탈로그 에서 오브젝트 스토리지를 선택하십시오.
원하는 서비스 이름과 계획을 선택합니다.
서비스 자격 증명 → 새 신임 정보를 선택합니다.
액세스 역할을 Manager로 만들고 인라인 구성 매개 변수를 추가하려면 {"HMAC":true}를 입력하고 추가를 선택합니다.
자격 증명 표시를 선택하여 access_key_id 및 secret_access_key를 확인합니다.
2.ICOS에 파일 전송
그리고이 후 S3 API를 통해 ICOS로 파일을 전송하는 방법을 작성할 예정이었습니다. . .
무려 ICOS의 파일 송수신에 Aspera를 사용할 수 있게 되었군요.
검증해 보면, 이 방법 쪽이 훨씬 빨리 파일을 보낼 수 있는 데다, S3 API의 PUT의 5GB 제한이 없기 때문에, Aspera로의 파일 송신을 추천합니다.
8GB 정도의 파일을 송신중의 모습.
아래의 기사가 매우 알기 쉽기 때문에, 그쪽을 참고로 파일을 전송해 주세요.
IBM Cloud Object Storage(ICOS)에 파일 업로드를 Aspera로 가속화!
3.SoftLayer 환경에서 ICOS에서 파일 가져오기
ICOS → SoftLayer의 파일 교환까지 Aspera로 할 수 있으면 이 기사의 의미가 없어져 버립니다만, ICOS로부터의 Aspera로의 다운로드는 유료인 것 같고, S3 CLI 경유로 ICOS의 파일을 입수하는 방법을 소개합니다.
먼저 SoftLayer 환경에 AWS CLI를 배포합니다.
AWS CLI 설치 및 구성
계속해서 ~/.aws/credentials를 다음 내용으로 작성합니다.
XXX... 자격 증명 보기에서 확인한 access_key_id를 입력하고 aws_secret_access_key에 secret_access_key를 입력합니다.
[default]
aws_access_key_id = XXXXXXXXXXXXXXXXXXXXXXXXXX
aws_secret_access_key = YYYYYYYYYYYYYYYYYYYYYYYYYYYYY
계속해서 버킷을 볼 수 있는지 확인합니다. 다음 명령으로 확인할 수 있습니다.
aws --endpoint-url=https:// s3 ls
은 Endpoint에서 확인할 수 있습니다.
이번에는 SoftLayer 환경에서 외부 연결이 없다고 가정하고 개인을 사용합니다.
잡한 버킷 이름이지만,, 표시됩니다.
# aws --endpoint-url=https://s3.us-south.objectstorage.service.networklayer.com s3 ls
2018-03-28 22:29:09 testdsadasdsa
계속해서 버킷의 내용을 확인합니다. 다음 명령으로 확인할 수 있습니다.
aws --endpoint-url=https:// s3 ls s3:///
# aws --endpoint-url=https://s3.us-south.objectstorage.service.networklayer.com s3 ls s3://testdsadasdsa/
2018-03-28 22:38:57 8770697111 xxxxxxx.zip
마지막으로 파일을 ICOS에서 가져옵니다. 다음 명령으로 실행할 수 있습니다. 상당히 속도가 나오네요.
aws --endpoint-url=https:// s3 cp s3:///
# aws --endpoint-url=https://s3.us-south.objectstorage.service.networklayer.com s3 cp s3://testdsadasdsa/xxxxxxx.zip /work
Completed 1.4 GiB/8.2 GiB (54.4 MiB/s) with 1 file(s) remaining
Reference
이 문제에 관하여(로컬에서 IBM Cloud IaaS (SoftLayer)로 거대한 파일 전송), 우리는 이곳에서 더 많은 자료를 발견하고 링크를 클릭하여 보았다
https://qiita.com/hkon/items/7465343f731f6384f8c3
텍스트를 자유롭게 공유하거나 복사할 수 있습니다.하지만 이 문서의 URL은 참조 URL로 남겨 두십시오.
우수한 개발자 콘텐츠 발견에 전념
(Collection and Share based on the CC Protocol.)
대략적으로 다음의 순서로 진행해 갑니다.
1.ICOS 만들기
2.ICOS에 파일 전송
3.SoftLayer 환경에서 ICOS에서 파일 가져오기
절차
1.ICOS 만들기
IBM Cloud 카탈로그 에서 오브젝트 스토리지를 선택하십시오.
원하는 서비스 이름과 계획을 선택합니다.
서비스 자격 증명 → 새 신임 정보를 선택합니다.
액세스 역할을 Manager로 만들고 인라인 구성 매개 변수를 추가하려면 {"HMAC":true}를 입력하고 추가를 선택합니다.
자격 증명 표시를 선택하여 access_key_id 및 secret_access_key를 확인합니다.
2.ICOS에 파일 전송
그리고이 후 S3 API를 통해 ICOS로 파일을 전송하는 방법을 작성할 예정이었습니다. . .
무려 ICOS의 파일 송수신에 Aspera를 사용할 수 있게 되었군요.
검증해 보면, 이 방법 쪽이 훨씬 빨리 파일을 보낼 수 있는 데다, S3 API의 PUT의 5GB 제한이 없기 때문에, Aspera로의 파일 송신을 추천합니다.
8GB 정도의 파일을 송신중의 모습.
아래의 기사가 매우 알기 쉽기 때문에, 그쪽을 참고로 파일을 전송해 주세요.
IBM Cloud Object Storage(ICOS)에 파일 업로드를 Aspera로 가속화!
3.SoftLayer 환경에서 ICOS에서 파일 가져오기
ICOS → SoftLayer의 파일 교환까지 Aspera로 할 수 있으면 이 기사의 의미가 없어져 버립니다만, ICOS로부터의 Aspera로의 다운로드는 유료인 것 같고, S3 CLI 경유로 ICOS의 파일을 입수하는 방법을 소개합니다.
먼저 SoftLayer 환경에 AWS CLI를 배포합니다.
AWS CLI 설치 및 구성
계속해서 ~/.aws/credentials를 다음 내용으로 작성합니다.
XXX... 자격 증명 보기에서 확인한 access_key_id를 입력하고 aws_secret_access_key에 secret_access_key를 입력합니다.
[default]
aws_access_key_id = XXXXXXXXXXXXXXXXXXXXXXXXXX
aws_secret_access_key = YYYYYYYYYYYYYYYYYYYYYYYYYYYYY
계속해서 버킷을 볼 수 있는지 확인합니다. 다음 명령으로 확인할 수 있습니다.
aws --endpoint-url=https:// s3 ls
은 Endpoint에서 확인할 수 있습니다.
이번에는 SoftLayer 환경에서 외부 연결이 없다고 가정하고 개인을 사용합니다.
잡한 버킷 이름이지만,, 표시됩니다.
# aws --endpoint-url=https://s3.us-south.objectstorage.service.networklayer.com s3 ls
2018-03-28 22:29:09 testdsadasdsa
계속해서 버킷의 내용을 확인합니다. 다음 명령으로 확인할 수 있습니다.
aws --endpoint-url=https:// s3 ls s3:///
# aws --endpoint-url=https://s3.us-south.objectstorage.service.networklayer.com s3 ls s3://testdsadasdsa/
2018-03-28 22:38:57 8770697111 xxxxxxx.zip
마지막으로 파일을 ICOS에서 가져옵니다. 다음 명령으로 실행할 수 있습니다. 상당히 속도가 나오네요.
aws --endpoint-url=https:// s3 cp s3:///
# aws --endpoint-url=https://s3.us-south.objectstorage.service.networklayer.com s3 cp s3://testdsadasdsa/xxxxxxx.zip /work
Completed 1.4 GiB/8.2 GiB (54.4 MiB/s) with 1 file(s) remaining
Reference
이 문제에 관하여(로컬에서 IBM Cloud IaaS (SoftLayer)로 거대한 파일 전송), 우리는 이곳에서 더 많은 자료를 발견하고 링크를 클릭하여 보았다
https://qiita.com/hkon/items/7465343f731f6384f8c3
텍스트를 자유롭게 공유하거나 복사할 수 있습니다.하지만 이 문서의 URL은 참조 URL로 남겨 두십시오.
우수한 개발자 콘텐츠 발견에 전념
(Collection and Share based on the CC Protocol.)
[default]
aws_access_key_id = XXXXXXXXXXXXXXXXXXXXXXXXXX
aws_secret_access_key = YYYYYYYYYYYYYYYYYYYYYYYYYYYYY
이번에는 SoftLayer 환경에서 외부 연결이 없다고 가정하고 개인을 사용합니다.
잡한 버킷 이름이지만,, 표시됩니다.
# aws --endpoint-url=https://s3.us-south.objectstorage.service.networklayer.com s3 ls
2018-03-28 22:29:09 testdsadasdsa
계속해서 버킷의 내용을 확인합니다. 다음 명령으로 확인할 수 있습니다.
aws --endpoint-url=https://
# aws --endpoint-url=https://s3.us-south.objectstorage.service.networklayer.com s3 ls s3://testdsadasdsa/
2018-03-28 22:38:57 8770697111 xxxxxxx.zip
마지막으로 파일을 ICOS에서 가져옵니다. 다음 명령으로 실행할 수 있습니다. 상당히 속도가 나오네요.
aws --endpoint-url=https://
# aws --endpoint-url=https://s3.us-south.objectstorage.service.networklayer.com s3 cp s3://testdsadasdsa/xxxxxxx.zip /work
Completed 1.4 GiB/8.2 GiB (54.4 MiB/s) with 1 file(s) remaining
Reference
이 문제에 관하여(로컬에서 IBM Cloud IaaS (SoftLayer)로 거대한 파일 전송), 우리는 이곳에서 더 많은 자료를 발견하고 링크를 클릭하여 보았다 https://qiita.com/hkon/items/7465343f731f6384f8c3텍스트를 자유롭게 공유하거나 복사할 수 있습니다.하지만 이 문서의 URL은 참조 URL로 남겨 두십시오.
우수한 개발자 콘텐츠 발견에 전념 (Collection and Share based on the CC Protocol.)