블로그
Getting Started with the Vector Index Service – Part 1, Getting Started with the Vector Index Service – Part 2를 기반으로 테스트한 내용입니다.
설치할 VM 준비
Install the Private AI Services Container 내용중 Vector Indexing Service을 참조하여 설치합니다.
오라클 블로그에서는 OKE 상의 Pod에서 Object Storage에 있는 파일에 접근하는 방법으로 아래 2가지로 설명하고 있습니다. OKE에서 OCI Object Storage Bucket를 위한 CSI Driver를 아직 제공하지 않습니다. 그렇지만, OCI Object Storage Bucket가 S3 API에 호환되므로 Mountpoint for Amazon S3 CSI Driver를 사용할 수 있습니다. 또는 오라클 리눅스에서 제공하는 OCIFS 유틸리티를 활용하여, OCIFS 설치된 컨테이너 이미지를 initContainer로 사용하여, 파일 패스에 마운트하는 방법입니다. 여기서는 2번째 방법인 OCIFS 유틸리티를 사용하는 방법을 테스트 해보고자 합니다.
커스텀 Time Zone 설정
OCI Console에서 표시되는 시간이 UTC 기준으로 한정되어 있었는데, 이제 표시되는 타임스탬프의 시간대(Time Zone)를 직접 선택할 수 있습니다. 여기에는 리소스 생성 시간, 로그 항목, 이벤트 타임스탬프 등이 포함된다고 합니다.
Getting Started with Private AI Services Container을 기반으로 테스트한 내용입니다.
설치할 VM 준비
- OCI에서 VM을 생성합니다. 블로그와 달리 현재 기본 선택인 Oracle Linux 9를 사용하였습니다.
- Name: privateaivm
- OS: Oracle Linux 9
- Shape: VM.Standard.E5.Flex, 2 OCPU, 24 GB Memory
- Boot volume: 스크립트 설치시 22 GB 필요 경고가 나오니, 기본 100GB로 설치
Boot Volume Resize
-
다음 명령을 실행합니다.
배경설명
OCI Generative AI가 OCI 일부 리전(Generative AI Regions)에서만 서비스되고 있습니다. 국내 리전에는 아직 Generative AI 서비스를 제공하고 있지 않아, 가까운 일본 오사카 리전의 OCI Generative AI 서비스를 사용할 경우, 국내 리전에 있는 서버에서 인터넷을 거치지 않고, 접근할 수 있는 지를 확인해 보고자 합니다.
OML4Py 2.1.1 설치
OML4Py 2.1.1 설치 요구사항
Python 3.13 설치
OCI에서 Windows Server를 사용 중에 opc 유저 패스워드를 잊어 초기화가 필요한 경우, 다음 문서를 참고하여 초기화합니다. Windows Server 인스턴스를 생성한 이후, opc 유저를 기본으로 사용하는 합니다. Administrator를 여전히 한번도 사용하지 않은 경우, Administrator 패스워드를 초기화하고 다시 opc 유저 패스워드를 초기화하는 방법입니다.
OpenAI가 8월 5일에 오픈 웨이트 추론 모델 2가지를 출시 하였습니다. 두 모델을 아래와 같이 설명하고 있습니다.
OpenAI가 8월 5일에 오픈 웨이트 추론 모델 2가지를 출시 하였습니다. 두 모델을 아래와 같이 설명하고 있습니다.
지난 2023년 1월에 오라클 블로그에 올라온 RHEL runs on OCI supported by Oracle and Red Hat 처럼 OCI에서 레드햇 리눅스를 지원합니다. 다만 Bring Your Own Subscription (BYOS) 모델만 지원하기 때문에, 레드햇에서 관련 라이센스 구독을 해야 하며, OCI를 통한 온디맨드 라이선스 취득은 지원하지 않습니다. OCI에서는 인프라에 대한 비용만 지불합니다. 설치 이미지 또한 레드햇 사이트에 다운로드 받아 사용해야 합니다. 그래서 Compute 인스턴스 생성시 OS를 Red Hat으로 선택하면, 아래와 같이 다른 OS 처럼 버전을 선택하는 것이 아닌, 이미지 등록 절차를 따로 설명하고 있습니다.
오라클 블로그 Oracle further reduces your attack surface by requiring multifactor authentication at cloud sign-in 글에서 언급하듯 2023년 연말부터 신규 테넌시에는 MFA를 기본으로 사용하고 있고, 지금은 기존 테넌시에도 적용되어, 이제 모든 테넌시에서 기본으로 사용하고 있습니다. 기본 MFA 인증 도구로 Mobile App과 Fast ID Online (FIDO)를 지원하고 있습니다. 하라고 해서 하긴 해야 겠는데, 어떤 도구를 사용하는 것을 선호하시나요?
Active Directory 설치하기
Window Server VM 만들기
테스트용 Active Directory를 OCI에 설치합니다.
다른 Identity Domain을 인증서버 등록할 수 있습니다. 여기서는 명확한 확인을 위해 2개의 OCI Cloud Account간에 하나가 다른 Cloud Account의 Identity Domain을 인증서버로 등록해서 사용하는 방법을 확인해 봅니다. 기본 생성된 Identity Domain은 동일한 구조로 연동이 간편합니다. 여기서는 Default Domain을 기준으로 합니다.
아래는 dns-manual-mode로 SSL 인증서를 발급하는 방법입니다.
-
프로젝트 클론후 설치합니다.
git clone https://github.com/acmesh-official/acme.sh.git
cd ./acme.sh
./acme.sh --install -m my@example.com
-
재접속하거나, 지금 세션에서 아래 명령을 실행합니다.
Oracle Linux 8에 GUI 환경이 구성되지 않은 경우 3.5.4 Oracle Linux 8 on OCI에 VNC 서버 설정하기을 참조하여 먼저 구성후 진행합니다.
-
설치를 위해 루트 유저로 yum repo를 추가합니다.
다른 글에서 Let’s encrypt로 인증서를 툴을 통해 자동으로 발급받는 내용을 확인했습니다. 여기서는 다른 사람에 SSL Certificate을 발급받은 것을 사용할 때를 가정한 테스트하기 위한 예비단계로 SSL Certificate을 발급 받는 과정을 진행해 보겠습니다. 테스트이므로 무료 인증서를 발급 받을 수 있는 사이트 중에 하나인 SSL For Free을 사용하겠습니다.
OCI Ampere Altra A1
오라클은 2021년 5월부터 Arm 기반의 Ampere A1 Compute Shape을 가상 머신에서 사용할 수 있습니다.
OCI Ampere A1 성능 측정 참고 문서
최근 API Gateway인 Apache APISIX 블로그에서 클라우드 ARM 기반 서버들의 성능을 비교하였습니다. 해당 내용을 기반으로 OCI에서도 최대한 유사한 환경을 구성하여 성능 측정을 한번 해보겠습니다.