이전 포스트
Python 기술
여러 python 책에 나왔던 기술들을 정리
엄청난 규모의 데이터 센터를 보면서.. 저게 정말 일반 직원들도 누구나 쉽게 연구하고 활용할 수 있으면 막강하겠는데? 라는 생각이 들었습니다.
AWS, Azure, GCP등 글로벌 3사 뿐만 아니라 국내 클라우드도 공공(?)이라는 타이틀로 여기까지 지속 성장할려고 노력하는 점에서 박수를 보냅니다.
사실 HW 중심의 이야기는 큰 관심이 없는데.. 테슬라가 마음 먹고 122일만에 10만장의 h100을 준비한다는 저력과 집중력에 그저 놀라울 따름입니다.
영상 통화에 AI를 접목한거 같음. (실시간 번역, 음성/비디오 인식, AI 영상 변환, AR 적용 등)
개인적으로 대 AI 시대가 열려서 세상이 크게 변한 마늨ㅁ edge cloud 도 본격 확산되면 세상을 한번 더 변화할거라 봅니다. IoT 가 세상에 등장한지 좀 시간이 지났지만.. 솔직히 제대로 된 IoT는 아니였으니깐요. 자동차, 공장, 빌딩, 휴대용 기기등.. 모든 사물간의 데이터가 클라우드를 통해 연결되고 여기에 AI 기반의 서비스가 등장하면.. 정말 어마어마한 미래가 될텐데.. 하루 빨리 맞이하고 싶습니다.
nvidia의 독점적인 GPU 시장을 하루 빨리 꺠부셔서.. 이런 칩들이 가정용 가격대까지 떨어져서 집에서도 쓸 수 있는 세상이 열리면 참 좋을거 같아요!
Ceph를 저도 직접 구축하고 사용해본 경험이 별로 없습니다만.. (구축할 관련 인프라도 많지 않음). 조만간 인프라 구축을 할 일이 생기는데 한번 시도를 해봐야하나? 라는 생각이 듭니다. 유지보수 편의성으로 NFS 기반으로만 Storage Class를 구성했었는데.. 앞서 1일차에 나왔던 JuiceFS랑 함께 검토해보면 좋을것 같네요
AI가 다양한 산업에서 중요한 역할을 하면서, 클라우드 네이티브 개발의 원칙인 확장성, 유연성, 자동화가 AI 인프라에도 적용되고 있음
https://www.cncf.io/reports/cloud-native-artificial-intelligence-whitepaper/
기존 cloud native의 원칙으로 ai로 확장한 것
클라우드 기술과 AI 기술 통해 더 쉽고 효율적으로 빠르게 배포
대표적인 예
ai 모델이 가진 도전들
추천 도구
cloud native ai landscape
이번 행사 참여자들을 위한 cncf 쿠폰; https://docs.google.com/forms/d/e/1FAIpQLScCMJP8DMjqCtgA90sa5hp4B-YQYdA1xopKfX9IDffNQc0_Zg/viewform
이 도전을 이기기 위해서는..
통합 플랫폼의 핵심 사항
labup 만든 backend.AI 플랫폼(오픈소스 & 엔터프라이즈 버전 모두 있음)
GPU 클러스터링부터 학습, 배포, 운영을 위한 통합 AI 플랫폼
2017년 Sorna -> Backend.AI로 오픈소스로 전환.
GPU 성능 최적화를 위한 스케쥴링 정책 적용, GPU 가상화 지원
공식 오픈 소스 : https://github.com/lablup/backend.ai
미래 전망과 발전
KT는 Backend.AI 플랫폼을 기반으로 이렇게 클라우드를 구성했음
기업 홍보가 강한 세션이긴 했지만.. 그래도 제가 혹했던건 lavup사에서 자신들의 backend.ai 플랫폼이 오픈소스이기 떄문에 누구나 설치 가능하다. 집에서 GPU 서버 운영한다면 한번 도전해보시라~ 라고 하시길래 한번 도전해보고 싶은 욕구가 생기더군요. 쓸만하면 부서 전용 Workstation애도 한번 깔아보는걸 생각중입니다.
캐나다의 오프스택 기반의 클라우드 기업 vexxhost에서 만든 오픈소스 도구입니다. Atmosphere 라는 도구를 이번에 처음 듣게 되었는데.. openstack을 중점적으로 쓰는 회사에서 만든 도구인만큼 유용할것 같긴한데.. 제가 오픈스택을 써보질 않아서 얼만큼 유용하고 좋은 도구인지는 모르겠습니다. 기회가 되면 오픈스택 인프라를 만나게 되면.. 그때 한번 더 관심을 갖고 써볼까 생각이 드는군요
처음에 기업 소개를 하는 자리가 아니라면서.. 결국은 기업 소개 위주로 진행되서.. 괜히 들었나? 후회가 되긴 했습니다만.. 그래도 Cloud Native를 위한 솔루션을 파는 회사의 제대로된 상업적인 솔루션의 아키텍처를 보는것으로 이 세션을 만족하였습니다. 물론 우리 회사에 도입될 가능성은 1도 없지만.. 그리고 OKESTRO라는 기업을 이번에 처음 알게 되었는데 대한민국 정부 클라우드 표준인 ‘전자정부 클라우드 플랫폼’ 아키텍처를 설계하고 개발한 클라우드 소프트웨어 기업이라고 하네요.
사내의 많은 폐쇄망에서 엣지 컴퓨팅이 활용되면 좋을거 같다는 생각이 듭니다. 데이터 보안 측면에서도 좋고, 시스템 가용성도 확보될것이며, 중앙 관리식이라 IT 관리 측면에서도 매우 유리할텐데요. 지금 사내에서 이런쪽으로 연구하고 도입을 검토하고 있는 조직이 있을지 모르겠지만.. 언젠가 제대로 도입이 되면 꼭 관련 자료를 보고 싶네요!! (통신사 세계에서는 이미 수많은 기지국과 외부 설치 장비 관리를 위해 적극 도입되고 있다고 하네요)
사내에는 오픈스택 안쓰는게 못쓰는거 아냐? 라고 생각이 들어 좀 더 찾아보니 kubeedge라는게 있더군요. kubesphere에도 내장되어 있던데.. 이것도 제대로 써볼 날이 오겠죠?
사실 이번 세미나 내내 IT Infra / 클라우드 중심이라.. 처음 접하는 기업, 기술들이 많았는데 드디어 반가운 GitHub 주제가 나와 듣게 되었습니다. 사실 이 세션이 Openinfra & OCP에 왜 나오지? 하는 세션이기도 했는데 어쩃건 저도 github 중심의 CI/CD 및 IaC 적용을 검토했을 떄, Secret 관리를 어떻게 효율적으로 해야 할까? 고민을 했는데 도움이 되었습니다. 사내에 vault 도입을 할 수 없지만, 대안이 되는 오픈소스 도구들이 있는만큼 이것도 한번 PoC를 보면 어떨까 생각이 들더군요.