쎄타랩스(THETA), 연세대학교에 AI 플랫폼 ‘엣지클라우드(EdgeCloud)’ 기반 클라우드 GPU 공급 계약
AI, 미디어 및 엔터테인먼트 블록체인 탈중앙화 클라우드 업체인 미국 실리콘밸리의 쎄타랩스(Theta Labs)는 연세대학교의 데이터 인텔리전스 연구실과 다양한 AI 분야에서의 AI 모델 학습 및 연구를 위한 Theta EdgeCloud를 활용하는 다년 계약을 체결했다고 발표했다.
쎄타랩스의 ‘엣지 클라우드(EdgeCloud)’’는 30,000개 이상의 엣지 노드가 있는 쎄타 엣지 네트워크와 실시간 사용이 가능한 80 페타플롭스(PetaFLOPS) 이상의 분산 GPU 컴퓨팅 리소스를 제공하며, 구글 클라우드 및 아마존 웹 서비스(AWS)를 포함한 클라우드 파트너가 지원하는 최초의 하이브리드 클라우드 엣지 컴퓨팅 AI 플랫폼이다. 이번 파트너십을 통해 Theta EdgeCloud는 학술 연구 분야로의 중요한 시장 진출의 발판을 마련하게 되었다.
연세대학교는 글로벌 교육 순위 기관인 QS(Quacquarelli Symonds)가 선정한 2024 QS 세계 대학 순위에서 대한민국 1위, 아시아 8위를 차지하였고, 연세대학교 인공지능학과의 연구 분야로는 AI, 머신러닝, 데이터 마이닝, 컴퓨터 비전, 자연어 처리, 로봇 공학, 응용 AI 등이 있다.
■쎄타 엣지클라우드의 하이브리드 GPU 리소스 기반 연세대학교 AI 연구 발전에 기여 연세대학교 인공지능학과와 Theta의 협력은 연세대 인공지능학과의 조교수이자 국내 최고 연구 대학중 하나인 포항공과대학교(POSTECH) AI 대학원 겸임 교수인 이동하 교수가 이끌게 되었으며, 이동하 교수의 연구는 대형 언어 모델(LLM)을 위한 지식 향상, 정보 검색, 추천 시스템 및 실제 응용을 위한 데이터 인텔리전스에 중점을 두고 있다. 그는 확장 가능한 머신러닝 시스템 및 강력한 다국어 엔티티 정렬 작업을 포함하여 해당 분야에 중요한 기여를 했으며, 그의 혁신적인 연구는 권위 있는 학회 및 저널에 널리 발표 되었다.
이 파트너십은 한국의 선도적인 AI 연구소 중 하나인 KAIST AI 주재걸 교수의 연구실과 Theta의 최근 다년 계약에 이은 것으로, KAIST와의 헙업은 컴퓨터 비전 및 자연어 처리 등의 연구를 위해 쎄타 엣지클라우드(Theta EdgeCloud)를 활용하는 데 중점을 두고 있다. KAIST AI는 가상 의류 착용을 위한 생성 AI 모델인 StableVITON과 같은 프로젝트 작업을 가속화하기 위해 쎄타랩스의 하이브리드 엣지클라우드(EdgeCloud) 플랫폼을 을 활용중에 있다.
■연세대학교와 쎄타랩스(THETA)의 EdgeCloud기반 추후 연구 협력 연세대학교는 다양한 기계 추론 및 데이터 마이닝 연구, LLM등의 연구를 위해 Theta EdgeCloud 플랫폼을 사용할 계획이다. 이 협력은 연구소의 AI 석/박사과정 학생들이 AI 모델을 손쉽게 학습, Fine-tuning 및 테스트할 수 있도록 진행될 예정이며. 특히, 테이블형 데이터를 기반으로 지식과 통찰을 제공하는 Plug-and-play 테이블 추론기 및 요약기를 구축하는 것을 목표로 한다.
지능형 테이블 추론기는 표의 내용을 정확히 찾아 스스로 질문하고 답변할 수 있으며, 요약기를 위한 설명 가능한 가이드를 제공할 수 있다. 신뢰할 수 있는 테이블 추론기를 훈련하기 위해 팀은 가이드 역할을 하는 대형 언어 모델(LLM)을 세밀한 추론 경로로 유도해 테이블 지식을 수집하고, 다양한 품질 향상 전략을 통해 고품질 지식을 선택적으로 추출하게 된다.
연구실 내 GPU 클러스터를 구축하는 대신 EdgeCloud 플랫폼을 활용함으로써 학생들은 연구에 더 집중할 수 있으며, 쎄타 엣지클라우드 (Theta EdgeCloud)의 경쟁력 있는 가격 (다른 주요 클라우드 GPU 제공업체와 대비) 덕분에 대학 연구 인프라 비용을 크게 절감할 수 있다.
이동하 교수는 "연세대학교 AI 데이터 인텔리전스 연구실과 저는 AI 모델 학습 및 다양한 연구를 위한 쎄타랩스와 파트너십을 맺게 되어 기쁘게 생각한다. 현재, 자체 GPU 인프라의 확장에 따른 비용이 증가하고 있으며, 이를 관리하고 지원하는 데 많은 시간이 소요되고 있다" 라며 "쎄타 엣지클라우드(Theta EdgeCloud)의 하이브리드 GPU 플랫폼이 확장 가능하고 유연해 우리의 요구를 충족시키면서도 다른 클라우드 제공업체에 비해 50% 이하의 비용으로 동일한 서비스 수준과 성능을 제공한다는 것을 알게 되었고, Theta와의 성공적인 장기 다년간 파트너십을 기대하고 있다”고 밝혔다.
쎄타랩스(Theta Labs)의 공동 설립자이자 CEO인 Mitch Liu는 "연세대학교 이동하 교수님과 그의 연구실이 Theta EdgeCloud의 두 번째 학계 고객이 된 것을 환영한다. 한국에 기반을 둔 연세대학교는 세계 최고의 AI 연구 대학 중 하나이다" 며 "Theta EdgeCloud 플랫폼을 활용하여 데이터 인텔리전스 및 다양한 AI 분야에서 그들이 혁신적인 AI 프로젝트를 진행하고 발전할 수 있기를 기대한다"고 말했다.
<저작권자 ⓒ 코인리더스 무단전재 및 재배포 금지>
|
많이 본 기사
|