원 클릭으로 이든티앤에스의 

다양한 소식을 만나보세요. 

주요기사

SNS Contents

언론보도이든티앤에스, HPE 서버 결합한 ‘웍트로 LLM 시너지’ 출시

사용 목적·용도에 따른 4개 옵션 제공…“IT 인프라 비용 절감 기대”


인공지능(AI) 자동화 솔루션 전문기업 이든티앤에스(대표 김연기)는 HPE의 ‘젠11(GEN11)’ 서버와 자사의 거대언어모델(LLM)인 ‘웍트로 LLM’을 결합한 ‘웍트로 LLM 시너지’를 출시한다고 10일 밝혔다.

웍트로 LLM 시너지는 비즈니스별 특성에 맞게 미세조정(파인튜닝)한 웍트로 LLM 모델을 HPE GEN11 서버에 탑재해 원스탑 공급하는 어플라이언스 제품이다. 사용자는 패키지 구매를 통해 비용 절감은 물론 복잡한 탐색 과정 없이 구축 과정을 간소화할 수 있다.

▲이든티앤에스가 HPE의 젠11 서버와 웍트로 LLM을 결합한 ‘웍트로 LLM 시너지’를 출시한다. (사진=이든티앤에스)


보안이 중요한 기업과 기관에서는 온프레미스 환경에서 AI를 구축하기를 원하는 경우가 많다. 웍트로 LLM 시너지는 하드웨어에 LLM을 직접 설치하는 형태로 제공돼 외부 연결 없이 자체 데이터센터만으로 안전한 AI 구축이 가능하다.


웍트로 LLM 시너지는 언어모델의 규모, 사용 목적 및 용도에 따라 △sLLM(소형언어모델) 추론용 패키지 △LLM 추론용 스탠더드 패키지 △LLM 추론용 엔터프라이즈 패키지 △LLM 전문 학습용 패키지 등 4개의 옵션으로 제공된다.


sLLM 추론용 패키지는 HPE DL360 Gen11을 기반으로 인텔 제온 실버(Intel Xeon Silver) 4410Y 프로세서와 64GB DDR5 메모리를 탑재했다. 또 엔비디아(NVIDIA) L4 24GB PCIe x1 GPU를 장착해 동시접속자 수 50명까지 지원한다.


LLM 추론용 스탠더드 패키지 64GB 메모리와 엔비디아 L40 48GB PCIe x2 GPU를, 엔터프라이즈 패키지는 128GB 메모리와 엔비디아 L40 48GB PCIe x4 GPU를 장착해 최대 200명까지 동시 접속이 가능하다. 두 제품 모두 HPE DL360 Gen11을 기반으로 한다.


LLM 전문 학습용 패키지의 경우 HPE DL380 Gen11과 256GB DDR5 메모리, 엔비디아 H100 NVL 94GB PCIe x4 GPU를 탑재해 최고 수준의 성능을 제공한다.


이든티앤에스 김연기 대표는 “웍트로 LLM 시너지는 많은 기업이 직면한 IT 인프라 구축 비용 절감에 대한 고민을 해결해 줄 것”이라며 “하드웨어와 소프트웨어가 최적화된 통합 제품을 공급함으로써 국내 기업에 새로운 성장 기회를 제공하겠다”고 밝혔다


원문보기 : http://www.itdaily.kr/news/articleView.html?idxno=225011


서울특별시 영등포구 여의도동 국회대로 62길 14

한국스카우트연맹 4층

TEL.02)785-0700 FAX. 02)785-0750 대표이사: 김연기 

사업자등록번호: 113-86-29442 | www.edentns.com

Copyrights EDEN TNS Inc. All Rights Reserved

               

서울특별시 영등포구 여의도동 국회대로 62길 14 한국스카우트연맹 4층

TEL.02)785-0700 FAX. 02)785-0750 대표이사: 김연기 | 사업자등록번호: 113-86-29442 | www.edentns.com

Copyrights EDEN TNS Inc. All Rights Reserved

      

About us     |     Business & Brand     |     Library     |     News     |     Try Contact