개방형 AI 시스템을 통한 개인의 역량 강화
2024년 7월 17일 라운드테이블에서 인텔, 국제 올림픽 위원회(IOC), 시커(Seeker), 레드햇(Red Hat)의 대표들은 개방형 AI 에코시스템이 인공 지능 붐으로 인해 야기된 문제를 해결하는 개발자와 기업에 어떻게 힘을 실어주는지에 대해 논의했습니다. 인텔 데이터 센터 및 AI 그룹 총괄 부사장 겸 총괄 책임자인 저스틴 호타드(Justin Hotard)가 사회를 맡은 이 행사의 참가자는 국제 올림픽 위원회의 선수 부서 책임자인 Kaveh Mehrabi였습니다. Steven Huels, 레드햇의 비즈니스, 제품, 전략 부문 부사장 겸 총괄 책임자; Rob Clark, 시커의 사장 겸 최고 기술 책임자; Bill Pearson, 인텔 데이터 센터 및 AI 그룹의 소프트웨어 솔루션 및 에코시스템 담당 부사장. (인텔 제공)
새로운 소식: 인텔은 국제 올림픽 위원회(IOC)와의 생성형 AI(GenAI) 검색 증강 생성(retrieval-augmented generation, RAG) 솔루션 관련한 협력 내용을 발표했다. 이번 발표는 인텔® 가우디® AI 가속기(Intel® Gaudi® AI accelerators)와 인텔® 제온® 프로세서(Intel® Xeon® processors)를 활용한 개방형 AI 시스템 및 플랫폼으로 개발자와 기업이 당면한 과제를 어떻게 효과적으로 해결할 수 있는지에 대한 방법을 제시하고 있다.
"IOC와의 파트너십을 통해 인텔이 AI 접근성을 높이기 위해 어떤 노력을 하고 있는지 확인할 수 있다. 인텔은 혁신과 창의성을 장려하며, 가시적인 결과를 끌어내는 맞춤형 AI 솔루션을 구축할 수 있도록 개방된 경쟁의 장을 조성하고 있다. 인텔은 개방형 협력 생태계를 수용함으로써, 선수들을 지원하는 방법을 혁신하고 고객과 함께 새로운 가능성을 열어가고 있다."
–인텔 데이터센터 및 AI(DCAI) 그룹 총괄인 저스틴 호타드(Justin Hotard) 수석 부사장
애슬리트365(Athlete365) 플랫폼 챗봇: 올림픽 기간 동안 다양한 언어와 문화를 가진 약 11,000명의 선수가 경기장을 탐색하고 규칙과 지침을 준수할 수 있도록 지원하기 위해 IOC는 인텔과 협력하여 ‘애슬리트365(Athlete365)’ 플랫폼 상의 애슬리트GPT(AthleteGPT) 챗봇을 공동 개발했다. 애슬리트GPT(AthleteGPT)는 인텔 가우디 가속기와 제온 프로세서로 구동되는 RAG 솔루션으로, 선수의 문의에 응답하고 소통하며, 파리 올림픽 선수촌에 머무는 동안 훈련과 경기에 집중할 수 있도록 실시간으로 필요한 정보를 제공할 예정이다.
중요한 이유: 생성형 AI 솔루션을 배포하는 데 있어 비용, 규모, 정확성, 개발 요구 사항, 개인정보 보호 및 보안과 같은 과제를 해결하는 것이 필수적이다. RAG는 기업이 내부 데이터를 안전하게 활용하여 AI 결과물의 적시성과 신뢰성을 높일 수 있기 때문에 중요한 생성형 AI 워크로드다. 이는 현대의 데이터 중심 환경에서 중요한 AI 애플리케이션의 품질과 유용성을 향상시킨다.
인텔의 협업 접근 방식은 AI 플랫폼, 개방형 표준, 견고한 소프트웨어 및 시스템 생태계를 활용한다. 이를 통해 개발자는 각 기업의 요구에 맞는 맞춤형 RAG 기반 생성형 AI 솔루션을 구축할 수 있다. 이번 발표에서 공유한 모멘텀은 인텔이 개방형, 다양한 공급업체, 생성형 AI 솔루션을 제공하기 위한 노력을 보여준다.
GenAI RAG 솔루션 아키텍처 작동 방식: 인텔은 업계 협력사와의 협업을 통해 RAG를 간편하게 배포하기 위한 상호 운용 가능한 오픈소스 솔루션을 개발하고 있다. 생성형 AI 솔루션은 엔터프라이즈 AI용 오픈플랫폼(Open Platform for Enterprise AI, OPEA) 기반에 구축된 업계 중심의 즉시 사용 가능한 RAG 솔루션이다. 생성형 AI 턴키 솔루션은 데이터센터에 엔터프라이즈용 RAG 솔루션을 배포하는 간소화된 접근 방식을 제공한다.또한, 여러 OEM 시스템 및 업계 협력사의 제품 카탈로그에서 구성 요소를 통합하여 매우 유연하고 맞춤화할 수 있도록 설계되었다.
생성형 AI 턴키 솔루션은 제온 및 가우디 AI 시스템을 배포하도록 설계된 확장 가능한 RAG 솔루션에 OPEA 기반 마이크로서비스 구성 요소를 통합한다. 해당 솔루션은 쿠버네티스(Kubernetes) 및 레드햇 오픈시프트(RedHat OpenShift)와 같은 검증된 오케스트레이션 프레임워크와 원활하게 확장되며, 보안 및 시스템 텔레메트리(system telemetry)와 함께 표준화된 API를 제공한다.
- 독점 장벽 없는 개방형 소프트웨어 스택: 대부분의 대형언어모델(LLM) 개발은 인텔 가우디와 인텔 제온에서 지원하는 프레임워크 파이토치(PyTorch)를 기반으로 하여 인텔 AI 시스템 또는 플랫폼에서 쉽게 개발할 수 있다. 인텔은 OPEA와 협력하여 생성형 AI 턴키 솔루션에 최적화된 RAG 및 LLM 배포를 위한 개방형 소프트웨어 스택을 개발했으며, 파이토치, 허깅 페이스(Hugging Face) 서빙 라이브러리(TGI 및 TEI), 랭체인(LangChain) 및 레디스 벡터(Redis Vector) 데이터베이스로 구축되었다.
- 개발자들이 편리하게 지원: OPEA는 다양한 컴파일러와 툴체인을 위한 오픈 모델 개발과 지원에 중점을 둔 엔터프라이즈용 오픈 소스, 표준화 및 모듈화된 이기종 RAG 파이프라인을 제공한다. 이를 통해 버티컬 사용 사례에 대한 컨테이너화된 AI 통합 및 제공을 가속화한다. OPEA는 기술 스택의 선두에 서 있는 상세하고 구성 가능한 프레임워크를 통해 새로운 AI 가능성을 제공한다.
인텔은 생성형 AI 턴키 및 포괄적인 엔터프라이즈 AI 스택을 통해 기업 및 데이터센터 내에서 RAG 및 LLM 애플리케이션을 배포하고 확장하는 데 필요한 완전한 솔루션을 제공한다. 기업은 인텔 기반 AI 시스템 또는 플랫폼과 OPEA의 최적화된 소프트웨어를 활용해 효율성과 속도를 향상시키면서 생성형 AI의 잠재력을 최대한 활용할 수 있다.
향후 계획: 최신 AI 컴퓨팅 기술에 대한 접근성을 높이는 것이 기업이 생성형 AI를 통해 중요한 비즈니스 성과를 달성하는 데 있어 직면하는 과제다. 인텔은 업계 협력사 및 고객과의 전략적 협업을 통해 생성형 AI 및 RAG 솔루션 기반의 AI 서비스에 새로운 기회를 창출하고 있다.
인텔은 AI의 안전하고 책임감 있는 발전을 위해 구글(Google), IBM 및 기타 업계 협력사와 함께 AI 개발 및 배포의 신뢰성과 보안을 강화하기 위한 보안 AI 연합(Coalition for Secure AI, CoSAI)을 구축했다고 발표했다.
인텔은 9월 24~25일에 열리는 인텔 이노베이션 행사에서 AI 시스템에 대한 인텔만의 접근 방식과 지속적인 고객 및 협력사 모멘텀을 발표할 예정이다.
추가 컨텍스트: 인텔, 보안 AI 연합 환영 | 올림픽에서 AI 플랫폼 혁신을 실현하는 인텔®
고지 및 면책 사항:
인텔 기술은 하드웨어, 소프트웨어 또는 서비스 활성화가 필요할 수 있다.
어떤 제품이나 구성 요소도 절대적으로 안전할 수는 없다.
비용과 결과는 다를 수 있다.
인텔은 타사 데이터를 제어하거나 감사하지 않는다. 정확성을 평가하려면 다른 출처를 참조해야 한다.
'IT News > 한글(Korean)' 카테고리의 다른 글
| 체인지업그라운드 포항 개관 3주년…. ‘입주기업 가치 1조 5,943억원’ (2) | 2024.07.23 |
|---|---|
| 포스코인재창조원·한국퓨얼셀, 초등학생 대상 찾아가는 모바일 코딩교육 ‘JUMP 코딩’ 교육 실시 (0) | 2024.07.23 |
| NHN페이코, 노랑통닭에 클라우드 기반 멤버십·오더 솔루션 도입 (0) | 2024.07.23 |
| NHN페이코, 포인트 모으기 서비스 출시 (0) | 2024.07.23 |
| 네이버클라우드, “AI 디지털교과서의 성공적인 현장 적용 지원할 것” (1) | 2024.07.22 |