“오늘날 변화의 속도는 점점 빨라지고 있다. 특히 최근 1년간 인공지능(AI)에서의 변화는 더욱 흥미롭다. 이 혁신은 오픈소스와 학계가 주도하고 있으며, AI에서 완벽한 교차점을 찾았다. 그리고 오픈소스의 잠재력은 이제 AI로 확장되고 있다.”

맷 힉스(Matt Hicks) 레드햇(Red Hat) CEO는 7일(현지시각) 미국 콜로라도주 덴버에서 열린 ‘레드햇 서밋 2024(Red Hat Summit 2024)’에서 이와 같이 밝히며, AI 기술과 활용의 혁신을 가속화할 제품과 서비스를 선보였다. 

레드햇은 이번 ‘레드햇 서밋 2024’에서 ‘하이브리드 AI’ 환경의 일관적 운영을 위해 AI에 특화된 운영 환경인 ‘RHEL AI(Red Hat Enterprise Linux AI)’와 ‘오픈시프트 AI(OpenShift AI)’를 소개했다. 지난해 ‘앤서블(Ansible)’에 적용한 생성형 AI ‘라이트스피드(Lightspeed)’는 RHEL에도 확장 적용해 자동화의 범위를 넓혔다. AI 모델의 ‘훈련’에 대한 기여 모델을 제시하는 ‘인스트럭트랩(InstructLab)’ 커뮤니티도 제시했다.

‘레드햇 서밋 2024’ 기조연설에 나선 맷 힉스 레드햇 CEO / 레드햇
‘레드햇 서밋 2024’ 기조연설에 나선 맷 힉스 레드햇 CEO / 레드햇

클라우드로 검증된 운영 환경, ‘AI’ 위한 운영환경으로 확장

맷 힉스 레드햇 CEO는 엔터프라이즈를 위한 AI 플랫폼에서 레드햇의 강점으로 ‘다영한 선택을 보장하는 유연성’을 꼽았다. 이는 인프라 단에서는 다양한 하드웨어에 대한 선택권과 워크로드 이동성을, 위치 측면에서는 데이터센터에서 엣지, 클라우드 등에 이르는 폭넓은 영역에서 일관성을 제공한다는 의미다. 

레드햇이 이번 ‘레드햇 서밋 2024’를 통해 선보인 ‘레드햇 엔터프라이즈 리눅스 AI(RHEL AI)’는 기존의 검증된 RHEL 환경을 기반으로 AI 모델의 활용에 특화한 파운데이션 모델 플랫폼을 표방한다. 특히 이 ‘RHEL AI’는 AI를 위한 엔비디아, 인텔, AMD의 주요 하드웨어를 모두 지원하고, IBM리서치의 그래니트 LLM(Granite LLM)과 인스트럭트랩(InstructLab) 모델 정렬 도구, 커뮤니티 중심의 모델 개발 접근 방식을 결합한 ‘AI 특화 구성’이 특징이다.

특히, RHEL AI에 포함된 그래니트 언어 모델 및 코드 모델은 레드햇을 통해 전적으로 지원되고 면책돼, 엔터프라이즈에서의 생성형 AI 모델 사용에서 나타날 수 있는 불확실성 측면을 제거한 것이 특징이다. 앞으로의 AI 시대에도 ‘리눅스’는 환경의 기반이 되는 핵심 기술로 중요한 역할을 할 것으로 기대했다.

‘오픈시프트 AI’는 하이브리드 클라우드 환경 전반에서 AI 지원 애플리케이션을 대규모로 생성, 제공하는 데 특화됐다. 최신 ‘오픈시프트 AI 2.9’는 여러 모델 서버를 사용해 예측형 및 생성형 AI를 모두 지원하고, 단일 플랫폼에서 여러 사용 사례를 위한 다양한 모델 서비스가 가능해 운영을 간소화할 수 있다. 또한 모델 개발 개선과 모델 모니터링 시각화, 새로운 가속기 프로필 등으로 AI 환경에서의 관리성을 강조했다.

레드햇은 이 ‘RHEL AI’와 ‘오픈시프트 AI’가 AI 생태계의 주요 파트너들과 긴밀한 협력 관계를 갖추고 있다고 소개했다. 엔비디아의 경우 오픈시프트 AI에 ‘엔비디아 NIM’ 마이크로서비스를 통합할 수 있으며, 인텔의 경우는 가우디 AI 가속기 제품군과 제온 프로세서, 아크 GPU, 코어 울트라 프로세서 등 주요 AI 제품들이 오픈시프트 환경을 지원한다. AMD 또한 오픈시프트 AI에 GPU 지원을 통합 제공해, 엔터프라이즈 AI 환경에서의 활용성을 높였다.

맷 힉스 CEO는 이러한 ‘AI’ 제품들과 전통적 제품들의 위치에 대해 ‘목적성’을 주목했다. 그는 “RHEL AI나 오픈시프트 AI는 AI 환경 지원이라는 특정 목적에 집중한다. 반면 기존의 RHEL과 오픈시프트는 좀 더 광범위한 애플리케이션을 다루는 환경을 제공한다”고 소개하며, “궁극적으로 AI는 목적을 위한 도구다. 어느 한 쪽이 기존의 것을 대체하는 것보다는 기존 기술과 공존하는 위치가 될 것으로 본다”고 밝혔다.

‘레드햇 서밋 2024’ 기조연설에 나선 아셰시 바다니 레드햇 수석 부사장 / 레드햇
‘레드햇 서밋 2024’ 기조연설에 나선 아셰시 바다니 레드햇 수석 부사장 / 레드햇

AI시대 오픈소스의 강점을 극대화하기 위한 방법론 

최근 AI 시대를 가속화한 중요한 요소로는 ‘오픈소스’가 꼽히고, 오픈소스 생태계는 사용자들에 선택지를 빠르게 넓혀 왔다. 하지만 레드햇은 현재의 개방형 AI 모델은 변화가 빠르고 진입장벽이 높으며, 오픈소스 프로젝트와 달리 이를 중심으로 한 ‘커뮤니티’가 없었던 점을 지적했다. 레드햇이 발표한 ‘인스트럭트랩(InstructLab)’은 이런 문제점을 해결하기 위한 새로운 접근법으로, 생성형 AI의 ‘학습’에서 커뮤니티의 ‘기여’를 공유, 반영할 수 있는 방법을 제시한다.

레드햇과 IBM이 함께하는 ‘인스트럭트랩’은 LAB(Large-scale Alignment for chatbot, 챗봇을 위한 대규모 정렬) 방법론과 IBM의 오픈소스 그래니트 모델을 중심으로 구축됐고, 여타 오픈소스 프로젝트에 기여하는 것만큼 간단하게 거대언어모델(LLM)을 구축하고 기여할 수 있게 하는 것을 목표로 한다. 이 ‘인스트럭트랩’은 커뮤니티 뿐만 아니라, 주요 구성 요소가 ‘RHEL AI’에 통합돼 제공된다.

IBM은 인스트럭트랩 출시와 함께 그래니트의 영어 모델 및 코드 모델 제품군도 공개했으며, 모델 학습에 사용된 데이터 세트에 대한 완전한 투명성을 갖췄고, 사용자들은 이 모델의 공동 개선을 위해 기술과 지식을 기여할 수 있다. 그리고 이 모델은 커뮤니티의 기여로 역량을 극대화해 모든 사람에 도움이 될 수 있으며, 코드 어시스턴트 모델 성능 테스트에서 작은 크기에도 뛰어난 성능을 선보였다고 밝혔다.

생성형 AI 기술은 AI 기술 활용을 위한 인프라 운영 자체에도 큰 영향을 준다. 레드햇은 지난해 ‘앤서블’ 자동화 플랫폼의 스크립트 작성 등에 생성형 AI ‘라이트스피드’를 적용한 바 있는데, 올해는 ‘앤서블’ 뿐만 아니라 ‘RHEL’과 ‘오픈시프트’까지 범위를 넓혔다. 이를 통해 운영팀과 시스템 관리자, 쿠버네티스 관리자에 이르기까지 생성형 AI를 통한 생산성 향상의 이점을 누릴 수 있을 것이라 제시했다.

맷 힉스 CEO는 AI가 IT 역량에 미칠 영향에 대해 “기업이 당면한 애플리케이션 관리와 현대화 등 많은 도전과제들을 극복하는 데 큰 도움이 될 것이다. 특히 IT 인력들이 더 창의적인 작업에, 더 중요한 비즈니스 과제에 집중할 수 있게 하고, IT 인력이 비즈니스에 더 중요한 역할을 할 수 있게 할 것이다”라고 언급했다.

또한 이 AI 기술의 안전한 활용 측면에서는 “모델은 저작권 등이 확보된 안전한 데이터로 훈련되어야 한다. 또한 AI가 만드는 결과가 저작권 등의 문제를 만드는 경우를 막을 수 있어야 할 것이다. 이를 위해서는 데이터와 결과를 이해할 수 있어야 한다. 향후 몇 년 동안 이런 부분에서 큰 발전이 기대된다. ‘앤서블 라이트스피드’가 이런 부분을 시작했고, 더 큰 역량을 갖춰나가고 있다”고 밝혔다.

엔터프라이즈 IT에서 생성형 AI가 미칠 영향은 ‘낙관적’으로 전망했다. 그리고 결과에서 발생할 수 있는 저작권 등의 문제에 대해서는 안정적이고 지속가능한 생태계가 필요하며, 이는 생태계 전반의 공통 과제라고 제시했다. 또한 데이터를 이해하고 훈련, 투명하게 활용하는 과정 전반에서 오픈소스 라이선스를 이해, 활용할 수 있어야 하며, 이를 위한 가드레일 등이 필요하다고 밝히며, 레드햇은 고객이 안심하고 기술을 사용할 수 있는 환경을 제공할 것이라 덧붙였다.

한편, 맷 힉스 CEO는 ‘안전한 AI’를 만드는 데 있어 오픈소스 모델의 이점이 크다고 강조했다. 그는 “최근 커뮤니티에 있었던 xz 라이브러리의 취약점 사태 해결 과정은 오픈소스 생태계의 자정 능력을 잘 보여준 사례라 생각한다”며 “AI에서도 오픈소스는 모두의 협력으로 더 빨리, 더 강력한, 더 안전한 모델을 구현하는 데 도움을 줄 것으로 본다. 투명성이 높은 오픈소스 모델이 더 안전한 옵션이 될 것이다”라고 제시했다.

권용만 기자 yongman.kwon@chosunbiz.com

이 기사에 대해 어떻게 생각하시나요?
+1
0
+1
0
+1
0
+1
0
+1
0

댓글을 남겨주세요.

Please enter your comment!
Please enter your name here