디시인사이드 갤러리

갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

래블업, 기술 콘퍼런스 lab | up > /conf/4 개최··· 'AI 기술 확장에 역점'

IT동아갤로그로 이동합니다. 2024.09.24 16:56:08
조회 208 추천 0 댓글 0
[IT동아 남시현 기자] AI 개발 플랫폼 기업 래블업(Lablup)이 9월 24일, 양재 aT센터에서 ‘lab | up > /conf/4’ 기술 행사를 개최했다. 래블업 콘퍼런스는 이번이 4회 차며, 3회 차에 비해 참석 인원이 두 배 늘었다. 행사는 각 분야별 AI 전문가 및 개발자들이 모여 산업 현장에서 어떻게 AI를 적용할 지를 놓고 논의한다. 세션은 신정규 래블업 대표의 ‘대AI시대’를 시작으로, 엔비디아, 인공지능산업융합사업단, 리벨리온, KT클라우드 등 국내외 주요 AI 기업들이 참가한다.

“AI 슬립스트릭 넘어 AI 접근성 확보 나선다”



AI 개발 플랫폼 기업 래블업이



신정규 래블업 대표는 “2023년 래블업의 전략은 AI 슬립스트림이다. 슬립스트립이란 레이싱 경기에서 상대 차량 뒤에 붙어 연비와 에너지를 끌어올리는 전술이다. AI의 성장 분야는 자원이 많이 필요하고, 우리는 능력을 보존하며 추월하는 것을 생각했다”라면서, “앞으로의 전략은 메이크 AI 스케일러블(Make AI Scailable)”이라며 발표를 시작했다.

그는 “AI 연산량이 커져가는 와중에도 애플 인텔리전스처럼 작은 장치가 수십 개의 AI 모델을 소화하기도 하고, 수만 대의 GPU가 AI 모델 하나를 만들기도 한다. AI의 범위는 위아래로 넓어지기도 하지만, 작은 점으로 집중되고 있다. 필요한 기술은 제각각이고, 다른 이종간 연산이 섞이고 맞물리는 상황이다. 이 AI 기술 장벽을 허무는 것이 래블업의 목표다”라고 말했다. 이어서 래블업의 전략을 오픈소스, 백앤드 AI 코어, 백앤드 엔터프라이즈 세 단계로 나눠 설명에 나섰다.

래블업은 태생부터 오픈소스, 새 오픈소스 추가 공개



래블업은 다양한 오픈소스를 공개해 왔으며, 이를 통해 시장 확장에 기여하고 생태계를 만들려 한다 / 출처=IT동아



신정규 대표는 현재까지 래블업이 공개한 오픈소스를 먼저 소개했다. 오픈소스는 누구나 사용할 수 있도록 소스코드가 공개된 소프트웨어 및 자산을 뜻한다. 신정규 대표는 “래블업은 태생부터 오픈소스를 만든 사람들이고, 오픈소스 생태계에 계속 기여해 왔다. 지금까지 캐로섬(Callosum), 에이아이오도커(aiodocker), 에이아이오모니터(aiomonitor), 에이아오툴즈(aiotools)를 내고, 래프티파이(Raftify)까지 오픈소스로 공개했다”라고 말했다.

오픈소스를 공개하는 이유에 대해서는 “소프트웨어를 배포하기 위해서는 기본적으로 설치가 되어야 한다. 우리가 오픈소스 생태계에 기여하고 서비스를 배포하고, 또 다른 호환성의 오픈소스를 배포하는 식으로 확장성을 늘리기 위함”이라고 말했다.


AI 접근성을 높이고, 더 쉽게 활용할 수 있는 서비스도 대거 공개했다 / 출처=IT동아



새로운 오픈소스 도구인 백앤드 AI CLI 인스톨러, 비엔데브(bndev)도 공개했다. 백앤드 AI CLI 인스톨러는 터미널 등이 아닌 자동으로 백앤드 AI 패키지를 설치하고, 오프라인도 지원한다. 이를 통해 내부망 등에서도 백앤드 AI의 서비스를 활용할 수 있다. 비엔데브는 직접 개발 환경을 구축하는 서비스다. 백앤드 AI의 복잡한 개발 환경을 쉽게 풀어서 보고, 누구나 서비스 내 다양한 오픈소스를 배포하고 활용할 수 있는 인프라를 만들도록 지원한다.

“백앤드 AI, 엔비디아 블랙웰, 퓨리오사 RNGD 등 지원한다”


백앤드 AI는 매년 3월, 9월에 주요 업데이트되며, 오는 9월 중 24.09 코어 업데이트가 진행된다. 이번 업데이트로 개발자의 AI 배포를 돕는 엔비디아 NIM을 공식 지원하며, 모델 이름만으로도 서비스를 적용할 수 있다. 하드웨어 측면에서는 그레이스 호퍼 GH200, GB200은 물론 인텔 가우디 2, 3, 퓨리오사AI RNGD, 리벨리온 아톰 등의 AI 가속기를 공식 지원한다.


래블업의 백앤드 AI 24.09 버전의 주요 업데이트 사안도 공개했다 / 출처=IT동아



작업 스케줄 기능도 강화해 성능은 끌어올리고, 또 일반 스케줄러와 독립 운용된다. 이를 통해 대규모 인프라스트럭처 관리 작업에서 관리자가 직접 GPU의 작업을 선택해 지정해 수정한다. 예를 들어 GPU를 여러 구성으로 나누고, 속도나 성능, 온도 등 조건에 맞춰 각각 다르게 최적화할 수 있다. 인터페이스도 인포그래픽 디자인 전문 기업 바이스버사와 협업해 웹브라우저에서 쓰는 것처럼 UI/UX를 재단장했다.

래블업의 컨테이너 오케스트레이터 소코반(Sokovan)은 독자적인 클러스터 관리 체계와 함께 쿠버네티스 기반으로도 동작하게 된다. 쿠버네티스 기반으로 동작하는 컴퓨팅 체계에서도 속도를 늘릴 수 있도록 기술과 가속기 관리 기능을 통합하고, 또 엔비디아, 인텔, AMD 등의 플러그인을 온오프라인으로도 활용할 수 있도록 한다.

기업 대상 엔터프라이즈 사업 현황은?


신정규 대표는 “백앤드 엔터프라이즈의 핵심은 AI를 쉽게 만드는 것이다. AI 옵스부터 최종 사용자까지 누구나 AI를 사용하고 지원받는 게 목표다. 템플릿을 제공해 처음부터 파이프라인을 만들 필요 없이 간단한 수정만 거치면 쓸 수 있고, 기존 작업에 파트너사의 작업을 손쉽게 추가하는 식을 뜻한다”라고 말했다.

이를 위해 파인튠잉(Finetun.ing)이라는 서비스를 공개했다. 파인튜닝은 AI 모델의 정확도를 끌어올리기 위해 새 데이터를 추가하고 훈련, 향상하는 과정이다. 래블업의 파인튠잉은 엔비디아 네모트론-4-340B LLM을 내장해 데이터를 추가할 필요 없이 자체적으로 데이터를 파인튜닝한다. 훈련 설계는 프롬프트만 입력하면 되고, 기업 데이터를 추가할수도 있다. 고도화에 필요한 데이터는 내장된 엔비디아 네모트론에서 합성 데이터로 만들어진다.


AI 모델 배포 및 인프라 확장 등을 위한 서비스도 공개했다 / 출처=IT동아



아울러 모델 배포를 가속화하는 ‘빨리(PALI, Performant AI launcher for inference)’를 소개했다. 빨리는 통합된 모델 스톡으로 사전 개발 모델의 배포를 간소화한다. 누구나 쉽게 설치하고 쓸 수 있으며, 엔비디아 NIM, 허깅페이스 모델을 활용하거나 커스텀 모델을 가져오는 ION도 지원한다. 이와 함께 하드웨어 추론을 위해 스케일러블 인프라스트럭처 서비스 빨리²(PALI²), 폐쇄망 등 기관 내에서도 대규모 언어 모델을 사용할 수 있도록 돕는 빨랑(PALANG) 등도 함께 공개했다.

신정규 대표는 “래블업은 엔비디아와 함께 GH200을 활용한 인스턴스 제품을 준비 중이며, 10월 1일에 교세라 미라이 엔비전에서 백앤드 AI를 활용한 인스턴스 AI 제품을 공개할 예정”이라는 소식도 밝혔다.

다양한 세션에 개발자 몰려, 누구나 AI 쓰는 세상 올 것



실제 진행되고 있는 세션, 평일 낮임에도 많은 방문객이 찾았다 / 출처=IT동아




래블업은 ‘엔비디아 NIM’을 비롯한 다양한 기술 시연을 위해 부스를 마련했다 / 출처=IT동아



기조강연 이후에는 마이크로소프트 AI MVP인 박해선 작가가 케라스 자연어 처리(KerasNLP)로 Phi-3 LLM 만들기, 황성진 KT클라우드 AI 플랫폼팀 팀장의 백앤드 AI 도입사례, 김찬란 엔비디아 부장의 엔비디아 NIM 소개, 곽재도 인공지능산업융합사업단 기반조성본부장의 광주 AI밸리 조성사업 추진현황 및 지원사례 소개, 최종호 리벨리온 소프트웨어 엔지니어의 리벨리온 SDK 소개 등 다양한 세션이 진행됐다.

신정규 대표는 “시간이 없어서 밀린 프로젝트도 있고, 빛을 보기 위해 기다리는 AI 제품도 있다. 래블업은 AI 기술을 쉽게 만들기 위해 엔비디아, 인텔, AWS 등의 혁신 기업들과 협력하고 있으며, 모든 사람들이 각자의 데이터를 활용해 통찰, 가치를 이끌어내는 세계를 만드는 것을 목표로 삼겠다”라고 말했다.

글 / IT동아 남시현 (sh@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)



▶ [투자를IT다] 2024년 9월 3주차 IT기업 주요 소식과 주가 흐름▶ [SBA x IT동아] 큐빅 “민감정보 노출 위험 없는 고품질 합성 데이터, AI 혁신 앞당길 것”▶ ‘내장 그래픽 성능 강화’한 인텔ㆍAMD 차세대 CPU, 게이밍 UMPC에 다시 힘 실릴까?



추천 비추천

0

고정닉 0

0

댓글 영역

전체 댓글 0
등록순정렬 기준선택
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 제목 글쓴이 작성일 조회 추천
설문 오픈 마인드로 이성을 만날 것 같은 스타는? 운영자 24/12/02 - -
4618 수목 병해충 발생 예측부터 방제약 처방까지 돕는 ‘애프터레인’ IT동아갤로그로 이동합니다. 12.03 21 0
4617 KIAT, 차세대 배터리 산업 지원 위해 팔 걷어 IT동아갤로그로 이동합니다. 12.03 16 0
4616 단말기에서 스팸 문자 AI 필터링 가능해진다 [1] IT동아갤로그로 이동합니다. 12.03 379 1
4615 [부산창경 BEF 2024] 아이쿠카 “자녀와 부모가 함께하는 디지털 생활 플랫폼 꿈꾼다” IT동아갤로그로 이동합니다. 12.03 16 0
4614 ‘ai.kr, it.kr’ 등 신규 도메인, 오늘부터 선점 가능? IT동아갤로그로 이동합니다. 12.03 15 0
4613 [자동차와 法] 편리함 이면에 잠재된 위험과 법적 책임 ‘전동킥보드’ [4] IT동아갤로그로 이동합니다. 12.03 1386 0
4612 [부산창경 BEF 2024] 기술 활용해 일상 속 탄소 저감 돕는 ‘글루리’ IT동아갤로그로 이동합니다. 12.02 44 0
4611 [KIDP 울산] 아워즈팜 “스마트팜에서 재배한 딸기, 포장 디자인 혁신으로 친근하게” IT동아갤로그로 이동합니다. 12.02 40 0
4610 [스타트업-ing] 세종 백경증류소 "와인, 위스키에 필적할 우리 전통주를 만들겠습니다!" IT동아갤로그로 이동합니다. 12.02 492 2
4609 겨울철 온열기기 에너지 사용량 읽는 법 [이럴땐 이렇게!] IT동아갤로그로 이동합니다. 12.02 52 0
4608 [주간투자동향] 에이아이스페라, 120억 원 후속 투자 유치 外 IT동아갤로그로 이동합니다. 12.02 44 0
4607 [투자를IT다] 2024년 11월 4주차 IT기업 주요 소식과 주가 흐름 IT동아갤로그로 이동합니다. 11.30 118 0
4606 디지포레, 충남 중소 제조기업과 손잡고 중소제조업 DX 가속화 IT동아갤로그로 이동합니다. 11.29 122 0
4605 [신차공개] 현대차 ‘아이오닉 9’ 최초 공개·포드 ‘더 뉴 익스플로러’ 출시 IT동아갤로그로 이동합니다. 11.29 124 0
4604 고려대학교 “LLM, RAG 등 유망 AI 기술사업화에 매진” IT동아갤로그로 이동합니다. 11.29 121 0
4603 퓨리오사AI, 日 AI 엑스포서 2세대 반도체 선봬··· '다각적 판로 개척에 집중' IT동아갤로그로 이동합니다. 11.29 108 0
4602 [생성 AI 길라잡이] 텍스트만 넣으면 영상, 음성, 자막까지 완성 ‘브루’ [1] IT동아갤로그로 이동합니다. 11.29 671 0
4601 맞춤형 5G특화망 ‘이음5G’, 어디에 쓰이고 있나 IT동아갤로그로 이동합니다. 11.29 538 0
4600 [리뷰] 누구나 쉽게 고음질 콘텐츠 녹음, DJI 마이크 미니 IT동아갤로그로 이동합니다. 11.29 138 0
4599 [부산창경 BEF 2024] 그리니쉬, "퍼티맥스, 임신 꿈꾸는 모든 이들을 위한 제품" IT동아갤로그로 이동합니다. 11.29 94 0
4598 [스케일업] 보라웨어 [3] 정진우 대표 “검색ㆍ쇼핑 광고 관리 솔루션으로 광고주와 함께 성장할 것” IT동아갤로그로 이동합니다. 11.29 96 0
4597 [AI와 미래] AI 창작 콘텐츠, 법적·윤리적 도전과 해결 과제 IT동아갤로그로 이동합니다. 11.29 93 0
4596 [부산창경 BEF 2024] 히어로웍스 “숙박 시설의 업무 자동화에 기여합니다” IT동아갤로그로 이동합니다. 11.29 275 0
4595 메디플렉서스 “의료데이터 수요·공급 연결, 분석과 활용 활성화” IT동아갤로그로 이동합니다. 11.29 88 0
4594 SBA, 임팩트다이브 2024 개최…“오픈 이노베이션 생태계 발판 마련” IT동아갤로그로 이동합니다. 11.28 195 0
4593 [시승기] 새로운 디자인·세단 같은 승차감 앞세운 ‘BMW 뉴 X3’ IT동아갤로그로 이동합니다. 11.28 109 0
4592 세계 최고 권위 반도체 학회 'ISSCC' 두 달 앞으로··· '韓 반도체 산업 입지는?' IT동아갤로그로 이동합니다. 11.28 190 0
4591 서울과기대 창업연합 협의체, '서울 동북권 넘어 전국 단위 연계 나선다' IT동아갤로그로 이동합니다. 11.28 108 0
4590 [부산창경 BEF 2024] 불편하고 폐쇄적인 국내 주류 유통시장을 디지털 전환한 스타트업 '링크업' IT동아갤로그로 이동합니다. 11.28 107 0
4589 삼성전자, 실속형 스마트폰 '갤럭시 A16 LTE' 29일 출시 IT동아갤로그로 이동합니다. 11.28 161 0
4588 누비랩 x 도토리소풍 넥슨 “AI 푸드 스캐너, 영유아 식습관 건강 도우미” IT동아갤로그로 이동합니다. 11.28 106 0
4587 [ENSL 2024] 영앤 “뇌건강놀이터로 어르신들 건강과 행복 책임지는 기업될 것” IT동아갤로그로 이동합니다. 11.28 104 0
4586 [생활 속 IT] 방장이 관리하는 ‘카카오톡 팀채팅’, 유용하게 쓰기 IT동아갤로그로 이동합니다. 11.27 627 0
4585 [창업도약+경북대] 아쿠아웍스 “차세대 수처리 기술로 환경문제 극복할 것” IT동아갤로그로 이동합니다. 11.27 127 0
4584 LG전자, 자체 개발 車반도체 국제 안전표준 인증 IT동아갤로그로 이동합니다. 11.27 124 0
4583 [주간스타트업동향] '신성바이오팜, 커스토젠' TIPS 선정 外 IT동아갤로그로 이동합니다. 11.27 125 0
4582 도시와 산업, 인공지능에 대한 고찰 ‘2024 울산 디자인혁신 포럼’ IT동아갤로그로 이동합니다. 11.27 127 0
4581 [ENSL 2024] 자동차 검사 및 정비 편의성 강화한 O2O 플랫폼 ‘카약’ IT동아갤로그로 이동합니다. 11.27 121 0
4580 [기고] 초고령사회를 위한 의료데이터 정보화: 소프트인프라 구축과 맞춤형 서비스 제공 IT동아갤로그로 이동합니다. 11.27 113 0
4579 [스케일업] 비투랩 [3] 김병규 병천치과의원장 “레이저 표면처리, 임플란트 기본 높일 것” IT동아갤로그로 이동합니다. 11.27 117 0
4578 [부산창경 BEF 2024] 인더라스 "고속도로 2차 교통사고, 레그널이 예방합니다" IT동아갤로그로 이동합니다. 11.27 4569 0
4577 [부산창경 BEF 2024] 보라공사 "리모델링/인테리어 공사에 대한 불신과 불안을 줄여드립니다" IT동아갤로그로 이동합니다. 11.27 107 0
4576 로웨인 “로봇 수직농장 경제성 입증한 첫 사례 만든다” IT동아갤로그로 이동합니다. 11.27 125 0
4575 [창업도약+경북대] 디엠테크컨설팅 “스마트공장장으로 제조업 디지털 전환과 상생 이룰 것” IT동아갤로그로 이동합니다. 11.27 108 0
4574 [고려대 미래내일] 청년 일경험 우수 팀 “연구 구체화, 실무 경험 값진 시간” IT동아갤로그로 이동합니다. 11.27 129 0
4573 [생활 속 IT] PC 화면 캡처 및 편집은 어떻게? IT동아갤로그로 이동합니다. 11.26 1900 1
4572 SBA, 혁신경영 성과 앞세워 대통령 포장 포함 수상 12개 석권 IT동아갤로그로 이동합니다. 11.26 123 0
4571 [부산창경 BEF 2024] 전력 절감장치에 블록체인 기술 더해 ESG 실천 돕는 ‘딥브레인’ IT동아갤로그로 이동합니다. 11.26 117 0
4570 [ENSL 2024] 헬퍼로보틱스 “F&B 불편 해결할 조리 로봇 선도” IT동아갤로그로 이동합니다. 11.26 127 0
4569 [부산창경 BEF 2024] 마리나체인 “국제 환경 규제 대응 원스톱 솔루션, 마리나넷” [6] IT동아갤로그로 이동합니다. 11.26 4543 0
뉴스 [포토] 규빈, 상큼한 무대 디시트렌드 12.03
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8

뉴스

디시미디어

디시이슈

1/2