LLM/생성형AI를 자사 IoT기기에 구현한 개발키트 적용한 IoT환경 개발 지원
미쓰비시 IoT x 생성형AI를 응용한 공조기기제어 실증실험
동영상 생성형AI
샘플 보기
샘플 보기
0
완료된 프로젝트
0
컨설팅
0
진행중인 프로젝트
0
LLM구축업력
문서로부터 응답 자동생성, 계약서 체크등 곧바로 업무 활용할 수 있는 생성형AI 및 LLM앱을 100개 이상 개발한 경험을 통해 고객사가 원하는 기능으로 커스터마이징해 서비스개발 및 구축을 제공합니다.
생성형 AI 및 LLM을 활용한 업무 애플리케이션을 실현할 경우, LLM전용 기반이 중요합니다. 개인환경에서 이용가능한 LLM은 물론 사내, 특정정보로부터 응답을 자동 생성시키기 위한 RAG(검색증강생성) 시스템, 각종 보안, 데이터 연계, 분석, 로그관리, 프롬프트관리, 이용자 관리를 위한 사용자인터페이스와 같은 다양한 기능을 제공합니다.
사내 및 특정 정보로부터 응답을 자동 생성하기 위해서는 RAG(검색증강생성)의 구조가 중요합니다. ZeR0에서는 표도 대응하며, HWP, PDF등 정밀도 향상이 가능한 독자적인 고정밀 RAG시스템을 제공합니다.
문서등으로부터 응답을 자동생성했을 때에 참조한 페이지를 미리보기 표시하거나, 한층 더 해당 부분을 하이라이트로 표시합니다. 누구나 확인하기 쉽고 이해하기 쉬운 답변을 제시합니다.
ZeR0 LLM플랫폼은 기본적으로 로컬 환경의 LLaMA 3.1 8B, 70B 오픈소스 LLM 모델을 사용하여 온프레미스 환경에서 사용 가능한 한국어 LLM을 찾고 계시다면 당사에서 제공할 수 있습니다. 기업이용이 가능한 한국어 LLM을 제공합니다.
1단계 LLM 활용 평가
LLM 활용이 가능한 업무의 세탁, 실현성이나 효과를 가미한 우선도를 실시합니다.
- 비즈니스 미팅
- LLM활용 사례 선정
- 테마 우선순위 지정
2단계 솔루션
업무에 적합한 LLM선정 및 주변 업무 앱개발 등 비즈니스 구현 지원
- 비즈니스 요구사항 정의
- LLM 선정
- 기능 및 비기능 요구사항 정의
- 비즈니스 앱 개발
LLMOps
- 분석환경 및 모델 서빙 환경 설계
- 기판설계 및 개발
- 파이프라인 설계 및 개발
- 사내 데이터로 데이터확장(RAG)
- 모니터링 기구의 설계 및 구축
3단계 운영 및 개선지원
LLM 실장 후의 운영을 지원하며 필요에 따라 튜닝 등의 개선도를 실시합니다.
- LLM사용시 오류 대응
- 튜닝 / RAG
OpenAI사의 ChatGPT를 비롯하여 각 클라우드에서 LLM이나 상용 이용 가능한 OSS의 LLM 등 여러 선택사항 중에서 최적인 것을 선정하여 활용 환경 구축을 지원합니다.
