DL Studio - kt ds

8
딥러닝�알고리즘을�개발,학습,적용하는 AI Service Support System AICentro DL Studio DL Studio

Transcript of DL Studio - kt ds

Page 1: DL Studio - kt ds

딥러닝�알고리즘을�개발,학습,적용하는AI Service Support System

AICentro DL Studio

DL Studio

Page 2: DL Studio - kt ds

3

딥러닝�알고리즘을�개발,학습,적용하는AI Service Support System

DL Studio

AICentro DL Studio는딥러닝� 기반의 AI Service를 On Premise 환경하에서� 빠르게� 구축,

배포, 운영을� 할� 수� 있도록� 지원하는 AI Service Support System

입니다.

급변하는�시장에�빠르게�대처할�수�있는�확장성과�유연성을�제공하고

오픈소스 SW STACK 구성, 서비스� 개발에� 필요한 API 및� 도커� 기반

MSA 아키텍처�지원을�통해�효율적�비용으로 AI 플랫폼을�구축�할�수

있습니다.

Page 3: DL Studio - kt ds

AICentro DL Studio Value 창출

AICentro는 AI서비스를�실행하기�위한

분석, 개발, 운용�및�관리에�이르는

각�단계별�다양한�이점을�제공합니다.

Analysis

AI 모델�분석

데이터�분석가(Data Scientist) AI 전문가(AI Expert) 관리자(Manager)

최적의

AI서비스 환경�제공

Development

AI 서비스�개발Operation & Management

AI 서비스�운영

다양한�도메인별�분석�지원

다양한�분석�프레임워크�지원

AI Frameworks AI Dev Environment AI Service Platform

신속한�개발을�위한�템플릿�제공

오픈소스�기반�개발�환경�제공

다양한�성능�지표에�대한�모니터링

AI 모델�형상�및�배포�관리

손쉬운 AI 서비스�인프라�관리

54

Page 4: DL Studio - kt ds

AICentro DL Studio 주요�구성

분석, 개발, 운용�및�관리에�이르는�서비스�개발�프로세스�전�영역에�대해

다양한�기능을�제공하기�위한�플랫폼�구성이�가능합니다.

A. 맞춤형�분석�환경분석�요건별�맞춤형�분석�환경 (분석 도메인별필요�애플리케이션�및�알고리즘�제공)과분석�도구(Notebook) 제공

B. Extension Package 요건별�알고리즘�템플릿�제공

C. Infra 자원�관리 도커�컨테이너�기반의�자원�할당�및�회수�기능�제공

D. 모델�관리학습�상태�및�학습�결과�관리�기능�제공

E. 서비스�관리AI API 서비스�현황�및�트래픽�등에�대한�대시보드�및관리�기능�제공

F. AI API 서비스 딥러닝�분석에�의해�개발된�분석�모델�활용을�위한REST API 관리�기능�제공

맞춤형�분석�환경�제공 Extension Pack

텍스트�분석 영상�분석

분석�프레임워크 (Tensorflow, Keras ...)

이미지�분석 지능형�콜센터

지능형�관제

지능형�추천Anal

ytic

sM

anag

emen

tCl

uste

r

A

Infra 자원�관리

컨테이너

기반�관리

자원�할당/회수

GPU 서버 GPU 서버 GPU 서버 GPU 서버

도커�클러스터

C모델�관리

학습�관리

배포

D서비스�관리

모니터링

제어 API 관리

AI API 서비스

E

B

형상�및�배포�관리F

모델 Repository

98

Page 5: DL Studio - kt ds

AICentro DL Studio 주요�기능

AICentro프로세스별�지원

1110

모니터링(Monitoring)트래픽�모니터링�기능

주요�성능�지표�모니터링

모델�사용(Consume Model)실시간 Serving API 제공

인증/인가�기능�제공

모델�배포(Publish Model)모델�형상�관리 지원

배포�자동화�기능�지원

모델�개선(Improve)학습�히스토리�관리

데이터�수집(Get Data)Hadoop, No SQL 지원

파일�업로드 및�데이터�관리�기능�지원

데이터�전처리(Clean, Prepare)데이터 Scaling 지원

결측치�제거�및�보정�지원

모델�학습(Train Model)워크플로우�기반�모델�생성

다양한�딥�러닝�프레임워크�지원

모델�평가(Test Model)모델�성능�지표�관리

학습�진행�상태�모니터링

Page 6: DL Studio - kt ds

AICentro DL Studio’s Roadmap AICentro DL Studio’s SW Stack

자동화�기술을�데이터�분석�과정에�더해기업의�경쟁력을�강화하고, 기업�활동전반에�적용될�수�있도록�기능�확장

사례�기반Extension Package KT DS가�수행한 AI 프로젝트�경험을바탕으로 AI 템플릿을�제공하여�빠른서비스�개발�지원

AICentro 분석�플랫폼 1.0 출시’18년�이전부터�수행한 AI 경험을�토대로기업이�빠르게�적용�가능한�플랫폼�기능�제공

AICentro DL Studio의 Software Stack은�아래와�같습니다.

Analysis Jupyter Notebook Tensorflow

Traefik

Vue.js

SpringBoot

SpringBoot

Gitea

Minio

CAdvisor NodeExporter prometheus grafana

PostgreSQL

Portainer

ElasticSearch Fluentd

Keras

Reverse Proxy

UI

Auth

API

Source Repository

Meta Database

Log Management

Docker ContainerManagement

Object Storage

Swarm ClusterMonitoring

1312

AICe

ntro

분석

�플랫

폼 2

.0

AICe

ntro

분석

�플랫

폼�출

Exte

nsio

n Pa

ckag

e

증강�분석�지원플랫폼으로�확장

Page 7: DL Studio - kt ds

AI 서비스�개발�업무�프로세스

AICentro를�토대로�한�업무�프로세스별�기능�제공을�통해�개별�사용자는 AI 알고리즘

개발에만�집중하면�되므로�업무의�효율화를�이끌어�낼�수�있습니다.

일반 AI 서비스�개발

76

AICentro DL Studio

데이터�분석가

데이터�분석가

AI 전문가

AI 전문가

관리자

관리자 관리자

모니터링

개발자�영역

AICentro DL Studio도입�후 (자동화)

서버�및네트워크�설치

GPU 환경�및개발환경�설치

딥러닝프레임워크�설치

분석�도메인별라이브러리�설치

AI모델개발

모델학습

모델배포

AI서비스서버�설치

AI서비스개발

AI서비스배포

모니터링

서버�및네트워크�설치

GPU 환경�및개발환경�설치

딥러닝프레임워크�설치

분석�도메인별라이브러리�설치

설치�자동화�및�맞춤형 AI 환경�제공 모델�및�학습�관리 배포�환경�및�표준 AI 서비스(실시간, 배치) 제공 인프라�관리

AI모델개발

자동화�영역

모델학습

모델배포

AI서비스서버�설치

AI서비스개발

AI서비스배포

Page 8: DL Studio - kt ds

AICentro DL Studio 구축�및�활용�사례

상담�업무�지식�추천을�통한

상담�후처리�업무13% 효율화(AI Advisor , VOC Classification)

기존�광고�추천�방법�대비

고객�반응�수치3~4배�증가(Customer Recommendation)

AICentro DL Studio 도입을�통한

구축�기간�및�비용60% 절감(Anomaly Detection , Event Classification)

콜센터KT IT Help Desk

14

관제KT AI기반�시스템�관제�솔루션

추천KT Olleh TV 광고�플랫폼

DL Studio