공공부문 AI 시스템 도입에 따른 조달 분야 이슈 분석IF-8] 공공... ·...

IT & Future Strategy

공공부 시스템 도입에 른 AI 조달 분야 이슈 분

호8 (2019. 12. 31)

목 차

공공 시스 도 필 과 . AI / 1Ⅰ

. Ⅱ 시스 달 과 별 생 가능한 슈 AI / 5

공공 시스 도 한 책 향 . AI / 12 Ⅲ

「IT & Future Strategy(IF Strategy)」 보고 는 한국사회 주요 패러다임21

변 를 분 하고 이를 토 미래 지능 시 주요 이슈를 망 를 통한, IT

해결 안 모색하 해 한국 보 진 원 에 획 간하는 보고 입니(NIA) , 다.

「IF Strategy」는 미래 ‘만약 한 략’ 담 보고 를 미합니다.

N 승인 없이 본 보고 단 재나 복 를 하며 인용하실 는 IA ,

드시 NIA, 「 보고IT & Future Strategy 」라고 주시 랍니다.

보고 내용에 한 나 안 아래 연락처 해 주시 랍니다.

▶ 행 용 식:

▶

한 보화진흥원 책본 미래 략 - (NIA)

희 (053-230-1298, [email protected])

우상근 (053-230-1290, [email protected])

▶ 보고 라 비스

- www.nia.or.kr

◇ 공공 문 시스템 도입 필요 과 문제AI

인공지능 이 일상이 될 사회는 멀게 느껴지지만 자세히 보면 이미

우리의 삶 속에 들어와 일상생활 산업 사회를 변화시키는

최근 세계 주요국은 사회 약자 보호 삶의 질 개선 생명과 안

보장 등 수 많은 사회문제 해결을 해 도입 활용을 검토

공공성 공정성 보안성 포 성 등 민간기업과는 다른 공공부문의

특징 때문에 공공부문 도입 시 어려움이 발생할 것으로 상

특히 조달 체계가 에 특화된 방식으로 바 어야 의 활성화

원활한 도입이 가능할 것으로 상

한국의 련 정책 사업은 데이터 활용 기술 생태계 조성 내

용이 심이며 조달에 한 정책 연구가 필요

◇ 시스템 조달 과정별 발생 가능한 이슈 AI

공공부문 도입 활성화를 해 모델의 특수성 재 조달 방식의

한계 윤리 이슈를 검토하여 조달 방식 개선이 필요

한국정보화진흥원 은 공공분야 시스템 도입 활성화를 한 주요

조달 이슈를 분석하고 정책 방향을 도출하기 해 문가 인터뷰 시행

최종 으로 조달을 한 단계별 주요 이슈를 정리 공공부문

시스템 도입을 한 조달 로세스 개선 방향과 정책 시사 도출

조달 단계별 주요 이슈

단계별 주요 이슈 세부 내용

시스템 발주 전AI ( ) 前

단계의 고려 사항

제안요청서를 작성하기 전 명확한 목표와 해결하고자 하는 문,

제점을 명확히 인지하고 현재 보유 데이터의 상태 확인 필수

시스템 제안사 선정AI

을 위한 평가체계 개선

스타트업 중소기업이 활성화될 수 있는 방안을 모색하고 의 , , AI

특수성을 고려한 기술적 측면 및 윤리적 측면의 평가 필요

시스템 구축운영유지AI · ·

보수 단계의 주요 이슈

시스템 운영을 관리할 전문 인력이 필요하고 구축기업과 AI , AI

유지보수 기업 간 발생할 수 있는 이슈 해결 필요

공공 문 시스템 도입을 위한 조달 프로 스 개 방향 AI ◇

기존 조달 로세스를 에 맞춰 완 히 변화시키기 어려우므로 행

조달 로세스에서 에 맞는 추가 인 검토 사항을 더하는 방향

으로 조달 로세스 개선 필요

공공 문 시스템 도입을 위한 정책 방향AI ◇

정책 방향 설명

발주기관의 전문성 AI

강화 필요

발주기관의 내외부적 전문성 강화와 전문기관 설치를 통해 AI AI

수요 기관에게 전문 지원을 할 수 있는 거버넌스 체계 필요

데이터 시스템 전문, AI

인력 양성 시급

데이터 전문가 등 기존 전문가뿐만 아니라 위험, AI AI

관리 윤리관리 등 새로운 직무 전문가 확보 필요, AI

솔루션(Solution)이 아닌

문제(Challenge)의 명확화

제안요청서에는 시스템 솔루션의 세부 사항이 아닌 명AI

확한 현상을 설명하고 해결하고자 하는 문제에 집중 필요

구축 구독, 클라우드( ) 두 가지

모델에 대한 검토 필요

시스템 도입 시 처음부터 구축하는 방식과 클라우드처럼 AI

구독해서 도입하는 방식을 고려할 수 있으며 제공하고자 ,

하는 서비스의 특징에 맞춰 장단점을 비교하여 도입 필요

알고리즘보다 데이터에

초점을 맞춘 제안서 작성

제안사가 사업의 규모 등을 파악할 수 있도록 제안요청

서에 데이터에 대한 정보와 변동 시 금액에 관한 정보를

명확하게 제공 필요

공공부문 시스템 도입에 따른 조달 분야 이슈 분석AI 1

호IT & Future Strategy(8 ) 2019. 12

공공 문 시스템 도입 필 과 문제 AI Ⅰ

인공지능 이 바꾸는 사회 모습(AI)

가 일상이 될 사회는 멀게 느껴지지만 자세히 보면 이미 우리의

삶 속에 들어와 일상생활 산업 사회를 변화시키는

개인이 주로 이용하는 포털 뉴스 인터넷 쇼핑몰 실시간 동 상

서비스 등 이미 온라인에서 를 활용해 맞춤형 서비스 제공

※ 아마존 의 경우 전체 매출의 가 알고리즘의(Amazon) 35% AI 추천을 통해 발생하며 1),

넷플릭스 의 경우 재생되는 영화의 은 알고리즘이 고객에게 추천한 작품(Netflix) 2/3 AI 2)

표 인 산업 분야인 자동차 산업의 경우 가 용된 무인 택시

서비스가 오 되면서 통 자동차 산업의 개념이 재구성되고

선도기업이 뒤바 는 등 산업의 역할 구조 범 가 변화

※ 년 미국 피닉스시에서 무인 택시 서비스가 정식 오픈되었으며 서비스 시작 후2018 ,

달 동안 만 회 운행되었는데 이용한 승객의 가 긍정적으로 평가2 1.5 70% 3)

최근에는 국민의 생활환경 개선을 해 공공부문 시스템

도입에 한 논의가 활발히 진행 이며 세계 주요국은 시

공공부문 신을 한 국가 차원의 략을 마련

세계 개국 개국이 국가 략에 공공부문의 신을

포함하거나 개별 공공부문 신 략을 수립

이탈리아 캐나다 핀란드는 공공부문 혁신을 위한 개별전략을 별도로 수립 , , ※

국내는 국가 략을 발표 하여 생태계 조성 산업

신뿐만 아니라 사회와 공공부문의 용을 한 기반 마련

특히 사회 약자 보호 삶의 질 개선 생명과 안 보장 등 수

많은 사회문제 해결을 해 용 비

1) Martech Advisor(2016.6.28), “Recommendation Engines: How Amazon and Netflix Are Winning the Personalization Battle,”2) 성공의 핵심 요소로 떠오른 추천 시스템 비즈니스의 본질 먼저 꿰뚫는 것을 추천 DBR(2018.7), “ ‘ ’ ” 3) 구글 웨이모 자율주행 택시 이용자 긍정적 평가 ZDNet Korea(2019.8.27), “ , 70% ,” 4) Hello, World : AI and its use in the Public Sector, OECD OPSI(Observatory of Public Sector Innovation), 2019.8.1

2 공공부문 시스템 도입에 따른 조달 분야 이슈 분석AI

로 변화하는 공공 비스AI

공공부문에 시스템이 도입됨으로써 다양한 분야의 공공서

비스 질이 향상되고 있으며 우리의 삶을 효율 으로 개선

공공부문에서 에 의한 신을 살펴보면 업무 자동화 측능력

향상 의사 결정에 필요한 정보제공 세 가지 유형으로 분류 가능

단순 반복 인 업무를 자동화하여 비용을 감하거나 공공서비스의

시성과 측성을 향상하고 문제 발견이나 규제를 집행하기에

앞서 요구되는 의사 결정에 필요한 정보를 제공

공공분야 도입 유형별 사례 < AI >

구분 설명 주요 사례

자동화

단순 반복적인

업무를 자동화

많은 데 이터를

다루는 업무에

소요되는 시간과

비용 절감

우편물 분류 과세 대상자 분류 챗봇 서비스 등, ,

미국 우체국 스팸 우편 분류 정리 - ·

영국 국세청 과세대상자 분류 -

- 미국 농무부 음식 안전 검사 정보제공

싱가포르의 민원 챗봇 한국 법무부 버비 대구 - , ,

시 뚜봇 등 챗봇 서비스

예측

공공 및 사회

서비스 제공에

앞서 서비스

대상자의 수요,

지역 시점 ,

예측의

정확성을 향상

날씨 예측 도로교통 예측 수질관리서비스 예측 등, ,

미국 해양대기청의 날씨 예측 서비스 -

- 영국 디지털 정부 서비스 도로교통 이상행위 파악

미국 피츠버그시 교통흐름 관리 교통 정지 룃수 - ,

감소 및 대시기간 단축

김포시 독거노인 생활 행동 패턴 분석 스마트 일 - ·

상생활 지원 서비스

의사

결정

지원

공공 안전을

위한 문제

발견이나

규제를 집행하기

전 의사 결정에

필요한 정보를

제공

미납적발 재무제표 부정탐지 범죄위험 탐지 위, , ,

생검사 대상자 선정 소방안전 등,

미국 재무부 금융연구사무국 재무제표 부정탐지 - ,

미국 국세청의 미납적발 정보 제공 -

- 국가안보국사법당국 범죄확률 및 범죄 발생지역 파악·

미국 애틀란타 소방구조부 화재 발생 가능성이 -

높은 건물 식별

- 미국 네바다주 보건국 식중독 예방 정보 제공

자료 공공서비스 인공지능 적용과 가치 수정 정리: ML , · (‘18.4)※



공공부 시스템 도입 장애 요인과 주요 논의AI

의 특성으로 인해 발생하는 이슈들이 공공부문 시스템

도입 시 동일하게 발생할 것으로 상되므로 사 연구 필요

공공부문 시스템도 데이터와 편향 된 알고리즘으로 인한 불

평등 발생 경쟁 심화 양극화 등 다양한 잠재 문제가 존재

특히 공공서비스의 특성상 공정성 안정성 보안성 등은 민간의

시스템보다 더 투명하고 체계 인 리가 요구될 것으로 망

※ 공공부문 시스템 또한 에서 제시한 포용 및 지속 가능 인간중심 투명AI OECD , ,

성 및 설명 가능성 견고성 및 안전성 책임완수 가지 요소, , 5 5)에 대해 고려 필요

이 때문에 공공부문 시스템은 도입부터 발생 가능한 문제

에 비하고 조치할 수 있는 체계가 필요

공공부문 시스템 도입을 해 세계 으로 공공부문에서

조달 체계 개선 방향이 논의되는 이며 국내는 조달 정책에

한 연구는 다소 부족한 상황

시스템 도입으로 인해 발생하는 이슈를 도입부터 운 까지

리하기 해 시스템 조달 방식 개선의 요성 언

조달 체계를 에 특화된 방식으로 바꿈으로써 안정하고 신뢰

가능한 공공 시스템의 도입 활성화가 가능할 것으로 상

캐나다 ※ 6) 핀란드, 7) 같은 선도국에서 공공부문 혁신을 위해 발표한 개별 AI

전략을 살펴보면 조달 체계 개선이 포함되었으며,

세계경제포럼 에서도 공공부문 시스템 도입의 애로사항 중 하나로 (WEF) AI ※

조달 체계의 중요성을 언급8)

재 국내는 련 정책 사업은 데이터 활용 기술 생태계

조성 심이며 공공부문 시스템 조달에 한 논의 정책

연구가 필요한 상황

5) OECD, Recommendation of the Counciil on Artificial Intelligence. ‘19.56) 캐나다 , Responsible use of Artificial Intelligence, 2017.87) 핀란드 , Leading the way into the era of Artificial Intelligence, 2019.6

8) 5 challenges for government adoption of AI, WEF(2019)


참고 조달 체계 연구 등 글로벌 동향AI

는 영국 등과 협업하여 조달 가이드라인을 만들었고 캐나다는 o WEF AI ,

공급업체 검증 등 조달과정을 개선 중 AI

조달 체계 개선을 위한 연구를 수행 년 월 조달 가이드라 - WEF , ‘19 9 AI

인 발간(Guidelines for AI Procurement)

영국은 의 조달 가이드라인을 참고하여 시범적으로 공공부문 - WEF AI AI

시스템 도입 중

- 캐나다는 조달 프로세스에서 정부 공인 사업자 관리 방식을 적용해AI AI

솔루션 공급업체의 책임 가능성을 사전 검증 AI

조달 가이드라인 요약 < WEF AI >

자료 : Guidelines for AI Procurement(WEF, 2019.9)※



시스템 조달 과정별 발생 가능한 이슈 AI Ⅱ

시 로의 비를 해 조달 개 필요AI

모델의 특수성 모델은 기능이 구 된 후에도 지속 인

최신화가 필요하며 구축 비 특수성이 존재

모델 개발은 기능 단 로 개발되는 기존 개발코드 선정

기능구 등과 요구되는 기술통계 데이터마이닝 등이 상이

시스템은 구축과 달리 시스템 구축 후에도 지속 으로

모델이 최신화되고 있는지 확인하는 과정이 필요

조달 방식 한계 재 국가기 는 공공기 은 국가계약법

상 용역계약 는 물품 발주 계약을 통해 솔루션을 조달

행 조달 방식은 차상 시간이 오래 소요되고 합한 솔

루션 제공자와 계약을 체결하기 어려우며 계약 기간의 제약

년 는 년 으로 인해 서비스의 안정성 확보가 어려움

구축업체와 유지보수 업체가 상이할 경우 데이터 알고

리즘의 명확한 인수인계가 어렵고 구축업체의 알고리즘 라이

센스 소유권 이슈도 발생 가능

윤리 강조 알고리즘의 잘못된 결과 도출을 방지하기 해

알고리즘의 투명성 데이터의 편향성 등에 한 비 필요

기반 의사결정 시스템에서 분석가 는 데이터의 편향 등

으로 인해 알고리즘 결과가 왜곡될 가능성 존재

한 알고리즘의 블랙박스화 때문에 의사결정 결과를 설

명할 수 없는 경우 설명 가능한 등 이를 해소할 수

있는 방안에 한 비가 필요


조달과 시스템 조달 프로 스의 주요 차이 SI AI

조달은 계약 구축 운 유지보수 단계로 구성되어 있고

유지보수는 일정 기간 후 다시 계약하는 형태

시스템 조달은 로세스에 모델링 연구가 추가되는

개념으로 조달 로세스에 모델링 로세스가 동시에

진행되고 윤리 이슈 알고리즘 최신화에 한 고려 필요

및 연구 등 두 분야의 역량이 가능한 기업은 불필요 SI AI Two Track ※

조달 및 이상적인 시스템 조달의 주요 프로세스< SI AI 예시( ) >

자료 작성: NIA ※

조달과 조달의 단계별 주요 차이점 < SI AI >

단계 조달SI 시스템 조달AI

제안

요청서

작성

발주사가 시스템 요구사항을

적은 제안요청서 작성 ※ 사전 보유 데이터 확인 윤리 이슈,

확인 원칙 설정 과정 부재,

보유 데이터 사전 확인 발생할 수 ,

있는 윤리 이슈 등에 대해 사전 AI

점검하고 원칙을 설정하는 과정이 존재

시스템

구축

제안요청서 상의 요구사항에

맞추어 구축기업이 시스템

구축 및 납품

시스템 구축과 관련된 이해관계자 간

정기 위원회 개최를 통해 과도한 요

구사항과 실현 가능한 시스템에 관AI

한 이해도 증진 과정이 존재

운영 및

유지보수

발주사 또는 유지보수 업

체를 통해 지속적인 유지

보수 수행

시스템 운영 중 발생 가능한 데이

터 알고리즘 결과 윤리 이슈에 , AI ,

신속하게 대응하는 체계 보유




시스템 조달 이슈 분 을 한 가 인 뷰 진행NIA, AI □

주요 선진국이 공공부문에 시스템 도입을 추진함에 따라

우리나라도 공공부문 시스템 도입에 한 응이 필요

국내는 와 조달 체계에 한 연구는 미흡한 상황이며 황

주요 이슈 분석부터 추진해야 하는 단계

시스템 조달 시 발생할 수 있는 주요 이슈를 검토하고

원활하게 도입할 수 있도록 선제 인 응이 필요한 상황

이에 따라 한국정보화진흥원 에서는 공공분야 시스템

도입 활성화를 한 주요 조달 이슈를 분석하고 정책 방안을

마련하기 한 문가 심층 인터뷰 진행

년 월 인공지능 분야 기술 정책 연구자와 민간기업

문가를 상으로 공공부문 시스템 조달을 한 이슈 분

석 서면조사 면 인터뷰 진행

재 공공부문에 구축을 한 조달 로세스 기 으로

시스템 도입 시 문제 등 해결해야 할 사항 검토

한 공공부문 시스템 조달과 련하여 조달 과정에서

발생할 수 있는 실질 인 주요 이슈를 조사

의견 조사는 공공기관 시스템 조달과 관련해 조달 전 단계 계약 AI 1) , 2) ※

및 구축 과정 운영 및 유지보수 단계 및 조달 외 사항 법제도 규제, 3) 4) ( , ,

윤리 등 으로 나누어 이슈를 조사)

심층 인터뷰 진행 후 문가 검토과정을 통해 시스템 조달

을 한 주요 이슈를 정리하고 공공부문 시스템 도입을

한 조달 로세스 개선 방향과 정책 시사 도출

※ 각 결과는 다음 페이지를 참조 조달을 위한 주요 이슈 시스템: AI (8~10p), AI

도입을 위한 조달 프로세스 개선 방향 정책 시사점(11p), (12~16p)

9) 참여 전문가 리스트는 붙임 참조 < >


가 인 뷰 주요 결과 요약□

주요 이슈 세부 내용

시스템 AI

발주 전( ) 前

단계의

고려 사항

목적 구체화 제안요청서 내에 사업목적 및 문제를 구체( ) 화

하는 것이 중요하며 해결하고자 하는 문제를 명확히 제시,

데이터 정보 제안사가 사업의 규모 등을 파악할 수 있도( )

록 제안요청서에 데이터에 대한 정보를 명확하게 제공

사업 금액 제안요청서의 사업 금액을 산정하는 체계를 ( )

개선하는 등 에 맞는 사업 금액 산정 기준 마련 필요AI

시스템 AI

제안사

선정을 위한

평가체계

개선

생태계 관점 관련 스타트업 등 중소기업의 지속적 성( ) AI

장을 위해 제안서 평가 시 불이익이 없도록 체계 개선 필요

기술 중심 의 기술 특성을 고려하여 해결 방법론( ) AI ,

알고리즘 등 기술 중심의 평가체계 개선도 중요

윤리 서비스의 편향 투명성 등 각 기업이 신뢰(AI ) AI ,

성을 확보하기 위한 방안을 평가하는 것도 검토 필요

시스템 AI

구축 운영·

유지보수 ·

단계의 주요

이슈

구축 시스템을 도입하는 방법에는 크게 직접 구축할 ( ) AI

것인지 클라우드를 통해 구독 할 것인지로 분류(Subscribe)

운영( ) 시스템을 제공하는 운영기관이 현재보다 스마트해AI

져야하므로 공공기관 내 전문 인재 도입 및 양성 필요AI

유지보수 시스템 구축업체와 유지보수 업체가 다른 ( ) AI

경우 발생할 수 있는 이슈에 대한 대비 필요




시스템 발주 단계의 고 사항AI ( ) 前

◇ 안 청 하 확한 목 해결하고 하는 ,

확히 지하고 현재 보 상태 확 필수

목 구체화 제안요청서 내에 사업목 목표를 구체화하는

것이 요하며 해결하고자 하는 문제를 명확히 제시

문제 에 해 명확히 제시하되 해결 방법론

은 제안사가 자유롭게 선택할 수 있도록 유도

자율주행차의 단계별 목표처럼 시스템의 달성 목표는 기

기 장기로 구분하여 해결 문제를 제시하는 방식도 고려

데이터 정보 제안사가 사업의 규모 등을 악할 수 있도록

제안요청서에 데이터에 한 정보를 명확하게 제공

제안요청서 내에 데이터명 데이터 용량 데이터 속성 등을

명확하게 작성하는 것이 요

발주사가 데이터를 보유하고 있지 않은 경우에는 데이터 확보

방안에 해서도 구체 으로 제시하는 것이 필요

는 민감한 데이터가 아닌 경우 사 에 데이터를 공개하고

민감 데이터의 경우 일부 샘 데이터라도 제공이 필요

사업 액 제안요청서의 사업 액을 산정하는 체계를 개선

하는 등 시스템에 맞는 사업 액 산정 기 마련 필요

발주사에서 데이터를 사 에 검토하여 데이터 처리에 필요한

략 인 소요 시간 양을 사업 액에 반 하는 것이 필요

※ 데이터 확인 전에 구축업체가 입찰하므로 데이터 전처리 작업의 공수 예측이 불가

데이터 종류에 따라 학습용 데이터셋 구축 단가 산정 체계를

달리하여 한 사업 액 실화가 요

※ 예 음식 사진의 라벨링은 일반인이 가능하나 의료용 사진의 라벨링은 전) ,

문의를 통해야 하므로 추가적인 비용이 발생


시스템 안사 을 한 평가체계 이슈AI

스타트업 업 활 화 수 는 안 색하고 특, , AI◇

수 고 한 술 측 리 측 평가 필

생태계 련 스타트업 등 소기업의 지속 성장을

해 제안서 평가 시 불이익이 없도록 체계 개선 필요

제안서 평가 시 업체에 한 이력 주에서 수행 인력의 이력

등을 평가하여 업력 심에서 인력 심으로 변화 필요

공공사업 참여 경험이 없는 기업이 심사에서 불리하게 작용

하는 요소를 배제하는 등 신생 기업의 기회 확 필요

기술 심 의 기술 특성을 고려하여 해결 방법론 알고리즘

등 기술 심의 평가체계 개선도 요

기존 평가 배 표에서 기술에 한 평가를 세분화하여 문제

해결을 한 과제 수행의 성을 세부 으로 평가

기술 공 능력을 평가하기 해 개념검증

과 같은 검증 단계를 거치는 것도 고려

시스템을 평가할 수 있는 문성 있는 평가 원 모집단

을 다시 구성하는 등 문성 확보 필요

윤리 시스템의 편향 투명성 등 각 기업이 윤리를

확보하기 한 방안을 평가하는 것도 검토 필요

로벌 기업은 기업의 자체 윤리 원칙을 발표하는 등

윤리의 요성에 한 공감 를 형성

※ 구글은 개발에 대한 주요 원칙 제정 카카오는 국내 최초 윤리 헌장 발표AI , AI

알고리즘 개발자의 편향성 사회 편향성이 발생하지 않도록

리하는 방법 등 윤리 인 측면을 평가할 수 있는 기능 필요



시스템 구축 운 지보 단계의 주요 이슈AI · ·

◇ 시스 운 할 수 는 필 하고AI , 업과 AI

지보수 업 간 생할 수 는 슈 해결 필

구축 시스템을 도입하는 방법에는 크게 직 구축할 것

인지 클라우드를 통해 구독 할 것인지로 분류

구독 구축 모두 유지보수 상에서 발생하는 이슈는 유사

클라우드 상에 시스템을 운영하더라도 구축과 유지보수 업체가 다를 AI , ※

경우에는 데이터 알고리즘 인수인계의 불확실성 등의 리스크는 발생,

클라우드와 직 구축의 선택 문제에서는 시스템 구축 목

에 따라 정 기 을 마련하여 선택

시스템의 경우 새로운 기능이나 데이터의 추가에 따라 시스템 요구사항 AI ※

이 크게 달라질 수 있어 구축 단계에서 기준을 마련해 검토 필요

운 시스템을 제공하는 운 기 이 스마트해져야 하며

이를 해 공공기 내부에 문인력 도입 양성 필요

재 운 기 에서는 기술과 데이터에 한 명확한 이해가

부족한 상태로 사업을 발주하는 경우가 많은 상황

시스템 운 과정에서 편향 역차별 등이 발생했을 때 기술

검토 견 데이터 련 이슈를 해결할 수 있는 인력이 부족

하여 기업에 한 의존성이 증가

유지보수 구축업체와 유지보수 업체가 다를 경우 발생할

수 있는 이슈와 같은 경우 발생할 수 있는 이슈에 비 필요

구축기업과 유지보수 기업 간 알고리즘 데이터 처리 방법 등이

명확히 인수인계되지 않을 시 성능 하 발생 가능

※ 데이터의 양과 품질 처리 방법 에 따라 시스템 성능이 좌우( ) AI

구축 유지보수 업체가 같을 경우 유지 보수상의 이슈는 없지만

한 기업이 모든 사업을 독 하게 되는 발생 가능


공공 문 시스템 도입을 위한 정책 방향 AI Ⅲ

□ 공공부 시스템 도입을 한 조달 프로 스 개 방향AI

기존 조달 로세스를 에 맞춰 완 히 변화시키기 어려우므로

행 조달 로세스에서 특성에 맞춘 추가 인 검토 사항

을 더하는 방향으로 조달 로세스 도입 필요

※ 제안요청서 작성 단계 전 점검과 원칙 설정 시스템 구축단계 이해관계자 : , : ① ②

간 사업추진위원회 운영유지보수 단계 지속적인 데이터 모델 관리, · : , AI ③




발주 의 강화 필요AI

단기간에 문성을 갖추기 어려우므로 외부 인재 유치와

장기 인 내부 역량 강화로 발주기 의 문성 강화 필요

외부 인재 유치 데이터 문가 문가 등 외부 문가를

유치해 조직 내 데이터 황 악 정제 서비스 가능한

시스템에 해 지속해서 논의하고 리

내부 역량 강화 발주기 내에서 문성을 가지고 명확한

제안요청서를 작성할 수 있도록 내부 역량 지식 강화 필요

공공부문 도입의 검토를 한 문기 등의 설치를 통해

수요 기 이 련 통합 지원을 받을 수 있는 거버 스 체계 필요

거버 스 윤리 험성 평가 등 발주기 만으로는 한계가 있

으므로 외부의 거버 스 체계를 통해 반 인 검토가 필요

문 지원 공공기 에서 부족한 문 역량을 지원해주고

기술 검토 윤리 인 부분 검토

민간 참여 거버 스의 문성을 해 사업을 진행한 경

험과 노하우를 보유한 민간기업의 참여가 필요

해외 력 거버 스는 윤리 등 국제 논의에 참여하며

에 한 이슈를 논의 국내에 하는 역할 필요

공공부문 시스템 조달 협력 거버넌스 체계도 안< AI ( ) >


데이 시스템 인 양 시, AI

서비스 개발 수요에 응하기 한 험 리 윤리

리 등 새로운 직무 문가 확보 필요

험 리 시스템이 험한 결과를 도출할 수 있는 상

황을 측하고 사 방지체계를 구축할 수 있는 문가 필요

플랜트 자동차 등 대규모 시스템의 경우 안전성 평가 전문성 확보를 , , SW ※

위해 기능 안전 전문가 양성(Functional Safety Engineer)

윤리 리 데이터 알고리즘의 편향으로 인한 결과의

편향 가능성 등 윤리 반을 검토할 수 있는 문가 필요

문 시스템 구축 운 평가 과정에서 나타날

수 있는 시스템 이슈 반을 이해할 수 있는 문 양성

각 전문가는 단계별로 사전 점검 편향 검토 위험관리 등의 역할 수행 , , ※

※ 자동차 산업에서는 이해관계자들이 모여 분석을HAZID(Hazard Identification)

통해 차량의 사고 발생 위험성을 식별

조달 프로세스별 참여 전문가 예시< AI ( ) >

데이터와 문인력 확보가 무엇보다 요하며 최고 인력이

아니더라도 기본 인 지식을 갖춘 인재 양성이 필요

서비스 운 서비스를 원활히 운 하기 해 의 메

커니즘 반을 이해하는 내부 문인력을 확보하는 것이 요

데이터 기술 법 데이터 소유권 정제 가용성 등 기 내부

데이터를 다루기 한 기본 지식을 보유한 데이터 인력 필요



솔루션 이 아닌 의 명확화(Solution) (Challenge)

제안요청서에는 시스템 솔루션의 세부 사항이 아닌 명확한

상을 설명하고 해결하고자 하는 문제에 집 필요

기술은 새로운 기술로 빠르게 발 하고 있어 직면하고 있는

과제와 기술을 설명하고 기술 트 를 활용해 문제에 가장

합한 기술 용 필요

시스템 구축 제안요청서는 를 통해 해결하는 문제를 분

명하게 제시하고 구체 인 솔루션은 구축업체에서 상황에 맞게

최 화된 방향으로 결정할 수 있도록 열린 형식으로 작성 필요

계약 체결 이후 에 한 막연한 기 감을 낮추고 발주기 과

구축업체 간 해결 문제에 한 목표치 등 조율 과정 필요

이를 해서는 발주업체와 구축업체 간 문제 인식 등 공감

형성 과정이 필요

제안요청서 내용 실 가능한 부분과 불가능한 부분을 발

주사와 제안사가 같이 고민하는 차 사업추진 원회 가 필요

이 단계에서 보유한 데이터 해결할 문제를 명확히 인식하고

해결 불가한 사항에 한 안 수립 등 해결방안 모색

시스템으로 해결해야 할 문제를 단계별로 제시하여 사업을

추진하는 것이 실 으로 성공 가능성이 높음

자율주행차가 로 발 단계를 나 것처럼 한 번에 최

종 목표 달성을 요청하는 것보다 단계별 목표 제시가 필요

시스템의 성능이 고도화되면서 해결되어야 하는 문제를

단계 으로 고민하고 목표를 명확하게 제시하는 것이 필요

의 성능 정확도 까지 초기에 높은 목표를 제시한다면 성능 향상을 위해 AI ( ) , ※

연구자들이 데이터 알고리즘 등의 편향성을 유발할 가능성 존재AI ,


구축 구독 클라우드 두 가지 모델에 한 검토 필요 , ( )

시스템 도입 시 기부터 구축하는 방식과 클라우드처럼 구

독해서 도입하는 방식을 고려할 수 있으며 제공하고자 하는 서

비스 특징에 맞춰 장단 을 비교하여 도입 필요

두 가지 도입 방법을 고민할 때는 시스템 도입 목 에 따라

정 기 을 마련해 최 의 방법을 선택하는 것이 필요

구축 구독 클라우드( )

장점 민감 데이터 정보보안 우수,

규칙적인 상황에서의 최적성

유연한 기능 확장 연계·

오류 발생 시 신속한 수정

단점기능 확장 연계의 어려움·

전문인력 지속 보유 어려움

민감 데이터 이용과 보안

데이터양에 따른 초과비용

주요 해결

과제

구축과 유지보수 기업이 다를 경우 구축기업의 데이터 알고, ,

리즘 등 지적 재산권 이슈 발생 가능


두 가지 모델 모두 구축 유지보수 업체가 같은 경우 구축 유지

보수업체가 다른 경우 발생할 수 있는 이슈에 한 응 필요

같은 경우 데이터 리 알고리즘 수정에 한 이슈가 어드는

반면 한 기업이 지속해서 사업을 하는 상 발생

다른 경우 다양한 업체가 참여할 수 있지만 데이터 리

작권 이 알고리즘 수정 응 면에서 리 이슈 발생

구축 유지보수 업체 동일- 구축 유지보수 업체 상이-

장점

데이터 정제 알고리즘 구축AI , 에

참여했던 인력 지속 참여로 기능

수정 등 유지보수 원활

시스템 조달과정에 많은 업AI

체가 참여함으로써 관련 생태계

활성화 및 노하우 축적

단점

시스템 구축에 참여했던 기AI

업이 지속해서 유지보수를 진행

함으로써 타 기업은 사업 참여

기회 감소

학습 데이터 정제 알고리즘 AI ,

학습 과정에 관한 지적재산권

이슈 및 오류가 발생하면 유지보

수 시 제약사항 발생




알고리즘보다 데이 에 을 맞춘 안 작

제안사가 사업의 규모 등을 악할 수 있도록 제안요청서에 데

이터에 한 정보를 명확하게 제공 필요

발주사는 보유한 데이터를 명확히 확인하고 제안요청서 내에

데이터명 용량 속성 등을 명확하게 작성하는 것이 요

발주사가 데이터를 보유하고 있지 않은 경우 데이터 확보 방

안에 해서 구체 으로 제시하는 것이 필요

는 민감 데이터가 아닌 경우 사 에 데이터를 공개하고 민

감 데이터의 경우 일부 샘 데이터라도 제공이 필요

※ 현재 대부분의 시스템은 공개된 모델을 적용하기 때문에 데이터의 품질이 의 AI AI

성능을 좌우

데이터의 추가 정제 등 업무 범 에 변동이 있을 때 소요 액

에 한 명확한 제시가 필요하며 추가 작업에 한 가격산정

도 재보다 훨씬 더 명확하게 작성 필요

업무범 에 변동이 발생하여 사업 액의 추가 인 소요가

발생하면 구축 운 업체 발주기 모두 곤란한 상황 발생

추가 데이터 정확한 데이터양 추가 데이터에 한 비용 처

리 등 데이터 정제에 드는 비용에 한 정확성 향상

데이터 유형 제안요청서상에 의 핵심인 학습용 데이터 생

성 단가 산정 체계를 데이터 유형별로 세분화 필요

※ 예 음식 사진의 라벨링은 일반인이 가능하나 의료용 사진의 라벨링은 전) ,

문의를 통해 라벨링해야 하므로 추가적인 비용이 발생 가능

시스템 인수인계 구축업체와 유지보수 업체가 다를 경우

정제된 데이터 알고리즘 인수인계에 해 방안 제시

의 공공부문 조달 가이드라인에서는 구축업체의 라이센스 비용을 WEF AI ※

발주금액에 포함하는 등 발주기관이 시스템 전체 권한 획득을 권장AI


공공 문 시스템 조달 이슈 연 참여 전문가AI 붙임

공공부문 시스템 조달 이슈 연구 참여 전문가 < AI >

분류 이름 소속 및 직위

기업

김동찬 펜타시스템 책임연구원

김대원 카카오 이사

김연규 팀장 SK Telecom

김영광 웨슬리퀘스트 상무

박준호 전자 전문위원 LG

심규철 제이비티 소장

안준환 마인즈랩 상무

이성웅 상무 IBM Korea

이태희 상무 Microsoft Korea

최인호 선도소프트 본부장

학계 김명주 서울여자대학교 교수

관련

기관

고상원 정보통신정책연구원 실장

조원서 한국산업기술시험원 본부장

전문가 이름은 가나다순※



참고 자료 ☞

한국 보화진흥원 [1] (2019), ‘공공부문 활용 활성화 과 영국의 공공AI :

부문 활용 가이드라인의AI 주요 내용과 시사 ’

[2] OECD(2019), ‘Hello, World : AI and its use in the Public Sector’

[3] WEF(2019), ‘5 challenges for government adoption of AI’

[4] WEF(2019), ‘Guidelines for AI Procurement’

[5] 성공의 핵심 요소로 떠오른 추천 시스템 비즈니스의 본질 먼DBR, ‘ ‘ ’

꿰뚫는 것을 추천’, 2018.7

[6] 구 웨이모 자 주행 택시 이용자 평가ZDNet, ‘ , 70% ’, 2019.8.27

[7] Martech Advisor, ‘Recommendation Engines: How Amazon and

Netflix Are Winning the Personalization Battle’, 2016.6.28.


보고서IT & Future Strategy

호1 (2019. 3. 8.)• 공지능 연 키워드 시사 4「

키워드 간 용 안 해 - 4 : , , , - 」

호2 (2019. 6. 28.)• 신뢰 가능 현 한 책 향AI 「

고안 심- OECD AI 」

호3 (2019. 7. 10.)• 슈 공 략 5G 「」

호4 (2019. 10. 30.)• 민 생각하는 공지능 사회 슈 과 「

미래 지능화 사회에 한 민 식 사 - -」

호5 (2019. 11. 6.)• 지 트랜스포 공 략 「

주 가 책 심 - -」

호6 (2019. 12. 24.)• 우리나라 공지능 수 2019 NIA AI Index - (AI) 「

사 -」

호7 (2019. 12. 31.)• 슈 트 드 망 2020 ICT 9「」

호8 (2019. 12. 31.)• 「공공 시스 도 에 달 야 슈 AI 」

1. 본 보고 는 통신 수행한 보통신 연 개 사업 결과‧

므 , 보고 내용 할 는 드시 과학 술 보통신 보통신「 ‧

연 개 사업」 연 결과 혀야 합니다.

본 보고 내용 단 재 하 가공 용할 는 드시 처 한2. , ‧ 「

보화진흥원 라고 혀 주시 랍니다(NIA) .」

본 보고 내용 한 보화진흥원 공식 견해 다 수 습니3. (NIA)

다.

공공부문 AI 시스템 도입에 따른 조달 분야 이슈 분석IF-8] 공공... ·...

Documents

Transcript of 공공부문 AI 시스템 도입에 따른 조달 분야 이슈 분석IF-8] 공공... ·...