리더들, 책임감 있는 AI 관행에 책임 지고 행동 해야

-- PwC, 새 보고서 발표

다롄, 중국, 2019년 7월 4일 /PRNewswire/ -- PwC의 새 보고서에 따르면, 책임감 있는 인공 지능(AI) 관행이 전 조직으로 통합되고, AI 발전 이전에 이를 고려해야만 15조7천억 달러에 달하는 AI의 경제적 잠재력[1]이 실현될 수 있다고 한다.

이번 주 PwC가 발표한 새로운 툴킷에 따르면, AI의 발전과 통합에 대한 단편적인 접근법(조직이 잠재적인 위험에 노출)을 방지하려면 조직이 책임감 있는 AI 관행에 대한 포괄적인 이해, 발전 및 통합이 필요하다고 한다.

PwC는 조직이 구체적인 AI 전략, 설계, 개발 및 설치를 위해 집중하고 맞춤해야 하는 5개 영역을 소개했다. 해당 5개 영역은 '거버넌스', '윤리와 규제', '해석과 설명 능력', '견고함과 보안', 그리고 '편견과 공정'이다.

이들 5개 영역은 AI 발전에 전략적 기획과 거버넌스를 도입하는 데 중점을 두며, 공정성, 신뢰 및 책무성에 관한 대중의 우려를 타파한다.

올해 초 85%의 CEO들이 향후 5년 이내에 AI가 사업 방식을 크게 바꿀 것으로 예상했고, 84%는 AI 기반 결정을 신뢰하기 위해서는 그에 대한 설명이 가능해야 한다고 언급했다[2].

PwC 미국 국제 AI 리더 Anand Rao는 이번 주 다롄에서 열린 세계경제포럼에서 다음과 같이 연설했다.

"대부분의 사업 리더는 AI의 윤리와 책임감 문제를 분명히 우려하고 있다. 기업의 중역은 AI 발전을 위해 책임감 있고, 윤리적인 전략을 포괄적으로 통합하는 작업을 적극적으로 추진하고 진행해야 한다. 그 목적은 한 세대에 한 번뿐인 AI의 사업 및 사회적 변혁과 경제적으로 잠재적인 수익 간에 균형을 맞추는 것이다. 둘 중 하나만 없어도 근본적인 명성, 운영 및 재정 위험에 노출될 것이다."

PwC의 책임감 있는 AI 툴킷에 포함된 진단 조사는 기업이 책임감 있고, 윤리적인 AI 관행에 대한 이해와 적용을 평가하도록 지원한다. 2019년 5월과 6월에 AI 개발과 설치에 종사하는 약 250명이 이 평가 설문에 응답했다.

조사 결과, 책임감 있고 윤리적인 AI 관행의 이해와 적용에서 미숙하고 비일관적인 면이 드러났다.

• 응답자 중 AI 솔루션 시행 전에 윤리적 시사점을 우선 고려하겠다고 답한 비율은 25%에 그쳤다.
• 응답자 5명 중 1명(20%)은 AI와 관련된 위험을 파악하기 위한 과정을 명료하게 정의했다. 60% 이상이 개발자나 비공식적인 과정에 의존하거나 문서화된 절차가 없었다.
• 윤리적인 AI 체제 또는 고려가 있기는 했지만, 시행은 일관적이지 않았다.
• 56%는 기업 AI에 무언가 문제가 생겼을 그 원인을 정확하게 파악하기가 힘들 것이라고 답했다.
• 응답자 중 절반 이상이 편견에 대한 AI 평가 방식을 갖추고 있지 않았으며, 그 이유로 지식, 도구 및 즉석 평가 부족을 언급했다.
• 대규모로 AI를 적용하고 있는 응답자 중 39%가 AI가 잘못될 경우 멈추는 법을 "어느 정도" 확실하게 알고 있다고 답했다.

PwC 미국 국제 AI 리더 Anand Rao는 "AI는 기회를 제공하는 한편, 신뢰와 책무성 문제를 내재하고 있다"라며 "AI의 생산성 목적을 달성하기 위해서는 통합적인 조직과 직원 전략 및 기획이 있어야 성공할 수 있다. 기업의 중역은 확실히 조직 내 현재와 미래 AI 관행을 검토하고, 잠재적인 위험에 대한 질문뿐만 아니라 적절한 전략, 제어 및 과정이 있는지 파악하기 위한 질문도 해야 한다"고 언급했다.

이어 그는 "AI 결정은 인간의 결정과 다름없다"며 "사례마다 자신의 선택을 설명하고, 그와 연관된 비용과 영향을 파악해야 한다"고 말했다. 또한, "이는 비단 편견 감지, 수정, 설명 및 안전하고 보안이 확실한 시스템을 구축하기 위한 기술 솔루션에만 해당하는 것은 아니다"라면서 "첫날부터 기술이 사업에 미치는 영향을 윤리와 책임감 차원에서 고려하는 새로운 수준의 총체적인 리더십이 필요할 것"이라고 강조했다.

이번 주 다롄에서 열린 세계경제포럼 발표식에서 PwC China의 글로벌 기술, 매체&통신 리더인 Wilson Chow는 "책임감 있는 AI를 위한 초석은 포괄적인 기업 거버넌스"라면서 "조직이 책무성, 조정 및 제어에 관한 질문에 답할 수 있는 능력은 중국이 야심 찬 AI 성장 전략을 시행할 수 있는 결정적인 요인이 될 것"이라고 덧붙였다.

PwC의 책임감 있는 AI 툴킷은 유연한 확장성 국제 역량 라인으로 구성되며, 기업의 독특한 사업 요건과 AI 성숙도에 따라 AI 평가와 발전을 가능하게 하고, 지원하도록 설계됐다.

편집자 주:

1. 2019년 5월과 6월에 약 250명의 선임 사업 임원들이 PwC의 책임감 있는 AI 진단 설문지를 작성하고, '거버넌스', '윤리 및 규제', '해석과 설명 능력', '견고함과 보안', '편견과 공정성' 등과 같은 책임감 있는 AI 5개 영역에서 AI 솔루션의 개발, 설치 및 지속적인 관리를 평가했다. PwC의 책임감 있는 AI 툴킷에 관한 추가 정보는 www.pwc.com/rai를 참조한다.

2. AI 투자를 도모하는 주요 요인으로는 효율성 증대, 지속가능한 의사결정 지원(AI for Good[https://aiforgood.itu.int/ ]), 수익 개선, 혁신 및 위험 완화 등이 있다.

3. 2017년, PwC는 2030년에 세계 GDP가 AI 덕분에 14%(15조7천억 달러) 증가할 것으로 예상했다. 추가 정보는 https://www.pwc.com/gx/en/issues/data-and-analytics/publications/artificial-intelligence-study.html을 참조한다.

4. 세계경제포럼의 연례 뉴 챔피언 회의(Meeting of the New Champions)에 참석한 PwC의 활약을 더 자세히 보려면 www.pwc.com/amnc를 참조한다.

PwC 소개

PwC의 목적은 사회에서 신뢰를 구축하고, 중요한 문제를 해결하는 것이다. PwC는 158개국에 위치한 기업들의 네트워크로서, 250,000명이 넘는 회원들이 양질의 보증, 자문 및 세금 서비스를 제공하는 데 전념하고 있다. PwC에 관한 추가 정보 및 중요하다고 생각되는 사안 제보는 www.pwc.com을 참조한다.

PwC는 PwC 네트워크 및 하나 이상의 PwC 회원사를 지칭한다. 각 PwC 회원사는 별도의 법인이다. 더 자세한 내용은 www.pwc.com/structure를 참조한다.

(c) 2019 PwC. 모든 권리 보호.

[1] PwC's Global Artificial Intelligence study, Sizing the Prize [https://www.pwc.com/gx/en/issues/data-and-analytics/publications/artificial-intelligence-study.html]

[2] PwC's 22nd Global CEO Survey [http://www.pwc.com/ceosurve]

PwC 트위터: @PwC [https://twitter.com/PwC]