CxO 시리즈: Accenture의 생성형 AI 구현 팁

저희의 최신 CxO 시리즈 블로그에서는 운영 전반의 자동화를 추진하고 있는 Accenture Operations의 운영기술 부문 지능형 자동화 CTO 샬루 굽타(Shallu Gupta) 씨와 대화를 나눌 수 있었습니다. 저희는 생성형 AI의 등장과 그녀가 Accenture 고객들의 구현 사례에서 어떤 추세를 확인하고 있는지에 대해 대화를 나누었습니다.

지금 맡고 있는 역할과 지금까지 해온 업무에 대해 간단히 소개를 부탁드립니다.

굽타: 저는 22년 넘게 IT 분야에서 근무해 왔고 코어 소프트웨어 개발을 주로 맡아 왔습니다. 지금 저는 Accenture 전반에 걸쳐 최상위 공급사, 전달 팀, 비즈니스 혁신 팀과 협업하여 저희의 비즈니스 목표에 부합하는 기술 전략을 설계하고 있습니다. 저는 저희 기술 로드맵이 전체적인 비즈니스 전략과 일치하도록 해서 빠르게 발전하는 기술 환경 속에서 경쟁력을 유지하도록 하는 데 주력하고 있습니다. 핵심적인 공급업체 및 파트너와 기술 파트너십을 수립하고 관리하는 것도 제 핵심 역할 중에 하나입니다. 그런 업무를 통해 저희는 운영 효율을 높이고 저희의 비즈니스 성과를 향상시킬 수 있는 최신 기술과 솔루션에 접근할 수 있게 됩니다.

자동화 부문 CTO로서 저는 신기술, 산업 트렌드, 최적 방식과 보조를 맞추는 데 전념하고 있습니다. 저는 혁신과 협업 문화를 조성함으로써 저희의 비즈니스 성과에 긍정적인 영향을 미치는 혁신적 변화를 추진하려고 합니다.

AI와 생성형 AI는 고객에게 분명히 가장 우선적이고 시급한 주제일 텐데요. 당신이 확인하고 있는 핵심적인 트렌드는 무엇이고 고객들이 가장 관심을 갖고 있는 분야와 그런 기술들이 가장 잠재력 있는 분야는 무엇인가요?

굽타: 개인적으로 저는 Accenture Operations의 모든 분야에서 생성형 AI의 능력을 활용하기를 간절히 바라고 있습니다. Accenture는 지금 재무, 마케팅, 연구, 인재, 인사 등 많은 부서에서 다양한 실험을 하고 있고 생성형 AI가 발견에서 배포에 이르는 SDLC(소프트웨어 개발 수명주기)의 다양한 단계에 미치는 영향을 측정하고 있습니다. 생성형 AI는 코드 생성, 코드 디버깅을 비롯한 첨단 기능을 통해 개발자의 생산성을 획기적으로 개선해줄 잠재력을 갖고 있기 때문입니다.

저희 Accenture에서는 고객에게 지능형 자동화 솔루션을 제공하기 위해 이미 AI를 활용해 왔습니다. 그러한 솔루션들은 문서 디지털화, NLP(자연어 처리) 기반 자동화, 예측 분석 등 다양한 영역을 포괄하고 있습니다. 저희는 AI 기술을 내장함으로써 고객들이 비용을 절감하고 운영 효율을 개선하며 전반적인 고객 경험을 향상시키도록 도와 왔습니다.

지금의 환경에서 고객들은 점점 단독 솔루션보다는 엔드투엔드 통합이 이루어진 솔루션을 원하고 있습니다. 고객들은 다수의 분절된 도구에 의존하는 대신에 통합된 생태계를 제공하는 종합적인 플랫폼을 선호하고 있습니다. 생성형 AI가 도입되면서 그런 트렌드가 한층 가속화되었고, 특히 NLP와 NLG(자연어 생성)를 강조하고 있습니다. 고객들은 고객 서비스를 향상시키고 대화를 자동화하며 인간이 만든 콘텐츠와 흡사한 고품질의 콘텐츠를 생성하는 기술들을 활용하는 데 깊은 관심을 갖고 있습니다.

비즈니스 목표와 AI 전략을 일치시키는 게 가장 중요할 텐데요. 성공 여부를 측정하는 가장 좋은 방법 같은 게 있나요?

굽타: 예를 들면 다음과 같은 정량적, 정성적 척도가 있을 것입니다.

고객 피드백
비용, 매출, 투자수익률 등의 재무 지표에 미치는 영향
효율, 효과, 생산성 같은 운영 지표에 미치는 영향
직원 만족도(워라밸)

기업이 AI 전략을 구현할 때 특별히 염두에 두어야 할 다른 고려사항도 있나요?

굽타: 기업은 다음과 같은 사항을 염두에 두어야 한다고 봅니다.

기술 격차 분석
기업들은 종합적인 기술 격차 분석을 수행해서 추가적인 트레이닝이나 채용이 필요한 분야를 파악해야 합니다.
커맨드 센터
커맨드 센터는 AI 운영, 성과, 잠재적 문제들에 대한 실시간 모니터링과 감독을 제공하기 때문에 커맨드 센터를 만들면 기업이 AI 시스템을 관리할 때 많은 이점이 있을 수 있습니다.
비용-편익 분석
AI 솔루션이 기업의 전반적인 비즈니스 목표에 부합하도록 하기 위해 기업은 AI 솔루션을 구현하기 전에 반드시 비용-편익 분석을 수행해야 합니다.
효과적인 편향성 관리
견고한 편향성 관리 방식을 구현하기 위해서는 다양하고 대표성 있는 데이터 세트가 있어야 하고 알고리즘을 주기적으로 감사해야 하며 지속적인 모니터링을 통해 편향성을 식별하고 줄여야 합니다. 그렇게 해야 공정하고 투명하며 윤리적으로 AI 기술을 사용할 수 있습니다.
탄탄한 지원 조직 구성
기업은 직원과 이해관계자가 효과적으로 AI 기술을 활용하도록 지원하는 탄탄한 지원 조직을 구성해야 합니다. 안정적인 지원 시스템을 갖추면 문제를 극복하고 원활하게 운영하며 AI 시스템에서 얻는 가치를 극대화하는 데 도움이 됩니다.
적절한 피드백 메커니즘
기업이 지속적으로 AI 전략을 개선하기 위해서는 반드시 피드백 메커니즘을 구축해야 합니다. 피드백은 궁극적으로 혁신을 이끌고 조직과 이해관계자의 변화하는 수요에 AI를 맞출 수 있습니다.

앞에서 나열한 내용들과 함께 이런 추가적인 요소들을 고려하면 기업은 위험을 최소화하고 AI가 운영에 가져올 수 있는 이점을 최대화하면서 AI 전략의 성공 가능성과 효과를 향상시킬 수 있습니다.

기업이 주의해야 할 중요한 장벽에는 어떤 것들이 있나요?

굽타: 가장 중요한 장벽은 데이터 프라이버시와 보안일 것입니다. 기업은 데이터를 취급, 처리, 보호, 사용하는 방법을 확실히 파악해야 합니다. 기업이 저작권 이슈를 해결하고 편향성 없는 결과를 생성하며 일관성을 확보하는 것도 중요합니다.

기업은 현재 채택한 전략의 장기적인 지속 가능성을 어떻게 보장할 수 있을까요?

굽타: AI의 발전 과정에서 저희는 많은 기회를 확인하고 있고, 기업들은 그것을 채택해야 한다는 압박을 받고 있습니다. 혁신은 많은 기회를 줄 뿐만 아니라 책임도 유발하기 때문에 저는 모든 기업이 책임 있는 사고를 해야 한다고 말하고 싶습니다. 기업들이 고려해야 할 몇 가지 사항을 예로 들어 보죠.

먼저 AI 여정을 시작할 분야를 식별하고 장기적인 채택 로드맵을 계획합니다.
필요한 기술들을 계획하고 리소스에 기술을 도입하고 발전시킬 전략을 구축합니다.
성공 여부를 측정할 주요한 지표들을 식별합니다.
앞으로 사용할 모델들과 제한사항을 이해합니다.
관련 규정을 준수하기 위한 건실한 거버넌스 모델을 수립합니다.
AI 시스템을 운영하기에 앞서 최적의 테스팅 및 품질 검사 방식을 구축합니다.
이슈를 즉각적이고도 영구적으로 해결하기 위해 시스템을 지속적으로 모니터링할 시스템과 숙련된 지원 모델을 구축합니다.
강력한 피드백 메커니즘을 구축합니다.

앞으로 12~24개월 동안 생성형 AI가 어떤 자리를 차지할 것으로 보십니까?

굽타: 생성형 AI의 기술 스택이 내부적으로 계속 발전하고 있다는 사실은 소비자에 대한 효과가 앞으로 더욱 개선될 것임을 보여주고 있습니다. 앞으로 기업들은 내부 자료를 이용하여 생성형 AI를 자신들의 응용 분야에 매끄럽게 통합함으로써 소비자의 구체적인 수요에 맞춰 기술을 세부적으로 조절할 능력을 갖게 될 것입니다. 기업의 요구조건에 따라 기존 모델을 미세 조정하는 데 관련된 기술 수요가 급증할 것으로 예상됩니다. 저는 개발자와 엔지니어들에게 프롬프트 엔지니어링 기술이 앞으로 더욱 중요해질 것으로 보고 있습니다.

빠른 발전과 함께 이미 새로운 모델들이 등장하고 있고 저희는 향후 1~2년 안에 사전 훈련된 더욱 성숙한 모델들이 더 많이 출시될 것으로 예상하고 있습니다. 그러한 모델들은 기업들이 고유한 비즈니스 목표에 부합하는 생성형 AI 솔루션을 구현할 능력을 향상시키고 추가적인 대안들을 제공할 것입니다.