CIO가 생성형 AI를 도입하기 위해 IT 전략을 변화시키는 방법

IT 리더라면 지금쯤 생성형 AI 버그를 발견했을 가능성이 높으며, 회의적인 시기를 거쳐 그 기능을 테스트하기 시작했을 것입니다. 또한 과장된 성과를 실제 가시적인 성과로 완전히 전환하는 데 어려움을 겪었을 수도 있습니다. 물론 새로운 기술을 도입하기 전에 과장된 면에 현혹되지 않고 적절한 거버넌스, 감독 및 표준을 확보하는 것은 IT 리더의 역할입니다. 기술 기업의 CIO인 저는 다른 업종의 동료들보다 종종 이 단계를 더 빨리 겪습니다. 지난 몇 달 동안 기술을 실험한 결과, 시간이 지남에 따라 생성형 AI가 IT 리더의 전략을 어떻게 변화시키는지에 대한 몇 가지 결론에 도달했습니다.

애플리케이션 포트폴리오 간소화

지난 몇 년 동안 대부분의 CIO는 디지털 트랜스포메이션이라는 명목으로 SaaS 애플리케이션을 대량으로 구매해 왔습니다. 특히 사용자 지정 애플리케이션을 구축하는 데 장기적으로 드는 높은 비용을 고려하면 이는 잘못된 것이 아닙니다. 구독은 논리적인 선택이었습니다. 하지만 특정 비즈니스 문제 하나만 해결하는 포인트 솔루션을 구입하는 경우가 많았습니다. 생성형 AI는 새로운 기회를 제공합니다.

자동화 플랫폼과 결합된 생성형 AI를 사용하면 새로운 도구를 구매하지 않고도 빠르게 솔루션을 구축할 수 있습니다. 저희 팀의 평가에 따르면, 생성형 AI 기능을 사용하여 내년까지 앱 포트폴리오를 5~10% 줄일 수 있을 것으로 기대하고 있습니다.

동시에 매번 맞춤형 솔루션을 구축하는 것이 합리적이지 않을 수도 있습니다. 모든 공급업체가 포트폴리오에 생성형 AI 기능을 추가하는 방안을 검토하고 있으므로 로드맵을 주시하여 곧 출시될 기능을 회사에서 자체적으로 구축하는 것은 아닌지 확인하는 것이 좋습니다.

사용자 경험 재구상

지난 20여 년 동안 애플리케이션은 멀티 테넌트 클라우드 플랫폼에서 실행되고 모바일 친화적으로 진화하면서 접근성이 더욱 향상되었습니다. 하지만 핵심 아키텍처는 변하지 않았습니다. 여전히 정형 데이터를 기대하는 데이터베이스 위에서 실행되는 양식 기반 사용자 인터페이스를 활용합니다. 생성형 AI는 비정형 데이터를 활용하고 인간과 유사한 답변으로 응답함으로써 핵심 아키텍처와 경험에 도전합니다.

예를 들어 Salesforce CRM에서는 영업 담당자가 견적서를 받기까지 4~5개의 화면을 탐색하고 15번 클릭하는 데 약 15~20분이 소요됩니다. 보다 지능적이고 응답 속도가 빠른 채팅 환경을 통해 동일한 기능을 제공할 수 없는 이유는 무엇인가요? 보고서와 대시보드를 가져올 때도 마찬가지입니다.

최근에 저희 팀은 내부 직원이 잠재 고객의 LinkedIn 프로필을 보고 회의 예약, 장비 주문, 영업 이메일 초안 작성 등의 기본적인 작업을 대화식으로 수행할 수 있는 방법을 발표했습니다. 이를 자체 자동화 플랫폼과 결합하여 기능을 확장하고 수백 가지의 일상 업무를 위한 참여 시스템으로 전환할 수 있을 것으로 기대합니다.

데이터 처리 간소화

IT 리더에게 모든 프로젝트에서 가장 싫어하는 작업이 무엇인지 물어본다면 대다수가 데이터 변환과 정리를 꼽을 것입니다. 다양한 형식의 데이터를 시스템이 이해할 수 있는 구조로 변환하기 위해 수백 줄의 코드를 작성해야 하기 때문입니다. 안타깝게도 대부분의 강력한 분석 도구는 데이터 변환 및 통합을 파악한 경우에만 성공할 수 있습니다.

LLM 모델의 가장 멋진 기능 중 하나는 다양한 형태로 존재하는 데이터를 이해할 수 있다는 점입니다. 생성형 AI는 데이터 변환 및 정리에 필요한 단계를 줄여 데이터 분석 전략을 변화시킬 것으로 기대합니다.

팀 구조 개편

저는 자동화 기업에서 근무하고 있습니다. AI는 항상 지능형 자동화 여정의 일부였습니다. 그러나 생성형 AI로 인해 CIO가 팀 구조를 다시 한번 살펴봐야 한다는 사실이 분명해지고 있습니다. 자동화 프로그램을 구축하는 것과 마찬가지로 조직의 모든 측면을 지원하는 AI를 위한 수평적 그룹을 만드는 것도 고려할 수 있습니다. 이를 위해 저는 조직의 모든 부서에서 생성형 AI 전략을 공유하고 공개하도록 요청하고 있습니다.

기술 측면에서 시간이 지남에 따라 UI 개발자보다는 대화형 기획자를 우선적으로 고용해야 할 수도 있습니다. 마찬가지로, 신속한 엔지니어링을 통해 AI 모델을 훈련하는 것도 투자를 고려할 또 다른 기술입니다. 저는 또한 단기적으로 인재 공백을 메우기 위해 파트너 전략을 재검토하고 있습니다. 하지만 가장 큰 도전은 조직의 관성입니다. 이를 극복할 수 있는 유일한 방법은 팀원 개개인의 목표에 생성형 AI를 반영하는 것입니다.

예산에 미치는 영향 해결

새로운 기술에 대해 아무리 기대가 크더라도 지금은 예산 증액을 요청하기에 좋은 시기가 아니라는 것을 우리 모두가 알고 있습니다. 그렇다면 AI 프로그램에 어떻게 자금을 지원해야 할까요?

저라면 가장 많은 비용을 지출하는 팀, 즉 일반적으로 CRM 및 ERP 팀을 살펴보는 것부터 시작해 보겠습니다. 이러한 도구의 기본 기능은 반드시 필요하지만, 자동화 및 생성형 AI를 활용하여 ERP의 핵심은 깔끔하고 단순하게 유지하면서 비용이 높은 사용자 지정을 피할 수 있는 진정한 기회가 있습니다. 이 모든 것들이 이러한 도구의 기본 기능에 영향을 주지 않고도 가능합니다. Automation Anywhere에서는 자체 개발한 Automation Co-Pilot을 사용하여 생성형 AI와 자동화의 기능을 기본적으로 ERP 환경에 결합하고 있습니다.

새로운 도전 과제 탐색

AI의 잠재력에 대한 기대만큼이나, 생성형 AI가 내린 결정의 책임성에 대한 새로운 도전 과제가 있습니다. 우리와 같은 IT 리더는 우리가 관리하는 프로세스에 대한 규칙 집합을 정의하는 데 익숙합니다. 하지만 규칙 없이 애플리케이션 동작을 제어하는 것은 우리 모두에게 새로운 도전 과제입니다. 이를 염두에 두고 중요한 작업에는 사람이 직접 참여하고 결과를 지속적으로 검토하는 것을 강력히 권장드립니다.

또한 IT 조직이 법무팀과 긴밀하게 협력해야 할 필요성이 훨씬 더 광범위하게 요구되고 있습니다. 생성형 AI는 기존 기업 정책의 한계를 뛰어넘을 것이므로, 경험을 통해 학습하면서 이러한 정책을 업데이트하는 것이 반드시 필요합니다. 조직 내에 AI 거버넌스 위원회를 구성하여 AI에 관한 모든 사항을 논의하고 조율하는 것을 고려해 보십시오.

자신감 있게 새로운 시대 선도하기

생성형 AI는 IT 리더를 포함한 모든 사람에게 새로운 개념입니다. 하지만 조직의 기술 리더로서 우리는 고객 또는 직원 데이터의 보안과 개인정보 보호에 영향을 주지 않으면서 올바른 기대치를 설정하고 방향을 제시해야 합니다. 우리는 모두 새로운 아이디어를 시도하는 과정에서 몇 가지 실수를 하게 될 것이며, 그 과정에서 함께 배우고 업계를 위한 모범 사례를 정립해 나갈 것입니다.