擁抱帶來無限可能的技術：資訊長的 GenAI 歷險記

身為資訊長，我親眼見證了生成式 AI (GenAI) 的轉型力量。我可以坦白說，這項技術並非可有可無，而是所有現代企業都必須重視的策略性要務。我們身為 IT 主管的職責，就是從成本、規模和體驗這三個部分進行最佳化。GenAI 的優點在於不僅有潛力能提供協助，還能為各部分的可能性改寫規則。

身為自動化產業的領導者，採用 GenAI 對我們而言，就像乘著巨大的創新浪潮前進，需要靈活、勇敢和積極的心態，才能因應這波變革。更重要的是，GenAI 僅用一年就為我們開啟了新世界，提供各種以往無法企及的機會。

身為 IT 主管，我們無法坐等未來降臨，而是必須主動創造未來。如果您正考慮進入 GenAI 的世界，或是想尋求前輩的深入見解，這篇部落格文章正是為您而寫的。這系列部落格文章將與您分享我們採用 GenAI 的旅程、在過程中面臨的挑戰，以及我們取得的成功。我由衷希望這些文章能為您帶來啟發，讓您也能與我們一樣，充分善用 GenAI 帶來的絕佳機會。

第 1 章：Automation Anywhere 生成式 AI 旅程的起點

我們展開這段旅程時，是第一波採用 GenAI 的企業，一開始我們充滿困惑和疑慮。回顧採用 GenAI 初期 (難以想像這只是一年前的事)，企業對這項技術的發展潛力和相關風險抱持懷疑態度，但我們可以理解，企業對 GenAI 充滿疑問，不確定這項技術能達成哪些業務目標。在許多方面，GenAI 呼應了雲端技術的進化與採用趨勢。

面對這股趨勢，我們無法選擇慢慢來或是在旁觀望。

原因有二：我們的企業文化與所屬產業。嘗試新事物，是深植於 Automation Anywhere 的文化之中。我們將始終站在第一線的奉獻精神，轉化為正式營運計劃「Customer Zero」。這項計劃的目標是藉由對自身進行實驗，加深我們的瞭解，進而為客戶開發出實證有效的解決方案。因此 GenAI 進入市場時，我們自然是等不及想開始使用。然而，我們並未做足準備來應對這項技術帶來的巨大影響。

因為身為智慧自動化的領先企業，GenAI 問世代表我們的產業將發生顛覆性變革。

第 2 章：面對顛覆性變革並接納風險

顛覆是很常用的籠統詞彙。不過在這個案例中，沒有比顛覆更貼切的詞彙能形容 GenAI 對所有產業帶來的劇變。這項技術立即在智慧自動化產業掀起了一波顛覆性變革。

業界最初對這波變革的反應是恐懼，這點我們無可否認。然而我們仍需繼續營運，不可能幻想有顆水晶球可為我們預測這項技術的未來發展趨勢或市場走向。我們其實沒有其他選擇，因為真正的勇氣並非無所畏懼，而是即使畏懼也能繼續前進，這是我們必須體現的原則。

我總是從資訊長的角度捫心自問：我負責治理和企業安全性，如果無法為所有問題找出答案，該如何放心部署 GenAI？務必記住，每次掀起技術革命時 (例如 iPhone 為行動裝置科技帶來的全面翻轉)，沒有人能提前掌控一切。顛覆性變革總會先發生。

大眾最常提出的顧慮 (尤其是在一開始) 總是關於隱私權和安全性的問題。身為資訊長，導入 GenAI 等新技術時，我的首要考量絕對是資料安全性。保護 PII、專有業務資訊等機密資料免於未經授權存取或不當使用，至關重要。

我們知道 GenAI 會對企業資料安全性帶來潛在威脅。那麼，我們如何因應？就資料隱私權而言，我們決定僅使用公開或非機密資料，直到我們更加瞭解 GenAI 帶來的影響，且能開發出具體解決方案為止。

在這段旅程中，每當走到轉折點，我們都會遇上新問題，而且對於其中大多數問題，我們都還沒得到滿意的答案。我們必須決定要等待答案自行浮出，或親自找出答案。重要劇透：回頭看看，我可以告訴您，我們遇到的每個問題和障礙都有因應措施。

第 3 章：順應機會重新制定計劃和目標

我們歷經數月自行深入研究後，充分理解了 GenAI 的發展潛力，也就是這項技術帶來的機會。而我們在 GenAI 旅程的這個時刻，到達了實踐和重設的階段。根據美國海軍海豹部隊的首要指導原則，因應意外狀況的有效做法是瞭解實際狀況及目前處境。我們發現必須擱置目前所有計劃，一切都要重新制定。我個人可以證明，GenAI 改變所有事物的說法絕對不是誇大其詞。

因此我們決定不顧一切，全心全意投入並認真深入研究。我們審視公司和技術平台的業務核心，也就是自動化技術的建置模塊，瞭解 GenAI 能在哪些層面帶來影響，以及如何提供協助。一如預料，我們很快就發現答案是各種層面。

舉例來說，以往的自動化輸入內容有所限制，只能仰賴預先結構化的資訊，非結構化資料則需經過預先訓練才能用於自動化業務流程。不過，現在輸入資料和資訊支援幾乎任何想得到的格式，也不需要預先訓練。此外，多虧有 GenAI，輸出內容也支援任何形式，無論是影像或投影片都不成問題。即使是自動化本身，最終可能只要以自然語言與 GenAI 對話，GenAI 就會參照過往資料，按脈絡產生流程規則集，而不需經過定義和程式設計。

GenAI 突破了現有的自動化界限。

我們開始重新評估業務與產品發展方向的每個要素，並調整現有計劃和投資，以充分利用 GenAI 的巨大潛力和加速能力。由於這波變動的實際影響擴及日常業務和產品開發活動，因此新計劃也代表新的目標關鍵成果 (Objective Key Result，OKR)。

我們的技術堆疊也同樣經歷了顛覆性變革。我們必須判斷需要或不再投資哪些工具和技術。我們究竟想要什麼樣的 GenAI 工具？哪些技術能協助我們以新方式運用嵌入日常任務中的 GenAI？

第 4 章：擁抱帶來無限可能的技術

到了 2023 年 4 月，我們學到許多 GenAI 相關知識，但仍有很多不足之處。這時，我們克制住粉飾問題嚴重性並做出假設的想法。我們已能看到初步基礎逐漸成形，因此會忍不住想開始進一步建構這個基礎。然而，這其實是錯誤的途徑。缺乏完善的知識，就無法奠定基礎。

我們知道，若要更充分掌握 GenAI 的全貌，深入探究並瞭解以往不知道的知識相當重要。因此，我們開始認真進行實驗。

實際上，我們相當投入，並憑藉這股幹勁發起了一場名為「Demo Royale」的全公司競賽，透過良性競爭讓員工運用自身專業領域知識，探索並找出可讓 GenAI 立即發揮效用的實際應用方式。全公司將近一半的員工參與了這項活動。參賽者總共提交了 200 多個詳細使用案例，讓我們難以從中決定優勝者。

最終我們只能宣布多人並列第一，優勝者可獲得 $10,000 美元獎金。大家試著使用這項技術進行實驗後，對我們可執行的項目提出許多想法和願景，並展現出滿腔熱忱，而這些影響只是冰山一角。

在這場競賽期間製作的試驗計劃啟發了我們許多的團隊。例如：客戶支援與 IT 團隊為客戶和內部員工，提供自動化 L1 與 L2 端對端支援。全球化團隊最後將影片內容的語言翻譯作業自動化，行銷團隊將客戶案例研究的建立流程自動化，IT 組織則推出了 AI 助理「Jarvis」的內部版本。

第 5 章：以適當的 GenAI 模型奠定基礎

那麼，我們該如何付諸實踐？我們終於面臨這段 GenAI 旅程中最重要的問題。在這個階段，我們開始奠定基礎，找出讓 GenAI 運行的建置模塊。

為了將想法和使用案例化為現實，我們需要選擇一個團隊來掌握 GenAI 技術。相關技能組合應由哪個團隊掌握？哪個團隊或業務部門應成為企業內的 GenAI 中樞？從我們的卓越中心 (Center of Excellence，CoE) 和自動化團隊開始最簡單。GenAI 是 CoE 一直進行的專案，他們每天都在第一線實作、學習及精進 GenAI 技能組合。

至於自動化團隊則正在快速成長 (而且絕對還在學習中)，並開始採納業務團隊提供的想法和機會。我們隨即著手使用 GenAI，實際建立自動化功能。我最滿意的例子，就是使用 GenAI 進行合約審查自動化。這項功能可節省 4,000 個小時，相當可觀。不過從許多方面來看，我認為更重要的是，GenAI 如何消除團隊之間的挫折感，以及流程中的阻礙。

我們必須從政策方面做出選擇。我們如何引導員工瞭解哪些是恰當或不恰當的行為？我們是否應允許他們使用免費提供的第三方 AI 應用程式？他們是否可以在內部使用任何自己喜歡的 AI 模型？他們可以透過採用 AI 技術的應用程式分享哪種資料？

這時，我們已經面臨這段旅程的另一個重要問題：我們應該投資哪個大型語言模型 (large language model，LLM)？為此，我們與一位長期合作夥伴聯絡，最終選擇兩種模型來繼續運用。此外，我們也瞭解到訓練適當資料集相當重要，能讓模型成為企業知識的延伸。

訓練及微調我們所選的 LLM，是這個案例中最複雜的部分，而這並非誇大其詞。

GenAI 潛藏準確性和「幻想」風險，在經過訓練的專業範圍外使用 GenAI，更有可能發生這種問題。我們從經驗中學到，務必使用自己的企業資料訓練所選的模型。當然，您還需要測試模型，然後再次測試。

接下來，我要回到隱私權控管的問題，因為我一直收到 IT 主管對這方面的意見。我們瞭解，GenAI 的安全性與隱私權疑慮來自其分層結構，包括基礎模型、供應商和任何第三方元件。因此，我們初期才會選擇使用已公開與社群分享的非機密資料。我們原本便計劃這麼做，直到我們找出方法，能先為機密資料加上遮罩，再與 AI 提示分享為止。

在這段旅程中，我們還做了另一項重大決策：「決不讓資料離開企業」。雖然部分 AI 模型供應商在建立模型方面的表現相當出色，但這些模型仍未成熟到足以妥善保護我們的資料，因此我們難以信任。也就是說，我們會在伺服器上代管模型，以便完全掌握及控管存取者及存取原因。

我們體認到，企業要同時保障安全性、隱私權並控管準確性，最有效的方式就是透過安全的智慧自動化平台運用 GenAI，而這也是我們一直致力為您開發的項目。平台會利用內建的治理和安全防護機制，協助進行各系統和使用者間的端對端協調，讓企業能安全有效地使用 GenAI。

令人振奮的是，在將 GenAI 嵌入自動化成功平台方面，我們取得了重大進展，提供內建企業安全性、治理、稽核軌跡及合規工具，能讓您安全使用 GenAI，並建立 GenAI 使用防護機制。

第 6 章：引領創新

現在我們正在進行一場完全公開的創新競賽，這讓我相當興奮。GenAI 加快了 AI 和自動化的普及速度。「如何完成業務」成為一個 AI 優先的問題。您還記得第一次看到整合式自動化系統的情形嗎？一旦您瞭解自動化的力量和能力，就無法再用以往的方式看待業務流程。

現在的 GenAI 也是如此。這就是 AI 優先的思維，因為 GenAI 讓人人都能使用這項技術。AI 的智慧加上自動化的行動力，完全是天作之合。建立 AI 模型的障礙包括費用高昂、複雜、需要專家耗費時間開發等等，如今這些障礙都已消失。AI 可應用在各種層面，就像是吃到飽自助餐。

我不打算就這方面在此深入討論，不過這讓我們重新開始討論，向外採購或是自行建立才能滿足企業技術需求。現在我們重新將自行建立納入考量，雖然還不到確立為預設做法的程度，但視您要解決的問題而定，這可能確實是較實惠且具擴充性的選擇。這在我們對 UI 的需求不斷改變的情況下更是如此，因為我們現在可以改為將工作流程與 GenAI 對話介面結合。

我們仍不斷發掘出 GenAI 的豐富價值。此時，我們已投入心力與業界同行合作，構思各種想法並建立未來發展藍圖。