2023-04-14 (星期五)

時下最夯的人工智慧（AI）科技 ChatGPT 自去年 11 月公開以來，除了吸引眾多使用者和媒體報導，現在有多間大型公司開始擔心員工使用 ChatGPT 時，會無意間把公司的機密資料外洩。

Less than a month after electronics giant Samsung introduced ChatGPT to its employees, the artificial intelligence (AI) model has been linked to an alleged leak of confidential information. Sensitive information about the company's semiconductor equipment measurement data is among the content that has now become part of ChatGPT's learning database.

ChatGPT 是 OpenAI 命名的，是「Chat」和「GPT」的組合。「Chat」指的是這個模型被訓練用來進行對話，「GPT」代表生成預測模型（Generative Pretrained Transformer），是一種自然語言處理技術。(Photo by OpenAI.com)

根據韓國媒體 Economist 和 SBS 報導，Samsung 三星在引進聊天型 AI 機器人 ChatGPT 後不久，就發生了機密資料外洩事故，部分 Samsung 內部資料例如半導體設備測量數據和產品良率等，已經被錯誤地存入 ChatGPT 的學習資料庫中。

這些外洩事件主要源於 Samsung 員工在使用 ChatGPT 時的誤用或濫用。報導指出，共發生了 3 次資訊外洩，其中兩次涉及半導體設備，另一次涉及會議內容。Samsung 員工在使用 ChatGPT 查詢問題並驗證答案時，不慎將這些資訊添加到 ChatGPT 的學習資料庫中，若其他使用者在 ChatGPT 上提出相關問題，可能導致 Samsung 的企業機密外洩。

根據華爾街日報 (WSJ) 報導，幾家大公司如摩根大通、威瑞森通訊 (Verizon) 都已封阻 ChatGPT，公司高層也生怕員工會把企業機密分享出去。(Photo by Pexels)

為防止此類事故再次發生，Samsung 正在制定相應的保護措施，如果資訊外洩繼續發生，Samsung 內部可能會切斷 ChatGPT 服務。Samsung 已經通過公告提醒員工注意使用 ChatGPT 的方式，並強調在輸入內容後，相關資料將被傳送到外部伺服器，無法收回，使用時應避免在 ChatGPT 中輸入敏感資料，以防止公司機密外洩。

事實上，ChatGPT 的使用指南也明確要求「使用者不要輸入敏感內容」，這是因為我們在 ChatGPT 輸入內容之後，資料會傳送到外部伺服器，而這些資料也可能成為 OpenAI 的 GPT 訓練工具，讓公眾閱瀏。

Samsung 最初也曾擔心機密外洩，禁止使用 ChatGPT ，但自 3 月 11 日起，Samsung 允許其半導體和裝置解決方案部門（DS）使用 ChatGPT。然而，在放寬政策不到 20 天後，就爆出機密外洩事件，引起了 Samsung 的警惕。作為應對措施，Samsung 緊急將 ChatGPT 提問字數限制在 1,024 字節以下，以降低資料外洩風險。

前 Google 員工，曾作為 Gmail、Adsense 開發者之一的 Paul Buchheit 估計，像 ChatGPT 般的 AI 機器人將在 1 年或 2 年內摧毀 Google 最重要的業務 – 搜尋引擎結果頁。而且，AI 對 Google 將會好像當年 Google 對黃頁（Yellow Page）一般，輕易大獲全勝。(Photo by Pixabay)

AI 的未來充滿了無限的可能，有很多領域可以用 AI 改善生活。ChatGPT 的出現確實可以解決許多難題，為人類帶來方便，然而同時也帶來一些隱憂，有報導指出，當大家使用 ChatGPT 時可能也在無意間向系統透漏過多的個人資訊。事實上，近期就曾有過 ChatGPT 洩漏用戶個資的事故發生，包含用戶的對話紀錄、交易付款資料都遭到外流，再加上用戶使用 ChatGPT 時，OpenAI 並不會限制使用者的年齡，讓不少心智發展尚處幼齡階段的使用者能輕易加入與人工智慧對話，然而他們得到的回答卻有可能「兒童不宜」。

除此之外，用戶使用 ChatGPT 的方法也曾引發許多爭議，目前已有學生使用 ChatGPT 撰寫文章、考試答辯，甚至寫論文，也有公司職員使用 ChatGPT 協助企劃制定，令不少師長和上級十分頭痛，無法拿捏 ChatGPT 的使用限度。

ChatGPT 使用帶來的後續效應，值得大家持續關注。