自誕生之日起即炙手可熱的ChatGPT，因安全風險而廣受科技巨頭們審視，這一次出手的是萬億巨頭三星。

(資料圖)

據外媒報道，近期三星電子已在內部備忘錄告知員工，停止使用ChatGPT和Bard等生成式AI工具，理由是擔心會帶來安全風險。

三星的擔心并非空穴來風。據此前消息顯示，三星電子引入聊天機器人ChatGPT不到20天就發生了3起涉及ChatGPT的事故。與此同時，目前多家國際投行及科技公司均對ChatGPT持謹慎態度。

不過，雖然暫停員工使用ChatGPT類工具，但這并不意味著三星對AI采取封閉式態度。據國外科技媒體報道，近日三星向旗下所有的手機以及平板電腦產品推送了微軟BingAI更新，在這一更新完成后，三星用戶可直接通過手機或者平板使用微軟BingAI。

來看詳情——

禁止員工使用生成式AI

違者可能遭解雇

據外媒周一報道，三星電子已在內部備忘錄告知員工，停止使用ChatGPT和Bard等生成式AI工具，理由是擔心會帶來安全風險。

報道稱，內部備忘錄表示，三星電子擔心傳輸到谷歌Bard和微軟Bing等人工智能平臺的數據存儲在外部服務器上，難以檢索和刪除，最終可能會泄露給其他用戶。

內部備忘錄顯示，三星電子上個月進行了一項關于內部使用AI工具的調查，其中65％的受訪者認為此類服務存在安全風險。今年4月初，三星工程師將內部源代碼上傳到了ChatGPT，目前還不清楚這些信息包含什么。

與此同時，三星正在開發自己的內部AI工具，用于翻譯和總結文件以及軟件開發，還在研究阻止敏感公司信息上傳到外部服務的方法。“總部正在審查安全措施，以創造一個安全的環境，以安全地使用生成式AI來提高員工的生產力和效率。但是，在準備好這些措施之前，我們暫時限制生成式AI的使用。”

據了解，三星電子的新政策禁止在公司自有的電腦、平板電腦和手機以及內部網絡上使用生成式AI系統，不會影響銷售給消費者的設備，例如Android智能手機和Windows筆記本電腦。

另外三星在備忘錄中表示：“我們要求您認真遵守我們的安全指南，否則可能會導致公司信息泄露，違者進行紀律處分，甚至包括解雇。”

曾出現資料外泄事故

不到20天3起

三星此次采取備忘錄的方式提醒全體員工之舉，并非空穴來風。

據此前消息顯示，三星電子引入聊天機器人ChatGPT不到20天就發生了3起涉及ChatGPT的事故。3起事故中，其中2起與半導體設備有關，另一起與內部會議有關。具體為：

案件一，三星設備解決方案部門的職員A在半導體設備測量資料庫下載軟件時，發現源代碼出現錯誤，便將有問題的部分復制到ChatGPT中尋找解決方案。

案件二同樣發生在設備解決方案部門，職員B將用于識別產品良率的程序代碼輸入進ChatGPT，要求其優化代碼。

案件三是該部門的職員C為了制作會議記錄，將手機上的會議內容轉換為文檔，之后將文檔輸入進ChatGPT。

相關報道稱，前兩起案件已分別導致三星公司的半導體設備測量資料、產品良率等機密內容錄入到ChatGPT的學習資料庫中。

不難發現，上述三起泄密事件均發生在三星電子半導體暨裝置解決方案（Device Solutions）部門。此前，三星曾因擔憂內部機密外泄而禁用ChatGPT，但基于半導體是“生成式AI”的建構基礎，三星自3月11日起允許DS部門使用ChatGPT。

對于上述泄密事件，三星方面回應，已加強ChatGPT相關的安全措施，將進一步收緊內部監管和員工培訓。公司還特地發布公告叮囑員工注意使用ChatGPT的方式，如果再次發生類似事件，內部可能會切斷ChatGPT服務。

三星通過內部公告警示說：“在ChatGPT中輸入內容的瞬間，數據就會發送到外部服務器并存儲，公司無法收回。如果ChatGPT學習相關內容，敏感內容可能會提供給不特定的多數人。”

已推送微軟Bing AI更新

雖然暫停員工使用ChatGPT類工具，但這并不意味著三星對AI采取封閉式態度。

據外媒報道，三星近日向旗下所有的手機以及平板電腦產品推送了微軟Bing AI更新，在這一更新完成后，三星用戶可直接通過手機或者平板使用微軟Bing AI。

據韓媒今年3月報道，三星電子DX部門負責人韓鐘熙（副會長）21日在首爾舉行的新產品發表活動中表示，將集中全部力量擴大機器人事業，把機器人作為新的增長動力，同時加強了外部投資及合作。三星風險投資當天表示，利用從三星電子出資籌集的基金，向無人駕駛機器人初創公司New Bility投資了30億韓元。

作為韓國最大的跨國企業集團，三星集團包括眾多國際下屬企業，其中三星電子為三星旗下最大的子公司。Wind數據顯示，三星電子總市值達391.02億韓元（約合2.01億人民幣）。

4月27日，三星電子公布了其2023年第一季度的財報。數據顯示，2023年第一季度，三星電子實現營業利潤6402億韓元（約合人民幣33億元），同比下降95％，為14年來的最低水平；凈利潤1.40萬億韓元（約合人民幣72億元）；銷售額63.75萬億韓元（約合人民幣3295億元），同比下降18％。

值得關注的是，三星電子半導體業務第一季度虧損4.58萬億韓元（約合人民幣236億元），而去年同期該業務有8.45萬億韓元的利潤。三星電子表示，由于科技行業的長期低迷嚴重打擊了其存儲芯片業務，第一季度利潤驟減至金融危機以來所未見。

ChatGPT安全性惹爭議

因安全問題而對ChatGPT采取“禁用”、“暫停”手段的大型公司，三星不是第一家，也不會是最后一家。

首先對ChatGPT表示“拒絕”的，當屬金融行業。ChatGPT掀起熱潮不久后，今年2月，JP摩根大通、美國銀行、花旗、富國銀行等華爾街巨頭陸續表示將禁止或限制使用ChatGPT。這不僅因為ChatGPT屬于第三方應用軟件，不是公司內部系統，更因為與AI共享敏感財務數據的潛在監管風險。

例如，摩根大通不準員工在辦公室使用ChatGPT，其表示，有關禁令并非源自任何特定事件，而是基于公司對第三方軟件的正常管控。美國銀行例行提醒員工切勿使用未經授權軟件時，也特別點名提到ChatGPT。

德意志銀行表明，嚴禁員工在公司內用ChatGPT，并從內部阻斷連接OpenAI網站。而盡管高盛鼓勵編程人員采用AI來輔助編程，但禁止旗下交易員使用ChatGPT。

韓國方面，除三星外，全球第二大存儲芯片巨頭韓國SK海力士稱“除必要時刻外”，幾乎禁止公司內部網使用ChatGPT。韓國液晶面板龍頭公司LGDisplay通過公司內部帖子和教育、活動等，隨時強調公司內部信息保護和防止泄漏等信息安全認識。

據日媒報道，日本軟銀集團此前向全體員工通報了禁止在ChatGPT中輸入機密信息等注意事項，該集團還計劃制定了哪些業務或用途可以使用交互式AI的規則。瑞穗金融集團、三菱UFJ銀行、三井住友銀行禁止將ChatGPT等交互式AI用于業務。松下控股旗下松下Connect在制定信息泄露對策后才允許使用交互式AI。富士通設置了“AI倫理治理室”，提醒用戶使用交互式AI時的注意點。

3月23日，OpenAI的首席執行官Sam Altman公開承認開源庫中出現錯誤，導致部分用戶與ChatGPT的聊天記錄被泄露。當天他發布致歉推文，表示已經修復了錯誤并完成驗證。

政府方面，此前意大利個人數據保護局曾宣布禁止使用ChatGPT，并限制OpenAI公司處理意大利用戶信息。不過據意媒上周五報道，被勒令下線近一個月后，ChatGPT已經在該國恢復服務。

4月30日，七國集團數字與技術部長會議同意對人工智能采取“基于風險的”監管。七國集團的部長在聯合聲明中表示，此類監管也應為人工智能技術的發展“維護一個開放和有利的環境”。

另外，近期歐盟提出新的立法草案，要求ChatGPT等人工智能工具的開發商，披露他們在構建AI系統時使用的版權材料。這一規則將賦能出版商和內容創作者，使他們在作品被ChatGPT等AI工具用作生成內容的原始材料時，可尋求利潤分成。

本文源自：中國基金報

作者： 晨曦

關鍵詞：