極客網·人工智能5月5日 最新調查報告顯示，在部署生成式AI方面，70%以上的企業(yè)仍然處在“探索” 階段。這意味著，開發(fā)大型語言模型的AI開發(fā)商需要確保他們的產品具有適當的數據安全機制，才能讓使企業(yè)用戶感到滿意。
近日，三星等大型企業(yè)出于對數據安全的擔憂，開始禁止員工使用ChatGPT等AI工具。一位分析師表示，像微軟這樣的供應商如果希望這項技獲得成功，就需要設計和提供為企業(yè)量身定制的解決方案。
三星禁止員工使用ChatGPT，生成式AI存在數據泄露風險
由于源代碼在上個月泄露，三星已經命令該公司員工避免使用聊天GPT、必應和谷歌的Bard等AI工具。而在此前，其他科技公司也發(fā)表了類似的聲明，表達了對使用生成式AI的數據安全的擔憂。
OpenAI日前證實，正在為企業(yè)用戶開發(fā)特定版本的ChatGPT平臺，該平臺默認禁止企業(yè)用戶在ChatGPT再訓練中使用對話。目前尚不清楚這是否足以解決大型企業(yè)客戶擔憂的安全問題，但這些企業(yè)的高管顯然渴望采用這項技術。
根據Gartner對2500名行業(yè)高管進行的一項調查，45%的受訪者認為ChatGPT促進了AI投資，70%的受訪者表示他們的組織正在研究部署生成式AI的方法，19%的受訪者已經處于試驗或生產階段。
Gartner副總裁分析師Frances Karamouzis表示：“用戶對于采用生成式AI的癡迷并沒有減弱的跡象。很多行業(yè)組織都在爭先恐后地決定投入多少資金使用生成式AI解決方案，哪些產品值得投資，何時開始以及如何降低這種新興技術帶來的風險?！?nbsp;
最能說明問題的是，68%的受訪者認為生成式AI的好處大于風險，只有5%的受訪者認為使用這種技術的風險大于好處。
隨著對生成式AI投資的深化，以及數據安全的影響變得更加明顯，這些情況可能會發(fā)生變化，就像三星面臨的安全困境情況一樣（該公司正在建立自己的AI模型）。
大勢所趨，避免采用生成式AI可能比部署AI更難
盡管全球經濟放緩，科技行業(yè)大規(guī)模裁員，但只有17%的受訪者表示成本優(yōu)化是投資AI的主要原因，而客戶體驗是最重要的焦點。
隨著微軟等公司通過Copilot在其CRM和Office 365套件中部署AI，Salesforce也在其全套產品中添加了聊天機器人技術，避免采用生成式AI可能比部署AI更難。
Gartner副總裁兼分析師Avivah Litan表示，企業(yè)在使用公共大型語言模型時面臨多重風險，但有一些方法可以減輕風險，包括確保他們有能力自動過濾輸出的錯誤信息、幻覺和不需要的事實信息。
她表示，企業(yè)還需要確保大型語言模型供應商提供可驗證的數據治理和安全保證，以確保傳輸給大型語言模型的企業(yè)機密信息不會受到損害。透明度方面也需要確保任何使用都符合GDPR法規(guī)和歐盟AI法案等立法。
她解釋說:“在滿足這些要求之前，我們看到的是，謹慎的企業(yè)或者限制員工對聊天的訪問權限(由于個人設備的存在，這是不可能執(zhí)行的)，或者允許有節(jié)制的嘗試性使用，從而避免向大型語言模型發(fā)送機密數據。”
人們對部署生成式AI這項技術的興趣在于其潛在的好處，特別是從昂貴而廣泛的數據集訓練的公共模型中獲益。Litan說，“OpenAI和第三方開發(fā)的大型語言模型的巨大價值在于訓練它們的大量數據，以及運行它們所需的巨大復雜的超級計算機功能。企業(yè)根本沒有資源來重建這些有價值的模型。”
對于OpenAI、微軟和任何想要部署這種技術的供應商來說，其解決方案是通過共享安全責任協(xié)議創(chuàng)建技術工具。如果機密數據被泄露，供應商應該承擔責任，這也是他們前進的方向。
（免責聲明：本網站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網站出現的信息，均僅供參考。本網站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。
任何單位或個人認為本網站中的網頁或鏈接內容可能涉嫌侵犯其知識產權或存在不實內容時，應及時向本網站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網站在收到上述法律文件后，將會依法盡快聯(lián)系相關文章源頭核實，溝通刪除相關內容或斷開相關鏈接。 ）
