9hkesmc
其中，生成式AI（例如OpenAI的ChatGPT和Google Bard）的大規(guī)模使用成為受訪者最關(guān)心的問(wèn)題。9hkesmc
Gartner風(fēng)險(xiǎn)與審計(jì)實(shí)踐研究總監(jiān)Ran Xu表示：“在我們第二季度的調(diào)查中，生成式人工智能是第二常見(jiàn)的風(fēng)險(xiǎn)，首次出現(xiàn)在前十名中。”“這既反映了公眾對(duì)生成式人工智能工具的認(rèn)識(shí)和使用的快速增長(zhǎng)，也反映了這些工具潛在用例的廣度，以及由此帶來(lái)的潛在風(fēng)險(xiǎn)。”9hkesmc
大規(guī)模生成人工智能的可用性
Gartner此前已確定了生成式人工智能的6個(gè)風(fēng)險(xiǎn)，以及與保障職能相關(guān)的4個(gè)人工智能監(jiān)管領(lǐng)域。根據(jù)Gartner專(zhuān)家的說(shuō)法，在管理企業(yè)風(fēng)險(xiǎn)方面，必須關(guān)注三個(gè)方面:9hkesmc
知識(shí)產(chǎn)權(quán)9hkesmc
輸入到生成式人工智能工具中的信息可以成為其訓(xùn)練集的一部分，這意味著敏感或機(jī)密信息最終可能會(huì)輸出給其他用戶(hù)。此外，使用這些工具的輸出結(jié)果很可能最終無(wú)意中侵犯了其他使用這些工具的人的知識(shí)產(chǎn)權(quán)。9hkesmc
重要的是，要教育企業(yè)領(lǐng)導(dǎo)層在使用這些工具時(shí)保持謹(jǐn)慎和透明的必要性，這樣才能在生成式人工智能工具的輸入和輸出方面適當(dāng)減輕知識(shí)產(chǎn)權(quán)風(fēng)險(xiǎn)。9hkesmc
數(shù)據(jù)隱私9hkesmc
生成式人工智能工具可能會(huì)在不事先通知的情況下與第三方(如供應(yīng)商或服務(wù)提供商)共享用戶(hù)信息。這有可能違反許多司法管轄區(qū)的隱私法。例如，中國(guó)和歐盟已經(jīng)實(shí)施了相關(guān)法規(guī)，美國(guó)、加拿大、印度和英國(guó)等國(guó)也提出了相關(guān)法規(guī)。9hkesmc
網(wǎng)絡(luò)安全9hkesmc
黑客們總是在測(cè)試新技術(shù)，想辦法顛覆它，以達(dá)到自己的目的，生成式人工智能也不例外。目前已發(fā)生了惡意軟件和勒索軟件代碼的例子，這些惡意軟件和勒索軟件代碼是通過(guò)誘騙生成人工智能生成的，還有“及時(shí)注入”攻擊，可以誘騙這些工具泄露它們不應(yīng)該泄露的信息。這導(dǎo)致了高級(jí)網(wǎng)絡(luò)釣魚(yú)攻擊的工業(yè)化。9hkesmc
第三方生存能力風(fēng)險(xiǎn)的原因和影響
Ran Xu表示：“持續(xù)的通貨膨脹對(duì)利率上升的反應(yīng)較弱，而且持續(xù)時(shí)間比預(yù)期更長(zhǎng)，這加劇了第三方的成本和利潤(rùn)壓力。”“隨著央行提高利率以對(duì)抗通脹，這也會(huì)帶來(lái)信貸緊縮的過(guò)程，可能會(huì)迫使供應(yīng)商暫停運(yùn)營(yíng)或因借貸成本上升而資不抵債。”9hkesmc
如果經(jīng)濟(jì)狀況普遍惡化，可能會(huì)導(dǎo)致需求意外下降，從而影響供應(yīng)商的生存能力或其及時(shí)提供商品和服務(wù)的能力。Gartner專(zhuān)家指出了三種潛在的第三方生存能力后果，風(fēng)險(xiǎn)管理者可以根據(jù)情況的發(fā)展進(jìn)行監(jiān)控：9hkesmc
- 關(guān)鍵投入和材料的損失：如果第三方由于更廣泛的經(jīng)濟(jì)形勢(shì)而提高價(jià)格，那么很明顯有失去關(guān)鍵投入和材料的風(fēng)險(xiǎn)，因?yàn)榈谌綍?huì)青睞愿意支付更高價(jià)格的客戶(hù)。
- 有缺陷的財(cái)務(wù)規(guī)劃假設(shè)：當(dāng)供應(yīng)商提高價(jià)格或倒閉時(shí)，成本假設(shè)將變得無(wú)效，從而需要轉(zhuǎn)換成本和提高獲取商品和服務(wù)的價(jià)格。
- 供應(yīng)鏈外部的挑戰(zhàn)：合作伙伴，例如托管服務(wù)提供商或商業(yè)合作伙伴、債權(quán)人或技術(shù)供應(yīng)商可能會(huì)停止或削減運(yùn)營(yíng)。
責(zé)編：Momoz
掃碼分享到好友
