摘要：另一方面，人工智能管理更廣泛地關(guān)注數(shù)據(jù)中的信號(hào)及其驅(qū)動(dòng)的結(jié)果。指導(dǎo)指導(dǎo)就是在人工智能不采取行動(dòng)的情況下提出建議。這意味著許多任務(wù)都是由人工智能完成的，而人類則處于任務(wù)中進(jìn)行處理和分析其他的任務(wù)。適應(yīng)性這是人工智能處理不斷變化的情況的能力。

權(quán)力意味著新的責(zé)任

過(guò)去人們會(huì)研究一個(gè)過(guò)程，它的輸入和輸出，然后編寫可以自動(dòng)化該過(guò)程的代碼。構(gòu)建此類軟件是以數(shù)字形式獲取知識(shí)產(chǎn)權(quán)的一種形式，直到現(xiàn)在它一直是一種主要由人類驅(qū)動(dòng)的認(rèn)知任務(wù)。如今AI正在編寫自己的軟件，從噪聲中提取信號(hào)，自己搞清楚很多規(guī)則; 它正在承擔(dān)數(shù)字化編碼世界的認(rèn)知任務(wù)。人工智能正在徹底改變可自動(dòng)化的內(nèi)容以及可以部署的規(guī)模。隨著新的領(lǐng)域出現(xiàn)，也帶來(lái)了新的責(zé)任那就是就是確保人工智能正在為正確的目標(biāo)服務(wù)。

現(xiàn)代的人工智能可以找出對(duì)應(yīng)的模式，然后對(duì)對(duì)象進(jìn)行分類，做出決策并評(píng)估結(jié)果。它可以使用反饋循環(huán)學(xué)習(xí)和適應(yīng)新情況。這是非常棒的軟件。不需要花一分錢去請(qǐng)人做分析，然后在花錢請(qǐng)人去做一個(gè)軟件，然后花錢請(qǐng)人去驗(yàn)證你的結(jié)果，最后發(fā)現(xiàn)到它沒(méi)有達(dá)到你的預(yù)期，再返回去調(diào)整軟件。這整個(gè)周期在大型組織中可能需要數(shù)年時(shí)間，但由人工智能驅(qū)動(dòng)的設(shè)計(jì)合理的流程可以在幾天內(nèi)完成。它可以自我重新編碼，推演變化，并驗(yàn)證它是否實(shí)際上是朝著你想要的方向移動(dòng) - 所有這些都是以超出人類能力的準(zhǔn)確性和速度進(jìn)行的。這相當(dāng)強(qiáng)大。但也相當(dāng)具有威脅性。

這種新方法正在以前所未有的規(guī)模向組織引入新的風(fēng)險(xiǎn)。編寫代碼的方式是顯示數(shù)據(jù)示例，而不是自己編寫或編輯系統(tǒng)。此時(shí)，對(duì)結(jié)果的監(jiān)控非常少，因?yàn)楫?dāng)前的數(shù)據(jù)治理領(lǐng)域僅涉及數(shù)據(jù)本身的質(zhì)量，完整性和安全性。另一方面，人工智能管理更廣泛地關(guān)注數(shù)據(jù)中的信號(hào)及其驅(qū)動(dòng)的結(jié)果。

與人為驅(qū)動(dòng)流程的數(shù)據(jù)相比，人工智能的運(yùn)營(yíng)流程有時(shí)會(huì)比過(guò)去好10倍或更快，從而導(dǎo)致以前從未見(jiàn)過(guò)的場(chǎng)景。僅從價(jià)值的角度來(lái)看，這可能會(huì)有些問(wèn)題。但如果在向特定的消費(fèi)群體銷售的方面會(huì)變得超級(jí)高效，雖然可能會(huì)將自己鎖在里面，而忘記掉市場(chǎng)的其他部分。所以你的模型是否關(guān)注到這些問(wèn)題？

負(fù)責(zé)管理新資訊系統(tǒng)的機(jī)構(gòu)主要有三個(gè)工作重點(diǎn)：

準(zhǔn)確定義代理要解決什么問(wèn)題和目標(biāo)，以及應(yīng)該尋求的結(jié)果。這包括正確的績(jī)效指標(biāo)，以及應(yīng)提取的IP（洞察力，世界模型等）以及用戶和供應(yīng)商之間的所有權(quán)梯度。

協(xié)調(diào)驅(qū)動(dòng)模型學(xué)習(xí)和改進(jìn)的反饋循環(huán)，從原始集合到結(jié)果解釋以及與其他智能系統(tǒng)洞察力的連接。

評(píng)估風(fēng)險(xiǎn)，找出代理系統(tǒng)可能出錯(cuò)的所有點(diǎn)。模型將在流程的每個(gè)階段如何進(jìn)行自我評(píng)估？如何監(jiān)控自動(dòng)化系統(tǒng)以確保它做正確的事情的？

讓人工智能學(xué)習(xí)和執(zhí)行汽車的基本功能一樣都是非常簡(jiǎn)單的。挑戰(zhàn)在于它是否可以在所有不同的背景下這樣做，例如不斷變化的道路條件，暴風(fēng)雨的天氣，行人等。使用數(shù)據(jù)示例進(jìn)行編碼可以大大降低成本，但仍需要大量的人類的聰明才智來(lái)考慮如何應(yīng)用它，管理人工智能系統(tǒng)的工作將更多地考慮人工智能是否正在處理全局。而管理價(jià)值創(chuàng)造和風(fēng)險(xiǎn)是治理框架的目的。

所以，我認(rèn)為對(duì)人工智能的管理從內(nèi)到外都應(yīng)該是可信的，而這里有一個(gè)人工智能管理的框架：

自我管理的水平

0.分離

你的組織中有一些活動(dòng)是人工智能所不知道的。你需要將這些考慮到你的風(fēng)險(xiǎn)評(píng)估中，甚至分離的活動(dòng)最終也會(huì)如何連接起來(lái)。例如：人工智能系統(tǒng)可以分析10年前制作的手寫筆記或舊的商店視頻片段獲取相關(guān)信息。

1.觀察

觀察是人工智能的基本實(shí)現(xiàn)之一，它收集和分類信息以驅(qū)動(dòng)其他進(jìn)程。它在觀察什么，關(guān)注什么或忽略的是什么？它收集的信息連接到哪些進(jìn)程？示例：有一種人工智能系統(tǒng)可以觀看一場(chǎng)冰球比賽并記錄一些數(shù)據(jù)，包括人類無(wú)法看到的統(tǒng)計(jì)數(shù)據(jù)，例如支票的力量。

2.指導(dǎo)

指導(dǎo)就是在人工智能不采取行動(dòng)的情況下提出建議。人工智能訓(xùn)練仍然可以發(fā)揮強(qiáng)大作用，一定程度上歸功于我們對(duì)人類行為的了解。舉個(gè)例子：假如我在做脫口秀，而攝像機(jī)在看著觀眾，人工智能就可以分析他們的肢體語(yǔ)言以判斷他們是否感到無(wú)聊。它還可以告訴我觀眾喜歡什么和不喜歡什么，什么時(shí)候我可以嘗試講另一個(gè)笑話。

3.合作

在這種情況下，機(jī)器還不能完全的自動(dòng)化運(yùn)行，但仍然可以驅(qū)動(dòng)大部分的場(chǎng)景。舉例：在保險(xiǎn)索賠處理中，人工智能可以進(jìn)行60％或70％的自動(dòng)化任務(wù)。這意味著許多任務(wù)都是由人工智能完成的，而人類則處于任務(wù)中進(jìn)行處理和分析其他30％的任務(wù)。

4.自主

當(dāng)一個(gè)人工智能代理完全進(jìn)行自我管理時(shí)，事情就會(huì)進(jìn)行的特別快了，以至于人類無(wú)法參與到這里面來(lái)。人工智能將會(huì)調(diào)整系統(tǒng)、監(jiān)控結(jié)果和提供反饋。示例：這就好比是今天網(wǎng)絡(luò)安全或高頻機(jī)器人交易的大部分內(nèi)容，機(jī)器以超出任何人類監(jiān)督的速度自行制定大量的策略。

對(duì)不同的組織來(lái)說(shuō)，對(duì)這些自我管理的水平進(jìn)行分類也會(huì)有所不同，但這體現(xiàn)了它的廣泛范圍。

工業(yè)中的AI治理框架

以下是我對(duì)每個(gè)類別的含義解釋。每個(gè)組織都需要為每個(gè)部分考慮自己一般的原則，但也要將它們多帶帶應(yīng)用于每個(gè)代理，針對(duì)特定情況制定具體規(guī)則。出于個(gè)人考慮，我將添加代理的角色、部署的需求、要注意的風(fēng)險(xiǎn)，對(duì)抗性治理模型的參數(shù)，以及它如何與更廣泛的、現(xiàn)有的公司治理相關(guān)聯(lián)（尤其是圍繞數(shù)據(jù)和道德）。

性能

人工智能需要按照說(shuō)明書的說(shuō)法去做。也就是說(shuō)，它需要正常運(yùn)行并滿足期望。只有能夠以可預(yù)測(cè)和準(zhǔn)確的方式執(zhí)行的人工智能才能夠獲得對(duì)其提供的實(shí)際結(jié)果的信任。

準(zhǔn)確性

準(zhǔn)確性是指人工智能的信心和能力，正確的將一個(gè)或多個(gè)數(shù)據(jù)點(diǎn)分類為正確類別的能力，以及基于這些數(shù)據(jù)點(diǎn)和分類做出正確預(yù)測(cè)，給出建議或決策的能力。準(zhǔn)確性是相對(duì)的。您希望確定在給定的上下文中對(duì)你的業(yè)務(wù)或產(chǎn)品有多大程度的準(zhǔn)確度。如果你預(yù)測(cè)呼叫中心的每分鐘的呼叫，70%準(zhǔn)確率就已經(jīng)不錯(cuò)了，但如果你試圖預(yù)測(cè)雜貨店本周的銷售情況，70%那可能就有點(diǎn)糟糕了

偏差

偏差在系統(tǒng)中存在的方式有很多種，而且永遠(yuǎn)都無(wú)法完全消除。所有數(shù)據(jù)都是通過(guò)某種偏見(jiàn)，意圖或?qū)χ匾挛锏氖澜缬^來(lái)收集的。在許多情況下，可以在收集階段消除不需要的偏差。鑒于數(shù)據(jù)總是帶有某種偏差，這也是一個(gè)在模型中對(duì)其進(jìn)行核算和控制的問(wèn)題。重要的是要確保偏差不足以將結(jié)果影響到對(duì)業(yè)務(wù)有害的結(jié)果。根據(jù)應(yīng)用程序和環(huán)境的不同，有幾種方法可以抵消AI中的偏差，包括添加更多不同的數(shù)據(jù)集和輸入，以及確保正確描述目標(biāo)的子目標(biāo)。

完整性

完整性的概念與“平衡”密切相關(guān)，盡管它沒(méi)有包含太多有害的結(jié)果，而是缺少一些有用的信息。不完整的人工智能會(huì)丟失一些數(shù)據(jù)的輸入，而這些數(shù)據(jù)的輸入會(huì)阻止它有效的執(zhí)行任務(wù)。例如，一個(gè)交通應(yīng)用程序預(yù)測(cè)擁堵模式，但缺不考慮天氣的影響。是一個(gè)特定的關(guān)注領(lǐng)域，需要適當(dāng)?shù)淖晕夜芾硭健?/p>

安全性

為了保護(hù)性能，人工智能需要確保過(guò)程、數(shù)據(jù)和結(jié)果的安全性。使人工智能不會(huì)受到敵對(duì)的數(shù)據(jù)、不可預(yù)見(jiàn)的場(chǎng)景、外部影響以及可能對(duì)其決策能力產(chǎn)生負(fù)面影響的操作的影響。

適應(yīng)性

這是人工智能處理不斷變化的情況的能力。如果我要推出新產(chǎn)品和對(duì)手競(jìng)爭(zhēng)，那么預(yù)測(cè)產(chǎn)品的可靠性以及調(diào)整人員配置的決策有多可靠？一個(gè)適當(dāng)可以適應(yīng)條件的人工智能可以在新的情況下用于相同的案例。確定閾值的有效措施可能是在部署之前就可以看到的情況的數(shù)量和多樣性。足夠多的的邊緣案例將表明該模型將隨著時(shí)間的推移而擴(kuò)展，并且應(yīng)該定期添加到訓(xùn)練方案中。

對(duì)抗性強(qiáng)

一種特定類型的適應(yīng)性是針對(duì)試圖破壞模型的代理（人或人工）。這基本上是網(wǎng)絡(luò)安全的重點(diǎn)。通過(guò)將人工智能暴露給具有惡意或甚至是目標(biāo)不一致的各種情況或代理，組織可以在部署后遇到這些情況和代理之前做好準(zhǔn)備。

隱私

在用戶交互的所有時(shí)刻都需要保證隱私。這包括用戶輸入的所有信息，以及在與人工智能交互過(guò)程中生成的有關(guān)用戶的所有信息。

IP獲取

知識(shí)產(chǎn)權(quán)是許多人工智能開(kāi)發(fā)組織商業(yè)模式的核心。IP獲取的參數(shù)需要與他們驅(qū)動(dòng)的業(yè)務(wù)價(jià)值掛鉤，以確保獲取了正確的東西，但他們還需要確定誰(shuí)擁有什么。需要在供應(yīng)商，員工，組織和最終用戶之間明確定義這些知識(shí)產(chǎn)權(quán)。什么構(gòu)成“正確”的權(quán)利分配取決于具體的環(huán)境，并意味著就數(shù)據(jù)的控制和所有權(quán)概念達(dá)成一致，而目前還沒(méi)有對(duì)此達(dá)成一致。在GDPR世界中，這些決定也需要越來(lái)越多地被披露。

受影響的用戶

通過(guò)定義這些IP的權(quán)利，任何支持人工智能的組織都需要注意不同信息的使用方式，以及影響不同級(jí)別的用戶。跟蹤數(shù)據(jù)流（即數(shù)據(jù)的來(lái)源和去向）及其在組織內(nèi)外的使用數(shù)據(jù)流對(duì)于保證隱私至關(guān)重要。需要有適當(dāng)?shù)臋C(jī)制允許用戶將數(shù)據(jù)帶到別處（可移植性）或刪除他們的數(shù)據(jù)（被遺忘的權(quán)利）。

透明度

只有在正確溝通的情況下，才能建立對(duì)系統(tǒng)的信任。如果沒(méi)有關(guān)于價(jià)值觀、流程和結(jié)果的透明度，那么信任的建設(shè)將會(huì)是有限的。

可解釋性

關(guān)于可解釋性，我們目標(biāo)不應(yīng)該是暴露我們用于獲得某種結(jié)果的算法的精確內(nèi)部技術(shù)工作。相反，我們的目標(biāo)應(yīng)該是揭示為什么滿足或不滿足當(dāng)前應(yīng)用程序的某些標(biāo)準(zhǔn)。例如：自動(dòng)駕駛汽車沒(méi)有看到一個(gè)小路標(biāo)而撞上了它。這是為什么？因?yàn)樗鋫涞奶囟▊鞲衅鞑荒芴幚砺窐?biāo)上涂料的反射涂層。在這種情況下，自動(dòng)駕駛?cè)斯ぶ悄苋绾尉_處理數(shù)據(jù)并不重要。重要的是事故是如何發(fā)生的，之后可以由用戶在事情發(fā)生的時(shí)候進(jìn)行調(diào)整，然后由系統(tǒng)的管理員進(jìn)行事后調(diào)整。

目的

從事人工智能工作的組織應(yīng)記錄其目的，并使用某些理想價(jià)值標(biāo)準(zhǔn)（如人權(quán)，透明度和避免傷害）來(lái)限制它們。這不僅強(qiáng)制進(jìn)行有意識(shí)的設(shè)計(jì)過(guò)程，而且聲明的意圖也確保用戶（無(wú)論是內(nèi)部還是外部）了解應(yīng)該如何應(yīng)用該工具。誤用該工具可能會(huì)破壞此框架中的所有其他注意事項(xiàng)。

這里有一些最后值得思考的東西

如果你想大規(guī)模推廣人工智能，治理絕對(duì)不能是事后諸葛亮。它必須是戰(zhàn)略的一部分并且有詳細(xì)的記錄。就我個(gè)人而言，我認(rèn)為這將通過(guò)執(zhí)行不同的項(xiàng)目來(lái)實(shí)現(xiàn)。在問(wèn)題/解決方案定義期間，需要與公司中的業(yè)務(wù)部門協(xié)作制定規(guī)則來(lái)治理。然而，無(wú)論誰(shuí)負(fù)責(zé)組織中的網(wǎng)絡(luò)系統(tǒng)，它都是最終的責(zé)任，他們需要為每個(gè)人清楚地定義它。

問(wèn)責(zé)制

即使付出了最大的努力，事情也難免會(huì)出錯(cuò)。良好的人工智能治理應(yīng)包括問(wèn)責(zé)機(jī)制，根據(jù)目標(biāo)的不同，可以有很多選擇。機(jī)制可以包括貨幣補(bǔ)償（無(wú)過(guò)錯(cuò)保險(xiǎn)），故障發(fā)現(xiàn)和無(wú)貨幣補(bǔ)償?shù)暮徒狻?wèn)責(zé)機(jī)制的選擇還可能取決于活動(dòng)的性質(zhì)和權(quán)重，以及發(fā)揮自主權(quán)的程度。系統(tǒng)誤讀藥品索賠并錯(cuò)誤地決定不賠償?shù)那闆r可以通過(guò)金錢來(lái)補(bǔ)償。然而，在涉嫌歧視的情況下，解釋和道歉可能至少同樣重要。

道德與公司治理

合作的一個(gè)關(guān)鍵領(lǐng)域是與更廣泛的公司治理結(jié)構(gòu)進(jìn)行合作，這是組織的道德指導(dǎo)來(lái)源。因?yàn)槭褂萌斯ぶ悄?，組織有能力采取行動(dòng)，而這些行動(dòng)很難或不可能雇用人員去做。你可以使用一個(gè)非常人性化的、友好的機(jī)器人給你的每一位客戶打電話，并在不告訴他們這是一個(gè)機(jī)器人的情況下，提供更多的建議。你會(huì)這樣做嗎？這是一項(xiàng)神奇的工程技術(shù)，但它也帶來(lái)了一些道德問(wèn)題。關(guān)鍵是，技術(shù)團(tuán)隊(duì)不能確定支撐治理框架的道德規(guī)范，因?yàn)檫@是一個(gè)主觀問(wèn)題。最有可能的是，治理委員會(huì)需要自己的道德委員會(huì)（如果還沒(méi)有委員會(huì)）來(lái)回答這些問(wèn)題。

增強(qiáng)治理

我不認(rèn)為人工智能治理能夠在沒(méi)有人工智能增強(qiáng)的情況下工作。治理可能需要自己的一群對(duì)手，它們的角色是用來(lái)測(cè)試和挑戰(zhàn)基礎(chǔ)架構(gòu)和系統(tǒng)。我認(rèn)為這將會(huì)是下一代的監(jiān)管系統(tǒng)，用于監(jiān)控所有治理考慮因素的穩(wěn)健性。他們將能夠積極的、強(qiáng)制的對(duì)決策進(jìn)行解釋，獨(dú)立的衡量偏差和評(píng)估的完整性，也可能與公司治理和外部審計(jì)師進(jìn)行不同的迭代。這些將是單元測(cè)試和持續(xù)的壓力測(cè)試，將跨組織推廣甚至強(qiáng)制執(zhí)行問(wèn)責(zé)制。

當(dāng)然，首先需要實(shí)現(xiàn)框架。將這些注意事項(xiàng)納入到代理的開(kāi)發(fā)過(guò)程中，并開(kāi)始在整個(gè)組織和用戶之間共享結(jié)果的做法。收益不僅僅是更強(qiáng)大的模型，而是避免了監(jiān)管陷阱，以及還讓所有用戶對(duì)系統(tǒng)擁有了更多信任。

本文作者認(rèn)為隨著人工智能的發(fā)展必然會(huì)使人工智能擁有一部分人類的權(quán)利，而人工智能擁有了這些權(quán)利那么必然的也會(huì)要承擔(dān)一部分責(zé)任，人類是否需要讓人工智能擁有自我管理的能力，這一點(diǎn)是毋庸置疑的，人工智能肯定會(huì)擁有這個(gè)能力，而人類要做的是如果讓人工智能擁有了自我管理的能力后，可以做出對(duì)人類有益的事情，而不是將事情想壞的一面發(fā)展，而作者分析了人工智能自我管理水平的發(fā)展路線，首先是并沒(méi)有使用人工智能，然后是觀察、指導(dǎo)、合作、自我管理這五個(gè)步驟，而這五個(gè)步驟中，前三個(gè)是以人類為主導(dǎo)地位的，后兩個(gè)是以人工智能為主導(dǎo)地位，而人類對(duì)于人工智能的管理絕對(duì)是不可以等到以人工智能為核心的時(shí)候再去指定一套詳細(xì)的規(guī)則，那時(shí)候未免就有點(diǎn)晚了，所以作者探討了從性能、安全、隱私、透明度這四個(gè)方向中討論了應(yīng)該如果去指定針對(duì)人工智能的管理框架，并且人們還應(yīng)該在組織內(nèi)部中建立問(wèn)責(zé)制度、道德管理以及加強(qiáng)治理的政策來(lái)使組織積極的應(yīng)對(duì)人工智能的發(fā)展，使人工智能在未來(lái)成為可以幫助人類走向更好的工具，而不不是可能會(huì)成為人類災(zāi)難的工具。