風(fēng)險(xiǎn)是所有的。布特上下文

風(fēng)險(xiǎn)與環(huán)境有關(guān)。事實(shí)上，最大的風(fēng)險(xiǎn)之一是沒(méi)有認(rèn)識(shí)到或理解你的背景:這就是為什么你需要在評(píng)估風(fēng)險(xiǎn)時(shí)從那里開(kāi)始。

這在聲譽(yù)方面尤為重要。例如，考慮一下你的客戶和他們的期望。他們對(duì)與人工智能聊天機(jī)器人互動(dòng)會(huì)有什么感覺(jué)?向他們提供虛假或誤導(dǎo)性的信息會(huì)造成多大的損害?也許客戶的小不便是你可以處理的，但如果它對(duì)健康或財(cái)務(wù)有重大影響呢?

即使實(shí)施人工智能似乎有意義，也顯然需要考慮一些下游聲譽(yù)風(fēng)險(xiǎn)。多年來(lái)，我們一直在談?wù)撚脩趔w驗(yàn)和以客戶為中心的重要性:雖然人工智能可能在這方面幫助我們，但它也可能破壞這些東西。

關(guān)于你的團(tuán)隊(duì)也有類似的問(wèn)題。人工智能可能有能力提高效率，使人們的工作更容易，但如果使用不當(dāng)，它可能會(huì)嚴(yán)重破壞現(xiàn)有的工作方式。最近業(yè)界談?wù)摿撕芏嚓P(guān)于開(kāi)發(fā)者體驗(yàn)的話題——這也是我為本出版物所寫(xiě)的內(nèi)容——并且組織所做的關(guān)于AI的決策需要改善團(tuán)隊(duì)的體驗(yàn)，而不是破壞他們。

在Thoughtworks技術(shù)雷達(dá)的最新版本中——基于我們與世界各地客戶合作的經(jīng)驗(yàn)，一年兩次的軟件行業(yè)快照——我們精確地討論了這一點(diǎn)。我們認(rèn)為人工智能團(tuán)隊(duì)助理是軟件工程中最令人興奮的新興領(lǐng)域之一，但我們也注意到，重點(diǎn)必須放在團(tuán)隊(duì)上，而不是個(gè)人上。我們?cè)谧钚碌膱?bào)告中說(shuō):“你應(yīng)該尋找方法來(lái)創(chuàng)建人工智能團(tuán)隊(duì)助理，以幫助創(chuàng)建‘10倍團(tuán)隊(duì)’，而不是一群孤立的人工智能輔助10倍工程師?！?/p>

不注意團(tuán)隊(duì)的工作環(huán)境可能會(huì)對(duì)你的聲譽(yù)造成重大損害。一些樂(lè)觀的組織可能認(rèn)為這是創(chuàng)新的一部分，但事實(shí)并非如此。這會(huì)讓潛在的員工——尤其是那些技術(shù)含量高的員工——覺(jué)得你并不真正理解或關(guān)心他們的工作。

通過(guò)更智能的技術(shù)實(shí)施來(lái)應(yīng)對(duì)風(fēng)險(xiǎn)

有很多工具可以用來(lái)幫助管理風(fēng)險(xiǎn)。Thoughtworks幫助整理了《負(fù)責(zé)任的技術(shù)手冊(cè)》，這是一個(gè)工具和技術(shù)的集合，組織可以使用它來(lái)做出更負(fù)責(zé)任的技術(shù)決策(不僅僅是人工智能)。

然而，需要注意的是，管理風(fēng)險(xiǎn)——尤其是那些與聲譽(yù)有關(guān)的風(fēng)險(xiǎn)——需要真正關(guān)注技術(shù)實(shí)現(xiàn)的細(xì)節(jié)。這一點(diǎn)在我們與印度民間社會(huì)組織的合作中表現(xiàn)得尤為明顯，我們開(kāi)發(fā)了一個(gè)社會(huì)福利聊天機(jī)器人，公民可以用他們的母語(yǔ)與之互動(dòng)。這里的風(fēng)險(xiǎn)與前面討論的沒(méi)有什么不同:使用聊天機(jī)器人的環(huán)境(作為獲取重要服務(wù)的支持)意味著不準(zhǔn)確或“幻覺(jué)”的信息可能會(huì)阻止人們獲得他們所依賴的資源。