資訊專欄INFORMATION COLUMN
摘要：一名德國男子不在家，家中的被意外激活，并在半夜兩點(diǎn)開始播放音樂，吵醒了鄰居。然而在兩個(gè)小時(shí)后，公交車就被一輛大貨車撞上了。匯豐馬上推出了解決方案嘗試三次失敗之后就鎖定賬戶。
簡評(píng)：整體來說，2017 年的 AI 進(jìn)步還是不小的，比 2016 的 AR/VR 強(qiáng)很多。今天的案例中有些還挺萌的。
今年，AI 項(xiàng)目 AlphaGo 和 Libratus 成功戰(zhàn)勝了人類最頂尖的圍棋選手和撲克選手。但即使 AI 有這么多里程碑式的事件，仍有不少人對(duì) AI 持懷疑態(tài)度，特別是見過了 2017 年不少 AI 的失敗案例之后。
一些新技術(shù)，新想法在努力的執(zhí)行它們的任務(wù)，然而也經(jīng)常會(huì)犯一些人類不會(huì)犯的錯(cuò)，這里總結(jié)了 2017 年值得注意的 AI 失敗案例。
1.被面具破解的 Face ID
特別加工區(qū)域的額頭、2D 圖片的眼睛、硅膠鼻子、3D 打印的輪廓，輕松破解
FaceID 面部識(shí)別是最新的 iPhone X 的解鎖技術(shù)，據(jù)傳是迄今為止最安全的 AI 激活方式，蘋果吹噓這項(xiàng)技術(shù)被破解的可能性是百萬分之一。但隨后越南公司 Bkav 花費(fèi) 150 美元使用 3D打印的塑料、硅膠、化妝品、圖片、和鏤空結(jié)構(gòu)組成了一個(gè)臉部模型輕松破解了 FaceID。Bkav 只是掃描了一個(gè)測試對(duì)象的面部，使用 3D 打印生成了個(gè)臉部模型，貼上紙的眼睛和嘴巴，硅膠鼻子就成功破解。這給行業(yè)帶來了很大沖擊，預(yù)示了消費(fèi)者設(shè)備隱私的風(fēng)險(xiǎn)，以及人工智能的安全問題。
2.鄰居們因?yàn)?Amazon Echo 半夜自嗨而報(bào)警
還上了新聞
Amazon Echo 被公認(rèn)為是先進(jìn)的智能語音助手，很受歡迎。但沒有事情是完美的。一名德國男子不在家，家中的 Echo 被意外激活，并在半夜兩點(diǎn)開始播放音樂，吵醒了鄰居。鄰居打電話報(bào)警，警察不得不破門而入，關(guān)閉 Echo，警察還換了門鎖，這個(gè)德國男子回家的時(shí)候，發(fā)現(xiàn)自己的鑰匙打不開自己家門了。
3.Facebook 聊天機(jī)器人 Chatbot 關(guān)閉
兩個(gè)機(jī)器人互相聊天，完全在說胡話
今年七月，兩個(gè) Facebook 機(jī)器人無法互相識(shí)別彼此的語言，Chatbot 無法溝通而被關(guān)閉。大家猜測這兩個(gè)機(jī)器人溝通的語言可能是一種新的加密語言，謠言四起。最后 Facebook 出面解釋說這種神秘的交流只是語法編碼自檢的結(jié)果。
4.拉斯維加斯的自動(dòng)駕駛公交車第一天就撞車
左邊那個(gè)小車，被一輛貨車轉(zhuǎn)撞了，雖然責(zé)任在大貨車，但明顯小車不夠聰明
拉斯維加斯一輛自動(dòng)駕駛公交車在十一月亮相，當(dāng)時(shí)著名魔術(shù)師佩恩·泰勒也排隊(duì)等候坐了這輛車。然而在兩個(gè)小時(shí)后，公交車就被一輛大貨車撞上了。盡管從技術(shù)上來說，公交車沒有責(zé)任，是大貨車的問題，但是這輛車上的乘客抱怨，當(dāng)卡車慢慢靠近的時(shí)候，公交車不夠聰明，根本沒有任何躲避的動(dòng)作。
5. Google Allo 使用頭巾回應(yīng)槍支表情
槍的提示回復(fù)：穆斯林
美國有線電視臺(tái)的一位工作人員使用 Google Allo（Google 的一款即時(shí)通訊軟件）時(shí)，發(fā)現(xiàn)對(duì)方如果發(fā)來一個(gè)槍的表情，軟件推薦回復(fù)的表情是 bad、刀和戴頭巾的人（穆斯林？）。這個(gè)問題比較尷尬，Google 馬上向公眾保證已經(jīng)解決了這個(gè)問題并且發(fā)表道歉。
6.雙胞胎戲耍匯豐銀行語音識(shí)別 VoiceID
雙胞胎成功破解語音識(shí)別
匯豐銀行的語音識(shí)別 VoiceID 是一個(gè)語音 AI 安全系統(tǒng)，允許用戶通過語音訪問賬戶。匯豐聲稱它和指紋 ID 一樣安全，但是 BBC 記者和他雙胞胎兄弟卻模仿彼此的聲音成功訪問了對(duì)方賬戶，只用了 7 次嘗試就成功了。匯豐馬上推出了解決方案：嘗試三次失敗之后就鎖定賬戶。（？？？）
7. Google AI 把步槍指認(rèn)為直升機(jī)
Google AI 把槍認(rèn)成直升機(jī)
麻省理工一個(gè)研究小組通過微調(diào)步槍的圖片，欺騙了 Google Cloud Vision API，讓 AI 把步槍判定為直升機(jī)。他們使用的方法是「不良樣本」，給計(jì)算機(jī)引入一些人眼無法察覺的修改來對(duì)圖像進(jìn)行錯(cuò)誤的分類。在過去，需要知道目標(biāo)計(jì)算機(jī)系統(tǒng)的基本機(jī)制，這招才能奏效。但是這次麻省理工學(xué)院團(tuán)隊(duì)在沒有獲得系統(tǒng)信息的情況下，就成功的觸發(fā)了錯(cuò)誤分類。
8.用路牌戲耍自動(dòng)駕駛汽車
把停車牌認(rèn)成限速45
研究人員發(fā)現(xiàn)，通過使用油漆或者膠帶，修改停止標(biāo)志，可以成功的欺騙自動(dòng)駕駛汽車，使之進(jìn)行錯(cuò)誤的指令。比如把「LOVE」和「HATE」這兩個(gè)詞放在「STOP」標(biāo)志上，就成功欺騙了自動(dòng)駕駛汽車的機(jī)器學(xué)習(xí)系統(tǒng)，在測試中所有的車都把其誤認(rèn)為「限速 45」（Speed Limit 45）的標(biāo)志。
9. AI 識(shí)色系統(tǒng)各種混亂的匹配
把顏色匹配各種奇怪的名字
機(jī)器學(xué)習(xí)研究人員 Janelle Shan 訓(xùn)練了一個(gè)神經(jīng)網(wǎng)絡(luò)，以產(chǎn)生新的油漆顏色以及可以「匹配」每種顏色的名稱。產(chǎn)生新顏色很順利，但匹配名字簡直是車禍現(xiàn)場。即使在用顏色名稱數(shù)據(jù)進(jìn)行少量訓(xùn)練之后，該模型仍然將天藍(lán)色標(biāo)記為「灰色恥骨」，將深綠色標(biāo)記為「狂暴棕色」，將深粉標(biāo)記為「銀行屁股」。
10.有了 Alexa 要什么圣誕老人?
小女孩對(duì)語音助手說：我超愛你。然后語音助手就下單了
Amazon Alexa 語音助手幫助我們提高了購物體驗(yàn)，讓買東西變得非常簡單。不過有時(shí)候過于簡單了，2017 年 1 月，一個(gè)小女孩用跟 Alexa 說我想要個(gè)玩具房子和一罐曲奇，當(dāng)時(shí)小女孩的原話是「你可以給我一個(gè)玩具屋并和我一起玩么？」。然后小女孩又說「我超愛你」。然后 Alexa 就下單了，第二天 170 美元的玩具屋和一罐曲奇就送到了家里，當(dāng)然是她媽媽買單。現(xiàn)在她媽媽設(shè)置了密碼，不能語音直接買了。（sad。。。）
以上就是 10 個(gè) 2017 年的 AI 失敗案例。
英文原文：Synced | 2017 in Review: 10 AI Failures
文章版權(quán)歸作者所有，未經(jīng)允許請(qǐng)勿轉(zhuǎn)載,若此文章存在違規(guī)行為，您可以聯(lián)系管理員刪除。
轉(zhuǎn)載請(qǐng)注明本文地址：http://m.specialneedsforspecialkids.com/yun/19699.html
摘要：毫無疑問，深度學(xué)習(xí)將驅(qū)動(dòng)在公司中的應(yīng)用。在其價(jià)值評(píng)估和策略評(píng)估上使用的就是深度學(xué)習(xí)。端到端的深度學(xué)習(xí)是一個(gè)令人著迷的研究領(lǐng)域，但是迄今為止混合系統(tǒng)在應(yīng)用領(lǐng)域會(huì)更有效率。目前專注于深度學(xué)習(xí)模式，方法和戰(zhàn)略的研究。 在之前的博客中，我曾預(yù)言過未來幾年的發(fā)展趨勢。我記得上一篇博客的內(nèi)容是《2011年軟件開發(fā)趨勢和相關(guān)預(yù)言》（Software DevelopmentTrends and Predic...
摘要：年，依托于品高原有的行業(yè)積累，品高云開始致力于幫助企業(yè)和政府構(gòu)筑私有云。截至年底，品高云的產(chǎn)品激活量已達(dá)到了萬臺(tái)，其中最長的客戶穩(wěn)定使用時(shí)間已達(dá)年。品高云創(chuàng)造了很多私有云的第一次成立于2003年的廣州市品高軟件股份有限公司，在2008年就開始進(jìn)行云技術(shù)的探索和研發(fā)，在2010年，就推出了品高云產(chǎn)品，直到今天，已經(jīng)發(fā)布了品高云8．0版本，品高成立之初便服務(wù)于大型公司。旗下?lián)碛?000多名員工，...
摘要：營收利潤雙增長艱難轉(zhuǎn)型多年，直到年?duì)I收和利潤才出現(xiàn)雙雙增長局面，盡管營收依舊低于千億美元，但豪賭多年的云計(jì)算和人工智能，伴隨物聯(lián)網(wǎng)部署規(guī)模日益擴(kuò)大的態(tài)勢，經(jīng)營開始取得成效。誕生于1911的IBM，已超過百年歷史，不僅是基業(yè)長青最具代表性企業(yè)之一，且歷經(jīng)多次成功轉(zhuǎn)型，依舊活躍在科技界，對(duì)全球科技發(fā)展仍然舉足輕重，讓他成為全球企業(yè)轉(zhuǎn)型經(jīng)典案例之一。這個(gè)藍(lán)色巨人能屹立百年不倒，核心是持續(xù)不斷的創(chuàng)新...
摘要：月日，在世界人工智能大會(huì)長三角產(chǎn)業(yè)智能論壇上，優(yōu)刻得創(chuàng)始人兼季昕華被授予年長三角人工智能十大杰出人物獎(jiǎng)。季昕華年創(chuàng)立，深耕云計(jì)算大數(shù)據(jù)人工智能領(lǐng)域，公司自主研發(fā)大數(shù)據(jù)流通平臺(tái)服務(wù)平臺(tái)等系列產(chǎn)品和服務(wù)。7月9日，在2021 世界人工智能大會(huì)——長三角產(chǎn)業(yè)智能論壇上，UCloud優(yōu)刻得創(chuàng)始人兼CEO季昕華被授予2021年長三角人工智能十大杰出人物獎(jiǎng)。長三角作為我國經(jīng)濟(jì)與創(chuàng)新力的領(lǐng)頭羊，與人工智能...
閱讀 2165·2023-04-26 00:43
閱讀 2685·2021-11-22 15:22
閱讀 3818·2021-11-11 16:55
閱讀 970·2021-11-04 16:06
閱讀 1789·2019-08-30 14:12
閱讀 1002·2019-08-30 14:02
閱讀 3371·2019-08-29 17:05
閱讀 1418·2019-08-29 12:27
