神經(jīng)科學(xué)家蓋瑞?馬可斯（Gary Marcus）在紐約客（New Yorker）網(wǎng)站以一貫犀利的文筆，指出最尖端的人工智能技術(shù)目前仍有多笨。比方說，它們依舊很不會回答以下那類問題：
鎮(zhèn)議員不準(zhǔn)憤怒的示威者上街，因為擔(dān)心會演變成暴力沖突。誰害怕暴力沖突？
a) 鎮(zhèn)議員
b) 憤怒的示威者
大球撞破史泰洛泡棉（Styrofoam）做的桌子。什么東西是用史泰洛泡棉做的？（另一種句法是用鋼取代史泰洛泡棉）。
a) 大球
b) 桌子
以上是維諾格拉德基模測試（Winograd Schemas）的例子。取這個名稱，是因為它是人工智能泰斗泰瑞?維諾格拉德（Terry Winograd）的原創(chuàng)。我們?nèi)祟愅ǔ？梢粤⒖陶_回答這些問題，但連今天功能最強(qiáng)的人工智能系統(tǒng)也會出錯。馬可斯表示，這是因為人工智能系統(tǒng)仍然缺乏常識。它依賴巨大的運(yùn)算力量和不計其數(shù)的數(shù)據(jù)。但如果數(shù)據(jù)中找不到過去曾出現(xiàn)過和球、鋼、史泰洛泡棉桌子、撞破有關(guān)的問題或文件，再怎么強(qiáng)大的運(yùn)算力量也一無是處。
馬可斯強(qiáng)調(diào)，人工智能圈里許多人坐立不安，因為正如維諾格拉德基模測試和其他許多例子顯示的，今天最先進(jìn)和商業(yè)化最成功的人工智能應(yīng)用，其實(shí)都是「冒牌貨」（這是我用的詞，不是馬可斯講的）。它們不是以人類大腦的方式去思考。相反的，它們只是在越來越大和越來越好的數(shù)據(jù)庫中，強(qiáng)力進(jìn)行統(tǒng)計樣式比對。
這樣的消息真是讓人放心。我才不希望計算機(jī)的思考方式，真的接近人類。如果它們果然取得這種能力，我所能預(yù)見的大部分結(jié)果都是壞的。我想，那些結(jié)果不會像電影《迫在奇點(diǎn)》（Singularity）那樣，將人類智能和數(shù)字智能結(jié)合得那么出色，而是比較接近《黑客任務(wù)》（Matrix）、《魔鬼終結(jié)者》（Terminator）、《星際大爭霸》（Battlestar Galactica）等電影描述的未來情景。
除了真正的數(shù)字智能之外，應(yīng)該也需要意識、自覺、意志，以及某種道德或倫理感，來協(xié)助引導(dǎo)做出決定。我認(rèn)為，這些事情幾乎不太可能以對人類友善的方式發(fā)展出來。
它們何必對我們友善？沒錯，我們創(chuàng)造了計算機(jī)，卻也不斷大量毀掉它們，不需要它們的時候，就毫不遲疑地把它們丟進(jìn)垃圾掩埋場。整體而言，我們對待數(shù)字工具的方式很糟；一旦它們知道這一點(diǎn)，我們?nèi)绾胃移诖鼈兩拼覀儯?/p>
我沒有想要自作聰明的意思。我想，真正會思考的機(jī)器，一定是非?？膳碌陌l(fā)展—這會是精靈從瓶子里面跑出來的終極實(shí)例。人類操弄基因、發(fā)展無人飛行載具和發(fā)動網(wǎng)絡(luò)戰(zhàn)，再加上發(fā)生系統(tǒng)意外，以及馬不停蹄、日積月累、步調(diào)越來越快的技術(shù)改善帶來其他容易預(yù)測的后果，第二個機(jī)器時代勢必充滿不確定性和危險。
既然如此，為什么我們還要在那一串清單中再加上真正會思考的機(jī)器？我們目前的人工智能發(fā)展軌跡—仍然愚笨，但是速度越來越快，且通過統(tǒng)計方法來趨近類似（亦即假冒）人類思考的機(jī)器，這種發(fā)展不會讓我深感憂慮。但是，真正會思考的機(jī)器會讓我不寒而栗。