霍金表態(tài)AI 可能是人類(lèi)的災(zāi)難，有理有據(jù)

費(fèi)老濕 · 發(fā)表于 2016-10-21 10:48

科幻小說(shuō)《2001:太空奧德賽》和根據(jù)它改編而成的經(jīng)典電影《2001 太空漫游》，講述了 AI 由人類(lèi)幫手變?yōu)槿祟?lèi)毀滅者的故事。我們親手打造的 AI，會(huì)在未來(lái)葬送人類(lèi)嗎？霍金表示，這絕非危言聳聽(tīng)。
霍金表態(tài)AI 可能是人類(lèi)的災(zāi)難，有理有據(jù)

近日，在劍橋大學(xué) Leverhulme 智能未來(lái)中心的開(kāi)幕式上，霍金為火爆的 AI 行業(yè)潑了盆冷水。
“我們花了大量時(shí)間學(xué)習(xí)歷史，”霍金在演講中說(shuō)道，“而我們所面對(duì)的歷史，大多是愚蠢的。所以，現(xiàn)在人們?cè)谘芯恐悄艿奈磥?lái)，這是一個(gè)令人欣慰的變化?！?br /> 霍金表示 AI 研究的確帶來(lái)了許多積極因素，認(rèn)為通過(guò)這項(xiàng)新技術(shù)，人類(lèi)或許能夠消除工業(yè)化對(duì)自然界造成的一些損害，而最終目標(biāo)肯定是消除疾病和貧困。

“創(chuàng)造出智慧的潛在好處是巨大的，我們無(wú)法預(yù)測(cè)當(dāng)我們的心智被 AI 增強(qiáng)時(shí)，我們將達(dá)到何種成就。”
“我們生活的方方面面都會(huì)被改變，總之，成功創(chuàng)造出 AI 可能是我們文明史上最重要的事?！?br />

然而，作為享譽(yù)世界的物理學(xué)家，霍金對(duì)于 AI 持謹(jǐn)慎態(tài)度，

他認(rèn)為一旦人類(lèi)創(chuàng)造出具有自我意識(shí)的超級(jí)智慧，可能會(huì)面臨著自我毀滅的風(fēng)險(xiǎn)，因?yàn)?AI 的意志可能會(huì)與我們產(chǎn)生沖突。

“總之，強(qiáng)大的 AI 的興起，或許將是人類(lèi)最好或是最糟糕的事，這我們還不清楚?！?br />

霍金之所以會(huì)有這種擔(dān)憂，是因?yàn)樵谒磥?lái)，AI 的潛力是無(wú)限的，“生物大腦與電腦的能力并沒(méi)有太區(qū)別?！?br /> “因此，從理論上講，計(jì)算機(jī)可以模仿人類(lèi)智慧，并超越它?！?br /> 這已經(jīng)不是霍金第一次對(duì) AI 潛在威脅提出警告了。去年年初，霍金就與一些 AI 專(zhuān)家，還有馬斯克、沃茨等名人發(fā)表聯(lián)合聲明，呼吁禁止武器化 AI 和自主作戰(zhàn)系統(tǒng)。
霍金表態(tài)AI 可能是人類(lèi)的災(zāi)難，有理有據(jù)

當(dāng)時(shí)霍金解釋說(shuō)，AI 的真正風(fēng)險(xiǎn)不在于其是否充滿惡意而在于其能力。他舉了個(gè)例子：你在負(fù)責(zé)一項(xiàng)水利工程時(shí)，不得不淹沒(méi)蟻穴，盡管你并不是一個(gè)仇恨螞蟻的人，但在完成目標(biāo)時(shí)無(wú)意間就為螞蟻帶來(lái)了滅頂之災(zāi)。
所以，當(dāng)一個(gè)能力 MAX 的超級(jí)人工智能在執(zhí)行任務(wù)時(shí)，如果它的目標(biāo)與人類(lèi)不一致，那么人類(lèi)就有可能面臨與螞蟻同樣的厄運(yùn)。
盡管目前人工智能的發(fā)展仍處于起步階段，但霍金對(duì)于 AI 威脅的評(píng)價(jià)，或許值得我們深思：

“人工智能的短期影響取決于誰(shuí)控制了它，而長(zhǎng)期影響則取決于它到底能不能被控制。”

人見(jiàn)百態(tài) · 發(fā)表于 2016-10-21 10:50

哎呦，這個(gè)不錯(cuò) 感謝樓主的分享！

› 綜合交流 / 資源分享區(qū) › 綜合交流大區(qū)