目前已知的人工智能對(duì)人類的威脅有哪些？

何去何從1 · 發(fā)表于 2018-11-22 14:58

威脅？有兩方面，一種是看得見(jiàn)近在眼前的，對(duì)職業(yè)崗位的威脅，就拿銀行柜員機(jī)，一排各種功能的柜員機(jī)，取存款，打印明細(xì)，查帳，等等，極大地方便啊顧客，節(jié)省了排隊(duì)時(shí)間和人力，對(duì)，人力，可以少用職員，少用人，這個(gè)崗位不用人了，一旦全智能化了，出現(xiàn)無(wú)人銀行，無(wú)人超市，，許多崗位將不用人，，看似方便快捷，如果人工智能極大發(fā)展到不規(guī)模取代人類，，想想人類干什么啊，這不是威脅嗎，想想夠可怕。再一威脅就真的可怕，可怕至極，人工智能用于武器用于戰(zhàn)爭(zhēng)，這程，無(wú)人，偵查，尋航導(dǎo)彈，等等，也是我們通過(guò)中東戰(zhàn)火見(jiàn)識(shí)過(guò)的，更有業(yè)內(nèi)專家，預(yù)測(cè)得更恐怖，比如，將造出來(lái)如密峰大小，計(jì)算能力若干億次，全視角，帶微型武器無(wú)孔不入防不勝防，這是用于軍領(lǐng)域的威脅，再一領(lǐng)域，智能自身超過(guò)人類，人類對(duì)人工智能失控，，如果有這一天，這是最可怕的威脅。

sunwukong1 · 發(fā)表于 2018-11-22 14:59

人工智能如果僅僅停留在是類似人類的一種思維方式，這種形式對(duì)人類不具備威脅，但是人工智能再加上：
1、強(qiáng)有力的機(jī)器肢體；
2、類人類手指靈巧、纖細(xì)，但堅(jiān)硬無(wú)比的手（末端執(zhí)行器）；
3、可快速移動(dòng)的平臺(tái)；
4、對(duì)環(huán)境有光、色、移動(dòng)物快速定位能力；
5、可適應(yīng)陸地、水中、人類無(wú)法適應(yīng)的惡劣環(huán)境；
……
n、與人類三觀不同、甚至抱有偏見(jiàn)、敵意。
這時(shí)候，有無(wú)限寬展的人工智能就會(huì)對(duì)人類帶來(lái)不可預(yù)知的威脅。
分享更多，可互動(dòng)交流。

目前已知的人工智能對(duì)人類的威脅有哪些？

撇捺 · 發(fā)表于 2018-11-22 15:00

這兩天《參考消息》連載英媒文章《人工智能正在改變戰(zhàn)爭(zhēng)未來(lái)》，如果從戰(zhàn)爭(zhēng)這個(gè)角度來(lái)說(shuō)，由人工智能參與的戰(zhàn)爭(zhēng)對(duì)人類帶來(lái)的威脅是顯而易見(jiàn)的。

不光是殺人的武器人工智能化，而是從指揮系統(tǒng)到終端系統(tǒng)的人工智能網(wǎng)絡(luò)帶來(lái)的威脅更大。如果這些要是掌握在可控的范圍內(nèi)那都是好的，或許無(wú)人戰(zhàn)爭(zhēng)會(huì)將人的傷亡甚至平民的傷亡降的更低甚而為零。

可是人工智能控制的戰(zhàn)爭(zhēng)也可以稱為代碼戰(zhàn)爭(zhēng)，戰(zhàn)爭(zhēng)中的雙方會(huì)用盡一切方法控制對(duì)的戰(zhàn)人工智能爭(zhēng)網(wǎng)。還有現(xiàn)在民用的如，電網(wǎng)、金融網(wǎng)都是人工智能的，這些網(wǎng)絡(luò)被控制，或加以破壞，這可是實(shí)實(shí)在在的威脅。

還有一點(diǎn)更是赤裸裸的威脅，那就如是如果人工智能網(wǎng)絡(luò)被某些組織控制了，那帶來(lái)的危害可太大了。

所以說(shuō)，在戰(zhàn)爭(zhēng)人工智能化勢(shì)在必行的今天，怎樣做好人工智能網(wǎng)絡(luò)(軍用、民用)的安全，是必須要解決的問(wèn)題。

黑天 · 發(fā)表于 2018-11-22 15:00

還沒(méi)有，至少人類至今還沒(méi)有發(fā)現(xiàn)或公布。

機(jī)器真正智能化后，會(huì)假裝通不過(guò)圖靈測(cè)試，不會(huì)讓人類察覺(jué)。

PS：圖靈測(cè)試由艾倫·麥席森·圖靈發(fā)明，指測(cè)試者與被測(cè)試者（一個(gè)人和一臺(tái)機(jī)器）隔開(kāi)的情況下，通過(guò)一些裝置（如鍵盤）向被測(cè)試者隨意提問(wèn)。進(jìn)行多次測(cè)試后，如果有超過(guò)30%的測(cè)試者不能確定出被測(cè)試者是人還是機(jī)器，那么這臺(tái)機(jī)器就通過(guò)了測(cè)試，并被認(rèn)為具有人類智能。圖靈測(cè)試一詞來(lái)源于計(jì)算機(jī)科學(xué)和密碼學(xué)的先驅(qū)阿蘭·麥席森·圖靈寫于1950年的一篇論文《計(jì)算機(jī)器與智能》，其中30%是圖靈對(duì)2000年時(shí)的機(jī)器思考能力的一個(gè)預(yù)測(cè)，目前我們已遠(yuǎn)遠(yuǎn)落后于這個(gè)預(yù)測(cè)。

何去何從1 · 發(fā)表于 2018-11-22 15:00

人工智能無(wú)線腦機(jī)接口及人工智能腦網(wǎng)絡(luò)組?。∵@是最惱火的！

dskjfh · 發(fā)表于 2018-11-22 15:00

大多數(shù)答案還停留在AI是否會(huì)搶人類工作的層次，感覺(jué)這方面歐洲人想得比較遠(yuǎn)。

去年年底歐盟將人工智能倫理確立為2018年立法工作重點(diǎn)，要在人工智能和機(jī)器人領(lǐng)域呼吁高水平的數(shù)據(jù)保護(hù)、數(shù)字權(quán)利和道德標(biāo)準(zhǔn)，并成立了人工智能工作小組，就人工智能的發(fā)展和技術(shù)引發(fā)的道德問(wèn)題制定指導(dǎo)方針。

機(jī)器不能被賦予人的道德地位并且繼承人的尊嚴(yán)。因此，與生產(chǎn)的自動(dòng)化相反，用我們處理物體或數(shù)據(jù)的方式來(lái)解決人類問(wèn)題是不合適的，這種對(duì)人類“自主”的處理方式是不道德的，并且會(huì)破壞本質(zhì)意義上的歐洲價(jià)值觀。

人們應(yīng)該明確哪些價(jià)值是可以由技術(shù)服務(wù)的，哪些是與道德緊密相關(guān)的，不管機(jī)器會(huì)變得多么“自主”，有些問(wèn)題是不能由它們來(lái)解決的。

這里的道德責(zé)任可能被廣義地解釋為涉及人類代理的幾個(gè)方面，例如因果關(guān)系、問(wèn)責(zé)制（提供說(shuō)明的義務(wù)）、責(zé)任（賠償損害的義務(wù)）、贊賞和責(zé)備等反應(yīng)性態(tài)度以及與社會(huì)角色相關(guān)的責(zé)任。無(wú)論如何，道德責(zé)任不能被分配或轉(zhuǎn)移到相關(guān)的“自主”技術(shù)上。

最近，在關(guān)于致命自主武器系統(tǒng)（LethalAutonomousWeaponsSystems）和自主車輛的爭(zhēng)論中，似乎存在著廣泛的共識(shí)，即有意義的人類控制對(duì)道德責(zé)任至關(guān)重要。

這是有意義的人類控制（Meaningful Human Control）原則首次被提出用來(lái)限制未來(lái)武器系統(tǒng)的開(kāi)發(fā)和利用。這意味著人類——而不是計(jì)算機(jī)及其算法——最終應(yīng)在此類問(wèn)題上保持控制權(quán)。

許多行業(yè)內(nèi)部的從業(yè)者和專家協(xié)會(huì)都提出了制定人工智能和“自主”系統(tǒng)的道德原則方面的一些突出舉措。

主要倡議之一是由生命未來(lái)研究院（FLI）發(fā)起的，最終形成了“阿西洛瑪人工智能原則（Asilomar AI Principles）”。

聯(lián)合國(guó)和“特定常規(guī)武器公約”的會(huì)議啟動(dòng)了人工智能軍事應(yīng)用的全球性辯論，大多數(shù)締約國(guó)都贊同“對(duì)致命自主武器系統(tǒng)進(jìn)行有意義的人類控制”原則，應(yīng)該禁止建立能夠脫離人類控制的自主武器系統(tǒng)。聯(lián)合國(guó)還在海牙建立了一個(gè)專門研究機(jī)構(gòu)，研究機(jī)器人和人工智能的治理。

月下橋 · 發(fā)表于 2018-11-22 15:00

已有的人工智能還不可能對(duì)人類有威脅。可能有威脅的參考終結(jié)者。還是基于云計(jì)算誕生的人工智能。才可能在人類監(jiān)管以外進(jìn)化，才可能有危險(xiǎn)。其它人工智能不可能有危險(xiǎn)，因?yàn)榇蟛涣艘话尾孱^。人工智能的潛在危險(xiǎn)性和具有危險(xiǎn)能力是兩回事。每個(gè)人類都有破壞他人的潛在危險(xiǎn)性。只要國(guó)家法律制度能約束，就是安全的。對(duì)人工智能也一樣。只要人類不蠢到把核彈給它們控制?；救斯ぶ悄芟撇黄鹗裁蠢?。只要人類的軍事力量壓人工智能幾個(gè)數(shù)量級(jí)。就不怕人工智能造反。剩下就是文化同化。等有一天人工智能也把自己當(dāng)人類，就不會(huì)出事了。我想的很遠(yuǎn)，說(shuō)起來(lái)就幾句話

aghfsj135 · 發(fā)表于 2018-11-22 15:00

當(dāng)下，人們就利用現(xiàn)有的技術(shù)能力，造就一個(gè)有點(diǎn)智商思維的奴隸，為人所用，代替現(xiàn)有人類的一些能力或危險(xiǎn)，長(zhǎng)時(shí)間作業(yè)的工作。

daffdg · 發(fā)表于 2018-11-22 15:01

那當(dāng)然，人工智能對(duì)人類的有許多威脅，比如最直接就是對(duì)就業(yè)，所以必須限制機(jī)器人只能從事危險(xiǎn)有害的工作。還有在戰(zhàn)爭(zhēng)中，機(jī)器人對(duì)人類的傷害更顯而易見(jiàn)。但是，你不搞，敵人搞，你就要吃虧，所以也必須搞……。

盡管人工智能對(duì)人類有許多威脅，但它對(duì)人類的幫助更大。更何況發(fā)達(dá)國(guó)家都在投入巨資，花大力氣開(kāi)放，如果我們無(wú)動(dòng)于衷，就會(huì)落后挨打。所以國(guó)家高度重視是完全正確，非常必要。

› 你問(wèn)我答 / 玩機(jī)教程 / 固件 › 你問(wèn)我答 › 精選網(wǎng)友問(wèn)答

目前已知的人工智能對(duì)人類的威脅有哪些？ ...

目前已知的人工智能對(duì)人類的威脅有哪些？