現(xiàn)如今，人工智能AI正在迅速發(fā)展，雖然科幻小說(shuō)經(jīng)常將AI描繪成具有類(lèi)似人類(lèi)特征的機(jī)器人，在短期內(nèi)，保持AI對(duì)社會(huì)影響的目標(biāo)有助于研究許多領(lǐng)域的研究，，如果你的筆記本電腦崩潰或遭到黑客攻擊，它可能只是一個(gè)小麻煩。
而且作為被集成的軟件，所得幾乎均為凈利潤(rùn)，說(shuō)躺平賺錢(qián)也不為過(guò)，這一意識(shí)形成后，很多公司將比拼算法精度作為頭等大事，甚至一度認(rèn)為，不需要招銷(xiāo)售，客戶自然會(huì)聞?dòng)嵃駟味鴣?lái)。
如果它控制你的汽車(chē)，你的飛機(jī)，你的心臟起搏器，你的自動(dòng)交易，人工智能系統(tǒng)做你想要它做的事情變得更加重要系統(tǒng)或您的電網(wǎng)，另一個(gè)短期挑戰(zhàn)是防止在致命的自主武器中進(jìn)行毀滅性的軍備競(jìng)賽。
與目標(biāo)保持一致
從長(zhǎng)遠(yuǎn)來(lái)看，一個(gè)重要的問(wèn)題就是，如果追求強(qiáng)大的AI成功并且AI系統(tǒng)在所有認(rèn)知任務(wù)中變得比人類(lèi)更好，會(huì)發(fā)生什么，設(shè)計(jì)更智能的AI系統(tǒng)本身就是一項(xiàng)認(rèn)知任務(wù)，這樣的系統(tǒng)可能會(huì)經(jīng)歷遞歸的自我改善，引發(fā)智能爆炸，使人類(lèi)的智力遠(yuǎn)遠(yuǎn)落后，通過(guò)發(fā)明革命性的新技術(shù)，這種超級(jí)智能可以幫助我們 消除戰(zhàn)爭(zhēng)，疾病和貧困，因此創(chuàng)建強(qiáng)大的人工智能可能是人類(lèi)歷史上最大的事件，除非我們?cè)诔蔀槌?jí)智能之前學(xué)會(huì)將人工智能的目標(biāo)與我們的目標(biāo)保持一致。
而且作為被集成的軟件，所得幾乎均為凈利潤(rùn)，說(shuō)躺平賺錢(qián)也不為過(guò)，這一意識(shí)形成后，很多公司將比拼算法精度作為頭等大事，甚至一度認(rèn)為，不需要招銷(xiāo)售，客戶自然會(huì)聞?dòng)嵃駟味鴣?lái)。