哈拉瑞：「

科技本身並不存在善良或邪惡，它從來(lái)不會(huì)跟你說(shuō)或強(qiáng)迫你用這個(gè)科技做怎麼樣的事。比如工業(yè)革命中的蒸汽火車、電報(bào)或收音機(jī)，這些科技會(huì)發(fā)展出共產(chǎn)獨(dú)裁主義、法西斯政權(quán)，或民主政權(quán)。火車並沒(méi)有跟你說(shuō)它比較想用來(lái)發(fā)展共產(chǎn)主義、法西斯主義或民主主義。所以同樣的，現(xiàn)在這些新科技不存在善良或邪惡，但也不是完全的中立，我們絕不能忽視這點(diǎn)。你可以用它來(lái)做很多好事，但也存在許多淺在危機(jī)，當(dāng)然我不是說(shuō)要停止科技發(fā)展，這是不可能的，而是要意識(shí)到現(xiàn)在正在發(fā)生什麼樣的事，並謹(jǐn)慎的做出選擇。

」

38:08

誰(shuí)會(huì)成為「無(wú)用階級(jí)」，誰(shuí)又會(huì)成為「人神」？而這個(gè)差距會(huì)越來(lái)越大嗎？比如矽谷的億萬(wàn)富翁、你我，然後某個(gè)孟加拉國(guó)的工人？

哈拉瑞：「

這可能會(huì)造成人類史上第一次，社交和經(jīng)濟(jì)上的不平等擴(kuò)展到基本生理機(jī)能的不平等。

當(dāng)然現(xiàn)在還是有某些生理上的不平等，但這止於比如有錢(qián)人比較有錢(qián)，所以他們比較高之類的。如果我們說(shuō)一些基本的心理能力、體能和認(rèn)知能力，上層階級(jí)和下層階級(jí)是沒(méi)有區(qū)別的。但未來(lái)21世紀(jì)，這可能會(huì)造成人類史上第一次，社交和經(jīng)濟(jì)上的不平等擴(kuò)展到基本生理機(jī)能的不平等。人類會(huì)以生理機(jī)能被分成幾個(gè)不同的級(jí)別，或許最終會(huì)變成不同物種。過(guò)去兩百萬(wàn)年來(lái)，地球上本來(lái)有各種不同物種的人類，到了近兩千年那些其他物種的類人都滅絕，只留下我們?nèi)祟悺６磥?lái)21世紀(jì)也很有可能會(huì)發(fā)生同樣的事，可能會(huì)分為原本的人類和一個(gè)全新的類人物種。

我們現(xiàn)在的狀況，很像之前19世紀(jì)的工業(yè)革命。慢慢的受到影響的層面越來(lái)越大，最先意識(shí)到這件事正在發(fā)生的國(guó)家如英國(guó)，他們會(huì)繼續(xù)待在事件的核心。其他如中國(guó)、印度，或一些伊斯蘭國(guó)家，他們會(huì)被拋在後方。中國(guó)最終花了一百五十年來(lái)追上這巨大的差距，而非洲許多國(guó)家，到今天都趕不上這些巨大差距。

我感覺(jué)到這件事現(xiàn)在即將再次發(fā)生，且這差距，也許永遠(yuǎn)沒(méi)辦法追上。

」

40:13

主持人認(rèn)為工業(yè)革命或許也不是完全的這麼糟糕？因?yàn)檫^(guò)去工業(yè)革命而受惠的國(guó)家大有人在，而未來(lái)的工業(yè)革命會(huì)不會(huì)也是如此？比如某些身體改造的超人類來(lái)幫忙解決世界飢荒、瘟疫、戰(zhàn)爭(zhēng)之類的問(wèn)題？

哈拉瑞：「

首先，工業(yè)革命是經(jīng)過(guò)100-150年漫長(zhǎng)的發(fā)展，而像孟加拉國(guó)這類的國(guó)家真的從工業(yè)革命受惠，是相當(dāng)後期且在這之中發(fā)生許多悲慘的事。如果要說(shuō)工業(yè)革命也會(huì)受惠於落後國(guó)家，這有幾點(diǎn)問(wèn)題，第一個(gè)是即將到來(lái)的工業(yè)革命所造成的「先進(jìn)國(guó)家與落後國(guó)家的差距」會(huì)是前所未見(jiàn)的巨大。未來(lái)是『是否知道如何製造身體部位或腦』，過(guò)去是『是否知道如何製造輪船』，這兩者的差距是完全不同等級(jí)，且要追上這差距可以算是不可能的任務(wù)。人類之所以會(huì)進(jìn)步是因?yàn)槲覀儠?huì)持續(xù)的改進(jìn)與學(xué)習(xí)，所以這個(gè)差距只會(huì)越來(lái)越大，不會(huì)越來(lái)越小。

第二個(gè)是如果我們說(shuō)過(guò)去像中國(guó)、南韓或孟加拉國(guó)之所以能縮小工業(yè)革命造成的差距，主要原因是廉價(jià)勞工。而21世紀(jì)，當(dāng)然我並不是在預(yù)言這個(gè)東西，我其實(shí)不太確定會(huì)不會(huì)真的發(fā)生，但我們必須十分注意是未來(lái)可能廉價(jià)勞工最終會(huì)變成〝無(wú)用勞工〞，因?yàn)楫?dāng)你有3d列印、奈米科技和人工智能等這些高科技，當(dāng)然還是會(huì)有些工作需要人類來(lái)操作，但工廠雇用許多廉價(jià)勞工的時(shí)代將會(huì)過(guò)去，而這群人很有可能會(huì)變得『沒(méi)有價(jià)值的人』。

所以在即將到來(lái)的21世紀(jì)工業(yè)革命，這些無(wú)用階級(jí)到底能帶來(lái)甚麼價(jià)值？這是未知的。

」

44:49

接下來(lái)主持人將話題轉(zhuǎn)到演算法、大數(shù)據(jù)這東西上，向哈拉瑞提問(wèn)說(shuō)演算法或大數(shù)據(jù)這東西其實(shí)在各個(gè)方面上幫助這個(gè)世界，但有沒(méi)有甚麼是我們需要注意的呢？

哈拉瑞：「

在這一兩百年，大部分的人們相信『人文主義』，這主要在說(shuō)自己的感覺(jué)大於其他所有感覺(jué)。我們不會(huì)再問(wèn)〝神〞，詢問(wèn)教皇的意見(jiàn)，比如要如何決定由誰(shuí)來(lái)統(tǒng)治國(guó)家，或英國(guó)是否要離開(kāi)歐盟等這些問(wèn)題。我們會(huì)詢問(wèn)『你覺(jué)得』英國(guó)應(yīng)該要離開(kāi)歐盟嗎？現(xiàn)在會(huì)直接地詢問(wèn)一般人對(duì)某些政治議題有甚麼樣的想法。在經(jīng)濟(jì)上也類似如此。不會(huì)有一個(gè)什麼〝至高無(wú)上的力量〞來(lái)告訴你應(yīng)該買什麼，而是你自己想買什麼，〝消費(fèi)者永遠(yuǎn)是對(duì)的〞某方面就是在講這件事。這在道德觀、藝術(shù)、個(gè)人選擇等都是在講差不多的東西『如果你感覺(jué)對(duì)了，那就沒(méi)錯(cuò)！』

現(xiàn)代的一些重要議題辯論，都是因?yàn)槿说那楦信鲎病Ｎ矣X(jué)得可以，但你覺(jué)得不行，那我們就必須來(lái)討論看要如何解決。但如果是我覺(jué)得可以，神覺(jué)得不行？沒(méi)有人在乎。

但現(xiàn)在科學(xué)告訴我們，過(guò)去說(shuō)的那些自由意志、個(gè)人意願(yuàn)等，這些都是現(xiàn)代童話故事。根據(jù)現(xiàn)在的生物科學(xué)指出，自由意志不存在，人類的感覺(jué)也不是什麼奇幻又神聖的存在，這些都只是生化演算，是經(jīng)過(guò)好幾百萬(wàn)年的進(jìn)化所得到的成果。當(dāng)談到『做決定』」時(shí)，人類的感覺(jué)是我們所知最可靠的選擇方法。如果你要從『自己的感覺(jué)』和『聖經(jīng)』中做選擇，那絕對(duì)要選自己的感覺(jué)。聖經(jīng)只是某些耶路撒冷牧師寫(xiě)的一本書(shū)，他們知道甚麼呢？人類的感覺(jué)，是經(jīng)過(guò)好幾百萬(wàn)年的篩選和進(jìn)化，祖先們經(jīng)過(guò)好幾次的自然淘汰，存活並傳承下來(lái)的成果。所以叫你『聆聽(tīng)自己的聲音；和自己對(duì)話』不是沒(méi)有道理的。

但之所以會(huì)相信自己的感覺(jué)，是因?yàn)樵谶@之前人們不知道要如何解讀人類的身體化學(xué)反應(yīng)，或沒(méi)有能力來(lái)解讀這些龐大的資料。比如如果蘇聯(lián)的某個(gè)探員，每天跟蹤你，竊聽(tīng)每一通你打的電話，記錄每一個(gè)對(duì)談等，他們也不知道你為什麼會(huì)做這些事，為什麼會(huì)有這種感覺(jué)，因?yàn)樗麄儾焕斫馍锘瘜W(xué)，或沒(méi)有科技來(lái)分析那些資料。

現(xiàn)在這點(diǎn)正在改變，在生化演算、人工智能的結(jié)合下，我們現(xiàn)在知道了越來(lái)越多關(guān)於自己身體，知道我們?yōu)槭颤N會(huì)有這種感覺(jué)，身體為什麼會(huì)有這種反應(yīng)。也因?yàn)楝F(xiàn)在的科技，讓我們能夠解讀那些龐大的資料，讓我們更了解我們自己。我們非常接近一個(gè)階段是google、fb或亞馬遜等這些大公司，或許他們比我們更了解自己。

舉一個(gè)實(shí)際的例子。

以前我們讀書(shū)，就只是單方面的『人類讀書(shū)』，僅此而已。現(xiàn)在，我們正在接近，正在發(fā)展到下一個(gè)階段不只是人類讀書(shū)，書(shū)也開(kāi)始讀人。比如我們使用亞馬遜的電子閱讀器Kindle 看書(shū)，當(dāng)然我們正在讀書(shū)，但同時(shí)Kindle 也在讀你。Kindle 知道你看某本書(shū)時(shí)閱讀速度的快慢、知道你甚麼時(shí)候停止閱讀、甚麼時(shí)候再開(kāi)始閱讀，它知道你在某一個(gè)特定的頁(yè)面停止並不再閱讀此書(shū)。這給亞馬遜某些資訊，告訴他們你大概是個(gè)怎麼樣的人。但這相當(dāng)早期，下一階段，是將一個(gè)已經(jīng)存在的科技，人臉辨識(shí)和Kindle 做連結(jié)，這時(shí)候Kindle 會(huì)透過(guò)人臉辨識(shí)來(lái)解讀你的臉部表情，看你在閱讀某個(gè)特定句子時(shí)，臉部會(huì)有怎麼樣的反應(yīng)，但這也是非常早期，因?yàn)檫@時(shí)候的Kindle 只是在閱讀你外在的身體反應(yīng)，再下一階段，是連結(jié)你身體裡面的生理反應(yīng)，這會(huì)給Kindle 也就是亞馬遜絕對(duì)精準(zhǔn)的資料，你在讀怎麼樣的文字或句子時(shí)會(huì)讓你感到開(kāi)心、難過(guò)、生氣等。在你讀完書(shū)時(shí)，或許你會(huì)學(xué)到某些東西，或許過(guò)了一兩天就忘光光，我不知道，但亞馬遜不會(huì)忘記任何事，亞馬遜會(huì)知道你是誰(shuí)，你有怎麼樣的人格，然後要如何取悅你，如何讓你開(kāi)心、難過(guò)、生氣等。當(dāng)我們到這個(gè)階段時(shí)，某些機(jī)構(gòu)像民主選舉、自由市場(chǎng)，這類東西會(huì)變得完全無(wú)用，因?yàn)樗麄冎廊绾尾倥悖@時(shí)候的人們會(huì)變成百分之百的木偶。

」

52:38

接下來(lái)是觀眾提問(wèn)。

哈拉瑞在現(xiàn)場(chǎng)和書(shū)中談到許多「?jìng)€(gè)人資訊」的東西，但這些資訊好像不是人的全部？

哈拉瑞：「

這位觀眾說(shuō)的，和我的書(shū)裡面也有提到，主要是在將『智力 intelligence』和『意識(shí) conscious』做分離，在講這兩者是不同的，因?yàn)楹芏嘣谌斯ぶ悄艿臉I(yè)界人士會(huì)將兩者混唯一談，當(dāng)然這是可以理解的，因?yàn)槿祟惥褪莾烧吆弦坏睦印５@兩者很大的不同是，智力是你解決問(wèn)題的能力，而意識(shí)是你主觀的感覺(jué)。在這60-70年，電腦智力有極大的進(jìn)步，但對(duì)於電腦意識(shí)的發(fā)展是0，且在近期也沒(méi)有看到任何資訊或新聞講發(fā)展電腦意識(shí)。

只要智力和意識(shí)結(jié)合在一起，比如說(shuō)人類這幾百萬(wàn)年的發(fā)展，人們永無(wú)止盡的辯論這兩者的關(guān)係，這對(duì)過(guò)去的哲學(xué)家們是個(gè)有趣的議題，且?guī)缀鯖](méi)有討論出任何實(shí)際上的解決方法。現(xiàn)在，我們將智力和意識(shí)分開(kāi)來(lái)，就有一些相當(dāng)現(xiàn)實(shí)的問(wèn)題出現(xiàn)，比如哪一個(gè)比較重要？對(duì)誰(shuí)更重要？對(duì)經(jīng)濟(jì)、政治，還是軍事？從過(guò)去的經(jīng)驗(yàn)推論出，不管是對(duì)經(jīng)濟(jì)、政治還是軍事，重要的只有智力，意識(shí)是在你真的非常需要且無(wú)法擺脫才一起算上，否則能不包含意識(shí)就盡量不包含。

比如司機(jī)這個(gè)行業(yè)，我們其實(shí)只是想要將我們從A點(diǎn)載到B點(diǎn)，越便宜、越有效率越好。今天司機(jī)之所以還是『人』，之所以還有意識(shí)，是逼不得已的事，因?yàn)檫@世界上能做這個(gè)工作的就只有人。但當(dāng)有自動(dòng)駕駛後，你就不需要那個(gè)自動(dòng)駕駛擁有意識(shí)，因?yàn)轳{駛不需要擁有意識(shí)也可以完美的完成這項(xiàng)工作。這有點(diǎn)像之前工業(yè)革命的車取代馬，為什麼車會(huì)取代馬？馬有各式各樣，超過(guò)一百萬(wàn)件馬能做的事，馬能夠感到開(kāi)心、感到難過(guò)、感到痛苦和愛(ài)等，沒(méi)有任何一輛車能夠做到這些事，但我們不需要車子有那些感覺(jué)。車之所以取代馬，就只是因?yàn)檐嚨哪承┨囟芰Ρ锐R還要好。

所以我認(rèn)為我們即將碰到的危險(xiǎn)是，當(dāng)我們將智力和意識(shí)做分離，政府、軍隊(duì)或財(cái)團(tuán)，他們通常都是選擇智力，而非意識(shí)。

」

57:25

是否能從過(guò)去的歷史來(lái)預(yù)測(cè)我們的未來(lái)會(huì)如何發(fā)展呢？

哈拉瑞：「

恩...從歷史來(lái)預(yù)測(cè)現(xiàn)在的未來(lái)..是非常有限的。

今天，或許是史上第一次，我們對(duì)於未來(lái)20-30年人類社會(huì)的基本生活型態(tài)會(huì)如何發(fā)展，是一點(diǎn)線索也沒(méi)有。在中世紀(jì)，或18、19世紀(jì)，當(dāng)然你沒(méi)辦法知道未來(lái)15年這個(gè)世界到底會(huì)變?cè)觞N樣，或許會(huì)被其他國(guó)家入侵，或許朝代會(huì)更改，但人們的基本生活型態(tài)會(huì)是一樣的，平民還是平民，人類的身體也不會(huì)有甚麼變化等。

今天，我們無(wú)法預(yù)測(cè)未來(lái)20-30年人類社會(huì)的基本生活型態(tài)會(huì)如何發(fā)展。比如人才市場(chǎng)的需求是甚麼？人們改造自己的身體在未來(lái)是否會(huì)是一件平常的事？人們的性關(guān)係和浪漫關(guān)係會(huì)怎麼樣？我們對(duì)這些問(wèn)題一無(wú)所知。就算我們今天有前所未見(jiàn)的龐大數(shù)據(jù)，有強(qiáng)大的電腦來(lái)解讀，我們還是不知道未來(lái)會(huì)如何發(fā)展，因?yàn)樵蕉鄶?shù)據(jù)、越強(qiáng)大的電腦，也代表時(shí)代轉(zhuǎn)變得越快，這也讓我們更無(wú)法預(yù)測(cè)。

舉個(gè)例子，今天美國(guó)政府手上擁有有關(guān)世界各式各樣的數(shù)據(jù)，是全世界不管是財(cái)團(tuán)還是政府都?jí)裘乱郧蟮模词故稚衔沼心切?shù)據(jù)，他們還是可以設(shè)法在中東搞砸各種事情。就像我們玩撲克牌，他完全知道對(duì)方手上有哪些牌，但還是可以輸了一輪又一輪。

即使美國(guó)手上有那些數(shù)據(jù)，但沒(méi)有能力解讀這些數(shù)據(jù)，然後利用解讀的成果來(lái)預(yù)測(cè)未來(lái)，或設(shè)立政策。也因?yàn)槿四壳暗哪芰τ邢蓿瑳](méi)辦法解讀這些數(shù)據(jù)，所以才有越來(lái)越多政府或機(jī)構(gòu)把這些數(shù)據(jù)交給大數(shù)據(jù)、人工智能來(lái)運(yùn)算。

」

1:01:10

觀眾提出過(guò)去的工業(yè)革命或現(xiàn)在美國(guó)矽谷也有發(fā)生許多工人被資遣的事，沒(méi)有產(chǎn)生所謂的「無(wú)用階級(jí)」，為什麼你會(huì)覺(jué)得未來(lái)即將到來(lái)的工業(yè)革命會(huì)不一樣呢？第二個(gè)是這一切你覺(jué)得是否跟「快樂(lè)/幸福」有關(guān)？

哈拉瑞：「

有關(guān)第一個(gè)問(wèn)題，也是個(gè)好問(wèn)題。19世紀(jì)的工業(yè)革命和現(xiàn)在或即將到來(lái)的工業(yè)革命，這兩者最基本的不同是我們現(xiàn)在到了一個(gè)，19或20世紀(jì)所知的人類極限，但這也即將改變。人類據(jù)我們所知有兩種能力，分別是體質(zhì)能力和認(rèn)知能力。過(guò)去工業(yè)革命機(jī)器取代人力，主要是機(jī)器的體質(zhì)能力比人類強(qiáng)大，所以人力被取代，然後轉(zhuǎn)到需要認(rèn)知能力的工作。現(xiàn)在人工智能開(kāi)始和人類的認(rèn)知能力做競(jìng)爭(zhēng)，但我們不知道人類還有沒(méi)有第三個(gè)能力讓我們說(shuō)：『好吧，現(xiàn)在把需要認(rèn)知能力的工作交給人工智能，我們?nèi)祟惾プ鱿乱粋€(gè)...』下一個(gè)甚麼呢？有些人說(shuō)情感能力，但情感在生物科學(xué)中一點(diǎn)都不特殊，情感不是神賜給人類，讓我們能寫(xiě)詩(shī)之類神奇能力，在主流生物科學(xué)中，前面有提到，情感最終也會(huì)像體能和認(rèn)知被解碼為生化演算法。就算是今天，就算電腦沒(méi)有情感，也已經(jīng)可以比人類更精準(zhǔn)的診斷人的情感。

如果今天我想知道你感覺(jué)如何，主要是透過(guò)外在的表現(xiàn)比如臉部表情、肢體語(yǔ)言、說(shuō)話語(yǔ)氣等來(lái)判斷你是快樂(lè)、傷心或生氣。現(xiàn)在電腦正在學(xué)習(xí)如何和我們?nèi)祟愐粯訌哪槻勘砬椤⒅w語(yǔ)言、說(shuō)話語(yǔ)氣等來(lái)判斷人的情感，且做得比我們?nèi)祟愡€要好。更重要的是，電腦現(xiàn)在取得我們?nèi)祟悷o(wú)法解讀的數(shù)據(jù)『人類身體內(nèi)的改變』。當(dāng)我正在看你，我不知道你腦中正在發(fā)生甚麼事，我不知道你心跳有多快，或你的血壓是多少等，但人工智能會(huì)透過(guò)生物識(shí)別傳導(dǎo)器知道所有一切，它知道你大腦哪個(gè)區(qū)塊正在運(yùn)作，知道你心跳多快、血壓多高等。

所以人類的第三個(gè)能力可能不會(huì)是情感能力，因?yàn)楝F(xiàn)階段電腦就已經(jīng)超越人類。

還有一點(diǎn)有關(guān)過(guò)去工業(yè)革命和未來(lái)工業(yè)革命的不同，是世界轉(zhuǎn)變的速度變得越來(lái)越快，就算我們能夠找到某些能力高於電腦，我們還是必須要持續(xù)的開(kāi)發(fā)自己，因?yàn)槊?0-15年就會(huì)迎來(lái)一次大改變，所以每10-15年就要換一個(gè)工作，換一個(gè)專業(yè)，且這件事對(duì)絕大多數(shù)的人是相當(dāng)困難的。假設(shè)你是一個(gè)45歲的計(jì)程車司機(jī)或保險(xiǎn)業(yè)務(wù)員，你的工作被人工智能取代，但現(xiàn)在有個(gè)職缺是設(shè)計(jì)未來(lái)城市，一個(gè)45歲的計(jì)程車司機(jī)或保險(xiǎn)業(yè)務(wù)員會(huì)知道如何設(shè)計(jì)未來(lái)城市，或他設(shè)計(jì)出來(lái)的成果又會(huì)如何呢？他或她能夠在45歲重新開(kāi)發(fā)自己，讓自己的新專業(yè)是設(shè)計(jì)未來(lái)城市嗎？

當(dāng)然我並不是在預(yù)言這件事，這只是一個(gè)可能性我們必須要十分注意，因?yàn)椴荒苷f(shuō)：『反正之前工業(yè)革命也發(fā)生同樣的事情，現(xiàn)在也好好的，放輕鬆點(diǎn)，之後會(huì)跟以前一樣有些新的職位跑出來(lái)，我去做那個(gè)就好了』，過(guò)去和現(xiàn)在發(fā)生的事是完全不一樣的等級(jí)。

」

1:06:50

第二個(gè)問(wèn)題，有關(guān)「快樂(lè)/幸福」的問(wèn)題，主持人重新定義了這個(gè)問(wèn)題，說(shuō)未來(lái)真的會(huì)像哈拉瑞說(shuō)的那樣，因?yàn)槿祟惡翢o(wú)用處所以被淘汰？難道我們不能把所有工作都交給人工智能，而我們?nèi)祟惥拖砀Ｏ順?lè)，想一些哲學(xué)問(wèn)題，有這種可能性嗎？

哈拉瑞：「

這當(dāng)然有可能，但有個(gè)很大的問(wèn)題且相當(dāng)危險(xiǎn)的是你會(huì)失去所有政治權(quán)利。如果我們的新主人非常的寬容慈祥，那我們可能會(huì)有好日子，但如果不是...

」

為什麼我們會(huì)失去政治權(quán)利？

哈拉瑞：「

失去經(jīng)濟(jì)權(quán)利，政治權(quán)利通常也會(huì)一起失去。

比如計(jì)程車這個(gè)行業(yè)，每個(gè)工會(huì)掌握了某些地區(qū)的載客權(quán)利，這也給每個(gè)工會(huì)某些政治權(quán)利，讓他們能夠團(tuán)結(jié)起來(lái)，如果有些不公平的事情發(fā)生，那他們就群體罷工，之類的。如果我們把計(jì)程車這個(gè)行業(yè)全面替換為自動(dòng)車，而這自動(dòng)車都由一個(gè)演算法來(lái)操控，那之前代表各個(gè)地區(qū)的計(jì)程車公會(huì)，他們的政治權(quán)利會(huì)完全消失，全部的權(quán)利會(huì)在一間大公司手上。

這是非常危險(xiǎn)的。

第二點(diǎn)是..如果人們要感到快樂(lè)，只給食物或舒適是不夠的，還要給他們『意義』。但到了這個(gè)地步，由誰(shuí)或什麼來(lái)提供意義？有些人說(shuō)『電玩』，說(shuō)人們會(huì)利用藥物控制自己的情緒，並且花很多時(shí)間、很多精力在『虛擬世界』，因?yàn)樘摂M世界提供了比現(xiàn)實(shí)更刺激、更有趣，且在虛擬世界找到了意義，因?yàn)樗诂F(xiàn)實(shí)是無(wú)用的。

第三點(diǎn)是，如果要說(shuō)我們從過(guò)去幾千年的歷史中學(xué)到有關(guān)人類，就是要滿足他們是極度困難的一件事。不管發(fā)生什麼事，即使是好事，當(dāng)達(dá)成一項(xiàng)成就並從中感到開(kāi)心，人類的基本思想傾向『更多』而不是『滿足』。

所以不管人類達(dá)成甚麼樣的成就，他們只會(huì)想要加速這個(gè)過(guò)程並追求更多，而人類的這種思考方式不太可能在短期中改變。

」

1:09:42

觀眾提到前面講的像中國(guó)、印度這些國(guó)家之所以能夠追上是因?yàn)榱畠r(jià)勞工，但未來(lái)很有可能追不上，而產(chǎn)生無(wú)用階級(jí)，那從國(guó)家角度來(lái)看，這種國(guó)家之間的發(fā)展不平等你怎麼看和要如何解決這個(gè)問(wèn)題，另外前面提到很多關(guān)於未來(lái)的不確定等等，那到底要教小孩甚麼呢？

哈拉瑞：「

第一個(gè)關(guān)於國(guó)家的問(wèn)題，非常重要的是對(duì)於每個(gè)國(guó)家來(lái)說(shuō)，要知道自己的國(guó)家在這工業(yè)革命中是搭上這火車，還是屬於被遺棄的那一方。我覺(jué)得誰(shuí)到底搭上，誰(shuí)被遺棄，現(xiàn)在還無(wú)法確定，因?yàn)檫^(guò)去的工業(yè)革命也是一樣充滿不確定性，比如你沒(méi)辦法很確定的知道日本有搭上工業(yè)革命這列車，中國(guó)卻需要非常長(zhǎng)的時(shí)間。

所以對(duì)於哪些國(guó)家會(huì)成為工業(yè)革命的核心，哪些國(guó)家會(huì)被遺棄..這是未知的。

第二個(gè)關(guān)於教小孩問(wèn)題，你不需要教他任何有關(guān)資訊的事，現(xiàn)在已經(jīng)是充滿資訊的世界，且不知道要拿這些資訊做甚麼。

最重要的是教他們?nèi)绾蚊鎸?duì)不確定性，教他們?nèi)绾纬掷m(xù)的開(kāi)發(fā)自己，也因?yàn)樗麄儠?huì)需要經(jīng)常性地做這件事，所以要教在他們一生中，如何『不放棄自己』這件事。因?yàn)槲矣X(jué)得如果要在未來(lái)21世紀(jì)生存，你必須要不停的學(xué)習(xí)、改變和重塑自己。如果我們看過(guò)去的人的生活模式，非常簡(jiǎn)略的說(shuō)分為兩個(gè)階段，分別是學(xué)習(xí)和執(zhí)行。這種模式在未來(lái)已不可行，當(dāng)你在學(xué)習(xí)並剛開(kāi)始執(zhí)行時(shí)，這項(xiàng)技術(shù)已不重要，因?yàn)闀r(shí)代的轉(zhuǎn)變太過(guò)快速，所以未來(lái)學(xué)習(xí)和執(zhí)行這兩個(gè)階段會(huì)變得非常模糊。

且重塑自己對(duì)大多數(shù)人來(lái)說(shuō)是相當(dāng)困難的，當(dāng)你在15歲時(shí)，重塑自己會(huì)是一件重大的挑戰(zhàn)。所以最好從小就培養(yǎng)小孩有那種心理強(qiáng)度在遭遇挫折時(shí)能重新再站起來(lái)，就算在他40、50歲都能持續(xù)的重塑自己。

」

1:13:02

如果未來(lái)人工智能完全替代人力，那表示公司獲得的利潤(rùn)會(huì)提高。過(guò)去其實(shí)也發(fā)生過(guò)類似的情況，比如1980年許多工廠雖然解雇許多員工，但他們獲得利潤(rùn)增加，就利用這些利潤(rùn)來(lái)投資市場(chǎng)並創(chuàng)造更多就業(yè)機(jī)會(huì)，在整個(gè)人類經(jīng)濟(jì)中形成一個(gè)算良好的循環(huán)，為什麼你會(huì)認(rèn)為這種模式會(huì)消失呢？然後你認(rèn)為利潤(rùn)、資本主義中的財(cái)富擁有者、人力資源他們?cè)谖磥?lái)的關(guān)係會(huì)如何？

哈拉瑞：「

恩..我講的狀況只是一種可能性，並不代表一定會(huì)發(fā)生。但我們必須要十分注意的是『人力』可能會(huì)對(duì)整個(gè)市場(chǎng)變得毫無(wú)用處，然後大部分的利潤(rùn)都被世界上一小搓的菁英掌握，並控制世界的大數(shù)據(jù)、人工智能等。當(dāng)然這不是唯一的可能性，像前面有提到科技本身並沒(méi)有偏好哪一方，比如蒸汽引擎技術(shù)，你可以利用這些技術(shù)來(lái)創(chuàng)造一個(gè)集權(quán)主義政權(quán)，也可以用同樣的技術(shù)創(chuàng)造民主政權(quán)。所以人工智能、大數(shù)據(jù)、生物科技等也是一樣的道理。

未來(lái)有很多種可能性，而我專注在最危險(xiǎn)的可能性並提醒大眾這種可能性的存在，我們要盡力避免等。

」

1:15:00

你覺(jué)得現(xiàn)在各種高科技和世界的走向已經(jīng)掌握在各個(gè)大財(cái)團(tuán)手上，如果回看歷史，你覺(jué)得這是無(wú)可避免的嗎？另外你覺(jué)得如果要我們?nèi)祟悎F(tuán)結(jié)起來(lái)，是否會(huì)需要有個(gè)「理念」呢？

哈拉瑞：「

有個(gè)理念當(dāng)然相當(dāng)重要，但我擔(dān)心今天所謂的「民主」告訴政府說(shuō)甚麼都不用知道，甚麼都不用管，全都交給市場(chǎng)決定就好，當(dāng)然在某些地方?jīng)]問(wèn)題，但如果未來(lái)21世紀(jì)繼續(xù)沿用此理念，會(huì)產(chǎn)生毀滅性的悲劇，因?yàn)槲也幌嘈攀袌?chǎng)會(huì)對(duì)一些世界的重大問(wèn)題有甚麼樣的好答案，比如氣候變遷或人工智能崛起所帶來(lái)的潛在威脅等。而政府其實(shí)蠻喜歡「民主」這個(gè)代罪羔羊，因?yàn)槌鍪箩嶂灰阉胸?zé)任推給市場(chǎng)，推給民主就完事了。這告訴他們保持無(wú)知，不對(duì)某項(xiàng)議題進(jìn)行辯論或不做任何事情是件好事，不是在跟他說(shuō)不介入是無(wú)知或無(wú)能，而是一個(gè)聰明的選擇，因?yàn)槟惆堰@件事交給市場(chǎng)上的一些專家來(lái)解決。

而下一個(gè)類似此模式的操作手段很可能是將所有問(wèn)題丟給演算法，因?yàn)槲覀儧](méi)有能力解讀那些龐大的數(shù)據(jù)，所以就將那些重大決定交給演算法來(lái)判斷，而我覺(jué)得「民主」很有可能會(huì)照上述的方向發(fā)展說(shuō)：「演算法解讀大數(shù)據(jù)後會(huì)有解決方法」比如我們現(xiàn)在的股票有著全世界最複雜且龐大的資料，而有些人認(rèn)為將投資股票、分析股票、買賣股票等這些重大選擇權(quán)交給無(wú)生命的演算法來(lái)執(zhí)行，當(dāng)我們這樣做的時(shí)候，下一個(gè)就會(huì)有人說(shuō)：『那是不是其他有關(guān)人類的重大演化也比照此方法』

這相當(dāng)危險(xiǎn)。

」

1:18:01

如果未來(lái)人工智能取代人力並產(chǎn)生許多無(wú)用階級(jí)，那誰(shuí)會(huì)成為「消費(fèi)者」呢？而世界的經(jīng)濟(jì)模式又會(huì)變得怎麼樣呢？

哈拉瑞：「

現(xiàn)今我們沒(méi)有任何經(jīng)濟(jì)模式是類似此情況，有些人說(shuō)向高收入者徵收更高的稅金，然後給其他所有人一個(gè)『基本生活費(fèi)』。其實(shí)現(xiàn)在有很多人在討論這些新的解決方法，但現(xiàn)在沒(méi)有一個(gè)正在使用的模式可以參考。還有一種可能性是演算法會(huì)互相購(gòu)買所需要的商品，因?yàn)橄M(fèi)者其實(shí)不一定需要是人來(lái)消費(fèi)，現(xiàn)在其實(shí)已經(jīng)在發(fā)生這件事，比如我們說(shuō)廣告行銷，誰(shuí)是網(wǎng)路上首要消費(fèi)者或客戶？不是人類，而是google 演算法。如果你想要你的事業(yè)成功，想宣傳你的事業(yè)，那首要的消費(fèi)者會(huì)是演算法『我要如何設(shè)定關(guān)鍵字，google 演算法才會(huì)幫我做更多的廣告？』

而這種模式也會(huì)逐漸擴(kuò)大到其他產(chǎn)業(yè)。

」

1:20:05

現(xiàn)在有人在所謂的「駕駛座」來(lái)控制整個(gè)世界的走向嗎？未來(lái)那些高科技人工智能是否會(huì)成為控制我們?nèi)祟愂澜绲?.物體呢？

哈拉瑞：「

我們不再知道誰(shuí)在駕駛座來(lái)控制世界走向，也沒(méi)有跡象有任何群體在駕駛座上，因?yàn)闆](méi)有人知道世界到底會(huì)發(fā)生什麼事，沒(méi)有政府或某個(gè)秘密組織知道未來(lái)10-20年世界會(huì)怎麼樣。這對(duì)自由主義是件好事，因?yàn)檫@在跟他們說(shuō)：『就交給市場(chǎng)來(lái)決定就好，你甚麼都不用擔(dān)心』

我不覺(jué)得有幾個(gè)超級(jí)有錢(qián)人在某個(gè)隱密的洞穴聚集起來(lái)操控整個(gè)世界，這太過(guò)複雜了。如果我們把目標(biāo)縮小一點(diǎn)，比如說(shuō)賺個(gè)幾十億元，這是相對(duì)來(lái)說(shuō)比較簡(jiǎn)單的，因?yàn)楫?dāng)你在這個(gè)混亂的世界有一個(gè)明確的目標(biāo)，賺個(gè)幾十億是件簡(jiǎn)單的事。但如果你說(shuō)你想要引發(fā)氣候變遷，或讓整個(gè)人類社會(huì)不平等加劇，沒(méi)有人知道這要如何執(zhí)行。

」

1:22:26

前面提到很多人工智能的能力超越人類，但都不具備意識(shí)，有沒(méi)有可能人工智能在某一刻獲得意識(shí)並且在比如身心科或心理治療上幫助人類？

哈拉瑞：「

我沒(méi)有看到任何有關(guān)人類的不管是情感能力或意識(shí)相關(guān)的研究可以交給人工智能，而這件事在短期也不太可能會(huì)發(fā)生。但我覺(jué)得就算我們先不討論意識(shí)是甚麼，光是情感能力就可以成就非常多事。比如我們要幫助某個(gè)病人，人類通常會(huì)依靠移情能力「如果我能知道病人的痛楚是什麼，那對(duì)這個(gè)癥狀我可以做這樣的事來(lái)幫助那個(gè)人」。而人工智能治療師可能不會(huì)這樣運(yùn)作，它可能會(huì)使用模式識(shí)別系統(tǒng)來(lái)判斷眼前的這個(gè)人，它會(huì)使用情感模式和人體內(nèi)的生理反應(yīng)來(lái)判斷，而講到如何治療，他會(huì)搜尋來(lái)自全世界的龐大數(shù)據(jù)，看那些擁有相似病狀的人受到怎麼樣的治療，甚麼有用，甚麼沒(méi)有用，然後用甚麼方法來(lái)幫助眼前的人。不管它成功與否，爭(zhēng)論它有沒(méi)有用這問(wèn)題是沒(méi)有意義的，因?yàn)檫@是個(gè)經(jīng)驗(yàn)問(wèn)題，我們只能等待數(shù)據(jù)的成長(zhǎng)，且這等待可能會(huì)很漫長(zhǎng)。

當(dāng)然人工智能治療師還是有些優(yōu)勢(shì)，就是它是24小時(shí)、任何地點(diǎn)且非常便宜。如果我們講人類的心理醫(yī)生，要培訓(xùn)一位心理醫(yī)生需要10年的時(shí)間，之後還要許多年的實(shí)戰(zhàn)經(jīng)驗(yàn)，他或她才會(huì)成為一位好的心理醫(yī)生，然後他們一小時(shí)或一小節(jié)15分鐘會(huì)收取高額的費(fèi)用，而且他們不是隨傳隨到，如果我去了印度然後發(fā)生了一些癥狀，而我的醫(yī)生在世界的另一邊，我該怎麼辦？

但如果我的心理醫(yī)生是在我的手機(jī)裡面的一個(gè)app，它是無(wú)時(shí)無(wú)刻在我身旁，可能在我精神崩潰之前它就會(huì)通知我『注意！』當(dāng)然這是個(gè)經(jīng)驗(yàn)問(wèn)題，如果它是可靠的，那就會(huì)有越來(lái)越多人使用它，這跟其他的演算法一樣，比如地圖導(dǎo)航這東西，假設(shè)你要到某處，在過(guò)去我們可能是依靠記憶或直覺(jué)之類的，現(xiàn)在是拿出手機(jī)問(wèn)google 說(shuō)我要如何到某處，而這是個(gè)經(jīng)驗(yàn)問(wèn)題，如果導(dǎo)航錯(cuò)誤，那我們就不會(huì)再使用它。

要讓演算法替換其他所有人力，這些演算法只要做得稍微比人類好一點(diǎn)點(diǎn)就夠了。這並不是甚麼困難的事，因?yàn)榻^大部分的人在他的一生中經(jīng)常犯各式各樣的錯(cuò)誤。所以未來(lái)更多決定比如要讀甚麼、去哪底工作、要住哪裡或要嫁/娶誰(shuí)，可能會(huì)由演算法來(lái)為我們做決定。

」

1:27:27

主持人邀請(qǐng)哈拉瑞做一個(gè)希望未來(lái)是光明的稍微樂(lè)觀一點(diǎn)的結(jié)尾。

哈拉瑞：「

恩..首先我覺(jué)得人類思想開(kāi)放程度跟年紀(jì)有很大的關(guān)係。比如我們二十歲時(shí)，大部分會(huì)覺(jué)得：『哇~未來(lái)充滿未知真是太刺激了！』而不會(huì)覺(jué)得說(shuō)『阿..有點(diǎn)憂鬱...』。到了某個(gè)歲數(shù)，我們喜歡改變，我們樂(lè)於學(xué)習(xí)各式各樣的事，但到了某些年紀(jì)，我們會(huì)想要定下來(lái)。

再來(lái)是如果我們從過(guò)去來(lái)看，人類其實(shí)能夠戰(zhàn)勝各式各樣的挑戰(zhàn)，比如離我們最近的核能核武。在1950-1960，世界普遍認(rèn)為人類會(huì)因?yàn)楹俗討?zhàn)爭(zhēng)而滅絕，就像電影演的，如果有一把槍在第一幕出現(xiàn)，那在第三幕就一定會(huì)開(kāi)槍。那把槍在1945年冷戰(zhàn)出現(xiàn)，世界上很多人，甚至聰明的人都認(rèn)為這場(chǎng)表演不會(huì)結(jié)束，除非有一方開(kāi)槍，但結(jié)果是沒(méi)有人開(kāi)槍。

反而我們經(jīng)歷了人類史上最和平的時(shí)期，當(dāng)然這世界還是存在戰(zhàn)爭(zhēng)，我來(lái)自以色列我是最清楚不過(guò)，但因?yàn)楹宋洌覀兘?jīng)歷了人類史上最和平的時(shí)期，這強(qiáng)迫那些超級(jí)大國(guó)、政治權(quán)力等徹底改變他們的地緣政治。經(jīng)過(guò)了幾千年的廝殺，人們因?yàn)楹宋溥@種超級(jí)武器而徹底改變我們的行為。當(dāng)然我們甚麼都沒(méi)辦法保證，或許幾年或幾十年後會(huì)發(fā)生核子戰(zhàn)爭(zhēng)，但現(xiàn)在我們相對(duì)1950來(lái)說(shuō)，對(duì)於核能、核武的理解是越來(lái)越多也越來(lái)越樂(lè)觀。

所以對(duì)於未來(lái)可能即將到來(lái)的威脅，我想我們?nèi)祟愡€是能夠想出方法面對(duì)威脅，並利用這些科技來(lái)做更好的事。

」

end