遊戲規則悄然改變? 未來中國將成該領域領頭羊

  這樣的轉變背後,是中國對美好環境的渴求。《今日美國報》10月23日刊文稱,經濟和工業生產的增長以及減少污染的努力,將使得中國未來幾十年對天然氣的需求大幅上升。

  根據預測,中國在2020年的天然氣消費量將達到3000億立方米。2040年,這個數字將再上升一倍,達到6000億立方米。到2040至2050年間,中國將超越美國成為全球主要天然氣消費國。

  天然氣是中國從煤炭等傳統能源轉向清潔能源的一座“橋樑”。

  天然氣作為燃料的歷史可以追溯到2000多年前,那時,古人已經開始用天然氣煮鹽。和傳統能源相比,天然氣更加清潔、高效。

  與燃煤電廠相比,用天然氣發電,可以將各項成本減少許多:每千瓦裝機容量的建設費用可節省50%,建廠週期縮短30%,佔地面積節約85%,冷卻水少用40%……但是,天然氣發電廠熱效率卻能高出25%,且操作簡便,對環境也十分友好。

遊戲規則悄然改變? 未來中國將成該領域領頭羊

  天然氣還是一種優質的汽車燃料。和汽油燃料相比,天然氣是一種低污染的能源,燃燒後產生的一氧化碳排放量減少97%,碳氫化合物減少72%,氮氧化合物減少39%,二氧化碳減少24%,二氧化硫減少90%,苯、鉛等粉塵減少100%。

遊戲規則悄然改變? 未來中國將成該領域領頭羊

  如果説可再生能源是未來,那麼天然氣則代表着當下。如今,全球幾十個國家都爭相進口天然氣。

  中國也正努力擺脱煤炭大國的角色。美國《國家地理》刊文稱,中國的煤炭消費佔全世界的一半左右。不過,中國正努力降低煤炭在能源結構中的比例。

  2016年,中國的煤炭消費量已連續第三年下降。而在今年六、七、八三個月裏,中國的天然氣消費量均同比上升了25%到30%。

遊戲規則悄然改變? 未來中國將成該領域領頭羊

  外國分析師表示,中國的天然氣市場已進入嶄新的黃金階段,政府鼓勵天然氣消費的政策也開始見效。香港《南華早報》報道,因為政府推動,今年冬天,北京的更多家庭將使用天然氣供暖。

遊戲規則悄然改變? 未來中國將成該領域領頭羊

  高漲的需求使得中國早早制定計劃,進行天然氣採購。

  截止到2016年年底,中國已經有了15座液化天然氣碼頭。預計到2020年以後,這個數字還將翻一番。

  國際能源署認為,在2022年,中國對天然氣的需求將達到3400億立方米,其中,進口量將達到1400億立方米。

  另外,中國的天然氣產量也在上漲,將從現在的650億立方米增長到2000億立方米,中國也將成為全球第四大天然氣生產國。

  今年5月,美國商務部決定,同意美國液化天然氣進入中國,這是中美經濟合作“百日計劃”的一部分。

遊戲規則悄然改變? 未來中國將成該領域領頭羊

  一些中國公司正在考慮和美國簽訂進口液化天然氣的長期合同。

  美國《福布斯》也曾刊文稱,美國液化天然氣向中國輸出,意味着遊戲規則的改變。

遊戲規則悄然改變? 未來中國將成該領域領頭羊

  文章表示,美國液化天然氣的出口不僅會挑戰現有的天然氣價格,還將幫助其他國家實現在巴黎氣候大會上的承諾,在滿足其自身能源需求的同時,也能促進這些國家條件的改善。

  路透社今年6月曾報道,中國的天然氣進口和國內生產都在飛速增加,其綜合增長速度遠遠超過官方指定目標。國內天然氣產量增長強勁,與原油產量的下降形成鮮明對比。

  外媒感慨,天然氣地位的不斷上升,正體現了中國成為清潔能源大國的決心。


遊戲規則悄然改變? 未來中國將成該領域領頭羊

  最近,小編看了個新聞,

  而且今年高考閲卷還採用了阿爾法狗的背後技術

  他的發明者就是被稱為“地球最聰明的人之一”的戴密斯·哈薩比斯

遊戲規則悄然改變? 未來中國將成該領域領頭羊

  這人一點都不簡單,讓李嘉誠專門請過來給自己上課,老李聽的那叫一個聚精會神。

  神童橫空出世,4歲自學國際象棋,兩星期擊敗成年人

  哈薩比斯1976 年7 月27 日出生,父親是希臘與塞浦路斯混血,母親是新加坡華人,從血脈上講他也算是半個華人。他們都是老師,曾經開過玩具店,有着“像波西米亞人”般的性格。在這麼個家庭,走出繼承父母衣缽或者從事藝術的孩子應該是一件大概率事件。

  事實也正是如此。哈薩比斯的妹妹是一名作曲家和鋼琴演奏家,而弟弟則專注於創造性寫作。

  “很明顯,我就是家中的那隻黑天鵝。”哈薩比斯曾這樣開玩笑地表示。

  ▼

  但是這並不影響他的自學成才,4 歲的時候,哈薩比斯看父親和叔叔下國際象棋,還是小朋友的他一下子着迷了,而且神奇的是看着看着就學會了,兩個星期後,哈薩比斯就在國際象棋比賽中擊敗了成年人。

  僅用兩個星期就國際象棋大賽中擊敗成年人,這不是神童是什麼?簡直太逆天了!後來哈薩比斯就不斷的學習,經常在比賽中大勝。

  8 歲的開始,棋盤上的成功開始讓他思索兩個困擾已久的問題:第一,大腦是如何學習完成複雜任務的;第二,電腦是否也能做同樣的事。神童的世界普通人真的很難懂。

  當時,哈薩比斯的老爹經常帶他去倫敦最大的書店Foyles看書,這個神童對其他書籍不怎麼感興趣,8歲的他對編程的書入了迷,學習如何在遊戲中無限續命。這是8歲的孩子該思考的問題嗎?

  於是,他用從國際象棋比賽中贏的 200 英鎊買了人生中第一台計算機 ZX Spectrum,開始研究編程。

  ▼

  當時還跟着英國知名遊戲設計師彼得·莫利紐克斯開發遊戲。17歲時,哈薩比斯選擇在劍橋大學攻讀計算機科學。與同年齡男生一樣,他也熱衷電腦遊戲。哈薩比斯領銜開發了一款經典模擬遊戲《主題主園》,1994年發行了幾百萬份,在當時來説,這款遊戲跟現在的王者榮耀一樣火。

  在劍橋大學的4年間,哈薩比斯曾在劍橋的一個高水平圍棋社團裏學習圍棋,並很快沉迷其中。但因為忙於電腦方面的工作,他沒有足夠的時間練習,圍棋技藝僅停留在業餘一段水平。不過,這並不妨礙他對圍棋的喜愛。

  ▼

  ▼

  在霍金那兒,他侃侃而談人工智能將會如何讓世界更美好。促膝長談4小時後,這位全球最頂尖、腦中裝着全宇宙的科學家霍金,竟然真的被説服了……説服了……服了……

  從此,霍金轉變了對人工智能的看法,並對哈薩比斯的相關研究表示關注和支持。

遊戲規則悄然改變? 未來中國將成該領域領頭羊

  ▼

遊戲規則悄然改變? 未來中國將成該領域領頭羊

  ▼

  ▼

  從國際象棋神童,到神經科學專家,再到人工智能企業家,哈薩比斯正在一步步改變這個世界!

  Alphago與同類程序對弈勝率高達99.8%,在2015年五連勝擊敗歐洲冠軍之後,名聲鵲起的Alphago來到東方,直接挑戰韓國九段高手李世石,曾經年少輕狂藐視一眾前輩的李世石,在強大的Alpha Go面前,坦言職業生涯“從未如此緊張過”,終究還是敗下陣來

遊戲規則悄然改變? 未來中國將成該領域領頭羊

  用精彩絕倫的勝利證明了一切的哈薩比斯團隊,致力於模擬人腦神經系統,最終創造出真正的“通用人工智能”,也就是具有學習能力,能解決一切問題的計算機系統,這家至今離職率為0的公司,曾在2012年獲得馬斯克650萬美元的投資,而在谷歌收購之前,扎克伯格也一度對DeepMind動心。

  2016年1月DeepMind再次發表論文,稱他們的新算法AlphaGo在最困難的遊戲——圍棋——上也取得了巨大突破。而後,就是公眾耳熟能詳的事了。

  哈薩比斯是個天才,這個論斷即使只知道他是那台在圍棋比賽中下贏人類的機器背後的男人,相信也不會有很大的異議。不過,看着他談到自己的理想、自己的童年、自己的孩子,你就會知道,他並不是什麼企圖潰滅人類的瘋狂科學家,也不是木訥的“極客”。不管哈薩比斯自己是否認同,他肩上擔負的可能就是人類未來的某種希望。

  每晚,他都會回到家裏和家人一起吃飯聊天,之後陪兩個兒子寫作業玩遊戲。在帶完兩個孩子上牀睡覺之後,他會開始工作電話會議直至凌晨1時,之後用幾個小時來進行思考。而在這些深夜的思考中,誕生的可能就是下一個顛覆全人類的想法。

  (2017-10-08)


遊戲規則悄然改變? 未來中國將成該領域領頭羊

  AlphaGo Zero只用了490萬的數據就達到了AlphaGo的成就。

  [寫在前面]

  倫敦當地時間10月18日18:00(北京時間19日01:00),谷歌旗下的DeepMind團隊公佈了進化後的最強版AlphaGo ,代號AlphaGo Zero。相關論文再次登上世界頂級科學雜誌——《自然》。

  一年多前,AlphaGo便是2016年1月28日當期的封面文章,Deepmind公司發表重磅論文,介紹了這個擊敗歐洲圍棋冠軍樊麾的人工智能程序。也是自那時候起,AlphaGo在全球範圍內掀起了人工智能浪潮。

  那這次的新版本AlphaGo究竟有多厲害?打敗李世石的AlphaGo用了3000萬盤比賽作為訓練數據,AlphaGo Zero用了490萬盤比賽數據。經過3天的訓練,AlphaGo Zero就以100:0的比分完勝對陣李世石的那版AlphaGo。

  在DeepMind的最新論文中,AlphaGo Zero綜合了上一個版本的策略網絡和價值網,利用了強化學習的方法,只用了單一的神經網絡、一台機器和4個TPU,就能在沒有人類指導的情況下,只用3天時間進行學習,打敗了戰勝過李世石的那版AlphaGo。

  看上去如此完美的AlphaGo Zero,在其他人工智能開發者眼裏的表現如何,它對未來人工智能的啓示又有哪些?

  Facebook人工實驗室成員田淵棟在自己的知乎賬號上發表了自己的看法。他認為,DeepMind的新論文要比上一篇好很多,方法非常乾淨標準,結果非常好,以後肯定是經典文章。並且,他非常驚訝AlphaGo Zero竟只用了490萬的數據就達到了AlphaGo的成就。

  田淵棟曾先後在微軟、谷歌、Facebook等科技公司實習工作。他在Facebook的辦公桌離CEO扎克伯格只有6米遠。他所負責的圍棋項目(Darkforest)曾公開得到扎克伯格的表揚,目前他的研究主要集中在遊戲人工智能開發上。

  老實説這篇Nature要比上一篇好很多,方法非常乾淨標準,結果非常好,以後肯定是經典文章了。

  Policy network(策略網絡)和value network(價值網絡)放在一起共享參數不是什麼新鮮事了,基本上現在的強化學習算法都這樣做了,包括我們這邊拿了去年第一名的Doom Bot(編注:Facebook團隊開發的人工智能系統),還有ELF(編注:Facebook人工智能遊戲測試平台)裏面為了訓練微縮版星際而使用的網絡設計。另外我記得之前他們已經反覆提到用Value network對局面進行估值會更加穩定,所以最後用完全不用人工設計的default policy rollout(缺省策略)也在情理之中。

  讓我非常吃驚的是僅僅用了四百九十萬的自我對局,每步僅用1600的MCTS rollout(蒙特卡羅搜樹),Zero就超過了去年三月份的水平。並且這些自我對局裏有很大一部分是完全瞎走的。這個數字相當有意思。想一想圍棋所有合法狀態的數量級是10^170,五百萬局棋所能覆蓋的狀態數目也就是10^9這個數量級,這兩個數之間的比例比宇宙中所有原子的總數還要多得多。僅僅用這些樣本就能學得非常好,只能説明卷積神經網絡(CNN)的結構非常順應圍棋的走法,説句形象的話,這就相當於看了大英百科全書的第一個字母就能猜出其所有的內容。用ML(機器學習)的語言來説,CNN的inductive bias(模型的適用範圍)極其適合圍棋漂亮精緻的規則,所以稍微給點樣本水平就上去了。反觀人類棋譜有很多不自然的地方,CNN學得反而不快了。我們經常看見跑KGS或者GoGoD(編注:兩者均為訓練數據集)的時候,最後一兩個百分點費老大的勁,也許最後那點時間完全是花費在過擬合奇怪的招法上。

  如果這個推理是對的話,那麼就有幾點推斷。一是對這個結果不能過分樂觀。我們假設換一個問題(比如説蛋白質摺疊 protein folding),神經網絡不能很好擬合它而只能採用死記硬背的方法,那泛化能力就很弱,Self-play(自我對弈)就不會有效果。事實上這也正是以前圍棋即使用Self-play都沒有太大進展的原因,大家用手調特徵加上線性分類器,模型不對路,就學不到太好的東西。一句話,重點不在左右互搏,重點在模型對路。

  二是或許卷積神經網絡(CNN)系列算法在圍棋上的成功,不是因為它達到了圍棋之神的水平,而是因為人類棋手也是用CNN的方式去學棋去下棋,於是在同樣的道路上,或者説同樣的inductive bias(歸納偏置)下,計算機跑得比人類全體都快得多。假設有某種外星生物用RNN的方式學棋,換一種inductive bias,那它可能找到另一種(可能更強的)下棋方式。Zero用CNN及ResNet的框架在自學習過程中和人類世界中圍棋的演化有大量的相似點,在側面上印證了這個思路。在這點上來説,説窮盡了圍棋肯定是還早。

  三就是更證明了在理論上理解深度學習算法的重要性。對於人類直覺能觸及到的問題,機器通過採用有相同或者相似的inductive bias結構的模型,可以去解決。但是人不知道它是如何做到的,所以除了反覆嘗試之外,人並不知道如何針對新問題的關鍵特性去改進它。如果能在理論上定量地理解深度學習在不同的數據分佈上如何工作,那麼我相信到那時我們回頭看來,針對什麼問題,什麼數據,用什麼結構的模型會是很容易的事情。我堅信數據的結構是解開深度學習神奇效果的鑰匙。

  另外推測一下為什麼要用MCTS而不用強化學習的其它方法(我不是DeepMind的人,所以肯定只能推測了)。MCTS其實是在線規劃(online planning)的一種,從當前局面出發,以非參數方式估計局部Q函數,然後用局部Q函數估計去決定下一次rollout要怎麼走。既然是規劃,MCTS的限制就是得要知道環境的全部信息,及有完美的前向模型(forward model),這樣才能知道走完一步後是什麼狀態。圍棋因為規則固定,狀態清晰,有完美快速的前向模型,所以MCTS是個好的選擇。但要是用在Atari(雅達利)上的話,就得要在訓練算法中內置一個Atari模擬器,或者去學習一個前向模型(forward model),相比actor-critic((演員評判家)或者policy gradient(策略梯度方法)可以用當前狀態路徑就地取材,要麻煩得多。但如果能放進去那一定是好的,像Atari這樣的遊戲,要是大家用MCTS我覺得可能不用學policy直接當場planning就會有很好的效果。很多文章都沒比,因為比了就不好玩了。

  另外,這篇文章看起來實現的難度和所需要的計算資源都比上一篇少很多,我相信過不了多久就會有人重複出來,到時候應該會有更多的insight(提示)。大家期待一下吧。

  (本文獲田淵棟授權發佈,禁止二次轉載)

  (2017-10-20)


  10月18日,《自然》雜誌網站公佈的論文顯示,此前戰勝人類圍棋世界冠軍的電腦程序AlphaGo的開發團隊又出力作——新程序AlphaGo Zero(阿爾法元)不依靠人類指導和經驗,僅憑自身算法強化學習,就以100:0的戰績擊敗了AlphaGo(阿爾法狗)。

遊戲規則悄然改變? 未來中國將成該領域領頭羊

  新一代阿爾法狗的出現,數據上完全是碾壓老阿爾法狗,驚豔了整個世界,網友戲稱連阿爾法狗都這麼努力,我們人類還有什麼藉口不努力?

  那麼具體是什麼事呢?我們聽聽科學作家黃永明先生的解答:

  文:黃永明

  打敗了人類棋手的AlphaGo有了個弟弟——AlphaGo Zero。它自學成才,在不借助人類知識的情況下學會了下圍棋,而且只花了40天時間,就達到了在大部分情況下打敗AlphaGo的境地。

  這個消息確實令人震驚。它非同一般的地方主要在於幾處。

  第一,AlphaGo Zero一開始只學習了一些最基本的規則,然後通過與自己對弈,在短短几天之內就重新發現了人類花了上千年找到的圍棋技法。這改變了人工智能需要基於大量數據的情況。比如説,我們人類的兒童看到幾輛汽車之後,再看到不同款的車,他也知道那是汽車。而機器可能要看幾千張汽車的照片,才能學會識別汽車。這個不同曾被認為是人工智能的一個很大的短板。現在AlphaGo Zero突破了這個瓶頸,這種學習能力是令人驚奇的。

  第二,它佔用的計算能力很少,只用了4個張量處理器(TPU,Google專門為人工智能設計的計算片),而前面一代AlphaGo用了48個。這讓人工智能更加具有應用前景。

  有人對人工智能的新發展感到恐懼——也許它們會失控,也許它們會像科幻電影裏那樣消滅人類。這種擔心有點遠。人工智能確實有它令人擔憂的一面,但暫時還不是這個。

  人類歷史上出現過的一個技術突破是可以拿來做類別的。那就是紡織機。

遊戲規則悄然改變? 未來中國將成該領域領頭羊

  最初紡織機是純手動的,世界上最早發明電動紡織機的是英國人。1745年出現第一代電動紡織機,但是沒有進一步發展。分水嶺出現在1785年,用同樣原理做出來的電動紡織機獲得專利並開始在工業上應用。後來John Kay發明了飛梭,這讓電動織布機迅速替代人工,佔領英國,到1818年,全英國已經有5700多台電動織布機。

  我們來看,電動織布機首先看起來給人類帶來了很多好處。它“解放”了工人,人們不需要那麼苦哈哈地去操作織布機了。人工智能現在看起來也是這樣,許多原先需要靠人力去完成的事,現在自動就能完成了,而且效率高得多。

  研發AlphaGoZero的人説,他們的技術將來可以應用於科學發現,比如用於尋找新藥、研究蛋白摺疊、量子化學、粒子物理、材料設計。他們還舉了個例子,説可以研究常温超導體,可以用算法去把不同材料的原子構成和性質結合起來,去尋找人類沒能找到的常温超導體,一旦找到,將會給人類能源傳輸技術帶來巨大突破。

  換句話説,人工智能的算法替代了現有的靠大量科研人員人力完成的工作。而且看起來確實有可能帶來許多有益的成果——就像電動織布機能生產大量的布。

  但是,這裏面有一個問題啊:電動織布機把人工替代了,原先的織布工人幹什麼去?他們就失業了啊。同樣,人工智能這麼能幹,科學家就不需要那麼多了,他們也要失業啊。

  對人工智能要擔心的地方,不是它們會消滅人類,而是它們對經濟帶來的衝擊。它會造成一些可能已經存在上百年的行當短時間內崩塌。

  織布機的例子可能有點遠,但是我們其實已經親身經歷了類似的過程。互聯網的發展對多少傳統行業造成了破壞。當然,互聯網行業的人不是這麼看,他們是把破壞當成就的。當人類一年中產生的照片的數量超過了人類歷史上照片的總和,存在了130年的柯達公司卻破產了。它生存不下去了。大量的工人下崗。

  人工智能的發展不可避免地帶來新一波的破壞。它會破壞哪些行業?其實你應該想的是,有什麼行業不會被破壞?連最需要智力活動和創新性的科研領域,都要被人工智能佔領了,還是什麼領域是不受影響的?

  現在的年輕人已經不像他們的父輩那樣能夠一份工作穩定地幹幾十年。這其中當然有多種因素,但在我看來,一個不容忽視的因素是,必須要人來做的工作越來越少了,那麼必然有大量的人是被替代下來的。

  圖:以後買東西可以讓機器人排隊了

  為什麼近年來那麼多人去當程序員?

  包括本來不是這個專業的,也要去刷題轉行當程序員。因為他們沒有別的選擇。這就好像説,電動織布機出現了,大量織布工面臨工作被替代,那麼他們就得想方設法去競爭那少量的操作電動織布機的工作,還有一些人去當電動織布機的生產者。越多的人去做程序員,人工智能發展越快,就又會有更多人被替代。最後程序員也會被替代。

  另外一個方面,把人工智能本身想象成邪惡的,把它自身想象成人類的對立面是有點想偏了的。它是一種工具,它的善惡要看是被掌握在誰的手裏。它的效應其實還是由人類投射出來的。如果邪惡的人或組織掌握了人工智能,那麼其他人就很難有翻身之日。因為沒有人鬥得過它。

  碼字不易,如果感覺好,煩勞給還在加班碼字的小編晚飯加茶葉蛋啊!!

  (2017-10-21)


遊戲規則悄然改變? 未來中國將成該領域領頭羊

  AlphaGo打敗人類高手

  而AlphaGo Zero打敗了AlphaGo

  真是一狗更比一狗強

遊戲規則悄然改變? 未來中國將成該領域領頭羊

  網友:“機器早晚會取代人類!”

  事實上,阿爾法狗並不值得人類為之畏懼,

  人跑不過汽車,但不會恐懼汽車

  圍棋比不過計算機也是正常現象

  其實,阿爾法狗只是人類的一種工具,

  用於計算和圍棋訓練,又或者用於遊戲。

遊戲規則悄然改變? 未來中國將成該領域領頭羊

  AlphaGo Zero亮點

  據媒體報道,美國谷歌旗下的英國子公司沉思科技日前開發出了新版本圍棋用人工智能(AI)“AlphaGo Zero”。

  此前的AlphaGo在擊敗全球頂級棋手時通過學習約3千萬專業棋手的對弈數據使自身變得強大。但AlphaGo Zero無需人類作出示範,也能反覆與自己對弈,藉助自學創造出勝率最高的下法。

遊戲規則悄然改變? 未來中國將成該領域領頭羊

  人類智能新突破

  阿法狗項目負責人介紹説AlphaGo Zero遠比AlphaGo強大,因為它不再被人類認知所侷限,而能夠發現新知識,發展新策略。

  新開發的AlphaGo Zero放棄人類經驗後棋力飛漲。前幾代AlphaGo通過分析成千上萬場優秀人類玩家間的對決來發現制勝招數。新開發的AlphaGo Zero則根本不需要人類專長,只要知道遊戲規則和目標就可以投入遊戲。AlphaGo Zero完全靠自己就能強化學習和參悟, 開始學習圍棋3天后,就以100比0的成績碾壓李世乭版“舊狗”。

  報道稱:新技術將來還可能在產業方面做出貢獻。例如,從大量數據中發現人類難以意識到的提升效率的方式等。據悉,以各種用電數據為基礎,人工智能將有助於節省電力。由於像AlphaGo Zero一樣的人工智能可以“無師自通”,在宇宙和海洋等觀測數據不足的領域也有可能做出貢獻。

遊戲規則悄然改變? 未來中國將成該領域領頭羊

  人工智能時代已經到來,將顛覆過去的所有認知。

  在於機器人對決的時代,你準備好了嗎?

  (2017-10-19)


遊戲規則悄然改變? 未來中國將成該領域領頭羊

  剛剛看完正在被瘋搶的畢業生,這個畢業生必須是人工智能類發展的啊,小編還沒有緩過神來,沒有想到的是,就有報道顯示:最強阿爾法狗誕生,厲害了這個人類頭腦與機器人對決的時代,你準備好了嗎?

遊戲規則悄然改變? 未來中國將成該領域領頭羊

  不久前,有消息報道,DeepMind發佈升級版阿爾法狗:AlphaGo Zero,其水平超過此前所有阿爾法狗,僅用3天就碾壓了此前擊敗李世石的舊阿爾法狗。

  柯潔在對抗阿爾法的時候已經連續的敗下陣來,但是柯潔近日的世界圍棋戰已經贏了,不過阿爾法狗也再一次的升級了,最強阿爾法狗誕生 柯潔奪冠,感覺柯潔和阿爾法狗會從此惺惺相惜,阿爾法會成為柯潔的老師,讓人類棋手柯潔持續前進。

  有網友表示:“在祁同偉面前它什麼都不是”更有網友表示:“這就可怕了,人工智能確實是高深莫測”別怕,他們只是機器!

  以下為網友評論:

  網友“還有期待~~~~”:貢獻

  (2017-10-19)


  中新網10月19日電 據《日本經濟新聞》報道,美國谷歌旗下的英國子公司沉思科技(DeepMind Technologies)日前開發出了新版本圍棋用人工智能(AI)“AlphaGo Zero”。

  此前的AlphaGo在擊敗全球頂級棋手時通過學習約3千萬專業棋手的對弈數據使自身變得強大。但AlphaGo Zero無需人類作出示範,也能反覆與自己對弈,藉助自學創造出勝率最高的下法。

遊戲規則悄然改變? 未來中國將成該領域領頭羊

  據報道,以前的AlphaGo對人類就已經具有壓倒性優勢,棋力達到史上最強。這種實力有助於將來在產業方面得到應用,例如通過大量數據自動找到調整電力供需的時機等。

  英國科學雜誌《自然》雜誌10月19日發表了相關文章。谷歌僅向AlphaGo Zero教授了圍棋規則。AlphaGo Zero 將現有的2種學習方法結合起來,分別通過2種方法思考下一手,還能對彼此思考出的結果進行參照。

  據悉,AlphaGo Zero最初是隨機落子,但通過反覆與自己對弈,迅速提高水平。在進行實驗3天后,面對2016年3月擊敗頂級棋手李世石時的舊版AlphaGo取得了100戰全勝。

  據瞭解,人類在多年的圍棋歷史中不斷自主完善了被稱為“定式”的慣用下法。在試驗40天后,AlphaGo Zero已經與自己對弈 2900萬局,強大程度超過2016年5月時面對全球最強棋手柯潔九段取得3連勝的AlphaGo版本。據稱,AlphaGo Zero還開始掌握人類未知的下法。

  美國圍棋協會主席安迪·奧肯等在發給《自然》雜誌的稿件中指出,“AlphaGo Zero在中盤階段的若干判斷簡直就像迷一樣”。另一方面,隨着人工智能和人類在下棋時總結出了相同的定式,證明“人類長達數個世紀的圍棋活動取得的成果並非全部錯誤”。

  沉思科技的首席執行官傑米斯·哈薩比斯在AlphaGo擊敗最強人類棋手時表示,“這是最後一次和人類對弈”。為達成“完全不依賴人類的人工智能”這個目標,哈薩比斯在此後繼續對AlphaGo進行了改進。

  此前,人工智能曾將人類的對弈數據作為“教師”加以學習。因此有觀點指出,人工智能雖然強大,但僅僅處於人類知識的延長線上。沉思科技通過讓人工智能從零開始自學,採用被稱為“沒有教師的學習”方式,創造出了不受人類思維束縛的革新性人工智能。

  哈薩比斯表示,“人工智能有可能推動人類的智力向前發展,給全人類帶來積極影響”。

  報道指出,沉思科技與英國國家醫療服務體系(NHS)展開合作,除了將人工智能用於早期發現疑難雜症外,還將用於調整電力供需等方面。將來,還期待人工智能在依靠人類力量難以解決的新材料開發、探究蛋白質生成機制等方面做出貢獻。

  報道還稱,新技術將來還可能在產業方面做出貢獻。例如,從大量數據中發現人類難以意識到的提升效率的方式等。

  據悉,以各種用電數據為基礎,人工智能將有助於節省電力。由於像AlphaGo Zero一樣的人工智能可以“無師自通”,在宇宙和海洋等觀測數據不足的領域也有可能做出貢獻。

  以下為網友評論:

  網友“涼茶”:世界要毀滅了,相信我我是從2080年來的,終結者統治了世界!

  網友“Miox”:我準備打包回山裏做猴子。

  (2017-10-19)


  在《戀愛大作戰》中,玩家將作為一個美白三觀正的女主去相親和交往,表面上這是一款非誠勿擾的戀愛遊戲,其實更像是一款可以同時搞十個男人的遊戲。女生玩,可以預演跟各種男人交往的情景;漢子玩,則可以感受一把做人妖的全息體驗。

遊戲規則悄然改變? 未來中國將成該領域領頭羊

  試玩印象:

  畫面——男人“裝逼”兩個大字已經塞滿了整個屏幕,看不清其它內容。

  玩法——作為一個美女姐姐與N個男人進行網戀、相親,發現他們真實的一面,試圖找到真愛,或者迎來各種慘烈或幸福的多結局。(據説有8個,噫……)

  音樂——略微有點小情調。

  遊戲開始,裹得嚴絲合縫的女主陳蕾就表達了自己身為黃金段位單身狗的焦慮,並説朋友介紹了一款交友軟件可以認識各路男人,而我的任務就是通過一雙慧眼幫她鑑別其真身,感覺很沒挑戰性,男人看男人不都是差評嗎。

  隨後彈出了一款交友軟件讓下載,喲,這遊戲很有臨場感嘛,急於表現情商和智商的我,在點擊“馬上下載”後,才發現上當了,這TM真的就是在下載另一款遊戲!跪了,在遊戲中植入遊戲廣告,而且植入得如此清新自然毫無痕跡就這一款。

  遊戲中可以和十個男人同時聊天,就跟玩微信一樣,男方的的回覆有冷卻時間,所以可以每個都去接觸下,忽悠一些無聊的問題,而大多數時間都是在看各種高富帥、高酷帥、高嫩帥、高管帥們裝逼。

遊戲規則悄然改變? 未來中國將成該領域領頭羊

  正當我對這些帥哥產生視覺疲勞和嫉妒仇恨的時候,傳説中的那股清流華麗登場了,之前他在交友軟件中臆想的形象是這樣的,完全跟普羅帥眾沒有太大區別,毫無新鮮和特色可言,無法擔當真命天子的大任。

  直到見面看到真面目,才確認這樣可愛憨厚的尤物才是這款遊戲的真實所在,於晟,就是你了,為了讓真愛再現人間,一定要撮合一下。

遊戲規則悄然改變? 未來中國將成該領域領頭羊

  在矮富胖極力的自卑心理下,美女姐姐給予了大量精神上的鼓勵和支持,誇讚了矮富胖的內在,認同了矮富胖的心靈,否認了見光死的心情,違心的答應了接受矮富胖作為男朋友的要求……

遊戲規則悄然改變? 未來中國將成該領域領頭羊

  就差以身相許的時候,矮富胖居然掏出了10萬塊作為分手費要來個灑脱的離別!雖然這提問的方式我給500分,但連我這個狗頭軍師也感覺情商也不夠用了。

遊戲規則悄然改變? 未來中國將成該領域領頭羊

  只能隨意尷尬的問問錢的來路,結果劇情居然又翻轉,成功的把鮮花插進了肥沃的XX,迎來了幸福的結局……

遊戲規則悄然改變? 未來中國將成該領域領頭羊

  出於對胖子的鐘愛,我又重玩了一次,這次極盡尖酸刻薄的拉嘲諷,點出了胖子矮挫窮的本質,於是迎來了暗黑結局——美女姐姐被打暈後帶到一個滿是女孩的房間,然後會有硫酸從上面潑下來……聽説還有其它版本的結局不過沒時間試了。

  對於其餘真·帥哥,我只能惋惜的用本心來回答問題,所以基本都是悲劇的結局,最過分是前一刻還在説要守護你的偷窺狂,到了失敗結局就一掌把美女姐姐推向卡車……我想這個遊戲的宗旨應該是:得不到就毀掉。

  除了對話,遊戲中主要是通過美女姐姐閨房中的物件,諸如記事本、雜誌、日記、短信、米博等來尋找線索,根據不同線索來確定是渣男還是真愛。

  最後想説的是,遊戲雖然和現實相差很多,但現實中有這樣的美女姐姐請務必聯繫我,我這裏有一段好姻緣。

  (2017-10-14)


  人工智能上升為國家戰略

  你擔心飯碗會被拿走嗎

  人工智能時代,關於人工智能即將大規模蠶食人類工作崗位的預言一直是熱門話題。

  2017年7月,國務院印發《新一代人工智能發展規劃》(以下簡稱《規劃》),提出面向2030年我國新一代人工智能發展的指導思想、戰略目標、重點任務和保障措施——舉全國之力,在2030年一定要搶佔人工智能全球制高點。

遊戲規則悄然改變? 未來中國將成該領域領頭羊

  一石激起千層浪。而第一層浪,就是人們對自己未來工作崗位的普遍憂慮。失業大潮即將洶湧而至了嗎?我們還有多少時間可做準備?

  1、人工智能正在向高端職位進軍

  近日,中國秦皇島一家生產水餃的工廠火了。幾千平方米的廠房裏,竟然看不到一個員工。從和麪、放餡再到捏水餃,到零下50攝氏度條件下的速凍,流水線上的機器人都自如應對。

  無人超市、無人駕駛、無人酒店、無人餐廳……現在,無人工廠終於也來了。

  你可以説,這畢竟是體力勞動的替代,並不會影響到受過高等教育的白領,所以你並不覺得震撼。如果是這樣,那再來看——

  8月8日,九寨溝地震發生18分鐘後,中國地震台網的機器,寫了篇新聞稿,寫作用時25秒。稿件用詞準確,行文流暢,且地形天氣面面俱到,即便專業記者臨陣受命,成品也不過如此。再考慮到25秒的寫作時間,人類完敗了。

  此前,放話“就算阿爾法狗贏了李世石,但它贏不了我”的現世界第一圍棋手柯潔,應戰阿爾法狗。柯潔曾被稱為人類尊嚴的“最後防線”,原因是圍棋的變化極為複雜,即便是計算機也無法窮盡黑白兩子在棋盤裏361個點位上的所有變化。結果,柯潔還是輸了!

  甚至有人在預測,阿爾法狗下一步還會滅了整個金融圈。一個典型的例子是:2000年時,高盛公司在紐約的美國現金股票交易櫃枱僱用了600名交易員。但時至今日,這裏只剩下兩名交易員“留守空房”。

  高盛股票交易員被替代的經歷,只是全球金融公司自動化的一個縮影。現在連貨幣交易,甚至是投資銀行的部分業務也在朝着自動化發展。蘇格蘭皇家銀行,發佈了一個線上的人工智能客服系統,這個客服系統可以根據客户的語調來做出反應,此外,它還不需要休息,更不會要求提供超時津貼。麥肯錫全球研究院在2017年1月推出的一份報告中稱,金融和保險領域的工作,有43%的可能性會被自動化替代。

  人工智能正在向高端職位進軍。有人預言,除了華爾街的交易員,像律師、會計、醫師等高端職位,也將大量地被人工智能所取代。埃隆·馬斯克説在未來20年,全球12%至15%的勞動力將因為人工智能而失業。李開復則認為,10至15年之後,也許50%的人類就可能要面臨工作部分或全部被取代。

  以上這些,有沒有讓你感到有點恐慌?

  2、“還有人會為不能趕馬車而憂慮嗎”

  “可以預計,隨着人工智能的不斷髮展,人工智能對於就業的影響會表現得越來越明顯。”中國人事科學院研究員吳江説,“但當人工智能不斷擊敗最優秀的人類圍棋選手時,我們就可以預計,未來年輕人可能不會再花那麼多時間去鑽研圍棋,而是會去學習更加適應人工智能時代的新知識了。”

  吳江講了這樣一個故事:

  汽車其實是當年最好的一家馬車公司創造出來的。最初,這個公司是把發動機提供的動力用來做馬車輪子。老闆的弟弟不務正業,把發動機裝在馬車輪子上,結果發現可以不用馬了。這在當時是可怕的——全世界那麼多趕馬車的人突然要面臨失業了。雖然現在看來,其實完全沒什麼可擔心的,他們可以去做汽車司機呀,機器畢竟是需要人來操控的。

  早在工業革命浪潮席捲全球時,人機矛盾就已經出現。最初人們都是驚恐的,有人甚至跑去砸機器。“縱觀人類歷史,所有的機器革命,沒有毀滅人類,人創造了機器,同時機器也改變了人。新機器的出現,帶來了大量新的工作,為人類提供了更多的就業機會。”吳江説,“現在,越來越多的人從土地上轉到其他行業,但還有人會為不能趕馬車而憂慮嗎?”

  “如今無人駕駛汽車呼之欲出,老問題又來了,我們還要再為汽車司機的工作崗位擔心嗎?”華夏國際人才研究院院長陶慶華説,從歷史上看,每一次對技術進步的恐慌之後,科技進步為社會創造的就業崗位都遠多於它“殺死”的過時職位。例如,自動櫃員機替代了一些銀行櫃員,但也讓更多僱員進入了機器不能替代的銷售和客服領域。

  “我們必須要承認這個時代我們正在與人工智能軌道融合,未來人工智能將會在大多數領域替換掉人類煩冗而複雜的工作,讓人類減少勞動時間,增加自由時間。”吳江説,“我們每週工作時間已從48小時減少到40小時,未來可能會再減到30小時甚至是20個小時。必要勞動時間少,提升素質和享受生活的時間就長了。最終,勞動者可以從事的新工作,也將由此產生。”

  “現在美國3億多人口中從事農業生產的不到1%,將來工農業直接從業人口降到0.01%也沒什麼好奇怪的。”吳江説,“勞動密集型的時代終將成為歷史。只有從程式化的工作中解脱出來,充滿創新創造活力,活成獨一無二的‘人’,才是我們無可取代的競爭力。”

  3、勞動者也須轉型升級

  “雖然機械性的、可重複的腦力或體力勞動,將被人工智能取代。但會有更多新的、深度的、創意性的人才需求出現。”中國銀行業協會首席經濟學家巴曙松認為,“人工智能時代的到來,必定會產生一些‘沒聽説過’的、‘智能化’的新崗位,比如已經被行業認可的‘自然語言處理’‘語音識別工程師’,以及‘機器人產品經理’等。”

  中國人才研究會學術委員會副主任沈榮華表示,傳統行業的“舊崗位”也需向“人工智能化”發展,如大多數保安、翻譯、記者會被人工智能取代,但剩下的少數人,可能收入會更高,比如能操控安保機器人又有豐富安保經驗的安保負責人,比如垂直於某個細分領域的翻譯人才,比如專門寫深度報道的新聞記者。

  當然,對於“智能代工”催生的新的崗位,並非人人都有機會。“每一輪科技革命都會帶來新一輪工作革命,人工智能將大量淘汰傳統勞動力,很顯然也會有不少行業,會因為人工智能的興起而消亡。”陶慶華説,“但也要看到,人工智能會創造高端的新型的產業需求,從而帶來勞動者的轉型升級。所以,只有新型勞動者,才能適應人工智能時代。”

  陶慶華指出,儘管一些工作崗位被取代的弊端會被全新職位的出現化解,但是19世紀工業革命的經驗表明,轉變過程是極其痛苦的,人口從鄉村大量湧入城市工廠,在當時的歐洲引發持續動盪。各國政府花費了上百年時間構建新的教育和福利體系,才最終適應這種轉變。“這就提醒我們,應提前對兩大挑戰準備好預案:一是如何幫助工作者學習掌握新技能;二是如何讓後代做好知識和思想儲備。”他説。

  這一次的轉變似乎更為迅速,當前科技傳播的速度可比200多年前快多了。“我們必須提前行動,做好迎接新的工作崗位的準備。”陶慶華指出,所幸《規劃》已明確:即日起,從小學教育、中學科目,到大學院校,通通逐步新增人工智能課程,建設全國人才梯隊。“這一要求,既緊迫又必要。是時候,我們要重新思考教育,將其視為一個終身過程。這意味着我們不能再獎勵死記硬背,而應該獎勵好奇心和實驗,它們是發現和理解未知事物的基石。”他説,“如果你想把握未來,現在必須開始有意識提升自己,方能趕上時代的潮流。”

  (本報記者 羅旭)

  (2017-10-19)


  2017年是人工智能元年,“阿爾法狗”圍棋橫空出世秒殺人類棋手,怒濤六十連勝,完成了圍棋創世紀的偉業。這已經不是“一石激起千層浪”的問題了,簡直是印度洋海嘯!

  作為一個人類業餘棋手,鐵船長是一喜一悲。喜的是在有生之年終於見到了“圍棋之神”或者説是“最接近神的狗”。悲的是從此以後,人類棋手的計算、感覺、大局、構思,在“阿爾法狗”面前都變得如同孩子的玩具。

  (那些一味幸災樂禍的人沒有資格做真正的圍棋愛好者)然而鐵船長是個樂觀的人,一定要在黑暗中尋找希望,仔細研究了“阿爾法狗”圍棋,想到了這樣幾個辦法。

  首先“阿爾法狗”雖然兇猛,但我們人類享受圍棋的樂趣,並不需要去征服“狗”,就好像博爾特不需要去同摩托車賽跑一樣。我們的對手是人,現在要做的是“師狗長技以制人”。

  其次“阿爾法狗”表現出的強大實力,除了精湛的計算之外,一定還有計算之外的東西。

  鐵船長仔細研究發現,和“阿爾法狗”圍棋最像的棋手就是“昭和棋聖”吳清源大師,這並不是我個人意見,而是職業棋手所公認。

  阿爾法狗

  這説明我們人類對於圍棋的數千年研究並沒有誤入歧途,而是走在正確的道路上。吳清源大師已成為最接近圍棋之神的人。這是我們全體人類的驕傲,我們一定要努力爬到巨人的肩膀上。

  第三對於我們廣大業餘棋手來講,“阿爾法狗”圍棋可能是個大好事,可借鑑東西更多。為啥呢?因為既然在“阿爾法狗”面前我們人類的計算都不值得一提,加權係數變小了許多,棋理變得更重要了。

遊戲規則悄然改變? 未來中國將成該領域領頭羊

  也許我們應該轉變思路,要在計算之外多動動腦筋。就像藤澤秀行大師説的:我要在計算之外展開戰鬥!對圍棋藝術來説,計算之外不是有更多的精彩嗎?

遊戲規則悄然改變? 未來中國將成該領域領頭羊

  從此以後,凡是阿爾法狗支持的我們都要學習。凡是阿爾法狗反對的我們都要研究。一個合格的圍棋愛好者,首先要膜拜吳清源大師,第二就是要做一隻“狗粉”

  阿爾法狗

  阿爾法狗的自我對局和人機大戰是不同的。因為在人機大戰中,狗狗更多的是針對人類的弱點,因此特點鮮明。而在左右互搏式的自我對戰中,雙方知根知底,更多的是無招勝有招。

  閒話少説,我們就從阿爾法狗自我對戰第一局開始吧。

  棋譜1(1—18)

  黑用修正中國流開局是常見招法。但隨後白10、白12個碰可謂技驚四座.。推測原因,一個是作為適應手觀察黑棋動向,另外就是要追求高效率。

  黑棋兩粘穩健,局部也不吃虧,但從全局上看似乎手數效率差了一些。

  白棋殘子全部擱置在那裏,把搶先手佔大場放在第一位。殘子也是活力十足可棄可取,自如的在全局與局部之間靈活轉換,遊刃有餘。

  總的來看白棋速度很快,棋形薄卻效率極高,這點非常神似吳清源大師。

  究其原因白棋敢於採取這樣的作戰方法,首先得益於強大的計算能力,魔鬼般的騰挪能力,無論什麼樣的危機局面都有治孤的信心。再加上局勢的判斷取捨極為清晰,因此才能採用這樣藝高人膽大的做法。

  而人類棋手計算能力、時間、局勢判斷都不能如此精準。因此人類高手大多選擇均衡的分寸感,行棋偏厚為自己留有餘地。

  以此反觀歷史上以棋形薄效率高,善於棄子著稱的吳清源大師,的確是最接近於圍棋之神的人。

  結論一:搶先手搶速度,棋形薄效率高是棋之正道。但人類棋手由於計算能力局勢判斷的限制,還是選擇均衡分寸感,偏厚的棋形,為自己留有餘地較好。

  棋譜2(19—26)

遊戲規則悄然改變? 未來中國將成該領域領頭羊

  黑1打入自以為擊中要害,白棋輕處理後再次脱先。黑5執着,但恐怕大局上判斷不清晰。

  白6一粘後竟然反守為攻,剛才的殘子棄子轉眼變成了進攻黑棋的堡壘!黑7被迫跳補,白8滿足地應在寬闊之處。

  ♥ ♥ ♥

  行棋至26做一對比。白棋以邊星為核心的左半盤效率極高,沒有一個廢棋。黑棋的右半盤不但中心點被佔少了一路,而且還有若干借用,吃子反而虧了!

  白棋這一串靈活的轉換棄取如同行雲流水一般,活像是在多維空間進行穿越。就像是“熵”在宇宙間循環升降,不知其所蹤。

  這不是“神之一手”是“神的組合拳”。就像是剛到日本的吳清源爆發了小宇宙,瞬間照亮了舊的圍棋世界。

  名詞解釋:

  熵,熱力學中表徵物質狀態的參量之一,在宇宙間自由轉化。此處借用其狀態來做一比喻。

遊戲規則悄然改變? 未來中國將成該領域領頭羊

  棋譜3(27—42)

遊戲規則悄然改變? 未來中國將成該領域領頭羊

  黑1大跳寬攻照顧大局。白棋2、4又是碰!真是“飛刀又見飛刀”。白12點刺的時候,不知什麼原因黑棋已不能粘。

  至白16為止做一小結,黑棋的進攻除了在中腹有了挺拔的棋形之外一無所獲。右邊自己的大本營最後竟然要變成白棋的巨空。簡直醉了。

  小鏈接——碰的歷史

  其實人類圍棋中碰並不少見,無論在中國古譜還是日本的傳統圍棋。在道策、秀策,丈和時代,碰都是常用着法,吳清源更是把碰用的爐火純青。

  而現代自從新聞棋戰開展以來,考慮到用時的因素,考慮到更安全的取勝,以及若干棋型研究的積累,人類圍棋的發展止步不前,碰才逐漸變得少見了。

遊戲規則悄然改變? 未來中國將成該領域領頭羊

  阿爾法狗圍棋一出,碰再次發揚光大。説明事物總是螺旋式上升的。正是所謂“問渠哪得清如許,為有源頭活水來”。

  棋譜4(43—82)

  黑棋無奈,只能出動下方的孤棋“轉戰”。白4應法自然是聲東擊西之術。黑棋當然要各走各的。

  黑棋5、7靠點是某些職業棋手喜歡用的“鑽牛角尖”手段,事實證明沒什麼大不了,走上了“邪路”,估計以後要被淘汰。而白8扳,白10團的手段,將作為正着載入史冊。

  黑39佔到大場,白40補棋極為乾淨。

  戰鬥到白40為止,看不出黑棋有啥奇妙手段,除了中腹又多了五個子的“外勢”之外。白連邊帶角形成40多目巨空,爬5個二路也值得了。

  棋譜5(83—111)

  黑1雙飛燕進攻,黑3、5都是局部要點。由於周圍黑棋很厚,感覺白棋形勢危急,白6竟然能在此關鍵時刻脱先肩衝。

  黑7爬搜根決戰開始。白16、18的扭斷不明何意,事後看來白棋竟然是忙裏偷閒,借治孤之機幫下面圍空!簡直是魔鬼般的手段。

  但白棋大龍也被黑27點在腰眼上,難道要棄子不成?

  棋譜6(112—125)

  白1靠補斷的普通手筋看上去我也會。但緊跟着白5、7兩手神光乍現,原來組合妙手在這裏,大部隊跑回家了。

遊戲規則悄然改變? 未來中國將成該領域領頭羊

  黑棋為了自身的厚薄還不得不後手斷吃那個尾巴。白棋借治孤圍空之後竟然還先手回家。如果黑棋也是真人,不知此時會沮喪到什麼程度,恐怕會當場認輸了吧。

  棋譜7(126—148)

  白1獲得先手衝下,白3拐後大局已定。雖然黑棋也是人工智能,但恐怕此時鬥志已失。以下還是聊盡人事地對白棋進行了“衝擊”,白棋再次先手活棋,並於21、23位搶先收官。以下已經無話可講。

  棋譜7(149—220)

遊戲規則悄然改變? 未來中國將成該領域領頭羊

  本譜全是官子。考慮到阿爾法狗強大的形勢判斷水平和計算能力,我相信雙方官子收的次序手法不會比李昌鎬差。這些鐵船長既看不懂也學習不了,相信各位也是一樣。還是把重點放在前半盤的思路吧。

  思路1人類數千年的圍棋心得以及高手着法道路是正確的,尤其是吳清源大師。2大局觀仍然是決定性的,一點兒也不會因為計算能力強大而遜色,反而更加重要。3搶先手佔大場,薄棋形效率高也是棋之正道,只是人類不一定適應。阿爾法狗幾乎沒有漏算,因此“後中先”之類藏有後招兒陰人的想法兒就算了。在狗這不好使,當然在人類可能不一樣。4果斷用碰,回覆棋道本源。

  (2017-10-15)

版權聲明:本文源自 網絡, 於,由 楠木軒 整理發佈,共 17467 字。

轉載請註明: 遊戲規則悄然改變? 未來中國將成該領域領頭羊 - 楠木軒