人工智能發(fā)展:更高級的人工智能更富侵略性或者更好斗
每當人們談?wù)撈鹑斯ぶ悄?,大家都?huì )使用一些詞匯諸如”smarter”, ”faster”, ”effective”,” “precise”等。
強人工智能是有可能實(shí)現的,但是現在的技術(shù)離強人工智能的距離還非常遠。原文中第一個(gè)圖很有意思,就是技術(shù)發(fā)展曲線(xiàn)。全文的所有論據,都建立在“指數發(fā)展”這個(gè)假設上。指數曲線(xiàn)在接近0的時(shí)候是類(lèi)似線(xiàn)性的,不光是指數,多項式函數、對數函數、甚至多重指數在小范圍內也可以用線(xiàn)性擬合得很好。而且不同的指數和在0附近都很接近,但對“奇點(diǎn)”何時(shí)到來(lái)的估算可能誤差千百年。如果按照“指數發(fā)展”來(lái)算,而且樂(lè )觀(guān)的估計指數的系數,那你妹的什么技術(shù)都不是問(wèn)題啊,人類(lèi)分分鐘占領(lǐng)全宇宙。我更相信的是,科學(xué)發(fā)展是有爆發(fā)期和穩定期的。一個(gè)技術(shù)突破會(huì )帶來(lái)難以想象的繁榮,之后的科學(xué)發(fā)展都比之前的更快,但不會(huì )天天都是技術(shù)突破。比如,二十世紀上半頁(yè)的物理學(xué)十分輝煌,相對論和量子力學(xué)的建立引發(fā)了一系列技術(shù)革命。但從那以后物理學(xué)一直很平穩。楊振寧就說(shuō)過(guò)他趕上了物理學(xué)的好時(shí)候,讓他現在做學(xué)術(shù),可能就不會(huì )選物理學(xué)了。要是科幻作家站在1950年前后,用指數發(fā)展估計物理學(xué)的發(fā)展,那到今天我們早就弄出大統一理論搞定核聚變發(fā)電了。又比如人均壽命從先秦時(shí)的二十幾歲發(fā)展到現在的80歲,如果用指數擬合,那過(guò)幾十年是不是要活幾百歲了啊
支持人工智能指數發(fā)展的路線(xiàn)包括:抄襲人腦,進(jìn)化算法,電腦自己解決。我不知道這幾條是不是對應類(lèi)似machine learning, neural network, evolutionary algorithm, program synthesis之類(lèi)的領(lǐng)域。如果是的話(huà),這幾個(gè)領(lǐng)域我都有一點(diǎn)粗淺的了解。歡迎大神批評補充。比如machine learning和neural network, 核心都是回歸和數據擬合,離智能化還很遠。大牛Andrew Ng的網(wǎng)課,Coursera - Free Online Courses From Top Universities光靠這個(gè)實(shí)現強人工智能我是不信滴。關(guān)于evolutionary algorithm,去年有一個(gè)大牛的talk,推薦大家看一下。全篇都是技術(shù)討論沒(méi)有涉及“奇點(diǎn)”,大家可以自己判斷現在的研究前沿離真正的強人工智能還有多遠。從43分鐘開(kāi)始:Dana Scott: VSL Opening & Christos Papadimitriou: VSL Keynote Talk "Computational Ideas and the Theory of Evolution" on Vimeoprogram synthesis里,現在計算機能自己生成的程序還很弱智,而且算法復雜度都是exponential time甚至doubly exponential time(比如)的。用的方法本質(zhì)上是先靠程序員輸入一個(gè)程序模板和參數空間,然后用各種方法遍歷所有可能的程序,看看是不是滿(mǎn)足要求。這其實(shí)引出了一個(gè)很有意思的問(wèn)題:現在我們CPU的計算能力是指數增長(cháng)的,但按照今天的算法,許多真正有趣的問(wèn)題都是需要“指數時(shí)間”,甚至多重指數時(shí)間才能解決的。那么,我們實(shí)際解決新問(wèn)題的速度一定是指數發(fā)展的嗎?讓該領(lǐng)域內的專(zhuān)家來(lái)介紹現在的研究成果和面臨的巨大問(wèn)題,比起作家自己泛泛而談要好得多。
其他反對的觀(guān)點(diǎn)其實(shí)也不少,比如可以參考這篇文章 Hyping Artificial Intelligence, Yet Again等有空我可能會(huì )翻譯一下。