細思極恐，當科學成為新“上帝”

張麻子

斯塔爾夫人是法國大革命時期的自由主義思想者，她的言論曾讓拿破侖恐懼：“沒有哪個女人比她更邪惡”。然而，比這更著名的，是她那句“自由是古老的，專制才是現代的”名言。不過，直至今天，恐怕也沒有人意識到，這句在當時驚世駭俗的話，卻成了隨后200年的歷史預言。

從1789年法國大革命爆發，到1989年柏林墻倒塌整整兩百年間，資本主義的發展和科學技術的進步，將人類推上了前所未有的文明巔峰，但隨之而來的，是強人對權力集中的渴望，窮人對財富不均的怨恨。結果，烏托邦主義、納粹主義等自由的敵人粉墨登場，經濟崩潰、政治動蕩、人倫毀滅、文明倒退交錯出現，這些歷史，至今仍讓人心有余悸。

200年來，有多少罪惡假自由之名大行其道？所幸，災難換來的，是自由、平等、和平等美好的價值，逐漸成為深入人心的普遍價值。今天，文明與野蠻的沖突仍在繼續，但再也沒有人會公開反對這些普遍價值。

然而，當普遍價值成為一種信仰時，他們的敵人，已不只是“強制”等顯而易見的敵人，更包括“技術”“算法”等非常隱蔽的敵人。長遠來看，后者比前者更可怕——不僅因為后者很容易成為前者的利器，更因為當科學成為新的上帝，直接動搖著人類普遍價值的根基。


▍科學對人腦的革命：
抑郁，不是因為痛苦，而是芯片沒電了


自由等普遍價值，之所以能夠從歷史的殘酷競爭中勝出，是因為它的兩大基本前提最符合人類的天性：

◎人類擁有自由意志，文明社會必須尊重每個人獨一無二的體驗，無論市場中，還是政治生活中，每個人都有自由選擇的權利。

◎沒有人比他本人更了解自己，只有自己才知道自己想要什么，沒有人能替自己做決定。

然而，技術和算法的崛起，正在動搖著這兩大基本前提。

在“第一推動叢書”之《皇帝新腦》中，自西班牙科學家卡哈爾發現人腦運行的本質，不過是神經元之間的互相作用以來，科學對人腦的了解越多，就越發認定，人幾乎99%的行為模式，與計算機無異，無論是記憶還是外部的刺激，無非就是神經元的電信號和化學反應。

“真實頭腦”與“模型頭腦”越來越相近

例如，當一個人面對一只老虎時，視覺將影像傳遞給大腦，而大腦根據基因設定的“生物算法”做出“非常危險！”的判斷，再將此信號傳遞給腿，腿收到信號后立刻開始狂奔。

這一過程接近于計算機程序的運行模式——人類給計算機下達指令，計算機再根據算法，給出人類想要的結果。

整個過程中，人類的思想、觀念幾乎沒有參與的余地——沒有人會停下來思考一下，老虎會不會吃我，我需不需要和它談談心。

科學家由此得出結論，人腦和計算機在本質上沒有區別——人的行為，無非就是各種算法的集合，外界給予什么樣的刺激，人就會做出什么樣的反應。他們甚至認為，所謂意識、觀念、思想不過是一個額外的副產品。

那么，我們日常的很多行為和各種欲望，到底是我們想做的，還是“生物算法”根據外界刺激給我們下達的指令？我們究竟能否選擇自己的欲望？我們究竟是否擁有“自由意志”？

科學實驗給出的答案是否定的。尤瓦爾·赫拉利在《未來簡史》等書中，介紹了著名的“機器人老鼠”實驗，并分析了科技進步對文明的挑戰。

該實驗是由美國紐約州立大學的吉夫·塔瓦爾教授主持完成的。實驗開始，只要在老鼠大腦中插入三個電極，就可以遙控指揮——讓它直行、爬梯子、繞著垃圾堆轉圈，怎么都行。科學家控制的其實是老鼠的“自由意志”！遙控器指向哪里，老鼠并不是被迫走向那里，而是老鼠“想要”走向那里。我們看到的是老鼠被遙控了，而老鼠自己的感覺是，自己想去哪就去哪，它很“自由”。

由于倫理限制，這樣的實驗當然不能在人的身上進行，但是以色列科學家仍然打了一個擦邊球。為了治療抑郁癥，他們在患者腦中植入一個芯片，結果患者果然恢復了快樂。

有一次患者問，為什么這幾天我反而更抑郁了？科學家打開他的大腦一看，原來是芯片沒電了。

在大腦中植入芯片，就能控制人的體驗。因此，在科學家看來，機器人老鼠”實驗的結論同樣適用人腦。——科學技術可以控制人、甚至直接消解人的自由意志。“人類擁有自由意志”——普遍價值的第一個前提，就這樣被新的技術撼動了。

“機器人老鼠”實驗

更可怕的是，技術對“自由意志”的操控，已經走出實驗室，正在被迅速商品化——

◎美軍研發了一種頭盔，它可以通過電極對大腦的某些部位施加影響，戴上它，士兵不再感到恐懼與緊張，還能讓士兵注意力更加集中、反應更快、作戰更有效率。這項技術還被越來越多的人用于工作、游戲中。

◎據美國媒體調查顯示，早在2015年，全美大學生中有1/3的人使用“聰明藥”——這種藥能讓人在一段時間內集中注意力。根據科學研究，人腦每時每刻都會有各種欲望和想法。吃下“聰明藥”，可以清空人腦中的“雜念”，幫助人們專注于一件事，從而達到“忘我”的狀態。

據說，類似的“聰明藥”，喬布斯吃過，美國許多頂尖工程師、數學家都吃過了。CNN的一位專家表示，他所認識的幾乎所有億萬富翁都靠吃“聰明藥”來提升思維能力。

目前，對這類現象討論的焦點是，服用“聰明藥”算不算公平競爭？但實際上，這一現象的意義遠遠超出我們的想象。

在過去，毒品上癮以最為直接的方式刺激多巴胺的分泌，使人享受到前所未有的快感。其實，毒癮不僅腐蝕人的身體，而且還剝奪了人的自由意志——癮君子無法選擇不吸毒。因此，販賣毒品被視為違背人類倫理的罪行。

但現在，如果任由“聰明藥”，或者“腦中的芯片”發展下去，人類也將像對毒品的依賴一樣，依賴這些控制感官和自由意志的技術，總有一天，“快樂”“希望”“自信”“愛情”等各種體驗，也將明碼標價，堂而皇之地被放在貨架上販賣。那時，人類社會將進入“禮崩樂壞”的黑暗時代。

人的“自由意志”成了科技的收割場

經常聽人開玩笑說，有錢人的快樂我們不懂，但未來，很可能是：有錢人的快樂跟窮人的快樂都一樣，只不過窮人沒錢買而已。

過去，專制對人們自由的剝奪是顯而易見的；未來，技術對人們自由的剝奪卻悄無聲息。


▍算法與大數據：
從“算命先生”到“人類的新上帝”

日常生活中，我們都會沖動消費，經常買回一堆用不著的東西；在公共生活中，可能會選出一個壞總統，等等。然而，這些還不是最壞的結果。最壞的結果，是我們的選擇權被剝奪，由別人代替選擇。從父母包辦婚姻、包辦工作，到由少部分人代替我們選擇獲取什么樣的信息，學習什么樣的知識，施行什么樣的政策，等等。

這是基于人類普遍價值的第二個基本前提：沒有人比自己更了解自己，只有自己才知道自己想要什么。所以，自由選擇，而非強制，是一項不證自明的基本權利。但是，如果技術和算法比自己更了解自己呢？

美國曾發生過這樣一件事：一名男子憤怒地投訴塔吉特超市，說“你們居然向我上高中的女兒推銷孕婦試用品！你們想鼓勵她懷孕嗎?”可一周后，這位父親卻道歉了，因為他女兒真的懷孕了。原來這家超市通過大數據分析，認為該女孩有懷孕的可能，于是向她推送了相關商品。

在這個真實的故事中，冷冰冰的大數據，竟然比朝夕相處的父親更了解自己的女兒。

大數據已經改變了世界，但技術更新迭代的步伐，根本就停不下來。據報道，谷歌等科技巨頭正在開發一個強大的超級系統——可以實時監控人體的各種指標，結合每個人的基因，隨時隨地給人們提供各種健康建議。什么時候起床，什么時候吃飯，什么時候健身，什么時候工作，什么時候睡覺。

谷歌還開發了一個類似于“虛擬人生”的助手系統——它將在面臨人生抉擇時，給出重要的參考意見。無論是上大學讀什么專業，選什么工作，去哪里生活，還是和誰結婚，要不要孩子等問題，它都能根據大數據，給出具體的建議。

當遇事不決時，谷歌助手會告訴我們說：“我從你出生那天就認識你了，你DNA的完整資料，讀過的書，說過的話，你最喜歡的電影，甚至是你約會時候的心跳......我比你更了解你自己，明年，你應該和XX結婚，他/她更適合你。”

如此科學、精準，而又貼心的服務，誰能拒絕呢？

當然，人是可以逆向操作，通過改變大數據來馴服人工智能的。但是，這需要耗費大量的時間和心智，而且必須常態化。否則，剛剛被馴服的新數據，很快就會變成人工智能的老數據。到最后，我們不得不承認，最劃算的做法，就是在大數據面前俯首稱臣。

今天，越來越多的人習慣于記錄、上傳、分享自己的數據，人們在不知不覺中成為數據流的一部分，所謂“個人”，正在成為大數據時代一個不足道哉的“電極管”。最終，科學算法與人類的關系，大概會分三步走：

·算法相當于我們身邊的“算命先生”，有問題問他一下，但人依然擁有決策權。
·算法是我們的代理人，我們告訴它該做什么，讓它去執行。
·算法最后成為了我們的君主，我們主動交出決定權，什么都只能聽它的了。

在不遠的未來，科學將無所不能，它儼然成為了人類的“新上帝”。

相比之下，當下被廣泛討論的“人臉識別技術侵犯個人隱私”“手機APP上傳個人數據”等熱門話題，可能都微不足道。

人類社會歷經數千年形成的關于自由等價值的基本邏輯和倫理，竟然被技術和算法在短短幾十年就動搖了，人們從不情不愿，到主動自愿地成為數據和算法的奴仆。我們購物、健身聽助手的，去哪里生活、和誰結婚也要聽助手的，甚至連投票等公共生活也要聽助手的，曾經不證自明的“自由選擇”，還剩下什么呢？

當算法工程師成為最能影響我們決策的人，當科學家、技術專家可以不斷給人腦打“補丁”時，當科技巨頭和政治強人掌握核心算法時，一切的強制，看起來都是那么的“自由”。當他們聯盟，又會怎樣呢？細思極恐！

奧威爾在《1984》中所寫的“戰爭即和平，自由即奴役，無知即力量”，以前看是政治寓言，現在看原來是預言。

▍科學與理性：
人類文明之光，但常被濫用為歷史之殤

“自然與自然的法則在黑夜中隱藏。上帝說，讓牛頓出世！于是，世界一片光明。”這是英國詩人亞歷山大·蒲柏為牛頓所題寫的墓志銘。

18世紀，牛頓力學的誕生掀起了科學革命；工業革命將大英帝國推向了前所未有的文明巔峰；20世紀，愛因斯坦相對論的問世，再次引發了一場科學崇拜的狂潮。新技術的大規模應用，不僅讓經濟出現了井噴式的增長，也徹底改變了人類的生活方式......

科學的興起，是人類理性的產物，但科學思維很快就被濫用到社會領域。比如，社會達爾文主義者試圖用“科學方法”控制人類進化路徑，結果造成二戰期間的納粹種族大屠殺；烏托邦主義者試圖用“科學思維”規劃、改造人類社會，結果卻災難遍地。用科學思維改造人類社會，是20世紀主要災難的源頭。

然而，與今天相比，20世紀科學的濫用，最多也就小巫見大巫。近些年，移動互聯網、人工智能、生物科技的發展，已經在直接改變人腦本身，改變人的意義。在技術和算法面前，所有人都“自愿”地奔向奴役。

科學似乎無所不能，這一趨勢看似不可逆轉。對此，哈耶克在《科學的反革命》一書中寫到：

那些試圖用科學方法，把每個人當做毫無生命的原子，致力于操控人類“自由意志”的“唯科學主義者”，恰恰忽略了科學的基本前提……當科學試圖干涉人類倫理問題時，就會追求價值中立，消解倫理道德，驅逐價值判斷，最終必然將人類社會引向奴役之路。

哈耶克當年在寫罷本書后，曾作出異常悲觀的預言：人類天然具有崇尚理性和烏托邦的沖動，我們將無法擺脫濫用科學對個人自由的永恒詛咒！

然而，無論科學有多么強大，都有它天然的局限性——無論實驗室能得出多少數據，能發現什么新結論，它都無法證明謀殺、搶劫等行為是正確的。但是，當科學強大到可以風平浪靜地消解掉普遍價值時，我們不能再視而不見，更不能不警惕。（轉自：千字文華）

初涉池中

科學對人的影響是帶有隱蔽性、潛入性，人類或者說高等動物都是這樣的，人們總是反對專制，崇尚自由，但現實中因為智力或者經驗、眼界的差距造成的人生軌跡的巨大差距也是很多人懊惱的根源，我們自身素質到底是需要向強人看齊還是處于自由狀態下被人偶爾的關鍵性決策確是個很棘手的問題，未來數字鴻溝將會徹底讓人分成但六九等，并且無法翻身

譬如朝露

不要緊的，有人說我擔心的事情不會發生，是我的癔想。我幻聽幻視，精神有病

大白小白

科學教，了解一下

機器畫家

《魔鬼在統治這個世界》，了解一下

caiyongjun

在強大的算法面前，人的懶惰天性會把自己的選擇的自由的權力心甘情愿的讓渡給算法，而最終被算法控制。細思極恐，細思極恐啊！！！

老鷹

聽音樂，這些事想不清楚，也不敢想。科技是天使也是魔鬼，如果出一個希特勒不知道結果會如何。

充電器大錘

都說2045年是科學奇異點的到來，那時候可能人類也可能沒有存在的必要了
1、勞動力被淘汰，機械化生產代替全部人力，人可以躺著去享受共產主義的福利
2、AI操控人類，人類的意識甚至由AI操控，存在與不存在沒有任何意義，身體的所有器官零部件兒都可以用機器代替，留存在世界上的證據只有意識。
3、我們的意識可以跟隨5G、6G隨時隨地穿越到世界任何地方，AI系統會讓你的意識有身臨其境的快感，就像盜夢空間里做夢的小朋友一樣分不清現實與夢境。
4、人類沒有了存在的必要

王宏安75

樓上說的有理

rocket432

充電器大錘 發表于 2021-1-11 15:15
都說2045年是科學奇異點的到來，那時候可能人類也可能沒有存在的必要了
1、勞動力被淘汰，機械化生產代替 ...

人存在的必要是啥？是啥東西發展出來就沒有必要了？現在的老鼠存在有必要嗎？杠精來了哈哈哈