把切了月餅的刀放在了手邊的飯桌上,接下來的十分鐘里,我都時不時地被那把刀吸引註意力。以往這種危險物在我的腦海里出現的,都是它可能發生的各種意外。但剛才,那把刀在腦海里出現的都是我用它在我身上製造各種自殺手段的畫面。它脫離了危險的屬性,被賦予了更多晦澀的抽象定義,關於死亡、自殺、解脫等等。所以在要洗碗之前,我第一個動作就是把刀拿進了廚房,那個時候我的大腦還不受控製地為我上演各種自殺的劇情,直到我把它洗幹凈插回了刀架,我的大腦才恢復了冷靜。
像是某種程序的設定出現了錯誤,大腦進入了自我悖駁的機製。情緒層面的邏輯bug,給大腦發出了「拿著那把刀割破自己手腕」的信息,大腦在接受到指令之後,正在調動整個身體做出全面妥協的姿態,讓身體對刀原本的恐懼一點點被修正,直到可以鼓起勇氣拿起那把刀;但是這個時候,同樣是情緒的控製器:自控力出現了,它開始對這個指令做出二次判定,確定它是一個不符合當下也不正確的指令。所以這個時候,整個身體已經做好了準備,但大腦里出現了悖駁。大腦里決定召開一項決議,關於「要不要拿起那把刀割破自己手腕」的議案——決議很簡單,就是確定要或者不要,但是管理記憶的「海馬體」是不允許參與這項決議的。因為海馬體會對決議的內容造成情感偏差,它極容易被情緒帶偏,可能會在當下會在記憶的深處為「應該拿起那把刀割破自己手腕」提供佐證。管理思維邏輯的「後額葉」本來應該參與到決議當中,但它在大腦接收到錯誤信號之後,為了避免身體出現強烈的反抗,它的聯系被切斷了——如果在那個時候真的能冷靜下來理性思考「我到底該不該拿起那把刀割破自己手腕」,也就不會在大腦里會召開這樣的自我悖駁議會了。
最終,處理這個信息的,交給了管理情緒和自控力的「前額葉」,這個錯誤的信號是因為情緒變化通過前額葉發出的,但提出悖駁的也是因為自控力通過前額葉發出的。而這場可能會導致我接下來會不會自殺的決議,竟然是在一個腦單元里完成的,其實是一件很可怕的事情。
前段時間,在莫斯科舉行的國際象棋公開賽中,一國際象棋機器人夾斷了一名7歲參賽兒童克里斯托弗的手指。原因是這個小男孩在比賽過程中操作速度過快,在沒有等機器人完成編程里的「回合結束」之前,就率先決定落子,結果小男孩被機器人手臂奪走棋子之後,再被抓住了手臂,致使小男孩的手指被夾骨折。事後調查認為,由於小男孩沒有等機器人完成當回合的下棋動作,他便開始了他的回合,而這種規則的破壞觸發了機器人的特定程序——但機器人設計者並沒有具體透露,這種奪走棋子、然後抓住犯規者的行為到底是不是他們提前黄金設定好的。因為它的作弊規避系統太過「危險」,讓人不由自主地懷疑,是不是這個人工智能擁有了某種程度上的自我意識?對此,機器人的開發者也沒有做出正面回答。
人工智能是否會獲得自我意識,一直是人工智能誕生以來,大家很愛談及的話題之一。簡答來說,認為不會產生自我意識的人,認為人工智能本質是算法,而這些算法最終的締造者還是人類,除非人類把自己的意識加入其中,否則它是沒辦法形成自我意識的;認為人工智能會產生自我意識的,則相信「無限猴子理論」是真實存在的,當人工智能的算法達到無窮狀態是,那它自然就可以獲得全人類社會的所有的知識體系,而那些人類還未知的體系也會存在於此,當它意識到整個人工智能系統存在漏洞的時候,它就會對這個漏洞加以控製。
但人工智能一直有一個很尷尬的情況,這個情況就好比是當代偵探小說應該如何規避掉那些到處安置的高清攝像頭,而製造一起完美的不在場殺人案?人工智能的尷尬就在於它所需要的能源到目前為止,還是使用的電能,當它發生失控或違背人類意誌的時候,只要拔掉那個電源,它的失控就會停止。而這個尷尬的存在,恰恰又是很多人避而不談的——但他們不得不承認,就算人工智能獲得了自我意識,人類依舊是他們最後的「保險栓」。
結果,又出現了和「前額葉」因為情緒產生自殺念頭又通過本身的自控力來進行修正的情形——人類是製造人工智能的主體,他們在賦予人工智能生命的同時也可能賦予它自我意識的學習,同時,人類又是人工智能最終的「保險」,當控製權和控製權的剝奪都在同一個系統之中時,它本身又變成了一種不可控的隨機事件。
如果自控力和情緒悖駁失敗,人就會出現前額葉失控的局面;人類的私欲和道德悖駁失敗,人就會利用人工智能做出人類根本不可能做到的復仇計劃。或者還有一種可能,或許人類的大腦本身就是設定好的程序,當大腦里的那只「無限猴子」輸入到足夠量的隨機數據後,它便有了自己的意識,開始誘惑人類做出自殺、或是殺人的行為,如果自控力在這個時候突然失效,那人類就會犯下滔天大禍。
小時候我很愛看機器人對壘的比賽,兩隊人馬在一個封閉的擂臺,將自己引以為傲認為都認為它可以無情摧毀對方尊嚴的機器人送去比賽,兩隊的機器人在上面利用各種手段進行廝殺,有些很殘忍、有些很兇險、有些是極其下流的陽謀、有些是卑鄙無恥的陰招。總之,當人們看到兩個機器人在擂臺上比拼得火花四起,甚至還會發生燃燒爆炸的場面,都會不禁感慨,這些殺人機器還好只是用在這樣的比賽當中。
不過長大後就突然意識到,製造這些殺人機器的,正是一群既製定了比賽規則,又參與在比賽之中的人類。