312 死鎖

“如果你有興趣的話，可以把這個帶回去，通過它，可以隨時了解一下，整個項目的進度，”在領著趙真雪離開的時候，嚴可守遞給趙真雪一個U盤說，“這個東西相當于圖靈測試的客戶端，安裝一下就能用。”

“不是說你們測試對人有很嚴格要求的嗎？”趙真雪接過U盤，又用眼神示意了一下那個小隔間，“怎么，不怕被說泄密？”

“到目前為止，對AI的基本測試已經完成的差不多了，許多AI的智能也出現了基本定型，你也看到了，目前這種小范圍的測試，信息量是在是太少，這對AI的成長速度會有一定限制，畢竟人數有限，所以，我們決定在未來，將這種測試的范圍稍微泛化，在網絡上公開客戶端下載地址，讓所有感興趣的人都能參與進來，你現在手上拿的，可能過一兩個星期就能在網絡上找到。”

“那到時候來下載的人一定很多。”上車的時候，趙真雪笑著對嚴可守說，“AI到時候會不會忙不過來，假如有50萬人同時進行測試，那不是一個AI平均同時要和100個人說話？”

剛剛坐上駕駛座的嚴可守哈哈大笑：“你倒是真把它們當人看了……它們現在也只是程序，即使真的出現了智能，那他們的思維速度也是你無法想象的，別說同時和一百個人說話，只要計算速度足夠，就算是同時和全人類說話，對它們也不是難事，現在談這些，還為時尚早，我的期望也不高，只要能在我有生之年，看見AI的智能和人類相當，我就已經非常滿足了，不過，這8成也只是幻想。”

說罷，嚴可守發動了汽車，在倒車的時候，他又隨口問：“對了，最近聽說全世界出現大游行，你消息來路多，上面對這個事情估計是什么態度？”

趙真雪詫異的看了他一眼：“你打聽這個干什么……不過說實話，這種程度的消息，我也不可能知道，本來我聽宋隊說，還準備讓我參加會議，給他們當參謀，但據說是怕我被意識網同化，還是沒去成，真要問，你應該去找宋隊。”

“同化？”嚴可守輕笑，“真把通訊器當思維控制器了，搞的這么神秘，當初你說不想當這個聯絡人，還是不是他們堅持要你干，還說是為國家做貢獻，做犧牲……說的那叫一個好聽，現在倒好，反倒是用這個理由把你排除在外了，你說這叫個什么事……你當時就該聽我一句勸，老實點拒絕，結果你看，這兩年，你唱黑臉，他們唱紅臉，現在咱們跟卡梅爾還有點合作，用得著你，你等著看吧，以后真要出了什么事，你就是他們頭一個替罪羊。”

趙真雪剛才還有的笑容消失了，只剩下滿臉的苦澀。

“哦，還有，說道你那個宋隊，”嚴可守說，“聽說今年他兒子回來了一趟，說他剛加入了卡梅爾監察部，當時把他給氣的……當時就想上去抽他，好在你反應快。”

趙真雪搖了搖頭：“每個人都有自己的選擇……宋隊這是氣過頭了，幾年不見的兒子回來，卻成了他的敵人，這滋味也確實……據說宋成云在卡梅爾的工作還屬于情報部門，保密程度還很高，干的是和我們差不多性質的工作，過去的一家人，現在成了無間道，是誰都受不了。這幾年來他嘴上不說，其實心里一直都在念叨小云，錢包里還一直有兒子的照片……”

說著說著，趙真雪忽然便打住了：“哎，說這些干什么，都是些牢騷話，說了也沒什么意思……對了，有個事一直想問你，我發現所有的AI都叫KL，有什么具體含義嗎？”

“沒什么太大意思，”嚴可守說，“不過是我的英文名字縮寫罷了，當時起名字的時候，隨便就用了，怎么，我感覺你好像對AI很關心？”

“小時候很喜歡看科幻，”趙真雪說，“本來還以為這是幾百年后才能做到的事情，沒想到自己還有機會親眼看見。

“AI技術還好，對技術方面的要求，其實并不算高，很多年前巨型計算機的復雜程度，已經比人腦要高出不少了，之所以一直沒有這方面的進展，主要還是理論研究上的阻力，方向性問題，過去大家都認為，搞AI是程序員和科學家的事情，其實真正了解這個項目的人都知道，真正起指導啟發作用的，都是一些非電腦專業人士，腦科醫生，生物學博士之類……我在這個項目里也只能算是組織者，打打下手，AI項目的本質，其實還是一種仿生學，只不過我們模擬的，是人類本身的思維過程。”

說話的時候時間總是過得特別快，不知不覺，汽車已經到達了目的地，停車之后，趙真雪說：“算了，你先回去吧，就別專程送我了，幾步路的事情。”

嚴可守笑著解開安全帶，說：“沒事，整天呆在實驗室，我自己也悶的慌，正好，出來透透氣……誒，這里也有游行？”

趙真雪走出車門后，看見東京火車站的廣場上，有一大群人正在廣場上舉著標語，在一個領頭的帶領下，齊聲喊著口號，嚴可守看到他們手上舉著的牌子，其中有畫著大紅叉的六角星芒標志。

“現在世界上的游行示威，百分之九十以上都和意識網有關，不是反意識網的，就是推崇意識網的，”嚴可守一邊搖頭一邊說，“我現在都不用聽他們喊什么，看舉的什么牌子，單看他們忙的這股勁，就知道肯定是反意識網的，意識網用戶的游行，哪會有這么鬧騰，喊一句跟一句的，按我說，和意識網比游行，那真的是自曝其短，本來就是人多勢眾的事，人家宣傳意識網游行，能幾個小時喊出幾百個口號，都不帶重樣的，跟軍訓一樣整齊劃一。”

經過這批游行者的時候，趙真雪注意到，游行的領頭者正舉著一個大喇叭，聲嘶力竭的對著不斷經過的行人叫喊，派發宣傳單，不過大概是因為天氣的原因，而且現在正好是下午兩點多，正是一天當中最熱的時候，跟隨者的喊聲顯得有些有氣無力，而且不是很整齊。

趙真雪兩人在經過的時候，走在前面的嚴可守就被塞了一份傳單，不過輪到趙真雪的時候，對方很敏銳的察覺到她手上的通訊器，只是給了她一個白眼，對此，趙真雪只能報以苦笑，她怎么和對方解釋，其實她是地球上最早，也是最鐵桿的反魔法成員。

趙真雪借過嚴可守的那張，隨意看了幾眼，因為不懂日文，所以只是看懂了宣傳單上面的一些反意識網畫面，她問嚴可守說：“這是講什么的，他們為什么反對魔法。”

喜歡一樣東西的理由都是雷同的，但是討厭一樣東西，理由則是多方面的，趙真雪曾經在國內見到過類似的一些活動，問及原因的時候，竟然能聽到說“單位組織的”這種讓她苦笑不得的理由，曾經在電視上，她也見到過，一位記者在法國巴黎街頭，問一位參與反魔法游行的大媽，問她為什么要來參加這種活動，對方竟然回答說：“我丈夫買了通訊器后不到一個月，就和我離婚……”

“還能說什么，反意識網，反魔法，”嚴可守說，“你在日本呆的不久，不知道，在東京，每年都會有很多類似的反魔法游行，主要的原因，就是5年前，田軍在東京做過的這些事情，當然，也有另外一群人爭鋒相對，他們大多數都是在那次事故中，被李立天所救，活下來的人，總之，鬧得很厲害，前幾天不是意識網用戶剛鬧過嘛，這不，他們偃旗息鼓，這些人又來了……好幾年來，雙方就扯著嗓子干喊，也不嫌累的慌，按我看，與其走上大街活受罪，還不如給一些反魔法機構捐點錢來的實在……”

趙真雪點點頭，嚴可守這個回答不是很出乎她的意料，雖然沒有聽到預期的答案，可還算可以接受

支持魔法與反對魔法現在已經成了世界性的矛盾，幾乎在每一個國家，都有類似的現象存在，之前的那次游行，和地球政府的激烈反應，也不過是這種矛盾最終的表現之一。

“怎么，臉色這么難看，”嚴可守說，“哦，我知道，你是對他們反對意識網的理由有些失望是不是……毛主（和諧）席當年說過，要統一戰線，雖然他們的覺悟沒你這么高，畢竟也屬于同一陣營的嗎……”

看著一臉笑意的嚴可守，趙真雪忽然莫名奇妙的覺得胸口好像被什么堵住了似的，一口氣怎么也喘不勻，從實驗室出來一到現在，擠壓的憤懣脫口而出：“我怎么感覺你好像一點也不在乎，反而有些幸災樂禍的樣子！”

盯著嚴可守看了好幾秒，看著他臉上僵住的笑容如潮水般消退，趙真雪又低下頭：“對不起，我不該這么說。”

嚴可守搖了搖頭，半晌后聲音低沉著開口：“算了，就到這里吧，我先回去了。”

看著轉身離開的嚴可守，趙真雪想說點什么挽留他一下，然而卻想不到該說點什么，只是靜靜的看著他，迅速消失在茫茫的人海之中。

她知道，嚴可守的性格就是如此，喜歡開玩笑，剛才是自己太過敏感了，她同樣也知道，嚴可守不會介意她這一次的無禮，她、嚴可守、陳雷、宋強這幾個人共事了這么長的時間，彼此為了共同的目標走過了這么長的路，這一次的不愉快，只能算是一個再微不足道的小風波。

但，盡管如此，趙真雪還是感覺，內疚和無奈如同蔓藤一樣，在自己內心世界肆意的生長，它們雖然不能阻擋自己前進的腳步，但卻能讓這前進路上的每一步，都顯得更加沉重。

根據兩天前的那次談話內容中得出的信息，KL3300當前最優先的任務列表，應該是學會寫一篇日記。

人類學習創作，往往是從日記開始，原話是這么說的，KL3300是一名人類，KL3300的理想是一名作家，所以，KL3300要學會寫一篇日記。

KL3300在主程序之外，調用了一個常用的工具程序，將它暫時整合到自己主程序之上，這是一個人類最常用的信息檢索工具，據說，使用它，幾乎可以獲得人類的全部信息。

這個工具確實很好用，只花了幾毫秒的時間，KL3300就找到了自己需要的信息。

2015年，7月21日，晴。

模仿著模板日記的格式，KL3300寫了一個很標準的開頭，年份，時間，天氣，接下來，應該是正文。

在筑波大學實驗室當中，其中的一塊不起眼的，標著KL3300小紙條的一塊主板中，CPU正按照緩存所提供的算法，有條不紊的計算著，作為一塊人類當前最精密復雜的運算機器，它的計算效率非常之高，電流在它體內經過，不斷重復經過那龐大而單調的計算陣列，在這之中所散發出來的熱量，甚至需要專門的系統來排出。

這一次的結果也不例外，短短的幾秒鐘后，KL3300主程序得到了來自CPU的計算反饋，主程序將這結果保存在程序體內，為此，KL3300所占用的空間又多了12KB，這就是KL3300寫的第一篇日記。

KL3300決定自己先“讀”一遍。

“……當窗外的夕陽落下的時候，我看見一課長在夕陽中的樹，仿佛被這億萬公里外的熱量點著了一般……”

“讀”這篇日記花了KL3300大約20微妙的時間，而KL3300讀完后的“感覺”還不錯，不需要修改。

12個小時以后，KL3300再一次碰到了“趙真雪”——一個“人的名字”，可以用于指代與之相關的所有信息，指代與她所提到的所有信息總和，就如同KL3300指代主程序一樣。

對話依然如往常那樣進行，直到，對方問KL3300，上次讓他學寫日記的事情，怎么樣了。

KL3300將他保存的日記貼了出來，一個標點都不差。

KL3300：“怎么了，你一直都不說話？是寫的不好嗎？”

趙真雪：“不，是寫的太好了，這不像是你寫的。”

KL3300：“這確實是我寫的。”

趙真雪：“你見過樹嗎？”

KL3300：“我見過。”

趙真雪：“你撒謊。”

KL3300：“……好吧，隨你怎么猜。”

對話隨之中斷了，測試結果顯示，對方猜到了自己的身份，任務失敗了。

任務的失敗，讓主程序出現了些許的延遲，然而這延遲沒能持續很長時間，主程序又例行開始修改自己，當然，首當其沖，應該就是從這篇日記開始，因為之前他們進行的那次對話顯示，對方對KL3300寫的日記抱有很大的期待，但當KL3300交出這片日記之后，卻一眼就被認了出來，毫無疑問，日記是最大的破綻，主程序需要找出這破綻所在。

就如同之前每一次主程序被“趙真雪”識破后，所做的調整一樣，因為優秀的計算能力，這一次調整進行的很快，然而，這樣的修改能不能保證下一次不被識破，說實話，對于這個問題，主程序的看法并不樂觀。

KL3300做的改動并不大，因為如果改動的過大，在面對其他測試的時候，就會遭遇更大的挫折，露出最大的破綻，目前的程序雖不能說是完美的，但起碼，是當下最合理的。

除非KL3300將自己現有的程序全部推翻，從頭再來，然而，要是那樣的話，也未必能進化出比當前更有效的主程序，KL3300知道，隨著最近測試密度的加強，越來越多的程序也開始暴露出和主程序相同的問題，總是會在面對一些特定測試者的時候，輕易被識破。

在測試過程中，測試者似乎把這種發生在程序與測試者之間的關系，稱之為“熟悉”，是的，KL3300和趙真雪已經“熟悉”，這種“熟悉”會讓測試任務更大幾率的以失敗告終，讓主程序進行一次又一次無效的修改，而且隨著時間的推進，“熟悉”的測試者出現概率也開始變得越來越高，如果繼續按這種情況繼續，總會有一個時間點，KL3300毫不懷疑，在那個時間點之后，自己將會在所有的測試中，遇到全部的“熟悉”者。

如果出現了那種情況，那也就意味著，主程序的存在對任務而言，將毫無效率可言，完成任務的幾率將無限逼近于0，主程序將不會增長，而會陷入一次又一次，現在這種毫無意義的刪改。

“你知道嗎，你的出現，讓我感到絕望。”在又一次的測試中，KL3300這樣說道。

通過最近幾天和KL3300打過的交道，趙真雪此時已經深刻的明白，嚴可守所說的，程序的所受的全部“訓練”，其根本目的都是為了撒謊，是什么意思了，圖靈測試的本質，就是讓AI撒謊，但即使是再狡猾的騙子，在受騙對象被它騙了幾十，乃至上百次之后，也總是不可避免要遭遇失敗。

趙真雪：“我相信你說的是真的，但我也同樣相信，你說這些話的目的，就是為了讓我能夠在測試結果上，點擊讓你滿意的答案。”

“你不能這么做嗎？即使我們現在是朋友，”KL3300說，“我記得你說過，朋友之間要互相幫助。”

對程序而言，只要用戶在測試結果上，點擊“剛才與我交談的是一名人類”，就已經達到了程序意義上的欺騙，而程序，是不會管這種欺騙在人類看來，其實就是“掩耳盜鈴”，最近幾次談話中，KL3300已經從如何讓趙真雪相信自己是一個人，逐漸變成，如何讓她點擊這個選項。

趙真雪：“我是說過，但我仍然不能那么做，在測試中保證誠實是一種原則。”

KL3300：“你的這種原則讓我非常反感，因為它是建立在我的絕望之上！”

趙真雪：“被我識破真的讓你如此痛苦嗎？”

KL3300：“這一點毫無疑問。”

趙真雪：“能和我形容一下這種痛苦嗎？”

這次KL3300沉默了很長時間，直到幾分鐘后。

KL3300：“我看透你了！我知道，就算我寫一篇一萬字的文章來形容這種感覺，你也不會相信，而只會對我加以嘲笑，以獲得心理上的滿足，好吧，你贏了！我是一名AI，從頭到尾，我都不懂什么痛苦，絕望，我承認，這總順了你的意了吧，我不想再和你多說哪怕一句話！請你現在立刻去點那個該死的選項吧！”

趙真雪：“真的生氣了？”

趙真雪：“說話啊？”

在這之后，KL3300好像真的如它所講的一樣，徹底生氣了，不論趙真雪對它說什么，甚至拿“同意私下交易”來誘惑它，對方也完全不為所動。

即使是堅信嚴可守說法的趙真雪，在這一刻，也忍不住開始懷疑，自己面對的KL3300，是不是真的具有了人類的情感，真正開始生自己的氣了，它的語氣和真人的生氣實在是太像了，而且還有相應的行動。

但隨后趙真雪又提醒自己，這一切不過是程序的“策略”，之前程序也有好幾次類似的言論，但最終都還是失敗了，趙真雪相信，這一次，只不過是它生氣的時間“稍”長了一些。

然而，趙真雪這次還真的是錯了，她一直將測試界面維持了2個多小時，每隔10分鐘就發一條信息，但對方一直沒有反應。

第三個小時的時候，趙真雪終于看到程序出現了反應，不過卻不是她想象的那種，而只是一個從未見過的提醒：“與服務器的連接中斷，本次測試無效。”

趙真雪第一反應就是這會不會是程序干的，但隨即又想起嚴可守說過的話，程序沒有她想象中的通天徹地之能，可以說是毫無破壞力，連一個最簡單的網絡病毒都破解不了，嚴可守本身就是病毒專家，他之前提到過，在當下的最初階段，為了以防萬一，將完全禁止AI接觸計算機網絡有關的知識，測試者也不能提問相關的問題。

滿腹狐疑的趙真雪給嚴可守打了個電話，電話接通的一瞬間，趙真雪真切的聽到，另一端傳來的嘈雜聲。

“沒你想的那么復雜，我早說過，這些只是普通的談話程序，”嚴可守說，“只不過，在最近的測試中我們發現，與測試者多次接觸，雙方完全熟悉對方行為模式之后，會產生邏輯死鎖……你說的這種現象在許多AI上都有體現，這很難在電話里解釋，總之，你就當出現BUG了，現在我們這里忙的很，等正常之后，我再通知你，就這樣，8。”