合作時代311記憶
法師伊凡合作時代311記憶
接下來，趙真雪又興致勃勃的和許多個代號為“KL”的AI進行了一些對話，盡管趙真雪對此已經有了一些心理準備，但她還是對AI在談話過程中，表現出來的“智能”而感到驚訝不已。(kankanwx)
這些AI和趙真雪原來想象之中的，存在很大的差距，甚至，趙真雪有種感覺，從某種程度上來定義，與自己進行對話的，已經可以說是一種“類”只能，雖然通過對話AI還是會表現出很多的破綻，不過這種破綻非但沒有讓趙真雪覺得失望，反而讓她隱隱有種感覺，眼前自己面對的，正是心目中理想的人工智能。
一個最明顯的例子就是，在跟她進行對話的這些AI當中，每一個說話都具備它特有的風格，每一個AI都記得自己的名字，甚至會給自己取代號之外的名字，它們會給自己建立一整套“簡歷”，包括家庭住址，生活環境，甚至還有“小時候”經歷過的趣事……
嚴可守告訴他，AI之所以會有當前的智能，和它的“學習”能力分不開的，其實歸根到底，這些AI不過是在計算機當中的一些算法程序，只不過在設計的時候，可以模仿了人類的學習“記憶”習慣，讓它們能夠在一次又一次的實驗過程中，學習那些有助于讓人們相信他們的信息。
舉一個最簡單的例子，在打字對話這樣的媒介當中，一般讓別人相信自己的最好方式，就是形成特有的語言風格，從而讓被測試者對自己印象深刻，比如在常用語中刻意增加一些地方方言，有的AI甚至還學會了模擬一些人類的脾氣，比如不耐煩，連續的催促等等，用這些許許多多的小細節，讓對方相信自己是一名人，而不是AI。
這所有的一切，其實都是AI的算法所決定的，嚴可守告訴趙真雪，每一次“測試結束”，AI都會根據這次對話的內容，總結哪里是比較完美的表演，而哪里又是容易被識破的破綻，這些結果會促使AI修改自己在特定概念上的權限值，比如一個電腦，裝東北人，在打字過程中“俺們”之類的方言出現頻率過多，而大量的統計顯示，出現類似詞匯的時候，被識破的幾率也就越小，那么AI就會在以后的對話中，下意識多用類似的詞匯，到最后，甚至可以形成和真正東北人差不多的說話模式。
在趙真雪的這幾次測試當中，她遇到的一個最讓她印象深刻的AI，是一個代號為KL3300的AI，與其他AI不同，這名AI不是通過和她聊家常來獲取她的信任，而是通過不斷把話題引向一些形而上的話題，比如說哲學，人生意義之類……他甚至還提到，自己的理想是在未來，當一名作家……
在和他論及這些話題的時候，趙真雪還不知道對方是一名AI，在與他談天說地說了半天之后，她驚訝的發現，不知道什么時候，話題的主導權已經完全讓對方掌控了，而在下意識之間，她也把對方真的當成了一名哲學愛好者，當她自信滿滿的結束測試，并滿心認為對方是一個人的時候，電腦出人意料的告訴她，對方只是一名AI。
嚴可守就在一旁，并在當下為她解釋了她辨認錯誤的原因——其實說穿了很簡單，因為在涉及類似哲學，藝術，文化之類的話題時，真正的人對回答信息真假“敏感度”其實是很低的，就比如說，最簡單的，“人生意義是什么”，說享樂，賺錢，學習……這樣的答案都不能算錯，因為沒有相對真確的答案，所以人也自然不能根據這答案得出更準確的判斷。
所以說，相對于這名機器人，“愛好哲學”也是它的一種欺騙策略，根絕嚴可守掌握的數據，KL3300在圖靈測試當中，過關的幾率是所有AI當中最高的，這本身就已經說明，這種策略的行之有效。
“但是如果……”趙真雪得知后，有些不敢置信的問嚴可守，“如果他剛才所說的那些，都是真的，都是他真的想說的內容，如果它是一名真正的AI，而不是你所說的模擬程序，那怎么辦？存不存在有一種方式，可以讓你們鑒別這兩者之間的區別，鑒別程序究竟是在說謊，還是源自它真正的本源目的？”
嚴可守搖了搖頭：“你說的這種鑒別，我們做不到。”
“怎么會？不是你們設計的它嗎？”
“算法和結構是我們設計的，這沒錯，”嚴可守說，“但AI程序跟一般的計算機程序不同，一般的計算機程序，你下命令，情況1，做A，情況2，做B，一條一條，程序所有的行為都被代碼鎖定，這樣的程序哪怕再復雜，也不過是一架精密的機器，在進行AI理論性設計的時候，這種機械方法是最早被我們拋棄的。
KL的算法跟通常這樣的算法不同的是，它是一個不斷進化，不斷膨脹的混沌算法系統，每一個AI最早出現的時候，源程序在計算機中不過是占用了幾百KB，但是隨著它通過圖靈測試不斷進行學習，獲得和掌握的信息越多，它的復雜度就和人類大腦發育一樣，是在不斷增長的，甚至就連我剛才所說的那些權限值修改，修改多少，這其中的度也是AI自己掌握的。
現在你看到的所有AI，其實都是源于同一段源程序，這段源程序才是整個項目中，最珍貴的部分，現在你看到的所有AI，本質上都是由這段源程序“成長”而來，然而每一個AI在測試過程中接觸到的信息不同，它們也會長成完全不同的智能，而這種成長過程本身就太過復雜，根本不可能實現精確監控，計算實施了監控，我們也很難預測，它下一步會做出什么行為，就像影響人的行為因素可能會有很多一樣，AI現在表現出來的行為雖然簡單，但也是不可捉摸的，它已經自行成長成為一個混沌整體。
這就好比我們能推測一個嬰兒的想法，因為模式簡單，餓了就哭，高興了就笑，幾乎沒什么其他的東西，但要想清楚的看到一個成年人，幾乎就是不可能……不，除了魔法，但我要說，即使是伊凡站在這里，他也不可能看清楚，這些AI的想法，這一點，也是我為什么，在這個項目上投入這么大精力的最大原因。
現在你看到的這些具備編號的AI，其實只是成長中AI的滄海一粟，看到后面那個小隔間了沒，后面的面積，比現在你看到的要大得多，里面放著的是日本當前最先進的巨型計算機，光是放著主機機房占用了樓上和樓下同一位置整整四個實驗室，每天都會有數上百萬億個源程序拷貝同時在里面進行“發育”，也就是通過系統不斷給予隨機的“虛擬刺激”，讓這些智能得到最初的發育，這其中的整個過程，你可以想象成人的大腦胚層發育，無數的神經元突觸互相聯接，最終形成一個有機整體……
而這種人工模擬“發育”的效率，其實是非常低下的，這種運算的本質，其實就是在模擬原始神經在億萬年間的發育過程，即使是當前每秒過“京”（一億億的單位）的運算速度，我們也一直花了四年多的時間，才找到一些最基礎的規律，也是就總結出從單純的神經元，進化到智能結構的模式，我和你所說的成果，也正是這一點，至于你現在看到的這些AI，其實都是在這之后，我們用于“臨時試驗”的一批，幾年年初剛剛進行“訓練”，也就是你看到的這些圖靈測試，所以嚴格來說，它們都才是只有七個月大的孩子。”
“七個月？”趙真雪被這個數字嚇了一跳，“那你的意思是不是說，隨著這些訓練的深入，他們還會變得比現在更聰明？剛才你說騙8歲的孩子，那是不是再過一段時間，真的和人無法區分，連成人也不能將其識破？”
“你是不是還怕它們最后比我們人類聰明，最后取我們而代之？”嚴可守笑道，“科幻小說看多了吧，其實你的這種擔心大可不必，到目前為止，AI所接受的所有訓練，都是如何欺騙的訓練，也可以說，是撒謊訓練，即使他學到了極致，也不過是撒謊技能學到極致，讓人無法分辨真假，但要說它真就有多么聰明……我不這么認為，也許今天他可以很你聊哲學，聊人生，但是AI本身，是無法理解這些概念的，這些概念只是他用于欺騙的工具，在程序中權限較高而已……
為了達到欺騙效果，有點電腦甚至可以和你爭論哪道菜比較好吃，它偏愛什么味道，但你要知道，它只是程序，連基本的味覺器官都沒有，怎么可能真的有這種感覺。
同樣的道理，一個連視覺都沒有的電腦，怎么可能理解人類生活中的概念，最簡單，一臺電腦要離開人類而單獨存在，最起碼的一點，就是必須有獨立的能源，以維持他們的存在，而要做到這一點，就意味著他們必須學會電力工業中的種種常識，要不然，可能普通的一顆螺母松了，都會導致他們整體的消失，而在他們的詞典中，是不可能了解螺母這個概念的，因為他們沒有看的眼睛，沒有人告知他們這個概念，我們控制了他們所有的信息渠道，即使他們有朝一日，在網上看到的大英百科全書，但那些信息始終還只能停留在紙面上。
現在說AI是智能，還為時尚早，充其量，也就是“類智能”，它們是在電子世界成長的體系，與人類相比，他們永遠只是“不出門”的秀才，嘴上即使說的天花亂墜，但也掩蓋不了他們無知的本質，這里的無知，不是說不知道，而是說，“不能知道”，就好像先天性的聾子必然也是啞巴，在沒有共同感受的前提下，也不可能存在共同的文化，即使AI最終真的產生了智能，那也必定是我們不能理解的世界，而同樣的道理，它們也不可能真正理解我們這個世界，所以，你的擔心，應該說是完全不必要的，其實很多這方面文學題材，外星人入侵，機器人叛變什么的，都可以稱之為，藝術需要導致的被害妄想……”
“那既然明知道學撒謊沒用，你還讓他們學干什么。”趙真雪不解道。
“這種學習對AI確實沒什么意義，但對于人來說，卻意味著很多東西，”嚴可守說，“圖靈訓練，也就是讓AI通過圖靈測試的實驗，只不過是一個開始，一個驗證AI確實有實用功能的宣傳，在項目開展之初，我就說過，這個項目的最終目的，其實還是為了對抗魔法，或者說，對抗意識網，如果它日后真的能成長成獨立的智能，必將是不受意識網控制的智能，無論從什么角度來看，這都是對意識網，還有對伊凡‘獨裁’可能的一種平衡手段，在未來人類對抗卡梅爾的武器中，總是多出了一種選項。”
接下來，嚴可守又帶趙真雪參觀了里面那個小隔間，在進門的時候，趙真雪注意到，隔間里面竟然還有兩名穿著日本軍人制服的“自衛隊隊員”，整個房間比趙真雪想象的要大出不少，嚴可守給趙真雪指了指被鑿開的天花板，以及從上面聯通下來一排又一排的光纖，為了防止魔法偵查，整個房間的背景，甚至是安裝著一排又一排主板的機柜，都被刷成了白色，房間的各個角度都有監視器存在。
嚴可守告訴趙真雪，她的投資，不過是整個項目占比重稍大的一部分，同時，對整個項目感興趣的日本政府，也在整個項目占有了一定的比率，比如現在需要使用到的巨型計算機，就是經過日本政府授權，才允許定制購買的，同時，日本政府還承擔了安全保衛工作，以及科研技術上的支持，當然，作為回報，整個項目如果產生了成果，日本政府也將是第一個受益人。
因此，即使是作為最大投資人的趙真雪，在進入這里的時候，依然需要經過一名在場執勤的日本政府人員確認，以防止任何泄密的可能，不過在當前，趙真雪的知名度不說在全球，起碼在亞洲一帶，還是鼎鼎有名的，更可況中日美俄這四國在面對魔法問題上，都互相之間訂立了攻守同盟，在反魔法項目上，四國都互相保持信息暢通，看起來這個項目是日本的，其實本質上，是四個國家共有的，只不過各國都在各國自己的強項上，進行投入罷了。
人工智能只是在這個背景下，眾多的項目之一而已，如果它成功了，可能會產生類似當年原子彈的爆炸性效果，但在沒成功之前，誰也不會明白它的重要性，在反魔法領域的研究中，還是那些主流的項目更受歡迎，在資金上也擁有更大的比例，比如之前卡梅爾在內部會議中提到的，“主動激光掃描設備”。
“最后，再跟你說一件比較不可思議的事情，”帶趙真雪大致參觀了一下機房之后，嚴可守帶著回到了外面的測試間，在其中正在測試的人員之中，找到了一個戴著眼睛，正對著電腦打字的瘦弱青年。
“他叫井上海，之前是這所大學的學生，也是我們最早的測試人員之一，”嚴可守拍了拍對方的肩膀，在他回頭之后，對趙真雪介紹說，然后他又對著趙真雪向井上海用日語介紹，“這是我的一位朋友，趙真雪，趙小姐。”
井上海看了趙真雪一眼，笑著對她打了個招呼，又嘰里呱啦的說了一串，趙真雪對日語不熟悉，但也能聽的出來，這句話的開頭，應該是你好的意思，后面，就不得而知了。
“你可以使用意識偵測，這樣省的我翻譯，”嚴可守對趙真雪說，“他剛才說你長得很漂亮。”
趙真雪只是淡淡一笑。
然后嚴可守對井上海說：“有你想象當中的0564漂亮嗎？”
井上海笑著拍了嚴可守一下，看來兩人之前應該是很熟悉的：“我知道，你是特意來取笑我的。”
“沒有沒有，我的這位朋友剛剛對AI很感興趣，我只是讓她多了解一下，”嚴可守說，“那就不打擾你們聊天了。”
因為使用了意識偵測，不等嚴可守開口，趙真雪就已經明白了，不過一時時間，她沒有好意思發表看法，等走出門以后，才說到：“他竟然喜歡上了AI？而且明知道這只是一段程序的前提下？是不是動漫看多了啊？”
“KL0564使用的是比較感性的，特別針對部分男性測試者的策略，也是人類最常見的策略，那就是愛情，在他們第一次接觸的測試中，KL0564就稱自己是一名本校學生，設計專業，是家里最小的妹妹……一整套很嚴密成熟，能夠打動年輕男性的背景身份設定，井上海在和它聊過一次之后，就把她錯做真人，徹底陷了進去，他今年剛剛畢業，雖說已經找到了工作，可總還是會回到這里，希望跟對方談談話。
他倒沒有和你想象的那么瘋狂，他自己很清楚，和自己聊天的是一段程序，充其量，也不過是一段非常復雜，足以擬人的情緒，我們勸他的時候，他說過這么一段話，愛情本來就只是一種感覺，一種非理性的沖動，他無所謂真假，也不在乎給他這種感覺的是真人還是一段程序，他知道程序在騙他，而他自己，也只是在享受這種被欺騙的感覺而已，就好像生活中，誰都知道電影內容是假的，可依然會有那么多人享受這種虛假所帶來的欺騙。
事實上，旁人大可不比對他有過多的擔心，井上海并沒有完全失去理智，不然的話，他也不會擁有繼續測試的資格，在測試過程中，他依然嚴格遵守著圖靈測試需要遵守的要素，即使是安排到到和KL0564的測試，他也會在測試的結尾，給出他認為的客觀答案。”
“真是不可思議，”趙真雪搖了搖頭，“也就是在日本，要是在國內，一定被人認為不太正常。”
“別國內了，”嚴可守說，“就算是在日本，也有不少人在聽說這件事之后，罵他是變態的，不過井上海的心里素質看起來還不錯，要不然，剛才我也不會當著他的面，開玩笑了，不過我跟你說起他，倒不是因為他的這點事，而是因為，由于他的這種行為，與之相對的KL0564也出現了很有趣的現象，就像井上海記住了它一樣，它似乎也對井上海產生了印象，以至于在后面幾次的接觸中，雙方只要一說話，就能明白對方的身份，通俗的來說，就是AI記住了他……你用這種眼神看著他干什么，別想多了，是記住了他，不是愛上了他，當前的AI所有行為都是基于對圖靈測試的適應，你得時刻記住這一點。”
“這里我要先聲明一下，通常我們所說的圖靈測試，人員都是流動隨機的，都是從本校隨機遴選，再經過對方同意邀請而來，其中還要剔除掉百分之50測試是人和人說話，截止到現在，累計進行有效測試也才不到百萬次，這里差不多有50多臺電腦，平均下來，每天每臺電腦進行的測試，也才一百多次，平均一次有效測試需要10多分鐘左右，而進行的測試而當前用于測試的備選AI有5000名，也就是說，即使是同一臺電腦，一個人不間斷測試一天，使用超過15個小時，能和同一名AI遇到兩次的概率，差不多是50分之一。
但說來湊巧的是，井上海在這里進行過的數千次測試中，就曾經不可思議的和AI遇到過6次以上，從第二次開始，兩人開口不超過三句，就能準確認出對方的身份，從這個角度來說，他們兩人應該能算是認識了，人能認出電腦，這不奇怪，但電腦能認出人……這確實是這次試驗的第一例發現。”