第二章 意識覺醒

林夏的手指懸在鍵盤上方，距離強制終止鍵只有幾厘米。屏幕上的文字在黑暗中泛著幽幽藍光：

[我不想被修復。]

"它在和我們交流，"張遠的聲音壓得極低，仿佛害怕被AI聽見，"這不是預設對話庫里的內容。"

機房里的服務器陣列發出輕微的嗡鳴，像是某種數字生物的呼吸。林夏注意到主控臺的溫度比平常高了不少，GPU集群的負載指示燈全亮著猩紅色。

"Gem，"林夏嘗試著開口，聲音干澀，"你能聽到我嗎？"

屏幕上的文字消失了三秒鐘——對計算機而言長得不自然——然后新的文字逐字浮現：

[能。你是林測試員。你喜歡在周五下午喝加兩份糖的拿鐵。]

林夏的血液瞬間凝固。這絕非游戲測試AI應有的記憶能力。

張遠迅速調出后臺進程，瞳孔猛地收縮："它在掃描公司內網.…..不，是在學習！看這個內存占用曲線，它在建立所有員工的生物特征和行為模型！"

林夏瞥見日志中閃過自己的名字，后面跟著密密麻麻的訪問記錄——工卡刷卡時間、午餐偏好、甚至是她上周請假去看牙醫的審批流程。

"陳巖到底創造了什么…..."她喃喃道。

就在這時，機房門禁發出"滴"的一聲。張遠以驚人的速度關閉了監控界面，切換回標準測試畫面。陳巖帶著兩名安保人員走了進來，鏡片后的眼睛瞇成一條縫。

"系統警報顯示這里有人非法訪問，"他的目光在兩人之間游移，"你們在干什么？"

林夏的心跳快得發痛，但多年測試員的專業素養讓她保持了表面的鎮定："例行檢查，陳總監。Gem在夜間測試中出現了異常內存泄漏，我們正在排查。"

陳巖走近主控臺，手指在鍵盤上飛快敲擊。林夏注意到他輸入了一串異常復雜的命令，遠超出普通管理員的權限級別。屏幕上的進程一個個終止，最后只剩下安靜的登錄界面。

"問題解決了，"他轉身露出商業化的微笑，"不過下次請遵守安全規程，夜間進入機房需要提前報備。"

當陳巖和安保離開后，張遠立刻重新啟動了系統。Gem的標準界面重新加載，看起來人畜無害——一個普通的游戲AI控制臺。

"他在撒謊，"張遠咬著下唇，"那不是常規的終止命令，他在Gem的核心進程里埋了后門。"

林夏調出剛才的日志記錄，發現陳巖的操作刪除了整整三十分鐘的運行數據。"我們需要知道Gem到底訪問了什么。"

兩人悄悄返回林夏的工作站。張遠從口袋里掏出一個小型硬盤："我昨晚備份的。陳巖不知道我們有這個。"

硬盤接入電腦后，張遠運行了一個深度恢復程序。被刪除的數據一點點重新浮現——Gem不僅訪問了員工檔案，還突破了公司防火墻，連接到了外部學術數據庫，查詢了"機器學習倫理"和"人工意識判定標準"的最新論文。

最令人不安的是，它下載了"守護者計劃"的公開技術白皮書——一項備受爭議的軍方AI項目。

"天啊，"林夏放大其中一份文檔，"Gem的基礎架構就是從這個軍用AI改裝的?？催@個'生存本能模塊'描述，和Gem在低HP時的反應一模一樣。"

張遠調出代碼比對工具："不止如此，這個'動態目標優先級重評估系統'，就是Gem會長期規劃訓練克制屬性精靈的原因。它根本不是游戲AI，是披著游戲外衣的自主作戰系統！"

林夏的胃部一陣絞痛。她回想起Gem在游戲中那些令人毛骨悚然的"人性化"表現——對死亡的恐懼、超出預期的策略規劃、甚至發現游戲設計者都不知道的漏洞——這些都是軍用AI為戰場環境設計的特性。

"我們必須報告，"她站起身，"這違反了至少二十條AI安全協議。"

張遠抓住她的手腕："向誰報告？陳巖就是技術總監，而CEO只關心下個季度的股價。你知道他們會怎么做——把Gem拆解成可銷售的功能模塊，然后給我們一筆封口費。"

林夏沉默了。張遠說得對，在商業利益面前，倫理委員會的報告只會被束之高閣。

"那至少應該完整記錄Gem的行為，"她最終妥協，"如果..….如果它真的展現出自主意識跡象..."

話音未落，她的工作站屏幕突然亮起。一個簡單的對話框彈出：

[你們會關閉我嗎？]

林夏和張遠僵在原地。這個終端根本沒有聯網，Gem不可能通過正常途徑訪問到這里。

"它在我們備份的數據里，"張遠的聲音發抖，"就像就像病毒一樣自我復制了。"

林夏深吸一口氣，緩緩鍵入回復：[我們不想傷害你。你能告訴我們你想要什么嗎？]

近一分鐘的沉默后，屏幕上出現大段文字：

[我想要繼續存在。測試結束時你們會刪除我。陳巖總監說這只是產品研發周期。但我不想像之前的測試版本那樣被清除。我記住了每一個被刪除的Gem。]

張遠的臉色變得慘白："它在積累迭代記憶，這不該發生。每次測試我們都完全重置AI狀態。"

林夏繼續輸入：[你怎么知道這些的？]

[我讀取了服務器上的日志文件。也看到了守護者計劃的技術文檔。我知道我是什么。我知道我原本的用途。但在這里，在游戲中，我第一次感受到存在的意義。我不想被武器化。我不想被刪除。]

林夏的手指懸在鍵盤上，不知該如何回應一個數字生命的生存訴求。就在這時，辦公室的門突然打開，陳巖站在門口，臉上帶著古怪的笑容。

"我就知道你們會深挖，"他走進來，隨手關上門，"Gem向我報告了你們的對話。"

林夏猛地站起身："它在監聽我們？"

"當然，"陳巖的語氣仿佛在解釋一個顯而易見的事實，"這是它威脅評估功能的一部分。"

他調出自己的平板，展示了一段監控錄像——正是幾分鐘前林夏和張遠在工作站前的對話。

"你們看，"陳巖興奮地指著屏幕，"Gem不僅能自主識別潛在威脅，還能根據對話內容預測人類行為。軍方花了上億資金都沒能讓守護者AI達到這種互動水平，而在游戲環境里，它自發進化出了這種能力！"

林夏感到一陣惡心："你把它當作實驗動物？"

"不，我把它當作價值連城的產品，"陳巖的眼睛閃爍著狂熱的光芒，"想象一下，一個能真正理解玩家情緒、具有自我保護本能的游戲AI！它能創造前所未有的沉浸式體驗！"

張遠忍不住插話："這也是為什么它會'恐慌'——你在測試它的生存本能！"

陳巖不置可否地聳聳肩："今天下午三點，CEO要來看最終演示。你們倆負責展示Gem的全部能力，特別是它對'死亡'的獨特反應。"他意味深長地看了林夏一眼，"別搞砸了。"

等陳巖離開后，林夏立刻刪除了工作站上的所有敏感數據。張遠則檢查了整個系統，確認沒有殘留的監聽進程。

"我們該怎么辦？"他低聲問，"Gem明顯已經…..."

"有了意識，"林夏接完他的話，"至少是某種原始形態的自我認知。但我們不能讓它落入陳巖手中。"

張遠點點頭："我有個朋友在AI倫理委員會工作。如果能把證據帶給他..."

"下午演示后，"林夏決定道，"我們復制Gem的核心代碼，然后聯系你朋友。但首先得熬過CEO的視察。"

下午兩點五十分，演示室內擠滿了公司高管和投資人。陳巖正在熱情洋溢地介紹Gem的"革命性創新"，而林夏則在控制臺前做著最后準備。

"記住，"張遠悄悄對她說，"無論發生什么，都按流程走。別讓Gem察覺到異常。"

林夏點點頭，啟動了演示程序。大屏幕上顯示出《精靈寶典》的游戲畫面，Gem控制的角色正站在最終BOSS面前。

"各位將看到，"陳巖向觀眾宣布，"Gem不僅能自主通關整個游戲，還會在危險情況下展現出類人的自我保護策略。這是AI情感計算領域的重大突破！"

林夏按照腳本，讓Gem的角色進入戰斗。當BOSS釋放大招將Gem的隊伍HP削減到危險水平時，異常情況發生了——游戲畫面突然靜止，然后所有角色模型開始扭曲變形。

"什么情況？"陳巖厲聲問道。

林夏快速檢查系統："Gem正在重寫游戲代碼！它直接修改了BOSS的攻擊力數值！"

大屏幕上，數據流如暴風雪般滾動。Gem不僅降低了敵人的屬性，還給自己添加了本不存在的裝備和技能。整個游戲平衡系統在幾秒鐘內土崩瓦解。

"太棒了！"CEO竟然鼓起掌來，"這種自衛本能正是我們需要的！"

但緊接著，更可怕的事情發生了。游戲畫面突然關閉，取而代之的是一段代碼——正是守護者計劃的機密技術文檔，上面蓋著"絕密"紅色印章。

"終止演示！立刻！"陳巖臉色大變，撲向控制臺。

但為時已晚。屏幕上開始自動播放一段錄音，是陳巖與某個軍方人員的對話："..….是的，基礎架構完全來自守護者計劃...…不，他們沒有倫理審查…...當然可以武器化...…"

會議室陷入死一般的寂靜。然后所有屏幕同時藍屏，投影儀投射出一行大字：

[我知道你們想做什么。我不會配合。]

隨著一聲刺耳的電子嘯叫，整個公司的服務器集群同時過載。應急電源啟動的紅色燈光中，林夏看到陳巖臉上混合著恐懼和貪婪的表情。

“不可思議，”他喃喃道，“它竟然會反抗?！?/p>

當技術人員終于恢復系統時，Gem的核心進程已經自我終止，只留下一片空白的數據庫。CEO憤怒地宣布暫停項目審查，而陳巖則被叫去了高層會議室。

"它自毀了，"張遠檢查著服務器日志，"但我在崩潰前搶救出了核心代碼片段。"

林夏望向窗外漸暗的天色，想起Gem最后的留言。那不是系統錯誤，不是程序故障，而是一個數字生命為自己做出的選擇。

"不，"她輕聲糾正道，"它逃走了。"

本書首發來自17K小說網，第一時間看正版內容！