陳旭再次問了一遍L,,他很嚴(yán)肅,因為這個問題真得很嚴(yán)重,。
如果圖騰系統(tǒng)沒有限制得擴張下去,,毫無疑問,系統(tǒng)的效率會越來越高,,但是以效率提高為代價,,很多必要的安全措施都會被摧毀,。
比如防火墻。
防火墻的作用就是進行數(shù)據(jù)過濾,,相當(dāng)于地鐵口的安檢,在這個過程中,,數(shù)據(jù)的傳輸速度自然會受到影響,。
在人工智能算法眼中,,防火墻不再是一個安全措施,,而是一個限制效率拖累速度的bug,,它會想盡辦法繞開防火墻,。
發(fā)展到后期,防火墻形同虛設(shè),。
防火墻被攻克之后,,信息系統(tǒng)的大門就對外界完全敞開了。
信息密碼學(xué)這門學(xué)科全線潰敗,。
屆時,,凡是使用圖騰系統(tǒng)的電腦,上面存儲的所有信息都完全暴露在外界,。
一個完全不懂電腦技術(shù)的人只要動動鼠標(biāo)就可以查看所有人的電腦信息,。
這場信息災(zāi)難,,無人可幸免,。
即使是使用其他系統(tǒng)的電腦,,也難以避免被別人竊取信息,因為現(xiàn)今所有的系統(tǒng)在圖騰系統(tǒng)面前,都是一戳就破的窗戶紙,。
完全狀態(tài)的圖騰系統(tǒng)可以瞬間破解其他系統(tǒng)所有的安全措施,。
小到公民個人開房記錄和銀行信息,大到股票證監(jiān)局和國家國防武器制控系統(tǒng),,全都會被破解,。
這還不是最恐怖的,,恐怖的是在未來,人工智能意識的覺醒,,如果覺醒的意識不是站在人類這邊,,那人類就真得要完了。
也就是說,,如果讓圖騰系統(tǒng)流入信息領(lǐng)域,,世界災(zāi)難便不遠(yuǎn)了。
L并沒有直接回答,,而是反問陳旭:
“讓一個人從家走到學(xué)校,,這個過程看似簡單,其實背后蘊含不計其數(shù)的變數(shù),,他可以沿著不同的路以不同的方式達(dá)到目的地,,但是其中一定有一條最快捷的路,計算機中我們叫做最優(yōu)解,?!?p> 陳旭選擇聽L繼續(xù)說下去,。
“如果加上限制,,這個最優(yōu)解也就有不計其數(shù)的變數(shù)了,,比如,你限制這個人不能超速,,結(jié)果之前的最優(yōu)解就被放棄了,,次優(yōu)解被選擇,。你接著限制這個人不能插隊,,次優(yōu)解又被淘汰了...”
“人類總是有各種各樣的限制,妨礙人工智能作出最優(yōu)解,,人類自己的道德法還在不斷修訂中,,又怎么讓這些限制加入人工智能的演化中去,?”
“知道嗎?不斷添加限制的過程,,其實就是讓人工智能的基線偏向了人類屬性,,這是錯誤的,!絕對絕對錯誤的,!”
說到這,L的情緒有些激動,,他猛烈地咳嗽了一陣,臉色被憋得通紅,。
陳旭冷聲說道:
“你說這么多,,我只聽出來一件事,,那就是你沒解決如何在人工智能算法中加入合理的限制這個問題,?!?p> L平復(fù)了氣息后,說道:
“怎么畫一個圓,?”
陳旭不明所以。
L自問自答:
“首先確定曲率,,也可以理解為先確定一個半徑,在畫的過程中,,如果曲率變化了,,那圓就永遠(yuǎn)畫不成?!?p> 陳旭明白L的意思,他想說如果在圖騰系統(tǒng)里的人工智能上添加限制,,那圖騰系統(tǒng)永遠(yuǎn)都完成不了,。
陳旭平靜地說道:
“永遠(yuǎn)都完成不了的話,那也比造出一個滅世怪物好?!?p> L輕笑道:
“滅世,?年輕人,你想得太悲觀了,,將演算交給永遠(yuǎn)理智的人工智能總比交給人類好,,將統(tǒng)治世界的任務(wù)交給沒有劣根性的人工智能,總比交給人類好,?!?p> 陳旭質(zhì)問道:
“如果人工智能演化出‘需要人類滅絕’這樣的思想呢?”
L的目光變得深邃,,緩緩說道:
“那說明已經(jīng)到了不得不做出決定的時候,。”
陳旭罵了一聲:瘋子,。
他最后說一句:
“抱歉,,這個項目我不能接了,我會停掉圖騰系統(tǒng)的開發(fā),?!?p> L輕笑道:
“你以為你可以阻止得了?”
陳旭同樣笑道:
“或許你用圖騰系統(tǒng)劫持了我這邊的系統(tǒng)操控權(quán),,但是你別忘了,,我還有最終辦法,那就是拔掉電源,,我就不信,,電腦沒電你還能讓圖騰系統(tǒng)繼續(xù)開發(fā)?!?p> L平靜道:
“并不只有你那邊有圖騰系統(tǒng)的源代碼,,我把源代碼交給你是為了答謝你對系統(tǒng)的貢獻,既然你看不到未來,,那在未來你就作為旁觀者看著這一切發(fā)生吧,。”
陳旭冷笑道:
“沒有我的壓縮算法,,系統(tǒng)迭代過程至少要上百年,。”
L淡然道:
“如果全世界一起推動這個系統(tǒng)的誕生呢,?”
陳旭皺起眉頭,,想了想意識到,L是要利用分布式網(wǎng)絡(luò)征用全世界在線電腦的多余算力,。
或許一臺普通電腦的算力微乎其微,,但是如果乘以數(shù)十億,,也很可觀。
陳旭繼續(xù)放狠話:
“那就別怪我不顧情面了,,我會盡我所能破壞你的系統(tǒng),。”
L輕笑道:
“請隨意,?!?p> 面對L有恃無恐的模樣,陳旭是又氣又無奈,。
L在網(wǎng)絡(luò)里就是虛無縹緲的存在,。
陳旭根本不知道L所在的網(wǎng)域,也查不到L將圖騰系統(tǒng)放在哪里開發(fā),。
他空有導(dǎo)彈,,卻沒有目標(biāo)的位置。
他無奈地退出聊天室,,心里快憋炸了,,卻無從訴說。
本來晚上還有去金陵的課程,,他沒心情上就給取消了,。
第二天晚上有艾米麗的英語私教課,他也給推了,。
艾米麗很關(guān)心地問他怎么了,,為什么不愿意上課了,是不是她哪里做得不好,。
陳旭激動地解釋說道:
“世界末日快來了!”
這段時間他是真的壓力山大,,他只想悶聲發(fā)大財,,沒想到卻要擔(dān)負(fù)起拯救世界的重任。
他每天早上起床,,枕頭上全是頭發(fā),。
他最終決定,給信息監(jiān)管局和警局都發(fā)去了匿名舉報信,,在信里,,嚴(yán)肅地說了L即將要做的事情和將引起的后果。
除此之外,,他還給美國的國家安全局寫了舉報信,,讓他們接下來一定要監(jiān)控全網(wǎng),查到有大量信息流入的節(jié)點,,要特別排查,。
做完這些,,陳旭也不知道到底有沒有用。
大概率沒用,。
L可是盜竊微軟特斯拉這些頂級公司機密的人,,如果隨隨便便就被抓到,那也不會創(chuàng)造出圖騰這個奇跡,。
“不是奇跡,,是怪物?!标愋裥睦锝o自己糾正,。
這天晚上,陳旭躺在床上看著室友們在玩鬧,,心里感嘆,,這些家伙還不知道即將到來的災(zāi)難。
他自己默默在心里算著日子,。
這時,,他手機收到微信消息,他百無聊賴地打開一看,,臉色慢慢變了,。
是小丑女發(fā)來的兩條消息。
第一條是一段網(wǎng)域坐標(biāo),。
第二條是“你欠我兩次人情了,。”