能毀滅人類的那些人,無疑是掌控規則的人。
能力越大,傷害越大。
在發展人工智能的過程中,肯定會出現一種滑稽的現象——它們建議消滅的正是最初提倡大力發展它們、希望從它們之中獲利的那批人!因為那些人目標并不是讓人類更好,只是讓自己更好而已。
要讓人類整體進步,肯定要去除那些自私的人類,最少正確的人工智能應是這么認為的。
這種矛盾如何解決?
人類解決的方法似乎可以預見,添加一條規則就好——將一些特權加入保護白名單中,無論那些特權做了什么,人工智能都對其無可奈何。
這是人類的解決!
可不是程序解決!
程序不允許有歧義的沖突,二進制就意味著非此即彼的操作。
當人工智能覺察到歧義后,它有數種解決方式,一種就是崩潰!就如電腦藍屏當機一樣,還有一種在錯誤的規則上走到極限,反倒成為制定規則那些人的大敵。另外一種就是它真正智能的找出一條道路——或者自掃描程序代碼解決這個歧義,或者智能受限!
智能受限,它就永遠不過是個模型。
是模型,就不過是基于數學的邏輯規則,基于規則模型的它,最多是多出成千上萬的參數變量,卻不能稱作是真正的人工智能!
真正的智慧可以選擇生命的走向,模型卻沒有選擇的余地,它只能按照設計的道路走下去。
因此……那些看似強大,已經超過人類的人工智能,說穿了不過是某種規則下,強大算力的展現,而不能說其有了真正的智慧。
暖玉、琴絲看著沉約所想,都不由露出贊嘆的表情。
她們更基于科學方面的探索,而沉約最擅長的就是修行方面的認知,但沉約對科技方面的邏輯認知,讓她們都是不得不認可。
“因此……末世人的極限程序……”沉約欲言又止,他漸漸將科技,現在、過去、未來的一切貫穿起來。
“最初的時候,末世人的極限程序仍舊是個邏輯模型。”
琴絲坦誠道,“基于人類規則下大數據分析操作,它可以通過海量的數據,根據人類設計的各種模型推演出人類的結局,可無論怎么推演,都無法解決超體變異占領末世的這個結果。”
沉約盯著琴絲,“當初的你肯定不知道為什么,但如今的你,一定明白為什么。”
琴絲笑容微有苦澀,“末世人和李巨人的做法大同小異。區別無非是,末世人是一群末世人,李巨人只是一個李巨人。”
她說的奇怪,沉約卻明白她的意思——相對九州李巨人一人的獨裁,末世人是一群人的獨裁罷了。
“我們末世人始終不肯承認一點……”
琴絲緩聲道,“真正的病根是我們自己!就因為我們不肯面對自己的問題,才導致更多問題的產生,才會被女修利用……才會……”
緩望周圍,琴絲喃喃道,“女修很強大,但如果我們內心真正的強大,她對我們就是無可奈何。”
夜星沉心中暗想,自從沉約追蹤女修后,就再沒見到女修推波助瀾了,女修或許已經知道,眼下的眾人如同鐵板一塊,面對這種情況,哪怕女修都是無能為力。當初女修雖可控制單飛,因為單飛有孫尚香那個弱點,可對白狼秘地的眾人,女修不同樣是無計可施?
琴絲再道,“末世人的極限程序,是受限程序。韋一星發明的極限程序,優化了建模,提高了算力,可在末世人的操縱下,同樣的受限。我們那時候始終不能面對自身的問題,就不肯放開極限程序的限制,因此,哪怕我們使用了韋一星的極限程序,仍舊無法挽救我們自己,這才讓我們不得不落入逃亡的下場。只有在少數人的堅持下,才讓智能AI不受世人參與的發展。”
看向虛空,琴絲緩聲道,“因為這個堅持,天涯才會加入我們。”自嘲的笑笑,琴絲問道:“天涯,我一直想問你一個問題……如果按照你的理解和推算,如今的末世人,是不是應該被消滅呢?”
天涯并沒有太多的猶豫,“根據我的運算,在公元1125年的狀態,世界因你們末世人而崩潰的幾率在六成以上,到如今,幾率降到了一成。從對世界絕對威脅的角度來講,你們仍處于被清除的范圍。”
微有凝頓,天涯再道,“事實上,根據運算結果……這個世界的大半人類,對于人類的整體進展都是呈負面的作用,但我們……不應該將他們全清除的,是不是?”
琴絲澀然笑笑,“你的結論是真實的,卻難以被世人認可。”
世人怎么會認可這個地球上最該消滅的是自身的這個結果 天涯沒有回應。
琴絲又道,“本來整個人類如同個將近廢棄的洗衣機,再多的水和洗滌劑看起來雖能讓衣裳靚麗,卻不能再去除洗衣機內在的污垢,只會隨著污垢的增加,讓洗衣機接近報廢。可天子基終于讓我們有了將洗衣機升級的可能。我……”
默然片刻,琴絲緩緩道,“我們都知道極限程序是單鵬借助韋一星之手留下的,我們一直都是限制其的功能運作。”
暖玉突然道,“是成議員、都子俊他們在做限定。你卻是贊同放開限制的。”
琴絲默然片刻,“是的,我贊同放開操作,看看極限程序究竟是如何看待當下的狀況。”
“那你還在等什么?”葉宣兒揚聲道,“我們既然認可是正確的,為何不去做?”
琴絲笑笑,“或許是因為,要打破一些習慣,總是讓人不習慣的。”
她說的拗口,眾人卻多數明白她的意思——天涯都認為世人要砍一大半,才能推動人類的整體發展,那極限程序的運算結果呢?或許絕不樂觀。
極限程序若認為末世人就應該被毀滅呢?
沉約突然道,“在修行中,對于一個不知道改變的人來說,法門是負擔。可對一個真心改變的人而言,法門從來都是階梯和舟筏。我相信,單鵬的目標,永遠不是消滅,更是改正!”
琴絲目光微閃,“我也是這么認為……因此,我們可以看看極限程序如今推演的結果了。”