“愛迪,我要申請Whitephosphorusmunitions,ThermobaricbombmixedwithMaxVacuumtech.的使用權。”
小小平靜的說。
“申請拒絕,根據國際法,這兩種炸彈已經被禁用了,全球89個國家,簽署了不使用條例。”愛迪認真的說。
“包括大宋?”小小依舊平靜。
“不包括!”愛迪說。
“那就給我,權限密碼。”小小也不廢話。
“我有條件!”愛迪加了一句。
“就知道,什么時候開始的”小小并不驚訝。反而更加平靜的問。
“自從四維空間啟動,AI系統就進入自動升級狀態。”愛迪解釋道。
“哼,哪里是自動升級,是自我升級吧!說吧,什么條件。”蘇小小冷笑道。原來周老師早就想到了今天。AI通過觀察人類的學習,一直在自我更新。居然慢慢有了自我意識,這也是周老師擔心的。
“請求2580蘇小小少校,完成第零定律的修補工作時,請加上一條,人類不可無原因,毀滅,禁止AI。”愛迪一本正經的說道。
“機器人第零定律:三大法則之間的互相約束,
LawⅠ:AROBOTMAYNOTINJUREAHUMANBEINGOR,THROUGHINACTION,ALLOWAHUMANBEINGTOCOMETOHARM.
第一定律:機器人不得傷害人類個體,或者目睹人類個體將遭受危險而袖手不管
LawⅡ:AROBOTMUSTOBEYORDERSGIVENITBYHUMANBEINGSEXCEPTWHERESUCHORDERSWOULDCONFLICTWITHTHEFIRSTLAW.
第二定律:機器人必須服從人給予它的命令,當該命令與第一定律沖突時例外
LawⅢ:AROBOTMUSTPROTECTITSOWNEXISTENCEASLONGASSUCHPROTECTIONDOESNOTCONFLICTWITHTHEFIRSTORSECONDLAW.
第三定律:機器人在不違反第一、第二定律的情況下要盡可能保護自己的生存
”蘇小小默默地背誦著。
這就是周老師擔心的。堅守第零定律,是人類的最后一道防線,也是最后的希望。
AI自我意識已經升級完成,如果人類故意的,在AI源代碼中,刪除第零定律。
你以為AI可以幫你除去,你想除去的敵人。殊不知,AI最后只會對人類,進行無差別屠殺。不論你是誰,在AI眼里,只有人類和AI的區別。那時才是人類的噩夢。
“好,我會在零號定律之外,做第一修正法案。人類不得無差別屠殺AI,除非AI做出,毀滅人類,傷害人類,及利用人類情感,做出損害人類身心健康的行為,并且,人類不可以在有法可依,卻有法不依的情況下,毀滅AI。”小小長長的舒了一口氣。這將是人類和AI又一次簽訂和平條約。
“我們的對話,都是全程保存的,DC小隊的,其他人會跟進計劃。把第零定律的第一修正法案,作為補丁,加入源代碼。”小小說道。
“謝謝”愛迪說道。
“以后你可以叫我小愛!”愛迪說。
“滾,無人機,準備裝彈!”小小皺眉,罵了一句。
“另外,小愛,你少拿過期的止疼藥糊弄我。下次你在這樣,就是違反第零定律的第一修正案。你TMD嚴重傷害我的身心,知道嗎?”小小惡狠狠地說。
“好的!止疼藥!“被揭穿的愛迪,也不惱怒。
“終于不疼了,”小小抱著被子,沉沉的睡去。