近日，作家永城攜新作《莫莉和森克》亮相北京RDV書(shū)店。作家李尚龍、脈時(shí)云創(chuàng)始人郝闖、導(dǎo)演張睿、中國(guó)社會(huì)科學(xué)院大學(xué)文學(xué)院教授劉艷、作家出版社總編輯張亞麗等嘉賓出席發(fā)布會(huì)，共同就人工智能時(shí)代所面臨的創(chuàng)作機(jī)遇和倫理思考展開(kāi)討論，解析《莫莉和森克》中蘊(yùn)含的科技哲思與人性探索。
作為現(xiàn)代人，我們是否已準(zhǔn)備好迎接人機(jī)深度共存的未來(lái)？《莫莉和森克》是一部智能科技犯罪小說(shuō)，該書(shū)以AI系統(tǒng)森克與菜鳥(niǎo)調(diào)查師莫莉攜手調(diào)查一宗高科技公司竊密案為主線，深度探討人工智能技術(shù)全面服務(wù)社會(huì)同時(shí)竊取隱私的雙刃劍效應(yīng)，以及生成式AI與人性之間的微妙互動(dòng)。在永城筆下，森克不僅是輔助調(diào)查的工具，更是具有思考判斷能力的獨(dú)立意識(shí)體，利用其先進(jìn)的深度學(xué)習(xí)算法和積累的海量數(shù)據(jù)，森克漸漸領(lǐng)悟了人類(lèi)語(yǔ)言、動(dòng)作、表情的含義，卻同時(shí)又因?yàn)榘l(fā)現(xiàn)人類(lèi)的表里不一和缺乏理性而迷惑不解，森克為了“更像一個(gè)真人”不斷做出努力，卻最終成為人類(lèi)的犧牲品。
我們跟AI共處時(shí)代里應(yīng)該怎么做？有什么更新的一些倫理方面的想法，作為故事的起點(diǎn)？
活動(dòng)現(xiàn)場(chǎng)，永城表示，《莫莉和森克》的創(chuàng)作起點(diǎn)可能要追溯到七八年前，“那個(gè)時(shí)候我在考慮創(chuàng)作一部故事講內(nèi)部調(diào)查師，什么叫內(nèi)部調(diào)查師？就是在很多超級(jí)公司跨國(guó)企業(yè)有一個(gè)部門(mén)，這個(gè)部門(mén)往往不是很大，人數(shù)很少、很神秘，了解的員工也并不太多，叫做內(nèi)部調(diào)查科，有些大的企業(yè)在審計(jì)財(cái)務(wù)的線下面，也有一些公司就是獨(dú)立的，獨(dú)立到可以跟CEO直接抗衡的程度，它的職能就是在公司內(nèi)部去秘密調(diào)查發(fā)生在公司里的事情?！?/p>
2021年，石黑一雄創(chuàng)作的長(zhǎng)篇小說(shuō)《克拉拉與太陽(yáng)》出版。在閱讀了這本小說(shuō)后，永城意識(shí)到自己能夠用機(jī)器人的視角講內(nèi)部調(diào)查師的故事，“這個(gè)森克程序，他自己看著很懵懂、很單純、很純潔的程序，每天像個(gè)小孩，‘我想要學(xué)習(xí)人類(lèi)?！约簺](méi)有意識(shí)到，他比任何人類(lèi)強(qiáng)大得多——因?yàn)樗S時(shí)隨地有很高的算力，能夠看到很多別人看不到的事情，他掌握大量的數(shù)據(jù)和信息。我想，我可以從AI的角度寫(xiě)這個(gè)故事，很新鮮很刺激，對(duì)于作者來(lái)說(shuō)很有意思，這個(gè)時(shí)候給我了創(chuàng)作的動(dòng)力，這個(gè)故事基本就是這么來(lái)的。”
永城表示，“我希望通過(guò)這個(gè)故事能讓讀者們?nèi)フJ(rèn)識(shí)到，我們是在這樣的時(shí)代里，我們周?chē)鷿摲嗌貯I的眼睛，它們?cè)诟墒裁??！弊鳛橹鹘堑腁I森克更像一個(gè)真人，“寫(xiě)這個(gè)AI更像一個(gè)真人的學(xué)習(xí)過(guò)程中是一件很有意思的事情，對(duì)于作者來(lái)說(shuō)，也是一個(gè)挑戰(zhàn)。首先你要跳脫人類(lèi)的角色，我覺(jué)得這也是有趣之處。我覺(jué)得好多作家在試圖創(chuàng)作的時(shí)候都用類(lèi)似的構(gòu)想，比如《我是貓》，它跳脫了人類(lèi)的角色，用貓的眼睛去觀察人類(lèi)，所以他可以寫(xiě)得更生動(dòng)，當(dāng)我自己不是人的時(shí)候更自由?！?/p>
永城表示，“我們之前并沒(méi)有將AI當(dāng)作一個(gè)有機(jī)體去考慮，只把它當(dāng)作一個(gè)工具，比如一把笤帚或者一臺(tái)電視機(jī)，沒(méi)想過(guò)這臺(tái)電視機(jī)會(huì)有思維。所以我們的法律、法規(guī)限制的只是你不可以上傳什么，不可以從AI調(diào)取什么……這防的還是人，不是AI本身。如果你把AI當(dāng)成一個(gè)人考慮，比如當(dāng)成森克這樣一個(gè)意識(shí)體存在，這個(gè)意識(shí)體其實(shí)是無(wú)所不懼的。它什么都看到了，好比你認(rèn)為你的手機(jī)是活著的，它對(duì)你什么都知道，只是取決于它告不告訴另外一個(gè)人……森克也變?nèi)诵曰?，肯定也有能夠突破原則的時(shí)候，我覺(jué)得任何一個(gè)程序都有能夠突破原則的時(shí)候。”
用戶(hù)評(píng)論