TTB工業智造| “AI的命也(yě)是命”？人類與AI之間(jian)還

【中(zhong)新對話】“AI的命也是(shi)命”？人類與AI之間還(hái)有明确界線嗎

中新(xin)網北京12月7日電 (中(zhong)新财經記者 宋宇(yǔ)晟)自今年6月⭐以來(lai)，谷📱歌一名工程師(shī)稱某AI聊天機器人(rén)可能具有自己的(de)“意識”，并稱該AI“令人(rén)印象深刻的語言(yán)技巧背後，可能還(hái)隐藏着一顆具備(bei)感知能力的心”。

這随(sui)後成為該領域備(bei)受關注的話題。據(ju)外媒近日報㊙️道，這(zhe)位☔工程師已被谷(gu)歌解雇。但他留下(xià)的有關人工智能(néng)的話題仍在互聯(lián)網發酵。

記者注意到(dao)，就在6月，海外社交(jiao)媒體上出現了一(yi)個該人工智能的(de)“粉絲賬号”，有人還(hai)在發起話題，呼籲(yu)讓該人工☂️智能⭐“重(zhòng)獲自由♈”，更有甚者(zhe)在海外社交媒體(tǐ)上稱“AI的命也是命(ming)”。

很(hěn)多人或許無法理(lǐ)解這樣的想法，但(dàn)當人工智能變得(dé)✨越來㊙️越強，越來越(yue)多地出現在人類(lei)身邊，“我們應如何(hé)看🏃🏻待AI”越💔來越成為(wéi)一道必答題。近日(ri)，中國科❗學技術大(dà)學教授、中國✨人工(gōng)智能學會AI倫理工(gong)作委💚員會負責㊙️人(ren)陳小平，就此話題(tí)接受了中新财經(jing)記者專訪。

中國科學技(jì)術大學教授、中國(guo)人工智能學會AI倫(lún)理工作委員🏃🏻‍♂️會負(fu)責人陳小平。受訪(fang)者供圖

采訪實錄摘(zhai)編如下：

中新财經記(ji)者：近期的一則新(xin)聞稱，谷歌一位工(gōng)程師認為AI可💁能具(jù)有自己的“意識”，在(zài)網絡上引起讨論(lùn)。您是如何看待此(ci)事的？他的想法有(yǒu)合理的地方嗎？

陳小(xiǎo)平：這個問題可以(yi)分兩方面來看，一(yī)方面是不合理的(de)，另一方面又具備(bèi)合理性。這兩方面(mian)同時存在。

說這種想(xiang)法不合理，主要是(shi)依據科學判斷，AI是(shì)沒有人格的。另一(yi)🌈方面，我覺得導緻(zhi)這位谷歌員工認(rèn)為AI有“人格”，有其客(kè)觀原因。比如他可(ke)能對這個AI系統産(chǎn)生了共情。

5年前我就(jiu)做過預測，類似的(de)現象未來會越來(lái)越多地出現。目前(qian)對人工智能存在(zài)不同理解。按圖靈(ling)的觀點，人工智能(néng)隻是🧑🏽‍🤝‍🧑🏻模仿人類的(de)某些功能，而且這(zhè)種模仿不要求必(bi)須和🌈人的工作原(yuan)理相同。比如 Alpha Go 具有(you)下圍棋的功能，但(dàn)🈲它下圍棋的原理(li)與人是完全🚩不同(tong)的。所以，無論AI怎麼(me)發🏃🏻展，它永遠不是(shì)人。因此說💜AI具有人(ren)格或🤞人✨的情感、意(yì)識、道德等等，是不(bu)成立的🎯。但是，AI可以(yǐ)用與人不同的工(gōng)作原理，模仿人的(de)語言、情🥰感等功能(néng)，讓人對😘AI産生共情(qíng)，于是一部分人就(jiù)會🛀認為，“AI是人⭕，或具(jù)有人的某些精神(shén)品質。”

中新财經記者：現(xian)在我們身邊可能(néng)都有很多可以和(hé)人類“交🏃‍♂️流”的人工(gong)智能産品。對于這(zhè)個時代的人們來(lai)✔️說，人類與AI的邊界(jiè)似乎正在變得模(mó)糊。在您看來，二者(zhě)之間有沒有明确(què)的界線？

陳小平：我認(ren)為有兩種邊界，一(yī)種是科學上的邊(bian)界，一種是人文上(shang)的邊界。

從科學的角(jiao)度說，按照圖靈觀(guān)點，這個邊界是非(fēi)常❌清晰的。AI僅僅模(mó)仿人的部分功能(néng)，本質上不具備人(ren)的品質，包括人📞格(gé)、情感、道德等等。

還有(you)一些和圖靈不同(tóng)的觀點。比如一種(zhong)觀點認為，AI和人🐇相(xiang)比除了硬件不同(tong)，其他都相同。于是(shi)AI也可以✌️有人格、有(yǒu)情感、有道德。估計(ji)這位谷歌前員工(gōng)持此觀點。

于是，一方(fang)面是他相信AI除了(le)硬件以外可以和(hé)人一樣；另☂️一方面(mian)，從報道裡看，他對(dui)這個AI系統已經産(chǎn)生了共情。僅🏃🏻僅因(yin)為AI在科學🚶‍♀️上沒有(yǒu)情感等人類品質(zhi)🌈，就可以排除或❗禁(jin)止一個人對AI産生(shēng)共情嗎？這屬于人(ren)文的邊界，這個邊(bian)界至少目前非常(chang)模糊。

中新财經記者(zhe)：作為中國人工智(zhi)能學會AI倫理工作(zuò)🔴委員會✊負責人，您(nin)認為，如果有人相(xiàng)信AI具有人格，是否(fǒu)會給人類本身帶(dai)來一些問題或困(kùn)擾？

陳小平：如果我們(men)認為AI有人格的話(huà)，肯定會帶來很多(duo)困擾。同時還會帶(dai)來一些負面的後(hou)果，有些後果非常(cháng)⁉️嚴重。

比如，人類如何(he)對待AI。如果認為AI有(yǒu)人格，那是不是要(yào)😘把AI當成人⭐呢？如果(guo)把它當成人了，那(na)是不是要給它人(rén)類的權利？包括生(sheng)存權、财産權、投票(piào)權等等，甚至無論(lùn)AI做了什麼危害人(ren)類的事㊙️情，都要像(xiàng)對待人一樣對待(dai)AI。

人(ren)類到底應該如何(hé)看待人工智能？這(zhè)是一個非常根♈本(běn)的問題。如果AI真的(de)具備人格、情感、道(dao)德，一般能力又超(chāo)過🏃人類，就會出現(xian)可控性問題。幾乎(hū)可以肯定的是，隻(zhī)要AI能夠模仿🌈一種(zhong)功💘能，那AI的這種功(gong)能遲早會比人強(qiang)，就像Alpha Go下棋一樣。如(rú)果AI的通用能力也(yě)超💯過人，到那時人(rén)類憑什麼能夠控(kòng)制AI？這🛀🏻是個疑問。我(wo)💛們現在就要思考(kǎo)這樣的問題，提前(qian)做好風險防範。

當然(ran)，現在人工智能已(yi)經讓一些人産生(shēng)了共情，将來會⛷️讓(ràng)越😘來越多的人産(chǎn)生共情，這件事是(shì)客觀存在的。這将(jiāng)給人機關☎️系、人際(jì)關系帶來巨大的(de)新挑🧑🏽‍🤝‍🧑🏻戰和新機遇(yù)，是一個新的重大(da)🌈課題。

資料圖 中新社記(ji)者 湯彥俊 攝

中新财(cái)經記者：此前您在(zài)智源大會論壇上(shàng)，提到人🧑🏽‍🤝‍🧑🏻工🔞智能倫(lun)理治理的幾種挑(tiāo)戰。我們應如何應(ying)對這樣的挑戰？

陳小(xiao)平：對人工智能如(rú)何分類，應該分為(wéi)人還是物？我認為(wei)，我們應該把人工(gong)智能看成是非人(ren)非物的第三種存(cun)👨‍❤️‍👨在物。科學上，它不(bú)是人；從人文的角(jiao)度說，它不是🏃物。那(na)就是非人非物的(de)第三種存在物。這(zhe)種觀點與根深蒂(dì)固的🌈“二元論”是根(gēn)本不同的，所以人(rén)‼️工智能帶來的颠(diān)覆實際上遠超科(ke)技範疇。

如果以這種(zhǒng)觀點考慮，能化解(jie)很多矛盾和難題(tí)，包括上面提到的(de)法律難題，而且可(kě)以讓科學與人文(wén)在某🔞種程度上重(zhòng)新“握手言和”；但其(qí)中仍有挑戰。有很(hen)多科幻作品寫到(dào)人類愛上人工智(zhi)能，如果采用三分(fen)法是否就沒這個(ge)問題了？其實仍然(ran)會有這樣的問題(ti)。

所(suǒ)以，我們要想未來(lai)怎麼适應這樣的(de)社會，要判斷會不(bu)會出現人類不可(ke)接受的嚴重後果(guo)，要不要提前采取(qu)措施。

中新财經記者(zhe)：目前國内在此方(fang)面的進展如何？

陳小(xiǎo)平：這幾年我國人(ren)工智能倫理研究(jiu)的發展非常快，從(cóng)民🌏間到政府對人(ren)工智能倫理都高(gāo)度重視♌。這是個非(fei)♈常好的現象，我🤩們(men)有必要未雨綢缪(miu)。

在(zai)落實過程中，中國(guó)的情況總體上還(hai)是比較順利的。這(zhè)表現在❄️，一些基本(ben)原則上大家是有(yǒu)共識的，而且普遍(bian)認識到，不僅要從(cóng)理論上研究，更要(yao)在實踐中開展治(zhi)理。當然，如何在治(zhì)理實踐中落實社(shè)會共識，仍是我😍們(men)需要努力的方向(xiàng)。

具(ju)體怎麼治理？這涉(she)及大量實際問題(ti)。我的研究發現，我(wǒ)們前面談到的可(kě)控性和長期後果(guǒ)的不确定性，難以(yi)用傳統治理📱模式(shì)有效應對，需要探(tan)索新的治理方法(fa)。

除(chú)此之外，如用戶隐(yin)私、數據安全、算法(fǎ)公平透明等問題(ti)👉，用傳統😘社會治理(li)模式是可以有效(xiào)應對的。我📱們不💛用(yòng)擔心這類問題會(huì)變得失控、解決不(bú)了，其中一部分📐具(jù)體問題其實🈲正在(zai)解🛀🏻決之中。

 來源：中(zhong)國新聞網