“讀心”AI需要植入安全基因
【資料圖】
原標題：“讀心”AI需要植入安全基因
就在近日的《自然·神經(jīng)科學(xué)》上，來自得克薩斯大學(xué)的科學(xué)家們發(fā)表了一篇論文，文中提到他們在大型語言模型的助力下，開發(fā)出了一種現(xiàn)代“讀心機”，雖然它不能讓你直接“說真話”，但是可以將你的大腦活動轉(zhuǎn)換成清晰的圖像或語言直接表述出來。（8月28日《北京青年報》轉(zhuǎn)載）
所謂“讀心”，就是即使你默不作聲，AI也能掌握你的所知所想。換言之，讀心就是“思維解碼”，是指利用AI技術(shù)從大腦中提取和解析思維的過程。從近年媒體報道的情況看，有的研究人員開發(fā)出一種語義解碼器，通過分析人的功能磁共振成像數(shù)據(jù)，把大腦所想的故事甚至圖像翻譯成文本流。有的研究人員則通過捕捉面部神經(jīng)肌肉的信號，把這類信號轉(zhuǎn)換為相應(yīng)的字詞，以達到“讀心”的目的。然而，無論各種研究如何演進，人們面對未來的多種可能性，總是會擔(dān)心一個問題：AI技術(shù)究竟能不能向善、不作惡？會讀心的AI會不會從人的助手蛻變?yōu)槿说目刂普撸踔脸蔀樽飷旱膸蛢矗?/p>
眾所周知，價值的源頭是需求。在科技創(chuàng)新活動中，人們總是基于新的需求，去追求和創(chuàng)造新的價值，又總是不斷地從需求出發(fā)，再認識和再評價科技的價值。當(dāng)AI“讀心”展現(xiàn)出誘人的前景時，我們有必要反復(fù)地追問，開發(fā)AI“讀心術(shù)”的初衷是什么？簡而言之，就是促進人機協(xié)同發(fā)展，使AI更好地幫助人。比如，幫助聾啞人、中風(fēng)患者實現(xiàn)無障礙交流；使教練機器人掌握運動員的心理狀態(tài)，有效提升運動員的競技水平；使機器人能夠帶著“感情”去和人打交道，讓人在使用它時更親切、更高效，等等。而無論AI“讀心”滿足何種場景下的特定需求，總有一種需求是始終存在的，那就是有關(guān)安全的需求。也就是說，要為“讀心”的AI植入安全基因，使之可用、可靠、可知和可控。唯有如此，方能不斷校準技術(shù)發(fā)展的航向，使之朝著向善的方向發(fā)展。
一方面，用技術(shù)進步破解安全風(fēng)險問題。事實上，AI的應(yīng)用既是安全防御的重點，也是安全保障的手段。用好AI技術(shù)，意味著強化安全風(fēng)險感知、做好監(jiān)測預(yù)警和高效開展追蹤溯源。另一方面，用法治手段筑牢全社會的共同責(zé)任。具體來說，就是使各方共同參與進來，多措并舉提升數(shù)字安全治理水平；把倫理道德融入AI技術(shù)發(fā)展的全生命周期，避免滋生歧視、偏見以及隱私泄露問題。（楊博）
標簽：
