未來研究所: 提防人工智慧副作用
英國《金融時報》12日報導，近日，包括霍金及企業家埃倫?馬斯克(Elon Musk)等在內的數位科學家、企業家及與人工智慧領域有關的投資者聯名發出了一封公開信，警告人們必須更多地注意人工智慧(AI)的安全性及其社會效益。
這封發自生命未來研究所(Future of Life Institute，簡稱FLI)的公開信還附帶了一篇論文，其中建議應優先研究「強大而有益」的人工智慧。目前，人們日益擔心機器的智力和能力可能會超過創造它們的人類，從而影響到人類的就業，甚至影響到人類的長期生存。
這封公開信表示：「由於人工智慧的巨大潛力，開展如何在規避其潛在陷阱的同時獲取其好處的研究十分重要。我們的人工智慧系統，必須按照我們的意願工作。」
據悉，FLI於2014年由包括Skype聯合創始人讓?塔林(Jaan Tallinn)在內的志願者創立。成立該研究所的目的一方面是為了促進對「未來樂觀圖景」的研究，一方面則是為了「降低人類面臨的現存風險」。其中，在開發與人類相當的人工智慧技術過程中出現的那些風險，將是該所關注的重點。
SpaceX和特斯拉(Tesla)的共同創始人馬斯克、著名演員摩根?弗里曼(Morgan Freeman)以及宇宙學家史蒂芬?霍金都是FLI科學顧問委員會的委員。馬斯克表示，他相信不受控制的人工智慧「可能比核武器更危險」。
這封FLI公開信上的其他署名者還包括機器智能研究所(Machine Intelligence Research Institute)的執行主任呂克?米爾豪澤(Luke Muehlhauser)，麻省理工學院(MIT)物理學教授、諾貝爾獎得主弗蘭克?維爾切克(Frank Wilczek)，人工智慧企業DeepMind和Vicarious的幕後主管，以及幾名谷歌(Google)、IBM和微軟(Microsoft)的員工。
這封信並不以一封兜售恐懼心理為目的。與此相反，它十分謹慎地同時強調了人工智慧的積極面和消極面。
信中寫道：「如今存在的一個廣泛共識是，人工智慧研究正在穩步進展之中，它對社會的影響也很可能會逐漸增大。人類文明所能提供的一切都是人類智慧的結晶。這種智慧被人工智慧可能提供的工具放大後，我們能做到什麽是我們無法想像的，不過那樣的話根除疾病和貧困將不再是遙不可及的。從這個意義上說，人工智慧有巨大的潛在好處。」
目前，人工智慧研究的部分好處已經成為現實，其中包括語音識別和圖像識別，以及自動駕駛的汽車。在矽谷，部分人估計如今從事人工智慧業務的初創企業超過了150家。
監於人工智慧正吸引越來越多的投資，許多創業家和谷歌等企業都在盼望著能通過建立會自主思考的電腦，獲得巨額回報。對於這種局面，FLI警告說，人們或許應「及時」將更多注意力集中在人工智慧的社會後果上，不僅要從計算機科學的角度開展研究，還要從經濟、法律及信息安全的角度開展研究。
關鍵字: 人工智慧