作者:Louis Rosenberg，是Unanimous AI的CEO，負責任的元宇宙聯盟的首席科學家，XR安全倡議（XR Safety Initiative）的全球技術顧問?！　〗裉?，未來生命研究所發(fā)表了一封公開信，呼吁所有人工智能實驗室暫停所有大規(guī)模人工智能系統(tǒng)的培訓，至少六個月，這些系統(tǒng)比目前最先進的技術GPT-4更強大。我和其他一些業(yè)內知名人士一起簽署了這封“暫停信”，包括埃隆·馬斯克和史蒂夫·沃茲尼亞克。我不知道是否會暫停，但我相信前方確實有危險。這就是為什么?！　∫欢螘r間以來，我一直擔心人工智能對社會的影響。我說的不是超級智能人工智能突然接管世界的長期生存風險，而是人工智能被用來操縱社會的短期風險，它通過戰(zhàn)略性地影響我們接收的信息，并調解這些信息如何在人群中傳播。這種風險在過去12個月里迅速增加，原因是兩種重疊技術的重大性能提升，這兩種技術通常被稱為“生成式AI”和“對話式AI”?！　∽屛艺務勎覍γ恳粋€問題的關注。　　生成式人工智能指的是大型語言模型（llm）根據人類請求創(chuàng)建原創(chuàng)內容的能力?，F在，人工智能生成的內容包括圖像、藝術作品、視頻、散文、詩歌、計算機軟件、音樂和科學文章。在過去，生成式內容令人印象深刻，但沒有人會把它誤認為是人類的創(chuàng)造。這一切在過去的12個月里都改變了。人工智能系統(tǒng)突然能夠創(chuàng)造出可以輕易欺騙我們的人工制品，讓我們相信它們要么是真實的人類創(chuàng)造，要么是真實的視頻或在現實世界中捕捉到的照片。這些能力目前正在大規(guī)模部署，并給社會帶來了許多重大風險?！　∽蠲黠@的風險是就業(yè)市場。由于LLM系統(tǒng)創(chuàng)造的產品令人印象深刻，專業(yè)人士現在將其稱為“人類競爭情報”，可以取代原本創(chuàng)造內容的工作人員。這種發(fā)展影響了廣泛的職業(yè)，從藝術家和作家到計算機程序員和金融分析師。事實上，Open AI、OpenResearch和賓夕法尼亞大學的一項新研究通過比較GPT-4能力和工作要求，探索了人工智能對美國勞動力市場的影響。該研究的作者估計，20%的美國勞動力至少有50%的任務將受到GPT-4的影響，高收入的工作將面臨更大的影響?！　∑仍诿冀薜膶蜆I(yè)的影響令人擔憂，但這不是我簽署暫停信的原因。我對勞動力的擔憂是，人工智能生成的內容看起來和感覺起來都是真實的，而且經常給人權威的印象，但它很容易出現事實錯誤。沒有準確的標準或管理機構來幫助確保這些將成為勞動力的主要組成部分的系統(tǒng)不會將錯誤從細微的錯誤傳播到瘋狂的捏造。我們需要時間來落實保護措施，并加強監(jiān)管機構，以確保保護措施得到落實?！　∠乱粋€最明顯的風險是，不良行為者可能會故意創(chuàng)建帶有事實錯誤的內容，作為戰(zhàn)略影響力活動的一部分，傳播錯誤信息、虛假信息和徹頭徹尾的謊言。這種風險并不新鮮，但生成式人工智能所實現的規(guī)模卻是新的?？雌饋砗軝嗤耆悄笤斓膬热莩涑庵@個世界，這是非常容易的。這種風險也延伸到了深度造假上，在深度造假中，公眾人物可以在看起來逼真的視頻中做任何事或說任何話。隨著人工智能技術越來越熟練，公眾將無法區(qū)分真假。我們需要水印系統(tǒng)和其他技術來區(qū)分人工智能生成的內容和真實內容。我們需要時間來建立和使用這些保護措施?！　υ捠饺斯ぶ悄芟到y(tǒng)帶來了一系列獨特的風險。這種形式的生成式人工智能可以通過文本聊天和語音聊天與用戶進行實時對話。這些系統(tǒng)最近已經發(fā)展到人工智能可以與人類進行連貫的對話，并隨著時間的推移跟蹤對話流程和上下文。這些技術是我最擔心的，因為它們引入了一種監(jiān)管機構沒有準備好的全新影響力運動形式——對話影響力。　　每個銷售人員都知道，說服別人買東西或相信東西的最好方法是與他們交談，這樣你就可以闡述你的觀點，觀察他們的反應，然后調整你的策略來解決他們的阻力或擔憂。隨著GPT-4的發(fā)布，現在很明顯，人工智能系統(tǒng)將能夠讓用戶參與真實的實時對話，作為一種有針對性的影響形式。我擔心的是，第三方使用api或插件將促銷目標傳遞到看似自然的對話中，毫無疑慮的用戶將被操縱購買他們不想要的產品，注冊他們不需要的服務，或者相信不真實的信息?！　∥曳Q之為“人工智能操縱問題”。在很長一段時間里，這只是一個理論上的風險，但現在的技術可以部署個性化的對話影響力活動，根據用戶的價值觀、興趣和背景來定位用戶，以推動銷售、宣傳或誤導信息。事實上，我擔心人工智能驅動的對話影響力將成為人類有史以來最強大的有針對性的說服形式。我們需要時間來落實保護措施。就我個人而言，我認為這些保護措施可能需要制定法規(guī)，禁止或嚴格限制使用人工智能介導的對話影響力?！　∷允堑?，我在信上簽了名。畢竟，我很清楚，由人工智能系統(tǒng)引起的新的快速發(fā)展的風險發(fā)展得太快，以至于人工智能社區(qū)，從研究人員和行業(yè)專業(yè)人士到監(jiān)管機構和政策制定者，都無法進行調整?！　∵@封信會起作用嗎？我不清楚該行業(yè)是否會同意暫停六個月，但這封信已經引起了人們對這個問題的關注。就我個人而言，我認為我們需要盡可能多地敲響警鐘，以喚醒監(jiān)管機構、政策制定者和行業(yè)領導者。他們需要采取行動。在其他時候，更細微的警告就足夠了，但這項技術進入市場的速度比我經歷過的任何事情都要快。這就是為什么我們需要暫停一下，迎頭趕上。我們需要時間?！　碓礊榻鹑诮缑拦深l道的作品，均為版權作品，未經書面授權禁止任何媒體轉載，否則視為侵權！