馬斯克等千人簽署公開信：呼籲暫停巨型AI - 股票QA

原文標題：馬斯克等千人簽署公開信：呼籲暫停巨型AI實驗
原文連結：https://news.cnyes.com/news/id/5130884
發布時間：2023/03/29 15:00
記者署名：
原文內容：

正當發展 AI 成為最新顯學時，另一批科技人卻是憂心忡忡，要求「暫停巨型 AI 實驗」
。

生命未來研究所 (Future of Life)3 月 22 日向全社會發佈了一封《暫停大型人工智慧
研究》的公開信，呼籲所有人工智慧實驗室立即暫停比 GPT-4 更強大的人工智慧系統的
訓練，暫停時間至少為 6 個月。

這封信有 1100 多人簽名，其中不乏科技界名人，例如馬斯克 (Elon Musk)、蘋果聯合創
辦人 Steve Wozniak、Stability AI 創辦人 Emad Mostaque 等知名人士。

其中，馬斯克在 chatGPT 走紅之後，就不斷批評 OpenAI，並在 2 月份發推文稱，「
OpenAI 是作為一個開源公司 (這就是我將其命名為「Open」AI 的原因) 創建的，是一家
非營利性公司，旨在與 Google(GOOGL-US) 抗衡，但現在它已經 成為微軟 (MSFT-US) 有
效控制的閉源、利潤最大化的公司。」他認為，這家公司完全違背了當初成立的初衷。

生命未來研究所在信中呼籲，所有人工智慧實驗室立即暫停對比 GPT-4 更強大的人工智
能系統的訓練，為期至少 6 個月。這種暫停應該是公開的和可驗證的，並且包括所有關
鍵參與者。如果不能迅速實施這種暫停，政府應介入並暫停。

信中強調，人工智慧研究和開發應該重新聚焦於使當今強大的、最先進的系統更加準確、
安全、可解釋、透明、穩健、一致、值得信賴和忠誠。

在此之前，OpenAI CEO Sam Altman 在與 MIT 研究科學家 Lex Fridman 的最新對話中指
出，AI 已經出現其無法解釋的推理能力，同時承認「AI 殺死人類」並非完全不可能。

上個月，在微軟發布 Bing 聊天機器人之後，一份名為「立即拔掉邪惡的 AI」的請願書
在 change.org 上流傳開來。

Future of Life Institute 是一家非營利組織，其使命是降低核戰爭的風險並改善 AI
治理。 著名物理學家 Max Tegmark 是其總裁，這家機構的網站中，將馬斯克列為外部顧
問。

心得/評論：

幫馬投顧翻譯一下:
馬投顧:不要再炒 AI 了，快回來炒電動車阿
AI 要毀麵人類了
還有幾集可以逃???

--