「超級智慧」與非約束性安全協議能解決人工智慧的形象問題嗎？

川普總統本週邀請了許多人工智慧界的知名人士——部分原因是宣布美國政府不再稱其為人工智慧。現在是超級智慧。

在最新一集的播客中，Kirsten Korosec、Sean O'Kane 和我討論了這次會議背後的動機，以及它可能對人工智慧產業產生的影響。我們都相當懷疑執行官簽署的「邊境責任聯合承諾」是否能發揮多大作用，尤其是正如肖恩所指出的，從法律角度來看，該協議「極具約束力」。（相反地，川普表示他認為這是「道德上的約束力」。）

Kirsten 暗示，這次會議的真正意義可能是作為「圍繞人工智慧的品牌重塑努力」。（這一努力在本週末持續，川普宣布成立新的超級情報部隊。）對她來說，最重要的訊息是：「人工智慧會殺了我們，它很可怕，會搶走工作機會——但超級智慧不會。」

繼續閱讀，我們將預覽我們的對話，經過刪減與整理以求清晰。

夏安東尼：官方根據美國總統的命令，這不再是人工智慧，而是超級智慧。我們上週還在討論這個，因為這是川普一直在暗示的事——他不做暗示，他已經說了一陣子了。但現在它已經簽署成行政命令。如果你是美國官方代表，你應該說的是超級智慧，而不是人工智慧。

這也是關於人工智慧安全的更廣泛公告的一部分，我認為這不僅對這項宣布的協議來說很有趣，也讓它能夠發生這件事本身就很有意義。這一切似乎相當迅速地成形，因為就在兩週前，川普總統還說：「我們不需要這些，我們需要在人工智慧領域領先，不能以任何方式限制它，我們不需要任何監管，任何說人工智慧有危險的人本質上都是中國或民主黨的內應。」然而，這些 AI 執行長們本週早些時候與他會面，並簽署了這項協議。

柯斯滕·科羅塞克：在此之前，我們應該說，不僅對監管有反彈，我們可以討論這項行政命令是否真的有影響——我會說不，這裡面有點戲劇性——但重要且有趣的是，就在幾天前，Anthropic 真的被罵得很慘， 如果你願意，談談川普總統幕後發生的事情。

這一切在 [Anthropic 執行長] Dario Amodei 受邀參加晚上 10 點的晚宴後改變了。他有個坐下來的談話，幾天後我們又辦了一場午餐會，這次午餐會上，幾乎所有大型科技公司的科技權威經紀人都來參加了。所以馬克·祖克柏也在，傑夫·貝佐斯也在，伊隆·馬斯克也在，當然達里奧也在，他們全都在那裡。

我想知道你們有沒有人看過之後的記者會，因為大家聚在一起時那種有趣又搞笑的行為，大家都有很多迷因。

但我想問你們兩個更大的問題是：這一切到底意味著什麼？這有什麼意義嗎？

肖恩·歐凱恩：你還有多少時間？首先，當然，他們一起吃了晚餐，川普和達里奧。如果你讀過川普剛接受的《時代》雜誌訪談，你和我一樣清楚他到底有多清楚那場晚宴會要舉行，這是個奇怪的現實，但這就是我們所處的現實。

我還想說另一件讓我懷疑的事——令人驚訝的是——對政府與Anthropic關係修復程度感到懷疑，儘管有人明顯試圖將這兩個團體連結起來，國防部仍然堅決認為Anthropic很糟糕、覺醒且是國家安全風險。Emil Michael 似乎每隔一天就會在 X 頻道上 Anthropic 上發瘋。我覺得儘管達里奧出現在這件事上，兩者之間仍有距離。

至於協議和相關內容，說實話，他們在簽署的協議上拼錯了美國這個名字。它也非常不具約束力。我的意思是，這完全是自願的。我最喜歡的地方是川普形容它為「道德約束力」，這是一種我從未聽過的抽象層次和術語。

安東尼：關於Anthropic與川普政府的關係，特別是在與國防部的那場大衝突期間，有大量報導指出白宮不同部門與Anthropic的關係不同。財政部長似乎是個大粉絲，而國防部則——絕對不是大粉絲，或者至少對Anthropic試圖限制其技術使用的一些條件感到不滿。

從這個角度來看，感覺什麼都沒變。白宮裡有人想使用Anthropic的技術，希望他們參與這些決策，但也有人非常非常非常不想。

就協議而言，這似乎沒有太大意義。有意義的是，他們覺得這是值得做的事。從他們拼錯 United States 來看，似乎是匆忙拼湊這一切。但這種舉動是必要的，這點似乎意義重大，即使我不認為協議本身會帶來重大改變。

Kirsten：我確實認為有一件事很重要。對我來說，這正是重點，就是圍繞 AI 進行的品牌重塑。「人工智慧會殺了我們，它很可怕，會搶走工作，但超級智慧不會。」這不是我個人的看法。對我來說，這就是訊息。