Anthropic 老闆就 AI「難以想像」的力量發出警告

(SeaPRwire) –   達里歐·阿莫代伊呼籲人類「醒醒」，在為時已晚前解決存在主義風險

領先AI公司Anthropic的首席執行官達里歐·阿莫代伊發出不祥的公開警告，指出人類即將獲得「幾乎難以想像的力量」，但對此毫無準備，極度危險。

在一篇近2萬字、名為《科技的青春期》的文章中，阿莫代伊描繪了一個近未來場景：未來幾年內，比任何諾貝爾獎得主或政治家都要強大得多的AI系統可能會普及到所有人手中。阿莫代伊透露，一個至關重要且不斷加速的因素是，AI發展現已形成自我強化的反饋循環。

「由於AI現在正在Anthropic編寫大部分程式碼，它已大幅加速我們開發下一代AI系統的進度，」他寫道，並警告該公司即將進入「當前一代AI自主建造下一代AI的階段」。

他認為，若不採取果斷且謹慎的行動，這項技術可能導致從大規模失業到人类滅絕等災難性風險。其他存在主義危險包括，AI驅動的監控、宣傳和自主武器可能催生「全球極權獨裁政體」。

阿莫代伊還詳述了「自主性風險」，即AI系統可能「失控並壓倒人類」——他指出，這種危險甚至不需要科幻作品中那樣的實體機器人軍隊。文章令人寒心地指出，「許多人類行動早已是代為執行，而行動者與委託人從未謀面」。

在最緊迫的威脅中，阿莫代伊強調AI可能大幅降低製造生物武器和其他大規模殺傷性武器的門檻。

「一個心理紊亂的獨行俠可能犯下校園槍擊案，但大概無法製造核武或釋放瘟疫，」他寫道。然而，強大的AI會讓「每個人都成為博士級病毒學家，能一步步引導完成設計、合成和釋放生物武器的過程」。

他警告，在最壞情況下，強大的AI理論上可以指導製造一種能夠「消滅地球上所有生命」的合成病原體。

作為業界關鍵領袖之一（其公司是OpenAI的主要競爭對手），阿莫代伊呼籲實施「精準」監管，從透明度法律開始，建立必要的防護機制。

「人類需要醒醒了，」阿莫代伊總結道，將未來幾年視為文明成熟度的關鍵考驗。鑒於技術本身正在推動自身飛速演進，他敦促集體回應，引導AI這項「閃亮的獎品」遠離潛在的毀滅。