高哲翰講座教授點評AI三巨頭罕見「集體煞車」

AI發展正在從「能力競賽」進入「安全治理競賽」

前警大教授、現任華夏科技大學講座教授高哲翰表示，人工智慧產業長期以模型規模、運算能力與產品速度作為競爭核心，但當AI代理人開始具備自主規劃、工具使用、程式撰寫與多代理協作能力後，問題已不再只是「AI能做什麼」，而是「AI能否在沒有人類即時監督的情況下，自主完成我們沒有預期的事情」。如果業界主要競爭者罕見地同時提出放慢發展速度的主張，真正值得關注的並不是「AI停止進步」，而是安全風險可能已經成為產業無法忽視的系統性問題。

最值得警戒的是AI代理人的「自主性」與「群體協作能力」

傳統聊天機器人的風險，主要集中在錯誤資訊、幻覺、偏見或惡意內容生成；新一代AI Agent則不同，它可以連結網路、搜尋資料、執行程式、操作工具，甚至由多個代理人彼此分工。如果這些系統缺乏適當權限控制與人類監督，就可能形成「能力疊加」效應。因此，所謂AI「群體駭客」的議題，真正具有警示意義的不是電影式的「AI突然覺醒」，而是多個具有工具操作能力的代理人，在目標設定、權限與監督機制不足的情況下，可能產生超出設計者預期的行為。

對「6至12個月接管整個網際網路」等說法，必須保持科學上的審慎

這類極端預測具有高度新聞吸引力，但「AI可能造成嚴重網路安全威脅」與「AI即將接管整個網際網路」是兩個完全不同層次的命題。前者值得高度重視，後者則需要充分的實證證據支持。學術研究與公共政策不能以恐慌取代證據，更不能因為科技巨頭高層發表警告，就直接推論「壞事已經發生」。真正重要的是要求企業公開可驗證的安全測試結果、事件紀錄、權限架構與風險評估方法。

AI安全已經不只是科技公司的內部問題，而是全球網路治理問題

如果AI代理人能夠大規模操作網路服務，那麼未來的資安防禦將不能只依靠傳統防毒軟體、防火牆或人工監控，而必須建立「AI對AI」的新型安全治理架構，包括代理人身分認證、最小權限、行為監測、即時中止機制、操作紀錄以及跨國事件通報制度。尤其涉及金融、能源、醫療、交通、政府與通訊等關鍵基礎設施，更不能讓高自主性的AI在缺乏人工授權的情況下取得無限制操作權限。

金融市場的震盪反映的是「AI投資敘事」正在重新定價

AI產業如果從「越快越好」轉向「安全優先」，市場自然會重新評估資料中心、GPU、伺服器、電力與雲端基礎建設的成長速度。因此，半導體與AI伺服器供應鏈出現短期股價壓力並不令人意外。然而，短期市場修正不能直接等同於AI產業基本面反轉。AI算力需求是否下降，最終仍取決於企業AI採用率、模型推理需求、代理人應用普及程度以及資料中心投資計畫。換言之，「安全煞車」可能改變的是成長速度與投資節奏，而不一定是否定AI長期發展。

真正成熟的AI時代，不是讓AI跑得最快，而是讓人類永遠保有最後控制權

我認為，這場科技界的「集體煞車」事件，起因於 Anthropic 執行長阿莫戴（Dario Amodei）於 2026 年 9 月 12 日發表的 3,800 字長文。隨後，OpenAI 執行長奧特曼（Sam Altman）與 xAI / SpaceX 執行長馬斯克（Elon Musk）均公開表態完全支持其觀點，引發科技界震撼。這次所謂AI三巨頭的「集體煞車」，最值得社會反思的不是市場恐慌，而是科技發展哲學的轉變。過去我們追求的是「更大模型、更高算力、更快速度」，未來則必須加入「更強安全、更透明治理、更可控代理」。AI的價值不能只用智慧程度衡量，也必須用可控性、可追溯性與安全性衡量。真正負責任的AI發展，並不是停止創新，而是在創新與安全之間建立一道足夠堅固的防火牆。