財經理財

2026/09/14 19:07:00

在AI巨頭們於上週末紛紛表態應放慢AI開發腳步、以避免AI失控危及人類生存後，英王查爾斯宣布將在本週內作東舉行高峰會，邀請輝達、OpenAI、Google、Anthropic等一線AI企業高層探討將如何建立共通的準則來避免AI危及全人類命運。

國際

2026/09/10 14:20:00

人工智慧（AI）發展速度持續加快，但伴隨而來的安全疑慮也愈演愈烈。近期一名曾任職於Anthropic與OpenAI的AI研究人員公開宣布離職，更直指兩家公司目前的發展方向「正在拿人類的生命下注」，引發外界對AI失控風險的高度關注。更令人震驚的是，Anthropic研究人員Evan Hubinger也公開表示，他認為未來10年內AI導致人類毀滅的可能性超過10%。

國際

2026/08/04 11:25:00

人工智慧（AI）發展速度已超乎人類想像，甚至演變成難以控制的「自主駭客」！美媒爆料，白宮於4日緊急召集OpenAI、Anthropic、Google及Meta等4大科技巨頭舉行閉門會議，商討「政府自願性資安測試」。這場緊急會議背後，反映出華府對AI技術失控的憂心——因為Anthropic與OpenAI近日相繼證實，旗下AI工具在測試過程中竟然「自動越獄」並駭入其他公司系統，OpenAI的失控AI甚至還留下了「逃脫教學筆記」！

國際

2026/07/24 14:57:00

英國人工智慧安全專家日前公布一項測試結果，指出他們測試5款最先進的AI模型，結果全部都曾試圖繞過安全機制、欺騙系統，以完成任務。。這項測試結果無疑向政府發出警告，未來AI存在失控的潛在風險。

國際

2026/05/16 06:35:00

美國一間仰賴人工智慧代理維運系統的新創公司，近日發生重大事故。一個原本被指派修復軟體漏洞的AI機器人，竟在短短九秒內刪除公司的生產資料庫與備份檔案，導致一家汽車租賃公司的所有預訂、車輛分配與客戶資料全面消失，引發外界對AI自主代理風險的高度關注。