特朗普與科企巨頭簽署協議　訂明業界須採措施監督AI安全

在美國多間人工智能業界巨頭近期先後呼籲放慢AI發展步伐，要求政府加強監管後，美國總統特朗普周二在白宮東廳同一批AI、科技及社交平台企業高層進行午餐會，並簽署一項規管協議。

協議只有一頁紙，訂明企業有責任確保所發展的技術安全，並建立機制確保AI模型按預期運作。企業須採取4方面管控措施，包括與外部審計機構或評估方合作，對企業的管控措施進行獨立評估；於董事會設立獨立委員會，負責監督相關工作；建立內部管控機制，防止AI模型在訓練期間入侵其他系統；以及要確保各項管控措施，按預期運作。參與的企業亦會定期舉行會議，制定相關標準，以提升系統的安全性。

特朗普表示，與會者普遍明白、亦有進行強而有力的自我監管，雖然協議屬自願性質，但仍具道德約束力，可以提供保護，形容某程度上等同憲法，又強調政府機構亦會進行監管，正考慮成立一個由10人委員會進行監管。

特朗普又表示會上亦有討論地方社區問題，尤其是建立數據中心，會努力令社區感到滿意。

他其後簽署文件，在官方文件上將人工智能（AI）改稱超級智能（super intelligence）。 出席午餐會的科技界高層，包括Anthropic行政總裁阿莫迪、OpenAI總裁布羅克曼、輝達行政總裁黃仁勳、亞馬遜創辦人貝索斯、Tesla行政總裁馬斯克、超微董事長蘇姿丰，以及Meta行政總裁朱克伯格等。而馬斯克同黃仁勳在會上，分別坐在特朗普兩邊。

曾經與特朗普唱反調、公開呼籲放慢AI發展的阿莫迪，與特朗普一同見記者時，再次警告AI存在風險，指業界正商討如何應對。 上周以AI代理失控增加為由，宣布暫停訓練旗下能力最強模型的OpenAI行政總裁奧爾特曼，接受CNBC訪問，指正調整開發速度，包括有時暫停訓練模型，強調必須以非常有把握的安全論證推進工作，避免帶來焦慮。