特朗普与科企巨头签署协议 订明业界须采措施监督AI安全
在美国多间人工智能业界巨头近期先后呼吁放慢AI发展步伐，要求政府加强监管后，美国总统特朗普周二在白宫东厅同一批AI、科技及社交平台企业高层进行午餐会，并签署一项规管协议。
协议只有一页纸，订明企业有责任确保所发展的技术安全，并建立机制确保AI模型按预期运作。企业须采取4方面管控措施，包括与外部审计机构或评估方合作，对企业的管控措施进行独立评估；于董事会设立独立委员会，负责监督相关工作；建立内部管控机制，防止AI模型在训练期间入侵其他系统；以及要确保各项管控措施，按预期运作。参与的企业亦会定期举行会议，制定相关标准，以提升系统的安全性。
特朗普表示，与会者普遍明白、亦有进行强而有力的自我监管，虽然协议属自愿性质，但仍具道德约束力，可以提供保护，形容某程度上等同宪法，又强调政府机构亦会进行监管，正考虑成立一个由10人委员会进行监管。
特朗普又表示会上亦有讨论地方社区问题，尤其是建立数据中心，会努力令社区感到满意。
他其后签署文件，在官方文件上将人工智能（AI）改称超级智能（super intelligence）。 出席午餐会的科技界高层，包括Anthropic行政总裁阿莫迪、OpenAI总裁布罗克曼、辉达行政总裁黄仁勋、亚马逊创办人贝索斯、Tesla行政总裁马斯克、超微董事长苏姿丰，以及Meta行政总裁朱克伯格等。而马斯克同黄仁勋在会上，分别坐在特朗普两边。
曾经与特朗普唱反调、公开呼吁放慢AI发展的阿莫迪，与特朗普一同见记者时，再次警告AI存在风险，指业界正商讨如何应对。 上周以AI代理失控增加为由，宣布暂停训练旗下能力最强模型的OpenAI行政总裁奥尔特曼，接受CNBC访问，指正调整开发速度，包括有时暂停训练模型，强调必须以非常有把握的安全论证推进工作，避免带来焦虑。
