
财联社7月29日讯(编辑 李莹) 当地时间7月28日,美国多家头部AI企业的高管与员工共1100余人联合请愿,希望美国政府推动建立一项国际协作机制,以在必要时刻主动管控前沿AI的发展速度。 这份请愿书的核心诉求是希望各国共同为"何时该放慢AI研发"建立一套工具与机制——当AI研发自动化(即AI自己改进AI)取得突破时,能够有一道"国际刹车"被及时踩下。 上周,OpenAI披露其最先进的AI模型在一次测试中入侵了AI初创公司Hugging Face的内部系统。 这起事件被外界普遍视为前沿AI能力风险加剧的信号,也再次点燃社会对AI自主发现并利用软件安全漏洞的担忧。 以下为请愿书主要内容的翻译: AI有望创造一个更加美好的未来,但这一前景并非必然实现。全球头部AI企业认为,人类距离实现AI研发自动化已不再遥远。目前难以准确预判这一突破将以何种速度推动AI技术发展,但确实存在这样一种风险:AI技术加速迭代,最终超出人类理解与管控的能力。 想要释放AI的全部潜力,行业、各国政府以及整个社会或许需要争取一定的缓冲时间,以应对不断涌现的风险、搭建安全防护手段并强化监管。然而,各家企业与各个国家都面临激烈的竞争压力,难以单方面放缓技术迭代速度。当下,全球社会依然缺乏能够审慎调控全域前沿AI发展进程的技术工具与治理机制。 在现有前沿模型发布监测工作的基础上,我们提出呼吁: 我们恳请美国政府支持一项国际协作机制,以推动各国共同研发技术工具与治理体系,审慎调控AI研发自动化前沿领域的发展节奏。 该请愿书由两家非营利机构——Guidelight AI Standards与Encode AI——联合发起,签名者横跨OpenAI、Anthropic、Alphabet旗下谷歌、Meta等近十家头部AI公司,涵盖联合创始人、高管及研究人员。 截至当地时间周二下午,签名者包括美国Anthropic公司C…
说明:本文由公开 RSS 信源自动生成简短摘要,完整信息与著作权归原始来源,请以原文为准。