白宫最新措施以规范人工智能工具

关键要点

• 白宫计划通过施压科技领袖、资助更多研究中心以及支持全球最大规模的人工智能黑客马拉松，来监管人工智能工具。
• 副总统卡马拉·哈里斯与四位主要AI公司的首席执行官举行了会议，以讨论与该技术相关的风险。
• 新的倡议包括投资1.4亿美元建立七个国家AI研究所，推动负责任的AI创新。

白宫采取了一系列新举措，以确保人工智能工具的安全性，包括施压科技公司、资助更多研究中心以及支持即将在DEFCON31网络安全大会上举行的全球最大规模AI黑客马拉松活动。

副总统卡马拉·哈里斯周四主持了一次会议，与四家在人工智能领域投入巨资的公司的领导人进行“分享关注”，讨论与该技术相关的风险。参与会议的人员包括OpenAI首席执行官萨姆·奥特曼、Anthropic首席执行官达里奥·阿莫戴、微软董事会主席兼首席执行官萨蒂亚·纳德拉，以及谷歌和Alphabet首席执行官桑达尔·皮查伊。

美国总统乔·拜登短暂参加了会议，他对业界领袖表示：“你们所做的具有巨大的潜力和巨大的危险。”

这次会议被声明为白宫与倡导者、企业、研究人员、公民权利组织、非营利组织、社区、国际伙伴等多个方面共同参与解决关键AI问题的努力的一部分。

“私营部门有道德、法律和伦理责任，确保其产品的安全性和可靠性。”哈里斯在会议后发表声明指出。

根据白宫发布的会议摘要，该会议围绕三个关键领域进行了“坦诚而建设性的讨论”：企业需要更多地向政策制定者、公众及其他人们透明其AI系统；能够评估、验证和确认AI系统的安全性、可靠性和有效性的重要性；确保AI系统免受恶意行为者和攻击的必要性。

面对脸书创始人兼Meta首席执行官马克·扎克伯格未出席会议，部分业内观察人士感到吃惊，考虑到该公司在人工智能方面的重资投资。

一位政府官员告诉CNN，Meta并未受邀参加此次会议，原因是会议“专注于目前在这一领域领先的公司，尤其是在面向消费者的产品方面。”

同时，白宫周四也公布了新举措，促进负责任的AI创新。

国家科学基金会将投资1.4亿美元来建立七个新的国家AI研究所，使全国的研究所总数达到25个。这些研究所旨在成为高等教育机构、联邦机构、行业等之间协作努力的催化剂，追求符合伦理、可靠和为公众利益服务的变革性AI进展。

白宫还将支持即将于8月在DEFCON 31上举行的有史以来最大规模的公众生成AI安全审查活动。

参与此次黑客马拉松的AI开发者包括Anthropic、谷歌、Hugging Face、微软、NVIDIA、OpenAI和StabilityAI，这将吸引成千上万的DEFCON与会者寻找其大型语言模型中的漏洞。

“这个独立的活动将为研究人员和公众提供关于这些模型影响的重要信息，并使AI公司和开发者能够采取措施修复在这些模型中发现的问题，”白宫表示。

AI Village的创始人斯文·卡特尔表示，与大型语言模型相关的“多样问题”需要更多人来评估和调试才能得以解决。

“漏洞赏金、现场黑客活动，以及其他标准的安全社区参与活动可以为基于机器学习模型的系统进行调整。这一举措可以通过一个活动满足两个需求，缓解危害并增加懂得如何帮助的研究人员社区。”

白宫表示，其新宣布的努力确保人工智能创新以负责任的方式进行，这些措施包括早先的倡议，如《人工智能权利法案蓝图》和去年秋季宣布的相关行政行动，以及今年早些时候发布的《人工智能风险管理框架》。