·对于羁系机构大概利用何种方法来监视人工智能技能，大概由哪个机构牵头，美国尚未告竣明白的共识。土地争取战、政治分歧和有限的技能专业知识拦阻了管理科技行业的积极。在美国，科技行业没有雷同于科技部一样的中心管理机构，而是属于多个机构的管辖范围。 ·在美国科技界，对于人工智能的态度现在分为几大阵营：AI安全派、通用人工智能信徒、AI末日论者和AI伦理学家。他们之间的猛烈分歧正在加剧，对华盛顿的决议产生复杂影响。 在美国总统拜登就人工智能是否存在威胁亮相后，美国联邦当局各机构开始正式接纳羁系举措，寻求进步人工智能的安全性并将危害降至最低。 本地时间4月11日，美国商务部就ChatGPT等人工智能技能相干的问责步伐正式公开征求意见，包罗具有潜伏风险的新型人工智能模子在发布前是否应举行批准认证步伐。同日，美国联邦商业委员会也对羁系人工智能亮相。美国联邦实行室国家尺度与技能研究院则已订定负责任地利用人工智能的方法框架，并试图在当局的AI羁系工作方面饰演突出脚色。 在华盛顿，对人工智能的爱好和担心都在增长，保卫者和品评者越来越多地向国会过道双方的政策订定者示好。在科技界，基于管理人工智能的差别态度至少分成了四个阵营，这给决议带来了非常复杂的影响。现在，对于羁系机构大概利用何种方法来监视人工智能技能，大概由哪个机构牵头，美国尚未告竣明白的共识。土地争取战、政治分歧和有限的技能专业知识拦阻了管理科技行业的积极。在美国，科技行业没有雷同于科技部一样的中心管理机构，而是属于多个机构的管辖范围。 多个当局机构接纳举措 上周，拜登在白宫与一个科学家顾问委员会讨论了人工智能羁系的话题。当有记者问及人工智能技能是否有伤害时，拜登表现：“另有待观察，有大概（有伤害）。” ChatGPT等人工智能工具可以快速天生雷同人类利用的笔墨、图像与视频等。“这些工具即便在起步阶段就能做到这些，这真令人惊奇。”美国商务部部属机构国家电信与信息管理局局长艾伦·戴维森（Alan Davidson）11日说，“我们知道，我们必要设置一些边界，来确保这些技能被负责任地利用。”  美国国家电信与信息管理局局长艾伦·戴维森4月11日公布，就人工智能技能相干的问责步伐正式公开征求意见。 美国商务部提出，大概接纳审计体系，评估人工智能体系是否包罗有害私见或误解，从而流传错误信息或虚伪信息。戴维森表现，大概必要新的评估和协议来确保人工智能体系在没有负面影响的环境下运行，就像财政审计确认业务报表的正确性一样。 据戴维森先容，征求意见的限期为60天，这些意见有助于向美国的政策订定者提供有关怎样处置惩罚人工智能的发起。国家电信与信息管理局负责就技能政策向美国总统提供发起，而非撰写或实行法规。 美国联邦商业委员会消耗者掩护局局长山姆·莱文（Sam Levine）在本地时间4月11日的一次采访中表现，联邦商业委员会正在查抄天生式人工智能大概加剧诈骗或敲诈的方式。该机构2月发布了一篇说话猛烈的博客文章，告诫其正在关注企业是否发布有关人工智能技能的诱骗性声明。“近来天生式人工智能的一些发展带来了一系列全新的风险。”莱文说。 联邦商业委员会主席利纳·汗（Lina Khan）的两位前顾问安巴·卡坎德（Amba Kakand）和萨拉·迈尔斯·韦斯特（Sarah Myers West）也在克日号令羁系机构增强反攻，并在一份新陈诉中指出，科技行业的资源会合大概会加剧人工智能的危害。陈诉敦促联邦官员“敏捷”利用已经把握的工具，包罗反把持权利，并订定怎样抵抗硅谷“人工智能炒作”的门路图。 “少数私家举动者在开辟和流传人工智能作为关键的社会底子办法的同时，积聚了与民族国家相抗衡的权利和资源。”陈诉称。两位前顾问还特殊告诫，将美国人工智能发展速率与中国相提并论的言论，已被用来推动“在竞争、隐私和算法问责制的政策辩说中”放松管制。 与此同时，为新技能订定尺度的美国联邦实行室国家尺度与技能研究院（National Institute of Standards and Technology）已经订定了负责任地利用人工智能的方法框架。一位不肯透露姓名的知恋人士告诉《华盛顿邮报》，近来科技高管和立法者在硅谷举行了一个集会，与会者提出了由联邦实行室国家尺度与技能研究院协调解个当局AI工作的想法。 在此次集会上，关注与中国技能竞争的众议院小组的成员与科技高管讨论了怎样发展更多人工智能专业人才，高管们肯定了联邦实行室国家尺度与技能研究院的AI框架，该框架形貌了行业化解AI风险的最佳实践是什么，并推测联邦实行室国家尺度与技能研究院可以在增强当局AI工作方面发挥作用，就像网络安全和底子办法安全局（Cybersecurity and Infrastructure Security Agency）和谐当局应对网络攻击一样。 全面AI立法的大概性“微乎其微”？ 随着人工智能军备比赛在硅谷升温，华盛顿的机构正在积极研究，它们在羁系快速发展的技能方面应该饰演什么脚色。美国没有雷同于中国科技部的部分，只管在上世纪50年代，该国曾围绕是否设立科技部举行过一场大争论。 “由于未能创建相干体系，政策订定者正在为人工智能的恶意竞争创造条件。”政策研究机构艾达·洛芙莱斯研究所（Ada Lovelace Institute）所长卡莉·金德（Carly Kind）上个月告诫称。 弗吉尼亚州民主党众议员唐·贝耶（Don Beyer）曾诉苦，他提出的一项要求审计人工智能的法案未能得到支持，缘故原由是这个题目“对议员们来说并不紧急”。现年72岁的贝耶正在攻读呆板学习硕士学位。 加州共和党众议员杰伊·奥伯诺特（Jay Oberolte）是国会唯一拥有人工智能硕士学位的议员。他说，议员们乃至不明白这项技能：“令人惊奇的是，我花了太多时间向同事表明，人工智能的重要伤害，并不是眼睛里冒红光的闭幕者T800。” 另有一些议员则更夸大美国在人工智能发展方面保持向导职位的紧张性。得克萨斯州共和党参议员特德·克鲁兹（Ted Cruz）就曾指出，国会必须“确保美国在整个21世纪都保持环球向导者的职位”。 由于没有效来分配资源和增长羁系权利的新立法，美国各机构正忙着将现有工具应用到天生式人工智能的“狂野西部”。智库R Street Institute技能和创新团队的高级研究员亚当·蒂勒（Adam Thierer）以为，美国国会通过全面的人工智能法律的大概性“微乎其微”。“因此，全部的举措现实上都是在联邦机构层面举行的。” 现在，人工智能已融入美国人生存的关键范畴，羁系机构将面对一项特殊棘手的使命。研究通常不透明的AI体系必要先辈的技能操纵，向审计员提供访问AI用于练习的大型数据集的权限也会引发隐私题目。一些技能专家告诫称，合规负担大概会减弱美国公司的竞争本领。 人工智能“四大门派” 在民间，围绕人工智能羁系的讨论险些天天都在学术界或企业界睁开。 据美国媒体本地时间4月10日报道，闻名科技投资人、互联网“教父”罗恩·康威（Ron Conway）4月12日将在旧金山调集天生式人工智能的领头企业讨论人工智能政策题目，OpenAI、微软、谷歌、苹果、英伟达、Stability AI、Hugging Face、Anthropic等公司的高管与政策代表将出席该集会，讨论怎样负责任地开辟AI、分享最好的实践案例，并商讨相干的公共政策框架和尺度。 而在3月29日，特斯拉首席实行官埃隆·马斯克等千名业界和学界人士联署公开信，号令全部人工智能实行室立刻停息练习比GPT-4更强盛的AI体系，停息至少6个月，以便订定和实行安全协议。 在美国科技界，对于人工智能的态度现在分为几大阵营，他们之间的猛烈分歧正在加剧。  人工智能态度四象限图：往上是不能停，往下是减缓；往左是恐惊与绝望（反乌托邦），往右是优美与抱负（乌托邦）。 第一派是“AI安全（AI safety）派”。“AI安全”一词用来指现实的安全题目，比方确保主动驾驶汽车不会撞车。比年来，这个术语可以与“AI对齐”交换，用来形貌一个新的研究范畴：确保人工智能体系服从步伐员的意图，并防止大概伤害人类、寻求权利的人工智能。盛行于硅谷精英中的“有用的利他主义（effective altruism）”与这个阵营相干。此中很多人在OpenAI、DeepMind和Anthropic等顶级人工智能实行室工作。 第二派是“通用人工智能（AGI）信徒”。这个团体也关心AI安全，但对构建通用人工智能感到非常高兴。OpenAI和DeepMind这两个领先的人工智能实行室以此为任务，马斯克、OpenAI首创人山姆·奥特曼和硅谷投资大亨彼得·蒂尔（Peter Thiel）都是幕后的紧张人物。这个团体的影响力越来越大，以致微软首席实行官萨提亚·纳德拉、谷歌首席实行官桑达尔·皮查伊和微软首创人比尔·盖茨都在越来越多地评论通用人工智能。 第三派是“AI末日论者（AI Doomer）”。这群人和AI安全派有很多共同的信心，但他们更灰心，以为充足强盛的人工智能将清除人类。呆板谍报研究所（MIRI）团结首创人埃利泽·尤德考夫斯基（Eliezer Yudkowsky）是代表人物。他在《期间》杂志的一篇专栏文章中写道，美国在须要时应对外国数据中央举行空袭。近来，MIRI得到了以太坊团结首创人维塔利克·布特林（Vitalik Buterin）一轮新的投资。只管尤德考夫斯基的著作被品评为不得当当代的呆板学习，但他照旧影响了闻名盘算机科学家斯图尔特·罗素（Stuart Russell），而OpenAI首创人奥特曼对他也大加赞同。  埃利泽·尤德考夫斯基（左）与山姆·奥特曼（中）合影。 另有一派是AI伦理学家。他们多年来不停告诫大型人工智能模子存在题目，包罗输出种族和性别的私见言论，大概粉碎信息生态体系。这个阵营相对暖和，一些人以为AI技能可以在不伤害弱势人群的环境下发展。谷歌道德人工智能团队前负责人、分布式人工智能研究所（Distributed AI Research Institute）首创人蒂姆尼特·格布鲁（Timnit Gebru）是代表人物，她曾在欧洲议谈判到，必要迟钝的人工智能活动，减缓行业的步调，把社会安全放在第一。在当下的人工智能高潮中，只管许多科技公司都在开除其人工智能道德团队，但政策订定者和公众不停在谛听。 面临这些阵营发出云云多元的声音，美国政策界怎样听取发起并接纳举措仍需关注。 美国的羁系选项 就羁系可以采取的选项，美国国内的分析人士也举行了广泛讨论。 除了上述联名公开信，号令停息人工智能练习的另有前民主党总统候选人杨安泽。但反对者克日来也已充实表达了各自的意见。以谷歌前首席实行官埃里克·施密特为代表的科技界人士，以“失去和中国的竞争上风”为来由抵抗停息开辟的想法。美国网络司令部司令保罗·中曾根（Paul Nakasone）则告诉议员：“人工智能呆板学习是本日引起共鸣的东西，也是我们的对手将继承寻求使用的东西。” 别的一种更激进、也更不太大概实现的方式是对高级人工智能实行国际禁令。“AI末日论者”代表尤德考夫斯基就主张，在国际上永世克制练习比ChatGPT底层更强盛的大型语言模子。“假如有人创建了一个过于强盛的人工智能，在现在的条件下，我预计人类物种的每一个成员和地球上全部生物都会在今后不久殒命。”尤德考夫斯基在《期间》杂志的专栏文章中写道，人工智能练习禁令必要“无穷期和具有环球性”，天下各国当局必要接纳更多步伐来遏制AI开辟。 详细而言，尤德考夫斯基以为，GPU（图形处置惩罚器）是用于大型语言模子复杂盘算的专用处置惩罚单位，必要举行跟踪，大型GPU集群必要关闭，各国应该“通过空袭摧毁地痞数据中央”减轻人工智能威胁。 相比这些不切现实的愿景，立法规范人工智能的发展是更实际的路径。白宫已经发布了“人工智能权利法案”的蓝图，要求开辟职员在产物计划中夸大几个优先事项，此中包罗确保产物网络的数据不被滥用于恶意的目标，计划者要思量种族或性别方面的算法私见，全部网络的数据都通过得当的隐私步伐举行存储和掩护，以及用户必须知道算法何时正在影响他们的用户体验，假如他们乐意，可以选择退出。 与美国差别，欧盟现在已经在预备通过一项法案羁系人工智能，羁系内容包罗面部辨认和关键公共底子办法。该立法将要求人工智能公司对其技能举行风险评估，违背者大概会被罚款，最高可达其环球收入的6%。欧盟三大机构预计最早将于4月开始的三方会商中敲定人工智能法案的终极细节。 在中国，国家互联网信息办公室4月11日公布，为促进天生式人工智能技能康健发展和规范应用，国家互联网信息办公室根据《中华人民共和国网络安全法》等法律法规草拟了《天生式人工智能服务管理办法（征求意见稿）》，向社会公开征求意见。这份文件要求，使用天生式人工智能天生的内容应当表现社会主义焦点代价观，防止出现种族、民族等鄙视，防止天生虚伪信息，防止侵占知识产权等。文件要求，使用天生式人工智能产物向公众提供服务前，应当按照相干规定向国家网信部分申报安全评估。文件还提到，产物提供者应当按照《互联网信息服务深度合成管理规定》对天生的图片、视频等内容举行标识。 《互联网信息服务深度合成管理规定》于2022年12月12日由中国国家互联网信息办公室、工业和信息化部、公安部团结发布，2023年1月10日起施行。 对深度合成等人工智能天生内容举行标识，也是环球行业内常常被讨论的羁系方式。美国科技记者克里斯托弗·哈顿（Christopher Hutton）4月11日撰文发起，为了防止滥用AI天生的图像，美国国会可以通过立法，要求AI图像天生步伐在全部图像中包罗一个“水印”，以辨认其泉源。 在人工智能范畴，对面部辨认的羁系也是各国讨论的核心。除了欧盟正在立法外，美国多个都会和州已克制利用面部辨认软件。比方，纽约在2021年通过一项法律，克制在学校内利用该软件；加利福尼亚州2020年通过一项法律，克制执法部分在其随身摄像头中利用面部辨认。雷同禁令是否会在联邦层面上实行，值得关注。在中国，上海克日公示了《公共场合人脸辨认分级分类应用规范》（征求意见稿），面向社会广泛征求意见，值得留意的是，这是中国首个公共场合人脸辨认分级分类管理的地方尺度。 |
