“ASI禁令”草案由无党籍参议员桑德斯（Bernie Sanders）与民主党众议员卡萨尔（Greg Casar，暂译）于9月23日提出，安萨里是众议院版本的发起人之一。该草案建议永久禁止研发或部署“超级AI”，并成立全新的联邦专责机构以暂缓先进AI的开发进程，个人违规最高可判监20年。
根据法案草案内容，“人工超级智慧”(ASI）被视为在大多数领域均超越人类认知表现，又或具备策划削弱人类主导权，甚至有能力推翻美国政府的AI系统。法案禁止任何人或机构开发、部署、拥有或资助ASI，以及任何展现“超级智慧前兆特征”的系统。相关危险特征包括：具备自主规避关机指令、进行未授权网络攻击、提升核生化武器设计能力或进行自我递归改进等失控风险。
在监管架构方面，草案规划设立内阁级的专责机构“人工智能部”(Department of Artificial Intelligence)，由总统任命部长并设立专家咨询委员会，全生命周期监控前沿模型。在该部门正式运作并建立安全审查机制前，算力达到10的25次方运算以上的先进AI系统将实施强制暂缓研发。
违规企业可被撤销营运资格
该法案还指示政府与其他国家就AI安全标准达成国际协议，这或意味著对那些继续在国际框架之外开发这些系统的国家施加限制。
根据草案，任何违规企业可被撤销营运资格、强制解散，并没收资产，被形容等同被判“死刑”。个人则最高可判联邦监禁20年，其量刑标准比照现行非法研发核武器之重大国安罪行；非决策员工违规亦面临10年产业禁业处分。
民主党在中期选举取得压倒性胜利后，民主党籍众议员安萨里4日发文称，民主党人在新国会开议首天的首要任务，应该是暂停先进人工智能的研发，监管这个失控的行业，并禁止超级AI。其贴文随即引起广泛关注，也令“ASI禁令”再次成为焦点。
责任编辑:admin
