美国参议院提交《安全人工智能法案》旨在建立违规行为数据库

站长之家(ChinaZ.com) 5月2日 消息:参议院近日提交了一项新法案，旨在通过强制创建记录所有人工智能系统违规行为的数据库来跟踪安全问题。该法案由参议员马克·华纳（D-VA）和汤姆·蒂利斯(Thom Tillis)(北卡罗来纳州)提出，名为《安全人工智能法案》。

根据该法案，将在国家安全局建立人工智能安全中心，领导“反人工智能”研究并制定防止反人工智能措施的指南。

此外，法案要[]求美国国家标[]准与技术研究[]院（NIST[]）以及网络安[]全和基础设施[]安全局创建人[]工智能违规数[]据库，包括“[]未遂事件”。[]华纳和蒂利斯[]重点关注对抗[]人工智能的技[]术，将其分类[]为数据中毒、[]逃避攻击、基[]于隐私的攻击[]和滥用攻击。[]

人工智能安全[]已成为拜登政[]府人工智能行[]政命令中的关[]键项目之一，[]指示NIST[]制定“红队”[]指导方针，并[]要求人工智能[]开发人员提交[]安全报告。为[]确保人工智能[]模型的安全性[]，开发人员应[]进行广泛的红[]队测试。一些[]公司如微软已[]经创建了工具[]来帮助为人工[]智能项目添加[]安全护栏。

《安全人工智能法案》目前需通过一个委员会审议后，方可提交至更大的参议院审议。