华盛顿——7月26日星期五,拜登总统发布了具有里程碑意义的行政命令(EO)14110“安全、可靠和值得信赖的人工智能开发和使用”,这已经270天了,确保美国在应对其风险的同时引领世界抓住人工智能(AI)的承诺。在整个与人工智能相关的工作中,国土安全部(DHS)一直保持着一套明确的原则和强有力的治理,优先考虑保护公民权利、公民自由和隐私,并增加与受影响社区的接触。
要了解有关国土安全部在人工智能方面工作的更多信息,请访问国土安全部的人工智能网页。
进行了新的人工智能试点,以识别和消除关键的美国政府软件、系统和网络中的漏洞
根据第14110号行政命令的指示,网络安全和基础设施安全局(CISA)代表国土安全部开发、实施并完成了一个操作试点,使用人工智能功能来支持CISA的网络安全任务,以检测和补救关键美国政府软件、系统和网络中的漏洞。
通过这次操作试点,CISA检查了当前使用人工智能的漏洞检测软件产品,包括大型语言模型,在检测漏洞方面是否比不使用人工智能的产品更有效。
报告发现,人工智能在漏洞检测方面的**用途目前在于补充和增强,而不是替换现有工具。
人工智能工具正在不断改进,CISA将继续监控市场和测试工具,以确保CISA的漏洞检测能力保持***。
制定了与盟国和合作伙伴合作的人工智能国际参与计划
国土安全部与我们的国际盟友和合作伙伴(包括加拿大、墨西哥、欧盟)和五眼合作伙伴制定了关于人工智能和关键基础设施的全面参与战略,涵盖从网络安全到跨国基础设施的一切。该协作战略确定了美国及其盟友检测、阻止和预防人工智能、网络和关键基础设施安全关系威胁的方法。
该战略概述的努力包括通过现有和新颖的国际论坛分享经验教训和威胁信息,并就新的机会和风险进行识别和合作。国土安全部将与我们最亲密的安全盟友进行广泛接触,以支持拜登-哈里斯政府的人工智能国家联络小组,七国集团和经济合作与发展组织等多边努力,以及与国家(包括拥有共同关键基础设施的国家)的关键双边接触。
为“人工智能军团”聘请了15名新专家,他们正在帮助国土安全部任务区负责任地利用人工智能
作为该部“人工智能军团”招聘冲刺的一部分,国土安全部已经招募了**批来自私营和公共部门的15名人工智能专家,在该部的战略任务领域负责任地利用人工智能发挥了关键作用。人工智能军团是任何联邦民事机构中最重要的人工智能人才招聘工作之一,旨在雇用50名人工智能专家来加强服务交付并影响国土安全任务,同时保护隐私、公民权利和公民自由。
人工智能军团成员目前正在与国土安全部供应链复原力中心合作,调查如何利用人工智能来预测关键供应链中断对公共安全和安保的影响;与国土安全部科学技术(S&T)合作,在人工智能系统的整个生命周期内制定测试和评估(T&E)要求;并利用生成性人工智能来支持该部国土安全调查(HSI)部门打击芬太尼、人口贩运、儿童剥削和其他犯罪网络的工作。
除了人工智能团队外,国土安全部伙伴关系和参与办公室(OPE)聘请了一名新的人工智能高级主任,以进一步加强该部跨部门对人工智能的参与,履行人工智能路线图中概述的承诺,并为利益相关者的持续反馈和信息共享建立一个渠道。
召集了人工智能安全和安保委员会,并采取措施加强人工智能安全和安保
在总统的指示下,国土安全部长亚历杭德罗·N。Mayorkas成立了人工智能安全和安保委员会(AISSB),这是一个无与伦比的人工智能***聚会,代表硬件和软件行业的知名公司、人工智能模型实验室、关键基础设施所有者和运营商、民权领袖以及联邦、州和地方官员。总统指示董事会就人工智能的安全可靠开发和部署向秘书和关键基础设施社区提供建议、信息和建议。
董事会于2024年5月召开了成立会议。从那时起,该部和董事会一直在制定指南和实践标准,以改善整个人工智能生态系统的人工智能安全和安保。安全、可靠和值得信赖的人工智能的部署产生了消费者的信任,并推动了采用和创新。如果我们保护系统免受安全和安保威胁,人工智能可以大大改善国家关键基础设施提供的服务。
与16个团体会面,以更好地确保在人工智能采用中保护公民权利、公民自由和隐私
通过国土安全部人工智能工作组,国土安全部民权和公民自由办公室(CRCL)与国土安全部隐私办公室合作,牵头开发量身定制的方法,为国土安全部人工智能工作组倡导的项目中保护公民权利和公民自由提供指导、风险评估、缓解战略和监督。
2024年3月,该部启动了人工智能路线图,其中详细介绍了测试技术的使用情况的计划,这些技术为美国公众带来有意义的好处,并推进国土安全,同时确保个人的隐私、公民权利和公民自由受到保护。
在国土安全部伙伴关系和参与办公室(OPE)的领导下,该部正在履行其承诺,以确保更多地参与社区组织;民权和公民自由组织;学术机构;行业;国家、地方、部落和地区政府;以及其他利益相关者开发和部署人工智能。在2024年春季由OPE与国土安全部领导层领导的最初一系列人工智能和民权参与的基础上,OPE促进了Mayorkas部长与民间社会领导人的接触,以讨论人工智能路线图。在他的参与中,国务卿强调了人工智能路线图的方向,以确保负责任和值得信赖地使用人工智能,并明确承诺继续与民间社会建立伙伴关系和接触。该部继续与多个民间社会、学术界、行业和其他组织接触,讨论隐私、公民权利和公民自由保护和影响,以及如何通过国土安全部人工智能路线图解决这些问题。
这些努力建立并扩大了该部今年早些时候宣布的正在进行的人工智能举措,以促进人工智能在联邦政府、关键基础设施和美国经济中安全负责的部署和使用