美国管理和预算办公室(OMB)已发布推进政府负责任地获取人工智能技术备忘录(M-24-18)根据新闻稿10月3日。成功使用商业提供的AI需要负责任地采购AI。这份新备忘录确保当联邦机构获取AI时,他们能够适当管理风险和性能;促进竞争市场;并实施结构来治理和管理与获取AI相关的业务流程。

作为拜登-哈里斯政府致力于为了国家安全、经济和社稷民生而领导的承诺的一部分,该指导意见是总统拜登历史性举措的最新成果之一。行政命令( EO )关于安全、可靠和可信的人工智能开发与使用该行政命令指示采取全面行动,以增强人工智能的安全性和安全性,保护美国人的隐私,推进平等和公民权利,维护消费者和工人的权益,促进创新和竞争,并在全球范围内推动美国的领导地位。

作为美国经济中最大的单一买家,联邦政府每年的支出超过7500亿美元,其采购决策可以产生深远的影响。2023年,仅在IT产品和服务上,联邦政府就购买了超过1000亿美元的产品和服务,这种采购能力可以在包括人工智能在内的关键领域加速技术进步。

OMB M-24-10,于2024年3月发布的M-24-18创造了历史,首次提出了政府范围内的强制性要求,以加强机构在使用人工智能方面的治理、创新和风险管理。M-24-18在此指导的基础上制定,旨在帮助机构负责任地采购AI。

机构获取人工智能在许多方面类似于购买其他类型的信息技术,但同时也带来了新的挑战。M-24-18通过发布要求并围绕三个战略目标提供建议来帮助机构预测和应对这些挑战。

管理AI风险和性能

人工智能系统构建、训练和部署的复杂性为机构获取人工智能带来了一些考虑和挑战。因此,M-24-18 包括管理人工智能风险和性能的最佳实践和具体要求,并对与影响权利和安全的人工智能用例相关的获取增加了额外的要求。备忘录:

• 要求机构隐私官员和计划在人工智能采购过程中尽早并持续参与,以便能够识别和管理隐私风险,并确保符合法律和政策。

• 呼吁机构与供应商合作,了解人工智能的获取时间以及此类获取触发对影响权利和安全的人工智能的额外风险管理要求的时间。

• 促进采用创新型成果导向的采购技术,以增强机构有效规划、管理和持续降低风险的能力,并推动绩效提升;

• 指示各机构与供应商谈判适当的合同要求和评估流程,以确保供应商提供足够的信息供机构评估供应商的声明、识别和管理风险、进行影响评估,并履行通知受影响个人和实施申诉的要求;并且

• 指导合同条款的谈判,以保护政府数据和知识产权,并明确规定在AI参与影响公众的决策时确保安全使用的条款。

通过创新收购促进竞争性的AI市场

随着人工智能的发展,机构必须能够访问来自多样且不断变化的供应商市场中的最佳可用解决方案。M-24-18呼吁各机构确保强有力的竞争——既为了增加联邦政府的价值,又为了减少对权利和安全的风险,包括通过以下方式:

• 主动在建立合同要求时采用旨在最小化供应商锁定的获取原则;

• 在市场调研、需求开发和供应商评估过程中明确考虑互操作性和透明度;

• 利用创新的采购实践来确保承包商的良好表现和任务成果。

确保联邦政府各部门之间的协作

管理新兴风险和迅速发展的人工智能技术格局需要机构建立跨职能团队,包括具备人工智能专业知识的官员以及其他相关领域的人员——如采购、网络安全、隐私和公民自由等方面的人员——以支持战略规划和人工智能的获取。通过跨机构理事会和其他努力,各机构将共同努力分享经验教训,为未来的政策和程序工作提供信息,从而支持有效且负责任地获得人工智能。

这些合作应包括以下考虑因素:

• 识别和优先考虑最能服务于机构使命的人工智能投资;
• 开发部署任何获取的人工智能的能力;和
• 推广跨职能最佳实践的采用,为期使用期间。

作为拜登-哈里斯政府负责任创新全面战略的一部分,该指导旨在作为第一步,帮助机构和供应商随着人工智能市场继续发展而共同成长——为确保联邦采购的人工智能能使机构能够负责任地优化他们为美国人民提供的服务绘制路线图。

Homeland Security Today