2月19日，美国防高级研究项目局（Defense Advanced Research Projects Agency，DARPA）启动了“竞争力感知机器学习（Competency-Aware Machine Learning）”项目，该项目的目标是发展可对自身行为建模、回忆以往经验，并针对新环境新条件应用知识的新型人工智能工具。国防高级研究项目局认为，获得上述能力支持的人工智能将能够根据给定任务来评估自身的能力，并在无法胜任工作时告知其人类用户。

当前的人工智能系统最适用于非常清晰明确且目标单一的任务，如果任务环境条件发生轻微变化，即便是经过精细优化的系统也可能无法正常工作。例如一个用于分类犬只的人工智能工具可在日光照射下良好工作，但有可能在光照不良的情况下将一条金毛猎犬误认作一条黑色拉布拉多犬。人工智能系统无法判断其自身在给定条件下所作决策的准确性如何，也无法知晓自身是否已针对当前任务进行足够训练，而在高风险快节奏的军事行动领域，这样的不确定性是非常危险的。因此，国防高级研究项目局在项目建议征求文件中指出，“机器需要取得其用户的信任，机器学习系统才会从工具转变为合作伙伴。建立信任的重要一环是了解机器的竞争长项，并深入地掌握机器的能力、经验和可靠程度”。

按照国防高级研究项目局的规划，参与该项目的科研团队将在四年的时间里，发展可进行“建立过往经验的记忆”和“分析自身决策过程”两项工作的系统原型，而后这些原型将在美国防部的平台上进行部署和测试。将人工智能从一个有用的工具，转变为“可协作的伙伴”是国防高级研究项目局目前的优先工作方向之一。国防高级研究项目局还计划在未来五年里，投资20亿美元发展所谓的“第三代人工智能（Third-Wave AI）”，即可以通过推理来解决现实世界问题，并为其用户提供新解决方案的人工智能。

国防高级研究项目局当前还开展了一系列涉及人工智能的研究项目，包括自动化科研过程的“人工智能探索（Artificial Intelligence Exploration，AIE）”、将常识引入机器学习领域的“机器常识（Machine Common Sense）”、模仿昆虫大脑的“微小尺寸仿生强化人工智能网络（Microscale Biomimetic Robust Artificial Intelligence Network，MicroBRAIN）”和实现脑机接口的“下一代非手术植入神经技术（Next-Generation Non-Surgical Neurotechnology，N3）”等。

声明：本文来自国际安全简报，版权归作者所有。文章内容仅代表作者独立观点，不代表士冗科技立场，转载目的在于传递更多信息。如有侵权，请联系 service@expshell.com。