美国商务部成立新的工作组,应对ChatGPT等生成式AI风险

添加书签

专注AIGC领域的专业社区,关注OpenAI、百度文心一言等大语言模型(LLM)的发展和应用落地,关注LLM的基准评测和市场研究,欢迎关注!

近日,美国现任商务部长Gina Raimondo宣布,美国国家标准与技术研究院 (NIST) 将成立一个新的人工智能公共工作组,以应对可以生成文本、图片、音乐、视频等生成式AI带来的风险与挑战。
该工作组还将帮助NIST制定关键指南,以帮助组织解决与生成式AI技术相关的特殊风险。(AI RMF 风险管理框架地址:https://www.nist.gov/itl/ai-risk-management-framework
Raimondo表示拜登总统已经明确指示,必须努力利用AI的巨大潜力,同时要管理好生成式AI对美国的经济、国家安全和社会构成的各种风险。最近发布的 NIST人工智能风险管理框架可以最大限度地减少生成式AI造成的潜在危害。
在该框架的基础上,这个新的公共工作组将帮助为那些正在开发、部署和使用生成式AI并有责任确保其可信度的组织提供必要的指导。
美国商务部官网信息
该公共工作组将招募志愿者以及来自私营企业和公共部门的AI专家,将重点关注与AI相关的风险,加速生成式AI以安全的方式实现场景化落地和产品迭代。
美国商务部负责标准与技术的副部长兼NIST主任 Laurie E. Locascio表示,考虑到生成式AI拥有前所未有的发展速度、市场规模和潜在商业影响,以及它给许多行业和社会带来更广泛变革的潜力,这个新小组的成立显得尤为及时。我们希望识别和开发工具来更好地理解和管理这些风险。
NIST为新的工作组制定了短期、中期和长期三个目标。初期目标,将作为收集指导意见的工具,概述如何使用NIST 人工智能风险管理框架(AI RMF),来支持生成式AI技术的开发。该指南称为“概要文件”,将支持和鼓励使用 AI RMF 来解决相关风险。
中期目标,该工作组将支持NIST在生成式AI相关的测试、评估等技术方面的工作。同时包括支持 NIST 参加 “2023 DEF CON AI Village”,这是运行时间最长、规模最大的计算机安全和黑客会议。
长期目标,该小组将探索特定的机会,以提高有效利用强大的生成式AI技术来解决,在健康、环境和气候变化等领域面临的主要挑战的可能性。该小组可以帮助确保在AI应用程序开发和使用之前、期间和维护等管理各种风险。
有兴趣加入NIST新成立的生成式 AI 公共工作组的人员,可以在7月9日之前填写申请表格(地址:https://docs.google.com/forms/d/e/1FAIpQLSdbEDFgGfLTnmGjMqM95wzvhPWUlN6rGdb-hv1VWm4QIq_r9w/viewform)。
参与者将有机会选择帮助开发 AI RMF 的生成式 AI 配置文件,作为对团体贡献的一部分。此外,美国人工智能咨询委员会向总统提交了第一份报告,并确定了该委员会未来两年的重点工作内容。(报告地址:https://www.ai.gov/naiac/
关于NIST
NIST的全称为National Institute of Standards and Technology(美国国家标准与技术研究所),成立于1901年,是美国的一个联邦技术机构,隶属于美国商务部。
NIST的主要任务是推动美国的创新和工业竞争力,通过提供科技、计量和标准等领域的领导力。为实现这一目标,NIST进行了大量的研究,并为各种产品和服务设定了技术标准。
NIST的工作覆盖许多不同的科学和工程领域,包括物理学、材料科学、化学、生物学、工程、信息技术等。此外,NIST还负责制定和维护一系列重要的测量标准,包括时间、温度、长度、电力等。

本文素材来源美国政务官网,如有侵权请联系删除

END