FTC针对ChatGPT的数据安全、虚假信息等展开调查

添加书签

专注AIGC领域的专业社区,关注OpenAI、百度文心一言等大语言模型(LLM)的发展和应用落地,关注LLM的基准评测和市场研究,欢迎关注!

近日,华盛顿邮报消息,美国联邦贸易委员会 (FTC)已对OpenAI展开广泛调查,包括ChatGPT是否存在窃取个人数据隐私、泄露用户数据和非法搜集数据等,从而违反了消费者保护法。

华盛顿邮报表示,这是OpenAI在美国面临最大监管机构的调查。将有利于生成式AI行业建立规范化的数据安全策略,以及规范行业准则。但OpenAI若违反了消费者保护法,将面临巨额罚款。

FTC被誉为“美国硅谷警察”,曾对亚马逊、Meta、Twitter等科技巨头展开过调查,并开出巨额罚款。

FTC发布的调查文件

根据FTC发布的一份长达20页调查报告显示,要求OpenAI提供有关如何解决AI模型相关风险的记录;要求OpenAI提供收到的所有投诉的详细描述,这些投诉涉及ChatGPT对用户做出的虚假、误导、贬低或有害的内容;

要求OpenAI披露今年3月份出现的一次用户数据泄露事件,当时ChatGPT存在一个错误允许一些用户查看与支付相关的信息,以及其他用户聊天记录中的一些数据。

此外,FTC还对OpenAI的数据搜集策略,是否存在不公平或欺骗性行为,导致消费者名誉受损。

对于此次调查行动,FTC拒绝发表任何评论。而OpenAI联合创始人兼首席执行官 Sam Altman在社交平台上表示,将全面配合FTC的调查。

FTC为何调查OpenAI

早在今年3月30日, FTC接到人工智能和数字政策中心(CAIDP )的投诉,要求对OpenAI及其产品GPT-4进行调查。

CAIDP表示,OpenAI违反了 FTC法案第5节、FTC AI产品指南和AI治理规则,存在偏见、欺诈,并对隐私和公共安全构成风险。要求FTC对Open AI展开调查并暂停GPT产品的商业部署,直到该公司遵守FTC对AI产品的指导方针。

CAIDP总裁兼总法律顾问Marc Rotenberg表示,FTC有明确的责任调查和禁止不公平和欺骗性的贸易行为。我们认为FTC应该密切关注OpenAI和GPT-4。我们特别要求FTC确定,Open AI是否遵守了联邦机构发布的指南。

OpenAI积极构建数据安全方法

为了提升ChatGPT等生成式AI产品的安全,今年5月25日,OpenAI宣布旗下的非营利组织 OpenAI, Inc.启动一项“AI民主”计划。投资10笔10万美元共计100万美元资金,以资助实验建立一个民主程序,来决定AI系统在法律规定的范围内应遵循哪些规则。

OpenAI表示,ChatGPT等AI将对社会产生巨大影响和经济效益。但AI在提供商业价值的同时应该遵守法律框架、尊重个人数据隐私等,需要更复杂和适应性更强的行为准则。希望通过本次计划邀请世界各地的团队来开发民主过程的概念验证。

该过程可以回答有关人工智能系统应遵循哪些规则的问题。希望从这些实验中吸取教训,并将它们作为未来全球化技术推广的安全规则基础。

本文素材来源华盛顿邮报,如有侵权请联系删除

END