Lakera获2000万美元,专门保护生成式AI产品安全
添加书签专注AIGC领域的专业社区,关注微软&OpenAI、百度文心一言、讯飞星火等大语言模型(LLM)的发展和应用落地,聚焦LLM的市场研究和AIGC开发者生态,欢迎关注!
安全初创公司Lakera宣布获得2000万美元A轮融资,本次由Atomico领投,Citi Ventures、Dropbox等跟投。
目前,全球各行业都在实际业务流程中尝试使用生成式AI产品,但如何保护业务不受黑客攻击,打造安全的壁垒防止模型被破坏成为一个难题。
Lakera基于AI-first自研技术打造了一个专门用于保护生成式AI安全的产品Lakera Guard。企业只需要通过API就能快速将其集成在产品中,而无需更改任何代码。其主要特色功能如下:
实时防护:Lakera提供实时的生成式AI防护安全,确保不会被操纵执行非预期动作、输出。对于防止通过提示和数据投毒等新出现的攻击方法至关重要。
超低延迟API:Lakera提供的API具有超低延迟,能在不影响用户体验的情况下,提供与任何生成式AI产品兼容的安全层。
集中控制:Lakera允许客户通过在应用程序中集成单一API来集中管理产品安全,通过设置应用特定的策略,并在开发人员不需要对生成式AI应用程序进行任何更改的情况下,自动应对新出现的安全威胁。
强大的训练数据:Lakera使用了全球最大的红客安全平台Gandalf的训练数据。Gandalf每天可以产生数以万计的独特新攻击的实时AI威胁数据,这为Lakera训练其安全模型提供了宝贵的数据资源。
部署灵活:Lakera的部署支持云和本地部署,可以轻松地集成到组织内的多个生成式AI产品中。还提供了内容审核能力,保护用户免受有害内容、错误信息和模型不一致的影响。
此外,Lakera Guard还支持持续的评估、跟踪、报告和负责任地管理AI系统,确保组织内的生成式AI应用始终安全。
Lakera表示,本次完成的A轮融资,不仅加速了Lakera的产品开发,还扩大了公司在美国和欧洲的业务战略。同时,Lakera正在积极招聘AI人才,进一步巩固其在生成式AI安全的发展。
本文素材来源Lakera官网,如有侵权请联系删除
END
本篇文章来源于微信公众号: AIGC开放社区