护航AI︱绿盟科技入选首批“人工智能安全可信护航计划”合作伙伴单位

ChatGPT的爆火引发了社会各界对于人工智能未来的无限憧憬，但正如点亮现代科学史的核子技术既能提供无限能源也能成为毁灭武器一样，任何事物都有其“双面”性。如何保证人工智能被真善美应用是世界范围内关注的焦点，G20先前已提出“G20 人工智能原则”，美国会议员近期也考虑对ChatGPT加强监管。

不可否认，人工智能存在潜在甚至未知的诸多风险，如机器学习框架存在漏洞，深度学习算法可解释性差、数据易被污染、模型鲁棒性弱、带有偏见性、可能泄露隐私等，因此其安全性本身依赖创新技术来保证。绿盟科技多年来持续进行AI安全研究投入，在AI模型的鲁棒性增强、AI系统安全防护、AI应用安全、AI系统的安全性评估与测试等创新技术领域研究储备丰厚。基于这些能力，绿盟科技近年来承担了包括人工智能鲁棒性增强与安全测试、人工智能应用安全检测及保护、人工智能安全监测与风险预警等多个方向的国家级科研项目。

一直以来，绿盟科技积极融入AI安全生态。入选本次护航计划合作伙伴单位后，将坚持致力于全方位守好智能世界“安全底牌”，为人工智能系统和应用发展保驾“护航”。