腾讯安全团队:谷歌AI学习系统存在重大安全漏洞

  腾讯安全团队:Google AI学习系统存在重大安全漏洞

  (原题:腾讯安全团队:Google AI学习系统存在安全漏洞)腾讯安全平台刀片团队日前发布消息称,该团队在Google人工智能学习系统TensorFlow代码审计中发现,系统存在重大安全漏洞,AI使用本系统编辑的场景,可能遭受恶意攻击。据腾讯安全平台负责人杨勇介绍,TensorFlow是一个免费提供给Google的AI设计人员的编程平台。程序员可以在这个平台上设计AI组件。 Yong表示,当一个包含安全风险的代码被编辑到人脸识别或机器人学习等AI使用场景中时,攻击者可以利用这个漏洞充分利用系统权限,窃取设计者的设计模式,侵犯用户隐私,甚至对用户造成更大的危害,杨勇说:“一般来说,如果设计者在机器人编程中只是使用含有漏洞的组件,那么恶意攻击者可能会利用这个漏洞来控制机器人,这是非常可怕的。我们处于AI安全领域只是向前迈进了一小步,期待更多的技术人员共同努力改进AI,使AI在未来更安全。 “Blade团队表示,TensorFlow是目前应用最为广泛的机器学习框架之一,已被用于许多人工智能场景,如语音识别,自然语言理解,计算机视觉,广告,无人驾驶等;一旦黑客控制,后果可能是灾难性的,目前,Blade团队已经向Google发送了一封关于漏洞利用机制的信件,这要求Google安全小组重新编辑代码,在这方面,一些业内专家表示担忧。上海市信息安全行业协会特别委员会主任认为,目前从事开发人工智能的企业几乎无一例外的算法和数据的整合,一些数据可能涉及企业和用户的核心机密,一旦发生安全事件违规,风险较高。张伟建议,企业应尽快检查是否有平台用于人工智能编程,而业界应加强沟通,消除潜在的安全隐患。