领跑AI安全领域,RealAI为人工智能发展注入安全基因

王志臣 2020-01-18 15:24

目前人工智能技术已经在人脸识别、自动驾驶、游戏决策等方方面面影响着我们的生活。然而虽然行业发展迅速,但距离真正的“人类智能”却还相距甚远,当前的人工智能只在数据充足的封闭单任务场景中取得了比较明显的突破,如果遇到数据知识缺乏、非完全信息、不确定等场景,基本上就变得“无计可施”。

为了满足未来人工智能发展的需求,清华大学率先提出发展第三代人工智能,也就是安全、可靠、可信的人工智能,其中安全性为首要发展重点。在这一思路的指引下,北京瑞莱智慧科技有限公司(简称RealAI)于2018年7月正式成立,致力于推动人工智能向安全可控的方向发展。

瑞莱配图.png

本文文章插图来源于瑞莱智慧

AI安全市场未来可期,RealAI技术先行

随着AI技术应用越来越广泛,潜在的安全风险越发显现,AI安全面临着严峻的挑战。一方面当前的AI算法本身存在巨大的安全漏洞,比如“对抗样本”就是深度神经网络存在的一大安全盲点,另一方面,AI技术被滥用引发出更多潜在的安全隐患,包括隐私泄漏、身份危机等,甚至催生出新型黑产,比如色情黑产链、新型金融欺诈等。

并且随着Deepfake、DeepNude等事件越演愈烈,走向也越来越不可控,实质性的安全重视和解决人工智能的安全问题,难以持续健康地推动AI技术在更多场景落地。

据田天介绍,经过十余年的探索,ReaIAI团队在贝叶斯深度学习、AI对抗攻防等领域拥有深厚的技术积累,率先自主提出多项攻防算法,荣获人工智能安全领域多项世界冠军,称得上世界人工智能安全领域的“引领者”。在2019GeekPwn国际安全极客大赛中,RealAI与清华大学联合组成的战队更是一举获得“CAAD CTF 图像对抗样本挑战赛”以及“CAAD 隐身挑战赛”两项比赛冠军。

专注AI安全赛道,为AI发展注入安全基因

在业务布局上,RealAI一方面解决AI应用所产生的安全问题,提升AI本身安全性,检测和防范AI滥用风险,另一方面用安全可控AI赋能产业,让金融、工业、社会治理等领域更安全、更高效。

安全业务上,RealAI基于世界领先的对抗攻防技术挖掘新型算法漏洞,同时利用对抗训练等方法进一步打造AI防火墙,达到检测和防御攻击行为的双重目的,增强现有人脸/图像识别、语音识别等算法的安全性,可应用于刷脸支付、智慧安防等领域的安全防护。针对Deepfake、ZAO等深度伪造内容,RealAI开发出更精准的检测产品,与传统内容审核场景相结合,打造出更健康、更安全的内容环境,具体产品包括Deepfake深度伪造视频检测、新型鉴黄/暴恐内容审查、假冒伪劣产品鉴定等。

在利用安全可控人工智能赋能产业方面,针对传统金融、工业等领域面临的各类智能化升级问题,RealAI通过打造具备行业属性的安全AI系统来帮助提升业务效率与安全性,提供机器学习建模平台、金融信贷风控模型、工业设备资产运营优化服务等产品。

RealAI已经与国内多家大型金融机构、工业企业、政府部门开展合作,提供人工智能系统安全性检测、AI防火墙、AI虚假内容检测、金融风控和工业设备资产运营管理等产品。 

目前RealAI团队总人数超过50人,约20%为博士,50%为研究生,作为清华大学人工智能研究院的孵化企业,RealAI由清华大学人工智能研究院院长张钹院士、清华大学人工智能研究院基础理论研究中心主任朱军教授共同担任首席科学家,还有来自曾供职于顶尖互联网企业的产品与开发人员,拥有世界顶级AI技术研发与应用落地的能力。RealAI创始人兼CEO田天为清华大学博士,人工智能专家,曾荣获西贝尔学者称号,为清华大学特等奖学金得主,入选福布斯中国30岁以下精英榜。2019世界人工智能大会上,田天被AI青年科学家联盟授予“青年AI科学家”称号。

本文相关的文章列表页头图图片来源于瑞莱智慧,经授权使用。本文为创业邦原创,未经授权不得转载,否则创业邦将保留向其追究法律责任的权利。如需转载或有任何疑问,请联系editor@cyzone.cn。


  • APP
  • 公众号
  • 微博
  • 知乎
中国创业者的信息平台和服务平台,帮助中国创业者实现创业梦想
创业邦公众号,带你随时了解与创业有关的人、事、钱
邦哥自留地,轻松充电,秒知圈内事
创业邦知乎机构号,带你以另一种方式了解世界