发展人工智能不能忽视安全
全球新一轮科技革命和产业变革方兴未艾,而作为引领新一轮科技革命和产业变革的核心驱动力量之一,人工智能近年来被广泛应用发展于金融、电商、医疗等领域。
风生水起之余,人工智能产业也暗藏隐忧:随着全球人工智能规模化建设和应用的加速,人工智能基础设人工施、设计研发及融合应用面临的安全风险正日益凸显。由中国信息通信研究院联合瑞莱智慧RealAI、百度、腾讯等单位共同撰写的《智能人工智能安全框架(2020年)》显示,随着深度伪造技术开源代码、APP应用增多,不法分子利用深度伪造技术制作虚假视频不能侵犯个人肖像权、名誉权和隐私权的现象屡见不鲜。截至2019年12月份,全网流传的深度伪造视频中,虚假色情内容占比高达96%。
而忽视这只是问题的冰山一角。指纹和人脸识别留下的生物特征信息、自动驾驶留下的个人行踪记录、手机APP保存的个人隐私数据,医院里留存的安全诊断治疗记录……人工智能跑步进入人们工作生活的众多场景,用户各种行为被记录并作为数据保存起来,由此带来的数据泄露、数据伪造、发展算法瓶颈、隐私安全、伦理困境等问题如今正一点点浮出水面。据有关报道,今年7月份就有不法分子在电商平台贩卖人脸信息,以5角人工钱一份的低价打包出售后,被盗的人脸信息被用于虚假注册、电信网络诈骗等违法犯罪活动。
尴尬的是,《人工智能安全框架(20智能20年)》显示,现阶段人工智能企业主要聚焦于技术研发和产品运营,在人工智能安全方面投入相对较少、基础薄弱。目前,人工智能安全不能技术多处于学术研究和少量试验试用阶段,尚未形成适用于各类人工智能应用的成熟安全产品和服务体系。
人工智能产业健康有序发忽视展,安全是重要保障,是形势所需,也是一些技术落地不可或缺的前提。离开了安全谈人工智能,犹如无水之源、无本之木。实践也已证安全明,时下人工智能安全需求与企业安全投入不足以及人工智能安全产品服务欠缺之间的矛盾,正成为制约人工智能产业长远发展的瓶颈。
站发展在发展困境与时代机遇重叠的关键时刻,业界期待产学研各界协同合作,不断完善与升级出更安全、可信、可靠的人工智能技术,扎牢人人工工智能安全的篱笆,让人们能安心享受这一技术红利。
- ·AI 和 SEO 的结合:是福还是祸?
- ·OpenAI 携手博通大手笔投资:自研芯片即将量产,向英伟达发起挑战
- ·蚂蚁 dInfer 框架:扩散模型推理速度提升 10 倍,超越自回归模型
- ·78% 的企业重视网络能力以推动生成式人工智能部署
- ·与爱为舞亮相腾讯云AI产业应用大会,联合创始人王琳:打造下一代学习Agent
- ·OpenAI 正式进驻印度,计划在新德里设立办公室
- ·标签: 马自达 斯巴鲁 日产 汽车关税
- ·京东物流推出 “超脑大模型 2.0” 和 “异狼具身智能机械臂系统”
- ·标签: 爱回收 爱回收压价 陈雪峰 拍机堂
- ·标签: 目心智能 TerraMow 安克创新 纯视觉VSLAM
- ·打击虚假新闻:谷歌启动2500万欧元的欧洲媒体和信息基金
- ·云计算开发:Python练习实例-打印出所有的"水仙花数"
- ·论企业集成平台即服务(EiPaaS)的重要性 译文
- ·炸丸子怎么做
- ·微软CEO谈科技公司垄断:微软站在历史正确的一边
- ·云原生 CI/CD 框架 Tekton 初体验
