您现在的位置:智慧城市网>智慧基建网>资讯列表>“视频对面的你爸到底是不是你爸?”AI换脸没有告诉你的……

“视频对面的你爸到底是不是你爸?”AI换脸没有告诉你的……

2024年04月01日 09:06:49 人气: 34817 来源: CPS中安网
  【智慧城市网 企业关注】技术的发展历来就是双刃剑。
 
  特别是在算力、算法、数据三要素大幅提升的前提下,生成式人工智能逐步迈进3.0时代,在文化、教育、娱乐、媒体、设计、科研、广告等多个业务场景产生深远的影响。
 
  与此同时,生成式人工智能带来的技术滥用、虚假信息传播、个人信息权益被侵害、数据泄露或偏见歧视等安全问题也越来越凸显。
 
  特别是,不久前,3·15曝光的“AI换脸”诈骗成为关注的焦点,技术的发展和普及模糊了真实和虚拟的界限,也滋生了不少破坏AI安全性和伦理性的因素。
 
  在虚与实、真与伪之间,AI技术将走向何方?
 
  技术成熟
 
  追本溯源,生成式人工智能技术的不断进步,也意味着深度伪造相关技术也越来越成熟。
 
  据了解,深度伪造技术被称作“生成式对抗网络”(GAN)的机器学习模型将图片或视频合成并叠加到源图片或视频。
 
  近年来,由于深度伪造开源技术的开源流通与国内外各大应用程序的发行,深度伪造的技术门槛越来越低,也使得AI换脸、拟声等技术广泛应用。
 
  与此同时,深度伪造制作的原材料是个人音频、图片、视频,这些数据越多,训练出的视频也就越逼真、越难以鉴别。
 
  辨别真伪
 
  此前,央视 315 晚会在其保留项目“信息安全实验室”中,穿插了一段对“AI诈骗”的科普,通过3个真实案件详细揭示了AI换脸、AI换声诈骗的手法,引发了广泛关注。
 
  而据长期关注AI安全的瑞莱智慧的不完全统计,AI诈骗案件数量在近年来快速增长,仅2023年一年在全国已发生至少16起。
 
  众所周知,AI发展的三驾马车“算法、算力、数据”,数据尤为重要,其安全性则是重中之重。
 
  随着人工智能技术的广泛应用,诈骗的精准性、迷惑性和隐蔽性都在增加。这为公安、检察等执法机关在侦查、收集电子证据以及认定和处理案件方面带来了新的挑战和困难。
 
  由于深度合成内容越发逼真,采用技术手段进行鉴别的解决方案也随之出现。据业内人士介绍,常用的方法包括基于伪造内容数据集完成对模型检测器的训练、基于帧间不一致性实现对伪造内容的判别等。
 
  因而,深度伪造技术越来越成熟的同时,也需要不断加强反深度伪造技术的迭代更新,更需要监管层面的不断约束,助力更安全可信的AI技术环境的发展。
 
  技术监管
 
  在AI技术赋能千行百业的同时,暴露的个人隐私安全、信息安全等层出不穷。
 
  为此,监管层面也陆续推出了不少应对策略。
 
  2023年7月,国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局发布《生成式人工智能服务管理暂行办法》中指出,服务提供者应当对图片、视频等生成内容进行标识。
 
  目前,如抖音、B站等视频平台都已上线了相关提示功能,在有AI参与制作的视频内容下都出现了“疑似AI生成”的提示。
 
  2024年2月,全国网络安全标准化技术委员会发布了技术文件TC260-003《生成式人工智能服务安全基本要求》,提出了服务提供者需遵循的安全基本要求,包括语料安全、模型安全、安全措施、安全评估等,并给出了适用范围。
 
  总体而言,《基本要求》的发布将有助于建立更安全、透明和有序的生成式人工智能服务生态系统。
 
  结语:
 
  不久前,看到一个消息,AI还原朝元图百年前的色彩,不仅还原了八百年前的数据真相,也修复了朝元图近千年来所遭遇的变色、褪色、破损、裂纹、污染等。
 
  在古法修复壁画的技艺面临后继无人的窘境之下,AI 技术可以短时间内完成任务,体现了科技对文化遗产的守护和传承。
 
  综上来看,AI技术的双刃剑效应凸显,在助力于文化、教育、科研等领域的深度赋能之外,也滋生了不少罪恶的温床。
 
  总结来说,AI换脸技术在为我们带来便利的同时,也引发了一系列伦理问题。为了确保技术的健康发展,需要加大监管力度,对AI技术的研发和应用进行严格的审查和监督,确保技术的健康发展。同时,可以研发更加先进的AI识别技术,对生成的虚假信息进行实时检测和过滤等等。
 
全年征稿/资讯合作 联系邮箱:afzhan@foxmail.com
版权与免责声明
1、凡本网注明"来源:智慧城市网"的所有作品,版权均属于智慧城市网,转载请必须注明智慧城市网,https://www.afzhan.com。违反者本网将追究相关法律责任。
2、企业发布的公司新闻、技术文章、资料下载等内容,如涉及侵权、违规遭投诉的,一律由发布企业自行承担责任,本网有权删除内容并追溯责任。
3、本网转载并注明自其它来源的作品,目的在于传递更多信息,并不代表本网赞同其观点或证实其内容的真实性,不承担此类作品侵权行为的直接责任及连带责任。其他媒体、网站或个人从本网转载时,必须保留本网注明的作品来源,并自负版权等法律责任。
4、如涉及作品内容、版权等问题,请在作品发表之日起一周内与本网联系,否则视为放弃相关权利。

企业推荐

更多