【
智慧城市网 企业关注】技术的发展历来就是双刃剑。
特别是在算力、算法、数据三要素大幅提升的前提下，生成式人工智能逐步迈进3.0时代，在文化、教育、娱乐、媒体、设计、科研、广告等多个业务场景产生深远的影响。
与此同时，生成式人工智能带来的技术滥用、虚假信息传播、个人信息权益被侵害、数据泄露或偏见歧视等安全问题也越来越凸显。
特别是，不久前，3·15曝光的“AI换脸”诈骗成为关注的焦点，技术的发展和普及模糊了真实和虚拟的界限，也滋生了不少破坏AI安全性和伦理性的因素。
在虚与实、真与伪之间，AI技术将走向何方？
技术成熟
追本溯源，生成式人工智能技术的不断进步，也意味着深度伪造相关技术也越来越成熟。
据了解，深度伪造技术被称作“生成式对抗网络”(GAN)的机器学习模型将图片或视频合成并叠加到源图片或视频。
近年来，由于深度伪造开源技术的开源流通与国内外各大应用程序的发行，深度伪造的技术门槛越来越低，也使得AI换脸、拟声等技术广泛应用。
与此同时，深度伪造制作的原材料是个人音频、图片、视频，这些数据越多，训练出的视频也就越逼真、越难以鉴别。
辨别真伪
此前，央视 315 晚会在其保留项目“信息安全实验室”中，穿插了一段对“AI诈骗”的科普，通过3个真实案件详细揭示了AI换脸、AI换声诈骗的手法，引发了广泛关注。
而据长期关注AI安全的瑞莱智慧的不完全统计，AI诈骗案件数量在近年来快速增长，仅2023年一年在全国已发生至少16起。
众所周知，AI发展的三驾马车“算法、算力、数据”，数据尤为重要，其安全性则是重中之重。
随着人工智能技术的广泛应用，诈骗的精准性、迷惑性和隐蔽性都在增加。这为公安、检察等执法机关在侦查、收集电子证据以及认定和处理案件方面带来了新的挑战和困难。
由于深度合成内容越发逼真，采用技术手段进行鉴别的解决方案也随之出现。据业内人士介绍，常用的方法包括基于伪造内容数据集完成对模型检测器的训练、基于帧间不一致性实现对伪造内容的判别等。
因而，深度伪造技术越来越成熟的同时，也需要不断加强反深度伪造技术的迭代更新，更需要监管层面的不断约束，助力更安全可信的AI技术环境的发展。
技术监管
在AI技术赋能千行百业的同时，暴露的个人隐私安全、信息安全等层出不穷。
为此，监管层面也陆续推出了不少应对策略。
2023年7月，国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局发布《生成式人工智能服务管理暂行办法》中指出，服务提供者应当对图片、视频等生成内容进行标识。
目前，如抖音、B站等视频平台都已上线了相关提示功能，在有AI参与制作的视频内容下都出现了“疑似AI生成”的提示。
2024年2月，全国网络安全标准化技术委员会发布了技术文件TC260-003《生成式人工智能服务安全基本要求》，提出了服务提供者需遵循的安全基本要求，包括语料安全、模型安全、安全措施、安全评估等，并给出了适用范围。
总体而言，《基本要求》的发布将有助于建立更安全、透明和有序的生成式人工智能服务生态系统。
结语：
不久前，看到一个消息，AI还原朝元图百年前的色彩，不仅还原了八百年前的数据真相，也修复了朝元图近千年来所遭遇的变色、褪色、破损、裂纹、污染等。
在古法修复壁画的技艺面临后继无人的窘境之下，AI 技术可以短时间内完成任务，体现了科技对文化遗产的守护和传承。
综上来看，AI技术的双刃剑效应凸显，在助力于文化、教育、科研等领域的深度赋能之外，也滋生了不少罪恶的温床。
总结来说，AI换脸技术在为我们带来便利的同时，也引发了一系列伦理问题。为了确保技术的健康发展，需要加大监管力度，对AI技术的研发和应用进行严格的审查和监督，确保技术的健康发展。同时，可以研发更加先进的AI识别技术，对生成的虚假信息进行实时检测和过滤等等。
