(资料图)

近期，伴随ChatGPT等生成式AI的持续火热和演进，其暴露的风险隐患也越来越多。4月底，一名受害者10分钟被AI换脸骗走430万元。5月22日，又一受害者9秒钟被骗132万元。5月24日，科大讯飞股价闪崩。据其官方回应，股价下跌系生成式AI写作虚假小作文导致。AI孙燕姿翻唱近期火遍全网。AI生成能力强大，无论是文本、图片或视频，都能达到以假乱真的水平。如何识别AI生成的内容，已是社会各界和公众亟需面对的现实问题。多位网络安全人士表示，相关网络平台可推行数字水印技术，“这些信息可以在不影响视觉效果的情况下，大大降低我们的视频和照片被AI模型成功篡改的概率。”数字水印是将一些标识信息直接嵌入数字载体当中，通过这些隐藏在载体中的信息，可确认内容创建者、购买者、传送隐秘信息或者判断载体是否被篡改，保护数字产品版权、完整性、防复制或去向追踪。数字水印不影响原载体的使用价值，人类无法看到数字水印，但是计算机可以。二级市场方面，拥有数字水印技术的鸿博股份和鸥玛软件年内股价累计最大涨幅分别达543%和126%。据财联社不完全整理，5月以来，还有证通电子、电科网安、东方国信、北信源、众合科技、恒信东方、数码视讯、中荣股份、天融信、汉邦高科等上市公司在互动平台上表示布局有数字水印业务。数字水印最初是为了保护版权而生，随着技术的发展成熟以及数字经济时代的来临，其应用也拓展到更为广泛的数据安全保障领域。《“十四五”数字经济发展规划》也特别指出要提升数据安全保障水平，建立数据分类分级保护制度，研究推进数据安全标准体系建设，规范数据采集、传输、存储、处理、共享、销毁全生命周期管理，推动数据使用者落实数据安全保护责任。随着AI安全重要性日益凸显，数字水印在全球的关注度也逐渐提升。微软近日在Build2023开发者大会上宣布将对AI创建的内容进行添加水印处理，同时将为开发者提供为AI创建内容添加水印的工具。谷歌在今年的开发者大会上表示，将确保公司的每一张AI生成图片都内嵌水印，该水印无法以肉眼识别，但谷歌搜索引擎等软件可读取并以标签显示出来，以提示用户该图片由AI生成。此前OpenAI也考虑在ChatGPT生成内容中添加数字水印，以降低模型被滥用带来的负面影响。日前抖音发布关于人工智能生成内容的平台规范暨行业倡议和《关于人工智能生成内容标识的水印与元数据规范》，提出各生成式人工智能技术的提供者，均应对生成内容进行显著标识，以便公众判断。除了上述公司外，亚信安全、中广天择、海天瑞声、三未信安、平治信息、安妮股份、吉大正元、合兴包装也布局有数字水印业务，具体情况如下：
38条 上一页 1 2 3 4 下一页

推荐内容