近年来,随着人工智能技术的迅猛发展,生成式人工智能(AIGC)应用不断涌现。一款名为“妙鸭相机”的AI写真小程序近日在国内迅速出圈,引起大众对于AIGC应用及其治理的广泛关注。

“妙鸭”的出圈与争议


(相关资料图)

“妙鸭相机”介入用户生活应用场景,让看似“高大上”的AIGC落地成为普通人能轻松上手、便捷使用且费用低廉的数字产品。小程序用户只需要上传21张包含人脸的照片,就能生成一个专属的数字分身,还有各种风格的写真模板供选择,仅支付9.9元就能自动生成效果不亚于天真蓝、海马体的高品质照片。超高的性价比吸引大量用户踊跃尝鲜。

随着产品的走红,用户和监管方的质疑也纷至沓来。首先是用户权益保障问题,妙鸭要求用户上传大量个人照片,包括五官清晰的正面照,但最初的用户协议却规定“您特此授权我方在全世界(包括元宇宙等虚拟空间)范围内享有永久的、不可撤销的、可转让的、可转授权的、免费的和非独家的许可,使得我方可以任何形式、任何媒体或技术(无论现在已知或以后开发)使用您的内容。”。对用户人脸信息数据储存和使用提出了强势要求。

被质疑后,妙鸭于7月20日更新协议,明确“服务完成后,系统将自动删除上述信息,不予留存”。用户的人脸数据被过度使用的风险暂时缓解。

但紧接着,部分用户抱怨生成照片未达预期效果却又不能顺利退款,上海市消保委等监管部门亦对此提出了批评。同时,依据国家网信办《生成式人工智能服务管理暂行办法》,对于涉及个人信息的生成式AI服务,应当获得用户同意或符合法律规定,以确保用户的信息安全和隐私保护。对照此规定,妙鸭相机的合规仍需进一步完善,相关争议还将持续一段时间。当然,妙鸭相机并非个例,随着越来越多AI类应用普及在生活中,关于隐私和创新的平衡,将迎持续考验。

AIGC应用将深度影响城市生活

“妙鸭相机”这类AIGC应用通过为提供经济实惠的专业照片生成服务,提升了大家的生活质量和美感体验。类似的AI技术应用将在未来渗透到更多领域,拓展居民的数字化生活空间。丰富多彩的AIGC场景和应用将会给我们的城市生活带来深远影响:

创意表现与数字互动:AIGC应用将提供更多样化的创意表现方式,例如AI生成的艺术作品、虚拟形象、写真照片等。这将增加城市居民在数字平台上的互动性,使社交媒体和数字艺术成为生活的一部分。城市居民可以通过AIGC应用展现自己的创意,与朋友、家人进行分享和交流,丰富城市生活。

个性化体验与定制服务:AIGC应用可以根据用户的个人喜好和特点生成定制化的内容,为城市居民提供更个性化的体验。例如,定制化的衣物设计、个人形象生成等,满足人们对个性化生活的追求。

艺术与文化创新:AIGC技术在艺术和文化领域的应用将带来新的创意和表现形式。城市居民可以通过AIGC应用参与创作、合作艺术项目,促进文化的创新和发展。

增强现实体验:AIGC技术结合增强现实(AR)技术,可以为城市居民提供更丰富、沉浸式的虚拟体验。例如,在城市中通过AR应用展示历史建筑的原貌、艺术品的虚拟展览等,增强城市文化和旅游体验。

服务行业升级:AIGC技术在服务行业的应用将带来更高效、便捷的服务体验。例如,智能客服、虚拟导览员、自动化办公等,将改变人们在城市中的生活和工作方式。

智慧城市运行:AIGC技术在城市管理和智慧城市建设中的应用将提高城市的运营效率和便捷性。智能交通管理、智能公共设施优化等产品和服务将改善城市居民的出行和生活环境。

城市需开展建设性治理

在AIGC技术快速渗透的同时,我们应当看到妙鸭相机等应用的兴起对智慧城市治理提出的新要求。随着越来越多的市民将个人照片和信息上传到应用平台,城市当局需要加强对数据隐私和安全的监管,确保用户信息得到充分保护,防止个人隐私泄露和滥用,构建健康的应用生态体系。

对于城市来说,理应提供良好的创新环境和政策支持,鼓励本地企业和科研机构在AIGC领域进行前沿技术研究,促进AIGC技术的不断进步和应用。

同时,城市也应当明确,技术创新和监管从来就不是零和博弈,需要在建构向善的AI治理框架和伦理体系过程中掌握好平衡,开展建设性治理。

城市需要制定明确的法律法规,规范AIGC应用的运营和数据隐私保护。加强市场监管,保护消费者的合法权益,防止虚假宣传和不良竞争。强化AIGC应用的道德伦理约束也不可或缺,城市需要敦促企业和个人在开发和使用AIGC技术时遵守伦理原则,尊重个人隐私和人权,避免滥用AIGC技术造成不良后果。

在平衡监管和创新方面,城市需要做的首先是建立灵活的监管机制,根据AIGC技术的发展和应用情况,及时调整监管政策,保持与时俱进。

其次是加强政府与AIGC企业的沟通与协作,了解其技术研发进展和运营情况,共同探讨监管与创新的平衡点。

并且,城市还需要引入第三方评估机构,对AIGC应用的安全性、隐私保护等进行独立评估,为监管部门提供科学依据。

与此同时,城市还有必要加强公众对AIGC治理的参与,广泛征求市民意见和建议,在制定监管政策时充分考虑公众需求和关切。

在数字化浪潮下,每个人都渴望更好的科技体验,妙鸭相机正是这样的一种尝试,在一定程度上体现了AIGC的发展潜力。但是,相关争议背后又凸显了智慧城市对于AIGC应用监管与创新的挑战。平衡好监管和创新两者的关系,需要政府、企业和社会各方共同努力,探索符合现代社会发展需求的治理模式,既能保障用户权益和数据隐私安全,也要促进技术发展和产业合作。

唯有如此,我们才能在数字时代行稳致远,让AIGC与城市生活相得益彰。

推荐内容