近日

一款在线生成照片的AI相机引爆社交圈

只需9.9元，上传至少20张正脸照片

用户就可以生成一套AI写真

火速蹿红后

该AI相机也遭遇了“隐私”争议

用户上传的照片会被如何处理？

个人隐私信息如何保护？

最近，一款AI写真小程序火了，用户只需上传至少20张正脸照，并花上9.9元就可以得到不同风格的写真，生成的照片均带有水印，想要下载高清照片或照片原图需支付额外费用。

自7月17日宣布正式向大众开放后，该应用服务器火爆，生成图片的等待时长一路走高，甚至一度需等待十几个小时才能出片。但这个小程序本质上并非相机，而是一款将用户上传的照片生成精美写真的生成式人工智能类应用。

复旦大学新闻学院副教授翁之颢分析，这款小程序的火爆基于两点原因，一是有趣，二是有非常强的社交属性。“用户通过‘换脸’等应用生成了有趣图片后，可以发布在自己的社交空间，可能引起较广泛的关注或讨论。”

不过，伴随走红的还有质疑，有用户指出，该AI相机小程序此前的用户协议中有该小程序“可以任何形式、任何媒体或技术使用用户内容”的描述。

△此前用户协议内容描述截图。

最近，河北邢台的郝女士也看到了不少朋友发布的AI合成照片，她本来也跃跃欲试，但考虑到要上传自己清晰的正脸照片，心中有不少担忧。

“现在很多小程序都会让用户提供高清的正面照，这款相机甚至需要提供20多张，它的协议也有点像霸王条款，我觉得存在一定风险。现在需要人脸识别的场景越来越多，如果人脸信息泄露的话，会非常麻烦。”

7月20日，对于引发网友不满的条款，该AI相机团队回应称，原协议内容有误，第一时间根据实际情况进行了修改，并向用户承诺，上传的照片只会用于数字分身制作，不会提取也不会用于识别和其他用途，且分身制作完成后会自动删除。

近年来，人工智能技术的普及加速了数据信息的分享，为隐私保护带来了更多的挑战，个人信息的隐私危机也得到了更多人的关注。

目前，我国对于互联网应用在用户隐私保护、用户信息保存方面已有诸多规定。比如，《中华人民共和国网络安全法》规定，网络产品、服务具有收集用户信息功能的，其提供者应当向用户明示并取得同意。

此外，《生成式人工智能服务管理暂行办法》将于2023年8月15日起施行，该《办法》明确，生成式人工智能服务提供者应当依法开展预训练、优化训练等训练数据处理活动，使用具有合法来源的数据和基础模型；涉及知识产权的，不得侵害他人依法享有的知识产权；涉及个人信息的，应当取得个人同意或者符合法律、行政法规规定的其他情形。

翁之颢认为，目前，生成式人工智能所使用的数据库并未获得广泛的信息授权，所以，相关的信息保护是该领域常见的问题。

“大平台可能会收集特别多的用户信息，形成信息量的垄断，与其他App或产品形成不正当竞争；其次，个人信息滥用问题也非常严重，比如说，我们在使用AI相机时上传了一张个人照片，你会发现这张照片很快被用在了其他场合，甚至导致了诸如人工智能诈骗等衍生问题。”

此前，中国科学技术大学网络空间安全学院教授左晓栋曾表示，消费者应该对个人信息泄露的情况非常敏感，包括人脸数据；同时，整个社会也要加大对这个问题的关注。

“监管部门要加大惩罚力度，也就是说，检察机关、消费者团体或者国家网信部门指定的有关组织要及时发起公益诉讼，形成群体的磅礴力量，来保护弱势的消费者。”

从该AI相机最初版本的用户协议可看到，其存有对用户内容可“以任何形式任何范围使用”此类描述，用户对于自己私人照片的使用场景并没有限制能力。一旦这些照片用于AI模型训练或流入黑产，轻则用户的一些面部特征可能被用于其他生成图片中，重则遭遇精准诈骗等陷阱。该平台后来也修改了原协议内容，但网友的不安全感一时间还很难消除。

产品方没有充分吸取教训，而公众的数据安全与隐私保护意识却在提升。这一次，不用专业人士和有关部门提醒，就有网友对该AI相机部分条款提出质疑，这无疑是一大进步。

近期，好莱坞遭遇63年来首次全行业罢工，就有数字肖像权方面的原因：演艺人员担心电影公司会在没有支付酬劳或获得批准的情况下使用AI制作他们肖像的数字复制品，或者对他们的表演进行数字化修改，提出了保护演员数字肖像权这项“开创性AI提议”。

AI发展道路上，价值与风险共存，企业的防风险措施也不能掉队。具备这样的基础，再去谈什么用户黏性、商业模式才有意义，否则一切都是空中楼阁、镜花水月。

实现“长红”，必然要过数据安全和隐私保护这一关。哪怕最终昙花一现，也不要留下一地鸡毛。