跟着移动互联网和智能手机的遍及，新式经济形状在我国快速展开，新的网络运用（APP）漫山遍野般呈现。可是，因为部分APP运营者、开发者的社会职责意识和法令意识短缺，新产品或服务推向商场后往往会呈现一些无视用户权益、对社会形成负面影响的行为，从而引起社会舆论的口诛笔伐。
近来，一款叫做ZAO的“AI换脸”运用忽然火了起来。用户向该软件上传自己的正脸照，并选中软件中的图片或视频资料，就可以把图片或视频中人像的脸（例如某位明星偶像）换成自己的脸，过一把“演戏当明星”的瘾；或生成各种风趣的表情包。这款运用了人工智能技能（AI人脸辨认）的软件一经推出大受用户欢迎，用它制造的视频敏捷在朋友圈热传、并蔓延至整个互联网。据统计，8月31日上午，该APP在苹果商铺下载量攀升至文娱类第二位。
可是，软件大热之后立刻引发社会舆论反弹。其最令人诟病之处在于其用户协议中包含的或许损伤用户的“霸王条款”。依据用户协议，ZAO渠道无需对用户上传的内容担任；用户要运用软件就有必要免费、无限制地授权给ZAO及其关联方，并任由ZAO及其关联方修正和修正……
此外，用户忧虑人脸图像被歹意传达、生物特征被搜集或被不怀好意的人通过AI软件处理后用来作恶：包含用来刷脸付出、制造色情小视频、欺诈亲朋金钱……8月31日下午，ZAO修正了用户协议，删掉或修正了部分不合规的条款；9月3日，工信部网络安全管理局对ZAO所属的北京陌陌科技有限公司相关担任人进行了问询约谈，要求其展开自查整改，依法依规搜集运用用户个人信息，标准协议条款，强化网络数据和用户个人信息安全维护。
这是一同典型的在产品或服务研制中缺少企业社会职责意识的事例。为了企业将来或许的各种潜在商业需求，诱导用户无限授权个人信息并妄图推脱渠道管理职责，这是对企业社会职责的无知和对用户权益的无视。
首要，ZAO无法推脱渠道管理职责。
ZAO原用户协议中关于用户内容一切权、知识产权等职责的规矩如下:“您的必要授权:除非还有约好，您运用‘ZAO’上传及/或发布的用户内容的一切权、知识产权及其他法令权力，归您、您的答应方、或许您的关联方一切，职责亦由您承当。”假如一切的职责都由用户承当，那么ZAO作为渠道供给者的职责在哪里？网络渠道有职责对用户上传的内容进行辨别，去伪存真，避免侵权行为、欺诈行为，维护用户的个人隐私不受侵略。
2017年收效的《网络安全法》第9条规矩：网络运营者展开运营和服务活动，有必要恪守法令、行政法规，尊重社会公德，恪守商业品德，诚实信用，实行网络安全维护职责，承受政府和社会的监督，承当社会职责。”本年8月份，国务院办公厅发布的《关于促进渠道经济标准健康展开的辅导定见》清晰要求科学合理界定渠道职责，要“清晰渠道在运营者信息核验、产品和服务质量、渠道（含APP）索权、顾客权益维护、网络安全、数据安全、劳动者权益维护等方面的相应职责”。 ZAO企图撇清渠道管理职责的条款显然是违法的。
畅销书《渠道革新：改动世界的商业模式》的作者之一马歇尔W.范·埃尔斯泰恩（Marshall Van Alstyne）在上一年承受媒体采访时表明：“渠道促进的买卖或服务假如演变成恶性事情，不论是服务供给方仍是被服务方遭受丢失或损伤，渠道型公司都应该承当职责。渠道型公司应该运用数据和技能、更好地拟定规矩，以保证损害不再发作。”ZAO作为一家AI印象技能公司，应该对或许存在的技能危险、社会危险、法令危险进行全面评价，提出愈加切实可行的用户信息安全防控办法，拟定尊重用户隐私，维护用户权益的渠道管理规矩。
其次，ZAO违反世界干流社会职责标准和攻略。
世界上有许多维护个人隐私的标准，包含ISO 27001、CSA STAR、ePrivacy Seal等。在ISO26000《社会职责攻略》、GRI《可持续展开陈述标准》和港交所ESG陈述指引中也有关于合规、品德、人权和安全相关议题，旨在鼓舞企业尊重顾客个人权益、维护顾客隐私。ZAO的服务协议与这些标准都是各走各路的，ZAO运用了我国用户遍及比较恬淡的肖像权和个人隐私维护意识，诱导用户无偿供给人脸信息。
依照ZAO的用户协议，用户的相片等个人信息有或许被转卖（转授权）到更多互联网渠道、组织或个人，亦有或许被用户不知道的第三方修正、运用，诸如被刷脸、被制造成色情视频、被仿照成用户欺诈等现象便有或许变成实际。用户是ZAO的最大利益相关方，假如发作用户信息被乱用，用户利益和大众利益受损害的事情，从而遭到政府操控，对企业的生计展开或许是致命性的。快播被禁、滴滴顺风车下架就是很明显的比如。
再次，ZAO的商业模式与世界互联网公司社会职责展开趋势不符。
作为一项刚刚鼓起的技能，人脸辨认工业这几年在我国的展开顺风顺水。据统计，我国人脸辨认工业商场规模正以年均30%复合增长率扩展，到2018年达已达到了131亿元。可是在隐私维护越来越受重视的今日，这项技能在欧美国家的境遇就大为不同，且已开端面对严峻监管。本年年初，微软CEO就正告要避免人脸辨认滋长商场的恶性竞争。微软近期删除了全球最大揭露人脸辨认数据库——MS Celeb；而Facebook、Google、Amazon等科技巨子也面对来自立法者和其他利益相关方对其隐私维护实践的特别重视。欧盟在2018年出台的GDPR（《通用数据维护法令》）规矩，公司在搜集用户包含面部等生物特征数据之前，有必要经得个人赞同，不然被罚金额可以达其全球收入的4%。因而，作为立异式产品和服务，ZAO应该探究开发更契合世界社会职责展开趋势的商业模式和产品。
期望ZAO“AI换脸”事情能让更多的互联网立异企业意识到，科技立异绝不能忽视社会职责。期望企业家们在策划和推出互联网新产品和服务的时分，可以约请企业社会职责专家、安全专家、法令专家以及不同利益相关方一起参加，拟定契合大众利益的技能开发守则、信息安全标准、顾客权益保证办法和法令危险操控计划，真实保证“科技向善”。
（南方周末我国企业社会职责研究中心高档研究员 梁庆锋）
