门诊问题
“儿童邪典动画视频”责任清单
门诊专家
中国政法大学传播法研究中心副主任 朱巍
北京大瀚律师事务所律师 杨健
专家观点
◇视频网络平台应该对其平台上的内容进行严格的事前审核,需要对负责审核的人员建立一套完整的培训体系,进行培训考核,持证上岗,严格规范审核制度。
◇建立技术之上的人工智能识别是一方面,在制度建设方面,可以考虑建立行业黑名单共享制度。
◇目前在法律上对动画中的淫秽色情、暴力的认定比较困难,因此,对于未成年人保护,还要做好网络分级。
近日,网友发文称,有人利用米老鼠、小猪佩奇、艾尔莎公主……这些大众熟知的动画形象,经过二次加工后,做成另类动画视频,其内容充斥着血腥、暴力、虐待、色情等因素。事件曝光后,相关部门迅速行动,对相关内容进行清查整顿。据悉,广东省“扫黄打非”办公室开展了对涉案单位的调查,要求其将所有相关视频下线,并依法查封两处生产经营场所。与此同时,涉事企业也发布道歉声明。
事实上,早在2017年7月,在美国就发生了类似的事件。当时,在社会各界的抗议下,视频网站“Youtube”大规模下线“儿童邪典动画视频”、封禁账号。然而,这类视频最近却悄然流入国内,更有甚者,制作中国版的此类视频。
制造方、上传者和传播平台均有责
“儿童邪典动画视频”不同于一般的色情、血腥、暴力视频,通常假托经典动画中的人物形象,借着“认图识字”“传播知识”等幌子进行传播。有网友评论称,“视频内容相当不堪入目,对成年人尚且如此,如果让未成年儿童看到,伤害更是难以估量。”
“如果是故意制造传播这类产品,一则道歉声明无法为其免除法律责任。”在北京大瀚律师事务所律师杨健看来,具体的责任需要根据实际内容进行区分,如果只是制造、传播低俗产品,依据现有法律规定,很难追责。如果是制造、传播色情、淫秽产品,则要根据点击的次数、制作的数量以及对社会的危害程度进行追责。
我国网络安全法规定,任何个人和组织不得利用网络传播暴力、淫秽色情信息,同时,要依法惩治利用网络从事危害未成年人身心健康的活动,为未成年人提供安全、健康的网络环境。
“如果点击的数量很大,对社会造成了严重的危害后果,可能在追究制作、传播者的行政责任之外,还要追究刑事责任。”杨健说。
那么,在视频的制作、上传者之外,相关视频平台是否也要承担责任?笔者注意到,对于视频平台,舆论中一直不乏批评声音,为何在视频文件的上载、传播过程中,没有有效监管?难道只有在造成严重不良影响之后,平台才会有所行动?
对此,中国政法大学传播法研究中心副主任朱巍表示,网络平台经营者在内容审查方面的确应该承担相应的责任。但是,由于现有的视频网络平台传播内容十分繁杂,视频的类型多样,造成现实中网络平台运行者也存在着监管困难。
“很多时候,视频网络平台不是内容的提供者,而是网络服务的提供者。”朱巍指出,如果违法视频是用户上传的,平台一般是按照通知删除原则进行监管。也就是说,按照相关规定,如果没有相应通知,平台即便没有删除这类视频,也可能不承担法律责任。但是,如果内容属于国家法律明确禁止传播的,平台即负有安全监管法定义务。
网络运营商应对传播内容加强事前审核
尽管在专家看来,网络视频平台经营者不用在事前审核上承担严格监管职责,但在多数人看来,在激烈的市场竞争中,网络视频平台应该承担更多的监管职责,否则,缺乏事前监管,很容易导致诸如“儿童邪典动画视频”此类视频的泛滥,不利于网络环境的净化。
“最可怕的不是孩子偶然看了几部凶邪动画,而是大数据会抓住孩子这一动作,冷冰冰地推送一大堆过来。”公众号“凯叔讲故事”在文章中写下了自己对大数据时代运营网站不加审核即推送这类视频的担忧。
笔者了解到,目前视频网站平台对上传内容的审核有两种审核模式:一种是对上传视频采取人工智能的审核方式,即将上传的视频一帧一帧地提取出来,利用人工智能进行内容审核;另一种则是形同虚设的人工审核,有些视频平台网站因盲目地追求利益,或者为了依靠这类视频获取大量的点击量,基本上没有落实审核程序。
在朱巍看来,人工智能并非万全之策,由于其对一帧一帧的内容的审核,难以像观看普通视频一样,在审核时轻易地分辨出其中的寓意或是暗示。基于此,他建议建立全民举报渠道,用人工智能加人工举报的方式进行二十四小时在线监控。
与朱巍的观点有别,在杨健看来,视频网站运营商应对平台内容的合法性负责。他认为,视频网络平台应该对其平台上的内容进行严格的事前审核,需要对负责审核的人员建立一套完整的培训体系,进行培训考核,持证上岗,严格规范审核制度。
“对于依靠这类视频获得点击量和知名度,故意不设审核门槛的网络视频平台,可以考虑在立法上建立强制性责任制度,对视频网站的法定代表人和直接负责人进行双重追责,即如果视频中出现了违反国家相关法律规定的内容,那么就要对法人代表人、直接责任人进行处罚,并且对公司进行罚款。”杨健说。
利用“黑名单”“网络分级”应对网络暴力色情
据了解,在事件发生后,北京市文化市场执法总队、市网信办、市公安局联合启动北京市网络游戏专项整治工作,并发布关于查禁“儿童邪典动画视频”的紧急通知。目前,优酷、腾讯视频、爱奇艺等视频平台发布公告称,对相关违规视频和账号进行删除下架和封号处理。
然而,未等“儿童邪典动画视频”风波过去,“邪典小游戏”又进入公众的视野。有网友反映,这些恶俗的小游戏,要不断地殴打或者用各种工具伤害游戏里的人物,直到把他打死,才能通关。针对这类威胁青少年儿童健康成长的网络内容,如何建立长效应对机制?
朱巍提出,建立技术之上的人工智能识别是一方面,在制度建设方面,可以考虑建立行业黑名单共享制度。
“我们在互联网公司调研的时候发现,很多问题都是人工智能最先察觉,然后将其反馈;有些问题,人工智能就可以直接解决,依靠技术长久地解决这类问题是大势所趋。”在朱巍看来,利用行业黑名单制度加大对相关单位的监管和处罚力度,为技术审核提供了法律后盾。
“涉及不良视频、游戏的始作俑者,在一个地方把他们的视频、游戏下线了,还有可能在别的网站再次上线。”朱巍建议,一旦出现问题视频,要全网进行搜索,不能就事论事,而是要把问题视频从整体网络上下架。
此外,朱巍还表示,目前在法律上对动画中的淫秽色情、暴力的认定比较困难,因此,对于未成年人保护,还要做好网络分级。
“利用网络实名制让青少年进行实名注册,然后由网络服务提供者和经营者按照青少年的年龄和相关法律规定,对提供的产品层层审核。一旦发现违反相关法律规定的网络产品出现,可以将其列入黑名单。”朱巍说。
杨健则认为,单纯依靠法律机制还远远不够,同时还需要文化机制和经济机制配套管理。比如在文化上鼓励、倡导积极向上的内容,在经济上对以传播低俗内容为主的经营行为进行必要的市场干预。
