文章
分享发现

近日Nature 中文公众号推送了一篇应时应景的论文

Merlin
Merlin  ·  2019年10月21日

关于网络极端言论，仇恨传播，抱团及反仇恨手段。

论文标题：Hidden resilience and adaptive dynamics of the global online hate ecology 作者：N. F. Johnson, R. Leahy, N. Johnson Restrepo, N. Velasquez, M. Zheng, P. Manrique, P. Devkota, S. Wuchty

链接：https://www.linkresearcher.com/theses/eac73aca-8362-4622-9358-d61a75315c0b

“本研究认为，理解网络仇恨言论恢复的关键在于全球网络动力学，数学模型预测单一平台内进行监管可使情况更糟，并产生全球性在线仇恨言论泛滥的“暗池”。研究观测结果有助于提出击败在线仇恨言论的策略矩阵，定量评估各干预措施效果，从而有潜力用于处理更广泛的在线非法行为。这篇 Nature 文章的标题中的关键词是 Hidden resilience ，即隐藏的弹性。这是一个来自生态学的术语，讲述的是生态系统在遭到外界打击后，由于网络结构，得以快速回到之前的状态的能力。 该文将社交网络中的极端言论当成是生态系统中的物种，首先指出了极端言论在不同平台之间的传播是一站式的——某种极端言论可以一次性地从一个地区传播到另一个地区。极端言论的传播网络是去中心化的，也就是一个小世界网络，没办法找到一个核心节点，从而一劳永逸地解决问题。该研究中，作者关注的是泛指的极端言论，而不是某一个特定的主题，例如 ISIS 、新纳粹等。文中指出，这些言论的共同点是充满了偏激和仇恨，尽管仇恨的对象不同（可以是外来移民、同性恋者等）。”

以下为本人归纳正文：

  1. 团簇：拥有相近观点，兴趣，或目的的群组
  2. 攻击团簇，如删帖禁言会使团簇成员更加团结，快速自我修复，团簇弹性极强很难被消灭。
  3. 团簇观点，仇恨可跨平台传染，因为2，3，压制团簇需系统性打击。 策略1： 捏软柿子，小团体/个人。 策略2： 只封禁少数随机选择的（不冒尖）的团簇成员 策略3：促进反仇恨用户自组织成新团簇 策略4： 管理员引入虚构用户（水军），策反并煽动团簇成员。

-------以上，咳咳-----------

387 次浏览
菜单
  1. Merlin
    Merlin  

    @懦夫斯基 #7

    补上链接：https://fas.org/sgp/crs/misc/R45650.pdf

  2. Merlin
    Merlin  

    @tony231 #1

    昨天还是前天吧。公众号也是需要删选，翻译，并读懂的吧。

  3. Merlin
    Merlin  

    @xyz #2

    3 的亮点在artificial (他掉了个'a'?)？ 站长有足够多爱好和平的水军……

    嗯。。。我错了，话说谁让你去翻人家的method/supplementary material 的~~

  4. Merlin
    Merlin  

    @xyz #6

    昂~我只是想说：是对科研的热爱平复了你八卦的心~

  5. xyz
    xyz   备份：https://t.me/s/pincongessence; https://nei.st

    @Merlin 居然又让我看了数学，只好灰溜溜地回去继续写paper了...

    你还我八卦的心情!!!!!!!!

  6. 懦夫斯基
    懦夫斯基  

    @Merlin #9 非常感谢介绍这三种框架，很有意思，我会持续关注一段时间。人家社媒都发到到法律变革、社会大讨论了，党国还在奉旨翻墙，不禁悲从中来啊。

  7. tony231
    tony231  

    哈哈，发表时间8月，刚推送的？真是应景 还有第5个办法

    1. 让对方自由选择行为
  8. xyz
    xyz   备份：https://t.me/s/pincongessence; https://nei.st

    @Merlin #5

    这篇文章的干货都在supplementary information中啊... talk is cheap, show me the math...

    数学模型，推导，政策分析都放在了supplementary information中；正文中没什么干货，讨论很主观...

    其实从模型选择就可以看出来结果了，居然选择用graph theory去研究social network，当节点多的时候，你当然会发现堵不住hate-clusters。换个arthur campbell 的statistical模型来研究social network，结果会完全不同...

  9. Merlin
    Merlin  

    @懦夫斯基 #7

    哈哈，基本同意，但是我也觉得这样的思路有些过于跳跃了，直接到了对抗big tech。事实上这一议题已经引发国会关注： 和你说的差不多，文中对于这一问题的法律障碍是这么总结的：

    1. 宪法第一修正案并不牵连私有公司的行为；
    2. Section 230 of the Communications Decency Act, 47 U.S.C. § 230 赋予这些公司限制“令人反感的内容”的access的权力。 文中提出了三种框架来分析对私有公司控制用户言论可能的政府监管：
    3. Treated as state actors: “视作国家行为者”；
    4. analogous to special industries： 视为运营商或广播电视台一般的特殊工业；
    5. news editors： 将站点本身视作新闻编辑者。

    以上三种框架都是为了将这些站点/私有公司中的内容纳入第一修正案，但即便如此，第一修正案也有对造成 “迫切且危险”的言论进行封杀的余地……过分极端依旧是不可以的

  10. 懦夫斯基
    懦夫斯基  

    我看到和平水军也是一惊，最后还是掉入操控言论的黑洞里了啊。那个段子怎么说的来着，最后一个人类消失，微博上仍然一片繁荣，热火朝天地掐架。 网络平台，尤其是像推特、脸书、油管这种大平台，目前在法律意义上依旧是私人财产。但是，已经有人开始讨论，在网络时代，社媒平台是否应当视为公共空间。毕竟，目前人们已经很少会去公园一角去宣传任何东西。今年5月，有篇文章很有意思，标题叫"Platform Access Is A Civil Right"（https://humanevents.com/2019/05/03/platform-access-is-a-civil-right/ ），声称网络社媒平台应当视为公民权利。 由于党国的作为，我个人对政府收回平台审核权持坚决反对的立场。不过我承认，这篇文章说得有道理。目前我暂时还没看到对其有力的反驳。 同时，Merlin分享的论文，让我对大公司全权审核，同样充满警惕。公权力和实际极大的私权力，在压迫个人权力方面，并没有太大的区别。 既要警惕公权力扩张，也要警惕大公司私权力扩张。最终得出的结论，竟然是反垄断，支持Warren拆分大公司。我明明主观上不太喜欢她的。

  11. xyz
    xyz   备份：https://t.me/s/pincongessence; https://nei.st

    有意思，翻了一下数学模型，我的理解是在用graph theory模拟transaction costs，从而说明从一个网络node到另一个node的成本很小，从而justify集中管理facebook一个node 意义不大...

    与其主动管理(policy 1， 2， 和4)，我同意policy 3 （在SUPPLEMENTARY INFORMATION里面） "Our mathematical analysis of Policy 3 shows that as long as the number of anti-hate users (i.e. real and rtificial) are the majority, they keep the hate-clusters occupied and reduce their tendency to grow through recruitment." 只要大多数人都是正常的（通过学习逻辑和知识），那么hate-clusters就会自然消失。

  12. xyz
    xyz   备份：https://t.me/s/pincongessence; https://nei.st

    @Merlin #8

    paper我所爱，八卦我一生挚爱。当然，啥也比不上火锅：）

    其实我一直都想不通，为什么在2049还是在品葱，大家都那么想找出五毛，都有点魔怔了。有必要吗？

  13. cunzaizhe09
    cunzaizhe09  

    坚守常识，以不变应万变，足以。

  14. Merlin
    Merlin  

    @xyz #12

    我们不在键政舆论阵地争夺的前线，怕是没多少直观体会，不过如China digital time这种也都专门开辟板块，以五毛为研究对象。如果你把他看作政府机构的延申，那么在网络世界反五毛就是比单纯发表言论更进一步的对抗中国政府的行为。但如同反腐可以成为权力斗争的大旗一般……是吧……

    火锅？（露出些许不屑），可能是我腌笃鲜差不多煨好了，“自由世界”首先把我变成了一个厨子。不禁哼出一段过门和两句唱 “I never saw my hometown until I stayed away too long；I never heard the melody until I needed the song”。

  15. 梅菲斯特
    梅菲斯特  

    @32WF #15 根据站主的说法，此地应该算不上反共论坛。 虽然我是个激进的反共用户并且会一直反共：）

  16. 32WF
    32WF  

    @xyz #6 @xyz #12 為什麼牆外難民這麼怕五毛？ 這個其實easy啦。你如果理解了你們牆內的某黨對百姓們方方面面的言論管制為什麼如此嚴苛、某黨對於異見者甚至溫和批評者為什麼如此忌憚甚至敵視，就知道牆外的大部分影響力很大的中文論壇對難民們的言論管制為什麼也很嚴格、對於異見者和疑似五毛者為什麼如此忌憚甚至敵視。

    「治大国如烹小鲜」，換位思考一下嘛，都是組織啦。

    CCP的言論管制如果搞得不這麼嚴格，就會有無數個8964、美麗島事件，滋生無數帶路黨、親西方組織，一黨專政地位就不保了，它就是下一個國民黨、甚至蘇共。 牆外的中文論壇言論管制如果搞得不這麼嚴格，就會吸引無數五毛、自幹五、ccp海外水軍組織來此盤根，反共的核心精神就不保了，它就是下一個淪陷地。 大家都不容易，人與人之間，多一點理解不好麼？

    （以上不代表個人立場，僅僅是我對這兩種組織內心活動的揣測，請不要過度解讀）

  17. xyz
    xyz   备份：https://t.me/s/pincongessence; https://nei.st

    @Merlin #14

    好强的画面感，口水哗哗嘀... 腌笃鲜，糖藕，大闸蟹，茄汁昌扁鱼，我小时候的最爱... 两年多没有吃到过了...

    明天买两只大西洋红蟹解解馋... @32WF 好吧，我比较迟钝... 我其实对电脑后面ID的身份没有什么意见，不管是五毛还是民运，只要你说话有逻辑而且有趣，我都开心。我只受不了脏话，复读，没逻辑的胡搅难缠...

  18. xyz
    xyz   备份：https://t.me/s/pincongessence; https://nei.st

    @Merlin #18 写不完的paper... 一篇两篇三四篇，五篇六篇七八篇... 为了生计，在可预见的十几年中必须一直写...

  19. Merlin
    Merlin  

    @xyz #17

    你paper写完了？ ==

  20. Merlin
    Merlin  

    @xyz #20

    你那专业蛋疼，我当年Phd一结束就立马工业界脱离苦海了~~话说有最近有阳澄湖大闸蟹卖70左右一对~

  21. 小二
    小二   默认开启批量屏蔽受限用户发言功能，可在设置中手动取消。

    @xyz #20 去年买的，如果买活的，估计那蟹子蟹孙都好几代了

  22. 警世钟
    警世钟  

    有点意思，如果再配合以下几篇文章一起看就更有意思。

    2017　AI改变未来 从搅乱你的社交媒体开始　 https://new.qq.com/omn/20171213/20171213B0Q43B.html

    连水军都要失业了，因为AI水军来了 http://tech.sina.com.cn/csj/2017-09-04/doc-ifykpysa3020529.shtml

    马斯克发推警告：“高级AI”将很快操纵社交媒体平台 2019　https://new.qq.com/omn/TEC20190/TEC2019092700053200.html

  23. xyz
    xyz   备份：https://t.me/s/pincongessence; https://nei.st

    @Merlin #18

    学习工作再重要，也不能亏待了自己不是... 去年买了一个冰柜收了二十几个大西洋红蟹，馋了就蒸一只... 不行，口水又流了...

  24. bytedance
    bytedance  

    @Merlin #22 @xyz #2 厉害啊。博士。向你们致敬！

  25. Merlin
    Merlin  

    @xyz #29

    。。。你是神乐么。。鲷鱼茶泡饭喜不喜欢

  26. xyz
    xyz   备份：https://t.me/s/pincongessence; https://nei.st

    @Merlin #28

    吼吼，这下写不出paper也不急了，有地方吃饭了，大不了一起卖大力丸：）

  27. Merlin
    Merlin  

    @榴梿 #30

    这话居然让你先对她说了，我一直怀疑你是我一朋友，惯用头像都一样，当然是说新垣结衣，然而确认过不是。当然它也是反政府立场。。

  28. Merlin
    Merlin  
  29. xyz
    xyz   备份：https://t.me/s/pincongessence; https://nei.st

    @Merlin #26

    好吧，诶诶，卖大力丸的，要不要雇佣我教你怎么谈判，怎么和对手竞争，定价，设计合同？我出价不贵，童叟无欺的... @榴梿 没办法，去年的红蟹太肥美了，吃了一个以后马上买了三箱... 然后家里的冰箱不够大，只能去再买了一个冰柜... 开开心心吃到今年开春...

    今年的红蟹麻麻，没屯... 不过屯了5个猫山王榴莲和两箱紫薯...

    养红蟹就算了，如果可以种点紫薯也不错，冬天晚上吃烤红薯很不错的...

  30. 小二
    小二   默认开启批量屏蔽受限用户发言功能，可在设置中手动取消。

    @xyz #29 你跟我的一个朋友太像了，我现在在犹豫要不要找她确认一下……

  31. xyz
    xyz   备份：https://t.me/s/pincongessence; https://nei.st

    @Merlin #22

    哇，原来是同行啊！你是学计量还是宏观，去fed和金融都很滋润的。可怜我是学微观博弈论的，只能在学校教书写paper...

    在你孜孜不倦的引诱下，今天出去吃了海鲜buffet，嗯，至少一个星期内你再提起大闸蟹，心情应该会波澜不惊...

    阳澄湖大闸蟹!!!! 只要70？ 我应该平静，平和.... @xyz 没办法，去年的红蟹太肥美了，吃了一个以后马上买了三箱... 然后家里的冰箱不够大，只能去再买了一个冰柜... 开开心心吃到今年开春... 今年的红蟹麻麻，没屯... 不过屯了5个猫山王榴莲和两箱紫薯...

  32. Merlin
    Merlin  

    @xyz #25

    谁跟你同行 ==

    Medicinal chemistry 卖大力丸的~

  33. xyz
    xyz   备份：https://t.me/s/pincongessence; https://nei.st

    @Merlin #32

    鲷鱼茶泡饭来五份，多放鲷鱼和茶，不要饭，谢谢：）

  34. xyz
    xyz   备份：https://t.me/s/pincongessence; https://nei.st

    @榴梿 #30 额，还是不要吧。现实的生活归现实，网络的归网络吧。如果我们现实真的认识，也请不要告诉我，不过欢迎来一起吃冰冻榴莲，然后一起烤紫薯：）

    PS: 另外，看到你在水区被怼... 你也真不容易，客人都在提不断提意见... 我都看得头痛... 到时候品葱大军过来，不知道你会不会头再大一圈... 这个算甜蜜的负担吗...