文章
公告通知

删帖后版面调整

thphd  ·  2021年9月11日 2047前站长

@addjapan

为了维护版面整洁,从现在开始,已删除的内容会对路人隐藏,变成一行 deleted 的小字,只有有权删除或者取消删除的用户(包括:管理员,楼主,发布者)能看到这些内容。

如果任何一位楼主认为自己被垃圾评论轰炸了,需要更强烈的手段控评(例如从数据库中彻底删除而不仅仅是mark as delete),请私信联系站长 @thphd

菜单
  1. arisu 中间偏左人
    arisu  

    喔,我知道了,谢谢站长提醒。

  2. NoStepOnSnek   一个政治系统的根本特征取决于其个体成员的暴力能力

    2047不想搞一个像新品葱“折叠”那样的操作么?

  3. thphd   2047前站长

    @NoStepOnSnek #156661 可以有的,但我不想弄。

    我认为删帖行为本质上是应该用算法杜绝的。2047删帖通常是因为不讲礼貌。理论上,一个人开口讲完话,AI就应该能判断要不要继续让这个人发言。这样的AI预计半年内会部署。

  4. NoStepOnSnek   一个政治系统的根本特征取决于其个体成员的暴力能力
  5. thphd   2047前站长

    @NoStepOnSnek #156668 目前这个工作被委托给人类,人类的主要缺点:

    1. 有水平的不自信
    2. 有自信的没水平
    3. 有自信又有水平的不愿意当管理员
    4. 管理员也是有脾气的

    AI的工作是打分,obviously inappropriate的言论先flag住,由人类最终拍板,可以降低90%工作量。

    参考对台防空系统。

  6. NoStepOnSnek   一个政治系统的根本特征取决于其个体成员的暴力能力

    @thphd #156671

    管理出了错误你可以罢免,AI出了错你要自己把自己开了然后关站么?具体操作都是小事,关键是管理操作最后都要找到负责的人。你想要flag,可以像品韭那样开投诉区,然后让用户投诉,投诉多次无效封号。

  7. thphd   2047前站长

    @NoStepOnSnek #156672

    1. /t/14633

    2. 关键是管理操作最后都要找到负责的人。

      俺认为,所有关于AI Ethics的讨论,归根结底都是成本核算问题。一种严格来讲不那么负责任的做法,如果能够为用户创造更高价值,是否是可接受的?

    3. AI出了错你要自己把自己开了然后关站么?

      目前的对台防空系统是heavily biased towards innocent的,假阳性率为0(用论坛真实数据统计过)。效益方面,参考第一点。

      AI控评属于高风险操作,未完整测试是不会投入使用的,对台防空系统投入使用前测试了3天

    4. 你想要flag,可以像品韭那样开投诉区,然后让用户投诉,投诉多次无效封号。

      本站已经有十几名用户因投诉过多被封。最近比较典型的是反共左派。另见/c/20


    此外,在本站对任何政策有反对意见,投票就是了,所以不必过于担心暴政

  8. NoStepOnSnek   一个政治系统的根本特征取决于其个体成员的暴力能力

    @thphd #156673

    怎么说呢,我认为一种分散性的,反应性的管理方式胜过所有中央集权的。现实中的司法系统也是这样的,需要有原告向法庭起诉,之后法官才能审理具体案件,不会有法官有主动执法这样的权力。而且搞投诉区是相当于公开所有案例,也是会帮助以后的管理员参考,也会起到使站务更透明的效果。总之就是你想要train用户和管理员,还是想train AI。我个人倾向用户和管理员。

  9. thphd   2047前站长

    怎么说呢,我认为一种分散性的,反应性的管理方式胜过所有中央集权的。现实中的司法系统也是这样的,需要有原告向法庭起诉,之后法官才能审理具体案件,不会有法官有主动执法这样的权力。而且搞投诉区是相当于公开所有案例,也是会帮助以后的管理员参考,也会起到使站务更透明的效果。总之就是你想要train用户和管理员,还是想train AI。我个人倾向用户和管理员。

    讨论从技术转向了政治。分两点回答

    1. 中央集权的缺点主要是腐败,如果排除腐败因素,中央集权绝大多数时候是最优解,尤其是在软件工程领域。比如说区块链为什么要分布式?**因为分布式可以防止篡改,也就防止了腐败。**如果不考虑反腐,效率最高的支付系统全都是中央集权的,而且效率要高几万倍。中心化的支付系统的最大缺点,就是它必须接受国家监管,而国家权力是几乎必然腐败的(例如FBI必然经常让visa交出txn记录),这才使得无法腐败的分布式方案得到青睐。

      所以问题就变成,我们部署的AI系统能否被贿赂,能否造成腐败?由于AI系统的训练样本仍然是各位管理员喂进去的,而且heavily biased towards innocent,所以我认为这样训练出来的AI系统,不会比训练这个系统的管理员本身更恶。同时还降低了管理成本,总体来说是善。

    2. 站务投诉目前集中在站务版,但我们注意到一个现象,就是很多用户,他看到别人有那种不礼貌的发言,并不会直接举报或者投诉,而是用同样不礼貌的发言去吵架,最后闹得不可开交,上升到人身攻击,但我一个投诉也收不到。你可以说这是一种支性——中国人默认不相信法律。之前甚至有管理员这么干,以至于我开始怀疑我挑选管理员的眼光。

      但我觉得,如果简单把这个问题理解成支性,就忽视了问题的实质。

      首先论坛是一个公共地方,它不把每个人互相分隔开,所以一个人的罪行是可以影响所有人的体验的,而影响了之后就会造成论坛人气上的损失、用户体验上的损失,这种损失是即时的,迟到的正义如果太迟是不行的。

      而接受判决的对象并不是自然人,而是匿名账号,所以你无法物理上监禁他,如果没有非常强力的手段(例如本站目前使用的部分黑科技),你甚至无法限制他发言,因为他可以再注册小号。这种情况下,即便你通过法律程序判决了,也很难起到惩戒作用;除非一张身份证一个账号,否则我们的法律实际上就是厕纸。

      在法律效力为0的情况下,大家不可能养成起诉的习惯,如果按照“有起诉才能审理”,那本站早就变成粪坑了,这个不是我闭上眼睛预测,而是我在本行业长期耕耘的经验,我经手的粪坑比品葱站长搞坏的数据库还多。

      总之,法治肯定是正确的方向,但要实行法治,首先必须有执法能力(效率)。对本站而言,执法能力主要靠的是本站工程团队在网络工程、web开发以及人类心理学方面的造诣。膜乎和葱岛被HOI日了个底朝天,为什么2047没有被类似的恐怖分子日翻呢,为什么品葱宕机之后2047没有被涌入的难民洗版呢?虽然我嘴上经常说以德服人,但本质还是靠技能树去碾压。

      所以某种形式的AI几乎是无法避免的(如果各位读过2047代码,就会发现里面有大量mitigate各种形式攻击的代码)。不过各位可以放心,我不会搞党国那种作恶的AI,也不会搞那种蠢蠢的、傻傻分不清楚的的AI,最有可能的情况是各位什么都感觉不到,只会觉得咦论坛上动不动跟人吵架的傻逼怎么突然都不见了。

  10. NoStepOnSnek   一个政治系统的根本特征取决于其个体成员的暴力能力

    @thphd #156682

    可能是我太理想主义了。不过可不可以考虑用声望来定义AI的使用范围,比方说大部分功能只对声望10以下应用。

    另外我对中央集权的批判是一种更根本的批判,不仅仅是你所理解的那种“恶意”的腐败。我认为,假设某个中央集权的动机完全是美好的,它的信息收集能力的缺陷和计算能力的缺陷都导致了它的决策的正确度注定比一个本质上分散的系统的正确度更低;尺度越大,结构越复杂,越是如此。或许在这里你觉得为了节省时间牺牲一点正确度是可以接受的,我也并不反对这种观点,我也觉得在2047这个小范围内你有把错误率控制在一定数值内的能力,但是如果以后你有给清华王国做AI的打算的话希望你更加慎重。

  11. thphd   2047前站长

    @NoStepOnSnek #156685

    可能是我太理想主义了。不过可不可以考虑用声望来定义AI的使用范围,比方说大部分功能只对声望10以下应用。

    这个建议当然没有问题,而且是合理的。但我会用这个AI来censor我自己,这样如果存在假阳性,我将是第一个发现的人。很快大家都会希望用这个ai来censor自己,以时刻确保ai不会杀错人。最后我们就通过AI censor实现了言论自由(让我们说的话能够被世界听见,而不被淹没在垃圾里的自由),是不是很讽刺。

    另外我对中央集权的批判是一种更根本的批判,不仅仅是你所理解的那种“恶意”的腐败。我认为,假设某个中央集权的动机完全是美好的,它的信息收集能力的缺陷和计算能力的缺陷都导致了它的决策的正确度注定比一个本质上分散的系统的正确度更低;尺度越大,结构越复杂,越是如此。或许在这里你觉得为了节省时间牺牲一点正确度是可以接受的,我也并不反对这种观点,但是如果以后你有给清华王国做AI的打算的话希望你更加慎重。

    一个很好的例子是人口普查,人口普查在分布式环境下很难实现,出于利益,没有州愿意直接交出自己的准确人口数据,可能会各种虚报。中国最近的人口普查也反映出这样的情况。

    所以一个分布式的人口统计系统,并不一定就比中心化的更有效。

    但是人口数据又是制定联邦政策(例如就业、教育等等)不可或缺的。如果联邦政府完全对这些问题撒手,各州就有充分理由独立,但各州的基本人权保障水平就会迅速开始有巨大差异,我听说有的州已经开始有比较大又比较穷,周边又比较仇穆的穆斯林社区,任其发展下去的后果,是对相邻的州造成巨大威胁,本质上不符合其他州的利益,除非各州都非常相信【只要我们拿起枪就能比美军更低成本地消灭一切恐怖分子入侵】。考虑到现在塔利班人人都有ACOG,我对这种观点保持谨慎。


    你提到

    假设某个中央集权的动机完全是美好的,它的信息收集能力的缺陷和计算能力的缺陷都导致了它的决策的正确度注定比一个本质上分散的系统的正确度更低;

    先说一下动机完全美好,首先我不相信任何系统的动机可以是完全美好的,因为美好本身就是主观的(人定义的),一个人的天堂是另一个人的地狱。例如,我仅仅是维持2047正常工作,为各位提供交流服务,就已经让品葱站长整个人崩溃趴在桌子上哭过好几次了。这就是为什么清华民国(从今天开始就叫民国吧,王国实在太吓人了)只为自己国民争取权利,因为只有这样才是完全符合人性的,无需证明真心的。我如果说我要帮助全中国人民实现民主,人家肯定怀疑我,觉得我是骗子,而不怀疑的早就去了郭文贵那边。

    其次,在区块链上洗钱的人,以及使用黄金、现金洗钱的人,还有用BT盗版的、交流儿童色情的人,比例永远比任何中心化交易、分发方式更高。所以动机的好坏,与中心化还是分布式无关,分布式的好处是稳定,而稳定可以是稳定做好事也可以是稳定做坏事。当然这个是拓展话题了。

    绝大多数中央集权系统都有人的参与,而人有私欲,有缺陷。所以信息收集能力的缺陷,计算能力的缺陷,都是因为有人的参与。问题在于,由于政治必然是由人参与的,你不可能剔除一个政治系统中人的因素。所以政治系统不应该中央集权,集权了就一定放大个人私欲。

    但软件是另一码事,比如操作系统的调度器就是中央集权,理论上他可以歧视任何一个进程,但实际上他不会,因为他没有私欲,他不需要偷cpu时间为自己换面包。

    所以如果人的因素无法完全剔除,我们很难argue说集权系统的恶不是因为其中存在的人,而是因为系统本身的设计。

    所以如果我们搞出一个AI,这个AI的恶,几乎必然是设计者、管理者的恶的延伸和放大,而我们需要解决的是怎么在这群人中达成共识,让每个人目标一致不作恶。

    目前唯一比较靠谱的解决方案,似乎只有成立议会,做一些创收的事情,然后给大家发钱。在数字极权下,我能做的最伟大的,也就只有清华国军这类工作了。

    至于你问清华民国是否会用到AI,当然是不需要的,因为加入清华民国的成本很高,大家能加入必然是已经有了某种高度的共识,遇到问题直接开会投票就是了。如果我把2047的加入成本也设计成 leet 那么高,那么2047就不会有任何spam,但也几乎就不会有人气了。

  12. NoStepOnSnek   一个政治系统的根本特征取决于其个体成员的暴力能力

    @thphd #156692 我觉得这里还是有一些误区,但是现在先不写了,几周内我准备发一篇Hayek的文章,说不定会有帮助。

  13. 邹韬奋 外逃贪官CA
    邹韬奋   虽然韬光养晦,亦当奋起而争(拜登永不为奴:h.2047.one)

    折叠或删除(或者被黑名单)的回复,在页面上会显示为已删,但是可以从网页源码里找到帖子。然后还可以使用code功能看到删除前的信息。

  14. thphd   2047前站长

    @消极 #156705 我知道,但这个不在我考虑范围内。删除主要是对付视觉污染而不是隐私泄露。

    其实可以搞一个投票。不过我想先听听你们的意见。marked as delete之后其他人应该100%不可见吗(不管怎么做都绝对看不到)?

  15. 邹韬奋 外逃贪官CA
    邹韬奋   虽然韬光养晦,亦当奋起而争(拜登永不为奴:h.2047.one)

    @thphd #156706 如果是应对视觉污染的话,显示“该贴已删除”就足够了。如果有人不怕沼气池的话大可点进去突开。一定要彻底掩盖沼气池没有必要。

    何况对于站点能见度最重要的搜索引擎爬虫来说,是爬不出来的。因为查看源码这个功能对游客不可用

  16. 邹韬奋 外逃贪官CA
    邹韬奋   虽然韬光养晦,亦当奋起而争(拜登永不为奴:h.2047.one)

    @thphd “膜乎和葱岛被HOI日了个底朝天,为什么2047没有被类似的恐怖分子日翻呢”

    膜乎的话,常委“菅义伟”部署了自动封号系统,虽然成功扑灭HOI小号,但是也彻底断绝了膜乎的新鲜血液,成了死气沉沉的老人坑。

    葱岛的话,站长部署了比主站更为激进的自动替换系统,新品葱主站是自动替换帖子中敏感词(如2047之类),但是葱岛则是检测到敏感词则吞掉整个帖子替换,这样一来辛辛苦苦打的文字就会被全部替换,极大程度地挫伤了发帖者积极性。

    当然最根本的还是新品葱站长不及时备份,导致品葱和膜乎数据库大量损失。