@NoStepOnSnek #156685
可能是我太理想主义了。不过可不可以考虑用声望来定义AI的使用范围,比方说大部分功能只对声望10以下应用。
这个建议当然没有问题,而且是合理的。但我会用这个AI来censor我自己,这样如果存在假阳性,我将是第一个发现的人。很快大家都会希望用这个ai来censor自己,以时刻确保ai不会杀错人。最后我们就通过AI censor实现了言论自由(让我们说的话能够被世界听见,而不被淹没在垃圾里的自由),是不是很讽刺。
另外我对中央集权的批判是一种更根本的批判,不仅仅是你所理解的那种“恶意”的腐败。我认为,假设某个中央集权的动机完全是美好的,它的信息收集能力的缺陷和计算能力的缺陷都导致了它的决策的正确度注定比一个本质上分散的系统的正确度更低;尺度越大,结构越复杂,越是如此。或许在这里你觉得为了节省时间牺牲一点正确度是可以接受的,我也并不反对这种观点,但是如果以后你有给清华王国做AI的打算的话希望你更加慎重。
一个很好的例子是人口普查,人口普查在分布式环境下很难实现,出于利益,没有州愿意直接交出自己的准确人口数据,可能会各种虚报。中国最近的人口普查也反映出这样的情况。
所以一个分布式的人口统计系统,并不一定就比中心化的更有效。
但是人口数据又是制定联邦政策(例如就业、教育等等)不可或缺的。如果联邦政府完全对这些问题撒手,各州就有充分理由独立,但各州的基本人权保障水平就会迅速开始有巨大差异,我听说有的州已经开始有比较大又比较穷,周边又比较仇穆的穆斯林社区,任其发展下去的后果,是对相邻的州造成巨大威胁,本质上不符合其他州的利益,除非各州都非常相信【只要我们拿起枪就能比美军更低成本地消灭一切恐怖分子入侵】。考虑到现在塔利班人人都有ACOG,我对这种观点保持谨慎。
你提到
假设某个中央集权的动机完全是美好的,它的信息收集能力的缺陷和计算能力的缺陷都导致了它的决策的正确度注定比一个本质上分散的系统的正确度更低;
先说一下动机完全美好,首先我不相信任何系统的动机可以是完全美好的,因为美好本身就是主观的(人定义的),一个人的天堂是另一个人的地狱。例如,我仅仅是维持2047正常工作,为各位提供交流服务,就已经让品葱站长整个人崩溃趴在桌子上哭过好几次了。这就是为什么清华民国(从今天开始就叫民国吧,王国实在太吓人了)只为自己国民争取权利,因为只有这样才是完全符合人性的,无需证明真心的。我如果说我要帮助全中国人民实现民主,人家肯定怀疑我,觉得我是骗子,而不怀疑的早就去了郭文贵那边。
其次,在区块链上洗钱的人,以及使用黄金、现金洗钱的人,还有用BT盗版的、交流儿童色情的人,比例永远比任何中心化交易、分发方式更高。所以动机的好坏,与中心化还是分布式无关,分布式的好处是稳定,而稳定可以是稳定做好事也可以是稳定做坏事。当然这个是拓展话题了。
绝大多数中央集权系统都有人的参与,而人有私欲,有缺陷。所以信息收集能力的缺陷,计算能力的缺陷,都是因为有人的参与。问题在于,由于政治必然是由人参与的,你不可能剔除一个政治系统中人的因素。所以政治系统不应该中央集权,集权了就一定放大个人私欲。
但软件是另一码事,比如操作系统的调度器就是中央集权,理论上他可以歧视任何一个进程,但实际上他不会,因为他没有私欲,他不需要偷cpu时间为自己换面包。
所以如果人的因素无法完全剔除,我们很难argue说集权系统的恶不是因为其中存在的人,而是因为系统本身的设计。
所以如果我们搞出一个AI,这个AI的恶,几乎必然是设计者、管理者的恶的延伸和放大,而我们需要解决的是怎么在这群人中达成共识,让每个人目标一致不作恶。
目前唯一比较靠谱的解决方案,似乎只有成立议会,做一些创收的事情,然后给大家发钱。在数字极权下,我能做的最伟大的,也就只有清华国军这类工作了。
至于你问清华民国是否会用到AI,当然是不需要的,因为加入清华民国的成本很高,大家能加入必然是已经有了某种高度的共识,遇到问题直接开会投票就是了。如果我把2047的加入成本也设计成 leet 那么高,那么2047就不会有任何spam,但也几乎就不会有人气了。