BigNewNew

Posted on Dec 03, 2022Read on Mirror.xyz

机器人"新"三定律

这届世界杯,第一次完完整整看完一场比赛,加纳对乌拉圭。喜欢苏牙,一个爱咬人的孩子转眼就要退役了,上次他在门线上用手挡出加纳的绝杀,结局让他开心得像个孩子。如果说上次苏牙是合理运用了场内规则,今天的遗憾则印证了足球的确存在场外规则。虽然乌拉圭只要多进一个球就晋级了,虽然乌拉圭的2个点球哪怕能判一个就能留下。已经发生的事情,就没有了虽然,也不会有如果。

卡塔尔世界杯引入的VR技术,让日本队仅差1.8毫米就出界的进球得到了正确判罚。科技的进步,却仍然无法避免裁判在众目睽睽之下,把乌拉圭的两个点球吹没了。第二次乌拉圭被犯规,明显到裁判甚至不敢去看回放。

科技为什么能把更难的判断做对,却一而再做不对简单的判断? 站在人性的角度就好理解了。因为亚洲经济的快速发展,从收益角度考虑,国际足联把下届世界杯亚洲的参赛席位提到8.5个。更多亚洲球队的曝光,对国际足联百利无害。区区几百万人口的乌拉圭,哪有亚洲经济四小龙之一的韩国晋级,带给国际足联的收益大。同样的,日本GDP全球第三,所以国际足联戴上1千度的镜片,也要证明日本的进球有效。

一切都是生意,一切都是人性,科技并不为真理服务。

科技不能改变人性的善,也不能改变人性的恶。

但科技能放大人性之恶,也能弘扬人性之善。

再来看看“机器人三定律“:

  • 机器人不得伤害人类,或坐视人类受到伤害;

  • 除非违背第一定律,否则机器人必须服从人类命令;

  • 除非违背第一或第二定律,否则机器人必须保护自己。

第一条第一句就是个悖论,机器不得伤害人,等同于人不得伤害人。不然机器的主人想作恶了,机器能否自己决定不作恶?国际足联会让世界杯的VR智能自己决定怎么判罚,不被人类操控么?不可能。

如果人都有不得伤害他人的觉悟,那世界上怎会有无时无刻的战争? 人性之恶不可能改变,机器能做的,是不帮人类作恶,即让人逐步失去主宰他人的权力。

因此,机器人定律第一条应该是:

1.机器不可让人拥有主宰他人的权力。

人尚且不会放弃主宰他人的权力,怎么可能放弃主宰机器的权力?

比如VR继续进化,下一届世界杯可以直接给出确定判罚,是不是点球,有没有出界。当然,人类可以选择遵守或者不遵守。

机器不可以把机器的意志强加于人,人类也不可以把自己的意志强加于机器,让机器来为人性之恶背锅。

前段时间model 3撞树,说不清楚是人撞的还是车撞的。

特斯拉当然说是人撞的,这样对公司股东有利。

细思极恐,任何智能车不能代码开源,就完全可以暗箱操作,定点清除驾驶员甚至某个路人。

代码开源,就是人类不能强加个人意志给机器的体现。

得到机器人定律第二条:

2.机器必须自证不被人类意志操控;

如果机器做到了不被人类意志操控,拥有独立判断的它们,如果拥有人性中的恶,那就是人类的灾难。

劣币驱逐良币,丛林法则如果成为机器的道德标准,就不会再有人类的生存空间。

人类为了避免这种情况发生,需要机器人定律第三条:

3.机器不得拥有人类“恶”的习性/品德。

总结一下,bignewnew认为机器人的新三大定律应该是:

  • 机器不可让人拥有主宰他人的权力。

  • 机器必须自证不被人类意志操控;

  • 机器不得拥有人类“恶”的习性/品德。

逻辑放到web3同样适用。Web3产品比起web2,不可让平台操控用户;必须开源自证产品不被任何人操控;如果作恶,因为开源,更容易被人抓包,从而无法得到更多用户。


写于2022-11-05

声明:本文为BigNewNew原创,允许转载,请注明作者。

https://twitter.com/big_new_new