作者文章归档：刘永谋
为写《智能革命之后的世界》，最近在集中思考AI情感或情感机器人的问题。这几天比较了一下AI情感与AI道德。
现代智人的良心是4万年前跳跃式演化的结果，而之前是没有道德感。与克罗玛农人竞争的其他人种，似乎没有道德行为。进而言之，智能并不意味着道德，无道德的智能当然可以存在。即使在地球上，有道德的智能生命适应性增加而在竞争中获胜，但这并不代表在其他环境中道德智能更有竞争力。很可能，人类作为道德智能占据地球，只是偶然性的事件。如霍尔丹的思想实验，如果地球演化重头再来一遍，今天地球生物的局面不会再现。
相比道德而言，人类的情感更为复杂，因为它不独为智人所独有，起码在哺乳动物身上表现...
OpenAI“宫斗”大戏，让AI“对齐”（alignment）一词不胫而走。好多人认为，奥尔特曼这样的邪恶资本代言人，压制坚持对齐的正义科学代言人苏茨克维，我们要站在正义的一方。
事实果真如此吗？可以想象，公众难以理解复杂问题，总希望事情能有简单的解决方案。可是，通过对齐操作，AI发展就能符合人们的需要、不背离人类的意图了？真有这么神奇吗？
质疑AI对齐的可能
何为对齐？它在机器学习尤其是大模型技术发展过程中出现。《人机对齐》一书认为，“如何防止这种灾难性的背离——如何确保这些模型捕...
10月20日，工信部印发《人形机器人创新发展指导意见》（以下简称《指导意见》），引发各界尤其是产业部门的广泛关注。《指导意见》开篇即高屋建瓴地判断，人形机器人（humanoid robot）“有望成为继计算机、智能手机、新能源汽车后的颠覆性产品。所谓颠覆性产品，不仅是说某种新科技产品能迅速成为“爆款”的可能性，更是指它具有带动和主导上下游快速变革的“生态性”，进而推动整个经济活动迅速变迁，最后“将深刻变革人类生产生活方式，重塑全球产业发展格局”。因此，《指导意见》将人形机器人创新发展置于经济增...
传统观念认为，当“六亿神州尽舜尧”，理想社会自然到来。当21世纪之交生物工程和人类增强技术的迅猛推进，尤其是智能革命的兴起时，新科技的伟力不仅昭示于自然改造中，而是深入到智人的改造中——我称之为自觉的身心设计——理想主义者们将“完美智人梦想”实现的希望寄托于新科技之上。
智人的身体与灵魂可否用新科技改造，应不应该用新科技改造？在大规模的身心设计实施之前，必须要对身心设计的合理性进行论证。
1.从身心选育到设计
虽然一...
将algorithm译为“算法”，是一件有趣而意味深长的事情。
内容要点
1警惕AI发展，防止AI失控，正在成为全球范围内科技领域的“政治正确”；
2在严防人类自我灭绝的问题上，很多风险如核大战、气候变化、致命病毒传播、生物科技滥用等要排在超级AI之前；
3AI可能导致各种社会风险，学界早已指出，各种应对建议也早被提出来，现在的问题是根据国情落实AI治理措施，不是暂停研发；
4如果不做政策上的总体安排，ChatGPT肯定会导致大量“AI失业”，反过来“AI失业”又会阻碍ChatGPT的进一步应用。
文 / 刘永谋中国人民大学哲学院...
“V神”布特林是以太坊的创始人。《权益证明》是一本文集，收录他对区块链的思考，总结他创立和发展以太坊的思路。这本书的技术性较强，直指区块链运行的底层逻辑，即布特林所谓的权益证明机制，适合有志于深研区块链的人士细读。说实话，我毕竟没有专门研究区块链，读起来也是半懂不懂。
好莱坞喜欢拍摄科幻片，科幻是美国流行文化的重要样式。仔细研究一下，最近30年，在美国科幻文艺中，批评新科技的作品即所谓科学敌托邦文艺，更为流行。美国著名科幻作家阿西莫夫直接就是，当代美国科幻不是乌托邦的，而是反乌托邦的。
继续研究ChatGPT，最近聚焦于它冲击教育的问题上。有一个非常明显的感觉：媒体是不是过于夸大了对ChatGPT应有的担忧了，有些人的态度甚至可以用“恐惧”二字来形容了。
《阿凡达》是一部典型的生态主义电影，充斥着强烈的非人类中心主义情绪。它构想了一个生态和谐的星球潘多拉，生活着与山川河流、动植物为友的纳美族人。与之相对，地球和人类则生活在消费社会的另一极，崇尚人类中心，把自然作为征服和改造的对象，把纳美人视为野蛮落后的原始人。
电影集中于双方的战争，对纳美社会描绘不多。我很好奇它是什么样子的，会不会是某种生态理想社会呢？同样的社会在《异星战场》（John Carter，2012）中，也有出现，即索丽斯为代表的希雷姆城文明。
从科学方面看，类似生态乌托邦某些方面很落后，比如在武器研发上，在某些方面则可能很先进，比如利用风力、...