“如果我们这一代人做出错误的选择，我们的下一代就将是历史上的最后一代人。”当代美国哲学家E·拉兹洛说“摆在我们面前的选择是命运的选择：是进化和灭亡之间的选择。” 目前科技创新的一些前沿技术已经开始进入商业化轨道。在科技成果市场化时，可能面临科技伦理的挑战或伦理调控难以企及的真空地带。

前沿科技的研究具有高度不确定性，石棉的应用就是一个例证。由于石棉可以广泛应用于防火、保温等领域，在没有彻底研究清楚石棉的性质之前，就过早进行了开发利用，后来石棉被证实具有致癌性，导致“石棉危机”。另一个典型例子是纳米技术。

自20世纪90年代纳米产品进入人们生活以来，纳米材料已经应用于大众生活，并显示出诱人的发展潜力。但是，纳米材料的广泛使用却可能带来人们不愿意看到的问题。纳米技术对人类健康和自然环境的负面影响，成了科技界和伦理界研究的新话题。

纳米技术是20世纪80年代末期诞生在90年代初迅速发展起来的用原子和分子创制新物质的技术，是研究尺寸范围在在一百纳米以下的物质的组成，在这种水平上对物质和材料进行研究处理的技术称为纳米技术。[1]在这样的一个尺度空间，由于量子效应、物质的局域性及巨大的表面和界面效应，使物质的很多性能发生质变。纳米科技的最终目标是人类按照自己的意识直接操纵单个原子、分子，制造出具有特定功能的产品。纳米科技表明人类正越来越向微观世界深入，人们认识、改造微观世界的水平提高了前所未有的高度。

2003年，在美国化学学会年会上，有3个课题组分别报告说，纳米材料具有特殊的毒性。万一有人利用它制造出纳米武器，那可是防不胜防，因为它比人的毛孔还小，毒性和毒理都难以抵御。它也可自我复制，具有重构自然界的功能，其伦理风险无法估量。美国和英国政府已开始采取行动，加强对纳米技术的伦理研究。英国政府要求皇家学会和皇家工程院深入考察纳米技术的利与弊，研究纳米技术的伦理风险，进而把纳米产品对人体健康和自然环境的潜在危害降到最低限度。加拿大环保组织出于伦理方面的考虑，也向全世界呼吁暂停纳米技术研究与开发。

纳米技术的潜在危害可以广义的划分为下面几个方面:[2]  1. 纳米颗粒和纳米材料对健康的潜在危害；2. 分子制造(或高级纳米技术)的危害；3. 社会危害。纳米材料（包含有纳米颗粒的材料）本身的存在并不是一种危害。只有它的一些方面具有危害性，特别是他们的移动性和增强的反应性。目前公认的观点是，虽然我们需要关注有固定纳米粒子的材料，自由纳米粒子是最紧迫关心的。纳米粒子的有害效应不能从已知毒性推演而来。这样讨论自由纳米粒子的健康和环境影响具有很重要的意义。纳米颗粒进入人体有四种途径：吸入，吞咽，从皮肤吸收或在医疗过程中被有意的注入（或由植入体释放）。一旦进入人体，它们具有高度的可移动性。在一些个例中，它们甚至能穿越血脑屏障。纳米粒子在器官中的行为仍然是需要研究的一个大课题。基本上，纳米颗粒的行为取决于它们的大小，形状和同周围组织的相互作用活动性。它们可能引起噬菌细胞（吞咽并消灭外来物质的细胞）的“过载”，从而引发防御性的发烧和降低机体免疫力。它们可能因为无法降解或降解缓慢，而在器官里集聚。还有一个顾虑是它们同人体中一些生物过程发生反应的潜在危险。由于极大的表面积，暴露在组织和液体中的纳米粒子会立即吸附他们遇到的大分子。这样会影响到例如酶和其他蛋白的调整机制。

纳米技术在各个方面都有都有着广泛的应用。纳米技术可以让资源得到更有效的持续利用，从而使更多的人从中受益。而纳米技术的应用可能会给社会带来危害，主要的问题包括隐私权,社会代沟,沟通和风险。如同以往的技术一样， 纳米技术能产生的效果将会扩大贫富差距,这主要是利用纳米技术可以提高医疗保健,交通,能源供应等的应用，从而使更多的人走向富裕的生活。然而，从另外一方面讲，许多的贵重金属和矿物的新纳米材料可望取代，通过减少对这些自然资源的使用从而降低我们依赖从发展中国家来的非再生能源。如过通过纳米技术简单的替代这些资源，对于发展中国家的经济将是一个巨大的冲击。为解决这些潜在的影响，纳米技术在不同的国家，不同的领域也应该发挥不同的作用。

纳米材料因为对传统的物质的一些优势正在被开发。但是我们仍然不清楚他们相对于传统的物质会对于身体和环境带来多大的危害。由于这种危害是在理论上存在的，只要采取谨慎态度，就能够较好地预防。但是，也有一些新兴技术对人类社会的影响却不是那么明显，或者虽然在理论上有可能，但是不容易权衡其利弊得失。工业机器人的应用就是这样的例子。

案例 机器人技术与就业[3]

在过去的十年中，机器人革命已经俘获了世界的想象力。随着机器人的能力扩展，行业购买和安装这些日益智能化机器的速度也在增加。机器人已经开始在制造业大量采用。在制造业领域，科学家设计了能够完成枯燥和危险任务的机器人，比如在工作环境恶劣或危险的环境里，机器人正在替代一部分以前由人负责的工作。

在宝武集团湛江钢铁厂，一条全天候的智慧铁水运输系统正在运行。铁水运输是钢厂物流系统与生产联系最紧密的环节，在传统钢铁生产过程中，铁水调度、机车驾驶、摘钩、驻车、对位、路径规划、配罐等作业均需人工完成，因为高温、暴雨、台风等恶劣天气，1500℃的铁水、粉尘、噪声等恶劣环境，凭借人员经验、素质和应急判断为主的操作模式，带来高昂的人力成本投入、效率提升瓶颈和巨大的安全隐患。

据了解这套智慧铁水运输系统通过搭建实时自学习自适应高精度控制模型，并结合全天候环境感知、数字孪生、机器学习、机器视觉等技术，能够实现机车运输的全天候环境感知、全障碍物识别，实现机车自动摘挂钩、恶劣环境精准定位。以往机车驾驶班组需要40多人，伴随智慧铁水运输系统的上线，初期人力成本会降低70%，最终将实现无人。他认为智能的核心在于决策和执行，而决策的核心是感知和判断。在工业系统中，IoT技术不断发展，为智能化技术实施提供了可靠的感知基础。但是目前的工业智能大都以人的决策和反馈为核心，这就导致系统中有很大一部分的价值并没有被释放出来。

以钢铁生产为例，事实上工厂机车很早就已经实现了自动化，但仍旧难以解决“冲突”的问题。例如五条轨道同时要过车，以往调度人员只能凭借经验进行调度，但未必是效率最大化的解决方案。伴随AI的应用，人无需做判断，机器会凭借始点和终点双方的生产计划、调度计划以及车辆铁水温度实施情况进行判断。借助AI技术，协作机器人也在推动工厂生产从标准化向柔性制造转型。通过AI算法可以让视觉系统具有更强的自主力。与协作机器人本体结合，可以实现更加智能化的工作流程。例如基于深度学习的手机机壳外观检测系统，内置神经单元具有高度的智能化，系统可以通过自我学习完成各种手机壳的检测程序。同时，机械臂作为执行终端，可将熟练工通过远程装置操作的动作切换到自动运行，包括一些精细的微调动作也可由机器人捕捉并运行。“如今机器人已经广泛部署在仓库和工厂车间，但它们只能处理特定任务，例如拾取特定物体或转动螺丝，而谷歌则在尝试让机器自主学习。

但是，机器人和人一起工作，也产生了一些伦理困境。全球适用机器人的数量在过去两年中增加了三倍，其中每3个机器人中就有一个在中国使用，有计量经济学模型显示，每个新安装的机器人取代了1.6名制造工人。到2020年，全球可能有多达2000万个制造业工作被机器人取代。另一方面，机器人不仅提高了生产力，也促进了经济增长。有证据表明，平均而言，新机器人在低收入地区取代的工作岗位数几乎是同类高收入地区的两倍。[4]机器人的使用更严重打击了低收入地区。在自动化工厂发展的过程中，人类工作者与机器人在一起工作可能会产生自卑情绪。更进一步来说，他们可能担心工厂的管理者会进一步用机器人代替他们，因为他们认为机器人（原则上来说）可以完全代替人类的工作。机器人化带来了一个困境，必须平衡长期增长的潜在收益和社会混乱的短期痛苦。

机器人不仅威胁到了大量低端产业工人的就业，甚至还被应用在比人类劳动者更高的监督岗位，监督人类工作。近日美国科技媒体theVerge公开了一份亚马逊公司内部文件，在亚马逊的仓库里，一个工人每小时必须完成几百个包裹的包装工作，强大的AI机器监控系统不仅能跟踪每个人的工作进度，甚至还能精确计算工人消极懈怠的“摸鱼”时间。亚马逊的AI监工系统可以实现深度自动化的跟踪过程。如果员工的工作速度变慢，或者长时间没有接触包裹(上厕所、喝水等情况)，该系统会将这些情况视作偷懒，算在“摸鱼”时间内。可怕的是，如果生产率指标数次不达标，AI系统会自动生成警告，并且最终在线生成解雇员工的指令，这个过程不需要主管的意见。也就是说，亚马逊的基层员工可以因为AI的判断而自动被开除。亚马逊方面则声辩认为，这个AI系统的主要目的不是惩罚和解雇员工，而是为了提高员工的工作效率。只有当工厂75%以上的工人达到工作目标时，才会进一步提高目标门槛。另外，表现最差的5%的工人有机会参加培训计划，以求改进。著名的亚马逊批评家Stacy Mitchell表示，“这些机器人将员工视为冷冰冰的数字，而非活生生的人。”而作为活生生的人，工人们对于这套机器系统将怀有更大的敌意。智能机器的这些应用在道德价值层面有待商榷。