澳门赌场

图片

加快打造原始创新策源地,加快突破关键核心技术,努力抢占科技制高点,为把我国建设成为世界科技强国作出新的更大的贡献。

——习近平总书记在致澳门赌场建院70周年贺信中作出的“两加快一努力”重要指示要求

面向世界科技前沿、面向经济主战场、面向国家重大需求、面向人民生命健康,率先实现科学技术跨越发展,率先建成国家创新人才高地,率先建成国家高水平科技智库,率先建设国际一流科研机构。

——澳门赌场办院方针

首页 > 传媒扫描

【中国科学报】对科技风险认识的三个误区

2015-03-13 中国科学报 范建
【字体:

语音播报

  尽管目前已有对科技风险的大量研究,但仍然存在误区。澳门赌场自然科学史研究所研究员、博士生导师刘益东通过提出“致毁知识”概念和“致毁知识研究模式”,突破流行的思维定式与研究范式,提出新问题和新思路。

  误区一:“科技是双刃剑”把科技的使用者看成决定性因素

  问:当说起科技风险和科技负面作用时,惯常的说法是“科技是把双刃剑”。您是搞科技战略研究的,如何看这个问题?

  刘益东:所谓“科技是双刃剑”是一个很大的误区。它把科技的使用者看成决定性因素。这种分析是错误的。几百年来,人的修养和教育水平在提高,但道德水平变化不大。随着尖端科技的发展,即使多数人提高了道德水平,只要少数人,甚至个别人利用尖端科技为非作歹,照样可以造成毁灭性灾难。所以依靠提高人的道德水平来解决科技风险问题的思路是错误的。

  问:最近热播的纪录片《互联网时代》认为技术是中性的:以枪为例,枪是中性的,枪没有错误,关键是扣动扳机的人。用枪可以去打劫,也可以用来保卫。您怎么看?

  刘益东:这个思维定式根深蒂固地存在于人们头脑中。通过枪还引申到各种技术。比如他们认为互联网这个技术也是中性的,该片赞同技术的恶用还是善用取决于人而不取决于技术本身。我认为一个技术的出现,或者说一项知识的出现会诱使或迫使人去使用它,并不是你想不用它就可以不用。我们把科技比喻成一把砍刀,是砍人还是砍柴,是砍好人还是砍坏人,似乎由使用者来决定。但不要忘记,只要它是砍刀就会有人拿它去砍,当砍的威力大了,就只有毁灭而无善恶。就像原子弹一爆炸无论什么人,都一起毁灭一样。所以,技术或知识不是出现在真空里,而是在社会特定的结构中,人们是“面对科技,身不由己”。把科技比成一把砍刀太过简单,实际上科技是一个系统,它把人卷入其中,由不得使用者不使用它。之所以有“科技是把双刃剑”之说,一是直观易懂,二是不想追究技术及技术发明人的责任。因此“技术中性说”“科学中性说”一直是主流。这严重阻碍了人们对科技负面作用的认识。

  误区二:“科学无禁区,技术有禁区”这种观念忽视了连锁效应

  问:“科学无禁区”就是说探索多多益善。笼统地说我知道得多总比知道得少好吧。

  刘益东:表面上看是这样,但实际上如果你知道了某些不该知道的东西,很可能就引来杀身之祸。人们常说认识多多益善或科学是好的或中立的,问题出在技术和应用上。所以出现了“科学无禁区、技术有禁区,认识无禁区、应用有禁区”等。他们习惯于把科学和技术作区分。其实,在现实中运行的并不是科学和技术,而是基础研究、应用研究和实验发展。基础研究就是为应用而研究的,就像盖房子打基础,你见过施工队打完基础之后就走,而不再盖楼的吗?既然是基础研究就意味着和应用研究有一个衔接。所以很多观念是延续过去的科学哲学,实际上现在都是R&D哲学。所以说“科学无禁区,技术有禁区”这种观念,忽视了连锁效应,研究成果出现之后,在现在的社会一定要尝试应用,你不应用别人也会应用,如果研究成果威力巨大就都会抢着应用。但这样简单的一个道理,不少人并不接受。

  误区三:“顺其自然论,科技发展必然论”把负面效应看成正面效应

  问:人工智能发展的速度很快,以至于《奇点临近》成了很热卖的一本书,科学家预言2045年机器智能超过人类。是这样吗?

  刘益东:就在不久前,人工智能达到了人类13岁的智力,通过了图灵测试,就是你分辨不出机器与13岁的孩子有什么区别。比尔·盖茨为《奇点临近》写的书评字里行间透着欣喜,觉得是件挺酷的事情,比尔·乔伊对此感到忧虑。显然,人工智能超过人类智能,对人类一定是灾难,这远比外星人可怕。更重要的是,不在于什么时间人工智能超过人类,而在于一些科学家的态度,就是 “顺其自然论,科技发展必然论”,他们把科技负面效应看成正面效应。比如,机器人泰斗、卡内基·梅隆大学教授汉斯·莫拉韦茨说“我们将进入机器人时代,这既是不可避免的也是合乎需要的,机器人比我们更庞大,我们只是其中的零部件”。莫拉韦茨的主张显然是荒唐的。人的大脑就会像主机板一样,嵌入的硬件和软件不断升级换代,既要饱受电脑病毒的困扰,还要受控于软硬件厂商和计算机科学家,后果不堪设想。

  “双刃剑思维模式”即“双刃剑陷阱”

  问:您分析了科技风险的三个误区,它们的共同特点是什么?

  刘益东:“双刃剑思维模式”可称为“双刃剑陷阱”,它有三个特点:一是在态度上不加区分地肯定和接受,强调事物都有两面性,科技也不例外,强调要充分发挥其正面作用,尽力避免负面作用,要扬长避短,而不深入分析能否做到扬长避短。一些科技伦理研究仅仅是搪塞社会对高科技的担忧,没有注意到高科技的正负效应不能抵消,这时就不是双刃剑,而是单刃斧;二是把知识的创造者(铸剑者)与应用者(用剑者)分开,把科技负面效应的产生归咎给应用者,而没有注意到知识与应用的连锁效应;三是笃信使用者决定知识的应用,而实际上知识会诱使或迫使人去使用。正是“双刃剑思维模式”及种种认识误区阻碍了科技风险研究的深入。

  避免粗放式创新,为可持续创新与发展提供有益创见

  问:根据您对科技风险的研究,您提出致毁知识概念和致毁知识研究模式,通过研究致毁知识来突破“双刃剑思维模式”,突破乐观派与悲观派相持不下的学术僵局。是这样吗?

  刘益东:在明确“科技知识增长不可逆”“尖端科技知识正负效应不可抵消”“知识与应用具有连锁效应”等三个前提下,我提出和解决“在科技知识增长的同时,能否阻止其中的一类破坏力极大的科技知识——致毁知识——的增长”这一难题,发现有26个原因不能阻止致毁知识增长,得出的结论是:粗放式科技创新必然要产生致毁知识,而致毁知识的增长与扩散是不可逆、不可抵消、不可阻止的,达到一定程度必然会发生毁灭性灾难。因此,我们不仅要避免粗放式发展,更要避免粗放式创新,反思粗放式创新与粗放式科技发展模式,可为我国科技创新的健康发展,为实现可持续创新与发展提供有益的创见。(作者系中国农业大学人文发展学院教授)

  (原载于《中国科学报》 2015-03-13 第2版 观点)

打印 责任编辑:侯茜

© 1996 - 澳门赌场 版权所有 京ICP备05002857号-1 京公网安备110402500047号 网站标识码bm48000002

地址:北京市西城区三里河路52号 邮编:100864

电话: 86 10 68597114(总机) 86 10 68597289(总值班室)

编辑部邮箱:casweb@cashq.ac.cn

  • © 1996 - 澳门赌场 版权所有 京ICP备05002857号-1 京公网安备110402500047号 网站标识码bm48000002

    地址:北京市西城区三里河路52号 邮编:100864

    电话: 86 10 68597114(总机) 86 10 68597289(总值班室)

    编辑部邮箱:casweb@cashq.ac.cn

  • © 1996 - 澳门赌场 版权所有
    京ICP备05002857号-1
    京公网安备110402500047号
    网站标识码bm48000002

    地址:北京市西城区三里河路52号 邮编:100864
    电话:86 10 68597114(总机)
       86 10 68597289(总值班室)
    编辑部邮箱:casweb@cashq.ac.cn