ITPub博客

首页 > 人工智能 > 人工智能 > 还有哪些不能推开的科学之门?

还有哪些不能推开的科学之门?

原创 人工智能 作者:naojiti 时间:2018-11-29 20:51:41 0 删除 编辑

这两天“基因编辑婴儿”的新闻持续发酵,讨论声铺天盖地。

印象中我好像从来没有见过世界各大科技、学术媒体在同一天把中国新闻当做头条。第一次见到这种情况却是这种新闻,作为科技媒体从业者真的有点难过。

事实上,关于这个新闻本身的讨论已经够多了,但我们觉得或许有必要在这个时候,从另一个角度提醒大家:科学伦理的门锁,不仅挂在基因科学上。从生物学、药学到遗传学、神经科学,再到电子工程和AI,人类不应该推开的科学大门还有很多。

在我们批评和指责这次事件的始作俑者时,也应该看到:这次事件或许证明了,在学术噱头与名利场游戏的驱使下,更多关乎生命与人权的科学伦理禁忌已经岌岌可危。事后的指责固然必要,然而预见性的提防与规则建设才是避免问题的根本。










客观而论,某些领域的科学发展,是需要以人作为试验品的。然而生命的价值高于一切,在这个科学家与人类社会的公认准则下。很多科学伦理原则在现代科学史上被陆续提出,从1964年禁止以人体作为医学研究对象的《赫尔辛基宣言》,再到1979年保护医药受试者权益的《贝尔蒙特报告》,直到去年由产业与学术界共同发布的《23条人工智能发展原则》。

学术界、产业界已经连同社会各界,于不同学科中,在科学与生命伦理的矛盾地带设立了禁区。

以下几种“科学实验”,都已经被标注为人类不应该走入的科学禁地:

可能影响人脑的脑机接口与脑设备植入

宇宙和大脑,被认为是人类最终极的两个研究方向。

然而与宇宙不同,脑科学的实验观测必须小心翼翼,涉及活体实验尤其如此。

近两年,无论是产业界还是学术界,脑机接口都成为了新的热门词汇。钢铁侠马斯克投资了脑机接口公司,让这个未来科技的热度突然飙升。

但无论是用电流刺激大脑,这个中国人非常熟悉的概念;还是脑机接口、脑植入芯片这些未来概念,都必须遵守一个实验原则:实验必须证明不对受试者本身产生任何影响。

这里的伦理困境在于,对大脑施加某种影响,已经被证明可以影响一个人的性格、记忆,甚至自我认知。

这就引发了这样一个问题:无论是想改变大脑中某种特性(比如治疗网瘾),还是增强大脑(强化记忆力),或者让大脑直接与外设设备联系(神经元指挥义肢),都可能带有难以明确的副作用。

比如2016年美国的一份研究报告表明,一位用电流刺激大脑,以期望治疗抑郁症的病人,开始出现怀疑生存价值,无法控制自己语言等问题。

直到目前为止,我们还不知道脑机接口、大脑植入设备这些技术,可能以多强程度改变一个人。植入了某个设备之后,人类还能在多大程度保有自己?即使有1%的自我被他者设备所挤占,那也是伦理上无法应对的问题。

早在2011年,美国DARPA国防高级研究计划局公布了一个研究成果,他们通过芯片植入的方式,让昆虫便成一个可控制的“傀儡昆虫”。那么脑机接口等研究是不是也蕴藏了改变一个人,甚至控制一个人的可能?

基于这个风险,科学界共同禁止一切可能对人脑产生影响的实验,尤其反对军事目的的神经科学技术实验。

然而可悲的是,今天我们身边并不乏“电击大脑治疗网瘾”,甚至“用大脑仪器让孩子变聪明”的报道。

教AI做“电车难题”

今天为科学公约所禁止的实验,大部分都关乎人类机体本身,以及胚胎、器官等生物领域。但在纯虚拟的世界,科学伦理问题也愈发凸显。

比如上面提到的《23条人工智能发展原则》,就明确提出禁止训练AI智能体在人类生命中做出选择。直白点说,就是不能教育AI做著名的“救一个人,还是救十个人”的“电车难题”。

这个问题可能看起来仅仅是个逻辑悖论而已,但实际上这却可能引发与激化已经非常明显的AI伦理冲突。

比如AI的歧视可能进一步加重。

中欧某国的一家连锁店,曾经在不久之前被曝光,店里的机器视觉系统被训练为,通过衣着服饰等因素来识别顾客的民族和身份地位。并提醒售货员进行区别对待,以增进销售额。这显然造成了严重的贫富歧视和民族歧视。

美国某海关,也曾在去年被爆出使用AI算法来寻找毒贩。这听起来挺好,但它的工作原理是学习毒贩的穿衣打扮,然而在类似衣着人员出现时,提醒工作人员进一步搜查。这样做的后果,是某些拉美国家的旅客被反复搜查,惹出来种族歧视的麻烦。

在AI已经很严重的歧视问题基础上,做那些拷问人性的训练,并以之作为AI的应用标准,这显然是非常危险的。很可能推导出救援AI先救富人,无人驾驶汽车在事故不可避免时先撞老人这样的问题。

潘多拉魔盒一旦打开就无法合上,这条让AI学习人性矛盾之路的最终进化版本,或许就是广受唾弃的自动杀人武器。

伯纳德实验

1968年,美国儿童精神病学家彼得·纽鲍尔团队开始了一项被人指责了数十年的实验。

科学家们让被父母遗弃的两个女孩,葆拉和埃莉丝分别被不同的家庭领养。35年后她们才知道自己居然有双胞胎姐妹。这就是科学史上引发无限争议的伯纳德实验,也被称为双胞胎分离实验。

这个实验的本意,是想要证明一个人的成长环境究竟可能对人产生怎样的影响。一个人的精神世界,究竟有多少先天和多少后天部分组成。

在两个女孩成长过程中,科学家每隔几个月就会暗中观察并记录一下成长情况,希望从中解答“个性究竟是怎么形成的”。

事实上,双胞胎从小分离也并不少见。然而这个实验的残忍之处在于,实验员必须在明知道双胞胎情况的条件下,不告诉二人自己有兄弟/姐妹,以此来完成实验。

显然,这对于人伦关系是个巨大的挑战,因此也被列为心理学和精神病学中的禁忌实验。

以人类为受试对象的多种遗传学实验

更加需要人类参与受试的,是遗传学领域的若干实验。这次的基因编辑婴儿事件也属于这一范畴。而在基因技术之外,还有不少遗传学的人类实验被列为禁忌。

比如这两年取得很多突破的光遗传学,在今天也没有证明具备人体实验的条件。

所谓光遗传学,是指向生物体内注射仿生自水母的毒素。从而使细胞膜中某些离子通道可以对光产生反应。然而在用聚焦光束去照射脑组织,可以观察到脑细胞的放电频率。

这一实验已经在小白鼠身上取得了成功,科学家当然最终希望能够以此解释人类的大脑到底是如何运作的。揭开这个谜团,对生物学和医学来说意义简直无法想象。但由于注射毒素并不能证明对人体是无害的,并且观察脑细胞也可能带来大脑损伤。因此光遗传的人类实验今天还是禁忌项目。


另一个不能做的实验,是观察胚胎究竟是如何形成的。

这个人类诞生的谜团,今天在理论上可以用在胚胎细胞中注入某种基因,然而通过追踪该基因活性的方式,来观察人类的形成之谜。但由于风险过大,有可能对婴儿造成不可逆影响,其被禁止在孕妇身上实验。

相关的实验还有很多,比如脑组织切除实验、遗传标记剔除实验等等,但就像这次的基因编辑婴儿所引发的争议一样,科学家和全社会,都无法对被作为试验品的真实人类负责。因此锁在门后,等待科技的进一步发展才是它们的归宿。

人兽界限实验

还有一项禁忌,是生物学和进化论研究中必须面对的问题:人和猿,到底有什么区别?

想要搞清楚这个谜题,或许最简单粗暴的办法就是尝试人猿杂交,以及人与猿互换母体。但显然在伦理上是绝对无法容忍的。

另一个相关实验,就是所谓的“狼孩”或“人猿”。把动物当做人类来抚养,很多科学家,甚至马戏团和热爱动物的家庭都曾经尝试过,事实证明动物的“通人性”程度始终有限,没有看到太多智力进化的可能。那么如果把人放进动物群体生长,人会依旧保持人性,还是彻底兽化呢?

这也是一个禁止实验的问题,我们只能在文学与影视作品里观察相关题材。




不难发现,科学伦理问题并不是一个虚无缥缈的神话,或者掉书袋者的无病呻吟。如果真的失去底线和禁忌,无论是追求真理,还是财富和名誉,人类在科学上将很快丧失人性,彻底沦为结果的努力。

对科学伦理问题的不断加深认识、推导因果,达成国际共识,是科学安全与人类安全共同的保护锁。一旦锁头掉落,谁也无法肯定大门另一边会涌来什么。

那些门,还是让它们紧紧关上好了。


来自 “ ITPUB博客 ” ,链接:http://blog.itpub.net/31561483/viewspace-2222196/,如需转载,请注明出处,否则将追究法律责任。

请登录后发表评论 登录
全部评论
你的困惑,来自于无路贴近未知。我们在技术、思想、传播的异界,贩来极限脑量下的TMT。

注册时间:2018-11-08

  • 博文量
    1051
  • 访问量
    550325