李飞飞斯坦福对话基因编辑发明人杜德纳:两大科技的伦理和创新走向何方?

http://www.webjx.com/  发布时间:2019-11-21 21:00:04  来源:硅谷密探 
人工智能和基因编辑无疑是两大最具颠覆性的科技。但任何颠覆性力量的背后都有“副作用”:人类是否会被它们操控或异化?这两大科技的发展如何更好跟伦理研究结合? (本文来源微信公众号“硅谷洞察”,微信公众号ID:guigudiyixian,硅谷洞察,链接硅谷资源的第一入口。本文由硅谷洞察原创,首发于腾讯科技,未经硅谷洞察或腾讯科技授权,请勿转载) 11月19日晚,这两个科技领域的领袖科学家李飞飞和詹妮弗·杜德纳(Jennifer A. Doudna)相聚斯坦福,举行了一场关于科技伦理的“巅峰对话”。 (图自硅谷洞察特约记者 Jinxia Niu) 这场对话罕见的由斯坦福大学校长马克·特希尔-拉维尼(Marc Tessier-Lavigne)亲自开场,斯坦福大学计算机与生物工程学教授拉斯·奥尔特曼(Russ Altman)主持。 校长在开场中透露了这次活动的缘由:李飞飞和杜德纳在约10个月前的一次晚宴上“一见如故”,发现虽然身处完全不同的科技领域,但双方却有诸多共鸣。例如,两人一直对人工智能和基因编辑被过度追捧乃至“滥用”有着深切的忧虑,并对科技的伦理做了诸多呼吁和努力。 李飞飞现任斯坦福大学“以人为本”人工智能研究院(HAI)的联合主任,曾2013年至2018年期间担任过斯坦福大学AI实验室的主任和Google副总裁和Google Cloud的AI 首席科学家,她发起的ImageNet和ImageNet挑战赛,在深度学习的视觉识别上做出了影响深远的贡献。 詹妮弗·杜德纳(Jennifer A. Doudna) 是伯克利大学化学和分子生物学与细胞生物学教授,基因组编辑技术Crispr-Cas 9的发明人之一。她和同事在2012年宣布发明了CRISPR技术,该技术利用细菌中发现的RNA引导的蛋白质快速廉价地编辑生物体的DNA,后来被称之为“基因魔剪”,迅速变革了整个生物科技领域。 关注和推动科技伦理的“心路历程” 对话开始,李飞飞和杜德纳分别谈到了各自领域的重大突破:深度学习和CRISPR诞生的过程,以及她们各自在科技伦理探索上的经历。 (图自硅谷洞察特约记者 Jinxia Niu) 李飞飞介绍,由于科学家对神经网络性能逐年提升,她很早便预见到深度学习的发展。李飞飞建构出ImageNet数据库和ImageNet挑战赛后,科学家们就一直在不断改善机器识别物体的能力。2012年,深度学习科学家Geoff Hinton和他的学生发表著名的《具有深度卷积神经网络的ImageNet分类》论文,深度学习从此天下闻名。 相较深度学习发展的可预见性,杜德纳表示,CRISPR是一个偶然的发明。原本,一家酸奶公司想要改善酸奶的品质,杜德纳和同事却在分析酸奶的细菌过程中有了新发现。这是一个基于好奇心驱动的项目,和原来的研究方向完全不同。尽管她在2012年就意识到了CRISPR在基因编辑上的巨大潜能,但后来发生的基因编辑婴儿等各种操作,却完全出乎她的意料。 两人是从什么时候意识到科技的伦理问题,并主动承担起呼吁的责任? 杜德纳回忆到,2013年,CRISPR技术已经发展的很快。2014年,已经有科学家在编辑猴子等动物的基因这种变化会被传递给后代。“于是,我清晰的知道,我必须要参与到这个技术的伦理研究中去,作为发明者之一,虽然我也有过犹豫,但我的责任感更强,毕竟这个技术只有科学家最清楚,如果我都不站出来说话,那还有谁会?” 2014年,杜德纳产生了首先要对科学家们进行自我监督的想法,她想到了阿西洛马会议,该会议于1975年2月在加州阿西洛马海滩的会议中心举行,有140名科学家参加了会议。他们在会议上自发暂停了DNA克隆工作,直到克隆技术被证明安全为止。 受这次会议的启发,2015年1月,杜德纳在旧金山北部的城市纳帕(Napa)召开了一次名为“生物伦理学研讨会”的CRISPR科学家会议,诺贝尔奖获得者、加州理工学院名誉院长戴维·巴尔蒂摩尔,保罗·博格等诸多知名科学家都参加了会议。 此外, 杜德纳还在2014年与其他科学家共同在伯克利创立了创新基因组学研究所(IGI),该组织也越来越致力基因编辑的伦理问题的研究和公众教育工作。 巧合的是,李飞飞也是在这一年开始了对人工智能伦理的关注。 “2014年,震惊我的是,中外媒体上如比尔.盖茨等很多名人开始对人工智能影响人性发表惊人言论。而仅一年前,这个领域还无人问津,我只能在学术会议上给大家发个小海报。同一年,我的一个博士生对人工智能的伦理和人性影响非常担忧,我们决定邀请一些高中生来实验室,尝试以人性为中心来学习人工智能。几年后,这个项目成长为 “AI4All” 的非盈利的项目,使命是让未来的科技能够更多从人性的棱镜里来被关注和发展。” 2017年,在谷歌工作期间,被两个年轻的工程师对人工智能伦理的无知与困惑深深触动,李飞飞感到了更大的使命感,觉得必须要让下一代对科技的影响有更深的理解。因此,2019年,李飞飞成为了斯坦福“以人为本”人工智能研究院(HAI)的联合主任,和更多不同领域的学者一起来推动科技的伦理研究。 工业界的爆发,学术界的焦虑 这两个领域目前受到的关于伦理的最多的批评是什么?解决建议是什么? 杜德纳关注最多的还是基因编辑婴儿的问题。“因为我几乎每天都收到世界各地的求助邮件,都是来咨询基因疾病的,他们问我如何才能用这个技术帮助我的母亲,丈夫或孩子。病人们在等待,他们不能一直等下去。我感到将基因编辑安全的用于治疗疾病的急迫性”。 在深度学习领域,李飞飞则认为,它降低了欺骗和操纵人们的门槛。比如虽然虚假的图片和视频一直都在,但深度欺骗深度欺骗(Deepfaking)技术可能带来严重的后果。对此,李飞飞提出,“像对待任何科技一样,我们应该尽快出具针对人工智能应用的法律。已经有人们在研究AI,法律和政策的交叉领域,我希望能更快加速这些研究”。 人工智能和基因编辑“一夜爆红”后,学术界和工业界的生态系统有了不少变化。 杜德纳提到,2013年,基因编辑领域了已经有几个创业者做的很好,今天他们都成长为了上市公司,这些成功故事在刺激着年轻的从业者。关于CRISPR的创业公司一直层出不穷,产业界的活跃也增加了学术界的焦虑。“因为如果你有一个新的主意,你会觉得要赶快行动,否则第二天就有人做出新的公司出来了”。 “学术界和工业界总体来说还是有很好的生态系统,但在过去的2-3年里,我最好的5个博士生,所有5个人都去创业了,这种变化对我来说是全新的”, 杜德纳说。 因为最好的科学家们正越来越多的从学术界“出走”到工业界,李飞飞则更直接的说,“人工智能的工业界正在伤害学术界”。 “2012年之后,深度学习的革命忽然就来了。工业界爆炸式的兴趣和投资带来了巨大的能量。深度学习第一依赖计算机性能本身,第二依赖于更多数据,第三依赖于大量工程师。工业界在这些方面比学术界更有优势,它们的资源比学术界强太多。比如引起轰动的阿尔法狗,很难想象学术界能支撑起这样的项目。而且,以往工业界更多是做短期项目研究,现在也开始做很多长期的研究,而不是马上去做商业化。学术界和工业界的界限正在模糊”。 李飞飞认为,工业界给学术界带来了许多压力,甚至完全改变了学术界对待人工智能的态度。但是,很多跨学科的研究,目前却只能在大学里才能更好的进行。 愿望:建立科技伦理的全球共识与框架 杜德纳和李飞飞关于两大科技的一个共同的愿望是:能够在全球范围内建立关于伦理的共识与国际性框架。 杜德纳认为,这在科技全球化的今天尤其困难。70年代的时候,科学家们聚在一起讨论克隆的伦理影响和暂停克隆,只需要召集少数几个“精英”大学的科学家,相对容易。但今天召集全球的所有该领域的科学家几乎是不可能的。如何将全球范围内的科学家们更快的聚集在一起来建立使用科技的共识和原则变得更棘手和具有挑战。 李飞飞补充说,很多人问到这两大科技被滥用,甚至被恐怖分子所用怎么办。这也是为什么建立使用科技的全球共识和国际性框架如此重要,因为这些技术面临共同的风险。建立基本的共识原则,与尊重个体或某个群体的决定并不矛盾,科技伦理在全球范围内的合作是必要的。 对于两大领域的未来创新方向,李飞飞的意见是,“我们还没有看到人工智能的成功故事,目前这个领域只是开始,还远远没有结束”,未来的创新需要更多去投资跨学科的人才来共同研究和发展人工智能。 而杜德纳则希望美国议会里能有更多科学家。“我第一次到国会关于基因编辑听证会的时候,发现当时在场的只有一个生物学博士,政策的制定人员不懂科技,如何与我们共同制定指导原则?我也希望能在生物科技领域建立一个融合教育、伦理、法律和社会学等更多元学科的研究机构,像飞飞的研究院一样,来做更多生物科技的融合研究。” 你最关注人工智能与生物科技的哪些伦理问题?你对人工智能与基因编辑的研究与教育有哪些想法与建议,期待与梦想?如果有机会与李飞飞和杜德纳面对面,你的问题会是什么?小探期待读者们踊跃举手发言!
更多