【斯坦福教授：机器正在“劫持”我们的思想】

本篇文章5220字，读完约13分钟

《大师》由网易研究局和其他山石智囊团共同出品，本文是网易研究局的独家原稿，转载请注明出处

聚焦国际思想市场，分析财经信息热点，与国际经济学大师对话

大师no.050

作者|迈克尔·斯奈德( michael snyder )

斯坦福大学基因学系主任、基因和个人医疗中心负责人、功能基因组学和蛋白质组学行业权威专家。 他的实验室是世界上第一个将大规模功能基因组学应用于任何生物的实验室。

赫塔拉马克斯( bertalan meskó)

未来医疗学家、医学极客、马克斯博士是医学未来学家研究所( the medical futurist institute )所长，德布雷岑大学医学与科学双材博士，研究科学技术如何使医学与医疗行业的愿景成为现实。 webicina常务理事和创始人是向患者和医疗专家免费提供医疗健康行业相关新闻媒体资源服务的第一个平台。 他的研究成果已经被cnn.com、世界卫生组织、《自然医学》、《纽约时报》、《英国医学杂志》等多家媒体和机构广泛引用。

赫塔拉马克斯

人工智能在医疗改善中的潜力是无可争议的，问题是如何成功地整合到医疗系统中。 为了实现这一点，我们必须克服技术、医疗方面的限制，克服监督管理上的障碍，缓和大众思想上的一点顾虑，经常防止过度销售技术的倾向。

数字化健康是从以前传入医疗技术的文化变革

我们需要定义数字健康。 数字健康意味着医疗行业发生了质量变化，改变了医疗的本质。 这几年，无数卓越的技术革新淹没了医学行业，但这种变化的本质不是技术上的，而是文化上的。

20世纪90年代，个人电脑被广泛采用时，电子健康应运而生。 如果这样的电脑可以上网，就会出现远程医疗服务。 社交媒体网络的兴起为医疗2.0和健康2.0提供了空之间，手机和后来高端智能手机的普及唤醒了移动健康。 但从年代开始，卓越技术的出现速度给患者和患者的护理人员带来了质量的变化。

我们把这种新现象称为“数字健康”，定义为如何向护理人员和患者提供数字和客观数据的文化变革。 在这里，医生和患者的关系是对等的，可以进行共同的决定和民主化的护理。

技术的采用只有承认相关的文化课题，满足患者的新诉求，才能带来更好的健康结果。 所以我们需要这个定义作为承认周围变化的一部分。

数字健康提出了挑战性的问题

随着人工智能、机器人、虚拟现实/增强现实、远程医疗、3d打印、便携式诊断、健康传感器、可穿戴设备等数字技术的兴起，医疗保健的整体结构和患者和医生的作用将发生根本变化。

从以前流传下来的医疗转变带来了一点严肃的伦理关怀，用前所未有的方法挑战了决定者。 谁应该能获得健康数据？ 如果雇主或保险公司想从员工那里直接从顾客的基因检查结果中收集数据，这合法吗？ 如何防止有人入侵医疗设备？？ 如何解决医疗机器人呢？ 如果手术中犯了错误，那是谁的责任？

无论多么困难，医疗专家和决定者都应该比技术先一步。 他们必须承担起让患者采用无数数字卫生技术的作用，他们自己的医疗理念是最新开放的，技术创造的数字健康模式有可能成为现实。 另一方面，需要避免患者向未经证实的服务和技术处理方法求助。 另一方面，需要让患者作为伙伴参加设计护理和决定。

性技术可能会从医生那里剥夺重复性和单调的任务，因此他们的观察力可以集中在患者身上，医生将成为更好的数字健康指南。 另外，医疗专家可以回到最基本的医疗。

数字人文精神与医疗

不仅把患者放在保健中心，而且把患者放在卫生技术中心，是更普遍的方法，这就是数字人文主义的意义。 人类不应该利用人类的弱点，从他们那里剥夺控制，所有这些数据只为大科技企业的利益服务，不仅损害人们的利益，还在技术上贬低人类，在社会上制造差距，扩大，无视多样化。 以下是关于数字人文主义在医疗中是如何表现的想法和大致情况。

(一)技术和人:谁有控制权？

谷歌、facebook、twitter、亚马逊、youtube和其他企业:多年来，我一直在询问如何重建世界，但“观察力经济”带来的有害影响还没有得到足够的重视。 有很多迹象表明对社会的危害有多大。

系统正在崩溃。 网络创始人蒂姆·伯纳斯利几年前是这么说的。 他强调说，为数字化带来了前所未有的机会，带来了前所未有的危机。 例如，一些行业的网络垄断，社会交流媒体策划的极端主义观点和行为的兴起，“过滤泡沫”和回声室的形成，除此之外还伴随着隐私的丧失，数字监视的传达。

网上公司正在开发上瘾的技术，试图吸引客户的观察，利用人类的弱点，利用最坏的心理缺陷。 据统计，每人每天看150次手机，我们每次收到信息，大脑就会释放大量的多巴胺，就像赌徒得到的奖励信号一样中毒。 他们向上拉插槽方向盘的时候，他们喜欢吗？ 你有长期阅览适合你的有趣信息的倾向吗？ 他们创造了你自己的过滤泡沫，你不必再面对矛盾的意见了。 他们把最疯狂的想法摆在你面前。

在每天观看10亿小时以上的youtube中，70%来自推荐，不是从客户那里积极寻找，但是youtube把视频放在了客户面前。 因为他们的视听会延长网站上的互动时间。 客户还可以勤奋地点击以下视频，加入推荐的facebook组，或从几十个网站发出通知。 现在谁能控制我们的观察力？

(2)人工智能、智能算法和计算能力

你可能会说这只是技术迅速发展的小裂缝。 我们有先进的机器人、虚拟现实、增强现实和人工智能。 社会交流媒体的形成方法没有这样的影响。 但是，如果将智能算法看作机器人的控制机制，或者vr/ar体现沉浸式或交互智能软件程序，我们必须担心的终极技术是智能算法和人工智能。

某种观点认为，这种人工世界的制度除了来自最大的科技企业的压倒性人工智能和开采激励外，还导致了人类弱点的利用和人类思考方法的下降。 我们在更新我们的技术，我们的机器时，我们接管我们的思想，制造沉溺于画面的“僵尸”。

这听起来很可怕。 我们不应该让它发生，但我们能做什么呢？ 为了违背科技企业的好处及其产品固有的偏见，有什么应对方法？ 处理方法是数字人文主义。 我们必须重建我们的社会制度和人工智能算法来反映这种人道态度。

需要系统响应的系统上的问题

这也是维也纳数字人文主义宣言的概要，特别强调了应该成为未来技术迅速发展的基础。 我们研究了这些基本，思考了它们在医疗中的意义，以及它们如何适应医学。 数字技术的设计必须促进民主和包容。 在医疗方面，这应该指谁都能得到的技术，以及超越社会、金融、教育障碍的处理方案。

保护敏感患者的新闻应优先于“一般”数据。 就像出现了很多基因和基因组数据一样，非法获取这些健康新闻不仅威胁到患者现在的状况，而且影响到将来。

要建立在广泛公共讨论基础上比较有效的规则、规则和法律。 具有可能影响个人和集体人权结果的决策需要由人来做。 医疗中的自动决定系统不能代替它，应该只支持人类的决定。

人工智能再设计医疗面临的六大课题

目前人工智能在医疗再设计中的应用有很多。 有助于医疗专家设计治疗计划，找到最适合各患者的治疗方法。 通过帮助反复单调的工作，医生和护士可以集中精力做手头的实际工作，而不是忙于简单的疾病和行政事务的“车轮战”。 人工智能智能智能智能地更新医生收件箱的电子邮件，让医生随时看到自己想看的东西。 人工智能也有助于医生在几秒钟内找到某些疾病的最新和最相关的科学研究。 其变革的力量在未来将与听诊器一样重要，成为现代医学的象征。

人工智能现在在一些医院举了很好的例子。 谷歌deep mind开始了与英国国家卫生服务机构的伙伴关系，以改进使用数字处理程序提供医疗服务的过程。 就像ibm的watson，但不可否认，我们总是面临一个问题。 那是我们将人工智能的巨大潜力转化为日常生活的方法。 在理解了医疗中的人工智能之后，我们应该对障碍有更明确的认识。

(一) ai技术的局限性。

通常，“人工智能”一词意味着比现在先进得多的技术，因此可能会引起误解。 现在的技术通常意味着各种机器学习方法，在各领域最大可以实现人工智能，以令人难以置信的速度迅速发展。 这些智能程序在ibm的超级计算机深蓝色等特定任务中打败人类，在国际象棋中获胜，但与人类世界冠军不同，这些算法不能开车和创造艺术。 要处理这些其他任务，必须建立其他行业的专业流程。 这是一个巨大的挑战。 现在，计算机理解图像、视频和自然语言解决框架副本的能力惊人地增加。 前者现在广泛应用于医疗保健行业，如医学影像行业中，不仅包括物理影像，还包括感性情感的分解。 但这只是人工智能的第一阶段。 现在，可以从拷贝块中识别模式来收集主题，也可以从句子中导出整个拷贝的意思。 但是，如果一台机器从有限的经验中抽象概念，在行业之间融合，我们就没有接近这样的人工智能水平。

(二)医疗限制

为了不过度夸大这项技术，也必须承认现在ai的医学界限。 例如在放射学图像识别中，可能存在潜在的偏差。 图像研究的框架通常是从美国开始的，或者是将算法本身概念化的框架中包含了事业集团的主观假设。 另外，相关算法的预测和预测能力固定在以前的例子中，即在治疗药物副作用和耐药性的新例子中，这些可能没有用。

另一方面，简化事件并标准化容易使算法具有意义，这也是医院将ai引入医院管理业务的另一大缺陷。 在多家医院，医生依然在患者的病历上写着“狂草”。 如果连写这些笔记本的人都不能知道两周后自己写了什么，电脑应该怎么理解这些笔记本呢？

(三)道德挑战

人工智能、ai医疗和技术限制仍然比伦理和法律问题更容易克服。 如果聪明的算法没有错误地在肺部x光片上发现癌变结节，谁应该对这个错误负责呢？如何建立适当的安全规章制度？ 如果想进入安全可靠的人工智能阶段，这些许多复杂的伦理和法律问题就应该得到解决。 此外，在人工智能从第一阶段到第二阶段的快速发展过程中，需要慎重而逐步地实施，以提供规划潜在风险和不利因素的时间和空之间。 独立的生物伦理研究组及医疗监督机构必须密切监视这个过程。

(四)更好的监督管理

fda批准了心脏成像的第一个基于云的深度学习算法，但人工智能的规定一般落后或完全不存在。 随着技术的进步，今后5~10年内可能会制定相关的规则。 但实际上，这些规则必须走在技术浪潮前面，按照与其他领域利益相关者的基本和道德标准，指导医疗行业实施人工智能的过程。 另外，他们必须把对企业造成负担的人工智能处理方案放在桌面上，推进经常把观察力放在患者身上。 政府和决定者也应该支持从最小单位(医疗专家)到最多复杂的单位(国家级医疗系统)确立人工智能的采用标准。

(五)误解和夸张

人工智能的能力过于夸张，营销战略和过于简化的媒体表现，无助于破坏人工智能如何为医疗做出贡献的健康形象。 这也增加了困惑和误解的雾，如果想把这种技术很好地应用于医疗系统，这些误解就必须消除。 关于机器学习、深度学习、智能算法或其他人工智能的术语和概念的定义需要仔细解决。 对医疗的影响也是一样。

(6)人类的拒绝

存在人工智能根除人类恐惧和人工智能为医疗专家从事的夸张发言。 甚至斯蒂芬·霍金也说全面人工智能的迅速发展可能意味着人类的终结。 埃隆·马斯克也同意这种看法。 人工智能取代了放射科医生的工作，机器人超过了外科医生的技能，在制药行业也做了很多工作。 人工智能带来的恐惧是可以理解的。 因为我们中很少有人真正理解这项技术是如何工作的。 我们不明白的时候，我们倾向于拒绝。 更重要的是，思想领袖和媒体也倾向于夸大和极端地处理这个问题。 习性这个技术需要时间，但我们都建议诚实地精通日常生活中采用的人工智能。

以航空空自动驾驶装置为例，这种创新不能取代真正的飞行员，增加了他们的任务。 在非常长的飞行中打开自动驾驶装置很方便，但需要迅速评价的情况下是徒劳的。 所以，人与机器的结合才是成功的处理方案。 医疗方面也是如此。 如果不清楚人性，我们就会对科学技术丛林感到迷惑。 这就是今天发生的事件，我们希望尽快应用这些，把人类放回驾驶舱，从而减轻技术的负面影响，达到真正为人类服务的程度。

网易研究局和他的山石智囊团共同制作了产品

网易研究局是由网易信息制作的财经专业智囊团，整合网易财经原始多媒体矩阵，依靠数百名国内外顶尖经济学家的智慧成果，比较经济学热点话题，合理客观地分解解读，

他的山石是世界思想家经纪机构，致力于提高中国和世界一流思想的连接效率，使国际顶尖思想实现中国的梦想。 他代理世界著名的经济学家、商界领袖、科学家、创业者、投资者、畅销书作家来华演讲业务，为政府、公司、媒体、商学院提供高端论坛策划和国际商务合作服务。 共同嘉宾研究的范围涵盖科学技术、资本、创新、金融、人工智能、大数据、教育、健康医疗等行业。

他是山石智囊团的微信公共平台，欢迎关注

【精彩推荐】点击进入网易研究局中文版

【精彩推荐】点击进入网易研究局国际版