联系我们 contact us
地址:北京市朝阳区汤立路
   218号明天·STUDIO·A座
010-84678879

您当前所在位置:主页>技术共享>物联世界>

【深度】机器的崛起:算法会超出我们的控制吗?
时间:2017-04-07 21:02 作者:佚名 点击:

  【新智元导读】计算机科学尤其是 AI 的深层次应用已经开始干扰我们的生活,我们必须开始考虑在“机器智能”的应用过程中的两个问题:谁来负责?如何监管?英国政府首席科学顾问 Mark Walport 在 Wired 上发表长文,试图让人们思考:技术是在拯救生命,还是在践踏自由?我们能做些什么?

  关于AI及机器学习的应用将在未来数年间引发大规模失业的悲观预测甚嚣尘上。但事实上这些新技术会生发新的产品和服务,从而创造新的就业机会。可以肯定的是,计算机科学的深层次应用已经开始干扰我们的生活。如果我们要想从中获益但尽可能减少潜在的危害,必须开始考虑这些技术的应用和监管的方式。

  无孔不入的算法

  18世纪蒸汽机的应用打乱了传统农业劳动者的生活,推动了城市崛起,创造了新的产业和新的就业机会,但医疗、司法等传统行业改变不大。而最近一次的工业革命几乎引发了各行各业的变革。

  到目前为止,机器学习的大部分应用看起来基本上都是良性的,但是我们大多数人都没意识到它们正在产生重要的影响。你的信用卡或借记卡多久没接受信用查询了?这类过去频繁发生的事情现在已经越来越少见。这是关于我们消费行为和模式机器学习应用的结果。银行和信用评级机构对于我们的财务状况了如指掌。这既便捷又大幅降低了信用盗窃的风险。这也意味着银行对我们生活方式的了解甚至超过了我们的亲人。

  市场营销和消费者服务咨询企业对我们在线购物(不论是单独购买还是团购)的状况保持持续的了解。店铺会员卡产出的大量关于购买行为的数据几乎影响了产品设计和定位的每个方面。我们的谷歌搜索结果和所收到的营销邮件都受到我们此前在线行为的影响。Netflix或亚马逊会自动推荐我们想要观看的电影,我们应该感到挺有帮助还是隐私受到侵犯?谁在做这些影片推荐?我们应该在意吗?

  当我们网购时,我们如何被界定为一个“优质“顾客?卖家甚至比我们自己都了解我们的心理特性,我们会无形中受到他们的奖励或惩罚吗?我们以为优质顾客会享受到更优惠的价格。但是对于卖家而言,优质顾客指的是那些购买意愿强烈,因而愿意为产品付出更高价格的顾客。因而机器学习会帮助卖家以更高的价格售卖特定的商品给频繁购买这类商品的顾客。机器会判断我们是否是这种愿意为喜欢的商品付出更高价格的倒霉蛋,并帮助卖家充分利用我们这一弱点。

  价格浮动不是什么新鲜事儿,假期和非假期时段旅行团的价格就很说明问题了。利用算法来为产品和服务设定价格浮动体系好处多多。当能源需求上升时,可以通过提高收费来限制不必要的用气、用电以及额外的发电容量。Uber会在用车需求较高但可用车辆较少的情况下调高价格,这也会激励更多司机补充到用车需求较高的区域。但如果是由于极端天气导致公共交通体系瘫痪引发用车需求增加,Uber的提价行为就会被视为一种敲诈。AI及机器学习对一些传统行业影响巨大。医疗和法律则表现出高度的免疫。在过去20年间,大多数服务性行业的面貌已经被IT 大幅改变,而医疗和司法则基本维持原貌。

  医疗和司法领域也面临变革

  原因为何?这些职业通常需要长期的培训和实习。从业者依靠的是专业技能和专业判断的应用,这是他们立足的根本。但一个重要的问题是,如何判断他们的专业性?谁来判断?常规的答案是由一个具备同等专业素质的从业者来判断其同行的专业性。这有些道理,但还是有问题。这会催生专业监管机构来自我监管。这些机构还会制订出限制性的行业操作规范,从而营造出一种基于精英主义和保守主义的文化。

  专业性通常与一系列特定的价值相关联。无论是医生、工程师、律师,政府官员还是神职人员,经验、专业、信任度、智慧及判断力都是他们被期待具备的质素。这些质素背后涵盖的是行业相关的知识及价值,如医生行医过程中的“不误诊“。医生执业是基于医学证据,而律师执业是基于立法和案例的结合。

  但医疗及法律从业者面临的挑战是他们的很多工作都可以被学习和应用了 AI 的计算机大幅改进,甚至完全替代。如果专业判断是这类职业最基本的质素,计算机是否可能完成同样的工作?不同的判断可以被区分吗?我们能看出究竟是人还是机器做出的这些判断吗?

  在医疗领域,依赖专业判断的最重要的技能之一就是面对多种不确定因素和不全面的医学证据做出诊疗的能力。但是在癌症的案例中,计算机开始建立庞大的科学数据库,并把这些数据与包含癌症基金数据和临床治疗效果的海量病例相结合。哪个病人不希望自己的治疗方案是建立在最佳医学证据基础上的呢?在这一意义上,是否肿瘤专家的工作已经终结了呢?

  

【深度】机器的崛起:算法会超出我们的控制吗?

  医学不是纯科学。医学“艺术和神秘”的本质造就了医师判断力的第二战场——提供咨询。比如关于什么时候不要治疗的建议,关于何时治疗可能比疾病更糟糕的建议,以及对患者从多种疗法中进行选择的指导。其中一些可能会使患者感觉更好,即使它们对疾病的进展没有实际影响。AI 能做到这点吗?我们希望它做到这点吗?

  法律呢?你更愿意被法官、陪审团还是计算机认定为有罪或无罪?刑事法院适用的有罪检验是“排除合理性怀疑(beyondreasonable doubt)”。但是对一个人来说是合理的,对另一个人可能是不合理的。而在民事法庭上,“概然性权衡(onthe balance of probabilities)”则更加微妙。

  计算机擅长计算概率的平衡。其硬盘可以储存巨大的罪犯数据库;处理器可以算出DNA序列或指纹匹配的几率。我们已经开始留下了广泛的数字证据踪迹,因为我们的行为被记录下来,我们所携带的无线和GPS设备阵列标示着我们的位置信息。与许多证据相关的概率可以互相关联。原理上,可以量化出“排除合理性怀疑”或“概然性权衡”等概念——可以说前者是99%,后者为51%。这些都是计算机在人类判断领域能做的贡献。

  责任由谁来负?

  说到量刑,你更愿意被法官还是计算机做出量刑?大多数人可能会在心中盘算,那种方式的量刑痛苦最小?根据你的性别、种族和社会及经济状况的不同,结果也可能不同,因为这些因素以及其他一些因素可能会造成人类判刑时的系统偏见。

网站地图 | RSS订阅 | RSS地图 | 网站首页 | 关于我们 | 技术共享 | 产品中心 | 成功案例 | 加盟我们 | 客户服务 | 联系我们 |
工况监测
    地址:北京市朝阳区汤立路218号明天·STUDIO·A座
    电话:0086-10-8467  8879      TEL:0086-133  6699  5587   (电话推销勿扰)
    版权所有:新企力(北京)检测服务有限公司   工作时间:(周一至周五  8:30-17:30)
    邮箱:web#xqili.com   京ICP备15050323号  
关闭