广告询价设为首页收藏本站

世界先进制造技术论坛官方网站—领先的工业传媒广告平台

  • TA的每日心情
    开心
    2018-8-22 11:49
  • 819

    主题

    840

    帖子

    1995

    积分

    管理员

    Rank: 9Rank: 9Rank: 9

    积分
    1995
    QQ
    发表于 2019-4-12 16:06:21 | 显示全部楼层 |阅读模式
    来源:科学的历程
    作者:段伟文 (中国社会科学院哲学研究所研究员)
    摘要
    当前人工智能发展中社会影响最大的应用是认知计算和数据智能,人类社会由此正在走向基于数据智能的解析社会。对人的数据解析可以追溯至被称为政治算术的早期统计学研究,而数据智能的出现,使我们每个人从统计平均意义上的个体转变为可以被单个地进行量化和数据解析的“单体”,由此可能会导致差异的革命和极端的不平等。如果说信息技术革命可以视为控制革命,当前正在兴起的解析社会则是其升级版“控制革命2.0”。它试图对人的行为进行智能调控,由此带来了一系列值得进一步探讨的伦理与政治问题。

    关键词
    人工智能 数据智能 解析社会 控制革命2.0
    前言
    纵观现代文明的总体发展趋势,人类正在面临智能革命与人类深度科技化这一前所未有的重大挑战。智能革命不仅是一场新的科技革命、机器革命和工业革命,更可能带来全新的文明嬗变:从每一个人类的身体到全体人类的未来都有可能面对由此带来的颠覆性的变革。正如意大利旅英信息哲学家卢恰诺·弗洛里迪(Luciano Floridi)在《第四次革命:人工智能如何重塑人类现实》中所言,科学的发展推动了人类自我认识的四次革命。首先是哥白尼的日心说,它让人类认识到人类所栖居的地球并非是宇宙的中心;第二次革命是达尔文的进化论,它让人类认识到人类自身与其它动物并没有什么本质的不同;第三次革命是弗洛伊德的精神分析学,它撼动了人类理性的地位以及控制自我意识的能力;第四次革命则是图灵革命,它对人类引以为自豪的智能的唯一性发出了有力的挑战[1]。耐人寻味的是,这一系列的革命皆为人类自己对自己发起的,它们究竟是创造性的破坏,还是不可逆的自毁?无疑要有待未来方能揭晓谜底。
    近20年来,随着互联网、云计算、物联网、大数据和人工智能等新兴科技的发展,在信息化基础上发展起来的智能化方兴未艾,以大数据、普适计算、万物互联和智能机器为愿景的智能革命呼之欲出。不论奇点所孕育的智能爆炸能否成为现实,智能化必将推进信息、生命、认知、纳米、量子等前沿科技的融合与加速发展。虽然现代以来,科技走向人自身的过程一直在持续展开之中,而智能革命对此进程所带来的影响不仅仅是速度和广度,而且正在将人类推向日益深度科技化的全新世代—基于数据和计算的智能感知和控制将使得科技在各种可能的尺度上介入人的生命、行为、认知乃至意识、情感和道德。面对这些具有颠覆性的时代变革,问题已经不再是人类要不要推动智能革命和深度科技化进程,而是应该如何审度其影响与可能的前景,探寻人类可以接受的智能革命与人类深度科技化前景。
    现阶段,人工智能所取得的成功主要是基于认知计算的数据智能,它实际上是将数据分析的方法用于分析人类自身的行为。这与以往对人类行为的研究的不同在于,现代的社会学、心理学等对人的行为的研究,只做到用调查和统计的方法来分析人类的行为,它们对人的行为的描述,包括对群体和个体的刻画,大多数都是平均意义上的。
    不论是运用数据表征或干预世界和人的行为,还是运用各种可穿戴设备采集与分析数据, 进而管理与治理他人或自己的生活,都预示着一个全新的社会—解析社会或数据解析社会的来临,而这种新的社会形态是革命性的。一方面,数据所扮演的角色如同13世纪出现的透镜,透镜所制造的望远镜和显微镜让宇宙和微观世界得以清晰地观测与呈现,如今“数据透镜”则使人的行为得到量化地记录与透视。另一方面,就像17世纪笛卡尔发明解析几何使得自然界的结构与规律得以探究一样,数据分析与智能算法的应用正在使人的行为规律得到洞察和解析。
    从政治算术到数据解析
    数据智能在政治和治理上的意涵与其统计学一脉相承,可追溯至17世纪和18世纪被称为“政治算术”的早期统计学研究。当时的政治算术旨在用数量分析的方法研究社会经济现象。其代表人物威廉·配第曾写过一本名为《政治算术》的书,在他看来,数字要比文字更能说明问题。在18世纪和19世纪之交,“政治算术”成为认识和应对人口等社会问题的有效工具。1798年,人口学家马尔萨斯出版了《人口原理》第1版,虽然该书强调了人口控制的必要性,但因为没有数据支撑而引起了激烈的争论,也促使英国政府于1801年开展了首次人口普查。有了数据的支持,该书于1803年出版的第2版论证更为详实有据,一时洛阳纸贵。那时英国国王为什么要开展人口普查?因为他需要掌握英国的士兵都在哪里、有多少男丁可以打仗?可以说,人口普查等社会统计的手段自应用之初就与国家政治和治理密切关联。又例如,法国大革命之后,新的政府急于了解其所继承的国家的基本数据,非常重视统计学分析[2]。
    当前数据智能与统计调查等传统的数据分析方法的不同之处在于,它是由数据或大数据所驱动的,更加强调量化,甚至出现了完全依据数据来计算和分析人的行为的新型社会物理学研究。美国麻省理工学院(MIT)的人类动力学实验室主任亚历克斯·彭特兰(Alex Pentland)是这一研究的倡导者和实践者,在他看来,基于数据的社会物理学的初衷是更准确的描述人的行为,以构建更好的群体和社会。以数据的采集和分析为工具,社会物理学试图通过所谓的现实挖掘(reality mining),对人类生活的方方面面产生的大数据痕迹的记录、采集和分析,像社会之镜一般揭示和构建它们所表征的社会实在。在针对企业等组织或群体的社会物理学研究中,研究者会把一个公司里所有人的交流信息全部采集起来,包括手机短信的内容、电子邮件的内容、会议过程中参与人员的目光集中点等等,所采集的数据的丰富性已经到了无以复加的程度。在此基础上,研究者会对这些数据进行整合分析,运用模型对每个人的行为方式进行测算,进而建立起一种实时的反馈调节系统,将数据分析的结果应用到各个场景。例如在召开团队会议时,它会及时反馈哪些人的反应是积极的,哪些人和哪些人没有互动,并且它会提醒参会人员在什么时候应该互动等。为了探究一家美国银行客户服务中心职员的行为,MIT的研究人员展开了一项基于行为数据的社会物理学研究。该研究通过社交测量胸牌跟踪记录某银行客服中心的职员,每16毫秒测量一次声调和姿态,记录职员之间的对视,每个人说话、倾听和被打断的频率。该研究表明,擅长社交的职员业绩更好。这使得公司更改了以往不允许员工闲聊的规定,转而鼓励员工多参与社交,该部门业绩随着飙升[3]。
    这表明,数据智能所带来的智能化的数据分析(即数据解析)跟以往的统计数据分析是不一样的。它先通过多种数据对人性进行多层次的解析,再对其行为进行调制。这就像通过调制使无线电波按照某种方式传播,当代社会物理学研究通过数据透镜对人的行为进行智能化的调制。可以预料的是,将来很多企业在管理中会引入这种研究。毋庸置疑,数据智能对人的行为的解析本身是具有局限性的,但真正的问题是,这种具有局限性的科技却正在根本性地改变着人们对社会的认知与干预。智能化的数据分析,其实是一种基于诸多行为科学和社会物理学假定的科学分析,更确切地说,是一种技术化科学(technoscience)的分析,而其所运用的人的行为数据即某种假定的科学语言。论及“作为假定的科学的语言”,尼采曾经指出:“语言对于文化演变的意义在于,在语言中,人类在另一个世界旁建立起了一个自己的世界,一个人类认为固定不变的地方,立足于此,就可以彻底改造其余的世界,使自己成为世界的主人。”[4]不论通过对人的外在行为的精细观测来推断其人格类型、行为倾向、内在意图及内心情感等是否合理,智能化的数据解析实际上是在现实世界之外构造了一个世界的孪生体系,并借此来认识和操控现实世界。
    从统计平均个体到数据解析单体
    数据智能或数据解析的出现,使我们每个人从统计平均意义上的个体转变为可以被单个地进行量化和数据解析的对象,这使得人们在解析社会中的信息颗粒度在既有的人群统计意义上的个体特征(阶层、性别、年代、倾向)基础上,进一步细化为各种数据标签、数据画像在智能算法上可区分的单体特征。当代哲学家吉尔·德勒兹(Gilles Deleuze)将这种细分称作“分格”(dividuals),并将阿尔文·托夫勒(Alvin Toffler)在《第三次浪潮》中提出的人类由基于商品生产的纪律社会所转向的基于信息和金融化商品的经济社会称为“管控社会”。他指出,在以往的社会中,管控发生在职场、学校和家庭等具体场所,人们的行为通过受到关注而被规训,但存在可以不受管控的空间;而在管控社会中,管控则来自由代码组成的数字语言,它们决定了人们能否获得信息,这种管控不是将人们放到具体的场景中,而是使人置于一种无处不在的、持续运转的网络之中,如同巨型筛子上错落有致地排列的筛孔一般[5]。
    这一变化会带来很多问题,除了人们最为关注的算法偏见和算法歧视之外,另一个值得关注的问题是,将人作为数据解析的单体,可能导致一种新的不平等。从表面上看,这种不平等似乎在于掌握了数据和数据解析工具的人相对于那些没有掌握数据和数据解析工具的人拥有巨大的优势;而实质上,是数据解析对人的行为的过度“了解”,会对人形成一种看似精细实则往往似是而非的数据化或量化的刻板印象。一方面,各种“客观”的数据画像对数据解析对象的行为性质、能力和倾向的透视,难免使得被透视者在组织内部和社会生活中丧失自我反思和行为修正的空间和弹性。另一方面,掌握数据解析工具的“知者”和作为数据解析对象的“被知者”之间必然形成更大的认知鸿沟,在很大程度上打破了以往建立在人们相互之间对人的行为的相对“无知”基础上的相对平等。
    在没有智能化的数据分析时,管理者主要通过统计分析掌握群体的情况,对群体进行分类,并依照类型来对个体有个大致的了解。也就是说,由于传统的基于统计分析的社会学、心理学和管理学主要是透过群体看个体。而这种认识上的局限性类似于“无知之幕”,即便是管理者对其所管理的个体的了解往往很不充分。比如企业的领导,他不仅不知道员工下班以后做什么,而且就算在公司看到员工在那工作,也未必知道员工心里想的是什么。人们相互之间的相对“无知”在一定程度上维持了人与人之间的相对平等。
    从组织管理的角度来讲,大多数的企业和机构都将民主协商的氛围视为一种值得追求的组织文化境界,以此促使组织成员提出自己认为合理的想法,在相对平等的情况下相互讨论。而一旦对组织成员的行为的数据化解析成为一种普遍性的组织管理工具,在对个人数据的采集和洞察日渐普遍的情况下,对于能够掌控这些数据的人和没有掌控这些数据的人而言,双方相互认知的差距远大于以往,由相互“无知”所维系的人与人之间的相对平等的态势被打破。换言之,以前大家的认知能力都很有限,现在有的人则可以运用数据解析十分精细地了解他人,甚至在双方关系中掌控全局。一旦一个人可以对他人进行精细化的数据解析,知道对方是怎么想的、有什么样的人格,甚至可以对其人格加以精细化刻画,那他就有办法去说服、引导甚至逼迫数据解析的对象,这实质上是一种柔性的控制。
    与此同时,随着运动手环、智能手表等可穿戴设备的出现,数据解析还引发了“量化自我”的出现。量化自我的倡导者认为,数据可以让我们更加精确地认识到自我与自己的需要,使我们可以对自己的行为作出精细的调节,使环境更确切地符合我们自身的需求。这与西方近代以来的理性主义传统和日常生活的理性化的趋势有关,但至少会带来三个问题。第一,人们会屈从于一种不断自我优化的观念,而应该优化到什么程度却很难评判;第二,人没有办法去确定优化的标准,而只能相信机器所做出的决断;第三,数据解析要对所有东西进行量化,但总有不能量化的东西。
    差异的革命与不平等的极化
    数据解析将人们从社会群体中差别不大的个体变成数据透镜下在各个方面都有所不同的差异化的单体,整个社会由此嬗变为解析社会。信息和数据从一开始就与差异相关,从早期的人口调查中所引入的颅相识别到后来的指纹识别和DNA识别系统,都具有对人进行差异化标识以达到监控的目的。
    数据解析所带来的差异化更为显著,甚至可以说正在引发一场差异的革命。对人和世界的数据采集和洞察的直接目的在于对其进行解析,作为单体的个人之间的差异随之得以凸显。数据的解析度越高,单体之间的差异就越大,而这种差异越大,每个人受到的对待越有可能是不一样的。可以说,在解析社会中,“歧视”已经不再是一个贬义词或是褒义词,而貌似具有某种中性的内涵—根据对象的“差异”而予以差别对待。这种区别对待的情况一直就有,如果我是一个老师,我对每个学生的特点都有差异化了解的时候,我当然会差异化地对待学生,这就是孔子主张的因材施教。当然,究竟这种差异化是不是应该有一个度值得进一步考量。而使问题变得更微妙的是,不论是测量参数的确定还是测量结果的读取,都越来越多地借助于智能机器的计算乃至判断,“知者”能否自觉或被迫反省其中各种涉及认知的技术与价值选择的合理性?“被知者”能否及时反馈并通过参与式协商纠正其中的不合理性?
    在高度解析的社会中,差异的革命不仅意味着无所不在的差异得以呈现,而且这种被揭示出来的普遍存在的差异正在成为一种连接社会的纽带。我们每个人不再是群体中模糊的相同的个体,而是数据透镜下无比清晰的作为单体的个人。由此,很可能会使人以高度差异化的方式对待他人这种情况本身很可能是不平等的。如果在这个时候要进一步强调平等,就必然是更高层次的平等,一种可能的新的平等策略是在一定程度上寻求不平等的均衡—在总的得失上的均衡①。而实现这一点显然不是基于偶然性的“得之东隅,失之桑榆”,而需要引入制度化的权益再平衡机制。
    如果不能建立起合理地应对差异革命的制度化的权益再平衡机制,差异的革命很可能带来不平等的极化。智能的一种定义是在不同的环境中实现目标的能力,数据智能或数据解析对差异的识别与反馈能力使得差异的革命必然带来智能化的新发展,但在追求效率和效用最大化等现代社会及资本的本性的驱动下,这一发展可能会加剧社会的不平等和两极分化。根据有关高科技和新媒介时代的经济学研究表明,在美国,这些领域的发展导致了低报酬与高报酬职位同时增加的现象。人们还发现,网络、人工智能以及金融行业的收入过高,赢者通吃与超级明星经济学现象十分普遍,对整个社会的分配体系起到了非常大的扭曲作用。如果完全依照资本的逻辑,必然会出现利用智能化的手段对一些行业重新洗牌的情况,越是高利润的行业,就越会把赌注压在像智能化这样一种投入上,就越会使得金融分配体系发生扭曲。这是当代资本扩张的逻辑及其主导的“知识权力”结构所难以克服的,但又是将来人们不得不应对的。
    智能化的发展已经对人自身的地位产生了极大的冲击。值得思考的是,面对人工智能等智能化技术的冲击,从人的能力上来讲,人类还剩下多少剩余的优势?面对人工智能对人可能的“碾压”,我们不妨开列一份人类剩余优势的清单,看看智能化时代来临以后,我们人类还剩下哪些优势?到目前为止,人类至少在创造性与变通性、社会知觉、谈判艺术和论证能力等方面胜机器一筹。根据这份清单,将来人类可能会在某个方面丧失优势,这迫使人们思考,如果原来的那些优势没有了,我们怎么办?我们是坐以待毙吗?我们还是要去再创造一些新的优势。不管将来是人机共生还是人机竞争,这些问题可能都是要面对的。当然,人类所具有的有些优势机器智能大概一时不会超越,比方说哲学论证和机器证明肯定不是一回事。
    将来人类必须思考的是如何与机器共生以构建新的命运共同体,但前提是人类自身要保持某种程度的自信与尊严。用弗洛里迪在《第四次革命》中的论点来说,以人工智能为标志的智能革命就相当于把人是世界上唯一具有智能或健全智能的实体这一特殊地位也去掉了。但这并不是某种宿命的力量所致,而是人类现代以来的科技发展的必然后果,即尼采所说的人们通过科学假说“彻底改造其余的世界,使自己成为世界的主人”的结果。因此,问题的症结不在于表面上的所谓人类优势递减的趋势,而是人们如何在成为世界的主人之时,也成为自己的主人。
    走向控制革命2.0
    面对解析社会和智能革命的来临,不能没有批判性的思考。比如现在数据采集和智能网络系统从表面上看是分布式的,但它们的管理和控制却是集中的。因此,包括各种搜索引擎、社交媒体和共享经济应用软件在内的平台拥有巨大的控制的力量,如Facebook和百度等。这些平台都是由用户生成数据(UGC)所驱动的:虽然数据是我们每个人贡献出来的,但却被这些平台集中控制和管理。最近Facebook出现的数据泄露、滴滴顺风车司机的犯罪事件、一些应用的大数据杀熟都是对这种力量的滥用所造成的。
    这种情况的出现实际反映了现代社会发展的一种必然趋势—控制的革命,而且目前已经进入到控制革命的2.0时代。20世纪80年代,信息社会研究者贝尼格(James R.Beniger)就曾提出,信息社会的兴起实质上是通过“控制革命”克服现代社会出现的控制危机。他指出,自工业革命以来,特别是19世纪后期和20世纪初期,现代社会就遭遇到了控制的危机—不论是从一个熟人社会到一个陌生人社会,还是从农耕时代到工厂时代,对于社会和生产的管理出现了各种控制的危机,出现了需要控制人、控制社会秩序、控制生产秩序等需求。而控制的危机的关键在于,工业化在加速物质、能量和社会系统发展的同时,使信息处理与传播技术领域的相对滞后的矛盾得以凸显,为了应对控制的危机,以信息技术创新为主线的控制革命(control revolution)应运而生,人们开始有意识地从调控社会与物质系统的需求出发,通过对信息的收集、贮存、处理和传播,运用科学管理、数量规划和基于信息的决策等有形之手(visible hands),使各种系统更具有目的性与合理性,从而实现对整个社会系统的控制[6]。
    当前正在兴起的解析社会和智能革命则是“控制革命”的升级版,我们可以称之为“控制革命2.0”。解析社会对人的控制不再是一种简单的控制,而是被纳入到对个人数据进行最大限度的追踪和解析的基础上的完整的控制流程:观测、评价、预测、监控、说服、诱导。首先对你进行观测,预测你的行为,并据此有针对性地对你采取相应的行动。实际上,通过数据模型和算法预测和控制特定人群的研究已经展开多年,从对恐怖分子的筛查到犯罪预测,已经付诸实践,有的甚至实现了产品化。早在上世纪90年代,美国有些州就引入了一种评估罪犯危险性的模型LSI-R,让罪犯通过填写一套复杂的问卷后对其危险性和再犯的可能性进行评估,并将评估结果作为对罪犯的量刑、缓刑、提前释放或继续关押等裁决的参考。近年来,随着数据采集和处理的便捷化和计算能力的提升,很多国家和地区都建立起了各种区域犯罪预测系统,如美国PredPol公司开发的犯罪预测软件和日本东京警察局(Tokyo’s Metropolitan Police Department)的犯罪监测与画像系统等[7]。其基础就是对个人行为数据的采集。为了判断犯人出狱后再犯的可能性,此系统会在平时搜集其各种行为数据并加以评价。同样的,政府、选举中的党派也可以利用个人在社交媒体上的点赞等数据,对个人的政治倾向做出大致的判断。而企业的商业智能也建立在对用户的数据采集与分析之上。例如,在用户数据采集的基础上,“滴滴”、京东等网络平台就建立起了一种评价系统或评分系统。平台会对用户的行为模式进行深度分析,结果必然是有差别的对待。因此,打车软件有时甚至会“记仇”。如果你连续好几次取消订单的话,下一次你特别想要车的时候,它会不理你。如果你经常要求退货,各种网络平台很有可能赋予你一个比较低的“信用评分”。
    值得指出的是,“用机器打击坏人”这种看似正面的智能化控制固然在预防犯罪方面有一定的功效,但也存在两个值得深入追问的根本性的问题。其一,从技术上来讲,目前所使用的大数据分析技术本质上依然是统计意义上的,大的时间、空间维度和信息颗粒度上的预测具有一定准确性,在小的时空维度和细化到个体层面的信息颗粒度上的对特定情况的数据洞察或预测则可能产生很大的误差,将其运用于针对个体的管理和治理应该尤为慎重。早在2002年,为了追踪恐怖活动,美国布什政府提出了一项针对所有可获得数据进行挖掘的计划。而从数据挖掘理论上讲,当人们有一定数量的数据并希望从中找出某个特定类型的事件时,由于任何随机数据都可能貌似具有一些不同寻常的特征,即使数据完全随机,也可以期望该事件会发生,而且随着数据的增加,这类事件看上去出现的概率也随之上升。也就是说大数据挖掘或洞察预测到的某些特定事件中,完全存在着“臆造”的可能。这就是所谓的邦弗尼原理(Bonferroni's Principle)。在统计学中,为了克服这种事实臆造专门提出了邦弗尼矫正(Bonferroni Correction)定理。在实际应用中,为了揪出10个定期在某酒店商议的恐怖分子,警方可能需要调查25万人。除了会打扰几乎50万人的生活之外,所需工作量太大,几乎是难以完成的任务,即便真正实施,也有可能在找到恐怖分子之前打草惊蛇[8]。可以说,目前的大数据分析,不论参数的选取还是数据的采集与分析在科学原理上都没有超越统计分析,都存在着不可消除的系统误差;而将人脸识别用于预测罪犯的做法,则无异于古老的颅相说的现代翻版。
    其二,从价值和伦理层面来看,必须进一步审视基于数据解析和数据智能的价值导向和伦理规制。可以说,控制革命2.0的根本问题是谁控制谁的问题?我们应该在价值上追问:某群体可以为了什么而控制另一个群体?通过对其价值合理性的辨析寻求伦理上应有规范和底线。值得关注的是,如果基于数据解析的智能化控制流程与近年来出现的计算机说服技术和社会物理学研究等相结合,就有可能对人实行“完美的控制”。一个极端的例子是赌场的智能化。通过各种精确的测试和分析,拉斯维加斯和澳门的赌场已经基本实现智能化。从赌场的参与者对各种场景的反应到参与者在博彩时的个人表情,各种情绪和举止都得到了非常精确的观测,并且不断运用算法作出细微调整—通过这种“被设计的上瘾”,使参与者在不经意间沉迷其中而乐此不疲。当然,这种手段也可以用于好的目的,就像很多手游上植入了防沉迷功能。
    从更一般的人的存在价值的维度来看,现在人类为什么会有一种危机感呢?就是因为机器在向人学习,而且效率很高。从控制革命2.0的角度来看,机器在向人学习,其学习的一个方面就是通过学习掌握你的缺点,找到你的弱点,对你加以引导、劝说和调控。将来,智能机器可能发展为一种预测机器,不仅可以非常准确地预测人的行为,甚至有人担心这种预测机器会通过学习人类最终战胜人类。当然,迄今为止,真正控制人的并非机器本身而是机器背后的资本和权力。对此,人们首先应该高度关注这种控制流程的存在,深入了解并认真思考其实质与内涵,才有可能克服这种无处不在的控制对人的权利、自由和尊严的侵害。
    结 语
    最后,有三个问题值得进一步反思。首先,数据的采集与使用要考虑人们对个人数据的控制权和个人的自主权。值得关注的是,数据智能和数据解析所使用的数据往往不限于数据采集时的用途,或者说很多数据并不是专门搜集并完全服务于其初始目的。比方说,录音笔是专门用来记录声音的,当这个录音笔丢了,那里面的数据就没有了。但用于数据解析的数据一般不是孤立运用而是整合使用的。整合起来后就有两个结果。一是某个数据可能是出于某种目的而被收集、被研究,但在被收集、被研究之后,会用于其他的目的,时常涉及第三方的使用。这难免使人们难以控制其个人数据的使用。Facebook的数据泄漏就是这个问题。二是把所有的数据整合起来以后,可能会发现一些令数据采集对象本人意想不到的结果,其中可能包括对其不利的情况。法国当代哲学家西蒙栋提出了个体化的思想,意思是在现代社会中,个体发展具有多种可能性;人们可以在不同的关系网络中使自己扮演某个角色,成为各种自己想成为的自己。而现在所面临的悖论是:你对自己的了解, 并不比那些能够把你的数据整合起来并加以解析的人的了解更多。也许你自认为抽烟或赌博不会上瘾,但如果你的行为数据为他人掌握而你却完全不知情,别人就有可能通过对你数据的整合与解析发现,只要不时给你递烟或带你去赌场,你上瘾的概率很高。
    数据解析的普遍应用会使整个社会发生很多新的变化。数据的非原始用途的运用和整合使用所带来一个必然的结果是,我们的社会正在变成一个评价型社会或评分社会,这使得每个人的一言一行都会被评价。这种评价现在已经出现,如果有人在开车的时候与人发生纠纷或爆发肢体行为,交通摄像头会采集到这些数据,保险公司有可能会得到这些数据,那就会直接影响到你的保险费用。因为数据分析到你的人格是有缺陷的,保险公司就要多收你的保险费,这些决策又是通过算法作出的。但这其中有一个最大的问题就是人行为实际上具有不可预见性,机器的预测只是根据你以往的行为来做的一种统计上的预测,而真实世界会不会这样,还是有一定差异的。不论如何,数据解析与数据智能的应用所造成的人类日益成为被精细观测对象的新趋势,必将改变人们的行为模式,对人的生活与工作造成前所未有的影响。
    其次,要从人性的角度对数据解析与数据智能的应用加以调节。一般而言,不论在什么情况下,人始终都有一种改变自我的欲望和可能。我们说“滴滴”平台是“记仇”的,它的问题就出在忽视了人的自由的一个重要方面是自我改变的可能性。因为记住别人不好的地方而且不加遗忘,实际上极大压缩了人们自我改变的自由。这在理论上讲就是被遗忘权。当我们把所有的事情全部都记下来了,而且不再有意无意地遗忘时,就很难宽容别人。遗忘或被遗忘之所以重要,是因为每个人都希望自己有错的时候,对方能给一个机会,希望别人不要根据不好的印象把自己看死了,不要把具有多面性和多种可能性的自己固化成某种人格的人。在现实生活中,人们在有些事情发生的当时很生气,大多过后就忘掉了,但机器做不到这一点。运用数据解析对人的行为进行预测时,也要认识到数据智能与人的智能是有很大差异的,很多基于数据智能的预测并不符合人们惯常的人性推论,如预测犯罪软件和现代司法制度中一般默认的无罪推论就是相互冲突的。值得系统深入地探讨的是,将来会不会出现电影《少数派报告》中对潜在的罪犯治罪的情形?
    其三,数据智能正在给我们带来新的契机,它不仅会使个人成为追踪和控制的对象,也可以成为人们解决问题和改变自我的重要手段。智能数据本身只是一堆素材放在那里,关健是我们能不能从尊重人的权利和人性出发,按照一定的目的去分析数据的意义,并对其价值加以必要的调节。通过这些数据解析,可以让那些通过其他手段不可以见到的东西变得可见,从而发现如何幸福地生活,用什么方法去解决一些棘手的问题。当然,我们也要看到目前的数据智能算法往往知其然不知其所以然,而且很多是不透明的,因而出现错误和问题时也是难以追责的。此外,现在的智能算法不是建立在对事物本身模式的识别之上的,这些算法在很大程度上类似于古代的冶炼技术,常常需要根据经验来调整算法的参数。尽管如此,智能算法却无处不在地影响到很多与我们的生活休戚相关的决策过程。认识到这些技术上的局限性,有助于我们摆脱算法绝对客观及算法万能之类的迷思。
    概言之,生活在一个充斥着数据解析与算法决策的世界中的人们必须深刻地反省的是如何重做自我。德国哲学家京特(Gunther Anders)在其著作《过时的人》中指出,人们在面对其创造的技术时会有一种因为不如机器而产生的羞愧—普罗米修斯的羞愧,生活在科技时代的人们常常会担心自己会过时[9]。对此要有深度思考:如果说机器智能对人的威胁来自对人的理性方法学习,我们能否反其道而行之,适当拓展艺术、审美等非理性的一面。同时要在人与人、人与机器之间重建信任感和同理心。
    ① 你在这个地方得到了这种好处,那么你在另外一个地方可能会有所失。

    点评

    海!外直播 t.cn/RxBC0c2 禁闻视频 t.cn/RxrADk4 如果没有防火墙,魏则西只需要在谷歌、维基百科搜索一下,就会知道什么是生物免疫疗法,至少他不会受骗而耽误治疗。从这点上说,GFW的确是杀人的同谋..  发表于 2019-4-30 08:24
    回复

    使用道具 举报

    您需要登录后才可以回帖 登录 | 立即注册

    本版积分规则

    主题 448 | 回复: 465

    QQ|申请友链|联系我们|法律声明|用户协议|AMT咨询|商务合作|会员入驻|积分充值|积分商城|积分奖励规则| 世界先进制造技术论坛 ( 沪ICP备12020441号 )     

    GMT+8, 2019-6-26 10:06 , Processed in 0.451754 second(s), 58 queries .

    论坛声明:《世界先进制造技术论坛》属纯技术性非赢利性论坛,请勿发布非法言论、非法广告等信息,多谢合作。
    本论坛言论纯属发表者个人意见且会员单独承担发表内容的法律责任,与本论坛立场无关;会员参与本论坛讨论必须遵守中华人民共和国法律法规,凡涉及政治言论、色情、毒品、违法枪支销售等信息一律删除,并将积极配合和协助有关执法机关的调查,请所有会员注意!
    本论坛资源由会员在本论坛发布,版权属于原作者;论坛所有资源为会员个人学习使用,请勿涉及商业用途并请在下载后24小时删除;如有侵犯原作者的版权和知识产权,请来信告知,我们将立即做出处理和回复,谢谢合作!
    电话:021-37709287 邮箱:info@amtbbs.org 微信公众号:AMTBBS 微信服务公众号:AMTservice QQ客服一:3384354588 QQ客服二:2969954637

     

    快速回复 返回顶部 返回列表