现实正受到围攻?超三成专家悲观预测数字生活-天天亮点

澎湃新闻   2023-06-26 06:06:56

·他们担心最好的知识将在错误和虚假信息的海洋中丢失或被忽视,以前致力于向公众提供信息的机构将被进一步削弱,基本事实将被淹没在娱乐性干扰、赤裸裸的谎言和针对性操纵的海洋中。

·他们相信数字和物理系统将继续整合,为各种物体和组织带来“智能”,并期望个人拥有个人数字助理来简化日常生活;数字工具可以让人们自由地捍卫自己的权利,并与其他人一起动员起来实现他们所寻求的变革。


(资料图片)

皮尤研究中心发布预测2035年数字生活的报告。

皮尤研究中心(Pew Research Center)6月21日发布一份报告,邀请了305位专家预测,随着人工智能的发展,人类2035年的数字生活将发生哪些好的和坏的变化。

在生成式人工智能和一系列其他人工智能应用的推动下,参与皮尤研究中心新一轮调查的专家们对2035年生活各方面的数字化进步抱有很大期望。他们预计,医疗保健和教育将取得显著改善;一个在数字空间中构思和启用神奇药物的世界将到来;个性化的医疗护理可以在患者需要时准确地满足需求;人们佩戴智能眼镜和耳塞,与周围的人、事物和信息保持联系;人工智能系统可以将话语推向富有成效且基于事实的对话;环境可持续性、气候行动和污染预防方面将取得进展。

与此同时,参与新一轮调查的专家们对许多发展的阴暗面感到担忧。除了生成式人工智能灭绝人类和带来错误信息的风险,他们还担心数字技术可能会破坏信息环境,导致大规模失业、全球犯罪蔓延,并带来人群压力、焦虑、抑郁和孤立感。

最有害或最具威胁性的变化

该报告涵盖了皮尤研究中心和伊隆大学(Elon University)互联网想象中心(Imagining the Internet Center)共同开展的第16次“互联网的未来”调查的结果,以收集专家对重要的数字化问题的看法。总共有305名技术创新者和开发人员、商业和政策领导人、研究人员和活动人士回答了报告所涵盖的问题。

受访者还被要求表明他们对所预见的变化的感受。其中42%的专家表示,他们对预计到2035年看到的“人类+技术”的演变感到同样担忧和兴奋;37%的受访者表示,他们对预期的变化更担心而不是兴奋;18%的受访者表示,他们对预期的变化感到兴奋多于担忧。

也就是说,约79%的受访专家表示,他们对即将到来的技术变革更担心而不是更兴奋,或者同样担心和兴奋。这些受访者谈到了几类担忧。

第一,未来会损害以人为本的数字工具和系统的开发。提到这种担忧的专家写道,他们担心数字系统将继续受到经济中的利润激励和政治中的权力激励的驱动。这可能会导致数据收集的目的是控制人们,而不是赋予他们自由行动、分享想法以及抗议伤害和不公正的权利。他们认为所有这一切的影响可能会加剧不平等并损害民主制度。

第二,未来会损害人权。这些专家担心,随着隐私变得更难(即使不是不可能)维护,也会出现新的权利威胁。他们将监控的进步、嵌入公民空间的复杂机器人、深度造假和虚假信息的传播、先进的面部识别系统以及不断扩大的社会和数字鸿沟视为迫在眉睫的威胁。他们预见到犯罪和骚扰将更加广泛地蔓延,人类的能动性和安全将面临新的挑战。最令人担忧的是,日益复杂的人工智能可能会导致失业,贫困加剧和人类尊严下降。

第三,未来对人类知识的损害。他们担心最好的知识将在错误和虚假信息的海洋中丢失或被忽视,以前致力于向公众提供信息的机构将被进一步削弱,基本事实将被淹没在娱乐性干扰、赤裸裸的谎言和针对性操纵的海洋中。他们担心人们的认知能力会下降。他们认为“现实本身正受到围攻”,因为新兴的数字工具令人信服地创造了欺骗性或替代性的现实。他们担心一类“怀疑者”会阻碍进步。

第四,未来将危害人类健康和福祉。其中一些专家表示,人类对数字系统的接受已经引发了高度的焦虑和抑郁,并预测,随着技术进一步融入人们的生活和社会安排,情况可能会变得更糟。一些精神和身体问题可能源于科技引发的孤独感和社会孤立感。有些可能来自人们用基于技术的“体验”代替现实生活中的遭遇;有些可能来自工作岗位流失和相关的社会冲突;有些可能直接来自基于技术的攻击。

第五,未来会损害人际关系、治理和机构。解决这些问题的专家担心,围绕技术的规范、标准和监管不会发展得足够快,无法改善个人和组织的社会和政治互动。两个首要问题是:自主武器和网络战趋势,以及失控的数字系统前景。他们还表示,随着技术变革步伐的加快,情况可能会变得更糟。他们预计人们对彼此的不信任可能会增加,对机构的信心可能会恶化。反过来,这可能会加深本已不受欢迎的两极分化、认知失调和公众退出重要话语的程度。他们还担心数字系统太大、太重要而无法避免,所有用户都将成为俘虏。

最好或最有益的变化

约60%的受访专家表示,他们对即将到来的技术变革感到兴奋多于担忧,或者同样兴奋和担忧。这些受访者谈到了他们的兴奋理由。

第一,以人为本的数字工具和系统开发对未来有好处。这些专家涵盖了医学、健康、健身和营养领域各种可能的数字增强技术,帮助人们获取信息和专家建议的通道,正式和非正式环境中的教育,娱乐,交通和能源等领域。他们相信数字和物理系统将继续整合,为各种物体和组织带来“智能”,并期望个人拥有个人数字助理来简化日常生活。

第二,有益人权的未来利益。这些专家认为,数字工具可以让人们自由地捍卫自己的权利,并与其他人一起动员起来实现他们所寻求的变革。他们希望数字工具和系统的不断进步将改善人们对资源的获取,帮助他们更有效地沟通和学习,并让他们以有助于过上更好、更安全的生活的方式获取数据。他们敦促,随着互联网传播到世界最遥远的角落,人权必须得到支持和维护。

第三,有益人类知识的未来利益。这些受访者希望出现商业模式创新,制定地方、国家和全球标准和法规,以及社会规范。他们希望提高数字素养,从而以吸引注意力和赢得公众兴趣的方式复兴和提升可信的新闻和信息来源。他们希望新的数字工具以及人力和技术系统的设计能够确保事实信息得到适当验证、高度可查找、良好更新和存档。

第四,未来对人类健康和福祉的益处。这些专家预计,数字化发展的许多积极因素将带来一场医疗保健革命,从而增强人类健康和福祉的各个方面。

第五,人际关系、治理和机构的未来效益。充满希望的专家表示,社会有能力采用新的数字标准和法规,以促进亲社会的数字活动并最大限度地减少反社会活动。他们预测人们将为数字生活制定新的规范,并预见他们在社会和政治互动中变得更加数字化。他们表示,在最好的情况下,这些变化可能会影响数字生活,从而促进人类机构、安全、隐私和数据保护。

附:接受调查提问的一些专家的回答

西北大学传播学副教授艾马尔·吉恩·克里斯蒂安(Aymar Jean Christian):

“去中心化是平台分发的一个有前途的趋势。Web2.0公司通过创建集中式平台和积累大量社交数据而变得强大。网络的下一阶段承诺让用户拥有更多所有权,并控制我们的数据、社交互动和文化产品的分发方式。知识产权及其分配的分散化可以为历史上缺乏利用其想法机会的社区提供机会。用户和草根组织已经在尝试新的去中心化治理模式,对长期存在的等级制公司结构进行创新。

“然而,随着企业寻求平台创意内容和内容审核的成本效益,通过人工智能实现故事创作和分发的自动化带来了明显的劳动平等问题。这些人工智能系统是针对艺术家、记者和普通人的无报酬或低报酬劳动力进行训练的,其中许多人是由美国公司外包的低薪劳动力。这些来源可能不代表全球文化或持有平等和正义的理想。它们的自动化给美国和全球文化和政治带来了严重风险。”

“负责任的AI合作(Responsible AI Collaborative)”创始人肖恩·麦格雷戈(Sean McGregor):

“到2035年,技术将成为了解生活中许多不平等现象的窗口,从而使个人能够倡导更大的参与权和决策权,而目前决策权被委托给那些有着难以理解的议程和具有偏见的人。个人的力量将随着人类历史上从未有过的沟通、艺术和教育能力而扩展。然而,如果趋势保持现状,那些有兴趣在更广泛的公共利益上积累权力和财富的个人、组织和政府,将把这些技术用于日渐压制和榨取的目标。至关重要的是,必须采取一致、协调和冷静的努力,在全球范围内增强人类对人工智能系统的治理能力。”

互联网名人堂成员、麻省理工学院计算机科学与人工智能实验室高级研究科学家大卫·克拉克(David Clark):

“要对未来抱有乐观的看法,你必须想象一些潜在的积极因素能够克服重大问题:互联网变得更加容易访问和包容,而未获得服务或服务较差的人数在人口中所占的比例要小得多;在接下来的十年中,社交媒体等关键应用程序的特征将趋于成熟和稳定,用户在应对风险和负面影响方面也会变得更加成熟;提高数字素养可以帮助所有用户更好地避免互联网体验中最严重的危险;新一代社交媒体出现了,不再那么关注用于销售广告的用户分析,不再那么强调无限制的病毒式传播,而是更多地关注用户驱动的探索和互连。”

(原标题:现实正受到围攻?305位专家预测2035年数字生活,超三成人悲观)