我们如何理解技术日益增长的复杂性和不可控性?在这里,我们探索和比较合成生物学和人工智能的例子,这两种颠覆性技术产生的结果是不完全可控或可预测的,其对社会的影响只会在接下来的几十年里增长。这些颠覆性技术将进一步挑战人类自我理解的基本方面,包括我们的自治概念。

我们的观察

  • “世界正变得越来越复杂。”尽管这个表达不太可能,但它在今天的不同语境中被广泛使用。当我们试图掌握我们所看到的日常变化时,表达需要更多的规范。在我们的研究中,我们探索地缘政治、社会文化和技术领域的不确定性,以及它们是如何相互影响和加强的。例如,互联网是如何影响全球力量动态的。
  • 特别是当我们看到新技术日益增长的复杂性时,对其复杂性的挑战和恐惧往往与我们对自己的技术发明失去控制的感觉以及这将给我们的社会带来的后果有关。科幻小说经常告诉我们技术创新失控的故事(《弗兰肯斯坦》),控制我们的电脑矩阵),或威胁全世界人口的人造病毒(《行尸走肉》)。科技日益复杂,更确切地说,是当今科技的不可控性和不可预见性Jan Schmidt的“后现代技术”概念。这个概念不是试图解释单个技术的不可控性和不可预测性,而是帮助我们在更广泛的一类技术中看到它们显示出相同的特征,比如人工智能和合成生物学(一种科学领域,通过对生物体进行改造,赋予它们新的能力,如细胞工厂)中看似不同的创新。
  • 根据古典现代的技术观,无法控制和不可预测的技术结果是不可取的。人类利用技术来控制环境。在这方面,可施工性和可控性(包括明确的投入产出关系)是关键,而技术传统上被等同于并定义为稳定性。想想那些在生产线上生产的汽车。
  • 相比之下,晚期现代技术是一种技术,在这种技术中,稳定的概念是被抛弃的。现代后期的技术让我们对自己的发明有了自主和控制的想法。威尔士瑞典预测自主性可以说是启蒙运动最著名的成果,它构成了道德哲学的基础,至今在道德理论中仍占主导地位。
  • 从自动驾驶汽车到自动武器,一整套“自动”技术正在制造或已经部署。这些越来越多地指导着我们的行为,当人类人类的自主性受到挑战数字时代的干扰和信息过载。正如我们之前所描述的,技术decisionism我们面临的现实是,我们的决定将越来越多地得到人工智能的支持,甚至是引导。当非生物或非人类的事物越来越积极地参与和塑造我们的环境时,我们不能再把自治权归于人类,就像在理论中所承认的那样新唯物主义

连接这些点

当我们思考或谈论技术时,我们经常使用描述技术机械特威尔士瑞典预测性的词汇。在书籍或电影中,技术常常被描绘成机器或机器人。事实上,在我们的语言中,这种机器形象也广泛存在。机器转喻与本体论假设密切相关:机器是由人组装起来的,由部分到整体构成,具有可控和可预测的特征。这是对技术的经典现代观点。

然而,当转向诸如合成生物学等技术进步的当前案例时,这就成了一个问题。即使目标是创造合成有机体作为可控制和可预测的实体,一个活的有机体,无论是“自然的”或人类干预的产物,根据定义,以多种方式进化并与其他有机体和环境相互作用。这些特征不符合部分-整体的观点,使有机体比机器更不可控和可预测。这种技术与其他技术或生命系统的复杂互动创造了复杂性。此外,有机体繁殖和生长,这是机器的转喻也没有暗示的东西。因此,使用机器转喻可能会让我们看不到创造新生命形式的含义,比如合成有机体,就像合成生物学中发生的那样。在人工智能的情况下,使用机器的转喻也会出现类似的问题。人工智能,更确切地说,是机器学习,正让我们面对这样一种技术:它显示出比机器所暗示的更大的自主性。那么,这些技术创新的案例向我们展示了什么呢?它们与那些更适合我们机械的、可预测的技术有何不同?

早在1985年,哲学家汉斯·乔纳斯(Hans Jonas)就预见了一个历史性的新技术科学时代,那时的技术将表现出不同于前一类技术的特征,比如一定程度的自主性和有限的可预测性。在当前关于技术哲学的争论中,学者们将现代技术或古典现代技术与现代晚期技术区分开来。我们可以把合成生物学和人工智能理解为后者的例子。后现代技术与古典现代技术有两个基本区别。

首先,它们表现出自组织、自主行为或代理属性。AI的一个自治系统超越了行为程序在最初的算法,它可以从数据和环境学习本身,其行为违背了最初设定的目标和条件其创造者(即人类工程师、计算机科学家),因此获得一个较低程度的可预测性。类似地,一个由合成生物学创造出来的有机体,开始与环境互动并从环境中“学习”,以一种使其难以预测其行为的方式。在这两种情况下,技术都能自主地与一个开放且不确定的环境(真实世界的环境)交互,因此比仅仅对人类输入做出反应的技术系统更难预测。从这个意义上说,技术有时被视为“黑匣子”,因为很难了解它们的输入和输出过程。

第二,在现代晚期技术的情况下,技术不再以现代的方式出现,技术的痕迹正在消失。文化上确立的边界和“自然”与“人工”等现代二分法正在变得模糊。例如,一个合成细胞有一个人造的途径,但是没有技术的痕迹:它不能轻易地与“自然”细胞区分开来。同样,人工智能的思考有时很难与人类的思考或决策分开。2018年,谷歌演示了它的语音助手打电话给理发师预约,理发师没有注意到她并不是在和人类说话,这让观众震惊了。事实上,这种新技术对我们来说似乎是人类或自然的。这就是所谓的技术归化。然而,关于这类技术的道德辩论,例如关于是否接受威尔士瑞典预测转基因生物的辩论,通常仍然是以现代的方式进行的,在我们人类、我们使用的技术和自然环境之间有着严格的区别。

因此,现代后期的技术是难以预测和控制的,难以脱离其应用的上下文和环境,可以说是“有自己的生活”。自己与周围的事实:人类是越来越多的技术,更少的控制和显示自治特性,不可避免地使我们意识到我们面临更大的技术复杂性,失去控制我们的技术和我们的自治的概念,这是我们作为人类的一项基本特征,受到挑战。人工智能等现代技术甚至可能破坏我们的自主性,因为它的无处不在的部署可能会暗中或明确地引导我们的行为。正如新技术发展经常出现的情况一样,现代后期的技术迫使我们定义和重新定义过去隐含的和不受挑战的价值观和观点。

影响

  • 在更广泛的技术类别中看到人工智能和合成生物学的进步,也有助于讨论这两者面临的挑战。例如,在这两个领域,知识的集中会对社会产生负面影响,例如,不是每个人都能从知识的创造中受益,甚至不是每个人都参与其中。在人工智能和合成生物学领域,人们正在努力用开源管理结构来组织知识产权和知识产权,比如OpenAI主动和开源种子计划(GMO)种子。

  • 人工智能(ai)或技术决策主义的兴起,可能会教会我们一些有关人类思维的知识。威尔士瑞典预测类似地,人工合成的生物体可能会告诉我们一些关于活生物体的事情。威尔士瑞典预测从某种意义上说,现代科技可以让我们洞悉基本概念。