人工智能算法的传统通常有两个:一是符号认知主义,主张智能行为依赖于符号操作,通过基于符号表征的计算可实现推理、决策,甚至情感活动,如早期的专家系统;二是联结主义,认为通过大量底层简单的“激活单元”相互交织可在高层自发涌现出复杂的智能行为,这一传统以神经网络为代表。阿尔法围棋的研究主要得益于这一种传统,基于神经网络的深度学习实现算法的突破。
以复杂性视角观之,目前的智能算法有一个突出特质——涌现性,即智能是一种由算法底层的简单规则生成的复杂行为,智能并不由预定的算法前提所决定。游戏棋局的最终输赢是一种涌现,不是依靠单次行为的累加,而是算法演化系列的整体取胜。阿尔法围棋有一些令顶尖职业棋手难以理解的“昏招”,可这些昏招最终成了取胜的“神之一手”,这表明“招数系列”比“某一招”更有意义。在伦理上,涌现性特质揭示出智能算法具有不同于传统的行为特征:智能算法行为不是边界清晰的单个行为而是集体行为的演化,其行为效果既不由“某一”行为所决定,亦不由其前提决定。
智能算法的另一个特质是算法的自主性。阿尔法围棋一代曾依据人类历史上的优秀棋谱,对弈了3000万盘棋,二代强化了自我增强学习。如果智能算法的自主性意味着机器是某类主动的、自我进化的“生命”,那么我们是否能说人工智能就是一个具有自我意识、能够自我决定的“主体”?以算法的观念来看,理性传统所认可的“主体”是一个能够协调个体自身复杂行为的中心控制单元,它担负该个体所有信息的整合和全部行为的控制。目前得到广泛应用的弱人工智能,则形成了一种完全不同于传统的主体观念。弱人工智能的自主性是智能行为的自组织性,机器算法会在没有人类程序员的干预下自发学习,自动处理问题。
2015年,有人在使用“自动驾驶”模式时遭遇车祸,历经十个多月的调查,最终归责为驾驶员过于信任人工智能,手没握住方向盘,人工智能得以免责。不久的将来,人工智能必会让我们可完全摆脱方向盘。智能驾驶系统由厂商的机器人制造,其算法不断自我进化,无缝嵌入庞大的物联网中,行进于更多智能体交互的开放环境,并与它们共同形成了一个不断自我演化的复杂算法整体。在这一整体中,厂商、机器人、使用者、众多智能体等都是造就整体的个体,但并不存在对整体负责的“主体”,此时我们在伦理上可能面临根本的挑战:智能行为既不遵循行为与效果之间的直接对应,也不遵循行为与主体之间的必然联系,那么我们该如何做出一个恰当的道德判定? (摘编自刘劲杨《人工智能算法的复杂性特质及伦理挑战》)