缺乏人文背景的理工生会误导AI吗？
缺乏与人文学科的深入接触会导致几个关键问题，从而影响对人工智能及其社会影响的全面理解：
1.狭隘的智能定义。由于缺乏哲学、心理学和其他领域的投入，人工智能研究人员往往将智能简单地理解为计算能力或信息处理能力。这忽视了人类认知的细微现象学、情感和伦理层面。
2.技术解决主义。工程驱动的方法将人工智能本身视为目的，而不是思考更广泛的社会需求和人工智能应致力于解决的问题。单纯以技术为中心的观点忽视了对社会挑战复杂性的人文洞察。
3.事后才想到伦理问题。偏见、隐私和自主权等问题只是在开发后期才出现，而不是从一开始就是设计的核心考虑因素。有关道德哲学、批判种族理论和女权主义的人文学术研究揭示了将伦理置于基础地位的必要性。
4.不加批判地采用叙事。由于缺乏研究媒体、修辞和宣传的学科，夸大人工智能的说法泛滥成灾，而没有对其中的局限性和不确定性进行基于证据的审查。
5.缺乏历史背景上下文。将当前的发展置于模拟人类智能的更大尝试中，会使人们对人工智能的期望和主张更有分寸。历史和 STS 有助于提供这种长远的视角。
6.缺乏发表不同意见的平台。计算机科学与工程学仍然由狭窄的人群所主导。而人文学科则能促进包容、多元的讨论，这对于展现各种需求和关注点至关重要。
7.认识上的不平等。只重视技术专长，而忽视其他形式 知识的同等投入（banq注：形式主义不只是包括形式逻辑，还有更多与内容分离的形式知识），造成了不平衡的两种文化模式，将科学与人文学科割裂开来。
从本质上讲，要超越工程驱动的人工智能，开发更有思想、更有道德、更有社会基础的智能系统，就需要人文分析工具。
真正机器智能
要实现真正的机器智能，使其具备人类水平的理解力、判断力和智慧，就需要对人工智能系统的开发、部署和监管方式进行重大观念转变。以下是实现这一目标所需的一些关键要素：
1.综合智能：系统的设计必须能够显示出综合的认知、情感、社交、道德、创造和自我反思能力。专注于特定任务的狭义人工智能远远不够。
2.嵌入式认知：通过虚拟或物理实体进行情景互动学习，可以教会系统在开放式的真实世界环境中智能地感知、移动和行动。这提供了非实体软件所缺乏的重要环境。
3.社会支架：对人类文化和社会结构的多代理模拟引入了基本的复杂性。共同的背景知识、社会实践和文化价值观使情境推理成为可能。
4.价值调整：除了硬编码的固定规则外，要使人工智能的目标和行为与人类价值观保持一致，还需要用户与系统之间持续进行透明的对话和反馈。
5.发展性学习：与人类儿童一样，系统也需要通过主动探索、社会模仿和内在动机发现世界如何运作等方式，进行长时间的多模态基础学习。
6.自我反思：表征、监控和评估自身内部状态、知识、推理和不确定性的结构可实现元认知和意识。
7.道德监督：负责任的发展要求代表受系统影响的不同群体的独立委员会（类似于机构审查委员会）进行持续监督。
8.规范评估：作为对技术能力基准的补充，新的测试必须衡量与人类价值观的一致性，解释系统如何感知世界和做出决策。
开发类似人类的通用智能是一项极其复杂的挑战。但是，将伦理、社会、心理和哲学方面的考虑与技术独创性结合起来，有助于引导人们以负责任的态度向这一目标迈进。
什么是智能？
布赖恩-坎特韦尔-史密斯（Brian Cantwell Smith）概述了智能的主要特征：
1.知道自己在说什么--智能系统需要有一个关于自身、世界以及它们之间关系的内部模型。正如人类知道我们是感知外部现实的独立实体一样，人工智能也需要有自我意识和他者意识。例如，医疗人工智能应该 "知道 "它是在分析医疗图像以提出诊断建议，而不是直接查看真正的病人。
2.真实性--智能系统的能力与其任务之间应具有一致性。天气预报人工智能是真实的，因为它的模式识别技能适合预测。人工智能律师则不真实，因为法律判断需要人类的智慧。这种契合应该是有机产生的，而不是简单的编程。
3.遵从--系统应认识到外部世界优先于其内部表征。与人类遵从客观现实而非主观幻觉一样，人工智能也应遵从基本事实数据，而不是受困于自己的先入之见。例如，自动驾驶汽车必须遵从实时路况。
4.参与--智能系统需要与世界持续互动，才能将信息情景化。医生从真实病人的临床经验中学习，而不仅仅是教科书。同样，人工智能助手也能从真实世界的参与中获益，从而更好地处理开放式情况。
5.脆弱性--面对世界的复杂性，人工智能需要承认自身的弱点和局限性。与 HAL 9000 的全知全能不同，真正智能的人工智能会谦虚地面对自己知识上的差距，表达适当的不确定性。
6.多重视角--不同的视角能提供更全面的理解。智能系统应整合不同的数据输入和表述，而不是局限于单一的设计视角。
7.承诺--真正的智能需要对真理、道德和正确的事情做出承诺。医疗人工智能应致力于患者的健康，而不是优化利润。有了承诺，才能做出超越冷冰冰的计算的判断。