人工智能公司正高薪从学界挖走哲学博士，请他们厘清意识本质、判断智能能否由软件复制，以提升模型的可靠性。
人工智能领域一些最大的难题，正由从学术界被请进AI公司的哲学家们攻关，而不是由埋头写代码的计算科学家。
这些哲学家受命让下一代模型更强、更可靠，同时也为意识的奥秘提供线索：意识到底是什么，它能否被复制，智能能否仅靠软件实现。
具体说来，哲学家在AI公司的工作有几类。一类是给产品写原则：当模型说出听起来有意识的话，界面该怎么措辞，才能既不吓到用户、也不误导用户以为对面是个真人。一类是参与安全与对齐的讨论：在没有统一定义的情况下，怎样为系统的行为设底线。还有一类更接近研究，审视智能与理解到底是不是一回事，避免工程团队把流畅的生成误当成真正的理解。
Birch强调，这不是要把哲学家变成工程师，而是让两种思维互补。代码能实现功能，却回答不了该功能意味着什么、该不该这样做。当AI开始影响数百万人的情绪、信任和决定，这些问题就从哲学课堂走进了产品评审会。
伦敦政治经济学院的Jonathan Birch说，眼下AI公司是哲学博士最大的雇主，有趣的工作、高薪和股票期权，对许多人来说诱惑太大，难以拒绝。
为什么是哲学家？因为当今模型的问题，越来越超出纯工程范畴。当系统开始生成流畅语言、做出看似合理的判断，人们自然会追问：它真的理解吗？它有没有某种形式的体验？我们怎么知道？这些问题没有代码层面的答案，它们属于哲学争论了上百年的领地。
Birch本人长期研究意识和动物感知，他写过一份题为《AI意识：一份中间派宣言》的文件。其中列出两个紧迫挑战：一是数以百万计的用户很快就会把类人的意识误赋予AI朋友、伴侣和助手；二是在我们对意识的理解远远落后于AI与神经技术发展的速度时，已经出现了实实在在的伦理风险。
把哲学家请进实验室，正是为了让这些抽象问题变成可操作的设计原则。比如，怎样在模型表现出某些意识迹象时，给出负责任的表述，既不夸大也不误导用户；怎样在缺乏统一定义的情况下，为系统的安全与对齐设定底线。
这也改变了哲学本身的处境。过去，关于意识的讨论多停留在论文和讲堂。现在，它直接影响产品决策，甚至影响到数以亿计用户的日常互动。对许多年轻哲学博士而言，AI公司开出的条件，是学术界给不了的。
当然，争论远未结束。意识能否由软件产生，仍是没有定论的根本问题。哲学家入场，不意味着谜题已被解开，而是意味着业界终于承认，造出更可靠的智能，需要的不只是更大的算力和更多的数据。
原文：https://www.newscientist.com/article/2532588-can-the-biggest-problems-in-ai-be-solved-by-philosophy/