人工智能对工作安全的威胁有多真实？人工智能教授 Alejandro Piad Morffis 访谈

“如果事实证明程序员比律师更容易实现自动化，那将是非常令人抓狂的。” -Alejandro Piad Morffis 教授。

大型语言生成 AI 模型（如 ChatGPT、Microsoft Bing、Google Bard、Stable Diffusion 等）的采用率增加，虽然这些模型的优势无可辩驳，但却导致了一种夸大和令人痛心但并非毫无根据的恐惧公众就这些 AI 模型可能危及全球数百万工人的工作保障提出质疑。

如前所述，人工智能对人类工作的威胁虽然被夸大和令人痛心，但并非毫无根据。

人工智能执行重复性任务、处理大量信息和模仿人类决策的能力使其成为提高创造力、生产力和效率的非常好的工具。

要回答这个问题，“AI 会抢走我们的工作吗？”我得到了一位专家的帮助，他的名字是亚历杭德罗·皮亚德·莫菲斯教授，古巴哈瓦那大学人工智能教授。教授是导师、老师、朋友，最重要的是，他启发了我。

我希望如何处理这个问题

问题将以“Q”字母作为前缀，而答案将以“A”字母作为前缀。关于问题，我希望涵盖技术和哲学问题，因为 Morffis 教授也对哲学有亲和力。

同样重要的是要注意，为了便于理解，我将提供指向某些难以掌握的概念的链接。

让我们开始吧！

Q：首先，您能简单介绍一下您自己，您的专业资格等吗？

A：我叫 Alejandro Piad，我在古巴哈瓦那大学数学与计算机科学学院主修计算机科学。 2016 年，我也在同一所大学攻读了计算机科学硕士学位，并获得了双博士学位。阿利坎特大学计算机科学专业和博士学位。 2021 年在哈瓦那大学获得数学博士学位。

我的博士学位从自然语言中发现知识，特别关注从医学文本中提取实体和关系。

从研究生院开始，我一直在哈瓦那大学任教，我是编程、编译器和算法设计方面的主要讲师，偶尔也会担任机器学习和其他科目的讲师。

自 2022 年以来，我是那里的全职教授，我也是新的数据科学职业的创始人之一，这是古巴的第一个此类职业，我为该职业编写了整个编程和计算系统课程，我继续研究 NLP，现在专注于知识发现的神经符号方法，将 LLM 与符号系统相结合。

问：您使用 AI 系统多久了？

答：我在读本科时玩过 AI 游戏，并做过几个计算机视觉和元启发式的学生项目。毕业后，我开始攻读计算机图形学硕士学位，但作为副业，我在 NLP 方面做了一些研究，特别是 Twitter 上的情绪分析。

完成硕士后，我开始考虑攻读博士学位。并全力投入机器学习。

所以你可以说从我开始认真对待 AI 开始大约 10 年。我最早的一篇与此相关的论文是在 2012 年左右。

问：那真是令人印象深刻！在 AI 变得很酷之前，您就已经开始使用 AI 了。您认为 AI 中最重要的技术进步是什么导致了当前的主流采用和随之而来的工作流离失所威胁？

答：嗯，它总是很酷，只是在学术界之外。我会说，两个的交集正交的发展：人工神经网络架构的发现，如 Transformer，它解决了以前架构的许多可扩展性问题，以及硬件的发明，您可以在其中超高效地大规模运行这些特定架构。

问：迷人！作为教育工作者和人工智能研究者，您的专业观点是，哪些行业存在被人工智能取代的风险？

A：我不知道是否有任何行业会被完全取代，但我相信会有很大的变化。当然，从长远来看，没有人能说什么。但在短期和中期（5-10 年），根据我们在语言模型中看到的情况，我敢打赌，任何以自然语言的浅层过滤和处理为工作基础的人都需要进行一些清算。

这包括各种管理角色，包括任何负责阅读电子邮件、总结和构建报告的人。任何类型的秘书都不会超越记笔记和任务安排。使用模板化内容的撰稿人。

基本上，任何低于人类实际创造力水平的内容创建任务自动化都比付钱给人类更便宜随机鹦鹉。所以那些都会消失。假设在不久的将来，一名使用 ChatGPT 的撰稿人将能够制作出 3 到 10 倍以上的内容，而且质量相同。

不是因为模型会给他们他们想要的最终质量，而是因为模型会给他们 90% 的质量，然后真正的人类创造力就像樱桃一样出现在最后的 10% 中。教育也必须发生巨大变化。如果你愿意，我们可以谈论更多。

问：这是一个非常好的角度。你是一位教育家，从你题为“重新思考大学教育”，您显然知道教育机构是多么厌恶变化。您认为在后人工智能世界中可以依靠正规教育生存吗？

A：是的，学术界会适应的。它是西方文明中存在时间最长的机构。它早于我们所有的主流宗教，并且在所有重大的文明变革中幸存下来。随着时代的变迁，它会发生巨大的变化。

问：社会考虑人工智能和工作取代的伦理影响有多重要？

A：所有的技术都有潜在的问题，技术越先进就越需要考虑这些问题。人工智能是一项非常强大的技术，有可能破坏我们所有的经济关系。

它是工业革命级别的东西，所以它会产生巨大的影响，所以关注度必须在同一级别。

与以前的颠覆性技术不同的一件事是，大多数情况下，新技术使需要最少认知技能的工作自动化，它发生在农业、制造业、采矿业等领域。

然而，这一次，我们即将取代大量白领工作，同时保留大量蓝领工作不受干扰。所以我们会有很多习惯于在办公室工作的人发现 AI 也可以完成他们的工作（或者可能稍微好一点）而且便宜得多，所以他们要么必须大幅提升他们的技能，要么他们将不得不转向从事技术含量较低的工作。

还有其他道德方面的考虑，人工智能技术很可能被滥用于错误信息、假新闻、社会破坏等。我认为我们没有准备好迎接大量类似人类的聊天机器人接管 Twitter；它已经开始发生了。

还有偏见问题，随着这些系统变得越来越普遍，危害可能会非常集中在少数人身上，所以每个人都不会以同样的程度获得人工智能的好处，一些少数人会比那些没有的人更严重地受到不利影响来自少数民族。

问：换句话说，我们应该注意，因为与过去的自动化形式不同，人工智能也有可能破坏认知任务工作。

A：是的，尤其是那些工作。它将使更多的白领工作自动化，而不是蓝领工作，至少在短期内是这样。这是新事物，社会不习惯处理这种工作中断。

这些人上过大学，或多或少相信他们的工作是安全的，或者至少比你提到的出租车司机、披萨男孩、园丁更安全。

问：这是有道理的，让我们来点近点吧。您是否认为人工智能能力的提高最终会导致软件工程师/开发人员的整体就业减少？

A：从长远来看，所有工作都将以不可预测的方式发展，包括软件工程和开发。人工智能和技术进步将使这些职业发生转变，以至于它们似乎已经消失了。

然而，在中短期内，由于各行业对软件的需求不断增加，软件工程师不太可能减少。这种对熟练专业人员不断增长的需求远远超过了目前能够构建软件的受过培训的人数。

人工智能革命将遵循与以往计算机科学技术突破类似的模式，如编译器、集成开发环境、云计算、容器、代码完成和智能感知。

这些创新使那些没有高度正式背景的人更容易进行编程，并为开发人员提供了更多机会。

在接下来的 20 年里，我们可以预期会有大量人员进入软件开发领域。尽管工作角色可能会随着技术趋势的发展而有所变化，但对学习如何编程和编写代码感兴趣的人可能会继续增长。

问：这令人难以置信，尽管 GitHub 的 Co-Pilot 和 GPT 模型系列等生成式 AI 模型的发布引发了（请原谅我的双关语）关于软件开发人员可能因 AI 失去工作的谣言。你怎么看这个？

答：看数字。我看到的只是软件开发人员的更多招聘广告。趋势仍在攀升。

问：前 OpenAI 工程师 Jeff Clune 最近在 AI Safety Debate 会议上做出预测，他表示到 2030 年，AI 有 30% 的机会能够处理“50% 的具有经济价值的工作” ，这对整个开发人员劳动力市场意味着什么？

答：首先，我不知道你会如何思考 30% 的机会将 50% 的工作自动化的样子。失去工作的预期是 15% 吗？

问：我想这些数字确实让人感到困惑。但要点是；软件开发人员有很多理由担心他们的工作安全，他们目前花费大量时间的许多任务正在自动化。发生这种情况的速度将会加快。

A：是的，但事实是，开发人员花费大部分时间的许多任务的价值都很低，如果它们是自动化的，我们会过得更好：调试、编写测试、进行烦人的代码优化。当您将所有这些自动化时，我们将有更多时间用于软件开发中真正重要的部分，这与编写代码无关。

问：你能多谈谈那些部分吗？

A：高层和架构设计、用户体验、人机交互，这只是软件本身。软件工程实际上是关于软件与人之间的关系，包括制作软件的人和使用软件的人。所以软件技能只是故事的一半。了解您的用户和同事是另一半。

问：这类似于会计师的核心工作是传达财务信息而不是创建财务报表，令人着迷！可以肯定地说 AI 功能将在 10 到 20 年内增加。作为一个社会和物种，我们如何准备应对可能采用人工智能带来的潜在工作流离失所/损失？这如何影响我们作为人类的使命感？

A：很难说，当然，我们正处于一场至少与微处理器革命或互联网革命一样大的工业革命之中，1960 年的人无法想象 1980 年会是什么样子。

根据定义，社会永远不会为变革做好准备。这就是系统，努力维持现状的东西。但人类是世界上适应性最强的社会物种，所以我认为我们会应付的。很多人都会受苦，这肯定是我们必须努力解决的问题，但我认为世界末日不会发生。

问：关于 AI 的反乌托邦潜力的讨论很多。为什么你说世界末日不会发生？

答：我还没有看到任何关于世界末日情景的真正令人信服的论据。许多论点似乎都是基于这样的推理，比如“我们不知道这将如何演变，所以它可能会杀死我们所有人”，这是一个典型的逻辑谬误：你基本上是在缺乏知识的情况下做出推论。

问：这是真的。但AI对齐问题看起来确实有道理。

答：我认为我们会解决它，至少足以避免世界末日的场景。最严重的对齐问题需要你相信一个强大的版本正交论题我不相信这是合理的。

问：迷人！回到自动化，我们如何利用人工智能来增强而不是取代人类的工作，以及哪些行业适合这种协作？

答：我认为这是很自然的，因为我们将越来越多的琐碎的认知工作（例如，总结文档或查找相关参考资料）自动化，我们人类将开始从事我们工作中最具创造性的部分。有些工作一开始几乎没有，我看到了一个挑战，因为这些可能会完全或几乎完全自动化。

但大多数知识工作都有创造性的一面，即你实际做一些新颖的事情的部分。

至于哪些领域已经成熟，我不能多谈，但至少在教育方面，我认为我们注定要进行一场期待已久的革命。

我们教授不再需要成为信息的守门人。我们现在可以专注于为每个学生提供最好的个人反馈，而不是花费大部分时间一遍又一遍地给相同的论文打分。

问：AI 可以通过哪些方式彻底改变教育系统？也许更多的教学技巧最适合学生。

答：有一些简单的方法，有些则不那么容易。首先是增加获取知识的机会。现在几乎所有你想学的东西，你至少可以在互联网上找到相关信息，但这些信息通常分散在许多来源中，具有不同的细节层次、矛盾的东西、不同的语言风格等。

第一个相对简单的应用程序就在这里获取关于某个主题的这一堆资源，并给我一个总结的主要要点的高级概述，以及更深入的链接等。我们非常接近那个（除了幻觉是一个重大问题）。

另一种方法是将教育工作者从琐碎的任务中解放出来，让他们有更多时间专注于创造学习体验。但到目前为止，我认为最重要的是个性化学习的潜力。

你可以有一个 AI 助手，告诉它“我想学习如何制造火箭”，它可以创建一个非常详细的计划，特别是为你，基于它已经知道的你知道的，它会告诉你，在这里，首先观看这个视频，现在学习这个短期课程，现在阅读这本书的这一章，......并指导你用 3 个月的时间学习一些非常具体的东西。

问：这真的很有前途！你为人类适应提供了坚实的理由。你谈到了偏见，大规模采用 AI 会影响少数人是否公平？如果是，如何应对？

答：是的，机器学习根据定义是针对大多数人进行训练的，因此它总是会伤害那些因任何原因用例不适合大多数人的人。

特别是，每当你训练模型来预测人类行为或与人类互动时，它往往更适合数据中最能代表的亚群。

你能做什么？首先提高对这些问题的认识，并确保彻底测试您的模型是否存在偏差。在收集数据的方式上要非常小心，不要走捷径和爬网，并努力寻找高质量和高多样性的数据源。

但最重要的是，在您的团队中包括具有不同观点的不同人。你无法解决你看不到的问题。

问：这让我思考。是否有可能只有经济能力强的人才能使用上述人工智能工具？

A：我希望开源社区能够让所有人都能使用这些工具。我们已经看到了免费操作系统、免费办公套件、免费游戏引擎、免费代码编辑器等对世界上较贫困地区富有创造力的孩子的影响。

我相信我们将拥有与商业工具一样好的开源 AI 工具，就像我们拥有与商业工具一样好的开源开发工具一样。

问：这看起来确实可行。你会给你的学生什么建议，让他们为后人工智能世界的劳动力做好准备？

A：如果你已经在学习计算机科学，基本的建议是关注基础知识，而不仅仅是工具。工具会改变，但基本原理将在很长一段时间内保持相关性。如果学习其他东西，学习人工智能如何提高你的生产力，并了解它的局限性。用它来让你自己的工作变得更好。

问：这是有道理的，基本面经得起时间的考验。非常感谢 Morffis 教授的时间。有什么结束语吗？

答： AI 革命已经到来。通过学习使用这项技术来改善和改善每个人的生活，我们都可以成为其中的一部分。

也发布在这里