我最近问了一位高中数学老师以下问题：如果您要求您的学生加一列数字，那么大多数人可以在没有计算器的帮助下这样做？答案是：不。
几年前几代人，事实并非如此。学生确实可以在没有计算器的情况下总结数字列表 - 我就是其中之一。
其中有一个潜在但重大的问题。
虽然计算器使准确添加数字变得更加容易，更快，但它们的持续使用可以降低人类执行设备旨在仿真的计算的能力。该机器可以帮助我们更快地工作，但也许不会更聪明。从长远来看，该设备实际上可能使我们变得笨拙。
一般来说，人工智能也可以这样说。
计算器的难题
当孩子们第一次学会在不使用计算器的情况下添加数字列表时，他们教的一种技术就是结转方法。使用此方法，一个孩子根据列表中的每个数字添加一列数字，从给定号码的最正确的列开始。如果列中的数字总数大于九，则只写下该列总和的第一个数字；剩余的数字被带到下一个数字。
下图显示了它的工作原理。右侧数字的第一列总计高达16 ，但是孩子在水平和列线以下下方的值6写下值6 ，并将值1置于下一列。当在左侧的下一个列中添加数字时，包括该值 - 如果该总和再次超过9个，则孩子将单个数字写下来，并将其他数字延伸到下一个列，如前所述。对于完成操作的最多列，此过程继续进行。
AI是否会消除知道如何“携带那个”的需求？
当然，这是一个繁琐的，容易出错的过程。但是，经过多年使用结转方法，孩子就会开发有关数字系统如何工作的直觉。后来的教育等级正式向学生教导各种数字系统，例如如何在十进制/基本10和十六进制符号中表达价值。一开始就具有这种直觉使学习更加容易。
在使用计算器进行总和使孩子的工作速度更快，更准确时，这是有成本的。当孩子学会使用计算器而不是应用诸如结转方法之类的技术时，他们会根据数字剖析数字的技能，因此不会发展有关数字在数字系统中的作用的直觉。孩子只是学习如何按键以获取数字和符号以获取答案。
从本质上讲，机器可以进行计算，并且孩子学习数据输入，但与驱动计算的逻辑没有直接相互作用。只要计算器给出准确的答案，孩子可能永远不会知道或需要知道逻辑。
也就是说，直到计算器故障和答案是错误的那一天。如果没有能力执行未辅助的计算，孩子将永远不会知道设备有误。想象一下，计算器失败并报告2 + 2 = 5，但是孩子对事实的错误却无法确定。
没有人类认知的AI风险
关于儿童和计算器的手工挥动可能没什么大不了的。计算器的智能是有限的，我们已经使用它们数十年来没有明显的效果。但是，如果我们对AI和机器学习的激增开发应用同样的担忧怎么办？
当今的机器智能已经远远超出了简单的手工计算器，并且已经进入了大规模的AI工作。在许多领域，AI的使用与手工计算器一样普遍。但是，问题仍然相同：AI技术是否会增强或损害我们的思考能力？
依赖手工计算器会冒着将孩子减少到数据输入操作员的风险，因此只有设备具有执行算术操作的认知能力。 AI的更广泛使用可能具有相同的潜在效果：人类插入数据，AI是能够找出答案的唯一代理。
需要明确的是，AI是具有许多独特好处和用例的绝佳工具。但是，应该就是这样的 - 一种由人类挥舞的工具来协助给定的任务。不平衡方程式具有实际风险。当拥有AI所做的操作的认知能力的人类不再存在时会发生什么？例如，我可以在不使用计算器的情况下总结一个数字列表，但是许多（尤其是在年轻一代）似乎不能。当我和其他像我这样的人离开这个世界时会发生什么 - 手动损失的能力会永远丢失吗？
AI的运作变得如此不透明，以至于我们可以独自思考。更糟糕的情况可能是：当我们受信任的AI失败时会发生什么？我们可能会像孩子一样成为一个有缺陷的计算器的孩子，他经历了一生，认为两个加两个确实等于五个。发生并且被接受的世界不仅是错误的，而且是危险的。
