我的算法只见树木不见森林
我的算法只见树木不见森林
原文：https://medium.com/hackernoon/my-algorithm-lost-sight-of-the-forest-for-the-trees-a8bc733197e0
深度学习模型相当神奇。他们可以给图像加标签，给数据分类，理解文本情感，创造有趣的新设计和图片(这里是例子的列表)。但他们真的只是简单的生物。它们对以特定方式构建的特定数据进行操作，以实现特定的结果。
我想这没什么不对。结果的范围只会变得更加有趣和有价值。但是这些算法并不存在于真空中。他们从人类那里获得数据，这些数据是人类出于某种目的收集的。模型用来确定其推论的特定特征也是人类干预的结果。还有什么？人类编码模型，测试模型，然后调整它。最后，人类选择如何使用这些数据。
因此，尽管人们谈论人工智能的魔力和神秘性，但只是另一个计算工具。这是一个比我们迄今为止拥有的更好的版本，它可以实现一些非常酷的结果。但是每一步都有一个人。
我想不出一个好的类比，但本质上所有这些算法都是一种力量(一种不可抑制的本质，就像斑点！)那就是重新塑造社会。有些流程做得更有效率，有些决策更准确，有些人会有多余的技能。这种变化并不新鲜，但其范围和后果可能是新的。我们发现了一种新的工具，它将渗透到我们生活的方方面面。它发生在工厂机器上；有电；还有互联网。
或许，过去任何颠覆性变革的一个关键区别在于，这次变革将如何影响我们的决策。现存数据的巨大数量和范围为实验创造了一个几乎无限的空间。如果有人有目标，他们可以找到方法‘折磨数据，直到它招供’。但是我们准备好面对这些影响了吗？
这就是我们进入伦理领域的地方。我们比计算机科学更进了一步——更深入，更概念化。这不是硬件或软件在处理数据时效率如何的问题。不…这是我们需要问关于社会、关于文化、关于生或死的问题的地方。
让这种变化如此重要的是，我们有了一个工具，让人们很容易将自己的责任委托给他们不理解的事情。最近的美联航事件很有教育意义。除其他因素外，它的发生是因为存在一个依赖于预测算法的流程，而员工对此一无所知——他们放弃了参与，实际上是说“我只是在执行命令”。
这是一个问题。对于构建这些流程的人以及受其影响的人来说，这都是一个问题。在过程的每一步——从数据收集到对模型输出采取的行动——我们都需要考虑结果会发生什么变化。
这些都不是容易的问题；这些问题很混乱。但是，如果我们忽略了充分认识到替代方案——盲目服从数据驱动的流程——那么我们可能会后悔我们自以为获得的效率。对这些关于【可解释的人工智能】和#伦理数据的对话的需求与日俱增。
黑客中午是黑客如何开始他们的下午。我们是 @AMI 家庭的一员。我们现在接受投稿并乐意讨论广告&赞助机会。
要了解更多信息，请阅读我们的“关于”页面、在脸书上给我们点赞/发消息，或者简单地说， tweet/DM @HackerNoon。