AI（人工智能）经历了几次严重的资金削减和缺乏兴趣，如20世纪70年代和80年代。它们被称为“人工智能冬季”，是核冬天概念的参考，太阳被一层烟雾和灰尘阻挡！

（想自学习编程的小伙伴请搜索圈T社区，更多行业相关资讯更有行业相关免费视频教程。完全免费哦!）

但是，当然，现在情况有很大不同。人工智能是最热门的技术类别之一，也是Facebook，谷歌，微软等公司的战略重点。

我们还能面对另一个冬天吗？可能事情已经走得太远了？好吧，这真的很难说。请记住，之前的AI冬季是对许多宏伟承诺没有实现的事实的反应。

但截至目前，我们正在看到许多影响不同行业的创新和突破。风险投资公司也正在为创业公司提供大额支票，而大型科技公司则一直在加大并购力度。

简而言之，几乎没有放缓的迹象。

一种新的AI冬天？

马克吐温说，历史不会重演，但往往会押韵。AI可能就是这种情况 - 也就是说，我们可能会看到一种新的冬季。这是社会在很长一段时间内以微妙的方式受到负面影响的地方。

根据DarwinAI的首席科学家和联合创始人Alex Wong的 说法，模型中的偏见问题是其中的主要部分。例如，人工智能在招聘中被利用，其中包括根据大量简历筛选候选人。

“虽然这种方法似乎是数据驱动的，因而是客观的，但在过去的这些招聘实践中存在重大的性别和文化偏见，然后由人工智能学习，就像儿童可以从他们所教授的内容中获取历史偏见一样，”亚历克斯。“如果不进行更深入的调查，该系统将开始制定有偏见和歧视性的决策，这些决策可能会产生负面的社会影响，并在被释放到公司时产生更大的不平等。”

但这不是一次性的。偏见确实是一个普遍存在的问题，具有腐蚀性，经常不被发现。事实上，一个重要的原因是人工智能社区的文化，它更注重争取准确率 - 不一定对更广泛的影响感兴趣。

另一个因素是AI工具变得越来越普遍并且通常可以自由使用。因此，由于没有经验的人建立模型，我们更有可能在结果中看到更多的偏见。

该怎么办？

可解释性是关于理解AI模型。确实，这很难，因为深度学习系统可能是黑盒子。但是有创造性的方法可以解决这个问题。

请考虑以下来自Christian Beedgen，他是Sumo Logic的联合创始人兼首席技术官 ：

“在我们开发Sumo Logic的早期，我们构建了一个通用且无监督的异常检测系统，以跟踪不同分类日志的出现频率，并认为这有助于我们发现有趣的趋势和异常值。然而，一旦实施，我们发现 - 尽管采用了多种方法 - 我们的高级异常检测算法生成的结果对我们的用户来说根本无法解释。我们意识到，如果人类无法弄清楚它们的含义，那么复杂算法的结果并不重要。从那时起，我们专注于较窄的问题状态，以创建从根本上更简单 - 因此更有用 - 的预测机制。“

这是一个艰难的教训，但它最终对公司至关重要，因为产品变得更加强大和有用。Sumo Logic已经筹集了2.3亿美元，是该领域的顶级公司之一。

接下来是什么？

展望未来，人工智能行业需要更加积极主动，迫切需要公平，问责和透明。一种帮助实现这一目标的方法是在平台中构建功能，提供可解释性和偏见的见解。即使拥有老派道德委员会也是一个不错的选择。毕竟，这在大学研究中很常见。

“受人工智能影响的导致歧视和不平等的决策，如果不加以控制，可能会导致人工智能失去信任，这反过来会阻碍其广泛采用，特别是在真正受益的行业，”亚历克斯说。“我们不仅要努力提高部署的人工智能系统的透明度和可解释性，还要教育那些构建这些系统的人，让他们了解公平性，数据泄漏，创建者责任和固有的偏见问题。目标不仅是高效的人工智能系统，还包括社会可以信任的系统。“

文章来源：http://www.taulli.com/ai/is-ai-headed-for-another-winter/