本文作者仅代表个人观点。雷竞技手机版
很长一段时间以来，将现有的人工智能技术提升到人类智能水平一直是人工智能工程师的圣杯。尽管这种超级智能会给人类带来巨大的利益，但人工智能的发展总是有可怕的因素- - - - - -无论是科幻文学、电影还是硅谷高管的影响- - - - - -这是理所当然的。
我们人类似乎无法充分理解和应对建造超级智能的危险，我们对危险的反应或展望以及它的用处是混合的。这是因为人工智能技术的发展可以极大地改善我们的生活- - - - - -从治疗癌症和其他致命疾病到创造大量廉价产品，但发展这项技术也有危险。
相关:一辆特斯拉Model X被困在龙卷风中心，并记录了这场灾难
没有我们的参与，优秀的机器也会自我改进
如果我们假设我们将永远提高我们的技术，我们可以推断超级智能的创造是极有可能的，而且它的加速速度被低估了。在不久的将来，我们会造出比人类更聪明的机器。然后那些优秀的机器会在没有我们参与的情况下自我改进。
然后你有一个矩阵在这种情况下，先进的技术出现了，数百万年来，我们第一次不是这个星球上最聪明的生物。在那个阶段，我们不能确定我们的目标和人工智能的目标是否一致，如果出现分歧，我们会发现自己与技术开战。一旦有了这样的超级智能，未来将由它的偏好决定。更具体地说，考虑到人工智能技术的本质，它最大限度地提高了效率，如果我们妨碍了它，它可能会像我们对待其他动物物种一样对待我们。
这种情况在理论上是可能的，但很难判断它何时会发生，或者它是否会发生。毕竟，人类是不完美的- - - - - -不完美的人能创造出没有弱点、近乎完美的东西吗?此外，可以开发人工智能，使其行为和决策模型与我们认为可接受的一致。换句话说，人工智能技术可以发展到其核心原则是高尚和非暴力的。
相关:杰夫·贝佐斯在太空飞行后感谢亚马逊员工:“你们为此付出了代价”
人工智能技术的好处
尽管人工智能的未来可能很可怕，但我们可能还需要30到70年才能创造出具有超高智能的东西。不过，与此同时，人工智能技术在一系列行业的好处可能是巨大的。
制造业
人工智能技术的发展可以创造出大量廉价产品，从而大大降低生活成本，使许多人摆脱贫困。更便宜的技术可以创造全新的产品和产业，有助于增加就业机会。
医学
人工智能技术在医学上的应用案例几乎是无限的。我们可以想象人工智能提前诊断甚至预测癌症和其他致命疾病，从而使人们能够采取预防措施。人工智能技术甚至可以帮助我们开发出治疗目前医学无法治愈的疾病的方法。医学领域的巨大进步将自动意味着人类寿命的延长和生活质量的提高。这种药物可能会变得如此适合一个人的特定基因组，以至于我们的健康和整体健康可能会得到极大的提升，而不再是65岁退休，从而解决人口老龄化危机，即没有足够的人生产。
网络安全
人工智能技术可以提高各种系统的网络安全，使在线空间和平台更加安全。
运输
几乎零事故的自动驾驶汽车将拯救人类的生命。
信息处理
人工智能技术可以用来快速理解金融数据或公众对某些问题的情绪。简而言之，人工智能分析工具将非常强大和精确。
我们可以在很长一段时间内继续列出这个列表，但主要的一点是，人工智能技术将影响我们生活的几乎方方面面，其积极影响是巨大的。
现在回到现实。
在这一点上，人工智能只能在狭窄的环境中工作。总有一天，不同的人工智能能够相互交流和学习。这正是我们公司想要达到的目标。我们公司正在为不同的人工智能开发一种协议，以实现连接和数据交换。我们正在为人工智能服务建立一个市场，我们使不同的人工智能技术能够相互沟通、交换数据、相互学习和交易服务。我们正在努力普及人工智能服务。人工智能的力量越不集中，人类共同承担的风险就越小。
通常，公众对人工智能技术会给人类带来更多的好处还是坏处感到困惑。我们公司认为，如果人工智能技术是在负责任的情况下开发的，在受限和受控的环境中进行测试，并与我们的核心价值观保持一致，那么它失控的风险就很小。同时，它对人类的好处将是无价的。
最关键的时刻是现在，AGI的初始条件应该确定并提供。构建仁慈的AGI是非常困难的，但肯定是在我们力所能及的范围内。
