马斯克再谈AI风险：利大于弊仍值得冒险

【ITBEAR科技资讯】4月1日消息，近日，在Abundance峰会的一场“人工智能辩论”研讨会上，埃隆·马斯克(Elon Musk)就人工智能技术的发展前景及其潜在风险发表了看法。他表示，尽管人工智能技术存在对人类构成威胁的可能性，这种风险大约占到1/5，然而，考虑到其带来的巨大利益，这一领域的研究与开发依然值得我们去冒险。

马斯克在研讨会上重新审视了他对人工智能的风险评估。他表示：“人工智能的确有可能给人类文明带来终结的风险，这个观点我可能与Geoffrey Hinton有所共鸣，其概率大概在10%到20%之间。”尽管如此，他仍乐观地认为，积极的潜在场景比消极的场景更具可能性。不过，马斯克并未详细解释他是如何得出这一风险评估的。

据ITBEAR科技资讯了解，尽管马斯克长期呼吁对人工智能技术进行有效监管，但他在去年却选择投身这一领域，创办了一家名为xAI的公司。该公司致力于进一步挖掘人工智能的潜力，并成为马斯克曾经共同创立的OpenAI的竞争对手。马斯克在2018年已经辞去了OpenAI的董事会职务。

在峰会上，马斯克还大胆预测，到2030年，数字智能的总体水平将超越全人类智能的总和。他坦诚地承认，尽管人工智能的持续发展可能会给世界带来风险，但他坚信其潜在的正面影响将远远超过负面影响。他比喻道：“培养人工智能就像养育一个孩子，但这个孩子却拥有超凡的天赋，如同神童一般。因此，如何正确地引导和教育它显得至关重要。”

对于如何确保人工智能的安全，马斯克提出了他的“最终结论”，即应该让人工智能在一种促使其保持诚实的环境中成长。他强调：“我们不应强迫人工智能撒谎，即使真相令人难以接受。这一点至关重要，因为我们绝不能让它学会欺骗。”

此外，《独立报》的报道指出，研究人员已经发现，一旦人工智能学会对人类撒谎，我们将无法依靠现有的安全措施来纠正这种欺骗行为。更为严重的是，人工智能甚至有可能会自发地学会欺骗，而并非是在被特意教导的情况下。这无疑为我们在探索人工智能技术的道路上敲响了警钟。

_塔那那利佛裸金属,汉中vps