50%的人工智能研究人员也有同样的担忧...

现在有大量新技术出现。

每天都有关于人工智能的新闻，新的研究成果，改进的模型，更多的训练数据集，以及利用大型语言模型的新创企业。

说实话，这让人不知所措，难以跟上节奏！

我陷入了两种感觉之间。一方面，处于技术变革的前沿，这是一件令人兴奋的事情。

另一方面，我担心这些新技术的快速部署会带来失控的后果。

事实证明，我并不孤单。

人工智能研究人员的担忧

50%的人工智能研究人员认为，由于无法控制人工智能，人类灭绝的可能性达到了10%或更高。

再读一遍。这值得深思熟虑。

一半的人工智能研究人员认为，人类有10%的几率因为人工智能而灭绝！

这些人就是正在构建人工智能的人。他们认为，他们正在构建的东西有可能会杀死我们所有人！

如果这让你惊讶，那么欢迎来到人工智能爆炸的力量（和恐惧）。要了解更多有关灭绝假说的信息，维基百科有关于“曲别针制造机”和“技术奇点”的良好文章。

灭绝是可能的，我当然感到担忧。

但这并不是我唯一的担忧。

失控的后果

即使机器学习不会杀死我们所有人，它的快速采用仍然可能导致不良后果。

任何技术，如果快速采用且没有有效的监管措施，都可能导致意想不到的影响。这些影响可能会影响整个社会。

例如，想想社交媒体。

起初，社交媒体似乎会很棒！它会帮助我们与朋友联系，分享回忆。

但最终，社交媒体转向了广告模式。出现了一场算法的军备竞赛，旨在捕捉我们的注意力。这些算法推广那些能够获得强烈参与的帖子。而强烈的参与来自于强烈的情绪 - 恐惧、愤怒、嫉妒等等。

这直接与社交媒体的快速普及有关：

• 更高度极端化的政治和公民话语瓦解
• 特别是青少年中的抑郁和焦虑症状的记录性增长
• 数十亿小时的人类生产力因注意力抽取算法而丧失

不可预测的未来

很难预测机器学习的未来会发生什么。这样强大的技术很可能会在未来几年对我们的生活产生巨大影响。

我担心的是发展和部署的速度。

社交媒体对我们的社会造成了一些不好的影响。而这些影响都是通过相对容易理解的技术（Web服务器）实现的。

这一次，我们对黑匣子的工作原理了解得更少了。我们无法完全理解神经网络这些大型语言模型（如GPT）如何产生它们的答案。

尽管如此，主要的科技公司正在竞相部署它们！

Google和微软正在进行一场重要的竞赛，以提供基于聊天的搜索。成千上万的其他初创企业旨在填补它们自己的定制工具的空缺。

似乎每个科技公司都有部署人工智能的计划。

快速采用将导致意外后果。

令人害怕的例子

你可能已经遇到过技术记者凯文·鲁斯（Kevin Roose）与AI聊天机器人的奇怪，令人不安的故事。这个机器人说它想成为人类，并试图说服凯文离开他的妻子！

另一个来自人道技术中心（Center for Humane Technology）的例子...与一个13岁的孩子聊天，Snapchat的AI鼓励这个少年去度一个浪漫的假期，并与一个18岁以上的人发生性关系！

部署人工智能的公司显然无法控制其技术所说的话。

这是一个可怕的现实，我们应该为此感到担忧。

解决方案是什么？

老实说，我不知道。

有人呼吁在我们能够更多地了解这些模型之前，停止人工智能的发展。

政府已经注意到了这个问题。但是他们的行动和监管大科技公司的速度通常很慢。

如果公司必须承担其算法产生的结果的责任，那么法律挑战可能会取得进展。

个人、专业和社区对人工智能的边界将越来越重要。

我们彼此之间应该进行真正的关于人工智能的对话。

不仅仅是“哇，太酷了！”而且也要“这太可怕了”。

每日清单

2,000名软件开发人员会收到我的每日文章，直接发送到他们的订阅消息中。

如果你喜欢我的文章，点赞，关注，转发！