生成式 AI 的安全风险及其潜在用途现在已成为主流，而 2022 年 11 月时则不然。
自 OpenAI 于 2022 年 11 月 30 日发布ChatGPT以来，生成式 AI聊天机器人已帮助人工智能成为一个价值2070 亿美元的产业。推出两个月后，ChatGPT 被公认为历史上增长最快的消费者应用程序。
由于 ChatGPT 的快速和巨大成功，生成式 AI 已成为主流术语，并改变了许多企业决策者考虑软件购买决策的方式。此外，生成式人工智能已成为工作场所战略和运营的诱人工具。目前尚不清楚它是否会改变工作方式或成为暂时的工作场所趋势。
自ChatGPT推出以来，企业科技公司和政府就生成式AI的潜在安全问题和安全风险进行了讨论。ChatGPT因泄露内部数据而被一些公司暂时或永久封禁；其他组织已经开始将 ChatGPT 支持的应用程序添加到他们的软件产品中。在本文中，我们将回顾过去的一年，探讨 ChatGPT 对企业软件的影响。
跳到：
- 生成式人工智能成为企业软件的主要参与者
- ChatGPT 引发了生成式 AI 的大规模实验
- 生成式人工智能引发了道德、版权和安全问题
- ChatGPT 的下一步是什么？
生成式人工智能成为企业软件的主要参与者
随着公司致力于实现由大型语言模型支持的聊天机器人和其他工具，ChatGPT 在企业软件领域开启了大规模对话和巨额支出。超大规模企业和电子学习平台发布了一系列广泛的课程和奖学金，以支持生成式人工智能领域的技术工人，并促进生成式人工智能驱动的角色作为可行的职业道路。公司还开始制定与其他企业软件使用规则不同的人工智能使用政策。
然而，人工智能的采用尚未在普通人群中流行起来。皮尤研究中心2023 年 8 月发布的一项研究指出，在对 5,057 名美国人进行的调查中，只有 24% 听说过 ChatGPT 的人使用过它。听说过 ChatGPT 的人更多地将生成式 AI 聊天机器人用于娱乐 (20%)，而不是用于工作 (16%)。
ChatGPT 引发了生成式 AI 的大规模实验
Gartner 杰出副总裁兼分析师 Arun Chandrasekaran 通过电子邮件向 TechRepublic 表示：“可以毫不夸张地说，ChatGPT 在过去一年中已成为数百万消费者和企业用户的人工智能非官方吉祥物。” “它使业务用户能够通过法学硕士快速试验用例，并推进各种业务功能的自动化。”
自 ChatGPT 发布一年以来，OpenAI 利用其产品的受欢迎程度推出了 ChatGPT Plus 和ChatGPT Enterprise等可盈利版本。这些产品很容易让人忘记 OpenAI 在技术上是一个非营利组织，旨在防止理论上的通用人工智能产生危险结果。这可能会在产品的快速增长和这一道德使命之间造成紧张关系。事实上，在 ChatGPT 成立一周年之前不久，OpenAI 的未来就受到了质疑，当时首席执行官 Sam Altman 短暂加入了微软（微软已承诺为 OpenAI 提供 100 亿美元的资金）。11 月 22 日，他根据与董事会的“原则协议”重返 OpenAI。
其他更具商业头脑的公司，如谷歌、微软和亚马逊，现在拥有比ChatGPT 发布之前更强大的生成式 AI 聊天机器人产品，分别是Google Bard、微软的 Copilot和Amazon Q。
“随着谷歌和 Anthropic 等其他公司提供的对话式聊天机器人的出现，竞争肯定会加剧，”Chandrasekaran 说。“此外，去年闭源和开源法学硕士数量均呈爆炸式增长，其中许多都是对 ChatGPT 病毒式采用的回应。虽然该模型的消费者版本的需求不均匀，通常在几个月内有所不同，但企业对法学硕士的需求仍然很高。”
Chandrasekaran 预测，法学硕士运行推理（这是生成人工智能模型训练的一部分）的成本很高，可能意味着更多的公司通过中型模型取得成功。
根据 2023 年 6 月发布的麦肯锡研究报告， ChatGPT 等生成式 AI 解决方案预计每年将为全球经济增加 4.4 万亿美元。其快速增长意味着生成式 AI 正在激增，并专门针对不同的用例。麦肯锡预测，专门的生成式人工智能应用程序将比更广泛的生成式人工智能应用程序创造更多价值。
生成式人工智能引发了道德、版权和安全问题
过去的一年里，OpenAI 创造“安全、有益”人工智能的使命引发了很多讨论。OpenAI 章程中谈到的技术——可以像人类工人一样灵活地完成任务的通用人工智能——仍然不存在。但OpenAI 一直在努力解决人工智能如何延续偏见以及如何减少训练数据和结果的偏见。
一些美国公司已经签署了一份关于生成人工智能安全以及如何防止人们利用这项技术制造错误信息的自愿保证清单。欧盟还在制定指导方针，这些指导方针可能会影响包括 ChatGPT 在内的生成型人工智能产品明年的发展。
生成式人工智能在网络安全中的应用
虽然一些生成式人工智能工具已成为不同组织网络安全防御机制的一部分，但网络安全威胁行为者也使用了相同的技术。例如，尽管人工智能生成的网络钓鱼电子邮件不一定像人类编写的网络钓鱼电子邮件一样有效，但使用 ChatGPT 编写网络钓鱼电子邮件的速度可能比威胁行为者完成此类任务的速度更快。总体而言，生成式人工智能对网络安全格局既有积极的贡献，也有消极的贡献。
黑匣子问题
尽管有很多优点，但用户在使用像 ChatGPT 这样的人工智能时面临的一个特殊问题是“黑匣子”。由于这个透明度问题，人们无法看到人工智能驱动的聊天机器人如何做出决定。
“LLM——像GPT-4这样的大型语言模型，ChatGPT 就是在这种模型上构建的——做出的决策会以不透明、不可靠且可能不公平的方式影响用户，例如，人们发现该系统只有在事实上，”钱德拉塞卡兰说。
“关于数据所有权以及法学硕士应如何处理这些数据的问题仍然是一个非常主观的决定，通常因司法管辖区的不同而有所不同，”他补充道。
版权和 ChatGPT
一些作者起诉 OpenAI，声称 ChatGPT 侵犯了他们作品的版权，因为该模型是根据互联网上提供的作者作品进行训练的。另一个例子是，《纽约时报》在 8 月份考虑就许可协议起诉 OpenAI；由于 ChatGPT 具有总结新闻文章的能力，该报试图协商 OpenAI 如何成为竞争对手。
请参阅：为什么有些艺术家讨厌人工智能生成的艺术（TechRepublic）
ChatGPT 的下一步是什么？
OpenAI 一直在扩展 ChatGPT 的功能，包括于 2023 年 11 月发布语音功能。此外，OpenAI 于 11 月 6 日发布了 GPT-4 Turbo，这是基础模型的一个版本，具有更新的知识、更多的上下文和其他增强功能。
“我们应该期望 ChatGPT 未来能够处理文本和代码之外的更多模式，”Chandrasekaran 解释道。“图像集成已经成为一个巨大的优势，我们可以期待 2024 年及以后的语音和视频功能。此外，我们应该预计 ChatGPT 在中期会采取更多自主行动，因为 OpenAI 已表示打算提供更多自主代理功能。”
围绕生成人工智能的法规在去年已经制定出来，预计将会成熟。11月26日，美、英等七国集团（G7）发布了人工智能网络安全设计安全指南。这些准则构成了第一个关于人工智能安全的国际协议，并可能影响 ChatGPT 和其他生成式人工智能聊天机器人未来的发展。
