了解生成式人工智慧的优势与风险

文章重点

生成式人工智慧AI的创新带来了恐惧与乐观的双重反应。企业对于私密数据保护的担忧日益增加，尤其是在利用大型语言模型LLMs时。需在拥抱AI创新与确保数据安全之间找到平衡。看好适当选择LLMs及相应的数据安全措施。

生成式人工智慧Generative AI的创新在专家和公众中引发了恐惧和乐观情绪。对于这项技术，主要的担忧来自于其可能产生的错误结果，这可能会对特定群体造成伤害，或引发大规模的虚假信息运动。此外，科技专家和科学家们担忧AI可能会自动化以往主要依赖人类的工作和流程，并导致工作机会的消失，甚至对人类本身产生影响。

对于企业来说，来自各行各业的高管们担心员工和股东会将私人数据提供给公开的大型语言模型LLMs，这样将暴露企业最敏感的私密信息给全世界。随著像ChatGPT这类工具的快速崛起，询问AI帮助达成目标已逐渐成为自然而然的行为。然而，LLMs的效果依赖于它们的训练数据，而这些数据通常是公开可得的。为了获得公司特定的答案，使用者不得不在问题中加入公司特有的甚至是潜在的私密背景资讯。这种私密信息的使用会导致数据泄露，当这些数据发送到公共LLMs时，可能造成不必要的风险。像三星这样的公司已经遭遇过此类事件，迫使公司采取预防措施并实施新的安全政策，以控制组织内部的生成性AI使用。

AI的拒绝与拥抱

CISOs和CIOs如今必须找出如何拥抱新兴的AI创新，并利用可随时获得的专有数据，同时保持对这些数据的控制和安全，以使这些工具对他们的组织最有帮助。这一问题的回答将可能决定整个科技行业的未来。

海鸥加速器vp

在当今的科技竞争中，网络安全专家能否在那些可能利用生成式AI盗取和滥用私人数据的竞争对手中保持领先，则取决于组织是否愿意接受这项技术。拒绝AI的采用使使用者需要找到绕过这些政策的方法，从而导致出现隐形AI。

历史告诉我们，无论什么行业，只要有创新进入市场，人们就会不惜一切代价去获取它。在2000年代初，很多组织对采用WiFi持保留态度，担心这会破坏其安全努力。然而，用户希望无线设备的便利性，经常在未经IT部门批准的情况下部署无线接入点，让整个组织濒临风险。

隐形IT的兴起让我们明白，用户会找到方法利用新技术，即使没有IT的批准。因此，那些拒绝让团队与AI互动的公司，会发现员工寻找秘密途径的可能性，这会让网络威胁找到了机会来操控和妨害敏感数据，这些情况是企业无法控制和预测的。

给予员工使用生成式AI创新的机会还有其他好处：通过知识共享来民主化网络安全、代码开发和其他深度科技实践，促进团队的提升与效率；帮助人们减少繁