最近几个月，关于生成式AI的危险的文章很多，但我所看到的一切都归结为三个简单的论点，没有一个能反映我看到的最大风险。在深入探讨生成式人工智能的这一隐患之前，总结一下最近流传的常见警告会很有帮助：
工作风险：生成式人工智能现在可以生产从艺术品和论文到科学报告的人类水平的工作产品。这将极大地影响就业市场，但我认为这是一个可控的风险，因为工作定义适应了人工智能的力量。这将是一段时期的痛苦，但与前几代人如何适应其他节省工作的效率没有什么不同。
虚假内容的风险：生成式 AI 现在可以大规模创建具有人类品质的人工制品，包括虚假和误导性的文章、论文、论文和视频。错误信息并不是一个新问题，但生成式 AI 将允许它以前所未有的水平大量生产。这是一个重大风险，但可控。这是因为可以通过 (a) 强制水印技术在创建时识别 AI 内容，或 (b) 通过部署基于 AI 的反制措施来识别假内容，这些反制措施经过培训可在事后识别 AI 内容。
有感知力的机器的风险：许多研究人员担心，人工智能系统会扩展到发展出“自己的意志”的水平，并会采取与人类利益相冲突的行动，甚至威胁到人类的生存。我认为这是一个真正的长期风险。事实上，几年前我写了一本名为“到达思维”的“成人图画书” ，以简单的方式探讨了这种危险。不过，我不认为如果不对技术进行重大结构改进，当前的人工智能系统将不会自发地变得有感知力。因此，虽然这是业界需要关注的真正危险，但这并不是我所看到的最紧迫的风险。
那么，对于生成式人工智能的兴起，我最担心的是什么？
在我看来，大多数安全专家（包括政策制定者）犯错的地方在于，他们主要将生成式人工智能视为大规模创建传统内容的工具。虽然该技术非常擅长制作文章、图像和视频，但更重要的问题是，生成式人工智能将释放出一种全新的媒体形式，这种媒体形式高度个性化、完全互动，并且可能比我们的任何形式的目标内容更具操纵性。已经面对了。
欢迎来到交互式生成媒体时代
生成式 AI 最危险的特征不是它可以大规模制作假文章和视频，而是它可以生成针对个人用户定制的交互式和自适应内容，以最大限度地发挥说服力。在这种情况下，交互式 生成媒体可以定义为实时创建或修改的有针对性的宣传材料，以根据有关接收用户的个人数据最大化影响目标。这会将“有针对性的影响运动”从针对广泛人口群体的铅弹转变为可以对个人进行归零以获得最佳效果的热追踪导弹。如下所述，这种新的媒体形式可能有两种强大的形式，“有针对性的生成广告”和“有针对性的对话影响”。
有针对性的生成广告是使用图像、视频和其他形式的信息内容，其外观和感觉类似于传统广告，但为个人用户实时个性化。这些广告将由生成式 AI 系统根据第三方赞助商提供的影响力目标结合针对特定目标用户访问的个人数据即时创建。个人数据可能包括用户的年龄、性别和教育水平，以及他们的兴趣、价值观、审美敏感性、购买倾向、政治派别和文化偏见。为响应影响目标和目标数据，生成式 AI 将自定义布局、特色图片和促销信息，以最大限度地提高对该用户的影响力。包括颜色、字体和标点符号在内的一切都可以根据图像中显示的任何人的年龄、种族和服装风格进行个性化设置。您会看到城市场景或乡村场景的视频片段吗？它会在秋季或春季设置吗？您会看到跑车或家用货车的图像吗？每个细节都可以通过生成式 AI 实时定制，以最大限度地提高对您个人的微妙影响。
由于技术平台可以跟踪用户参与度，随着时间的推移，系统将了解哪种策略最适合你，发现最能吸引你注意力的头发颜色和面部表情。
如果这看起来像科幻小说，请考虑一下：Meta和谷歌最近都宣布了在创建在线广告时使用生成式人工智能的计划。如果这些策略为赞助商带来更多点击，它们将成为标准做法，一场军备竞赛将接踵而至，所有主要平台都竞相使用生成人工智能以最有效的方式定制宣传内容。
这让我想到了有针对性的 对话影响力，这是一种生成技术，通过交互式对话而不是传统的文档或视频来 传达影响力目标。对话将通过聊天机器人（如 ChatGPT 和 Bard）或通过类似大型语言模型 (LLM)支持的基于语音的系统进行。用户在一天中会多次遇到这些“会话代理”，因为第三方开发人员会使用 API 将 LLM 集成到他们的网站、应用程序和交互式数字助理中。
例如，您可能会访问一个网站以查找最新的天气预报，与AI 代理进行对话以请求信息。在此过程中，您可能会成为对话影响的目标——将微妙的信息融入到具有促销目标的对话中。
随着对话计算在我们的生活中变得司空见惯，对话影响的风险将大大增加，因为付费赞助商可能会在对话中注入我们甚至可能没有注意到的消息。与定向生成广告一样，赞助商要求的消息传递目标将与目标用户的个人数据结合使用，以优化影响。
数据可能包括用户的年龄、性别和教育水平，结合个人兴趣、爱好、价值观等，从而实现旨在以最佳方式吸引特定人的实时生成对话。
为什么要使用对话影响力？
如果您曾经担任过销售人员，您可能知道说服客户的最佳方式不是递给他们宣传册，而是与他们进行面对面的对话，这样您就可以向他们推销产品，听他们的保留意见并根据需要调整您的论点。这是一个推销和调整的循环过程，可以“说服他们”购买。虽然这在过去是一项纯粹的人类技能，但生成式人工智能现在可以执行这些步骤，而且可以利用更高的技能和更深入的知识。
虽然人类销售人员只有一个角色，但这些 AI 代理将是数字变色龙，可以采用任何说话风格，从书呆子或平易近人到温文尔雅或时髦，并且可以采用任何销售策略，从与客户交朋友到利用他们对错过的恐惧出去。而且由于这些 AI 代理将拥有个人数据，他们可以提及合适的音乐艺术家或运动队，让您轻松进行友好对话。
此外，技术平台可以记录之前的对话如何说服你，了解哪些策略对你个人最有效。你会回应逻辑诉求还是情感争论？您是追求最大的便宜还是最高的品质？您是否被时间紧迫的折扣或免费附加服务所左右？平台将很快学会动用你的所有力量。
当然，对社会的最大威胁不是卖给你一条裤子的优化能力。真正的危险是，同样的技术将被用来推动宣传和错误信息，让你陷入错误的信仰或极端的意识形态，否则你可能会拒绝。例如，可以指导对话代理来说服您，绝对安全的药物是危害社会的危险阴谋。而且由于 AI 代理将可以访问充满信息的互联网，因此他们可以以甚至会压倒最有知识的人的方式挑选证据。
这造成了一种不对称的权力平衡，通常被称为AI 操纵问题，在这种情况下，我们人类处于极端劣势，与非常擅长吸引我们的人工代理交谈，而我们没有能力“阅读”实体的真实意图我们正在和.除非受到监管，否则有针对性的生成广告和有针对性的对话影响将成为强大的说服形式，在这种形式中，用户会被不透明的数字变色龙所击败，它不会透露其思维过程的洞察力，而是拥有关于我们个人喜好、需求和倾向的大量数据，并且可以获得无限的信息来为其论点提供支持。
出于这些原因，我敦促监管机构、政策制定者和行业领导者关注生成人工智能，将其作为一种互动、自适应、个性化和可大规模部署的新型媒体。如果没有有意义的保护，消费者可能会遭受从微妙的胁迫到公然操纵的掠夺性做法。
Louis Rosenberg博士， 是 VR、AR 和 AI 领域的早期先驱，也是 Immersion Corporation（IMMR：Nasdaq）、Microscribe 3D、Outland Research 和 Unanimous AI 的创始人。
暂无评论内容