社交媒体之战的下一章将分裂现实、互联网和你的思想
Splinternet（根据 Grok 定义）：
分裂网络 (Splinternet) 是指互联网因政治、文化、技术或商业原因分裂成多个独立的、通常是孤立的网络。它描述了互联网不再是一个统一的全球系统，而是被划分成不同的“碎片”或子网络的场景。这种情况可能是由于政府审查制度（例如中国的防火长城）、区域性法规（例如欧盟的《通用数据保护条例》）或科技公司创建围墙花园（例如苹果的生态系统）造成的。
该术语强调了这些分歧如何限制普遍获取信息并创建数字边界，通常反映了现实世界的地缘政治紧张局势或在隐私、安全和言论自由方面的不同价值观。
埃隆问了一个关键问题。这不是黑色幽默或讽刺，而是当今的现实：
现代的机器人农场是什么样的？
《 Fast Company 》杂志最近发表了一篇关于机器人农场的文章，详细描述了这些自动化系统如何日益复杂，并能够操纵社交媒体和其他在线平台。据《Fast Company》报道，机器人农场被用来部署数千个模仿人类行为的机器人，通常用于误导、欺诈或窃取用户信息。这些机器人农场可以创建虚假的社交媒体互动来推广虚假的叙事，使想法看起来比实际更受欢迎。
政府、金融界人士和娱乐圈人士利用机器人农场在全球范围内放大特定的叙事。例如，机器人农场可以用来制造一种假象，让相当多的人对某个特定话题（例如波动的股票或名人八卦）感到兴奋或不安，从而欺骗社交媒体算法，让这些帖子被更广泛的受众看到。
链接如下：机器人农场入侵社交媒体，劫持大众情绪
欢迎来到社交媒体精神控制的世界。通过用虚假言论放大言论自由，你可以麻痹大脑，让你相信一切。放下你那幸福的无知，吞下红色药丸。你即将发现你的思维是如何被现代欺骗大师操控的。
信息灌输到我们心灵的方式已经自动化了。谎言是过去的问题。今天的问题是利用机器人农场来欺骗社交媒体算法，让人们相信这些谎言是真的。谎言重复多次就会变成真理。
几个月前，我有幸与蒂姆·普尔录制了一期播客，内容涵盖了MAHA、健康、种子油、谷物和大豆中的干燥剂污染物（例如草甘膦（“农达”））以及一系列相关问题。但在我看来，那次访问最重要的部分并非直播内容，而是随后漫长的幕后对话。别忘了，去年秋天，吉尔和我发表了一篇可能是迄今为止对新冠危机期间心理战、审查和宣传技术运用最权威的分析文章。
因此，我对这个话题有所了解，并定期接受采访，了解目前“假新闻”、制药公司、美国政府、世界卫生组织、联合国和其他各种参与者正在部署的心理战技术的方方面面。
但蒂姆的洞见让我对吉尔和我书中未涉及的当前形势有了更深入的了解。尤其是，他提供了关于“小房间”——也被称为言论自由，但并非触及范围（这显然是一项核心的“X”算法强制执行的政策）——的影响和使用的绝佳案例。但真正拓展我认知的是他对人工智能机器人如何部署的讨论。
为了阐明自己的观点，他首先举了一位曾与《每日电讯报》有关联的网红的例子。为了保护无辜者并降低诽谤诉讼的风险，我将隐去其姓名。这位网红曾发布过一些内容，对以色列针对2023年10月7日哈马斯入侵的政策和行动进行了温和到适度的批评。基本上，这位网红的言论超越了当时允许公众就该话题进行讨论的“奥弗顿之窗”。社交媒体上的反响迅速，而且非常积极。成千上万的点赞和新粉丝涌入。
于是，这位网红感觉自己被触动了，于是发表了更加尖锐的言论。这些观点再次在发布这些观点的网站上引发了积极的反响。在不断增长的新粉丝的激励下，这位网红受到了鼓舞和鼓舞，继续发声。然而，在这样做的过程中，这位网红却跨越了被许多人称为“仇恨言论”的界限。结果，包括《每日电讯报》和其他保守派媒体网站在内的大范围平台被下架，并遭到了普遍的审查。
事情是这样的——那些怂恿这位网红的新“粉丝”大多并非真人。他们是机器人。 这些机器人大军的成立，就是为了通过宣传和推进大多数人认为的仇恨言论，让这位网红自我贬低。 任务完成了，又一位颇具影响力的保守派人士陨落了。
你能理解吗？
回顾《Fast Company》的这篇四级警报文章。
机器人农场的放大效应被用来让社交媒体上的想法看起来比实际更受欢迎。机器人农场由一台计算机控制的成千上万部智能手机组成。在类似数据中心的设施中，成堆的手机使用虚假的社交媒体账户和移动应用程序进行分享和互动。机器人农场会广播协调一致的点赞、评论和分享，让很多人看起来对某件事情感到兴奋或沮丧，比如波动的股票、全球闹剧或名人八卦——尽管事实并非如此。
Meta 称之为“协同虚假行为”。它欺骗社交网络的算法，让系统误以为帖子正在流行，从而将帖子展示给更多人。由于虚假账号通过了图灵测试，因此它们逃脱了检测。
….
“区分真实活动和虚假活动非常困难，” Narravance首席执行官亚当·索恩 (Adam Sohn) 表示。Narravance 是一家社交媒体威胁情报公司，其客户遍布各大社交网络。“这对我们来说很难，但我们在这方面是全球顶尖的公司之一。”
如果世界上领先的社交媒体情报公司之一都难以区分真实账户和机器人（尤其是人工智能机器人），那么如果您认为您可以轻松分辨出差异，那您就是在自欺欺人。
《Fast Company》在文章中分享了大萧条时期历史上一个令人着迷的故事，其中涉及肯尼迪家族的财富，而我原本以为这些财富只是来自禁酒令时期的私酒贩卖。
扭曲公众认知并非新鲜事。但在过去，这需要高度人为干预。就在1929年股市崩盘的几个月前，肯尼迪的父亲约瑟夫·P·肯尼迪通过操纵资本市场致富。他加入了一个由富有投资者组成的秘密交易池，该池利用协同购买和媒体炒作，人为地将美国广播公司（Radio Corp. of America）的股价推高至天文数字。
此后，肯尼迪和他的富豪朋友们抛售了手中的RCA股票，获利颇丰，股价暴跌，其他人也都赔得一干二净。股市崩盘后，富兰克林·罗斯福总统任命肯尼迪为美国证券交易委员会首任主席，让狐狸来管鸡舍。
如今，股市操纵者利用机器人农场在Reddit、Discord和X上大量传播关于“热门”股票的虚假帖子。机器人网络的目标信息往往包含股票代码和一些惯用的俚语，例如“加油”、“逢低买入”、“立即加仓”和“继续加仓”。这些骗局的幕后黑手自称是金融影响者，他们通过协调大量的虚拟人物、傀儡和机器人来炒作交易清淡的股票，以便在股价上涨后进行剥头皮交易，从而赚取数百万美元的利润。
Narravance 首席财务官亚当·瓦瑟曼 (Adam Wasserman) 表示：“我们发现很多情况下根本没有新闻报道。没有任何技术指标。只有机器人发布诸如‘这只股票要涨到天价’和‘最棒的股票，我要从我的 401k 账户里提款了’之类的信息。但他们不是真人。全是假的。”
再读一遍最后一句话。“他们不是真人。都是假的。”
各位社交媒体和企业媒体的消费者们，请当心。消化这些信息，后果自负。你在那里遇到的现实都是人为制造的。有些人可能自诩为有影响力的人物，但实际上，所有人都是受害者。真相和现实的构成本身就是受害者。而人工智能驱动的机器人如今正成为编造谎言的主要工具。
如果没有可靠的信息，我们的想法很可能不如我们的感受重要。正因如此，我们正从批判性思维和基于证据的推理占据核心地位的科学时代倒退到类似爱德华时代的时代，而后者更受情感推理和对权威的尊重所驱动。
Twitter 引入微博时，带来了解放。我们都认为它是知识放大器。我们目睹它推动了席卷中东和北非的“阿拉伯之春”民主运动，并在密苏里州弗格森激起了全国对种族不公的愤怒，为“黑人的命也是命”运动埋下了种子。
当 Twitter 创始人埃文·威廉姆斯和杰克·多西以为自己正在构建一个政治和社会行动的平台时，他们的信任与安全团队却被各种谩骂淹没。“就好像他们从来没读过《蝇王》似的。不学文学或历史的人根本不知道会发生什么，”科技记者卡拉·斯威舍在CNN 关于 Twitter 的纪录片《 Breaking the Bird》中说道。
获得最多点赞、评论和分享的内容都会被放大。那些充满情感的帖子，能够吸引最多的参与，会被推到新闻推送的顶部。激怒参与是一种策略。“社交媒体操纵已经变得非常复杂，”纪录片《十月八日》（October 8）的导演兼制片人温迪·萨克斯（Wendy Sachs）说道。这部纪录片讲述了10月7日哈马斯袭击以色列后第二天爆发的校园抗议活动。“它是由那些试图分裂美国人民的外国政府出钱资助的。”
恶意攻击者通过建立机器人程序来制造病毒式传播，这些机器人程序会在社区内潜伏数月甚至数年，然后才会被激活。这些机器人程序会获得个人资料照片和个人简介。其他伎俩包括：将机器人活动错开到当地时区进行，使用美国设备指纹识别技术（例如将智能手机的内部时钟设置为虚拟“用户”居住地的时区），以及将手机语言设置为英语。
利用人工智能驱动的、兴趣爱好（例如加密货币或狗）的角色，机器人将被设置为关注真实的美国人，并与其他机器人进行交叉互动，以建立可信度。这是一个被称为“社交图谱工程”的概念，它涉及渗透到符合某些偏见（例如左翼或右翼政治）的广泛兴趣社群。
….
“机器人账户处于休眠状态，到了一定时间点，它们就会被唤醒，开始同步发帖，这正是我们观察到的它们实际做的事情，”大西洋理事会数字取证研究实验室的研究员瓦伦丁·沙特莱 (Valentin Châtelet) 说道。“它们会点赞同一篇帖子，以人为地提高其参与度。”
机器人处理程序构建的工作流程具有足够的随机性，使其看起来自然流畅。他们设置机器人随机转发或评论带有特定关键词或主题标签的热门帖子，然后算法会根据这些关键词或主题标签，将机器人的主页动态个性化，添加类似的帖子。这样，机器人就可以在主页动态上发表评论，保持话题性，并更深入地融入社区。
这种工作流程虽然重复，但社交媒体平台的持续更新使机器人活动看起来自然流畅。由于社交媒体平台频繁更新，编程机器人的活动显得自然流畅。
软件机器人会发布垃圾邮件，也称为复制粘贴，即一段被反复复制粘贴的文本。但“机器人农民”们利用人工智能创作独特的个性化帖子和评论。通过将 ChatGPT、Gemini 和 Claude 等平台集成到 Make.com 等可视化流程构建平台中，机器人可以使用高级逻辑和条件路径进行编程，并利用大型语言模型进行深度集成，使其听起来像一位来自西北部的 35 岁自由主义教师，或一位来自达科他州的“让美国再次伟大”汽车修理工。
人工智能图像创作的发展速度远远超过了社交网络算法的进步速度。“社交媒体算法的进化速度还不足以超越机器人和人工智能，”拥有两个计算机科学高级学位、曾在喷气推进实验室（JPL）和苹果公司工作、目前在 Narravance 领导机器学习的研究员 Pratik Ratadiya 说道。“所以，你会看到一堆账户、网红和政府官员，他们很容易就知道如何钻系统的空子。在猫捉老鼠的游戏中，老鼠总是赢。”
以下是之前在《每日来电》中捕获我们这位影响者的陷阱：
2023年10月7日，哈马斯对以色列发动致命恐怖袭击之际，一场由俄罗斯和伊朗机器人网络协同运作的虚假信息运动在社交媒体上铺天盖地地散布虚假信息，声称此次袭击是内部人员所为。X平台上用希伯来语发布的诸如“军队里有叛徒”和“不要相信你的指挥官”之类的帖子，被机器人账户的转发、评论和点赞淹没。
除了互联网上自发的亲巴勒斯坦情绪外，俄罗斯和伊朗的机器人农场还散布虚假信息，加剧西方国家的分裂。他们的目标是挑起自由派与保守派的对立。他们夸大哈马斯将冲突定性为民权问题的说法，而不是该恐怖组织的真正目的——即摧毁以色列国、扩张伊斯兰教法和伊斯兰原教旨主义。俄罗斯和伊朗参与者精心挑选的社交媒体帖子，往往将巴勒斯坦人完全描绘成受害者，宣扬简单化的受害者-施害者或殖民者-原住民叙事——这些虚假的二元对立被放大，目的不是为了提供信息，而是为了从内部煽动和分裂民主社会。
机器人农场的扩张效应无法消除。同样的欺骗性势力利用机器人农场来推广关于《纽约时报》一篇报道的帖子，该报道错误地将袭击加沙一家医院的炸弹事件归咎于以色列，据报道该事件造成500名巴勒斯坦人死亡。后来发现，爆炸实际上是由圣战分子发射的火箭弹误射造成的。《纽约时报》两次更新了标题。但你无法将欺骗性的大众影响力重新封存。
就加沙战争而言，机器人农场或许并非唯一罪魁祸首。“推特算法相当邪恶，”大西洋理事会加沙专栏作家、分析师兼高级研究员艾哈迈德·福阿德·阿尔哈提卜 (Ahmed Fouad Alkhatib) 表示。“我真的认为它优化了仇恨和分裂，以提升参与度和收入。”或许推特只是更利于机器人农场的发展？
就亲巴勒斯坦的校园抗议活动而言，它们在以色列方面公布哈马斯袭击造成的死亡人数之前就爆发了。怎么会爆发得这么快？当时，激进的伊斯兰恐怖分子仍在以色列境内逍遥法外。电影《十月八日》探讨了在自大屠杀以来最大规模的犹太人大屠杀发生后不到24小时，大学校园就转而反对以色列。
“我们以为网上看到的大多数内容都是真实的。但实际上，我们看到的大多数内容都是骗人的，”Xpoz 董事长兼 AI 创业者 Ori Shaashua 说道，他创办了多家科技公司。Shaashua 的团队分析了机器人、虚拟人物和真人的比例。“418 个社交媒体账户在两小时内就产生了 300 万次浏览量，这根本说不通，”Shaashua 说。
结案陈词
不仅仅是机器人通过大规模放大来玩弄算法。算法也在玩弄我们。我们正被社交媒体潜移默化地操纵。我们心知肚明。但我们仍在继续浏览。
《快公司》，埃里克·施瓦兹曼
找到线索。你自认为在社交媒体和“假新闻”媒体上体验到的“现实”是虚构的。你被各种各样的人操纵着，你认为的“真相”根本不是真相。
警惕那些试图操控你情绪的刺耳声音。即使是那些你认为站在你这边的人。其中许多是由那些试图操纵你的行为和观点的公司“赞助”的。
在外面要小心，忠于自己的灵魂。它或许是唯一阻碍你思考能力和那些被如此积极地鼓吹、试图让你屈服于他人意志的思想和情感的东西。
永远不要忘记，在第五代战争中，争夺的不再是领土。战场是争夺思想控制权。在一场成功的第五代战争中，受影响者不应该能够辨别出是谁在操纵他们。
