Bluesky发现,成长伴随着成长的烦恼——还有机器人

自美国总统大选以来,Bluesky的用户群激增,原因是一些人寻求从埃隆·马斯克的X中寻求庇护,他们认为,鉴于其所有者对当选总统唐纳德·特朗普的支持,X越来越偏右,或者想要替代Meta的Threads及其算法。

该平台脱出了当时名为Twitter的公司,由其前首席执行官杰克·多尔西(Jack Dorsey)倡导。其去中心化的社交网络方式最终。鉴于两家公司已经分道扬镳,这种情况不太可能发生。但Bluesky的增长轨迹——用户基数自去年10月以来增长了一倍多——可能使其成为其他社交平台的有力竞争对手。

但成长伴随着成长的烦恼。不仅是人类用户涌向蓝天,还有机器人,包括那些旨在制造党派分歧或将用户引导到垃圾网站的机器人。

飞速增长的用户群——现在已经超越了——对一个相对年轻的平台来说是最大的考验,这个平台标榜自己是一个社交媒体的替代品,没有困扰其竞争对手的问题。研究公司Similarweb的数据显示,去年11月,Bluesky在iOS和Android平台上新增了760万月活跃应用用户,较去年10月增长了295.4%。同期,桌面和移动网站访问量为5,620万次,较10月份增长189%。

除了美国大选,Bluesky在X的时候也得到了提振。

东北大学(Northeastern University)计算机科学助理教授、Issue One’s Council for Responsible Social Media成员劳拉·埃德尔森(Laura Edelson)说,“他们获得了如此高的关注度,他们已经越过了门槛,让人们在这个平台上大量投放垃圾邮件是值得的。”“但他们没有现金流,也没有大型平台所具备的成熟团队,所以他们必须非常非常快地完成这一切。”

为了让人数不多的员工保持增长,Bluesky最初是一个只接受邀请的空间,直到今年2月才向公众开放。这段时间给了网站时间来建立审核工具和其他独特的功能,比如提供主题提要列表的“入门包”。Meta最近宣布它正在测试一个类似的功能。

康奈尔大学(Cornell University)教授、错误信息研究专家克莱尔·沃德尔(Claire Wardle)说,与Meta的平台或X等更大的公司相比,蓝天拥有“完全不同的”价值体系。这包括让用户对自己的体验有更多的控制权。

今年3月,“第一代社交媒体平台连接了世界,但最终却把权力巩固在了少数公司及其领导人手中。”“我们的在线体验不必依赖于亿万富翁单方面决定我们所看到的内容。在像蓝天这样开放的社交网络上,你可以为自己塑造体验。”

正是因为这种心态,蓝天获得了争强好胜的劣势地位,吸引了那些厌倦了大公司的用户。

沃德尔说:“人们认为这将是一种不同类型的社交网络。“但事实是,当一个地方有很多人,有很多眼球,这意味着使用机器人来创造符合他们观点的信息符合其他人的利益。”

几乎没有数据可以帮助量化蓝天上假冒账户、人工智能驱动的网络和其他潜在有害内容的增加。但最近几周,用户开始报告大量明显的人工智能机器人跟踪他们,或者在回复中似乎是自动的。

Bluesky用户、荷兰博士生利昂·卡森斯(Lion Cassens)偶然发现了一个这样的网络——一组德语账户,它们有着相似的个人简介和人工智能生成的头像,并在三家德国报纸的回复中发布。

“我注意到德国报纸《Die Ziet》的一篇新闻帖子下有一些奇怪的回复,”他在给美联社(the Associated Press)的电子邮件中说。“我非常信任Bluesky的审核机制,特别是与裁员后的Twitter相比,以及马斯克对言论自由的更激进立场。但人工智能机器人是一个巨大的挑战,因为它们只会不断改进。我希望社交媒体也能跟上这一趋势。”

卡森斯说,到目前为止,这些机器人的信息相对无害,但他担心它们将来会被重新利用来误导人们。

也有迹象表明,外国的虚假信息叙事已经进入蓝天。虚假信息研究组织Alethea指出,在俄罗斯电报频道上流传的一条转发量很低的帖子分享了有关ABC新闻的虚假说法。

山寨账户是另一个挑战。11月下旬,康奈尔科技大学(Cornell Tech)安全、信任和安全倡议(Security, Trust and Safety Initiative)主任亚历克西奥斯•曼扎利斯(Alexios Mantzarlis)发现,在Bluesky上关注度最高的100个人中,有44%的人至少有一个重复账户冒充他们。两周后,Mantzarlis说Bluesky已经删除了他最初发现的三分之二的重复账户,这表明该网站已经意识到这个问题并试图解决它。

Bluesky本月早些时候表示,为了跟上不断增长的用户群,它已将审核团队扩大了四倍。该公司还宣布,它已经引入了一个新的系统来检测假冒,并正在努力改进其社区指南,以提供更多允许的细节。由于网站的构建方式,用户还可以选择订阅第三方“标签”,通过给账户贴上警告和上下文标签来外包内容审核。

该公司没有回应就本文置评的多次请求。

无党派非营利机构OSET研究所(OSET Institute)的董事会成员、曾领导Twitter公民诚信团队的爱德华·佩雷斯(Edward Perez)说,尽管蓝天面临的挑战还没有达到其他平台所面临的规模,但它正处于“十字路口”。

佩雷斯说:“不管蓝天喜欢与否,它正在被拉进现实世界。”他指出,如果希望继续增长,它需要迅速确定威胁的优先级,并努力减轻这些威胁。

也就是说,在未来的几个月甚至几年里,虚假信息和机器人不会是蓝天面临的唯一挑战。作为一个基于文本的社交网络,它的整个前提正在失去年轻一代的青睐。例如,皮尤研究中心最近的一项民意调查发现,只有17%的美国青少年使用X,低于2022年的23%。对于青少年和年轻人来说,TikTok、Instagram和其他以视觉为中心的平台是值得去的地方。

政治两极分化也不利于蓝天达到TikTok、Instagram甚至X的规模。

沃德尔说:“蓝天并没有试图满足所有人的所有需求。”他补充说,Facebook或Instagram“试图让所有人都开心”的时代可能已经结束。社交平台越来越多地沿着政治路线分裂,当它们不是这样的时候——看看Meta的平台——它们背后的公司就会积极地努力去淡化政治内容和新闻。

___

美联社 得到几个私人基金会的支持,以加强其对选举和民主的解释性报道。了解更多美联社的民主倡议。美联社对所有内容全权负责。