编者按：多年来，Twitter一直标榜言论自由，但很快，愤怒、分歧、辱骂在平台蔓延，政治势力也开始利用平台谋利……现在，保证平台安全成为Twitter高管们要解决的首要问题。本文编译自FastCompany原题为““Did We Create This Monster?” How Twitter Turned Toxic”的文章。
亚尔·罗森博格（Yair Rosenberg）想捉弄一下网络平台的恶魔们。
罗森博格是犹太人新闻与文化网站Tablet Magazine的资深作家，他在对2016年美国总统大选的报道中，成为反犹太推特用户的攻击目标。尽管遭到了诽谤，但他并没有过分关注那些诽谤他的纳粹分子。“我觉得他们相当可笑，很容易就被忽视了。”他说。
但有一种特殊类型的Twitter恶魔确实狠狠咬了他一口：有一些人盗用他人照片，冒充少数族裔，然后潜入到受瞩目的谈话中，吐着毒液。他解释说：“毫无戒心的读者会看到一个看起来像正统的犹太人，或者一个穆斯林妇女说着一些冒犯性的话语。”所以他们认为，哦，穆斯林是虔诚的教徒，犹太人是有宗教信仰的，但他们是非常无礼的人。”
罗森博格决定反击。他与来自旧金山的开发者尼尔·钱德拉（Neal Chandra）合作，创建了一个名为“冒名顶替者”的Twitter智能机器人。从2016年12月开始，这个机器人将自己插入到与恶作剧账户相同的Twitter帖子中，并礼貌地揭露了“骗子们”的化妆舞会（“友情提示，这个账户是一个种族主义者，冒充犹太人来诋毁犹太人”）。
“冒名顶替者”很快就遭到了攻击——种族主义者向Twitter举报了机器人的行为。出乎意料的是，Twitter站在了种族主义者的一边：在接下来的4月份，Twitter暂停了机器人的所有行动。在反诽谤联盟的帮助下，罗森博格和钱德拉在三天后让这个决定得到扭转。但种族主义者们继续提交*扰报告，去年12月，Twitter再次将“冒名顶替者”列入黑名单。
罗森博格认为他所做的事情是维护公民权利，而不是警民主义，但他仍然不明白为什么Twitter认为这是不可接受的，他甚至从未收到Twitter的官方解释。但Twitter的这一裁决让种族主义者在技术上赢得胜利。
一.致力于做安全平台的Twitter
尽管“冒名顶替者”的故事是特例，但它也反映了长期以来困扰Twitter的更大问题：滥用、匿名化、机器人大战以及平台运营者的滞后决策。自从唐纳德•特朗普成为总统并选择Twitter作为其主要喉舌以来，这些问题只会加剧。这个平台成为世界上政治、愤怒、文化和对话的主要场所，也是#MAGA和#MeToo运动的发源地。
这一地位帮助改善了公司的命运。Twitter的日活用户数同比增长了12%，并在2月份发布了有史以来第一个季度利润报告，在过去的12个月时间里，它的股价翻了一番。尽管Twitter似乎不太可能在规模和盈利上与Facebook相匹敌，但它也没有面临失败的危险。金融分析师们偶尔会呼吁首席执行官杰克•多尔西卖掉Twitter，也有批评人士要求他关闭Twitter，这些声音看起来越来越不合潮流。
尽管Twitter的地位更加稳固，但多尔西对他的服务问题越来越直言不讳。“我们致力于让Twitter变得更安全。”该公司在2月份的致*信中承诺。在附带的投资者电话会议上，多尔西概述了一项“信息质量”计划，目的是改善服务内容和账号。Twitter的月活跃用户已经停滞在3.3亿——该公司一定程度上把其归因于对垃圾邮件的不断精简。Twitter的清理工作是在含蓄地承认，那些仍在平台上游荡的麻烦制造者正在阻碍其发展，这些麻烦制造者包括仇恨者、假新闻传播者，以及旨在影响公众舆论的阴暗的机器人大军。（Twitter并没有让多尔西或其他高管为这个故事接受采访。我们采访过的60多个消息来源，包括44名前Twitter员工，都要求匿名。）
尽管该公司近年来已经采取了重大举措，以清除不良行为者，但它并没有改变人们的印象——它并没有努力让这项服务更安全。Twitter对负面事件的反应总是让用户不满意，而不仅仅是一点神秘——它惩罚罗森博格，而不是那些种族主义者，就是一个典型的例子。“有聪明人能再创建一个只有140个字符，没有纳粹主义的新网站吗？”在Twitter去年11月推出280个字符的推文后不久，一名用户在Twitter上发了这样一条推文。
Twitter并不是唯一在其产品被恶意破坏的事实中挣扎的公司：自总统大选以来，Facebook和谷歌受到了更严格的审查，因为越来越多的信息披露他们的平台是如何操纵公民的，从剑桥分析到阴谋视频。这些公司的反应是胆小的、反应性的，甚至更糟。“这些公司没有早点解决现在暴露的问题是一种罪过，接下来他们还有很长的路要走。”民主数据公司（Data for Democracy）的创始人乔纳森·摩根说，该组织是一个由技术专家和数据专家组成的团队，负责处理政府的社会影响项目。
Twitter面临的风险尤其高，因为启用突发新闻和全球话语是其用户吸引力和商业模式的关键。它面临的挑战越来越成为世界范围级别。
Twitter是如何陷入这种困境的？为什么它现在才开始处理多年来一直困扰着这个平台的不当行为呢？“Twitter上已经不再安全了，”一位前副总裁说。“那是潘多拉的盒子，一旦它被打开，你怎么把它重新放回去呢？”
二.第一个麻烦：垃圾邮件
在Twitter的早期，当平台创始人正在寻找定位时，它的用户向他们展示了Twitter的优势。在全球社会运动者、持不同政见者、激进分子和Twitter上的告密者的激励下，自由表达成为了这家初创公司的指导原则。“让推特上的信息流动起来，”Twitter的第一任总法律顾问Alex Macgillivray说，他后来在奥巴马政府担任副首席技术官。很快，Twitter内部给自己的定位是“言论自由党派的言论自由之翼”。
这种想法被证明太过天真。一名前高管表示：“Twitter如此相信其对言论自由的承诺，以至于领导层完全误解了它是如何被劫持和武器化的。”
第一个麻烦是垃圾邮件。儿童色情、钓鱼攻击和机器人充斥着推特。当时，Twitter似乎被其他挑战分散了注意力。2010年10月，当公司任命迪克·科斯特洛为首席执行官时，他试图修复Twitter的底层基础设施——该公司已经成为其“失败鲸”服务器错误页面的同义词，该页面反映的正是其薄弱的工程基础。尽管Twitter在2011年的用户数量已经达到了1亿，但它的反垃圾邮件团队只有4名工程师。一名前高级工程师说：“垃圾邮件令人难以置信的尴尬，他们制作了一些愚蠢的最低限度的工具来对抗它。”他还记得“该死的机器人大战爆发”，因为假账户互相攻击。
Twitter前工程安全经理莱斯利·麦利(Leslie Miley)表示：“如果Twitter不为唐纳德·特朗普负责，那它就不能因“阿拉伯之春”而获誉。”[图片：Delcan & Company]
Twitter负责保护用户的信托和安全组织由25号员工德尔·哈维（Del Harvey）负责。她在硅谷有一个非典型的简历：哈维之前曾与Perverted Justice组织合作过，这是一个有争议的志愿者组织，利用网络聊天室来搜寻明显的性侵犯者，并与NBC合作制作“抓获捕食者”节目（To Catch a Predator），假扮成未成年人，引诱恋童者在电视上被捕。她缺乏传统的技术和政策经验，这使她在组织内部成为一个极端的人物，尽管她的盟友们发现她对安全问题的热情鼓舞人心。“在早期，她亲自回应了个别受影响的用户，不知疲倦地工作。”Macgillivray说，她接手了Twitter所面临的一些最复杂的问题。我们有很多事没做好，但做好的那些事有很多是出于德尔的领导能力。”
哈维认为坏的言论最终会被其他言论打败，这个观点得到了Macgillivray和其他高管的支持，也与最高法院大法官路易斯·布兰代斯在1927年的里程碑式的第一修正案的判决相呼应，该判决认为，这种补救方法总是比“强制沉默”更可取。哈维偶尔会用“Yo bitch”这个短语作为例子，有人用这个词表达谩骂，而另一些人则认为这是一个时髦的“你好”。Twitter怎么判断？思想的自由市场会解决这个问题。
到2012年，垃圾邮件正在演变成破坏性的攻击和仇恨言论。哈维小组的几位工程师建立了一些内部工具，使她的团队能够更快地删除诸如儿童色情之类的非法内容，但他们并没有准备好应对Twitter上的*扰。一位前平台工程师说：“每次你建一堵墙，总会有人要建一个更高的梯子，而且外面总有更多的人试图去操你，而不是试图阻止他们。”那一年，澳大利亚电视名人夏洛特·道森在公开反对网络暴力后，遭受了一连串的恶意推文，道森甚至试图自*，最后被送往医院抢救。接下来的夏天，英国活动人士卡洛琳·克里亚多-佩雷兹在10英镑纸币上印出了女性的形象，之后她的推特上充斥着“巨怪”，每小时能收到50次强奸威胁。
三.Twitter的毒性加重
Twitter的回应是，他们创建了一个专门的按钮，用于在推文中报告网络滥用情况，但在这个平台上，巨魔变得越来越强大。科斯特洛在内部抱怨说，“滥用经济学”是滞后的。“仅仅几秒钟就可以创建一个*扰他人的账户，但举报滥用账号需要填写一份耗时的表格。”哈维的团队认真地回顾了每条报道的推文，但他们缺乏足够多的支持人员，因此行动缓慢。多家消息人士称，她的团队花了几个月的时间来回复积压的违规罚单，这并不罕见。由于缺乏必要的语言支持，团队成员不得不依靠谷歌翻译来回答许多非英语的抱怨。用户支持代理被罚单淹没了，他们要手动评估标记的推文。如果被禁止的用户上诉，他们有时会简单地把罪犯放回平台上。“他们有些无力了，”一位与哈维密切合作的消息人士说。“直到今天，我都很震惊，Twitter在安全方面实在是太糟糕了。”
与此同时，Twitter的领导层专注于为该公司2013年11月的IPO做准备，因此它将大部分工程资源投入到监督用户增长的团队中，这是Twitter向华尔街推销的关键。哈维没有得到为Twitter的困境建立可扩展的解决方案所需的技术支持。
在此期间，Twitter平台的毒性加剧，特别是在国际市场上。在印度，有组织在平台散布歧视女性的信息；在欧洲，有组织传播反犹太人的信息；在拉丁美洲，机器人开始干预选举。巴西2014年总统竞选期间，数百人使用了宣传手段，导致一名公司高管与政府官员会面。据一名消息人士称，“几乎所有巴西众议院和参议院的议员都问，‘你在做什么关于机器人的事情？（据报道，在这段时间里，俄罗斯开始测试自己的机器人，通过虚假信息来影响公众舆论。Twitter在很大程度上容忍了平台上的自动账户；一位知情人士回忆道，该公司曾向一名机器人农场主发出了勒令停止通知函，但遭到了漠视，这是该公司对这一问题反应乏力的一个信号。）Twitter的领导层似乎对海外的呼声置若罔闻。一名前国际员工表示：“就是这样一家湾区公司。每当美国发生一件事，就是全公司范围内的悲剧，我们会说，“但这每天都在我们身上发生！”这呼应了Twitter成为硅谷短视行为的受害者的普遍不满。
直到2014年年中，网络恶魔们迫使喜剧演员罗宾·威廉姆斯的女儿塞尔达在父亲自*后关闭Twitter（她后来又恢复使用了），科斯特洛终于受够了。多名消息人士称，科斯特洛曾在自己的信息流中受到辱骂，他对哈维失去了信心。他新成立了一个部门对用户提交的滥用罚单做出回应，继续让哈维负责制定公司的信任和安全指导方针。
四.话题标签的战争
在Twitter上的对话经常会因为不同的世界观而演变为对峙。
1.#NeverAgain:佛罗里达帕克兰枪击幸存者已经证明，他们善于利用Twitter来对抗针对他们的虚假信息和*扰运动。[照片: Michael Laughlin/Sun Sentinel/TNS/Getty Images] 2.#TwitterLockOut:当Twitter宣布改变自动账户监管方式时，它强化了亲特朗普信仰，正如James O’Keefe Project Veritas曝光的那样，该公司试图扼*他们的政治观点。[照片: Chip Somodevilla/Getty Images] 3.#ReleaseTheMemo:亲特朗普媒体、俄罗斯有关的恶魔以及总统本人暗示的美国代表Devin Nunes的秘密备忘录揭露了一场水门事件规模的有关民主党人和俄罗斯人勾结的掩盖事件。[照片:Gabriella Demczuk/The New York Times/Redux] 4.# WITCH HUNT: 当2月底特朗普总统在他的一篇典型清晨推文中大喊“WITCH HUNT（政治迫害）！”时，这为Twitter带来了几个小时的欢乐时光，激发了无数来自绿野仙踪的梗以及GIF图。[照片: Cheris May/NurPhoto/Getty Images] 5.#1DayWithoutUs: 这项一年一度的英国运动旨在展示移徙者为社会所做的一切，在一定程度上是为了阻止推特上的反移民情绪，但它也被反移民情绪所劫持。[照片: Victoria Jones/AP Images] 6.#MuellerTime: 左派的俄罗斯人，比如自封的调查员路易丝·门施(Louise Mensch)喜欢使用这个标签，有时用它来传播有关罗伯特·穆勒(Robert Mueller)调查的错误信息以及相关事件。[照片: Saul Loeb/AFP/Getty Images]
很快，这些威胁又发生了变化：ISIS开始利用Twitter来煽动追随者。公司高管沉浸在自由言论的价值观中，难以做出回应。一名前高管回忆说，一旦斩首视频开始流传，就要和迪克发生激烈的争论。迪克会说，“你不能让人们在平台上被*！我们应该把这些视频清除掉！”还有一些人会说，“那如果有一个博士生发布了肯尼迪遇刺的照片呢？”他们决定允许斩首图片出现，但只在刀触到脖子之前。有两个消息来源称，Twitter指派了专门人员搜索并报告斩首内容，并且可以将其删除。“这是世界上最愚蠢的事情，”与哈维密切合作的消息人士说。“高管们已经做出了删除内容的政策决定，但他们不希望开发工具来主动执行该政策。”（Twitter已经清除了数十万与ISIS相关的账户，这是一种为平台赢得赞誉的强硬手段。）
科斯特洛对公司在解决这些问题上的微薄努力感到失望，他在2015年2月发布了一份全公司的备忘录，抱怨说他对Twitter在处理滥用问题上的“糟糕程度”感到“羞愧”。科斯特洛告诉Fast Company：“如果我能让时光倒转，我就会更早地采取行动。”他强调，所有的责任都在于当时的CEO：他自己。
五.没有简单的解决方案
“我经常听到硅谷的人在谈论虚假新闻和虚假信息时，说这些问题是我们可以解决的，”布伦丹•尼汉（Brendan Nyhan）说，他是“光线观察”（Bright Line Watch）的联合主管，该组织负责监控对民主进程的威胁。“这是错的，在这个问题很难解决，人们正在寻找一种不可能存在的解决方案。”
硅谷可能会理解这一点。去年，Facebook和YouTube分别宣布将其内容管理团队扩大到2万和1万名员工的计划。与此同时，截至2017年底，Twitter整个公司的员工总数仅为3317人，其中一小部分致力于改善“信息质量”。
然而，将大量的人手投入到这项工作中并不是一种万能药。它产生了新的问题，从个人偏见到在几秒钟内对内容进行复杂的调用。“这些评论者使用详细的规则来指导他们做出一致的决定，”哈佛大学伯克曼克莱因互联网与社会中心的教员、危险言论项目主任苏珊·本斯奇说。“这是一件很难的事情，尤其要大规模应用。”
人们会指责过于宽泛的内容清理，比如删除那些无害的、没有违反政策的内容。在帕克兰枪击事件发生后，YouTube对极端主义和枪支相关的视频进行了全网扫描，删除了特定的视频片段，包括一些不应该被删除的频道内容。一位YouTube发言人向彭博社承认，“新成员可能会错误地应用我们的一些政策，导致错误的清除。”
这种质量控制难题的严重性可以解释，为什么Twitter总会在删除用户报告的*扰信息上遭受失败——其中一些包括对死亡或强奸的影射——尽管这些信息似乎违反了它的社区标准。在一些特殊背景下，Twitter还因为采取行动处罚违反规则的推文而遭受责备：女演员罗丝·麦高恩一条批评好莱坞名人哈维•韦恩斯坦性*扰丑闻的推文，暴露了他人的电话号码，Twitter暂时关闭了罗丝的账号。一位前c级Twitter高管表示：“在很多事情上，你最终都会陷入滑坡。你总会听到有人说，‘最简单的解决方案就是怎么怎么样！’比如现在你总听到，‘为什么你不把机器人扔掉？！’好吧，但是很多合法的媒体都要使用机器人自动账号来发布头条新闻。很多看似简单的解决方案其实要复杂得多。”
六.多尔西的苦恼：要言论自由，还是安全？
在科斯特洛2015年2月的悔恨之后的第五个月，他从Twitter辞职。联合创始人杰克·多尔西取代科斯特洛担任首席执行官，他曾执掌该公司，但2008年被解雇。他同时在他的支付公司Square任同样的职位，这个公司总部位于旧金山的一个街区。多尔西是计算机科学领域的一名英语专业的学生，他对Twitter的未来有着深刻的想法，但他不能总是以一种工程师的方式表达出来。一位前高管表示：“如果你发现杰克对某个人非常清晰地表达了自己关于Twitter的观点，我会感到震惊。”他指出，多尔西使用了“金门大桥”和“烤面包机”的电源插座来描述这项服务。有一次，他在旧金山的办公室开会，他告诉员工他想要定义Twitter的使命，并继续扮演披头士的“黑鸟”，与会者在困惑的沉默中倾听。
不过，毫无疑问，他相信Twitter的关键性精神。“Twitter代表着言论自由。2015年10月，多尔西在正式接任Twitter首席执行官的第一天在Twitter上写道：“我们代表着对权力说真话。”
当多尔西的任期开始时，Twitter已经更好地处理了困扰平台的一些语言污染问题。该公司的反滥用业务已被蒂娜•巴哈特纳格（Tina Bhatnagar）接手，她是一位严肃认真的销售人员，对言论自由几乎没有耐心。巴哈特纳格极大地增加了为该公司工作的外包支持代理的数量，并能够将滥用报告的平均响应时间减少到仅仅几个小时，尽管有些人认为这个过程太过数字游戏。一位与她密切合作的消息人士说：“她更像是在说，‘就把它们挂起来’。”如果公司的大部分都是由布兰代斯法官的话引导的，巴哈特纳格代表了波特·斯图尔特关于淫秽的名言：“当我看到它的时候，我就知道了。”
这种意识形态上的分歧反映在公司的组织层级上，这使得哈维和巴哈特纳格分别在公司的不同部门——法律和工程部门——分别管理着不同的人员。“他们经常做同样的事情，但采用了截然不同的方法，这是一种疯狂的行为，”一名前高级雇员说，他觉得这两个派系之间存在着反弹。即使是那些看似在同一个团队的人也并不总是意见一致：根据三个消息来源，科林•考威尔，Twitter的公共政策副总裁，曾一度拒绝向哈维的老板、总法律顾问Vijaya Gadde(麦吉利弗雷的继任者)作报告，部分是由于他们在关于如何最好的实现言论自由这一问题上存在分歧。
争论变得越来越普遍：巴哈特纳格的团队想要暂停被发现有滥用行为的账号，结果却被Gadde和哈维否决了。“这让蒂娜发疯，”一位熟悉这一动态的消息人士说。“她会去找多尔西，多尔西要去听，在他的手机上记笔记，然后说，让我想想。但多尔西无法做出决定，他没法做到既不惹恼言论自由的人，也不让网络安全人员感到不安，所以事情永远不会得到解决。”
多尔西的支持者认为，并不是他优柔寡断，这个问题根本没有简单的答案。对多尔西的争论通常都是奇怪的边缘案例，这意味着他做出的任何决定都很难概括成广泛的例子。一位熟悉该公司面临的挑战的消息人士称：“你可以有一个完美的书面规则，但如果这个规则不适用于3.3亿用户，那这个规则跟没有一样。”
当时，多尔西还有其他的业务要求。当他再次担任首席执行官时，用户增长已经停滞，自IPO以来股价已经下跌了近70%，仅在2015年，该公司就有望亏损超过5亿美元，一些备受尊敬的员工即将离职。尽管Twitter在发布新产品方面取得了一些进展，包括Moments和它的视频功能，但它难以更新其核心体验。2016年1月，多尔西向用户暗示了Twitter长期以来的140个字符限制，但又花了22个月的时间才发布了280个字符的推文。“Twitter是一团乱麻，”莱斯利·米莉说，她在2015年底被解雇之前，负责管理安全功能的工程团队。“当你每年更换产品服务器时，你很难保持一种策略。”
Twitter并没有完全意识到2016年喜剧演员莱斯利·琼斯(Leslie Jones)所遭受攻击的开创性， Twitter上发布的一些虚假的、PS过的推文想要表明她分享内容的分裂性。[图片:Delcan & Company]
七.政治势力卷入，Twitter成怪物？
然后，美国总统大选到了。Twitter的所有缺点都将在世界舞台上被放大。Twitter的支持代理，那些审查标记内容的人，在社交媒体中最黑暗的淤泥中穿行，见证了唐纳德·特朗普开始横扫初选的最早的警告信号。“我们看到了这种根本性的转变，”当时的一个人说。歧视似乎更加明目张胆，宣传和机器人更加咄咄逼人。另一个人说：“当你把它清理掉，它会在几分钟内回来，继续支持纳粹，憎恨犹太人。”
2016年7月，巨怪们对周六夜现场和《超能敢死队》的明星莱斯利·琼斯的一次攻击，是Twitter反*扰行动的重要节点。在琼斯被种族主义和性别歧视的推文轰炸之后，多尔西与她亲自会面，向她道歉，并在内部宣布了“滥用紧急情况”。有些用户在这次行动中被禁言。它还增强了其静音和屏蔽功能，并引入了一种可选工具，用户可以过滤掉Twitter所认定的“低质量内容”。“我们的想法是，Twitter不会压制言论自由——它只是不给用户推送不想要的内容。”
但这些努力还不足以让用户免受克林顿-特朗普选举周期的“有毒”影响。在琼斯遭受攻击的过程中，假的、PS过的推文的截屏显示了琼斯在平台上传播的分裂性的东西。这种类型的虚假信息策略将成为2016年大选的标志，而Twitter也没有意识到信息战中这一新战线的力量。
在两次总统竞选中，特朗普更清楚如何利用这项服务来传播候选人的声音。当Twitter从共和党候选人那里获得大量广告交易时，左倾的员工向销售团队抱怨，他们应该停止接受特朗普的“屁话钱”。
关于Twitter平台应该允许哪些内容存在的争论仍在继续，直到秋季还未结束。去年10月，Twitter拒绝了与特朗普竞选团队达成的一项价值500万美元的协议，这个协议要求定制一套希拉里表情符号。一位知情人士说：“关于此事有一场激烈的内部辩论。杰克是矛盾的，但在最后关头作出了决定。特朗普的盟友后来抨击Twitter的政治偏见。
11月8日，当选举结果源源不断地涌入时，员工们都感到震惊，在特朗普获胜后的第二天早上，Twitter的总部就成了一个鬼城。员工们终于开始评估他们的平台不仅在特朗普的崛起中所扮演的角色，还在话语的两极分化和激进化中发挥了作用。
当时的一位产品团队负责人说，当时每个人都在问自己：“是我们创造了这个怪物吗？”
八.消除分歧，全力加强安全措施
在特朗普获胜后的几个月里，员工们普遍认为多尔西将正面回应Twitter在大选中的作用，但有十几个消息来源表明，这位CEO在内部对这个问题基本保持沉默。前安全经理莱斯利·米莉说：“在没有为唐纳德•特朗普事件承担责任的情况下，你不能因阿拉伯之春赢得赞誉。”
随着时间的推移，多尔西的想法逐渐发生变化，对于这个平台应该允许什么，他的态度不那么矛盾了。有人称这与特朗普备受争议的移民禁令和持续的右翼操纵行为有关。与此同时，Twitter开始对公众和美国国会进行更严格的审查，尽量减少虚假信息的传播。
多尔西授权工程师Ed Ho和David Gasca全面负责推特上的问题，2017年2月，内部称之为“滥用问题冲刺”阶段，Twitter推出了更激进的措施，永久封禁不良行为者，更好地过滤掉潜在的辱骂性或低质量的内容。“杰克变得有点痴迷了。”一位消息人士说，“每个部门都被要求停止手头的项目，专注于解决安全问题。”
Twitter的安全操作与公司的消费者产品部门更加紧密地结合在一起。结果也是正向的。例如，在2017年5月，在了解了用户通过Twitter的直接消息功能遭受了多少辱骂之后，负责监督该产品的团队想出了一个主意，即引入一个二级收件箱来捕捉糟糕的内容，类似于垃圾邮件文件夹。“他们正在把事情往正轨引导。”该公司的一位前经理说，“确实应该从产品和政策两个层面解决这个问题。”
在今年3月的一段视频问答中，多尔西被问到为什么没有更早从工程渠道解决信任和安全问题。这位首席执行官笑了，然后承认：“公司内部有很多历史分歧，我们没有做到尽可能的合作。我们也认识到，缺乏合作对我们造成了很大的伤害。”
即使是之前的Twitter上的受害者也已经意识到，该公司新的安全措施起到了一定的作用。“我认为Twitter的表现比他们获得的公共信用好得多。”开发商Brianna吴说。她成为了Gamergate的主要攻击目标。Gamergate是一群松散的Twitter巨怪，2014年起针对游戏行业中杰出女性进行攻击。她补充道：“我最近收到的大多数的死亡威胁都是通过Facebook或电子邮件发送给我的，因为Twitter在我还没来得及看到它们之前就已经非常有效地拦截了。”（吴女士在社交网络上的黑暗遭遇，促使她在波士顿地区获得美国众议院席位的竞选活动，网络安全是她关注的主要问题之一。）
在2014巴西总统大选中，数以百计的机器人被用来在推特上传播政治宣传，导致一名公司高管访问巴西，并会见了巴西国会议员。[图片: Delcan & Company Jenue]
自大选以来，Twitter也更加积极主动，取消了对账户的限制，并取消了对白人民族主义者和像理查德·斯宾塞这样的右翼*的核查。（蓝勾标记指的是经过验证的用户，最初是为了确认身份而设计的，但后来被解释为认可。）有三个消息来源称，多尔西本人亲自指导了其中的一些决定。
去年10月，Twitter开始在政策和功能上推出一系列改变措施，将文明和真实原则放在言论自由之上。例如，虽然谋*威胁一直是不被接受的，但现在用户在任何情况下谈到它，也会被关闭账号。Twitter还提高了在平台发布虚假信息的门槛。
这些打击措施还没有消除Twitter平台不断恶化的问题：在2月份的帕克兰大规模枪击事件后，一些幸存的学生成为了*扰的目标，据报道，与俄罗斯有关的机器人传播了支持枪支的情绪和虚假信息。不过，没有人会指责Twitter没有直面其最糟糕的元素。在最近的一次财报电话会议上，一位高盛分析师向多尔西施压，要求多尔西推进Twitter清除机器人和执行安全政策方面的进展。“现在，信息质量是Twitter的核心工作。”多尔西回应道。
九.政府介入，自我监管时代结束
在今年的情人节，参议员马克·沃纳走进华盛顿特区的一个豪华包厢，在这栋参议院办公大楼里，他给自己倒了一份维生素水，并迅速解释了为什么硅谷需要为自己在2016年大选中扮演的角色负责。作为参议院情报委员会的民主党副主席，沃纳被高调的听证会和机密简报淹没了，但这个话题对于自称是“技术人员”的华纳来说也是非常个人的，他在20世纪80年代投资了电信行业。
沃纳正在关注委员会对俄罗斯选举干预的调查，这一事件越来越多地集中在科技巨头日益增长、不受约束的权力上。他认为，这些巨头需要克服他们的“傲慢”，修复他们的平台。“最让我恼火的事情之一是，科技公司最初的反应是把我们轰走。”他在皮椅上坐起来，身体向前倾，“噢，不！这里什么也没有！不要看！只有在无情的压力下，他们才会变得干净。”
他对Twitter的评价最严厉，他说Twitter的发展比Facebook和谷歌都要大得多。“但Twitter的所有行为都滞后于Facebook。”沃纳用他沙哑的声音抱怨道，他的脸变红了。Twitter是唯一一个超出1月8日为情报委员会的调查提供结果的最后期限的公司，更糟糕的是，Twitter在几周后披露，与克里姆林宫有关联的机器人能够产生超过4.5亿次的传播印象，大大高于该公司此前报道的数字。“有借口认为，‘好吧，只是Twitter这样’，这可不是一个长期可行的答案。”
当被问及为什么这项服务不能解决一些滥用职权的问题时，一位前C级Twitter高管表示:“在很多事情上你最终都会走下坡路，有人说‘哦，简单的解决办法是X!’，事实上许多简单的解决方案都要比想象复杂得多。[照片：Delcan & Company]
沃纳表示，他已经与马克·扎克伯格直接进行了线下对话，但从未与多尔西有过对话。沃纳微笑着表示，该公司可能无法像Facebook和谷歌那样投入那么多资源，因为它有一个“更复杂、更不赚钱的商业模式”。
现在最大的问题是政府的干预可能是什么样子。沃纳提出了一些宽泛的政策处方，包括反垄断和数据隐私条例，但对Twitter及其竞争对手最具潜在影响的是让他们对平台上的内容负责。当有人提出是否可以把对科技行业的监管力度更大的欧盟作为示范时，这位参议员回答说：“我很高兴欧盟采取了行动，他们比我们更大胆。”
如果美国政府确实开始在监督社交网络方面发挥更积极的作用，它将产生一些欧洲正努力解决的令人恼火的问题。例如，1月1日，德国开始执行一项简称为“NetzDG”的法律，它要求大型社交网络在接到通知后的24小时内删除违反该国现行言论法的材料，而不是对仇恨言论施加新的限制，这些法律比美国的同类法律要严格得多。全球公共政策研究所驻柏林的项目经理Mirko Hohmann说：“在普通法庭上，这个过程要花几个月的时间，现在是由社交媒体公司在短短几分钟内做出的。”
他指出，Twitter暂时关闭了一家德国幽默杂志的账户，原因是它在推特上发布了一篇讽刺文章，讽刺的是极右翼政党的*比阿特克斯·冯·斯托克的声音。霍曼说：“没有哪个法院会判定这些推文是非法的，但在压力之下，Twitter这么做了。”（该公司甚至删除了NetzDG的一位成员海科·马斯的一条旧推文，因为他称另一位政客为“白痴”。）
在美国马里兰州、纽约州和华盛顿州的议员们已经在努力规范社交网络上的政治广告，而不是等待联邦政府的行动或国际指导。正如沃纳所言，硅谷自我监管的时代已经结束。
十.未来，Twitter将采取何种行动？
无论联邦政府是否介入，加强大型社交网络解决网络暴力问题，都将涉及到尚未出现的解决方案。大西洋理事会数字取证研究实验室的副主任格雷厄姆·布鲁基说：“如果有一根魔杖可以用来解决这个问题，挥动魔杖就能拥有大量的资源和专业知识，那么他们绝对会这么做。”
不过，Twitter可以做很多事情来保护自己的平台。使用技术来识别邪恶的机器人是一个棘手的问题，但Twitter可以将所有的自动账户贴上这样的标签，这不会妨碍合法的订阅，但会遏制俄罗斯机器人成为特朗普的支持者。
“问题不在于Twitter上有自动化账号。”民主数据政策主管、人道主义技术中心的创始顾问Renee DiResta说。“问题是，这些自动账户被当作真实的人，它们的行为就像真人一样，操纵着其他人们。”
Twitter还可以通过让人们更容易看到和易于理解的方式来阻止人们创建令人反感的内容。苏珊·本斯奇的危险言论项目被纳入Twitter信任与安全委员会议程。她说，她恳求高管们提高“Twitter规则”政策的可见性，这些政策概述了你在这项服务上不能说的内容。“他们说没有人读规则，确实如此，也没有人阅读宪法，但这并不意味着我们不应该有公民课程，并试图让人们去读它。”她回忆道。
Twitter还可以通过将透明度作为一个时髦词汇来建立信任，与用户和营销人员分享更多关于Twitter如何工作以及与外部研究人员合作的信息。与其他社交媒体巨头相比，它的商业模式较少依赖于使用秘密算法将用户的数据和行为货币化，这点让Twitter可以更开放，这也是其他平台巨头们无法做到的一点。“人们使用Twitter的方式，让人们更容易看到事物和理解事物，在YouTube上实现这点很困难，在Facebook上则非常困难。”出版贸易集团Digital Content Next的首席执行官杰森·金特说。
为了实现这个更具协作性的目标，并受到非营利组织Cortico和麻省理工学院社会机器实验室的研究的启发，Twitter在3月份宣布，它将尝试衡量自身“会话系统的健康”。该公司还邀请其他组织参与这一进程，Twitter表示将在7月公布其首批合作伙伴。
这一努力很吸引人，但众包倡议听起来与Twitter的信任和安全委员会惊人地相似。自2016年2月成立以来，这个委员会的使命一直是倡导人士、学者和草根组织合力为该公司的安全措施提供建议。
许多在Twitter工作的人想要的不是一个度量标准，而是一个自我批评。据一位与该公司领导层讨论过这些问题的消息人士称，“他们对每件事的反应基本上都是，‘看，我们听到了你的声音，但你不能把发生的事情归咎于Twitter。因为就算这件事不在Twitter上发生，也会在另一种媒介上发生。’高管们不承认我们有责任，这也是我辞职的原因之一。”
就连参议员沃纳也认为，在他的同僚们考虑立法之前，科技公司的首席执行官们应该去国会参加一次听证会。“我不是指多尔西，我说的是Facebook的扎克伯格，谷歌的谢尔盖·布林和拉里·佩奇，不要派你的律师去，不要派政策人员去。他们欠美国公众一个解释。”
多尔西在推特上发布消息称，“不得不承认，我们没有完全预测或理解到对现实世界的负面影响”，随后，Twitter推出了新的健康指标计划，美国公众似乎终于得到了一个解释。他接着说：“我们为人们如何利用我们的平台以及无法快速解决这个问题而感到羞愧，我们的大部分时间都在努力根据我们的条款删除内容，而不是建立一个系统框架来鼓励更健康的辩论、对话和批判性思维。这是我们现在需要的方法。”
一周后，在Twitter上的一段47分钟的视频直播中，多尔西继续承认过去的失误。“我们总会继续犯错误，过去，围绕着这个平台上的安全、滥用、错误信息和操纵等一系列话题，我都犯了错误。”
直播的重点是谈论测量话语，多尔西试图回答用户提出的问题。但是，屏幕上滚动的数百条实时评论显示了未来即将面临的巨大挑战。随着视频的继续，屏幕滚动信息流中充斥着反犹太和恐同的侮辱性话语，还有一些担心Twitter会对他们禁言的刻薄抱怨，还有人为Twitter禁止种族主义而发出哀怨的呼声。多尔西抚摸着他的胡子，眯着眼睛看着他的手机，看着他在试图寻找美好东西时糟糕的信息流。
原文链接：https://www.fastcompany.com/40547818/did-we-create-this-monster-how-twitter-turned-toxic
编译组出品。编辑：郝鹏程
