当前位置:网站首页 > 全部文章 > 正文

石墓阵走法以政治挂帅破解社交大数据危机|伐柯热点-伐柯Logos

发布时间: 2014-05-25 浏览: 281
以政治挂帅破解社交大数据危机|伐柯热点-伐柯Logos

戴雨潇|作文
文如水、刘智雄、戴雨潇|编辑
戴雨潇|美术
观察者|首发
日前,国家广播电视总局针对「今日头条」播出有违社会道德节目等问题,约谈了网站的负责人并责令整改[1]。随后,今日头条多个栏目停止更新,进入维护状态。上周,「今日头条」关停低俗客户端及公众号「内涵段子」。
几乎在同样的时间,媒体曝光「快手」等平台存在未成年孕妇和未成年妈妈主播。三天后,国家广播电视总局约谈了这些短视频平台负责人,要求依据《互联网视听节目服务管理规定》整改,并要求停止新增视听节目上传账户[2]。之后「快手」从各大手机厂商的安卓应用商店陆续下架。自4月13日起,有网友发现小程序「快手App」在微信中已无法检索到[3]。
针对有关部门的整改处理,「今日头条」的创办人张一鸣在4月11日凌晨发布文章《致歉和反思》,指走错了路,没贯彻好舆论导向,他愿意承担所有责任[4]。「快手」CEO宿华也于早些时候发出致歉信,向公众承认错误,宣布整改,并把道歉信挂在快手首页数天,生怕别人看不到[5]。

世上并不只有中国在对互联网平台的内容进行政治审查,在太平洋的另一端大唐医神,美国最近刚好发生了类似的事件。不久前,调查发现英国「剑桥分析公司」(Cambridge Analytica)曾盗取至少5000万脸谱(Facebook)的用户数据并利用这些数据影响了美国2016年的总统大选,引起轩然大波[6]。3月22日上午,脸谱公司创始人兼首席执行官马克 · 扎克伯格接受记者访问,就数据泄露门向公众致歉丹桂香胶囊。
美国政坛认为兹事体大,国会参议院司法委员会和商业、科学和交通委员会在4月10日联合发起了对扎克伯格的质询,有关部门认为脸谱没有在用户个人隐私的保护方面做出足够努力[7]。这场听证会罕见地有近一半参议员参加,在美国朝野引起了广泛关注。
在听证会上,扎克伯格承认自己的公司在防止假新闻传播、境外势力干预大选、仇恨言论泛滥以及用户数据被盗等诸多方面有所不足。他表示,脸书没有全面而广泛地承担起应承担的责任是一个巨大的错误,「脸书公司由我创立和运营,我理应对这一事件负责」[8]。
一、道歉一个比一个快,早知今日何必当初?
无论是中国的快手和今日头条还是美国的脸谱杨二敬,这几个社交网络平台的共同的特点是他们在业务上都十分依赖技术,但是对自己使用的技术可能带来的不良后果认识不足。他们在疯狂成长壮大的过程中有意无意地忽视了自己平台上的很多内容对庞大的用户群体所产生的巨大影响,只有在出现了较大的恶性事件并且被曝光之后才会在社会舆论和政府法规的双重逼迫下老老实实地低头认错。
快手官方在4月1日发布的公关文中称,「我们注意到有媒体报道,快手平台上存在低龄妈妈的视频内容,其中一些存在炒作倾向,造成了不良社会影响,我们向因这些视频受到影响的用户深表歉意,也感谢媒体的监督」[9],把责任全都推给了个别「存在炒作倾向」「影响恶劣」的创作者。快手这种「显得无辜、假装诚恳、往往不谈自己责任」的行为也立刻遭到了批判。白岩松在节目中总结这篇公关文的大意就是「只要您没发现,我们一切照旧,您发现了,我们马上可以采取相应措施」[10]。
今日头条的做法也很绝。年初因为传播色情低俗信息被网信办约谈之后,今日头条先是说要招聘2000个内容审核编辑,「党员优先」,然后又把招聘人数提高到了4000人,副总编辑徐一龙表示,这个数据还会继续增加,预计很快突破10000人[11]。现在想起来党,完全是病急乱投医,党组织发展的新时代接班人就是让你找来删帖的吗[12]?
相比这两家中国公司面临的危机,在资本主义的美国,脸谱公司的运气显然好得多。在美国政府「公审」扎克伯格的过程中大家发现在这些平均年龄61岁的政客里很多人对这些社交网站的运作方式不具备的基本常识。(其中竟然有个参议员问「既然脸谱是免费的,那你们靠什么盈利」这种幼稚的问题。扎克伯格沉默了数秒之后告诉他「参议院先生,我们投广告」[13]。)
由于每位政府官员只有五分钟的质询时间,很多真正和技术以及法律相关的核心问题没有办法得到充分展开[14]。在质询中,密苏里州参议员罗伊 · 布伦特(Roy Blunt, R-Mo.)问扎克伯格,公司是否会跨设备追踪用户的各种数据,即使他们没有正在刷脸谱[15]。扎克伯格的回答是不确定,要回去问问团队。密西西比州参议员罗杰 · 威克(Roger Wicker, R-Miss.)问道脸谱在用户登出之后是否会持续搜集用户数据[16]。扎克伯格也是顾左右而言他,没有给出直接回应(我可以十分肯定地告诉大家,这两个问题的答案都是 Yes)。

上面提到的三家公司在出事之后反应都很快——快手立刻宣布关闭几个「炒作」账号、今日头条说要招几千名党员删帖、扎克伯格在质询中承诺以后会「更努力」保护用户数据。这些都是扬汤止沸。他们并没有直面问题的核心——不当地运用技术。这些企业现在跑出来道歉,并不是因为他们深刻地意识到了自己对整个社会构成的重大威胁,而是因为政府要断他们的财路了。这种对技术的绝对信赖和盲目崇拜已经导致了现在世界范围内社交大数据的危机。为了破解这一危机,我们首先应该对技术的本质进行反思。
二、对技术的正反超越
在过去的几百年里,迅猛发展的技术深刻地改变了这个世界。最近出现的互联网和大数据站在了一系列技术革命的巅峰,成了我们这个时代的符号(有人把互联网和大数据技术的出现分别称作第三次和第四次工业革命)。在今天,与其说技术改变了人们的生活,不如说技术已经成为了人们生活中不可或缺的一部分。甚至对不少年轻人来说,社交网站上的活动才是生活本身,他们在乎自己在网上的形象胜过现实中的形象。各式各样的技术正在以令人感到恐怖的速度野蛮生长,而人类的思维模式和社会的组织形式却还保持着过去几千年的进化速度,人被技术远远地甩在了后面。因此,如何有效地掌控和利用人们自己所创造的技术成了眼下亟待解决的问题。
在现代技术的故乡——西方,人们对技术的态度在不同时期有巨大的差别。整体来看卡里克二世,我们认为人类的技术思想经历了从「正」到「反」最终归为「合」的黑马式演化(参考我和同事在期刊《社会中的技术》上发表的英文论文《超越正反技术乌托邦主义的对立》Transcending the opposition between techno-utopianism and techno-dystopianism)[17])。
在技术刚开始萌芽的时候,人们对这一新鲜事物充满好奇也寄予厚望。这一时期技术领域的代表思想「技术乌托邦主义」(techno-utopianism)认为科学技术可以实现物质富足、秩序合理、自由正义与社会和谐的人类乌托邦梦想[18],举例有英国哲学家弗朗西斯 · 培根的著作《新大西岛》[19]、圣西门和欧文的乌托邦社会主义(旧译:空想社会主义)实践等。

随着科技的飞速发展,技术给社会带来的负面效应逐渐显现了出来,一种与技术乌托邦主义完全相反的思想潮流便应运而生。他们认为科技发展不会给人类带来乌托邦的未来,反而会剥夺人类的自由和尊严,推动人类走向毁灭。科技的产生破坏了人与自然的关系,使人类从自然中脱离并异化,由机器所支配[17]。这一主义的代表作有英国作家赫胥黎在二十世纪初发表的小说《美丽新世界》等[20]。
西方经历了一正一反两个极端之后,才开始对技术进行较为系统性的哲学反思。存在主义者们精准地指出,技术的发展可以有多种选择途径,社会价值决定了技术效益的最大化和技术负面的最小化[17]。海德格尔在《技术的诘问》中批判技术工具论蒙蔽了技术的真正本质,「如果我们把技术当作某种中性的东西,那恰恰我们就是以最恶劣的方法听任技术摆布了;这一现在十分流行的看法,尤其使得我们对技术之本质茫然无知」[21]。
海德格尔认为现代技术的本质是不断向自然和人类「索求/挑战」(Herausfordern)的「框架」(Ge-stell),它让一切都变成以供技术来应用的资源。也就是说,人类自己所创造的技术已经开始反过来限制人类自身的解放和独立全面发展了[21]。
需要说明的是,海德格尔并不认为我们就要因此停止发展新技术。人之所以会被技术的「框架」所限制,是因为对技术本质的无知。只要我们意识到技术不是唯一认知世界的方式并深刻地认识和反思技术的本质,曹婴那么我们就能走出「框架」,进而抵消技术的危险[17]。

海德格尔《技术的诘问》
回到我国,西方科学技术直到近代才系统性地传入。清末民初的时候,我们的思想家在洋人的坚船利炮面前凡欲成仙 ,在亡国灭种的巨大威胁之下水浒少年2,不可能冷静客观地从中国的视角去进行对技术的深刻反思。那个时代的国人对科技几乎都持正面肯定的态度。「铁路、电话发明出来了,比赶牛车快,比寄信快,给生活带来了便利,对生活的影响是正面的,基本上看不到负面的影响」[22]。从1905年康有为发表《物质救国论》到「新文化运动」中陈独秀等人大力提倡「赛先生」,可以说在这段时间里国人中的绝大多数都是「科技拜物教」的信徒。

新中国建立以后,我国科技事业高歌猛进,生产力和综合国力都得到了大幅提升。在过去二十年里,中国网络经济的发展更是以惊人的速度领跑全球,大型互联网企业在数量和规模上已经可以和美国企业比肩[23]。现在,技术的问题开始逐渐显现出来,前文提到的社交大数据危机就是当下技术领域的重要矛盾之一。值此之际,我们有必要抛弃近代对技术的迷信盲从,直面技术的问题。
三、西方之「不幸」和中国之「幸」
从以上技术思想史的角度来分析,中国由于起步较晚,对技术的思考尚处于「发展中」的状态,而西方经历了一系列复杂的思想转变,似乎已经到达了某种「已发展」的状态。既然如此,为什么在处理社交大数据危机这个眼下世界性的难题面前,西方的处理和应对方式并没有比中国成熟呢?我认为原因可以归结为西方的两大「不幸」和中国的两大「幸」。
1
西方的两大不幸
对西方来说,第一大不幸是他们并没有听从海德格尔的忠告(德国弗莱堡大学还因为海德格尔在笔记中写过「犹太人是能破坏欧洲的技术世界的化身」等观点以「反犹」罪名撤销了海德格尔教席[24])。时间快进到1994年,被称作「互联网教父」的凯文 · 凯里写了一部畅销至今的《失控》,几乎一手彻底摧毁了在他以前一切严肃的技术哲学思考。
凯文 · 凯利指出,科技和生命共同拥有某些属性,「如果DNA可以制作成正在运行的计算机旦曲阿帝,而计算机可以像DNA那样进化,那么在人工制品和自然生命之间有可能──或者说一定──存在某种对等关系」[25]。「在将生命的力量释放到我们所创造的机器中的同时,我们就丧失了对他们的控制」,而且这是一个美妙的结局[26]。他的这一看法符合海德格尔把技术看做一种可以限制人的「框架」的观点。只不过海德格尔是教导人们要审慎地对待这一技术的危险,而凯文 · 凯利认为技术有技术自己的目的,它早就「失控」了。人应该放弃自己的主导地位,去拥抱技术的「失控」。

互联网时代的「网红」凯文 · 凯利
我在这里必须须强调,凯文 · 凯利的技术思想比「科技拜物教」要更加极端和危险。「科技拜物教」至少还是把技术当做一种对人有利的「物品」,而凯文 · 凯利是把技术当做至少和人类平起平坐(或者更高等)的存在来对待,并呼吁人们尽快向技术投降。以这种观点来看,现在根本就没有什么社交大数据的危机,「算法」决定了某些破坏社会公序良俗的内容流量大,人们应该老老实实地接受「算法」。这种主张人应该顺从「技术意志」(如果它真的有「意志」的话)的投降主义思想令人感到不寒而栗,最终只会加速推进人类社会的灭亡。
如此激进的思想之所以能在当下社会大行其道,很大程度上是因为它完美地切合以硅谷诸公司为代表的美国新兴高科技互联网资本巨头的利益。他们需要以这种思想作为武器去挑战传统资本巨头。理查德 · 巴布鲁克和安迪·卡梅伦(Richard Barbrook & Andy Cameron)两位学者在文章《论加利福尼亚意识形态》中无情地批判了凯文 · 凯利代表的「.com 新自由主义」。他们认为九十年代硅谷互联技术的崛起和美国当时的新自由主义、反建制思潮以及一种乐观的技术决定论息息相关。这种「加利福尼亚意识形态」进一步加强了企业对于个人的奴役、加剧了社会的贫富分化并且促进了美国中心主义的泛滥[27]。简而言之,凯文 · 凯利和硅谷的背后是一种比传统资本主义更恐怖的「进化版资本主义」。

这就引出了西方的第二大不幸,(新)自由主义和资本主义的意识形态决定了在西方即使这些互联网巨头滥用技术、危害用户安全、置整个社会和共同体于危险之中,政府也无法做出有效的应对(政府甚至经常还会和他们同流合污,从震惊世界的「棱镜门」中可见一斑)。这次很多参与质询扎克伯格的美国参议院司法委员会和商业委员会成员都曾接受脸谱公司可观的竞选捐款和政治献金[28]。所以我们也就不难理解,即便操纵选举对于美国这种票选民主国家来说是动摇「国本」的大事,但是扎克伯格依然能够在这次「公审」中屡次回避要害,轻松蒙混过关。
2
中国的两大幸
反观中国,第一点值得庆幸的是中国的理论优势。中国文化中的道家辩证学说和儒家中庸之道将我们置于一个较高的哲学起点。我们不必像那些西方思想家那样「爱之如珠玉、弃之如敝屣」,非要走一走「正反」的极端之后才能形成对事物动态、完整、全面的认识。《礼记》有云:「执其两端,用其中于民」。我们应该借助中国思想的力量,站在西方过去多年技术思想的肩膀上,用「头足倒置」的黑格尔辩证精神同时对技术进行肯定、批判和反思,以此代替西方技术观漫长而曲折的演进过程。
中国的第二大幸是制度优势。我国实行的社会主义制度是由政治主导社会的发展,而不是由商业主导政治。今年3月19日,第一任国家监察委员会主任杨晓渡表示,「有资本希望在掌握经济权力之后,谋取政治上的权力石墓阵走法,这是十分危险的」。这一表述精炼地提出了中国特色社会主义道路的制度优势——「资本不干政」。新中国经过多年的探索,形成了一条不同于苏联也不同于西方的道路——「利用社会主义的国家政权,约束资本和市场,让资本和市场为社会主义服务、为人民服务」[29]。
具体地讲,在技术的发展过程中(尤其是针对诸如社交大数据这类极其敏感的技术),我们的管理政策应当以「政治挂帅」为核心思想。毛主席在1958年1月党的南宁会议上超前地指出,「搞技术革命不是说不要政治了,政治与技术不能脱离。思想政治是统帅,政治又是业务的保证[30]」。他的言论值得我们深思。致力于技术批判理论研究的哲学家安德鲁 · 芬伯格(Andrew Feenberg)认为资本主义的利益始终控制着技术目标的选择、应用和设计,技术的发展取决于占主导的霸权[31]。这正是技术的危险之处,因为政治是有底线的,然而资本没有底线。「政治挂帅」的技术发展思想可以确保技术服务国家和人民,而不是变成极少数人为自己谋私利的工具。

四、充分发挥理论优势和体制优势
首先,我们有效运用理论优势,以文化自信对技术进行反思会发现,大数据社交网络技术在以下的几个方面「框限」了人的发展。其一,社交大数据以人的历史「框限」了人的未来。算法只能根据人的历史行为去预测他未来的喜好,「以过往之我,推今日明日之我」[32]。 《大学》道:「苟日新,日日新,又日新」,是讲人要时时刻刻进行自我革命。社交大数据技术阻碍了自我革命。要想初步解决这一问题,一个很简单的办法就是在算法设计中规定必须有一定比例的随机内容。
其二,社交大数据以机械的算法「框限」了人的发展。在我国无论是以前的儒家思想还是晚近传入的马克思主义都有以人为本的优良传统。社交大数据技术收集用户的很少一部分信息,通过有限的「算法」,呈现出一种公式化的僵硬形象,用冰冷的数字抹杀人的价值,这是一种对人的物化。除此之外,大部分社交网络采用的「成瘾导向」算法让人们越来越离不开这个媒介,加重了技术对人的控制,使人在很大程度上沦为了技术的奴隶,从而导致了人的主体性的丧失[35]。虚拟世界的欢愉模糊了人对真实和现实的清醒认识,扭曲了人同其他人以及整个世界的关系。
快播的王欣曾经狡辩讲「技术本身并不可耻」。对此我只能说,也许技术不可耻,但是滥用技术的行为肯定是可耻的。况且任何技术里或多或少都包含了设计者和使用者的价值观。今天大部分社交网络算法的核心价值就是提高用户的数量和黏性,这种设计导向显然就有问题。为了改变这一现状,必须限制算法的「成瘾导向」价值以及在平台主动应用「防沉迷系统」等措施。除此之外,用户的自知自觉至关重要,我们不应以自己在个别社交平台上的荣辱去定义整个人生的价值。

其三,现在的社交大数据技术以大众品位「框限」了个人追求。在很多社交媒体,某些内容会被算法「推荐」给我们是它们受到不少人的欢迎,有很高的点击率或者浏览量,这并不代表这些内容本身的品质优良、会促进我们知识者素养的提高。以「流量」为核心价值的平台最后难免被各种博人眼球、哗众取宠的低俗和有害内容占领,这些信息就像鸦片一样逐渐侵蚀用户的心智。
在快手上就有大量过度娱乐化、庸俗化的劣质内容,比如王乐乐、杨清柠等「低龄妈妈」网红 、牌牌琦的「社会摇」[33]书连小说网。今日头条的很多板块将低俗作为吸引用户眼光和关注的「利器」。在「趣图」频道,头条号「多玩十万个冷知识」将历史知识用低俗方式进行包装酷猪,图片内容涉及造谣传谣,关于历史人物的不实内容的图片点赞量高达数万;甚至还有漫画涉及儿童色情,语言污秽不堪等等[34] 。为了应对这部分危险,需要政府和社会对平台进行积极引导和有效监督。

为了应对社交大数据技术的这些负面效应,我们应该以道路自信,充分发挥体制优势,「执其两端,用其中于民」。相比被资本掣肘的美国,这次中国有关部门对今日头条和快手等平台的处理十分果断,有魄力、有担当。在未来,我国可以考虑针对社交网络和公共管理大数据技术(以及其他领域的技术)成立特别的监督审查机构。一方面自然是为了捍卫中国的互联网,保障国民的重要信息不会被不当利用,另一方面也是以政治的强大力量确保敏感领域新兴技术的研发和应用符合社会公共秩序和善良风俗,在最大程度上降低他们的负面效应,防止可能给人类社会带来的危险。
除此之外,政府应该继续坚持重视大数据发展的基本路线,积极结合新兴技术提高政府治理能力。无论大数据技术可能隐含什么样的危险,毫无疑问的是大数据的作用会越来越重要。现在全国31个省份中有27个已经把省一级的大数据交给了新技术公司,这已经变成大的时代趋势。但是政府也需要确保大数据的安全,以防人民的个人信息被有些企业用以谋私。
现在很多新技术公司正在跟政府积极谋求合作,来解决社会治理的问题。比如广东食药监和阿里签署了打击网络食药违法的条款;公安部推出「团圆系统」,和阿里、滴滴等公司合作,上线一年找回1274名儿童;公安部跟腾讯合作推出「麒麟系统」打击伪基站电信诈;西安和蚂蚁金服等企业共同推进「智慧城市」建设,在交通、商业、民生、政务和信用等领域开展全面合作,等等等等[36]。这些都是政府合理使用大数据技术所带来的可喜成果。
著名科技史学家梅尔文 ? 克兰兹伯(Melvin Kranzber)有一句名言,「技术不是善良的,不是邪恶的,也不是中立的」。我在这后面补充一句——「技术发挥什么样的作用,完全取决于发明技术和使用技术的我们」。
愿生命拥抱技术,创造出新的奇迹。

文章编号:伐柯热点#五十四
(本文首发观察者网,作者在原文基础上略有补充)
References:
[1] http://www.xinhuanet.com/2018-04/04/c_1122639601.htm
[2] http://www.sohu.com/a/227837149_114778
[3] http://tech.ifeng.com/a/20180416/44955796_0.shtml
[4] https://mp.weixin.qq.com/s/4r6rCwNE7BgTLD37cPJOoA
[5] http://tech.sina.com.cn/i/2018-04-03/doc-ifyswxnq1677266.shtml
[6] https://www.nytimes.com/2018/03/19/technology/facebook-cambridge-analytica-explained.html
[7] http://world.people.com.cn/n1/2018/0411/c1002-29919024.html
[8] http://thehill.com/policy/technology/382523-zuckerberg-apologizes-to-congress-over-spread-of-fake-news-hate-speech
[9] http://user.guancha.cn/main/content?id=10753
[10] http://www.sohu.com/a/227207866_99991664
[11] http://www.tmtpost.com/3004486.html
[12] https://mp.weixin.qq.com/s/iau-Ol4sSDsv0g2kyoUZ9Q
[13] https://www.nbcnews.com/card/we-run-ads-n864606
[14] http://www.globalview.cn/html/global/info_23937.html
[15] https://www.bloomberg.com/view/articles/2018-04-11/zuckerberg-testimony-why-facebook-is-winning-so-far
[16] https://www.youtube.com/watch?v=8gR_mBrN-XU
[17] Dai, Y.-X., & Hao, S.-T., Transcending the opposition between techno-utopianism and techno-dystopianism, Technology in Society (2017)
[18] 邬晓燕归途如虹,《科学乌托邦主义的问题提出和概念内涵》,自然辩证法通讯(2007)
[19] Bacon, F., New Atlantis, University Press (1919)
[20] Huxley, A., Brave New World, Ernst Klett Sprachen (2008)
[21] Heidegger, M., The question concerning technology, Technol. Values Essent. Readings (1954)
[22] 蒋庆,《儒家拯救人类出离科技「框架」的三条途径》,儒家网(2018)
[23] http://m.jiemian.com/article/1642272.html
[24] https://www.thepaper.cn/newsDetail_forward_1307736
[25] Kelly, K., What Technology Wants, Penguin (2010)
[26] Kelly, K., Out of Control: the New Biology of Machines, Social Systems, and the Economic World, Hachette UK (2009)
[27] Barbrook, R., & Cameron, A., The californian ideology, Sci. as Cult. (1996)
[28] https://www.theverge.com/2018/4/11/17219930/facebook-campaign-contributions-mark-zuckerberg-congress-donations
[29] http://www.globalview.cn/html/zhongguo/info_16920.html
[30] 毛泽东等,《毛泽东思想万岁》(1968)
[31] Feenberg, A., Barney, D.D., Community in the Digital Age: Philosophy and Practice, Rowman & Littlefield (2004)
[32] 吴飞,《异端之理性与机械化性理》,尊周书院(2017)https://mp.weixin.qq.com/s/6eL0HXpqinlAzinuIBWscw
[33] http://www.guancha.cn/society/2018_04_09_453127.shtml
[34] https://item.btime.com/m_90845cc63394a0b74
[35] 李刚、朱文,《「社交网络」网络安全几何》,人民网(2014)http://theory.people.com.cn/n/2014/0807/c387081-25423024.html
[36] 樊鹏,《大型互联网技术公司正在重新定义政府职能 》,复旦大学中国研究院(2018)https://mp.weixin.qq.com/s/XZ4IOy2ja0_MWjGXGGlpVQ
Acknowledgement:
感谢余亮、文如水的讨论。

执柯人
戴雨潇
字润之,陕西西安人。
香港科技大学毕业,
纽约大学研究生。
《大学道》杂志创始人、主编,
伐柯Logos创始人。
兼职思想家和人民哲学家。
拥春秋大义。
本文作者的其他文章


伐柯愿包容各种有理有据并能自圆其说的观点。我们会发布看法相悖的作者所写作的文章,所以作者的立场不代表伐柯的立场。欢迎各方仁人贤士带上自己的思想,在伐柯的舞台,碰撞出智慧的光。申请转载请直接联系公众号后台。
ΛΟ
Γ
ΟΣ


提出新问题
创造新思想
完善我们的?活
构建更好的社会
伐柯伐柯 其则不远
伐柯
微信号:fklogos
TAGS: