马克扎克伯格,技术原教旨无法拯救你

时间:2017-12-19 15:06:28166网络整理admin

<p>这就像一个口头的抽搐上周,在国会面前两天的证词中,Facebook的首席执行官马克扎克伯格在一个困难的问题上走投无路时引用了一个神奇的短语</p><p>问题是内容适度,这个短语是“人工智能“2004年,扎克伯格解释说,当Facebook开始时,只有他和他在哈佛宿舍里的朋友”我们没有人工智能技术可以看到人们分享的内容,“他告诉他参议院商业和司法委员会“所以我们基本上必须反应性地执行我们的内容政策”在此后的十四年里,该平台已经发展到每月220亿活跃用户;扎克伯格承认,他们讲的是一百多种语言,每种语言都有自己的仇恨言论,性内容,骚扰,暴力和自杀威胁以及恐怖分子招募Facebook的惊人规模和影响力,以及一系列备受瞩目的丑闻,已明确表示“我们需要采取更积极主动的角色和更广泛的责任观”</p><p>他承诺在世界各地招聘数千名人类内容审稿人,但他似乎认为人工智能是最终的灵丹妙药</p><p>塔尔顿吉莱斯皮在他即将出版的“互联网监护人”一书中说出了三十多次这句话,他解释了扎克伯格问题的根源:适度是困难的,因为它是资源密集型和无情的;因为它需要困难而且常常是站不住脚的区别;因为完全不清楚标准应该是什么;并且因为一个失败可能会引起足够的公愤,以掩盖一百万个安静的成功,首席执行官的价值应该超过工程师或最终用户的价值吗</p><p>如果像扎克伯格在国会面前所说的那样,某种“社区标准”适用于什么,那么什么构成了“社区”呢</p><p>对于在伊拉克的Facebook,它应该是库尔德标准还是什叶派标准</p><p>确切地说,逊尼派的标准是什么</p><p>在伊利诺伊州,它应该是农村标准还是城市标准</p><p>想象一下,试图在像Facebook这样庞大的平台上回答这些问题想象一下,在缅甸这样的地方招聘,培训和留住价值评判,佛教徒占多数,正在对穆斯林少数民族罗兴亚人进行一场残酷的驱逐和压迫运动</p><p>小组想象一下,为所有11种南非官方语言寻找主持人如果有更多的人,就不会解决这些问题 - 也不会对人类本身有益Sarah Roberts,一位信息学者加利福尼亚大学洛杉矶分校采访了整个硅谷及其他地区的内容主持人,她报告说许多人受到经验和低工资工作的创伤而没有任何好处但扎克伯格的人工智能解决方案,他认为这种解决方案已成为现实十到十年的时间,“同样站不住脚就像马克吐温的康涅狄格洋基队,汉克摩根一样,用他的技术愚弄卡米洛特的人民tic“magic”但是,更重要的是,它也是技术原教旨主义的一种表达,不可动摇的信念,即人们能够而且必须发明下一项技术来解决最后一项技术引起的问题技术原始主义是让我们陷入困境的原因这是让我们离开的错误方式自动化内容审核的主要卖点是它旨在回避阻碍人类的两个障碍:规模和主观性对于从历史经验中学习的机器 - “这是我们的一个例子想要举报审查;这不是“规模是优势”它消耗的数据越多,其判断就越准确</p><p>即使错误,当被认定为错误时,也可以改进过程计算机也像规则一样,这就是人工智能在其中取得最大成功的原因</p><p>高度组织化的设置,例如国际象棋比赛和围棋锦标赛如果你将规则和大量历史数据结合在一起,计算机甚至可以在“危险!”中获胜 - 就像2011年那样</p><p>首先,规则必须由人类程序员开发,但是有一些希望机器会随着时间的推移改进,修改甚至改写规则,考虑到多样性,地方主义和价值观的变化这就是人工智能的承诺崩溃的原因</p><p>它的核心是历史模式的假设可靠地预测未来的规范但过去 - 甚至是最近的过去 - 充满了许多人现在发现令人反感的言辞和想法 没有一个系统可以灵活地用一种语言来应对快速变化的文化表达形式,更不用说一百种俚语是短暂而强大的;讽刺对于某些人来说已经足够难以阅读了如果我们依靠人工智能来编写我们的行为准则,我们就有可能偏爱这些规则而不是我们自己的创造力</p><p>更重要的是,我们将对话语的监督交给那些使系统处于运动状态的人首先,他们的所有偏见和盲点都嵌入代码中关于什么样的表达对我们自己或他人有害的问题我们不应该假装他们会变得更容易那么,扎克伯格的AI咒语的目的是什么</p><p> </p><p>采取愤世嫉俗的观点,它提供了一种推迟公众审查的便捷方式:Facebook正在进行中,等待合适的工具开发将需要耐心(一旦这些工具到位,当然,公司可以责怪有缺陷的算法或坏数据的任何流感)但扎克伯格并不是一个愤世嫉俗的人;他是一个技术原教旨主义者,这是一种同样不健康的思维习惯它创造了一种印象,即技术存在于外部,甚至是凌乱的人类决策和关系之上,而事实是,没有这样的差距存在社会是技术技术是社会工具,正如Marshall McLuhan在五十多年前告诉我们的那样,是我们自己的延伸它们放大并扭曲了我们的优势和缺陷这就是为什么我们必须从一开始就小心翼翼地设计它们Facebook的问题是Facebook它的动作太快它已经破裂了许多事情无论是通过一群人还是一套计算机,它已经变得无法控制为了规划前进的方向,