如果你对科幻文学略知一二,应该知道著名的“阿西莫夫机器人三大定律”,它为机器人设定了三条最基本的原则。时至今日,科幻小说中的那些类人智能机器人似乎还很遥远,但事实上,机器人也许正在以另外一种形式影响着我们的生活,比如说——智能手机。机器人怎么会和智能手机联系在一起呢?激进的未来学家、自由软件先驱埃本·莫格伦就出人意料地认为,该把机器人定律用于我们的智能手机了。如今的技术隐忧早已被50年前的科幻作家预料到,只是他们没有想到,威胁到我们的机器人竟然是手机!
艾萨克·阿西莫夫不会感到自豪。
70年前,阿西莫夫提出了“机器人第一定律”(机器人三定律中的第一条),未来的机器人必须遵守一条根植于它们程序中的准则:“机器人不得伤害人,也不得见人受到伤害而袖手旁观” 。如他的短篇小说所预言的,到2015年,即便是废弃的机器人型号也会遵循这条原则。
但是如今我们日益逼近那个时间,自由软件先驱、未来学家和激进主义者埃本·莫格伦却认为,那条机器人道德的基础定律还没有被写入我们生活中最普遍的机器人:智能手机。
阿西莫夫创造机器人定律的时候一定没有想到手机这种机器人形态。
在纽约召开(这篇文章发表时尚未召开,现在已经召开)的地球黑客大会上,他打算在一次讲演中指出,我们早该用那条机器人的金科玉律来更新我们的iPhone和安卓系统的手持设备。否则的话,他说,我们也许会以意想不到的方式被自己的机器人统治。
哥伦比亚大学教授、软件自由法律中心主任埃本·莫格伦
对于演讲的内容,莫格伦做了如下的简单总结。
---------------------------------------------------
我这一代人出生在20世纪中叶,在上世纪60年代的科幻小说的影响下思考自由与技术。那些科幻小说的作者意识到,在2007年左右,我们将与机器人共同生活。
他们说的没错,我们已经与机器人为伍,只不过它们没有手脚,不送饮料、不打扫卫生。(不过有时候它们本身就是真空吸尘器。)
大多数时候,我们成了机器人的身体和手脚。我们带着它们到处移动,它们看见周围的一切,清楚我们的位置、以及我们与其他人类和机器人的关系,它们协调关于我们的信息流,从而允许他人预判和知晓我们的行为、意图和能力,比我们自己做得都好。
不过我们在成长过程中所设想的是,这些机器人本该在自身设计中继承一套原则。(莫格伦引用了机器人第一定律。)
我们设想机器人就该这样设计才不会伤害人类。如今的机器人却没有这样的义务,它们每天都在伤害我们。
它们为他人工作,设计制造它们的目的就是方便别人(而非它们的主人)实施控制。假如不立即给它们更新机器人第一定律,我们就要悲剧了。
它们花掉我们的钱财,夺走我们的自由,监视我们的行为。放眼世界,它们导致我们被捕入狱,受到殴打和折磨。
此时此刻,有人正遭受严刑拷打,就因为他们用iPhone做演示或者通过Facebook组织政治活动;有人花高价买东西,因为销售者知道他们不得不买;有人的保险费持续增加,因为他们的行为别人一清二楚。他们正在遭受社会、经济和医疗方面的侵害。
一旦你的大脑跟为别人工作的机器人合作,你就失去了自由,成了一个受控的个体。
假如你回顾50年前的文学作品,所有这些问题都曾被预见到。开发自由的技术必须先于开发控制的技术,我们中的许多人就是在这种想法的影响下成长起来的。如今我们来到了一个紧要关头,人类已经开始用技术事无巨细地强行控制自己的生活。
---------------------------------------------------
尽管莫格伦没有谈到具体细节,我们还是很容易找到移动设备以不可思议的方式损害我们利益的证据:iPhone秘密记录你曾去过的每个地方(,网络运营商为了执法而出售移动电话基站的所有信息,还有人相信用于移动语音和数据传输的弱加密标准可以被恶意破解。
那么我们该如何夺回控制权?莫格伦说,仅仅把苹果公司更具代表性的iOS设备换成Android设备是不够的。“基本上,Android是赐予网络运营商而非个人的礼物。谷歌和运营商Verizon正在实现软合并,Android服务于他们,不是你们这些用户。”
莫格伦还提到,就连越狱iPhone和获取安卓设备root权限也仅仅是初步的手段。“这就像是掀开机器人的活动盖板,”莫格伦说,“但我们必须深入其中,从云端直到设备,让它们按大家需要的方式而非网络运营商的方式工作。”
莫格伦之所以闻名,可不是因为他对待数字化自由问题的态度温和。他把史蒂夫·乔布斯描述成一个“道德恶魔”,把马克·扎克伯格称为“穿着连帽运动衫的小坏蛋”,说“他对人类所做的坏事比任何同龄人都多”。
过去几年里,莫格伦一直致力于开发“自由盒子”,一种廉价小巧的插入式电脑,它最终可以分散互联网重心,更好地隐匿用户信息,加密电子邮件,通过Tor的匿名化网络进行链接,利用Diaspora(Facebook竞争对手)这种网络,在分布式设备而非集中的数据中心运行社会媒体应用。
莫格伦是在暗示要做一个移动版的类似项目吗?他表示不完全是。“碰巧这次演讲的主题不是技术工程,而是道德和伦理工程,听众显然也清楚软件工程或多或少地与之相关,”他说,“我想表明的是,社会力量的源泉有能力平衡这个系统……特定的政治调节手段早就过时了。”
|