【高中组第3题】机器不应代替人类做出选择（马陆铭）

选择，是人类的永恒话题，小到商场里各式物品的挑选，大到战场上关乎千万人生死的决策，无一不考验着人们收集、处理、应用信息的能力，人类引以为傲的最高智慧也从中体现。但在人工智能飞速发展的今天，人类在智慧领域的统治地位似乎不可挽回地动摇了。基于大数据的信息过滤、推送自不必说，光是“深蓝”、“阿尔法狗”等程序连败世界顶尖棋手的例子，就足以证明机械智慧的强大。与之形成鲜明对比的是，当今人们的思考能力却有所退化，在滚滚的信息洪流中不知所措。既然如此，人类是否可以避开复杂的自我思考环节，直接让机器代替我们做出选择呢？

从某种意义上说，人工智能代替人类处理信息的现象已经遍及我们身边，不过机器一般只起辅助作用，功能以统计、推荐为主，主动权仍然掌握在人手中。可以说这是面对人类智能落后于人工智能现状的折中之策，以此我们避开了繁复而机械的数据处理阶段，可以把更多精力放在构建方案与权衡利弊上。但如果让机器全面接管人类的选择权，那将是对人自主判断能力的削弱，是对创造能力的扼杀，这两种能力正是将来的数据时代最需要的。人必须学会在信息流中有所扬弃，而机器应当扮演百科全书式的角色，能适时提供帮助又不横加干涉。否则主客倒置，人类变成如《黑客帝国》中被人工智能控制而不自知的行尸走肉，那时后悔就太晚了。

从更宏观的角度来说，机器选择的准确性也不是不容质疑的。人和机器“思考”的本质都是算法，人工智能之所以“智能”，大部分是因为收集、储存信息的能力强，数据分析的基数大，速度快。而至少到现在，机器的算法并不比人类高明多少。打理一个家庭对它来说犹可胜任，但像管理一个公司，治理一个国家这样需要强大统筹能力的工作，它便无能为力了。同时，机器学习能力虽强，在短时间内也不可能理解复杂的人类感情。如果让机器全面接管人类的选择权，很多我们苦心经营的平衡或将被打破，社会的伦理道德也会面临深刻的危机。

在过去的一百年里，机器完成了从简单逻辑到复杂智能的蜕变，那么再过一百年呢？那时的人工智能，或许早就甩开了它的主人，迈入了全知全能的境界。它的服务将会无微不至，它的判断将会无懈可击。但人类仍可以，也必须保留最后的选择权。因为“无所不知”对人的精神冲击实在过于巨大，迷信的风气会在人群中蔓延，渐渐形成“绝对正确”的价值体系，进而产生绝对的崇拜与服从，造成毁灭性的后果，这样的例子在历史上比比皆是。

人工智能的奠基人图灵曾提过这样一个问题：“人工智能通过数据分析，认为人群中某人即将发动恐怖袭击，概率为百分之九十。这时警察是否要开枪射杀他？

我想，如果是机器人警察，它会，因为危险的可能性太大，而且只杀一人，就能保证在场成百上千人的安全；如果那个警察是人，他不会，但说不出原因，就像用原子弹杀害无辜，避免更多生灵涂炭，是对是错，争了几十年。

我只知道，如果一名警察，会在电子系统发来指令时不假思索地拔枪，那么，人类代代相传的道德、法治精神、人性的善与美，都将随枪响声烟消云散了。

             马陆铭  杭州第二中学  高二 13班    指导老师：盛旭峰