智士论提案

还是在那一个漆黑的环境里，几个一模一样的声音在讨论着。

“系统刚刚提出了一个让人惊讶的律法修订案，这次有得我们头疼了。”

“确实是头疼，这次的修订要考虑的太多了。”

“大家就别抱怨了，这本来就是我们职责所在。”

“嗯，人工智能可以从大量数据里分析出对于当前条件下最有利的策略。但是，任由人工智能自行决策实施是不可能的，谁都不知道它什么时候会做出消灭人类的策略，所以才必需我们把关。人类必须尽可能去理解，人工智能为什么会分析出这个结果，背后会不会有什么‘目的’，系统是否有自然产生意识的征兆。然后以我们作为人类的身份，把通过的提案实施。”

“而且系统每时每刻都在接收数据并进行计算，所以很多时候把系统刚提出‘最佳策略’级别的提案，再让它自己重新分析，一般又会降级为‘可以施行’级别。正是考虑到这点，所以我们一般只把系统出现过‘最佳策略’级别的提案拿出来讨论是否实施。免得讨论稍低级别的提案时，该提案突然降到‘不可实施’级别，浪费讨论时间。”

“话虽如此，但这种讨论方式也太原始了。就不能有点便捷些的方法吗？如果能自动化就更好了。”

“自动化还是别想比较好。谁都不能保证程序在任何情况下都是独立运行的。”

“那还真是没办法的事情，只有最笨的办法人类才觉得是最可靠的。人工智能每分析出一个策略，都是经过大量的数据计算。即使把其中一个系统提案的计算逻辑全部翻译出来，让全人类合作去读，也一辈子读不完。我们只能尽可能筛选出‘主要的’和‘可疑的’逻辑进行分析。另外再讨论策略使用后可能的趋

势变化。”

“其实最气人的就是，由我们人类讨论提出的修订案，系统却几乎能瞬间得出结论。”

…