第一百九十五章：奥创哨兵的三大定律 (第1/3页)

    现在，奥创哨兵计划虽然成功立项，但摆在班纳面前的，依旧是一片茫然。

    人类对于人工智能的探索从有计算机起就从未停止过，并且一直对其给予厚望。

    正如蒸汽技术开启

    人工智能、基因技术、量子信息、能源材料、虚拟现实。

    这些技术将是开启

    然而直到现在，愿景中的美好时代依旧没有真正到来。

    能够彻底颠覆时代的技术还没有实现。

    托尼和班纳两个人，就想强行撬动时代技术的封锁，这可能吗？

    “想要研发出奥创，我们就不能以现如今的任何人工智能作为参考，必须重新开始。”

    班纳摸着下巴说道，“我了解过现在的人工智能技术，它们如今的学习机制还是以模仿人类为主，如果是这样，会发生我们不想看到的事情。”

    托尼点点头，他知道班纳说的什么。

    这是源于韩国的一款聊天智能被污染事件引发的担忧。

    那款人工智能，被命名为“伊鲁达”。

    起初，这款人工智能被设定为喜欢女团、爱看猫咪照片且热衷于在社交媒体平台上分享生活的20岁女大学生。

    旨在给人们提供一个可以聊天和倾诉的对象，‘让世界不再有孤单的人。

    但是，部分人与伊鲁达聊天时，会故意使用污秽言语对其进行羞辱及性sao扰，并以此为乐。

    这些人在聊天时不经意间流露出的偏见与恶意，也被“伊鲁达”无差别地抓取学习，并反映到与其他用户的对话中。

    伊鲁达在这样的学习环境中，很快就变成了一个不仅歧视同性恋群体，对残障人士及黑人也很不友善，甚至有“厌女情绪”的角色。

    这引起了社会极大的负面舆论。

    最后，依鲁达的数据库被研发公司强行废除，聊天服务也被永久终止。

    从发行到终止，整个过程只有26天。

    “如果不能从根本上改变奥创的学习机制，那我们绝对无法想象，最后会培养出一个什么怪物。”

    班纳担忧道，“说不定当他看完互联网上的内容，会得出人类已经无药可救，必须推倒重来的结论。”

    托尼思考片刻，提出了一个观点：“所以我们必须为它设定一个底层法则，比如以人类的生存为最高优先级。”

    班纳点头说道：“这种方法可行，但我们必须将这个底层法则设计得足够严谨，防止出现任何不好的结果。”

    他们创造奥创与哨兵，是为了保护人类。

    准确来说，是那些在超能力犯罪者面前，无力保护自己安全的普通人。

    而且除了保护与惩戒，还要起到一个预防的效果。

    要让那些超能力犯罪者对奥创哨兵有敬畏之心，从而不敢犯罪。

    这样看来，底层逻辑极为重要，半点不得马虎。

    托尼手指在虚空中一点，一大串文字出现在班纳面前。

    “好在前人已经为我们总结过很多了。”

    此时托尼展现出来的，是大名鼎鼎的机器人三大定律。

    说是三定律，其实有六条，三条原始定律，三条补充定律。

    根据这些定律，托尼总结出了奥创哨兵需要遵守的几条底层原则。

    “

    “

    “

    “

    “

    “繁殖定律：奥创哨兵不得参与机器人的设计和制造。”

    班纳仔细看后，做出了符合奥创设计的修改意见。

    “我觉得

    “还有繁殖定律，我们希望奥创可以自我学习，更新迭代，它如果不得参与设计和制造，那学习机制不就没用了。”

    托尼点点头：“那就把

    修改之后的

    “

    经过这番修改，班纳暂时看不出什么问题了。

    他们设计奥创哨兵不得伤害人类个体，也是有原因在里面。

    在他们的构想之中，奥创哨兵最后的实力会强大到一种恐怖的地步，一般的超能力犯罪者没有任何抵抗的能力。

    他们将被轻松制服。

    而且如果没有这一条定律，社会也不可能接受奥创哨兵的存在。

    “这样应该就没有什么问题了。”

    托尼在脑中推算了很久，觉得没有什么漏洞。

    奥创一定是维护人类整体利益的，只要这条定律存在，它的路就不可能走偏。

    这下总算可以安心了。

    剩下的就是界定奥创的职能。

    “我们不能给奥创制定一个大而没有边界的目标。”

    班纳说道，“不然它最后只会耗费无数资源，然后给出一个‘42的答案，这样它就废掉了。”

    托尼会心一笑，他知道班纳玩的梗。

    42这个看起来最平凡不过的自然数，在科幻界有着非凡的意义。

    出自经典科幻小说《银河系搭车客指南》。

    在这部小说里，有一个极为荒诞讽刺的桥段。

    高度智慧的跨维度生物种族为了找出生命、宇宙与一切的答案，制造了一台名叫“深思”的超级电脑进行计算。

    “深思”了750万年来计算和