上海人物摄像交流群

区块链可能在人工智能的开发和监管方面发挥关键作用

只看楼主 收藏 回复
  • - -
楼主

Elon Musk表示,我们未来面临的最大威胁是人工智能(AI)的发展。

正如Musk最近指出的:

“我认为我们应该对人工智能抱以谨慎的态度。如果我不得不猜测我们最大的生存威胁是什么,那么很可能就是人工智能。所以我们需要非常谨慎。我越来越倾向于认为应该设置一些国家和国际层面上的监管措施,为了确保我们不会做出一些非常愚蠢的事情。”

Musk提出了几个关键问题。第一,我们应该如何应对人工智能的实现。第二,或许也是最重要的挑战,如何监管和监督这项技术?

在如今仓促地利用机器学习和人工智能技术来获取竞争优势的情况下,将这类技术部署在一个不合适的领域,会带来真正的危险。这最终将导致在我们的社会中出现偏见和不公平的现象。

Cathy O‘Neil在她的《Weapons of Math Destruction》一书中阐述了目前存在的危险,即机器学习和人工智能在不同领域被快速、不经思考地应用,包括美国的刑法和教育领域。她的主要观点是,预测模型从来都不是中立的,并且恰恰反映了那些创建者们的目标和意识形态。他们也倾向于利用不正当手段对付穷人,加剧社会的不平等。

从计算大学排名、信用评级或处理求职申请,到决定你在网上看见的广告信息,或是在你的Facebook新闻模块中浏览的故事,算法在我们的生活中扮演着越来越重要的角色。

这就得出结论,当涉及到机器学习的设计阶段时,我们必须确保我们已经对此进行过测试,并避免历史数据和数据输入本身的明显偏差。

然而,它几乎没有提到我们应如何有效地实时监控这类技术。此处,我们可以考虑的一个选项是区块链,它在机器学习和人工智能技术的监管中发挥着至关重要的作用。拥有一个不可变的、防篡改的操作记录是允许在自主人工智能实体上实施监管的关键机制。

区块链还可以根据自主代理的声誉,对任何自主人工智能实体启动访问控制机制。毕竟,对一个非人类的自主人工智能实体而言,这是你唯一可以申请来终止其运行的途径。或者,如果你无法那样做,那就删除社区的访问权限。你可以把这看作是现代的“开除”行为。

所以,如果我们想象一个这样的未来,标准都根据人工智能写入区块链而设定,访问控制机制在本质上也都根据自主人工智能实体的“声誉”而构建,由此,我们创建一个监管机制,而该机制无法规避任何自主人工智能代理。

如果我们从哲学的角度来看待这个问题,最接近的描述来自于英国哲学家Thomas Hobbes,其撰写了《利维坦》(Leviathan)。在这部作品中,他描述了公民为了社会利益而放弃一些权力,交由统治者或“利维坦”。

在很多相关文章里,其创作者没有预见到带来的后果。然而,很少有人撰写我们应如何创造一个利维坦来规范人工智能和机器学习。

授权人工智能利维坦执行身份验证工作,并由人工智能自主代理向区块链提交报告。该区块链的不变性确保了人工智能代理不可以篡改其数据,因此为所有自主人工智能代理建立了声誉分类账。该利维坦将有效地监管商定的规则,如果无法满足这些要求,其将实施制裁。

许多机构已经报告了区块链的使用案例,这种情况在任何地方都曾出现。简而言之,区块链最重要的用例可能是:人类的生存。


举报 | 1楼 回复

友情链接