万博官方app下载 自然与人工智能新闻与分析
programmer-stockpack-adobe-stock
程序员
程序员

帕累托权衡——在混合的货物中选择最好的

在已知和未知的情况下,计算机工程师必须在成本和风险水平之间做出选择

在第161集的第一部分中,“人工智能的坏消息”罗伯特·j .标志贝勒大学Justin Bui和他的同事Sam Haug研究了复杂系统的一个基本现实:复杂性增加了但是它的问题。更先进的人工智能将更快,但也有能力处理更大、更复杂的错误。这导致了已知和未知的世界,以及帕累托权衡,使我们能够做出关于人工智能的决定。现在马克斯医生开始询问死者的情况唐纳德·拉姆斯菲尔德已知和未知的概念:

本部分于15:15分开始。随后是部分文字记录和注释、展示注释和额外资源。

山姆Haug:报价美国前国防部长唐纳德·拉姆斯菲尔德说:“有一些众所周知的事情。这些都是我们知道的事情。有已知的未知。也就是说,有些事情我们知道自己不知道。但也有未知的未知。有些事情我们不知道自己不知道。”

罗伯特·j .标志:有趣的是,如果你快速阅读的话,它听起来就像两面三刀。但如果你坐下来仔细研究一下,就会发现它非常有意义,而且适用于我们正在考虑的事情。

山姆Haug:是的。我们把它们分为四类。其中一个是已知。这些是我们对我们的设计进行的测试,并对结果进行了评估。我们非常确定这些都是正确的,因为我们已经实际做了测试,我们已经看到了它是如何执行的,没有更多需要知道的。

下一个是已知的未知。这些是我们还没有进行的测试。我们知道我们没有进行这些测试。因此,我们意识到自己在这些特定的环境和环境中缺乏知识。

另一种类型的未知数是未知的事情-那些本应该很明显,但却被设计师忽略了的内容。回到我们在上个播客中提到的一些例子,IBM Watson的例子一个不正确的答案人类选手给出的答案可能就是这些未知的答案之一。正在观看比赛的设计师会捂住自己的脸,因为他们知道自己应该预见到这种特定的意外情况,但他们没有。这些都是很明显的意外事件,只是没有被包括在内。

最后的分类是未知的未知。这些是最令人不安的情况和情况。即使是在该领域拥有专业知识的设计师也没有预见到可能的结果。例如,自动驾驶汽车会在移动和静止时对塑料袋进行分类。如果他们的汽车遇到一个无法正确分类的飞行塑料袋,设计师可能不会用手捂脸,因为他们没有预见到这一点。这是他们不应该预见到的事情,这是非常明显的,这是一个设计师不可能预见到的领域专业知识。

罗伯特·j .标志:令人着迷。我想未知的未知确实是个大问题。所以我认为O.K.O.例如,来袭的导弹是由云层反射的太阳来解释的——这可能是一个未知的未知,在《ok》的设计中甚至没有考虑到这一点,这是不幸的。

但是人类的设计呢?

罗伯特·j .标志:这里有一个反驳意见:我们看到高度复杂的系统可靠地运行。举个例子,你和我。我们是人类,我们被组合在一起,我们非常复杂,但我们似乎仍然工作得很好。为什么?这是怎么回事?

山姆Haug:我完全同意,人类是极其复杂和极其完美的。我个人认为,这是因为人类是由一个具有极大深度的领域专业知识的创造者创造出来的,他能够……

罗伯特·j .标志:这是一个伟大的短语,山姆。我很欣赏。我们的造物主有很深的,你怎么说呢?-对专业领域有深入的了解。太好了。这是有趣的。

山姆Haug:我们的设计师并不只是拥有该领域的专业知识;他创建了域名。,只是有一个无限的远见和predictiveness深度,在那里他可以设计这些令人难以置信的复杂系统和预见所有可能的事件,他们将遇到历史上或在未来,和设计一个人谁能克服和适应这些环境。

罗伯特·j .标志:即便如此,我想到的是人类的设计。我们仍然不完美。我不知道是否有意外的偶发事件,但例如像COVID这样的事情。,We weren’t designed to handle COVID, especially old people like me, or even something similar, like eating hemlock, the way that Socrates was killed. We also see defects like ibirth defects, diseases such as cancer and things of that sort. Isn’t this an example of contingencies which we would prefer not to see in the design of humans?

苏格拉底

注意:伟大的哲学家苏格拉底(公元前470-399年)因鼓励年轻人问太多问题而腐化年轻人,被谴责后饮用毒芹。

山姆Haug:我喜欢把人类在某些情况下的失败分为两类。第一类是,我们的创造者有意地没有设计我们去承受这种特殊的偶然性。当设计一个人或任何难以置信的复杂系统时,有一些设计上的权衡。例如,你可以设计一个人能够抵抗吃铁杉的影响,但这样做的代价可能是巨大的。

例如,你需要包含一种全新的代谢途径来解释这种特定的毒素。对于任何数量的毒药来说,这样做对于人体的大小来说都是不可行的。我并不是说我知道所有的设计对人类的影响,但我确信在某种程度上,出于权衡的原因,故意不设计人类来承受某些东西。

人类失败的另一种类型——或者说人类的设计无法承受——是由于人类的堕落。我相信圣经中的上帝,他完美地设计了我们,但我们犯了罪,堕落了。由于那次堕落,上帝创造的完美设计被破坏了。他预见到的所有突发事件,以及避免或克服这些突发事件的一些缓和因素,都可能受到堕落者腐败的影响。所以我认为这就是疾病和那些性质的东西的来源,因为我不相信它们是在秋天之前出现的。

现在,帕累托权衡

罗伯特·j .标志:不管原因是什么,我们在设计中确实有一些东西——工程师们知道这个——叫做帕累托折衷。这是在最佳性能之间的权衡。

我做了一名音乐节目主持人,读完了我的硕士学位。我们过去经常做的一件事就是剪广告。有时广告的拷贝来自赞助商。

我们有一个,我记得是因为它太搞笑了。是一个叫查理鱼市的地方。当时,猪肉和牛肉等肉类价格暴涨。复制是

好肉不便宜,便宜肉不好吃。所以吃鱼。

罗伯特·j .标志:那是查理鱼市的广告。它解释了帕累托权衡。在我们现在的世界中,在性能上存在着一种权衡。

我给你举个汽车的例子:安全的车不便宜,便宜的车不安全。就像查理鱼市一样。你必须在便宜的车和安全的车之间做一个帕累托权衡。如果你想要一辆安全的车,开一辆有额外装甲的悍马。如果你想买便宜的,买一辆小摩托车,不要戴头盔。但是你有整个色域。

帕累托折衷说,“在一定的价格下,你可以得到最好的安全性。”我认为,如果买车的唯一标准是安全性和价格,如果你像我一样,你会设定价格,然后看你能得到的最大安全性。这是设计所固有的,至少是我们今天所经历的。我同意你的看法,萨姆。我不认为这在堕落之前是适用的。但可以肯定的是,今天是。所以这是我们必须面对的问题。最后还有什么想法吗?

Vilfredo Pareto

注意:Vilfredo Pareto(1848-1943),意大利经济学家、社会学家,以将数学应用于经济分析而闻名。

领域专业知识和设计过程

山姆Haug:关于领域专业知识如何在设计过程中发挥作用,我还有一点要说。

我确实提到过,专业知识可以用来减少你需要执行的测试的数量。在某些情况下,你并不真正关心你的设计是如何执行的,因为你不希望它被放在那种情况下。但是,领域专家可以在设计过程中提供帮助的另一种方式是预测测试结果可能是什么。

这样可以节约大量的时间在做实际的物理测试,因为设计师能够很快看一个环境说,嗯,我知道它将表现良好或我知道这个方面的环境会导致表现不佳。设计人员有足够的领域专业知识,知道它将如何执行。

罗伯特·j .标志:你设计、测试,然后再重新设计。这就是我们讨论WD-40和公式409的原因;这是一个迭代循环。不仅要为AGI设计,软件工程师还必须知道他们在做什么。但是有一种智能测试就是你去测试AGI,然后做一些变化来提高AGI当你发现它在不同的地方起作用。

Bui:贾斯汀在此基础上,编写测试和验证是它自己的专业领域,我认为这是一个经常被忽视的领域。有趣的是,给每个人一个主题专业知识的例子,所以我去年订购了一辆新的野马…

罗伯特·j .标志:是车,不是马。

Bui:贾斯汀是的。那匹马现在可能已经出现了。但这很有趣,因为如果你跟随那辆车的发布,他们所有的硬顶车都有一个车顶问题。结果是,他们决定替换所有的硬顶,是建造的或之前发布的,我相信是在8月。当你观察发生了什么,以及它是如何发展到这种情况的,你会发现他们有某种QC(质量控制),允许有问题的硬件进入循环。

你可以这样想,从测试的角度或验证的角度来看,这是应该被抓住的东西。但也许他们只是不知道要找什么。它很好地结合了AGI系统的测试专业知识。我们谈论已知的已知的未知和未知的未知是一种主要的障碍。而未知的未知是最危险的,因为我们不知道我们不了解它们。

在某些情况下,当你开始考虑验证一个系统时,你几乎可以说这比开发它需要更多的专业知识。所以我认为,随着我们继续深入这些领域,这将是一个你会看到越来越多的主题。你会在现实世界中看到越来越多的人工智能系统。比如优步,你撞死了一个行人,几乎每个工程师都可能坐在那里说,好吧,是什么情况导致了这种情况?这是一个如此复杂的系统,有如此多不同学科的专业要求,当你当你以公正的眼光看它时,它是相当困难的。

因此,我认为,把事情联系起来,AGI正变得不那么普遍,而更具体。我认为这是我们在可预见的未来看到的方向——更多的具象性,远离一般的应用。


这是第159集的第一部分和第二部分罗伯特·j .标志贾斯汀中方如果不是哈尔或天网真正发生的今天在人工智能吗?Justin Bui与Robert J. Marks讨论了值得关注的人工智能软件资源,这些软件可以免费下载和使用。免费的人工智能软件意味着更多的创新现在取决于谁先到达终点。Marks and Bui认为,这将引发创造性竞争。

有软件设计的想法?Kaggle可能帮助它发生免费的。好了,不完全是。你必须做这项工作。但也许你不需要发明软件。计算机工程师Justin Bui不赞成“键盘工程”(试图自己完成所有的工作)。很有可能,许多解决方案已经存在于开源场所。

在160集,山姆·豪格(Sam Haug)加入了马克斯博士和Bui博士的研究,看看人工智能失败时会发生什么。有时结果很有趣。有时不是。他们看了五个例子,从著名的但微不足道的到一个我们所知道的几乎毁灭世界的例子。随着人工智能变得越来越复杂,风险也在增加。

在161集,第一部分,Marks, Haug和Bui讨论了复杂性的铁律:复杂性增加但是它的问题。这就是为什么更多的复杂性并不意味着更多的事情会顺利进行;没有计划,就意味着完全相反。他们还讨论了程序员如何利用领域专业知识来减少错误和错误开始的数量。

在第161集的第二部分,他们看看帕累托权衡,已知的和未知的
在已知和未知的情况下,计算机工程师必须在成本和风险水平之间做出选择。任何工程设计都有限制因素,甚至人体也是如此。

显示记录

  • 01:10|介绍Justin Bui和Sam Haug
  • 01:28 |偶发事件的指数级爆炸
  • 08:20|避免意外爆炸
  • 08:43|专业领域
  • 13:09 |人工智能的标准化
  • 15:15 |已知的四种类型
  • 19:43 |人类的突发事件
  • 22:25 |帕累托的权衡
  • 24:41 |多曼专家和预测

额外的资源

播客下载记录


万博官方app下载思想重要新闻

来自令人兴奋的自然智能和人工智能世界的爆炸性和值得注意的新闻。

帕累托权衡——在混合的货物中选择最好的