Machine Learning 科技小本子

人力资源部告诉我，我可以在机器学习面试中期待编程和脚本编写问题。我对“脚本”问题有什么期望？

您问的是错误的人。您应该询问您要申请的公司。 “脚本”对于不同的人可能意味着不同的事情。例如，Python是用于开发机器学习应用程序的流行语言，有些人可能将Python编程称为“脚本”。因此，它们的意思是使用Python进行编程。也可能是HR通常在所有程序员面试中都使用“编程和脚本编制”一词，而不管您实际上会问什么问题。您可以要求HR进行澄清，但通常他们没有足够的技术培训，无法向您提供有关面试的详细信息。我的建议是准备谈论您的资历和经验以及您在过去的项目中取得的成就。如果他们问您有关未使用过的某种语言或工具的问题，请说实话，不要试图虚张声势。说： “我知道您刚才提到的技术。我已经完成了用于的工作类型，但是我从未直接使用过该工具，因此在本次采访中我将无法演示该工具的用法。对于相同类型的工作，我使用了和之类的类似工具，并且我有能够迅速学习新工具的记录。”

哪种最佳的机器学习技术可以将50,000张未标记的图像（2-3％的噪声）分类为3个不同的类别？

最好取决于您的意思。如果您的意思是“在最短的时间内得到足够好的结果”，我想说的是先尝试使用k = 3的k均值，看看它是否给出了任何良好的有意义的结果。我说k均值的原因是，首先，它很简单并且代码容易获得。其次，与任何无监督算法一样，您将获得3个类，但是您不知道它们是否正是您想要的3个类，因为您不知道这些类的解释。因此，在获得k均值结果之后，您可以验证分类是否是您想要的分类。如果否，则再次运行k-means，直到获得所需的分类。每次运行时，K均值都会给出不同的结果。如果您仍然无法获得满意的结果，则可以尝试使用其他方法，例如SVM或其他冲突的方法。我认为如果您只想完成工作，这是最省时的方法。

我们可以在图像分类中结合使用HOG和PCA吗？

您需要稍微澄清一下您的问题。没有更多信息，我认为没有人可以帮助您。 “我使用的是高斯朴素贝叶斯和高斯贝叶斯。结果非常低（分别为29.7％和36.4％）” –您使用了哪种HOG功能？（像元大小，单元格大小，方向数，Dalal-Trigg变化等） “我将HOG用作全局描述符” 。因此，您没有在点（2）中使用HOG作为全局描述符吗？那么，您如何在（2）实验中使用HOG？您如何以及为什么使用高斯朴素贝叶斯进行实际分类？人们只有在知道数据分布实际上是高斯分布时才使用它。据我所知，CIFAR-10远非如此。在数据分布为高斯的假设下，分类器（即朴素贝叶斯或贝叶斯）很难变得更好。朴素贝叶斯在另一个假设下工作，即您的所有功能都是独立的。对于HOG，情况可能并非如此。

什么是适合神经网络算法加速器的最佳预算FPGA套件？

神经网络和预算！好的。尝试Zybo板。完善的评估板，具有强大的社区支持和数千参考文档（包括参考手册）。为什么？因为，它具有带双核ARM A9处理器的Xilinx FPGA。如果您希望使用FPGA作为加速器。要将FPGA用作加速器，您将需要FPGA，它将具有许多与处理器进行通信的方式。我无法在这里解释Zynq SoC的每个部分，但它具有L1 Cashe加上L2和探听控制单元（旨在进行并行处理和加速）。板载DMA和DDR。以太网以及HDMI。您可以将以太网用于PS-PL加速。 $…

当它对从概率模型生成样本有用时，有哪些例子？

萨姆·维蒂（Sam Witty）给出了一个很好的答案，因此我将重点关注问题的另一部分。深度学习书籍似乎暗示样本仅在近似于求和/积分以及目标是生成样本本身时才有用。这些是有力的动力，我是100％认真的人。强大。首先，我们可能感兴趣的所有概率都可以用总和或积分表示。通过使用概率论和随机过程，我们可以找出何时可以从样本中估算出这些样本以及如何生成样本。你知道一旦有概率该怎么办？几乎所有的东西。借助概率，您可以决定动物是猫还是狗。这种抗癌药会导致并发症的可能性有多大？明天会下雨吗？该组件是否适合该引擎？等等等但是，总和和积分不仅仅是概率。它们还可以表示某些高维空间中的区域/体积。或者是某些初始条件下带有噪声的系统演化的结果，例如当我们使用随机微分方程时发生的情况–如果没有某种形式的采样，就无法在数值上求解它们。如果您可以估算总和和积分，则可以解决许多问题，而采样是实现此目的的最有效方法之一。…

机器学习系统如何存储其学习的内存？

每个机器学习模型都有两个组成部分：1.模型或算法的结构以及2.模型的参数。在最简单的线性回归模型中，结构只是线性方程。参数是因变量的权重。在深度学习模型中，结构是节点之间的连接方式。参数是互连的权重等。为了回答您的问题，ML算法的学习存储在参数中。训练ML模型的过程是通过实际训练数据对参数进行微调。参数可以作为批处理过程进行更新，换句话说，可以通过大量的训练数据进行更新，也可以即时进行，其中每个数据点都用于增量更新模型。可能会有更高级的ML算法在其中修改其自身的结构，或者像您所说的ML算法更新代码本身。但是目前在实际情况下还没有使用任何此类算法。

您最近使用过Google翻译吗？新的神经机器翻译的翻译质量如何？对于任何语言对来说如何？

谷歌的神经机器翻译据说可以将翻译准确性提高50％至85％。我不知道这有多准确，但是到目前为止，我自己的努力表明，有时它会大大改善，有时只是有所改善。几个月前，我在Quora上写了一些有关GNMT精度的信息。由于尚未针对所有100多种语言推出GNMT，因此各语言对之间的准确性仍然会有所不同，但是他们会定期向GNMT系列添加语言。此外，他们还创建了一种新的语言，称为interlingua或“零镜头翻译”，它似乎可以在尚未引入该系统的语言对中进行翻译，例如韩语和日语（两种方式）。也许它不是发明的，意见不一。我自己对GNMT进行的实验有时会给人留下深刻的印象（它一次翻译了用户手册的一部分，做得非常好，仅翻译了几张图片，但足以使它几乎不需要人工后期编辑），在其他情况下，例如几周前的简单短语，还没那么多。我个人的观点是永远不要相信机器翻译100％，总是能熟练使用目标语言进行校对，但是NMT是语言翻译中令人振奋的发展，实际上每天都在提高准确性。我们自己的软件结合了NMT的某些元素。

关于机器学习和深度学习的几本好书是什么？

这是我最喜欢的ML书籍（大致按入门级顺序排列）：凯文·墨菲（Kevin Murphy），“机器学习-概率论” 克里斯·毕晓普（Chris Bishop）“模式识别与机器学习” Daphne Koller和Nir Friedman，“概率图形模型-原理和技术” 卡尔·拉斯穆森，“机器学习的高斯过程” Ian Goodfellow，Yoshua Bengio和Aaron Courville进行了“深度学习” “图形模型，指数族和变异推理”，马丁·温赖特（Martin Wainwright）和迈克尔·乔丹（Michael Jordan）前两本书是介绍性书籍，涵盖了机器学习的基础知识和基础知识，然后在后面更详细地介绍了更高级的主题。后四个更细微的差别，应该在对ML有了基本了解之后并根据兴趣/需求来进行处理。…

有监督和无监督学习之间的主要区别是什么？为什么进行监督学习更容易（我需要数学证明）？

监督学习和无监督学习之间的主要区别在于，监督学习试图预测标签P（Y | X），而在无监督学习中，我们试图获得一个模型来对X分布P（X）进行建模。您可能会问什么是P（X）和什么是好的P（X）？ P（X）= P（X | Z（X））是在给定一些内部表示Z的情况下观察数据的可能性。通常，Z是低维表示，例如，主分量，簇数或潜在层中的层数少神经网络。 Z通常是我们感兴趣的输出，因为我们通常将无监督学习执行为降维。因此，我们希望捕获这些变量中尽可能多的有趣变化，并忽略噪声。但是有趣的变化是什么？上面我已经说明了无监督学习中的两个主要挑战：为具有协变份额或非线性关系的大量变量指定似然函数。打破了允许将对数空间P（x）= P（x1）* P（x2）* P（x3）…中的项分开的标准独立性假设。因此非常困难。…

我们如何才能将朴素的贝叶斯分类器用于Twitter数据的真实情感分析？

用于语义情感分析的朴素贝叶斯分类器是不平凡的。但是可以进行句法分析（aka形态学或单词级）。考虑有两个篮子的文本数据，一个带有积极的情绪，另一个带有消极的情绪文本。假定这些文本的词袋表示法。如果计算正篮子和负篮子的词频，它将形成类条件密度表。您可以基于正向和负向twitter数据点的数量来计算类别优先级。现在，通过对所有出现在查询中的单词的类条件表中的概率进行日志求和，来预测以单词袋形式表示的任意Twitter帖子。您将有两个这样的求和，一个用于正类，另一个用于负类。天真的贝叶斯分类器将总和最高的分数视为预测类别。这与各种教程中发现的朴素贝叶斯垃圾邮件分类示例非常相似。