k值的确定手肘法首先kmeans算法有以下目标函数： Obj=\sum_{k}\sum_{i\in S_k}(x_i-c_k)^2其中$c_k$是第$k$类的中心点，$S_k$是第$k$类的点集。手肘法通过枚举$k$并画出每个$k$对应的目标函数曲线，曲线的梯度会从小变大，曲线的拐点就是最适合的$k ...

背景之前有一篇文章介绍了CRF模型，但是没有具体讲述怎么求得CRF模型的参数，只说明了可以使用最大熵模型参数的求解方法去求解CRF模型的参数，主要有GIS和IIS等方法。本文主要介绍使用梯度下降法求解CRF模型参数。 求解过程我们有一堆数据样本$(X,Y)$，现在我们要求最大似然： L(w)=\lo ...

二项分布泊松分布是由二项分布推导得到的。假设一个事件的发生概率为$p$，则不发生的概率为$1-p$，独立测试$n$次，则发生$k$次的概率为： P(n,k,p)=C_n^k\cdot p^k(1-p)^{n-k}上式就是二项分布的概率函数，二项分布的期望和方差可以很容易推导得到分别是$np$和$np ...

问题描述HMM模型是隐马尔科夫模型，是一个有向概率图模型，之前已经有一篇文章介绍这个模型，这篇文章主要介绍这个模型的参数学习问题。 解决方法HMM模型的参数学习，可以分为两个场景，一个是监督学习，另一个是无监督学习。 监督学习监督学习是指数据集的形式为一对一对隐状态序列和观测序列，直接对这个数据集进 ...

背景对于任意多边形我们总能将其划分成若干三角形组成，比如一个四边形可以划分成两个三角形，一个六边形可以划分成四个三角形。将多边形划分成若干三角形称为三角剖分。一个多边形有许多种三角剖分的方案，其中有一种三角剖分称为Delaunay三角剖分。Delaunay三角剖分具有这些性质：(1) Delauna ...

前言我们经常可以看到某些算法使用到拉普拉斯矩阵，比如在谱聚类算法中用到拉普拉斯矩阵，在图卷积神经网络中用到拉普拉斯矩阵等等。为什么会用到拉普拉斯矩阵呢，拉普拉斯矩阵的作用及意义是什么，其实这些都和拉普拉斯算子的作用及意义有关。 拉普拉斯算子在介绍拉普拉斯矩阵之前，先介绍一下拉普拉斯算子。拉普拉斯算子 ...

共享内存共享内存是指通过将不同进程或同一进程的不同虚拟地址映射到相同的物理地址，从而实现对不同虚拟内存的操作可以作用到同一段物理内存，从而实现通过内存通信。 mmapmmap的存在并不是为了实现共享内存，但mmap的确可以实现共享内存，也是最常用的共享内存方式。mmap是将硬盘的文件和进程的虚拟内存 ...

问题描述在多台机器上有海量的IP数据，现在需要利用这些机器的IP数据找出数量排在Top K的IP地址。 解决方法解决步骤如下：(1) 利用哈希将各个机器的IP数据映射到各个机器，使得相同的IP在同一个机器中(2) 在单机下再利用若干次哈希将IP映射到各个桶，稀释各个桶的不同IP数量(3) 对每个桶， ...

前言在使用CNN处理图像时，如果我们使用人脸数据训练这么一个CNN，训练出来的CNN可以很好地识别人脸，但是如果我们改变人脸某些元素的位置，比如将一个眼睛和嘴巴调换位置，CNN依然会认为这是一张人脸。这是因为CNN是通过使用卷积核去识别关键特征，而在人脸中眼睛和嘴巴都是关键元素，所以即使它们互换位置 ...

前言在前面几章，我们介绍了图神经网络，最终我们可以得到图上每个节点的向量，当我们需要求到一个关于整个图的向量时，一般有两种做法，一个是基于统计的，另一个是基于学习的。 基于统计基于统计的方法就是将所有节点进行一个求和池化，平均池化或最大池化等等，将所有节点的向量聚合成一个向量作为整个图的代表向量。这 ...