-
编辑 删除
如何用TensorFlow训练词向量
前言 前面在《谈谈谷歌word2vec的原理》文章中已经把word2vec的来龙去脉说得很清楚了，接下去这篇文章将尝试根据word2vec的原理并使用TensorFlow来训练词向量，这里选择使用skip-gram模型。 语料库的准备 这里仅仅收集了网上关于房产新闻的文章，并且将…
-
编辑 删除
谈谈Tomcat内核
这里写图片描述 这里写图片描述 这里写图片描述 这里写图片描述 这里写图片描述 这里写图片描述 这里写图片描述 这里写图片描述 这里写图片描述 这里写图片描述 这里写图片描述 这里写图片描述 这里写图片描述 这里写图片描述 这里写图片描述 这里写图片描述 这里写图片描述 这里写图…
-
编辑 删除
GRU神经网络
前面已经详细讲了LSTM神经网络（文末有链接回去），接着往下讲讲LSTM的一个很流行的变体。 GRU是什么 GRU即Gated Recurrent Unit。前面说到为了克服RNN无法很好处理远距离依赖而提出了LSTM，而GRU则是LSTM的一个变体，当然LSTM还有有很多其他的…
-
编辑 删除
从JDK源码角度看Integer
概况 Java的Integer类主要的作用就是对基本类型int进行封装，提供了一些处理int类型的方法，比如int到String类型的转换方法或String类型到int类型的转换方法，当然也包含与其他类型之间的转换方法。除此之外还有一些位相关的操作。 继承结构 --java.la…
-
编辑 删除
谈谈谷歌word2vec的原理
word2vec 在NLP领域中，为了能表示人类的语言符号，一般会把这些符号转成一种数学向量形式以方便处理，我们把语言单词嵌入到向量空间中就叫词嵌入（word embedding）。谷歌开源的word2vec则是这么一种词嵌入工具，它能生成词向量，通过词向量可以很好地度量词与词之…
-
编辑 删除
从JDK源码角度看并发的原子性如何保证
JDK源码中，在研究AQS框架时，会发现很多地方都使用了CAS操作，在并发实现中CAS操作必须具备原子性，而且是硬件级别的原子性，Java被隔离在硬件之上，明显力不从心，这时为了能直接操作操作系统层面，肯定要通过用C++编写的native本地方法来扩展实现。JDK提供了一个类来满…
-
编辑 删除
LSTM神经网络
LSTM是什么 LSTM即Long Short Memory Network，长短时记忆网络。它其实是属于RNN的一种变种，可以说它是为了克服RNN无法很好处理远距离依赖而提出的。 我们说RNN不能处理距离较远的序列是因为训练时很有可能会出现梯度消失，即通过下面的公式训练时很可能…
-
编辑 删除
从JDK源码角度看Short
概况 Java的Short类主要的作用就是对基本类型short进行封装，提供了一些处理short类型的方法，比如short到String类型的转换方法或String类型到short类型的转换方法，当然也包含与其他类型之间的转换方法。 继承结构 --java.lang.Object…
-
编辑 删除
循环神经网络
RNN是什么 循环神经网络即recurrent neural network，它的提出主要是为了处理序列数据，序列数据是什么？就是前面的输入和后面的输入是有关联的，比如一句话，前后的词都是有关系的，“我肚子饿了，准备去xx”，根据前面的输入判断“xx”很大可能就是“吃饭”。这个就…
-
编辑 删除
监督学习在研究什么
什么是监督学习 简单来说，监督学习是对给定的输入输出样本进行学习并建立一个模型，该模型能对任意输入做出好的输出预测。 监督学习核心思想 所有可能的模型函数的集合称为假设空间 对于所有的模型函数集合，可能不知道是该用用逻辑回归模型、或贝叶斯模型、或神经网络模型还是用支持向量机模型。…
-
编辑 删除
卷积神经网络
什么是卷积 首先看卷积公式 它是通过两个函数 f(t) 和 g(t) 来生成第三个函数的一种数学算子。从负无穷到正无穷遍历全部 u 值，把 g(t-u) 的值乘以 f(u) 的值之后再进行累加，得到关于该累加操作的关于 t 的函数。从另一个角度看，卷积就是一种加权求和。 用离散信…
-
编辑 删除
JVM 层对 jar 包字节码加密
github https://github.com/sea-boat/ByteCodeEncrypt 需求 拿到的需求是要对某特定的jar包实现加密保护，jar包需要提供给外部使用，但核心逻辑部分需要保护以免被简单反编译即能看到。 几个思路 大致想到以下几种方式： 混淆器，将ja…
-
编辑 删除
softmax的多分类
关于多分类 我们常见的逻辑回归、SVM等常用于解决二分类问题，对于多分类问题，比如识别手写数字，它就需要10个分类，同样也可以用逻辑回归或SVM，只是需要多个二分类来组成多分类，但这里讨论另外一种方式来解决多分类——softmax。 关于softmax softmax的函数为 可…
-
编辑 删除
Java调用本地方法又是怎么一回事
JNI JNI即Java Native Interface，它能在Java层实现对本地方法的调用，一般本地的实现语言主要是C/C++，其实从虚拟机层面来看JNI挺好理解，JVM主要使用C/C++ 和少量汇编编写，在执行Java字节码时如果遇到有某个方法标明为Native的则从JV…
-
编辑 删除
从JDK源码角度看Byte
Java的Byte类主要的作用就是对基本类型byte进行封装，提供了一些处理byte类型的方法，比如byte到String类型的转换方法或String类型到byte类型的转换方法，当然也包含与其他类型之间的转换方法。 主要实现代码如下： public final class By…
-
编辑 删除
神经网络的交叉熵损失函数
常见损失函数 0-1损失函数 平方损失函数 绝对损失函数 对数损失函数 常见的损失函数包含以上几个。 平方损失函数 在神经网络中样本的平方损失函数一般会定义为： ，方便求导后约掉系数。 使用误差逆传播训练神经网络时会使用梯度下降法来更新每个神经网络中的权重， 根据链式求导法可以得…
-
编辑 删除
为什么写《Tomcat内核设计剖析》
三四年前更多地还是做web业务开发，基本不关心web层以下的东西，但是每次出故障时面对现象都不能从脑子里形成由底层到应用层的完整的逻辑，往往只能分析到Web应用就无法继续往下，Web容器完全就是一个黑盒，对于问题更多的是靠猜。举个简单的例子，应用突然就不服务了，此时如果对Web容…
-
编辑 删除
分布式缓存Hazelcast集群原理分析
简介 hazelcast其中一个很重要的应用就是可以将多个应用服务器组成一个分布式环境的应用，形成一个cluster。这个cluster可以选举出一个master来对外工作。而cluster中的各台服务器之间有数据同步机制和数据备份机制，来避免因为单个节点挂掉而导致数据丢失和cl…
-
编辑 删除
Web容器的会话机制
基本所有web应用开发的朋友都很熟悉session会话这个概念，在某个特定时间内，我们说可以在一个会话中存储某些状态，需要的时候又可以把状态取出来，这整个过程的时间空间可以抽象成“会话”这个概念。 尽管你对session的使用已经很熟悉了，但你未必真正理解session是什么。因…
-
编辑 删除
从JDK源码角度看Object
Java的Object是所有其他类的父类，从继承的层次来看它就是最顶层根，所以它也是唯一一个没有父类的类。它包含了对象常用的一些方法，比如getClass、hashCode、equals、clone、toString、notify、wait等常用方法。所以其他类继承了Object…
