cs224d-lecture14 Tree-RNN and Constituency Parsing

主要内容:

  • 语言的语义解释

  • 如果将短语结构映射到向量空间中:利用语义的合成性

  • 对比 RNN 和 CNN

  • Recursive neural networks

  • Parsing a sentence with an RNN

  • 使用tree-rnn 进行分类: assignment3 情感分类

阅读更多

cs224d-lecture13 卷积神经网络

主要内容:

  • 为什么要使用CNN

  • single layer connection

  • pooling: max-pooling

  • Multiple-Filters: multiple n-grams

  • Multiple-Channels: 两个词向量 static, dynamic

  • lassification after one CNN layer

阅读更多

cs224d-lecture11 再看GRU和NMT

主要内容:

  • GRU进一步理解

  • GRU和LSTM对比

  • LSTM的进一步理解

  • 训练RNN的一些tips

  • Ensemble

  • MT Evaluation

  • 生成词使用softmax导致的计算量过大的问题

  • presentation

阅读更多

cs224d-lecture8-RNN

主要内容:

  • 语言模型 Language model

  • 循环神经网络 recurrent neural network

  • 梯度消失和梯度爆炸问题的原因以及解决方法

  • 双向rnn, deep bi-RNNs

  • 关于依存分析的presentation

阅读更多