使用深度学习技术进行文本摘要

Question

我正在尝试总结法律领域的文本文件。

我参考了deeplearning.net网站，想了解如何实现深度学习的架构。我读了不少关于文档摘要的研究论文（包括单个文档和多个文档的摘要），但我还是搞不清楚每个文档的摘要到底是怎么生成的。

一旦训练完成，网络在测试阶段就会稳定下来。所以即使我知道在训练阶段学到的一些特征（我已经搞明白了），但在测试阶段生成每个文档的摘要时，想要找出每个特征的重要性就比较困难了，因为网络的权重向量已经稳定了。

我尝试了很长时间来弄明白这一点，但都没有成功。

如果有人在这方面有经验或者有什么想法，请给我一些建议。我非常感谢你的帮助。谢谢。

Answer 1

这是一个关于文本摘要的博客系列，详细讲解了文本摘要的工作原理。从最基础的知识开始，到最近的研究，主要使用基于seq2seq深度学习的模型。这个博客系列会先介绍这种架构，然后逐步讲到最新的研究方法。

此外，这个代码库收集了多种构建文本摘要模型的实现方案。它在谷歌Colab上运行这些模型，并将数据存储在谷歌云盘上。所以不管你的电脑有多强大，你都可以使用谷歌Colab，这是一个免费的系统，可以用来训练你的深度学习模型。

如果你想看看文本摘要是如何工作的，可以使用这个免费的API。

我真的希望这些信息对你有帮助。

Answer 2

我觉得你需要说得更具体一些。当你说“我无法弄清楚每个文档的摘要是怎么生成的”时，你是指你不知道怎么理解学习到的特征，还是说你不明白这个算法？另外，“深度学习技术”涵盖了很多不同的模型，你到底想用的是哪一个呢？

一般来说，深度学习模型学到的特征是人类不太容易理解的（不过，你当然可以尝试找找输入和模型中相应激活之间的关系）。所以，如果你是在问这个，那其实没有一个好的答案。如果你在理解你正在使用的模型上遇到困难，我可能可以帮你哦 :-) 让我知道吧。