CORAL有序回归输出层、损失、激活和度量的Tensorflow Keras实现
coral-ordinal的Python项目详细描述
张量流Keras中的序贯回归
Tensorflow Keras使用一致秩逻辑(CORAL)实现序数回归(又名序数分类),作者:Cao、Mirjalili和Raschka(2019年)。在
此套餐包括:
- 顺序输出层:
CoralOrdinal()
- 序数损失函数:
OrdinalCrossEntropy()
- 顺序错误度量:
MeanAbsoluteErrorLabels()
- 序数激活函数:
ordinal_softmax()
这是一个正在进行的工作,因此请将任何问题发布到issue queue。这个包是作为伯克利实验室的hate speech measurement project和论文的一部分开发的(Kennedy等人,2020年)。在
确认:非常感谢Sebastian Raschka对从PyTorch source repository进行移植的帮助。在
关键待处理项目:
- 函数docstrings
- 文件
- 测试
安装
通过pip安装稳定版本:
pip install coral-ordinal
通过pip在GitHub上安装最新代码:
^{pr2}$依赖关系
这个包依赖于python3.6+、Tensorflow 2.2+和numpy。在
示例
这是一个简单的例子来展示一个基本的模型实现。对于实际数据,还需要指定输入形状。在
importcoral_ordinalascoralmodel=tf.keras.Sequential()model.add(tf.keras.layers.Dense(32,activation="relu"))model.add(coral.CoralOrdinal(num_classes=5))# Ordinal variable has 5 labels, 0 through 4.model.compile(loss=coral.OrdinalCrossEntropy(),metrics=[coral.MeanAbsoluteErrorLabels])
See this colab notebook对于使用MNIST(多层感知器)和Amazon reviews(通用句子编码器)的序数回归的扩展示例。在
注意,序数变量的最小值必须为0。如果标记的数据范围是1到5,则需要减去1,以便将其缩放到0到4。在
参考文献
Cao,W.,Mirjalili,V.和Raschka,S.(2019年)。Consistent rank logits for ordinal regression with convolutional neural networks。arXiv预印本arXiv:1901.07884,6。在
Kennedy,C.,Bacon,G.,Sahn,A.,Broege,N.和von Vacano,C.(2020年)。利用Rasch测量和多任务深度学习构造区间潜变量:一个仇恨言语的应用。https://hatespeech.berkeley.edu
- 项目
标签: