基于deeplabcut的三维跟踪分析框架
anipose的Python项目详细描述
任何姿势
anipose是一个基于可伸缩DeepLabCut的分析框架。它支持二维和三维跟踪,处理校准和处理一组文件夹中的所有文件。
ani pose这个名字来自animal pose,但听起来也像“任何姿势”。
开始
- 按照说明here 设置deeplabcut
- 通过pip安装anipose:
pip install anipose
文档
演示
艾文·狄金森的苍蝇视频(慢5倍),Tuthill Lab
为什么要做这个项目?
DeepLabcut非常适合训练网络跟踪视频中的功能,并在一小部分视频上运行。
然而,在实践中,为了适应我们的实验,我们发现需要编写自定义代码来遍历文件夹和视频。不同的实验运行往往放在不同的文件夹中,处理这些结构化数据可能会很快变得难以承受。如果你想进行3d跟踪的话,这个问题就更复杂了,在3d跟踪中,会生成更多的视频,而这些视频的组织对于处理数据至关重要。
因此,我们创建了anipose,它将deeplabcut特性分析放置到管道中,将结果组织到文件夹中,并自动检测需要处理的所有文件。
对于二维跟踪,anipose可以:
- 跟踪一组文件夹中的所有视频
- 检测、删除和插值错误跟踪
- 制作带有二维跟踪点、线和过滤点标签的视频
- 将所有二维数据聚合到一个文件中(更易于进一步分析)
对于三维跟踪,anipose可以:
- 每次会话(或每次实验,根据需要)处理校准视频
- 处理多个视频中的三角剖分以获取三维点
- 从三维点生成三维视频
- 在3D中计算角度
- 将所有三维数据和角度聚合到一个文件中(以便于分析)
参考文献
以下是一些DeepLabcut的参考资料,以及该项目所依赖的其他内容:
- Mathis等人,2018,“DeepLabcut:具有深度学习的用户定义身体部位的无标记姿势估计”
- insafutdinov等人,2016,“deepercut:一个更深、更强、更快的多人姿势估计模型”
- Romero Ramirez等人,2018,“加速检测平方基准标记”
- Garrido Jurado等人,2016,“使用混合整数线性规划生成基准标记字典”