TensorFlowDemo

Introduction: TensorFlow android demo 车道线 车辆 人脸 动作 骨架 识别 检测
More: Author   ReportBugs   
Tags:

本 Demo 是为了在 android 上跑 TensorFlow 模型的 方便那些想把 TensorFlow 官网上的 demo 集成到自己项目里却又找不到头绪的人使用

正所谓前人栽树后人乘凉

https://github.com/tensorflow/tensorflow

https://github.com/ildoonet/tf-pose-estimation

Denis Tome, Chris Russell, Lourdes Agapito 提出的 Convolutional 3D Pose Estimation from a Single Image 论文

在此特别感谢上述作者,喜欢原作的可以去使用原项目。同时欢迎大家下载体验本项目,如果使用过程中遇到什么问题,欢迎反馈。

另外特别感谢 zyxcambridge(https://github.com/zyxcambridge) 童鞋及 manoshape(https://github.com/manoshape) 童鞋,本项目模型由zyxcambridgemanoshape提供

本项目使用的是 Camera2 的 api

过段时间我还会陆续公布一些更好玩的模型

如果想要体验本项目,请直接下载 apk:点击下载

目前本 Demo 模型能识别出 抽烟 打电话 闭眼 睁眼

TensorFlowObjectDetectionAPIModel 为检测规则画框

TensorFlowImageClassifier2 为车道检测之后不规则绘制(因时间仓促 还没有进行绘图优化) 识别道路的测试方法请自行百度寻找图片或者视频都可以

TensorFlowImageClassifier3 是用来识别人体骨架的 这个模型是有特定输入和特定输出的 需要经过 3 层转换 才能使用 接下来准备上线道路障碍物识别... 最新版骨架识别目前支持区分各个身体部位具体情况请看注释

Camera2BasicFragment4 这是一个用检测来识别车道和前车 里面增加了点逻辑来判断是否是车道偏离或者前车过近 具体做法是 如果检测出线则判断斜率 k = (y2-y1)/(x2-x1)然后设定一个固定斜率来判断是否是车道偏离 如果是检测出前面的车辆中心点在横屏 8 分之 2 到 8 分之 6 的范围内则判断中心点居上距离大于一定范围则算前车过近 或者如果车的高度大于一定级别则算前车过近

另外: 有人私下问我本项目在他们的手机上跑起来卡顿严重 这是算力的问题,目前 tensorFlow 在移动设备上貌似不支持 GPU,而 CPU 的浮点运算速度比较慢导致的 推荐使用华为 P10 或者 骁龙 845 635 之类的 U 来跑跑看 一般 P10 的话 1 能一秒 4 帧 2 能 1 秒 8 帧 3 能一秒 1 帧 4 能一秒 6 帧左右 当然以上数据仅供产考

目前人体骨架识别有了新突破:具体算法已经有了,但是暂时没工夫写。过段时间在上线。(把所有点连接成一个一个的人体)

具体算法如下:

WH19 每一层的解释

         Nose = 0
         Neck = 1
         RShoulder = 2
         RElbow = 3
         RWrist = 4
         LShoulder = 5
         LElbow = 6
         LWrist = 7
         RHip = 8
         RKnee = 9
         RAnkle = 10
         LHip = 11
         LKnee = 12
         LAnkle = 13
         REye = 14
         LEye = 15
         REar = 16
         LEar = 17
         Background = 18

需要连线的身体部位,共 19 个连线

    CocoPairs = [
        (1, 2), (1, 5), (2, 3), (3, 4), (5, 6), (6, 7), (1, 8), (8, 9), (9, 10), (1, 11),
        (11, 12), (12, 13), (1, 0), (0, 14), (14, 16), (0, 15), (15, 17), (2, 16), (5, 17)
    ]   # = 19

对应每一个连线到 WH38 里找到两页取两组 10 个点

        CocoPairsNetwork = [
            (12, 13), (20, 21), (14, 15), (16, 17), (22, 23), (24, 25), (0, 1), (2, 3), (4, 5),
            (6, 7), (8, 9), (10, 11), (28, 29), (30, 31), (34, 35), (32, 33), (36, 37), (18, 19), (26, 27)
         ]  # = 19

从头开始按照顺序连接 到脖子 到右臂等等

    求出 Dx = x1 - x2
        Dy = y1 - y2

计算两点间距离公式

    k = 根号下(Dx 平方-Dy 平方)

如果两点间距离小于 0.0001 则分数为 0 个数为 0

计算 Vx = Dx / k Vy = Dy / k

连线的过程中每个线均分 10 个点 分出 2 个数组 分别是 X 数组 Y 数组 每个数组都是 10 个数字 均分公式如下

    for(i = x1; i <= x2; i += dx/10)
            x[n] = i;
    Y 同理

计算每个连线的分数: CocoPairs 与 CocoPairsNetwork 一一对应 每一组对应的 CocoPairs 连线方式可以在 CocoPairsNetwork 里取出 2 层 (如���1 和 2 之间连线 可以在 12 层和 13 层里分别取出 10 个均等值) 并把均等值存到 2 个新的长度为 10 的组里 Px[10] 和 Py[10]

建立一个分数数组 = Px[10]乘 Vx 与 Py[10]乘 Vy 对应相加

    分数>0.2 的个数乘 >0.2 的分数相加 得到最终分数,并且保留有多少个>0.2 的
    之前两点间距离小于 0.0001 分数为 0 的个数也为 0

如果个数小于 5 或者分数小于等于 0 则这个连线不要

从分数最高的开始遍历所有要的连线放到最终连线的集合(放的时候任何与这个连线集合的点重复都直接舍弃连线)

重复以上所有算法直到没点可连

然后拿出所有连线的集合 找出相同点的连线连接 就出现了人体骨架

image image image

image

Support Me
Apps
About Me
Google+: Trinea trinea
GitHub: Trinea