Bananaware

7-ago

Aug 7th, 2020
68
0
Never
Not a member of Pastebin yet? Sign Up, it unlocks many cool features!
text 5.77 KB | None | 0 0
  1. ROC da reunião anterior: https://i.imgur.com/xBKzlLN.png (0.90 +- 0.10)
  2. ROC do modelo atual: https://i.imgur.com/VWg5Ydf.png (0.84 +- 0.14) (CNN-Z_2x3F_K5_256_False11)
  3.  
  4. esse é o modelo que melhor evita FP.
  5. tem um 0.85 +- 0.11 um pouco pior neste quesito: https://i.imgur.com/hZotAuF.png (CNN-Z_2x3F_K5_256_True11)
  6.  
  7.  
  8. novamente, pioraram os resultados em comparação, apesar de a metodologia ser superior.
  9. a mais provável explicação é a diminuição da proporção de imagens boas...
  10.  
  11. anterior: Total | Good: 3948 | Bad: 4908 | 44.58% (3948/8856)
  12. atual: Total | Good: 2496 | Bad: 4429 | +-: 970 | 32% 56% 12% (2496/7895)
  13.  
  14.  
  15.  
  16. what was done:
  17.  
  18. adicionada classificação "mais ou menos" (+-).
  19. feitos treinamentos tanto considerando +- como ruins, e completamente ignorando as imagens +-.
  20.  
  21. a conclusão é... não há conclusão.
  22. talvez há alguma tendência para os modelos treinados sem as +- serem melhores em evitar FP, mas isso não ocorreu em todos os casos... o melhor modelo foi treinado sem +-.
  23.  
  24. alguns pares de treinamento (sem +- e com +-):
  25. https://imgur.com/a/PE1qTCk
  26. https://imgur.com/a/KtT8QGl
  27. https://imgur.com/a/XQc9Xys
  28. https://imgur.com/a/bI6i1qI
  29.  
  30.  
  31. no backend, melhorado o código, agora é fácil treinar várias combinações de image size/quantidade de filtros/profundidade da rede e outras configs...
  32.  
  33.  
  34.  
  35. intra-sensor: difícil de avaliar de verdade, por causa do grande desbalanceamento de proporção de imagens boas entre as bases.
  36. algum resultado aqui para o Motorola Moto X4... Jersey_1 split em 3, para poder distribuir entre train/valid/test:
  37.  
  38. Jersey_1a | Good: 281 | Bad: 68 | +-: 156 | 56% 13% 31% (281/505)
  39. Puruna_1 | Good: 62 | Bad: 776 | +-: 37 | 7.1% 89% 4.2% (62/875)
  40. Jersey_1b | Good: 47 | Bad: 37 | +-: 2 | 55% 43% 2.3% (47/86)
  41. Puruna_2 | Good: 89 | Bad: 1132 | +-: 75 | 6.9% 87% 5.8% (89/1296)
  42. Jersey_1c | Good: 9 | Bad: 60 | +-: 7 | 12% 79% 9.2% (9/76)
  43. Puruna_3 | Good: 70 | Bad: 1656 | +-: 67 | 3.9% 92% 3.7% (70/1793)
  44.  
  45. Total | Good: 558 | Bad: 3729 | +-: 344 | 12% 81% 7.4% (558/4631)
  46.  
  47. ROC: 0.80 +- 0.04 https://i.imgur.com/l5BODt8.png (mesmos parâmetros do modelo acima que melhor evita FP)
  48.  
  49.  
  50.  
  51.  
  52.  
  53. distribuição total da amostra:
  54.  
  55. Jersey_1 | Good: 337 | Bad: 165 | +-: 165 | 51% 25% 25% (337/667)
  56. Jersey_2 | Good: 116 | Bad: 122 | +-: 56 | 39% 41% 19% (116/294)
  57. Jersey_3 | Good: 309 | Bad: 116 | +-: 73 | 62% 23% 15% (309/498)
  58. Total | Good: 762 | Bad: 403 | +-: 294 | 52% 28% 20% (762/1459)
  59.  
  60. Puruna_1 | Good: 62 | Bad: 776 | +-: 37 | 7.1% 89% 4.2% (62/875)
  61. Puruna_2 | Good: 89 | Bad: 1132 | +-: 75 | 6.9% 87% 5.8% (89/1296)
  62. Puruna_3 | Good: 70 | Bad: 1656 | +-: 67 | 3.9% 92% 3.7% (70/1793)
  63. Total | Good: 221 | Bad: 3564 | +-: 179 | 5.6% 90% 4.5% (221/3964)
  64.  
  65. USP-P1 | Good: 161 | Bad: 50 | +-: 124 | 48% 15% 37% (161/335)
  66. USP-P2 | Good: 211 | Bad: 56 | +-: 43 | 68% 18% 14% (211/310)
  67. USP-P3 | Good: 230 | Bad: 67 | +-: 45 | 67% 20% 13% (230/342)
  68. Total | Good: 602 | Bad: 173 | +-: 212 | 61% 18% 21% (602/987)
  69.  
  70. Total | Good: 1585 | Bad: 4140 | +-: 685 | 25% 65% 11% (1585/6410)
  71.  
  72.  
  73.  
  74. com Data Augmentation por Horizontal Flip.
  75. não foi aplicado hflip nas bases com proporção baixa de imagens boas, para tentar balancear mais o conjunto:
  76.  
  77. Jersey_1 | Good: 337 | Bad: 165 | +-: 165 | 51% 25% 25% (337/667)
  78. Jersey_2 | Good: 116 | Bad: 122 | +-: 56 | 39% 41% 19% (116/294)
  79. Jersey_3 | Good: 309 | Bad: 116 | +-: 73 | 62% 23% 15% (309/498)
  80. Jersey_3_hf | Good: 309 | Bad: 116 | +-: 73 | 62% 23% 15% (309/498)
  81. Total | Good: 1071 | Bad: 519 | +-: 367 | 55% 27% 19% (1071/1957)
  82.  
  83. Puruna_1 | Good: 62 | Bad: 776 | +-: 37 | 7.1% 89% 4.2% (62/875)
  84. Puruna_2 | Good: 89 | Bad: 1132 | +-: 75 | 6.9% 87% 5.8% (89/1296)
  85. Puruna_3 | Good: 70 | Bad: 1656 | +-: 67 | 3.9% 92% 3.7% (70/1793)
  86. Total | Good: 221 | Bad: 3564 | +-: 179 | 5.6% 90% 4.5% (221/3964)
  87.  
  88. USP-P1 | Good: 161 | Bad: 50 | +-: 124 | 48% 15% 37% (161/335)
  89. USP-P1_hf | Good: 161 | Bad: 50 | +-: 124 | 48% 15% 37% (161/335)
  90. USP-P2 | Good: 211 | Bad: 56 | +-: 43 | 68% 18% 14% (211/310)
  91. USP-P2_hf | Good: 211 | Bad: 56 | +-: 43 | 68% 18% 14% (211/310)
  92. USP-P3 | Good: 230 | Bad: 67 | +-: 45 | 67% 20% 13% (230/342)
  93. USP-P3_hf | Good: 230 | Bad: 67 | +-: 45 | 67% 20% 13% (230/342)
  94. Total | Good: 1204 | Bad: 346 | +-: 424 | 61% 18% 21% (1204/1974)
  95.  
  96. Total | Good: 2496 | Bad: 4429 | +-: 970 | 32% 56% 12% (2496/7895)
  97.  
  98.  
  99.  
  100. arquitetura melhor modelo:
  101. _________________________________________________________________
  102. Layer (type) Output Shape Param #
  103. =================================================================
  104. conv2d_1 (Conv2D) (None, 252, 252, 3) 78
  105. _________________________________________________________________
  106. max_pooling2d_1 (MaxPooling2 (None, 126, 126, 3) 0
  107. _________________________________________________________________
  108. conv2d_2 (Conv2D) (None, 122, 122, 6) 456
  109. _________________________________________________________________
  110. max_pooling2d_2 (MaxPooling2 (None, 61, 61, 6) 0
  111. _________________________________________________________________
  112. flatten_1 (Flatten) (None, 22326) 0
  113. _________________________________________________________________
  114. dense_1 (Dense) (None, 2) 44654
  115. =================================================================
  116. Total params: 45,188
  117. Trainable params: 45,188
  118. Non-trainable params: 0
  119. _________________________________________________________________
Add Comment
Please, Sign In to add comment