GCNet: Non-local Networks Meet Squeeze-Excitation Networks and Beyond (ICCVW 2019)

GCNet: Non-local Networks Meet Squeeze-Excitation Networks and Beyond (ICCVW 2019)

-Authors:  Yue Cao, Jiarui Xu, Stephen Lin, Fangyun Wei, Han Hu

-본 논문에서는 global context를 query-specific하게 접근하며 long-range dependency를 효과적으로 capture하는 Non-Local Network(NLNet)에서 사용된 non-local block의 성능을 유지하면서 파라미터를 줄이는 경량화를 제시하고, 경량화된 NL Block과 SE block의 아이디어를 합한 Global context (GC) block을 제안했다.

 

Figure 1:  좌측   기존의  NL block,  우측   경량화된  NL block.

-좌측 NL block에서 shape이 HW x HW로 각 query에 대하여 전체 query에 대한 score map을 만든다. 본 논문에서는 이러한 필터를 시각화하여 분석한 결과 서로 다른 query에 대하여 모든 결과들이 유사한 attention map을 보이기 때문에 이를 기반으로 NL block을 경량화 한다.

 

Figure 2:  서로   다른  query position 에서   시각화된  attention map.  위   그림과   같이  3 가지  attention map 이   거의   유사한   것을   확인할   수   있다 .

 

Figure 3:  제안하는  GC block 의   모습

-Figure 3에서 제안하는 GC block을 확인할 수 있다. context modeling block 과 SE block의 Transform block이 합쳐진 형태로 구성되며 실험을 통해 높은 성능을 확인한다.