๐Ÿ“š Study/Paper Review

3DGS์—์„œ ์•ŒํŒŒ ๋ธ”๋ Œ๋”ฉ α-blending ์ด๋ž€?

์œฐ๊ฐฑ 2024. 4. 30. 18:58

3DGS ๋…ผ๋ฌธ์—์„œ ์‚ฌ์šฉ๋˜๊ณ  ์žˆ๋Š” α-blending

๋„๋Œ€์ฒด ์ด ๋…ผ๋ฌธ์—์„œ ์˜๋ฏธํ•˜๋Š” ์•ŒํŒŒ ๋ธ”๋ Œ๋”ฉ์ด ๋ฌด์—‡์ธ์ง€ ๋‚ด ์ƒ๊ฐ์„ ์ •๋ฆฌํ•ด๋ณด๊ฒ ๋‹ค.

 


์•ŒํŒŒ ๋ธ”๋ Œ๋”ฉ์ด๋ž€?

์—ฌ๋Ÿฌ ์ด๋ฏธ์ง€๋“ค์„ ํ•ฉ์„ฑํ•  ๋•Œ, ํˆฌ๋ช…๋„(α)๊ฐ’์„ ์‚ฌ์šฉํ•˜์—ฌ ๋ถ€๋“œ๋Ÿฝ๊ฒŒ ํ˜ผํ•ฉํ•˜๋Š” ๊ธฐ์ˆ ์ด๋‹ค.

์•„๋ž˜ ์‚ฌ์ง„๊ณผ ๊ฐ™์ด α๊ฐ’์ด ์ž‘์œผ๋ฉด ๋” ํˆฌ๋ช…ํ•ด์ง€๊ณ , α๊ฐ’์ด ์ปค์ง€๋ฉด ๋” ๋ถˆํˆฌ๋ช…ํ•ด์ง„๋‹ค.

3DGS์—์„œ๋Š” sigmoid๋ฅผ ์ด์šฉํ•ด  α๋ฅผ 0-1๋กœ ํฌ๊ธฐ๋ฅผ ์ œํ•œํ–ˆ๋‹ค.

 

๊ธฐ์กด์—๋Š” ์ด๋ฏธ์ง€๋ฅผ ์˜ค์ง RGB 3๊ฐ€์ง€๋กœ ํ‘œํ˜„์„ ํ–ˆ๋‹ค๋ฉด,
์ด๋ฏธ์ง€์˜ ํˆฌ๋ช…ํ•œ ํšจ๊ณผ๋ฅผ ๊ตฌํ˜„ํ•˜๊ฑฐ๋‚˜ (ex. ๋กœ๊ณ  ์ด๋ฏธ์ง€์˜ ๋ฐฐ๊ฒฝ ํˆฌ๋ช…ํ•˜๊ฒŒ or ๊ทธ๋ฆผ์ž ํšจ๊ณผ)
์—ฌ๋Ÿฌ ์ด๋ฏธ์ง€๋ฅผ ํ•ฉ์„ฑํ•  ๋•Œ ๊ฐ ํ”ฝ์…€์˜ ๊ฐ€์ค‘์น˜๋ฅผ ์ œ์–ดํ•  ๋•Œ ์‚ฌ์šฉํ•˜๊ธฐ ์œ„ํ•ด
RGB์™ธ์— ํˆฌ๋ช…๋„๋ฅผ ์ถ”๊ฐ€ํ•˜์—ฌ RGBA 4๊ฐ€์ง€๋กœ ํ‘œํ˜„์„ ํ•œ๋‹ค.

 


 

์ด ๊ธฐ์ˆ ์„ 3DGS ๋ชจ๋ธ์—๋Š” ์–ด๋–ป๊ฒŒ ์‚ฌ์šฉํ•œ๋‹ค๋Š”๊ฑธ๊นŒ?

 

3DGS ๋ชจ๋ธ์€ SFM points๋ฅผ ํ†ตํ•ด 3D Gaussian์„ ๋งŒ๋“  ํ›„,

projection์„ ํ†ตํ•ด 2D Gaussian์œผ๋กœ projection ํ•œ๋‹ค.

๋‹น์—ฐํžˆ ์ด๋•Œ์˜ ๊ฐ€์šฐ์‹œ์•ˆ๋“ค์€ ์•„๋ž˜ ๊ทธ๋ฆผ๊ณผ ๊ฐ™์ด ์„œ๋กœ ๊ฒน์น˜๋Š” ๋ถ€๋ถ„์ด ์žˆ์„ ๊ฒƒ์ด๋‹ค.

 

 

2D Gaussian๋“ค์„ ์ด์šฉํ•ด ํ•˜๋‚˜์˜ Image๋ฅผ ๋งŒ๋“œ๋Š” ๊ณผ์ •์ธ rasterization์—์„œ๋Š”

๋‹น์—ฐํžˆ ์ด๋ ‡๊ฒŒ ๊ฒน์น˜๋Š” ๊ฐ€์šฐ์‹œ์•ˆ๋“ค์„ ์–ด๋–ป๊ฒŒ ์ฒ˜๋ฆฌํ• ์ง€์— ๋Œ€ํ•œ ๋…ผ์˜๊ฐ€ ํ•„์š”ํ•˜๋‹ค.

 

๋ฐ”๋กœ ํˆฌ๋ช…๋„(α)๊ฐ’์„ ์‚ฌ์šฉํ•˜๋Š” ๊ฒƒ์ด๋‹ค!

 

์ฆ‰, ๊ฒน์นœ ์˜์—ญ์— ํ•ด๋‹นํ•˜๋Š” ๋ชจ๋“  ๊ฐ€์šฐ์‹œ์•ˆ์— ๊ฐ๊ฐ์˜ α๊ฐ’์„ ๊ณฑํ•ด์„œ ํ”ฝ์…€ ๋‹น ํ•˜๋‚˜์˜ ๊ฒฐ๊ณผ๊ฐ’์„ ๋งŒ๋“ค ์ˆ˜ ์žˆ์„ ๊ฒƒ์ด๋‹ค.

 

 

๋…ผ๋ฌธ์˜ ํŒŒํŠธ 4 Differentiable 3D Gaussian Splatting์—์„œ๋Š” 

๊ฐ€์šฐ์‹œ์•ˆ ํ•จ์ˆ˜๊ฐ€ blending ๊ณผ์ •์—์„œ $\alpha$์™€ ๊ณฑํ•ด์ง„๋‹ค๊ณ  ํ–ˆ๊ธฐ ๋•Œ๋ฌธ์— ์œ„ ๊ทธ๋ฆผ๊ณผ ๊ฐ™์€ ์ˆ˜์‹์ด ๋‚˜์˜ฌ ๊ฒƒ์œผ๋กœ ์˜ˆ์ƒํ•œ๋‹ค.

$ G(x) = e^{-1/2(x)^{T}\sum^{-1}(x)} $
This Gaussian is multiplied by α in our blending process

 

 

...*0*

ํ™•์‹คํ•˜์ง€๋Š” ์•Š์ง€๋งŒ ์ง€๊ธˆ๊นŒ์ง€์˜ ์ƒ๊ฐ์œผ๋กœ๋Š”,

์•„๋งˆ๋„ α๊ฐ’์ด ํฐ ๊ฐ€์šฐ์‹œ์•ˆ, ์ฆ‰ ๋ถˆํˆฌ๋ช…ํ•œ ๊ฐ€์šฐ์‹œ์•ˆ์€ ์นด๋ฉ”๋ผ์— ๊ฐ€๊นŒ์ด ์žˆ๋Š” ๋ฌผ์ฒด๊ฐ€ ์•„๋‹๊นŒ ์‹ถ๋‹ค.

๊ทธ๋ฆฌ๊ณ  α๊ฐ’์ด ์ž‘์€ ๊ฐ€์šฐ์‹œ์•ˆ, ์ฆ‰ ํˆฌ๋ช…ํ•œ ๊ฐ€์šฐ์‹œ์•ˆ์€ ์นด๋ฉ”๋ผ์— ๋ฉ€๋ฆฌ ์žˆ๋Š” ๋ฌผ์ฒด์ผ ๊ฒƒ ๊ฐ™๋‹ค๋Š” ์˜ˆ์ƒ์ด๋‹ค.

๋ฉ€๋ฆฌ ์žˆ๋Š” ์ •๋ณด๋ณด๋‹ค๋Š” ๊ฐ€๊นŒ์ด ์žˆ๋Š” ์ •๋ณด์˜ ๊ฐ€์ค‘์น˜๋ฅผ ๋” ๋งŽ์ด ์ค˜์•ผ ํ•˜์ง€ ์•Š์„๊นŒ?

์ด ์ƒ๊ฐ์ด ๊ตฌ์ฒดํ™”๋˜๋ฉด ์ถ”๊ฐ€ํ•ด๋ณด๊ฒ ๋‹ค..

 


์ฐธ๊ณ  ๋ธ”๋กœ๊ทธ

https://trts1004.tistory.com/12109286

 

๋ธ”๋ Œ๋”ฉ(Blending), ์•ŒํŒŒ ๋ธ”๋ Œ๋”ฉ(Alpha Blending)์ด๋ž€ ๋ฌด์—‡์ผ๊นŒ?

๋ธ”๋ Œ๋”ฉ(Blending)๋ž€ ๋ฌด์—‡์ผ๊นŒ? ๋ธ”๋ Œ๋”ฉ์ด๋ž€ '์„œ๋กœ ๋‹ค๋ฅธ ๋‘๊ฐœ์˜ ๋ฌผ๊ฑด์„ ์„ž์–ด์„œ ๋‹ค๋ฅธ ๊ฒฐ๊ณผ๋ฌผ์„ ๋งŒ๋“ค์–ด ๋‚ด๋Š” ๊ฒƒ'์ด๋‹ค. ๊ทธ๋ ‡๋‹ค๋ฉด ์•ŒํŒŒ ๋ธ”๋ Œ๋”ฉ(Alpha Blending)์ด๋ž€ ๋ฌด์—‡์ผ๊นŒ? ์•ŒํŒŒ ๋ธ”๋ Œ๋”ฉ์ด๋ž€ ์ด๋ฏธ์ง€์œ„์— ๋˜

trts1004.tistory.com

https://www.youtube.com/watch?v=Ncs5wOaetYg&t=131s