2 E E E T R A N S A C T I O N S O N S Y S T R E M S , M A N , A N D C Y B E R N E T I C S , V O L . S M C - 9 , N O .

1 , J A N U A R Y 1 9 7 9
7 *
L O N G I T U DE
F i g . 6 . I D p l o t o f s h i p 1 0 0 0 1 a f t e r t h e s e c o n d r o u n d o f o p e r a t o r - i m p o s e d a s s i g n -
m e n t c o n s t r a i n t s .
L O N G I T U DE
F i g . 7 . A c t u a l s h i p m o v e m e n t s .
o f t h e t w o l a s t s i g h t e d l o c a t i o n s . T h e t r u e t r a j e c t o r i e s a r e s h o w n i n
F i g . 7 w h e r e i t c a n b e s e e n t h a t s h i p 1 0 0 0 1 d i d , i n f a c t , t u r n t o w a r d
t h e c o a s t .
I V . C O N C L U DI N G R E M A R KS
T h e p r o c e d u r e o f s h i p i d e n t i f i c a t i o n f r o m DF s i g h t i n g s h a s
b e e n o v e r s i m p l i f i e d i n t h i s d i s c u s s i o n . O f t e n DF s i g h t i n g s a r e n o t
c o m p l e t e l y i d e n t i f i e d b u t , i n s t e a d , c o n t a i n o n l y s h i p c l a s s i n f o r m a -
t i o n . T h e i n t e r a c t i v e t e c h n i q u e s t i l l a p p l i e s , b u t a d d i t i o n a l
i d e n t i f i c a t i o n a n d d i s p l a y f l e x i b i l i t y m u s t b e p r o v i d e d .
A n y a d d i t i o n a l i n f o r m a t i o n c o n t a i n e d i n t h e s i g h t i n g s c a n b e
u s e d t o d i s c r i m i n a t e a m o n g r a d a r a n d DF s i g h t i n g s . F a c t o r s s u c h
a s m e a s u r e d h e a d i n g a n d v i s u a l I D w i l l p e r m i t f u r t h e r a u t o m a t i c
r e d u c t i o n o f t h e P a n d Q m a t r i c e s .
I t i s a l s o p o s s i b l e t o a u t o m a t e s o m e o f t h e m o r e r o u t i n e m a n u a l
f u n c t i o n s . H o w e v e r , e x p e r i e n c e h a s s h o w n t h a t b e t t e r r e s u l t s a r e
o b t a i n e d b y h a v i n g a h u m a n o p e r a t o r r e s o l v e a m b i g u o u s s i t u a -
t i o n s a r i s i n g f r o m s p a r s e d a t a .
R E F E R E N C E S
[ I ] R . W . S i t t l e r , " A n o p t i m a l d a t a a s s o c i a t i o n p r o b l e m i n s u r v e i l l a n c e t h e o r y , "
I E E E T r a n s . M i l . E l e c t . , v o l . M I L - 8 , p p . 1 2 5 - 1 3 9 , 1 9 6 4 .
[ 2 ] M . S . W h i t e , " F i n d i n g e v e n t s i n a s e a o f b u b b l e s , " I E E E T r a n s . C o m p u t . , v o L
C - 2 0 ( 9 ) p p . 9 8 8 - 1 0 0 6 , 1 9 7 1 .
[ 3 } A . G . J a f f e r a n d Y . B a r - S h a l o m . " O n o p t i m a l t r a c k i n g i n m u l t i p l e - t a r g e t e n v i r o n -
m e n t s , " Pr o c . o f t h e 3 r d S y m . o n N o n l i n e a r E s t i m a t i o n T h e o r y a n d i t s A p p l i c a t i o n s ,
S a n Di e g o , C A , S e p t . 1 9 7 2 .
[ 4 ] P. S m i t h a n d G . B u e c h l e r , " A b r a n c h i n g a l g o r i t h m f o r d i s c r i m i n a t i o n a n d t r a c k -
i n g m u l t i p l e o b j e c t s , " I E E E T r a n s . A u t o m a t . C o n t r . , v o l . A C - 2 0 , p p . 1 0 1 - 1 0 4 ,
1 9 7 5 .
[ 5 ] D. L . A l s p a c h , ' A G a u s s i a n s u m a p p r o a c h t o t h e m u l t i t a r g e t - t r a c k i n g p r o b l e m , "
A u t o m a t i c a , v o l . 1 1 , p p . 2 8 5 - 2 9 6 , 1 9 7 5 .
[ 6 ] C . L . M o r e f i e l d , A p p l i c a t i o n o f 0 - 1 I n t e g e r Pr o g r a m m i n g t o a T r a c k A s s e m b l y
Pr o b l e m , T R - 0 0 7 5 ( 5 0 8 5 - 1 0 I I , A e r o s p a c e C o r p . E l S e g u n d o , C A , A p r . 1 9 7 5 .
[ 7 ] D. B . R e i d , A M u l t i p l e H y p o t h e s i s F i l t e r f o r T r a c k i n g M u l t i p l e T a r g e t s i n a
C l u t t e r e d E n v i r o n m e n t , L M S C - D5 6 0 2 5 4 , L o c k h e e d Pa l o A l t o R e s e a r c h L a b o r a -
t o r i e s , Pa l o A l t o , C A , S e p t . 1 9 7 7 .
[ 8 ] P. L . S m i t h , " R e d u c t i o n o f s e a s u r v e i l l a n c e d a t a u s i n g b i n a r y m a t r i c e s , " I E E E
T r a n s . S y s t . , M a n , C y b e r n . , v o l . S M C - 6 ( 8 ) , p p . 5 3 1 - 5 3 8 , A u g . 1 9 7 6 .
A T l r e s h o l d S e l e c t i o n M e t h o d
f r o m G r a y - L e v e l H i s t o g r a m s
N O B U Y U KI O T S U
A b s t r a c t - A n o n p a r a m e t r i c a n d u n s u p e r v i s e d m e t h o d o f a u t o m a -
t i c t h r e s h o l d s e l e c t i o n f o r p i c t u r e s e g m e n t a t i o n i s p r e s e n t e d . A n
o p t i m a l t h r e s h o l d i s s e l e c t e d b y t h e d i s c r i m i n a n t c r i t e r i o n , n a m e l y ,
s o a s t o m a x i m i z e t h e s e p a r a b i l i t y o f t h e r e s u l t a n t c l a s s e s i n g r a y
l e v e l s . T h e p r o c e d u r e i s v e r y s i m p l e , u t i l i z i n g o n l y t h e z e r o t h - a n d t h e
f i r s t - o r d e r c u m u l a t i v e m o m e n t s o f t h e g r a y - l e v e l h i s t o g r a m . I t i s
s t r a i g h t f o r w a r d t o e x t e n d t h e m e t h o d t o m u l t i t h r e s h o l d p r o b l e m s .
S e v e r a l e x p e r i m e n t a l r e s u l t s a r e a l s o p r e s e n t e d t o s u p p o r t t h e
v a l i d i t y o f t h e m e t h o d .
I . I N T R O DU C T I O N
I t i s i m p o r t a n t i n p i c t u r e p r o c e s s i n g t o s e l e c t a n a d e q u a t e t h r e -
s h o l d o f g r a y l e v e l f o r e x t r a c t i n g o b j e c t s f r o m t h e i r b a c k g r o u n d . A
v a r i e t y o f t e c h n i q u e s h a v e b e e n p r o p o s e d i n t h i s r e g a r d . I n a n
i d e a l c a s e , t h e h i s t o g r a m h a s a d e e p a n d s h a r p v a l l e y b e t w e e n t w o
p e a k s r e p r e s e n t i n g o b j e c t s a n d b a c k g r o u n d , r e s p e c t i v e l y , s o t h a t
t h e t h r e s h o l d c a n b e c h o s e n a t t h e b o t t o m o f t h i s v a l l e y [ 1 ] .
H o w e v e r , f o r m o s t r e a l p i c t u r e s , i t i s o f t e n d i f f i c u l t t o d e t e c t t h e
v a l l e y b o t t o m p r e c i s e l y , e s p e c i a l l y i n s u c h c a s e s a s w h e n t h e v a l l e y
i s f l a t a n d b r o a d , i m b u e d w i t h n o i s e , o r w h e n t h e t w o p e a k s a r e
e x t r e m e l y u n e q u a l i n h e i g h t , o f t e n p r o d u c i n g n o t r a c e a b l e v a l l e y .
T h e r e h a v e b e e n s o m e t e c h n i q u e s p r o p o s e d i n o r d e r t o o v e r c o m e
t h e s e d i f f i c u l t i e s . T h e y a r e , f o r e x a m p l e , t h e v a l l e y s h a r p e n i n g
t e c h n i q u e
[ 2 ] ,
w h i c h r e s t r i c t s t h e h i s t o g r a m t o t h e p i x e l s w i t h
l a r g e a b s o l u t e v a l u e s o f d e r i v a t i v e ( L a p l a c i a n o r g r a d i e n t ) , a n d
t h e d i f f e r e n c e h i s t o g r a m m e t h o d [ 3 ] , w h i c h s e l e c t s t h e t h r e s h o l d a t
t h e g r a y l e v e l w i t h t h e m a x i m a l a m o u n t o f d i f f e r e n c e . T h e s e u t i l i z e
i n f o r m a t i o n c o n c e r n i n g n e i g h b o r i n g p i x e l s ( o r e d g e s ) i n t h e o r i -
g i n a l p i c t u r e t o m o d i f y t h e h i s t o g r a m s o a s t o m a k e i t u s e f u l f o r
t h r e s h o l d i n g . A n o t h e r c l a s s o f m e t h o d s d e a l s d i r e c t l y w i t h t h e
g r a y - l e v e l h i s t o g r a m b y p a r a m e t r i c t e c h n i q u e s . F o r e x a m p l e , t h e
h i s t o g r a m i s a p p r o x i m a t e d i n t h e l e a s t s q u a r e s e n s e b y a s u m o f
G a u s s i a n d i s t r i b u t i o n s , a n d s t a t i s t i c a l d e c i s i o n p r o c e d u r e s a r e
a p p l i e d
[ 4 ] .
H o w e v e r , s u c h a m e t h o d r e q u i r e s c o n s i d e r a b l y t e d -
i o u s a n d s o m e t i m e s u n s t a b l e c a l c u l a t i o n s . M o r e o v e r , i n m a n y
c a s e s , t h e G a u s s i a n d i s t r i b u t i o n s t u r n o u t t o b e a m e a g e r a p p r o x i -
m a t i o n o f t h e r e a l m o d e s .
I n a n y e v e n t , n o " g o o d n e s s " o f t h r e s h o l d h a s b e e n e v a l u a t e d i n
M a n u s c r i p t r e c e i v e d O c t o b e r 1 3 , 1 9 7 7 ; r e v i s e d A p r i l 1 7 , 1 9 7 8 a n d A u g u s t 3 1 , 1 9 7 8 .
T h e a u t h o r i s w i t h t h e M a t h e m a t i c a l E n g i n e e r i n g S e c t i o n , I n f o r m a t i o n S c i e n c e
Di v i s i o n , E l e c t r o t e c h n i c a l L a b o r a t o r y , C h i y o d a - k u , T o k y o 1 0 0 , J a p a n .
0 0 1 8 - 9 4 7 2 / 7 9 / 0 1 0 0 - 0 0 6 2 $ 0 0 . 7 5 ( D 1 9 7 9 I E E E
6 2
t
Authorized licensed use limited to: Purdue University. Downloaded on October 7, 2008 at 15:55 from IEEE Xplore. Restrictions apply.
C O R R E S PO N DE N C E
m o s t o f t h e m e t h o d s s o f a r p r o p o s e d . T h i s w o u l d i m p l y t h a t i t
c o u l d b e t h e r i g h t w a y o f d e r i v i n g a n o p t i m a l t h r e s h o l d i n g m e t h o d
t o e s t a b l i s h a n a p p r o p r i a t e c r i t e r i o n f o r e v a l u a t i n g t h e " g o o d n e s s "
o f t h r e s h o l d f r o m a m o r e g e n e r a l s t a n d p o i n t .
I n t h i s c o r r e s p o n d e n c e , o u r d i s c u s s i o n w i l l b e c o n f i n e d t o t h e
e l e m e n t a r y c a s e o f t h r e s h o l d s e l e c t i o n w h e r e o n l y t h e g r a y - l e v e l
h i s t o g r a m s u f f i c e s w i t h o u t o t h e r a p r i o r i k n o w l e d g e . I t i s n o t o n l y
i m p o r t a n t a s a s t a n d a r d t e c h n i q u e i n p i c t u r e p r o c e s s i n g , b u t a l s o
e s s e n t i a l f o r u n s u p e r v i s e d d e c i s i o n p r o b l e m s i n p a t t e r n r e c o g n i -
t i o n . A n e w m e t h o d i s p r o p o s e d f r o m t h e v i e w p o i n t o f d i s c r i m i n -
a n t a n a l y s i s ; i t d i r e c t l y a p p r o a c h e s t h e f e a s i b i l i t y o f e v a l u a t i n g t h e
" g o o d n e s s " o f t h r e s h o l d a n d a u t o m a t i c a l l y s e l e c t i n g a n o p t i m a l
t h r e s h o l d .
I I . F O R M U L A T I O N
L e t t h e p i x e l s o f a g i v e n p i c t u r e b e r e p r e s e n t e d i n L g r a y l e v e l s
[ 1 , 2 , , L ] . T h e n u m b e r o f p i x e l s a t l e v e l i i s d e n o t e d b y n i a n d
t h e t o t a l n u m b e r o f p i x e l s b y N = n 1 + n 2 + + n L * I n o r d e r t o
s i m p l i f y t h e d i s c u s s i o n , t h e g r a y - l e v e l h i s t o g r a m i s n o r m a l i z e d
a n d r e g a r d e d a s a p r o b a b i l i t y d i s t r i b u t i o n :
L
p i
=
n i l N , p i > 0 ,
Z
Pi - 1
( 1 )
N o w s u p p o s e t h a t w e d i c h o t o m i z e t h e p i x e l s i n t o t w o c l a s s e s
C O a n d C 1 ( b a c k g r o u n d a n d o b j e c t s , o r v i c e v e r s a ) b y a t h r e s h o l d
a t l e v e l k ; C O
d e n o t e s p i x e l s w i t h l e v e l s [ 1 , , k ] , a n d C 1 d e n o t e s
p i x e l s w i t h l e v e l s [ k + 1 , , L ] . T h e n t h e p r o b a b i l i t i e s o f c l a s s
o c c u r r e n c e a n d t h e c l a s s m e a n l e v e l s , r e s p e c t i v e l y , a r e g i v e n b y
k
w o = Pr ( C o ) = E Pi = ( k ) ( 2 )
i =1
L
w 0 1 = Pr ( C i ) = E p i
= 1 - @ ( k )
i =k + I
a n d
k k
Po = i Pr
( i C o ) - E i p i I o
=
p ( k ) / w ( k )
L L
I t T P( k )
i =k +l k =k + I c o ( k )
w h e r e
k
o ( k )
= p i
a n d
p ( k ) = I
i p i
i =1
i - ,
T h e s e r e q u i r e s e c o n d - o r d e r c u m u l a t i v e m o m e n t s ( s t a t i s t i c s ) .
I n o r d e r t o e v a l u a t e t h e " g o o d n e s s " o f t h e t h r e s h o l d ( a t l e v e l k ) ,
w e s h a l l i n t r o d u c e t h e f o l l o w i n g d i s c r i m i n a n t c r i t e r i o n m e a s u r e s
( o r m e a s u r e s o f c l a s s s e p a r a b i l i t y ) u s e d i n t h e d i s c r i m i n a n t
a n a l y s i s
[ 5 ] :
A = a 2 2 K = ( T 2 / a 2 W K ==/ 2 / a 2
w h e r e
2 2 2
U W
=
6 o J o U + 0 J 1 f f 1
2
= o ( p o PT ) +
1 G ( i 1
PT )
= i O O ( Y 1 -PT o ) T
( d u e t o ( 9 ) ) a n d
L
2
) p
J T =
E
( i - p 2 p
i =1
( 1 2 )
( 1 3 )
( 1 4 )
( 1 5 )
a r e t h e w i t h i n - c l a s s v a r i a n c e , t h e b e t w e e n - c l a s s v a r i a n c e , a n d t h e
t o t a l v a r i a n c e o f l e v e l s , r e s p e c t i v e l y . T h e n o u r p r o b l e m i s r e d u c e d
t o a n o p t i m i z a t i o n p r o b l e m t o s e a r c h f o r a t h r e s h o l d k t h a t m a x i -
m i z e s o n e o f t h e o b j e c t f u n c t i o n s ( t h e c r i t e r i o n m e a s u r e s ) i n ( 1 2 ) .
T h i s s t a n d p o i n t i s m o t i v a t e d b y a c o n j e c t u r e t h a t w e l l -
t h r e s h o l d e d c l a s s e s w o u l d b e s e p a r a t e d i n g r a y l e v e l s , a n d c o n -
v e r s e l y , a t h r e s h o l d g i v i n g t h e b e s t s e p a r a t i o n o f c l a s s e s i n g r a y
l e v e l s w o u l d b e t h e b e s t t h r e s h o l d .
T h e d i s c r i m i n a n t c r i t e r i a m a x i m i z i n g A , K, a n d q , r e s p e c t i v e l y ,
f o r k a r e , h o w e v e r , e q u i v a l e n t t o o n e a n o t h e r ; e . g . , K = i + 1 a n d
= ) / ( 2 + 1 ) i n t e r m s o f 2 , b e c a u s e t h e f o l l o w i n g b a s i c r e l a t i o n
a l w a y s h o l d s :
a 2 + a 2
=
5 2 1 w +
T B
( 1 6 )
t 9 " I t i s n o t i c e d t h a t
U 2
a n d
U 2
a r e f u n c t i o n s o f t h r e s h o l d l e v e l k , b u t
C T i s i n d e p e n d e n t
o f k . I t i s a l s o n o t e d t h a t c r 2 i s b a s e d o n t h e
s e c o n d - o r d e r s t a t i s t i c s ( c l a s s v a r i a n c e s ) , w h i l e ( T 2 i s b a s e d o n t h e
( 4 )
f i r s t - o r d e r s t a t i s t i c s ( c l a s s m e a n s ) . T h e r e f o r e ,
q
i s t h e s i m p l e s t
m e a s u r e w i t h r e s p e c t t o k . T h u s w e a d o p t q a s t h e c r i t e r i o n m e a s -
u r e t o e v a l u a t e t h e " g o o d n e s s " ( o r s e p a r a b i l i t y ) o f t h e t h r e s h o l d a t
( 5 ) l e v e l k .
T h e o p t i m a l t h r e s h o l d k * t h a t m a x i m i z e s t , o r e q u i v a l e n t l y
m a x i m i z e s a 2 i s s e l e c t e d i n t h e f o l l o w i n g s e q u e n t i a l s e a r c h b y
6
u s i n g t h e s i m p l e c u m u l a t i v e q u a n t i t i e s ( 6 ) a n d ( 7 ) , o r e x p l i c i t l y
( 6 )
u s i n g ( 2 ) - ( 5 ) :
l ( k )
=
u s ( k ) l / T
a 2 k =[ p 7 ( k )
- ( k ) ] 2
c B ( k =
( k ) [ 1
-
w ) ( k ) ] -
( 7 )
( 1 7 )
( 1 8 )
a r e t h e z e r o t h - a n d t h e f i r s t - o r d e r c u m u l a t i v e m o m e n t s o f t h e
h i s t o g r a m u p t o t h e k t h l e v e l , r e s p e c t i v e l y , a n d
L
PT P-
( L )
= Z
i p i
i =1
a n d t h e o p t i m a l t h r e s h o l d k * i s
( 8 )
i s t h e t o t a l m e a n l e v e l o f t h e o r i g i n a l p i c t u r e . W e c a n e a s i l y v e r i f y
t h e f o l l o w i n g r e l a t i o n f o r a n y c h o i c e o f k :
O P0 0 +O +I U 1 =P T , ( O o +U i =
I
( 9 )
T h e c l a s s v a r i a n c e s a r e g i v e n b y
k k
2 E
( i - P0 ) 2 Pr ( i C 0 ) = Z ( i - p o ) 2 p i / o ( 1 0 )
i i = i =
L L
I 2 =
E
( i
_
p l ) 2
Pr ( i
I C , )
= ( i - p ) 2 p W i , ( 1 1 )
i =k + I i k + I
2
( k *
)
= m a x o 2 ( k ) .
1 <k <L
( 1 9 )
F r o m t h e p r o b l e m , t h e r a n g e o f k o v e r w h i c h t h e m a x i m u m i s
s o u g h t c a n b e r e s t r i c t e d t o
S F
=
{ k ; ( l o o w
=
w ( k ) [ I -
( ( k ) ] > 0 , o r 0 <
o ( k )
< 1 } .
W e s h a l l c a l l i t t h e e f f e c t i v e r a n g e o f t h e g r a y - l e v e l h i s t o g r a m .
F r o m t h e d e f i n i t i o n i n ( 1 4 ) , t h e c r i t e r i o n m e a s u r e
i '
( o r
q )
t a k e s a
m i n i m u m v a l u e o f z e r o f o r s u c h k a s k e S - S * = { k ; ( o ( k ) = 0 o r
1 } ( i . e . , m a k i n g a l l p i x e l s e i t h e r C l o r C O , w h i c h i s , o f c o u r s e , n o t
o u r c o n c e r n ) a n d t a k e s a p o s i t i v e a n d b o u n d e d v a l u e f o r k e S * . I t
i s , t h e r e f o r e , o b v i o u s t h a t t h e m a x i m u m a l w a y s e x i s t s .
6 3
Authorized licensed use limited to: Purdue University. Downloaded on October 7, 2008 at 15:55 from IEEE Xplore. Restrictions apply.
I E E E T R A N S A C n O N S O N S Y S T E M S , M A N ,
A N D C Y B E R N E n C S ,
V O L S M C - 9 , N O . 1 , J A N U A R Y 1 9 7 9
I l l . DI S C U S S i O N A N D R E M A R KS
A . A n a l y s i s o f f u r t h e r i m p o r t a n t a s p e c t s
T h e m e t h o d p r o p o s e d i n t h e f o r e g o i n g a f f o r d s f u r t h e r m e a n s t o
a n a l y z e i m p o r t a n t a s p e c t s o t h e r t h a n s e l e c t i n g o p t i m a l
t h r e s h o l d s .
F o r t h e s e l e c t e d t h r e s h o l d k * , t h e c l a s s p r o b a b i l i t i e s ( 2 ) a n d ( 3 ) ,
r e s p e c t i v e l y , i n d i c a t e t h e p o r t i o n s o f t h e a r e a s o c c u p i e d b y t h e
c l a s s e s i n t h e p i c t u r e s o t h r e s h o l d e d . T h e c l a s s m e a n s ( 4 ) a n d ( 5 )
s e r v e a s e s t i m a t e s o f t h e m e a n l e v e l s o f t h e c l a s s e s i n t h e o r i g i n a l
g r a y - l e v e l p i c t u r e .
T h e m a x i m u m v a l u e t i ( k * ) , d e n o t e d s i m p l y b y 1 * , c a n b e u s e d a s
a m e a s u r e t o e v a l u a t e t h e s e p a r a b i l i t y o f c l a s s e s ( o r e a s e o f t h r e -
s h o l d i n g ) f o r t h e o r i g i n a l p i c t u r e o r t h e b i m o d a l i t y o f t h e h i s t o -
g r a m . T h i s i s a s i g n i f i c a n t m e a s u r e , f o r i t i s i n v a r i a n t u n d e r a f f i n e
t r a n s f o r m a t i o n s o f t h e g r a y - l e v e l s c a l e ( i . e . , f o r a n y s h i f t a n d d i l a -
t a t i o n , g ' = a g j + b ) I t i s u n i q u e l y d e t e r m i n e d w i t h i n t h e r a n g e
0 < q < 1 .
T h e l o w e r b o u n d ( z e r o ) i s a t t a i n a b l e b y , a n d o n l y b y , p i c t u r e s
h a v i n g a s i n g l e c o n s t a n t g r a y l e v e l , a n d t h e u p p e r b o u n d ( u n i t y ) i s
a t t a i n a b l e b y , a n d o n l y b y , t w o - v a l u e d p i c t u r e s .
B . E x t e n s i o n t o M u l t i t h r e s h o l d i n g
T h e e x t e n s i o n o f t h e m e t h o d t o m u l t i h r e s h o l d i n g p r o b l e m s i s
s t r a i g h t f o r w a r d b y v i r t u e o f t h e d i s c r i m i n a n t c r i t e r i o n . F o r e x a m -
p l e , i n t h e c a s e o f t h r e e - t h r e s h o l d i n g , w e a s s u m e t w o t h r e s h o l d s :
1 < k 1 < k 2 < f o r s e p a r a t i n g t h r e e c l a s s e s , C O f o r [ 1 , * * * , k l ] , C ,
f o r [ k 1 + 1 , , k 2 ] , a n d C 2 f o r [ k 2 + 1 , - - , L ] . T h e c r i t e r i o n
m e a s u r e o r ( a l s o q ) i s t h e n a f u n c t i o n o f t w o v a r i a b l e s k , a n d k 2 ,
a n d a n o p t i m a l s e t o f t h r e s h o l d s k t a n d
k t
i s s e l e c t e d b y m a x i m i z -
i n g r 7 :
a 2 ( k i , , k t )
= m a x o 2 ( k I , k 2 ) -
1 !k l <k 2 <L
I t s h o u l d b e n o t i c e d t h a t t h e s e l e c t e d t h r e s h o l d s g e n e r a l l y
b e c o m e l e s s c r e d i b l e a s t h e n u m b e r o f c l a s s e s t o b e s e p a r a t e d
i n c r e a s e s . T h i s i s b e c a u s e t h e c r i t e r i o n m e a s u r e ( e 2 ) , d e f i n e d i n
o n e - d i m e n s i o n a l ( g r a y - l e v e l ) s c a l e , m a y g r a d u a l l y l o s e i t s m e a n i n g
a s t h e n u m b e r o f c l a s s e s i n c r e a s e s . T h e e x p r e s s i o n o f U 2 a n d t h e
m a x i m i z a t i o n p r o c e d u r e a l s o b e c o m e m o r e a n d m o r e c o m -
p l i c a t e d . H o w e v e r , t h e y a r e v e r y s i m p l e f o r M = 2 a n d 3 , w h i c h
c o v e r a l m o s t a l l p r a c t i c a l a p p l i c a t i o n s , s o t h a t a s p e c i a l m e t h o d t o
r e d u c e t h e s e a r c h p r o c e s s e s i s h a r d l y n e e d e d . I t s h o u l d b e
r e m a r k e d t h a t t h e p a r a m e t e r s r e q u i r e d i n t h e p r e s e n t m e t h o d f o r
M - t h r e s h o l d i n g a r e M - 1 d i s c r e t e t h r e s h o l d s t h e m s e l v e s , w h i l e
t h e p a r a m e t r i c m e t h o d , w h e r e t h e g r a y - l e v e l h i s t o g r a m i s a p p r o x -
i m a t e d b y t h e s u m o f G a u s s i a n d i s t r i b u t i o n s , r e q u i r e s 3 M - 1
c o n t i n u o u s p a r a m e t e r s .
C . E x p e r i m e n t a l R e s u l t s
S e v e r a l e x a m p l e s o f e x p e r i m e n t a l r e s u l t s a r e s h o w n i n F i g s . 1 - 3 .
T h r o u g h o u t t h e s e f i g u r e s , ( a ) ( a s a l s o ( e ) ) i s a n o r i g i n a l g r a y - l e v e l
p i c t u r e ; ( b ) ( a n d ( f ) ) i s t h e r e s u l t o f t h r e s h o l d i n g ; ( c ) ( a n d ( g ) ) i s a
s e t o f t h e g r a y - l e v e l h i s t o g r a m ( m a r k e d a t t h e s e l e c t e d t h r e s h o l d )
a n d t h e c r i t e r i o n m e a s u r e
q 1 ( k )
r e l a t e d t h e r e t o ; a n d ( d ) ( a n d ( h ) ) i s
t h e r e s u l t o b t a i n e d b y t h e a n a l y s i s . T h e o r i g i n a l g r a y - l e v e l p i c -
t u r e s a r e a l l 6 4 x 6 4 i n s i z e , a n d t h e n u m b e r s o f g r a y l e v e l s a r e 1 6
i n F i g . 1 , 6 4 i n F i g . 2 , 3 2 i n F i g . 3 ( a ) , a n d 2 5 6 i n F i g . 3 ( e ) . ( T h e y a l l
h a d e q u a l o u t p u t s i n 1 6 g r a y l e v e l s b y s u p e r p o s i t i o n o f s y m b o l s b y
r e a s o n o f r e p r e s e n t a t i o n , s o t h a t t h e y m a y b e s l i g h t l y l a c k i n g i n
p r e c i s e d e t a i l i n t h e g r a y l e v e l s . )
F i g . 1 s h o w s t h e r e s u l t s o f t h e a p p l i c a t i o n t o a n i d e n t i c a l c h a r -
a c t e r " A " t y p e w r i t t e n i n d i f f e r e n t w a y s , o n e w i t h a n e w r i b b o n ( a )
( a )
5
1
(
( c )
( b )
PT , 4 . 2
K = 6
W "
=
0 . 8 1 8
w ,
= 0 . 1 8 2
( d )
( e ) ( f
PT
4 . 3
K = 6
w =0 . 8 5 8
w , =0 . 1 4 2
t ( '
( g )
( h )
F i g . 1 . A p p l i c a t i o n t o c h a r a c t e r s .
a l =8 . 8 3 1
7 =0 . 8 9 4
p O = 2 . 8
p , l = 1 0 . 1
C U T 5 . 0 5 2
n ' = 0 . 8 5 3
PO =
3 . 4
p 1 = 9 . 4
6 4
Authorized licensed use limited to: Purdue University. Downloaded on October 7, 2008 at 15:55 from IEEE Xplore. Restrictions apply.
6 5
C O R R E S PO N DE N C E
( a ) ( ) . . . . . : . .
( a ) ( b )
I I
E L |
. . 1 1
=T 3 4 . 4
K = 3 3
w , =
0 . 4 7 8
w ,
= 0 . 5 2 2
( a )
l =4 1 8 0 3 3
7 = 0 . 8 8 7
P& = 1 4 . 2
J J 1 = 5 2 . 8
( d )
. . . . . . . . .
. . : :
. . . . . . . . . . . . . . . . . . . . . . . . . . .
i , t , , ~ ~ ~ ~ ~ ~ ~ ~ ~ ~ . . . . . . . . . . . . .
( b )
p T 7 . 3
K; = 7 K2 =1 5
w ,
= 0 . 6 3 3
W ,
=
0 . 2 9 6
w 2
=
0 . 0 7 1
( d )
1 1 1 1 1 1 1 1 1 , - . . . . . .
I
( c )
2
C r 2 = 2 3 . 3 4 7
' = 0 . 8 7 3
h P= 4 . 3
1 0 . 5 = 0 5
z 2 =2 0 . 2
( c )
( e ) ( f )
( e )
' '
i l i E , , , l , , , i ~ . . . . . . . . . . .
I
* 1 ' . - . . t
( f ) - -
T 3 8 . 3
_ I . . . . . . I I I I I I I I I I I I I I
K =
3 2
w o =
0 . 2 6 6
7
w
I
=0 .
7 3 4
( g )
F i g . 2 . A p p l i c a t i o n t o t e x t u r e s .
a 2 = 1 4 3 9 8 2
7 = 0 . 7 6 7
0 e 2 0 . 8
P, =4 4 . 6
( h )
PT 8 0 . 7 C T 3 0 4 3 . 5 6 1
K: =6 1
K2 =1 3 6 7 =0 . 8 9 3
w 0 =0 . 3 9 5 PJ O =. 2 4 . 1
w ,
z
0 . 4 5 6 Pi = 9 9 . 2
W 2 =0 . 1
t 4 9
PZ =1 7 4 . 0
( g ) ( h )
F i g . 3 . A p p l i c a t i o n t o c e l l s . C r i t e n o n m e a s u r e s
f ( k t ,
k 2 ) a r e o m i t t e d i n ( c ) a n d ( g )
b y r e a s o n o f i l l u s t r a t i o n .
Authorized licensed use limited to: Purdue University. Downloaded on October 7, 2008 at 15:55 from IEEE Xplore. Restrictions apply.
I E E E T R A N S A C T I O N S O N S Y S T E M S , M A N , A N D C Y B E R N E T I C S , V O L . S M C - 9 , N o . 1 , J A N I ' A R Y 1 9 7 9
a n d a n o t h e r w i t h a n o l d o n e ( e ) , r e s p e c t i v e l y . I n F i g . 2 , t h e r e s u l t s
a r e s h o w n f o r t e x t u r e s , w h e r e t h e h i s t o g r a m s t y p i c a l l y s h o w t h e
d i f f i c u l t c a s e s o f a b r o a d a n d f l a t v a l l e y ( c ) a n d a u n i m o d a l p e a k
( g ) . I n o r d e r t o a p p r o p r i a t e l y i l l u s t r a t e t h e c a s e o f t h r e e -
t h r e s h o l d i n g , t h e m e t h o d h a s a l s o b e e n a p p l i e d t o c e l l i m a g e s w i t h
s u c c e s s f u l r e s u l t s , s h o w n i n F i g . 3 , w h e r e C O s t a n d s f o r t h e b a c k -
g r o u n d , C 1 f o r t h e c y t o p l a s m , a n d C 2 f o r t h e n u c l e u s . T h e y a r e
i n d i c a t e d i n ( b ) a n d ( f ) b y ( ) , ( =) , a n d ( * ) , r e s p e c t i v e l y .
A n u m b e r o f e x p e r i m e n t a l r e s u l t s s o f a r o b t a i n e d f o r v a r i o u s
e x a m p l e s i n d i c a t e t h a t t h e p r e s e n t m e t h o d d e r i v e d t h e o r e t i c a l l y i s
o f s a t i s f a c t o r y p r a c t i c a l u s e .
D. U n i m o d a l i t y o f t h e o b j e c t f u n c t i o n
T h e o b j e c t f u n c t i o n 5 2 ( k ) , o r e q u i v a l e n t l y , t h e c r i t e r i o n m e a s u r e
1 ( k ) , i s a l w a y s s m o o t h a n d u n i m o d a l , a s c a n b e s e e n i n t h e e x p e r -
i m e n t a l r e s u l t s i n F i g s . 1 - 2 . I t m a y a t t e s t t o a n a d v a n t a g e o f t h e
s u g g e s t e d c r i t e r i o n a n d m a y a l s o i m p l y t h e s t a b i l i t y o f t h e
m e t h o d . T h e r i g o r o u s p r o o f o f t h e u n i m o d a l i t y h a s n o t y e t b e e n
o b t a i n e d . H o w e v e r , i t c a n b e d i s p e n s e d w i t h f r o m o u r s t a n d p o i n t
c o n c e r n i n g o n l y t h e m a x i m u m .
I V . C O N C L U S I O N
A m e t h o d t o s e l e c t a t h r e s h o l d a u t o m a t i c a l l y f r o m a g r a y l e v e l
h i s t o g r a m h a s b e e n d e r i v e d f r o m t h e v i e w p o i n t o f d i s c r i m i n a n t
a n a l y s i s . T h i s d i r e c t l y d e a l s w i t h t h e p r o b l e m o f e v a l u a t i n g t h e
g o o d n e s s o f t h r e s h o l d s . A n o p t i m a l t h r e s h o l d ( o r s e t o f t h r e -
s h o l d s ) i s s e l e c t e d b y t h e d i s c r i m i n a n t c r i t e r i o n ; n a m e l y , b y m a x i -
m i z i n g t h e d i s c r i m i n a n t m e a s u r e q ( o r t h e m e a s u r e o f s e p a r a b i l i t y
o f t h e r e s u l t a n t c l a s s e s i n g r a y l e v e l s ) .
T h e p r o p o s e d m e t h o d i s c h a r a c t e r i z e d b y i t s n o n p a r a m e t r i c
a n d u n s u p e r v i s e d n a t u r e o f t h r e s h o l d s e l e c t i o n a n d h a s t h e f o l l o w -
i n g d e s i r a b l e a d v a n t a g e s .
1 ) T h e p r o c e d u r e i s v e r y s i m p l e ; o n l y t h e z e r o t h a n d t h e f i r s t
o r d e r c u m u l a t i v e m o m e n t s o f t h e g r a y - l e v e l h i s t o g r a m a r e
u t i l i z e d .
2 ) A s t r a i g h t f o r w a r d e x t e n s i o n t o m u l t i t h r e s h o l d i n g p r o b l e m s
i s f e a s i b l e b y v i r t u e o f t h e c r i t e r i o n o n w h i c h t h e m e t h o d i s b a s e d .
3 ) A n o p t i m a l t h r e s h o l d ( o r s e t o f t h r e s h o l d s ) i s s e l e c t e d a u t o -
m a t i c a l l y a n d s t a b l y , n o t b a s e d o n t h e d i f f e r e n t i a t i o n ( i . e . . a l o c a l
p r o p e r t y s u c h a s v a l l e y ) , b u t o n t h e i n t e g r a t i o n
( i . e . ,
a g l o b a l
p r o p e r t y ) o f t h e h i s t o g r a m .
4 ) F u r t h e r i m p o r t a n t a s p e c t s c a n a l s o b e a n a l y z e d ( e . g . , e s t i m a -
t i o n o f c l a s s m e a n l e v e l s , e v a l u a t i o n o f c l a s s s e p a r a b i l i t y , e t c . ) .
5 ) T h e m e t h o d i s q u i t e g e n e r a l : i t c o v e r s a w i d e s c o p e o f u n -
s u p e r v i s e d d e c i s i o n p r o c e d u r e .
T h e r a n g e o f i t s a p p l i c a t i o n s i s n o t r e s t r i c t e d o n l y t o t h e t h r e -
s h o l d i n g o f t h e g r a y - l e v e l p i c t u r e , s u c h a s s p e c i f i c a l l y d e s c r i b e d i n
t h e f o r e g o i n g , b u t i t m a y a l s o c o v e r o t h e r c a s e s o f u n s u p e r v i s e d
c l a s s i f i c a t i o n i n w h i c h a h i s t o g r a m o f s o m e c h a r a c t e r i s t i c ( o r f e a t -
u r e ) d i s c r i m i n a t i v e f o r c l a s s i f y i n g t h e o b j e c t s i s a v a i l a b l e .
T a k i n g i n t o a c c o u n t t h e s e p o i n t s , t h e m e t h o d s u g g e s t e d i n t h i s
c o r r e s p o n d e n c e m a y b e r e c o m m e n d e d a s t h e m o s t s i m p l e a n i d
s t a n d a r d o n e f o r a u t o m a t i c t h r e s h o l d s e l e c t i o n t h a t c a n b e
a p p l i e d t o v a r i o u s p r a c t i c a l p r o b l e n m s ,
A c K N O W L E DG M E N T
T h e a u t h o r w i s h e s t o t h a n k Dr . H . N i s h i n o , H e a d o f t h e I n f o r -
m a t i o n S c i e n c e Di v i s i o n , f o r h i s h o s p i t a l i t y a n d e n c o u r a g e m e n t .
T h a n k s a r e a l s o d u e t o Dr . S . M o r i , C h i e f o f t h e Pi c t u r e Pr o c e s -
s i n g S e c t i o n , f o r t h e d a t a o f c h a r a c t e r s a n d t e x t u r e s a n d v a l u a b l e
d i s c u s s i o n s , a n d t o Dr . Y . N o g u c l i f o r c e l l d a t a . T h e a u t h o r i s a l s o
v e r y g r a t e f u l t o Pr o f e s s o r S . A m a r i o f t h e U n i v e r s i t y o f T o k y o f o r
h i s c o r d i a l a n d h e l p f u l s u g g e s t i o n s f o r r e v i s i n g t h e p r e s e n t a t i o n o f
t h e m a n u s c r i p t .
R E F E R E N C I E S
[ 1 ] J . M . S . Pr e w i t t a n d M . L . M e n d e l s o l h n , " T h e a n a l y s i s o f c e l l i m a g e s , " n n .
A c a d . S c i . , v o l . 1 2 8 , p p . 1 0 3 5 - 1 0 5 3 , 1 9 6 6
[ 2 ] J . S . W e s z k a , R . N . N a g e l , a n d A . R o s e n f e l d , " A t h r e s h o l d s e l e c t i o n t e c h n i q u e . "
I E E E T r a n s . C o m p u t . , v o l . C - 2 3 , p p . 1 3 2 2 - 1 3 2 6 , 1 9 7 4
[ 3 ]
S . W a t a n a b e a n d C Y B E S T
G r o u p .
" A n a u t o m a t e d a p p a r a t u s f o r c a n c e r
p r e s c r e e n i n g : C Y B E S T , " C o m p . G r a p h . I m i a g e Pr o c e s s . v o l . 3 . p p . 3 5 0 - - 3 5 8 , 1 9 7 4 .
[ 4 ] C . K. C h o w a n d T . Ka n e k o , " A u t o m a t i c b o u n d a r y d e t e c t i o n o f t h e l e f t v e n t r i c l e
f r o m c i n e a n g i o g r a m s , " C o m p u t . B i o m e d . R e s . , v o l . 5 , p p . 3 8 8 - 4 1 0 , 1 9 7 2 .
[ 5 ] K,
F u k u n a g e ,
I n t r o d u c t i o n t o S t a t i s t i c u l Pa t t e r n R e c o g n i i t i o n . N e w Y o r k :
A c a d e m i c , 1 9 7 2 , p p . 2 6 0 - 2 6 7 .
B o o k R e v i e w s
O r t h o g o n a l T r a n s f o r m s f o r Di g i t a l S i g n a l Pr o c e s s i n g - - - N .
A h m e d a n d K.
R . R a o ( N e w Y o r k : S p r i n g e r - V e r l a g , 1 9 7 5 , 2 6 3
p p . ) . R e v i e w e d b y L o k e n a t l h
De b n a t h , De p a r t m e n t s o f M a t h e m a t i c s a n d Ph y s i c s ,
E a s t C a r o l i n a U n i t e r -
s i t y , G r e e n v i l l e , N C 2 7 8 3 4 .
W i t h t h e a d v e n t o f h i g h - s p e e d d i g i t a l c o m p u t e r s
a n d t h e
r a p i d
a d v a n c e s
i n d i g i t a l t e c h n o l o g y , o r t h o g o n a l t r a n s f o r m s h a v e r e c e i v e d c o n s i d e r a b l e
a t t e n t i o n i n r e c e n t y e a r s , e s p e c i a l l y
i n t h e a r e a o f
d i g i t a l s i g n a l p r o c e s s i n g .
T h i s b o o k p r e s e n t s t h e t h e o r y a n d a p p l i c a t i o n s
o f d i s c r e t e
o r t h o g o n a l
t r a n s f o r m s . W i t h s o m e e l e m e n t a r y k n o w l e d g e
o f F o u r i e r s e r i e s t r a n s -
f o r m s , d i f f e r e n t i a l e q u a t i o n s , a n d m a t r i x a l g e b r a
a s
p r e r e q u i s i t e s ,
t h i s
b o o k i s w r i t t e n a s a g r a d u a t e l e v e l t e x t f o r e l e c t r i c a l a n d
c o m p u t e r e n g i -
n e e r i n g s t u d e n t s .
T h e f i r s t t w o c h a p t e r s a r e e s s e n t i a l l y t u t o r i a l a n d c o v e r
s i g n a l r e p r e s e n -
t a t i o n u s i n g o r t h o g o n a l f u n c t i o n s . F o u r i e r m e t h o d s o f r e p r e s e n t a t i n g s i g -
n a l s . r e l a t i o n b e t w e e n t h e F o u r i e r s e r i e s a n d t h e F o u r i e r t r a n s f o r m , a n d
s o m e a s p e c t s o f c r o s s c o r r e l a t i o n . a u t o c o r r e l a t i o n . a n d c o n s o l u t i o n . T h l e s e
c h a p t e r s p r o v i d e a s y s t e m a t i c t r a n s i t i o n f r o m t h e F o u r i e r r e p r e s e n i t a t i o n
o f a n a l o g s i g n a l s t o t h a t o f d i g i t a l s i g i a l s .
T h e t h i r d c h a p t e r i s c o n c e r n e d w i t h t h e F ' o u r i e r r e p r e s e n t a t i o n
o f
d i s c r e t e a n d d i g i t a l s i g n a l s t h r o u g l h t h e d i s c r e t e F o u r i e r t r a n i s f o r n m ( D) [ I ) .
S o m e i m p o r t a n t p r o p e r t i e s o f t h e DF T i n c l u d i n g t h c c o n v o l u t i o n a n l d
c o r r e l a t i o n t h e o r e m s a r e d i s c u s s e d i n s o m e d e t a i l , T h e c o n c e p t o f a m p l i -
t u d e , p o w e r . a n d p h a s e s p e c t r a i s i n t r o d u c e d . I t i s s h o w n t h a t t h e 1 ) 1 F i s
d i r e c t l y r e l a t e d t o t h e F o u r i e r t r a n s f o r m s e r i e s r e p r e s e n t a t i o n o l d a t a s c -
q u e n c e s t X ( r n ) ) . T h e t w o - d i m e n s i o n a l Dl F T a n i d i t s p o s s i b l e e x t e n s i o n i t o
h i g h e r d i m e n s i o n s a r e i n s e s t i g a t e d . a n d t h e c h a p t e r c l o s e s " i t } h ; o m c
d i s c u s s i o n o n t i m e - v a r y i n g p o w e r a n d t p h a s e s p e c t r a .
6 6
Authorized licensed use limited to: Purdue University. Downloaded on October 7, 2008 at 15:55 from IEEE Xplore. Restrictions apply.