input u y F Δ H x - Portland State University · Actual (sampling) Linearized (EKF) UT sigma...

50

Transcript of input u y F Δ H x - Portland State University · Actual (sampling) Linearized (EKF) UT sigma...

������� �

�� �� ����� ������ ������

���� �� �� � �� ��� �� �� �����

���� ����������

��������

�� ���� ��� ��� �������� ����� ���� � ��� ��� ���� ���� �� ��� �������� ��������� ������������� ��������� ��������� ����������� ��� �� ��������� ������� �������� ��� �� ���� ������ � �� ������� ��������� ����������� �� ���� ������� �� ����� ��� ��� ������ ��� �������������� !��� �� ��� �� ��� ������� �� ����������� "���� ���� ����������� �������� �� ���� �� ��� ��� ���� ��������� �������� �� �� ��� ��������� ����� ���� �#��� ��� "��� �������� � $������� �� %&' && &() ��� ������� ��������� � *�� ��� ��� ��� +���� %,' ,( '- ,.)�

��� ����� ��/������ ������� ��� �� ��� #�� ����� ���� ��� ������ �� ����� 0������������� ��������� �012� ��� ����������� ��� ����������� ������� � ���� � ������� �� ��� ����� ����� ������������ �� �����3������ � � 012 ����� �� ���� ���������� ���� ������ ���������� "���4����� �������5����� �� ��� ��������� � ����� ���� ��� ��������� ����� ������ �� ��� ������������� ���� ��� ���������� �� ��� ����������� 012 ����� �� ���� �� ���4������� �������������� ��������� ���������� �� ��� "����� ��� #�� ��������� ���� ������� � ����� � ��������������������� ��������� ��� ����� ������������ �� ����� �����3������ � � 012 ��� �� ��� ���������������� � ������� ��� �� �������� ������ ������ ������� ����� ������ ������ ��������� ������� ������� ���� ��� ���������� �� ��� 012 ��� ���� ���������� ������� ��� ���� ��������� � ������������ ��� ��������� ���� ��� ���������� ��������� �� ��� &�� ����� ��� ��� ������ �3����������� ��� ����������� � ��� �� �� �������� ��� �������� "���4����� ������� � 6� �3������ $��������� 7������ ������������ ��� �������� ��� ��� #��� 1������� ��� ������������� ������3�� ����� #�� �� ��� ���� ����� �� ���� �� ��� ���

$����� ��� #����� ������������ ��� ����������� ����������� ����� �� ��� #�� �� ��� �����3� ������� ���������� ��� ��������� �������� 8 ������ �� ����������� ������� ���� ���� �������� ���� ����4��� ������� ���� ��� ��� �������� �3�������� �� � ������� ����� �� ��������� ���������� ����������������� ��������� � ���� ������"������ �������� �� ������ ������� ��� ���� ���������� ���������8��������� �������� �������� ��� ����������� �� �� #�������� ������ � ���� �#�9� �����"��4���� �� ������ ��������� �������� � ��������������� ��� � ����� ��� �� ��� #�� �� ������� ������������� %'-)�

��� ����������

��� ��������� ������ "���� �#��� ���������� � ����������4���� ����������� �� ��� �3������ ������"���� � ��� ��� �������� �������� ����������� �� �� ���������� ������������� ������3�� � ������������ ��� #�� �� ���� ����� � ������ �� ����������� ����� �� ��������� ���������� �� �������� �� ��� ���� �������� 0������ ����������� ����� �� �� ������� ���� ����� ������� � ��������������� � ����� �������� ��� ������� �� � ������ ������� ��� ���� ������� � ����� ��� 3���������+�3���5����� � +� ����������� ��� �� ����� ����� ����� �����"� ������������ �� ��� #�� �� ����� ���� �� ��������� �� ����� 8� �������� �� ��� �������� ��� ����� ����� �� ����! �������� ��3��

����� ���������

��� ����� �������� ��� ��� �� �������� ���������� �� ��� ����� �� � ��������4���� ���������� ����� � ����

��� : ��� ���� �� �;�<�

�� : ��� ���� �;�&�

����� � ��������� ��� ���������� ����� �� ��� � ���� �� �� � ���� �3������� ����� ��� �� �� ����������� ����������� ������� ��� �� ���� ����� � ������ ��� � ����� � ���� ��� ��� �������� �

<

���� ����������

kuky

kx

kv kn

1k+xΔF H

input

process noise measurement noise

output

state

kx

������ ;�<= ������������ ���� � �� �� �����

����� �� ����� � �� 6��� ���� �� ��� ��� �������� ��������� �� ��� ����� �������� ��� � ����� ����� ����� � ��� � ��� ������� ����� 8 ������ ���� ������� �� ���� � ���� �� ����� �������� ;�<� �� ����� ���������� ��� �� �� ��� �������� ������ �� ������ �� ������� � ���������������3������ ��3����4��������� ���������� �� ��� ����� �� ��� ������������ �� ���� ������ ��� �� ��� ��� ������ ��� ����������� �� 9������ ;�& �� ���� �������� ��� ������������ �� ��� #����� ����� ���������� �� 9������ ;�(�

��������� ���������

>�������� ���������� ��������� �������� �� �� � ���� ������"������ �� ������� �������� ������������������� � ��������� �������

�� : ������ �;�(�

����� � �� ��� ����� �� �� ��� ������ ��� ��� ��������� ��� ���� �� ����������5�� � ��� �������� ��� ��������� ��� ��� �3����� �� �� � ����������� �� ��������� ������ ������ �� ��� ����������� ���� �������� ������������ �� ���������� ������"������ ��� � ����� ��������� ?������������������ �� ���������� ��� ���������� �� � ������ � �������� ��� �� �������� ���� ������ ��������������� �� ���� ����� ��� ������� ������� ������� ��� ����� �� ��� ������� �� ��"��� ���� : �� � ������ ��� ��� ���� �� �������� �������� ������� ��� ��� ���������� � �� ����� ��������5� ��� �3��������� �� ���� ����� �������� �� ��� ������

*���� � ������ �� ������5����� ���������� �3��� ����� �������� ������� ����� ������������������ �� �� �� ���� �� �������� ��� ���������� � ������� � ��� �����4����� ��������������

���� : �� @ �� �;�'�

�� :��� ���� @ �� �;�,�

����� ��� ���������� �� ���������� �� � ��������� ������� ���� ������� ����� ���������� �����3������ � ������� ����� �� ���� ������ �� �������� ���������� ����������� ��� ������� �������������� ���� �� ��������� �� ������� ������ �� ������� ;�'�� ��� ������ �� ����������� �� � �������������������� �� ��� ��� �� ��� ���� �� ������� ������� �� �� ������ A������4�����B ������������ �������� ��� ����������� ��� ��� �� ��� �� ��� �������� ������ ������� ��� ���� ���������� 9������ ��� *� %';) ��� >�������� ��� ������� %'<) ��� �� ������� �� C������ & �� ���� ��3����� ��� �� ��� #�� �� ���� ���� �� ��������� �� 9������ ;�'�

���� ���������

8 ������� ���� �� ������� �������� ������ ���� ��� ����� � �� ���������� ��� �������� �������� ��������� ���������� ��� ��������� ����������� ��� ����� ���� ������� � �������� �� ����� ��������

&

���� � ����� �������� ���������� �� ��� ���

� ��������4���� ��������� � ����� � ����

��� : ������� ���� �;�D�

�� : ��������� �;�;�

����� ���� ��� � ���� ������ � ��� ��� ��� �� ����� ���������� � ��� ��� � ����� � ���� ������ ������������� ��������� ���� ��� ��� �������� ���� ������ ��� 3����� ������������ ��������������� ��������� ������� ����� ��������� ����� ������ �� ����� ������������ ����������� ��� ��4���� ��� ����� �� "������� ����4������ ���� 8 ������� ����������� ��� ����������� �������� ��� ���������� ����� ���������� ��� ��������� �� C������ , �� ���� ��3�� 8� 3���������4+�3���5������������� ��� ���� ������� �� C������ D� 8��������� �� ���� ���������� �����5��� ��� #�� ��� ��4������� �� 9������ ;�,�

�� ��� ��3� ������� �� ������ ������� ���������� �� �3����� ��� ����� ����������� ��� !������� ��� ��� ���� ���� �������� ��� ��� �� ��� #�� �� � ������ �� ����� ����� !���� 8 ������������������� �� ��� #�� �� ����� �� 9������ ;�(� ��� ��������� �� ��� ������� ���� ���� �� ������������ �� ��� ����������� ����� �������� ������ *� �������� ��� ������� �� 9������ ;�D ���� ������������ �������� ������ �� ����� ��� #�� �� ���� �� ������� ���������� +���� C���� ����� "��������������� 8������3 8 �������� � ���������� �� ��� ������� �� ��� #��� 8������3 E ������� �������� �������� � �������������� �� ��� #���

�� ������� �������� ���������� �� ��� ���

0���� ������������ �� ��� ���� �� �� �������� ��� ����� � � *� ��� �� ����������� ����� ��������� �� ��� � ���� � ������ �� ���� ������ ��� ������� �������� �� ��� ������� ����4������������ �++9 � ����� �� ����� � ��� ����������� ����=

F� : ������

�� �;�G�

����� ��� �� ��� �������� �� ������������ �� �� ���� �� ��������� �� ���� �3��������� ��������

�������� �� ��� � � ����� �� ������ ������� �

�� 0���� ���� ������ �� ��� ��������� ��� ��� ���++9 ��������� ��� �� A����B ��������� ����� � �����"�� ����������� ���������� ��� ��������� ����������� ��� � � ����� � ������ �� �� ������� �������� �� �� ��� E� ����� �������� ��� ����� ��������� ���������� ��������� �� ��� ��������� ���������

������� � :

��������� ����� ���

���������� �

�;�-�

�����

��� ������ � :

�������������������

� ����� �;�<.�

��� ��� �������5��� �������� ���� ���� � �� ����� �

���������� � :

���� �����

� ����� ����� �;�<<�

����� ���� �� �� �� ���� ��� �� ����� �� ����� � ��� ������� � �� ��� �� �� �� �� � ���� ��������

(

���� � ����� �������� ���������� �� ��� ���

���� ��������� �����"�� ��� ������� ����� ������ �� � �������� �� ��� �������� ������ ��� ��� ���������� ����������� ����� ��� �����4����� ����� ����� ���� ��� � ������ ��� ��� �����4�������������������� ��� ����� ��� ����������� ���������� �� ��������� ���� ���� 9����"���� ���������� ���������� � ��� ����������� ����� ������ �� �� ���� ��� �����4������ ��������

��� : ������� ��� �;�<&�

��� �3����� ����� �� �������� ����� ����� ���� 0������� ������ �� �� : � �.���� ���� �������� :� ��������������

��� 9������� ���� ��� �� ���������� � ��� ����������� ����� ������ ���� ������ ����������� ��������

�� : ��� ���� �;�<(�

�� ��������� �������� �� ����� ��������� ��� ��� ������� ��������� ������� : ��������������������������� ��� ���

� � ��� ��� �� #����������� ��� �����4����������� ����������� ��������� � ���4����� ;�- ;�<. ��� ;�<< ���� � ������ ���� �������� ����������� ��� ���� � ������ ��� ��� ��������������� �� �� ���� +����4C���� �������� ���������� ���� ���������� ������� ��������� �� "�������� ����� �������� �� ��� ���� �������� �� ��� ������ ��� �������� ���� ��������� �� ��� ����������� �� ���� ������� �� �� �3����� �� ���� �� ���������

�� �� ��� ��� ����� ���������� ���� ��� ��������� ������ 0������� ���� ��� E� ����� ������������ �� ������ ������"��� �� ���� ���� ��� ��� ����������� ���� F� : �

�� ���

���� ����������

��� ���� �� �� ���������� �� �� ��������������� �� ���� ���� ���� ����� �� ��� ��������� ����������

F� : ����������� �� �� @�� � %�� � ����������� �� ���) �;�<'�

��� : �������������

� � �;�<,�

*���� ���� �� � ������ ��������� �� ���� ��� ������� �������� �� ��� ������ ��� ������� ����� ������ ��������� ��� ����� �

F�� : � %����� ������ ����) �;�<D�

�� : ��������������

�;�<;�

F��� : � %���� ���)� �;�<G�

����� ��� ������� ���������� ����� ����� ����� �� � �� ������� �� F�� ��� ����������� �� ����3��������� �� � ��������� �������� �� ��� ������ ��������� ��� ��� ��� �������� ����������������� ��� ������� ���������� F��� �� ��� ������� ���� ���� �� �� �3������� �� � �������� �� ������������������� �������� ����� H�� : �� � F��� �� 6��� ���� ���������� �� ��� ���������� ����� ���� ������������ �3���������� �� � ��������� �������� �� ��� ����� ����� ��������� ��

���� ��� ���������� �� ���

���������� �� � ��� ���� �� ��� ���������� �� H������ ���������� ������ "���� %&,) ���������� ��� ����� �� ����� ��������� �3���� �� ��� ������

���� ��� ��� �� ������ �� �� ������ ������ ��� ���� ������ ����������� � 012 ������� ������� ���� � ������� ��� ��������� ������ ������� ��� �� ���� ������ ��� ������� ����� ��=

F�� � ��F��������� I � �;�<-�

�� � F�����F���������

�;�&.�

F��� � ��F�� � I�� �;�&<�

����� ����������� ��� �����3������ ����� �� ��� �������� �� ��� ����� ��� ����� ��� �3���������������� ��� ����������� ��� ���������� � �������5��� ��� � ����� ��������� ���� � �� @

���� ���� ���� �� ������ �� �� � ���� �� �� � ����� �� �� ������� ������� �� ����� ����

'

���� ��� ������� ������ ������

����@� �� �� � ��@��� ��� ���� ����������� ��� ��������� ���������� �������� ���� ������ ��� ��� ������ � ����� �� ����� ����� �� ��� �� ��� ����� ������������ �� �����3������ � �012 ����� �� ���� ���������� ���� ������ ������� ��� A"���4�����B �������5����� �� ��� ���������� ����� ��� �3������ ��������� ��� ��� �� ��� ����� �� ����� ;�&� 8� ���� ��� �� ��� �������� �� ��������� A"���4�����B �����3�������� �� ��� ������� ������� ����� �����3��������������� ��� ��������� ����� ������ �� ��� ���� ��������� ���� ��� ���������� �� ��� ������������0�������� ������ �������� ����� �� ���� �� ���4������� ����������� ��� ��������� ������������ ��� "������ �� �� ����� A!���B ����� ���� �� ��������� �� ��� ��3� ������� ����� ��� #���

��������5� ����=

F� : � %� ) �;�&&�

��� : � %�� � F���� � F��� ) �;�&(�

��� � �<� � � � �� ��� ���� ������ ��������� �� ��� �3������ ������ "���� ���=

F�� : ��F��������� I � �;�&'�

����

: �������������� @���

���� �;�&,�

��� ��� ����������� ������ ���������=

�� : ������� ����

������ @���

���� �

�� �;�&D�

F� : F�� @����� ���F�� � I�� �;�&;�

��� : ������������

� �;�&G�

�����

�� �������� I �

��������

� �� ����F�� ���� �

������

� �� ����� I�

��������

� �� ����F�� ��

������

�;�&-�

��� ����� �� ��� �� ��� ��� ����������� �� � ��� � ����������� �

����� !"!#$ ������� � � ����� ����� ��� ����

��� ��� �������� ������ ������

��� #�� ��������� ��� �����3������� ������ �� ��� ��� ��� ����� ������������ �� ����� ������������ � 012 ��� �� ��� �����"�� ����� � ������� ��� �� �������� ������ ������ ������� ����� ������������ ��������� ������� ��� ���� ���� ��� ���������� �� ��� 012 ��� ���� ���������� �������

������ ������ ���! ������ �" ��� #$% �&���� ���� ������� �� ��������� �� ��� �������� ��� ��&������ �� ������ ���� ����

�' � ��� �������� �� �� ��� ��� !(�� ���! � ���� �� ��� �������� ��� ����� �)�������� ������� ���#$% �������� �� ��� ���� ���� ��� �� ���(�* ��� ����� ����� �������� �� ��������* ��� ������������������ +� �� �� ���� �" �����* ����� �"����� ��� ��� ����� #$%� �� ������� � ��� ���� �" ��*�(����������� � ��� ��������� "����� �,-�� �� ���� �� �"���� � ��� ���� �� ��� .$% �� ���� ����� ����*�� ������ ������ ��� ���� �� ��� ��� �� ������ ��� .$%�

,

���� ��� ������� ������ ������

��� ���� ���4������ � ���� �������� ��� ��������� ���� ��� ���������� ��������� �� ��� &�� �������� ��� ������ �3�������� ��� ��� ����������� � �� ��������� �� ���� �� ����� � �3�������� ������������ ������ ���� ��

%�&���� ����'�������

��� ��������� �������������� �#�� �� � ������ ��� ����������� ��� ���������� �� � ������ ������������� ��������� � ��������� �������������� %&()� C������� ����������� � ������ �������� ���4������� �� ������� � ��������� �������� � : ��� 8����� ��� ���� I ��� ���������� ����� ��������� ��� ���������� �� � �� ���� � �����3 � �� &� @ < ���� ������� �� ��������� �� ������������=

�� : I �;�(.�

�� : I@��

��@ ���

��

� : <� � � � � �

�� : I���

��@ ���

����

� : �@ <� � � � � &�

����� : ���� @ � � � �� � ������� ���������� ��� �������� � ���������� ��� ������ �� �������� ������ ������ I ��� �� ������ ��� �� � ����� �������� ����� ����� < � � � <� � '�� ����������� �� � �������� ������� ��������� ����� �� ������ ��� �� . �� (� � ���� %&') ��� ����������� � �� ���� �� ����������� ����� �������� �� ��� ������������ �� ���� 0������� �������������� : & �� ��������� �

���@ ����� �� ��� ��� ������ �� ��� �����3 ������ ���� ����� ����� ����������

C����� �������5������� ����� ����� ������� ��� ���������� ������� ��� ��������� ��������

� : ���� � : .� � � � � &� � �;�(<�

��� ��� ���� ��� ���������� ��� � ��� �����3������ ����� � �������� ������ ���� ��� ������������ ��� ��������� ����� ������

I� ������

����� � � �;�(&�

�� ������

����� �� � � I�� �� � � I��� �;�((�

���� ������� �� ����� �

����� : ���@ � �;�('�

����� : ���@ � @ �<� �� @ ��

����� : �

���� : <��&��@ �� � : <� � � � � &��

8 ���� ������� ������������ ��� ����� �� ���������� ��� #� �� ����� �� ������ ;�&� 6��� �������� ������ ��/��� ������������ ���� ������� +����4C���� �������� ������� ����� ������� �������� ��������� ���� ������ ������ �� �� ������� �� ��������� �� �������� �������� ���40�������������������� �� ��� ������ ��� ���������� ������ �������� ���� ���� ��� #� ������� �� �����3���4����� ���� ��� �������� �� ��� (�� ����� ��� 0������� ������ ��� ��� ��������������� ��� ���40������������� �����3�������� ��� �������� �� �� ����� ��� &�� ����� ���� ��� ������� �� ����� ��� ������

D

���� ��� ������� ������ ������

γ

x

Px

{ } x xiχ γ γ⎡ ⎤= + −⎣ ⎦x x P x P

( ) f

Weightedsample mean

Weightedsample

covariance

y

Py

i�

+-

( )Lγ λ= +

������ ;�&= ����� �� �� �� ��� ��

����� ������� ���������� � ��� ������ �� � ��� �� ��� ����� �� ���� �� �������� �� 8������3 8�2������� ������� ���� ��� #� ��� ���� �� ������ � �������� �� �� � ��������� ��������� ������ ��������� ���������� ��������� ���������� �� ���������� ��� ��� J���� %<-) ������� ������ ��� ��������������� ��� #� ��� ��� ������ ����� ���������� ���� �� ��� �����3� �� ����� ����������� 8 �������������� ���� �3���� ������� ��� #� ��� ��� ������� ��!������ ������ ���� � ����� "������� �CK������������ ��������� ��������� � ��� ��� J���� %<-) ��� 6L������ >������ ��� 1��� %(-)� ��%,.) ��� ��� +���� ��� *�� ����� ��� ��� #�� ��� CK� ��� �� ���"�� �� � ������� ����� ����������������� ������ "����� ��� ��������� �����������

8 ������ �3����� �� ����� �� ������ ;�( ��� � &4����������� � ����= ��� ���� ���� ����� ��� �������� ��� ���������� ����������� ����� +����4C���� ��������M ��� ������ ����� ���� ��� ������������ � �������5����� �������� �� ����� �� ���� �� ��� ��M ��� ����� ����� ���� ��� ������������� ��� #� ����� ��� , ����� ������ ��� ���������� ��� �������� ����������� �� ��� #� �� ������

%�&���� (���� ������

��� ��������� ����� ���� �#��� �� � ��������������� �3������� �� ��� #� �� ��� ��������� ����4������ �� ������� ;�<' ����� ��� ����� 12 �� ����"��� �� ��� ������������� �� ��� �������� �������� ����� ���������= � : %�� �� �� )

� � ��� #� ����� ����� ��������� ������ � ������� ;�(.� ��������� �� ���� ��� ��������� ����� 12 �� ��������� ��� ������������� ����� �����3 �

�� ���#�� ��������� ��� ����� �� ����� ;�(�<� 6��� ���� �� �3������ ����������� �� $�������� �� 7���������� �������� �� ��������� ���� ���������� ����������� ��� ������� ������ �� ������������ ������ ���� ����� �� ��� ���

�+ ��� ����� ����� ��� /���� 0����� ��� �� *��� ������� �1�2 ��

�����

�� ���

��� ���1��2� ���� ��� ��������

����� "� ��� ���������� �1�2� �" ��*�� � �� ,� � 3 �� ��� �������� ���� �� �� ���*��� �� �� ��������������* �� ��� ��� �� � 14�� �35� "� ������2� %� ��*�� �������� ��� /���� 0����� ��� ������ � ��� ����" �� "������� ����������� ���� � �� ��� ������� �" ��� ������ %� ��� ����� ����� ��� .� ���� � � 3 � -�� � � , �������� ���� ��� ���� ��� /���� 0����� �������� ����

;

���� ��� ������� ������ ������

Actual (sampling) Linearized (EKF) UT

� � ���� �� � �����

�� � �����

�����

� � ��� �

�����

sigma points

true mean

UT mean

and covarianceweighted sample mean

mean

UT covariance

covariance

true covariance

transformedsigma points

������ ;�(= �� ��� �� ��� �� ��� � � �� �� �� ���� � ���! � ��� �" #� ���������� ��� ��$ ���

�����" �� ��!

��)��������� *��������

��� ��� ������� ���� ����� ������ ���� ����� ��� ������� ��� ����������� ����� ��� ����� ����������� ������������� ������3�� �� ��� #�� ��� �� �������� �� ���� � ���� ��� � ���� ����� ���� ����� ��������� ���� ��� ����� 12N�� ���� ������� ��� ��������� �� ��� ����� ������ �� ���� �� �������� ������ �� ����� ������ ����� ��� ����������� �� ��� ����� ������� ��� ���� ������������ ������� ����� ���������� ����� � ������ �������� ���������� ���� �������������� �� ����� �� ����� ;�(�&���� ������3�� �� ��� ��������� �� ����� �� ����� � �� ��� ��������� �� ��� ������ ���� �� ������� ������3�� �� ��� ��� ��� ���� ����� ��������� �� �� ������� ��� ������ ����� ���������������3 ��

� � K�������� �� ��� ���� �� � ���� �� �� ������"�� ���� ��� ���������� ����4������ ������ ��������� ���������� ���� 9������ ;�'� ��� ������3�� ������� �� ����� ���

8 ������ �� ���������� ��� ��������� �������� ��� ���� ��������� ��� �3����� ��� �����3 ���������� ����� ��� �� ����������� ������� ����� � C����� �������5����� �� �� ������� ����� ���D�7������ ��� ���������� �������� ��� �3������� ���������� ��� ���� ��� ������4���� ��� �� ���4����� �� ��� ����� ���� �� �� ��� ��������� �� ��� ������ ��� � ���������� � ��������� �������� ��� C����� �������5������ K������ �� �� ������ ��������� ������4���� #�� �������������� ������� �� 8������3 E�

G

���� ��� ������� ������ ������

��������5� ����=

F� : � %� ) �;�(,�

�� : � %�� � F���� � F��� ) �;�(D�

F� : � % ) : %F�� + +)� �;�(;�

�� : � %�� � F���

� � F��

� ) :

�� + +

+ �� +

+ + ��

�� �;�(G�

��� � �<� � � � ��C�������� ����� ������=

���� :

F��� F��� @ �

����� F��� � �

�����

��;�(-�

���� ������=

������� : �%� �

�������������) �;�'.�

F�� :

�����

����� � �

������� �;�'<�

��� :

�����

����� %� �

������� � F�� )%� �������� � F�� )

� �;�'&�

������ : �%� ��������

����) �;�'(�

F��� :

�����

����� ������� �;�''�

+���������� ������ ���������=

������� :

�����

����� % ������� � F��� )% ������� � F��� )

� �;�',�

����� :

�����

����� %�������� � F�� )% ������� � F��� )

� �;�'D�

�� : ��������������

�;�';�

F� : F�� @����� � F��� � �;�'G�

�� : ��� ������������

� �;�'-�

����� : %� � � )� � : %�� ��� �� �� �� ��� )� � :��� @ � :��������� �������

��������� �:��������� �� ��������� ����� ��:������� ����� ���� ��:����������� ����� ������:������� �� ���������� �� ��� ;�('�

����� !,!#$ ������� � � ������ ����� ��� ����

-

���� ��� ������� ������ ������

��������5� ����=

F� : � %� ) �;�,.�

�� : � %�� � F���� � F��� ) �;�,<�

��� � �<� � � � ��C�������� ����� ������=

� ��� : F��� F��� @ �

����� F��� � �

�����

��;�,&�

���� ������=

� ����� : �%� ��������) �;�,(�

F�� :

�����

����� �������� �;�,'�

��� :

�����

����� %�������� � F�� )%�������� � F�� )

� @�� �;�,,�

������ : �%� �����) �;�,D�

F��� :

�����

����� ������� �;�,;�

+���������� ������ ���������=

������� :

�����

����� % ������� � F��� )% ������� � F��� )

� @�� �;�,G�

����� :

�����

����� %�������� � F�� )% ������� � F��� )

� �;�,-�

�� : ����������� ���

�;�D.�

F� : F�� @����� � F��� � �;�D<�

�� : ��� ������������

� �;�D&�

����� � :���@ � :��������� ������� ��������� �:��������� �� ��� ����� ��:������� �����

���� ��:����������� ����� ���� ��:������� �� ���������� �� ��� ;�('�

����� !,!"$ ��� � ����� � �$��� � � ���� � ��

<.

���� ��� ������� ������ ������

u

x

2θ2 2,l m

1 1,l m

M

������ ;�'= %��#�� � ����� ������

�� ���� ���������� ������ �

��� #�� ��� ��������� �������� ��� ����� ���������� ������� �� ��������� ������� ��������������������� ����4����� ������� %&' && &()� *� ������� �� �3����� ��� � ������ �������� ��������������� � ����� �� �������� �� ������� � ��� ����������� �3����� ������������� �� ���� ����4���������������� ���� ������ ��������

������ � ����� )������!

8 ������ �������� �������� �9�� ������ ;�'� ��� ������ ������������� �� ���� �������� ��� ��4����� ��� ��� ��� ������ �������� ����� ��� ������� ������� : %�� O�� ��� O��� ��� O��)� ���� ���� ���������� ���������� ��� ������ ��� ���� �� ���� �������� ��� ��� ���� ���� � :%��� ���������� )� ��� � ����� ��������� ���

�� @�� @ ���P�� ��� @ &����� P�� ��� �� ����� P�� ��� �� �;�D(�

: �@ ��� @ &����� O������ �� @���� O��

���� �� �;�D'�

���� @ &�����P� ��� �� @ '���

(@�����

� P�� @ &������ P�� ������ � ��� �;�D,�

: ��< @ &������ ��� �� @ &������ O��������� � ��� �;�DD�

���P��� ��� �� @ &������ P�� ������ � ��� @'

(����

� P�� �;�D;�

: ����� ��� �� � &������ O��������� � ��� �;�DG�

����� ����������4���� � ������ ��� ��������5�� ���� � �������� ������ �� .�.& �������� ����������� �� �������5�� � ���� ��� � ������� ����� � �� ��� ����� �� ���� ���� �� ��� � �������������� 1������ ������� �9K1 � ���������� �� �������5� ��� � ���� �� 8 ����� ��������� �� ���

�' 467# ������� �8� �� ����*�� �� "�������* ��� ������ �������� �� ���� � �1��2�� 9�1��2�� ��������� � �������� �� �� � ����������� ��� ���� � �"�������� �" ��� ����� ������� ��� � ����� ����"��� :���� � ���� ����� � ��� � ��������� �� ����* � � ����� ;<7 �������� �� � ������ 1��2�1��2�� �1��2�� ���� �1��2 �� � ������� �" ��� ������ 7������ #������� ���* ����� �� ���� ������� �1��2 ���1��2� ��� ������ �� � ����� �� ���� ���� ��� �� ��� ���� ����� �� �� ������ ����� ���� ����� ��������� �"��� ��� �8�� ��� � ���� ��� ��� "��� �� �� "� ��� ����� ��� ;<7 �������� ����� � ������ �������������������� �� �� ���� �� ��� ��������� ��������! ����� ����� � �������

<<

���� ��� ������� ������ ������

������� ��� ������� ���� �� ����� �� ������� ��� �� �� #�� ����� ��� ��������� ������ ��� ���������� ��� ������� ��� ���������� ���������� ��� ����������� ����������� �� ���� ������������ ����� ���� �������� ���� ������� ��� ����� �� ��� ��� ��������� ���� �� � ����������� ������� �� �������������� ��� ���� ��� ��� ������ �������� �� ���� �� ������� ������� �� ��� ��� ������������ ���� �3�������� ��� �������� �� ��������5�� �� � Q��4���� �������� �@&,R4&' �������� ���� ����� �/��� �� �, ������� ��� ��������� ����� ��������� ��� ����� �� ������ ;�,� C����� ��� #���� ������ ���� �� ���� ��� ���������� ������ �� �� ��� ��������� ������ ��� ���� ��� ������� ����� ������� ���� ��� #�� � ���� �� ����� ���� �� �������5� ��� �������� ����� ��� �� � ������������ *� ���� ������ �� ��� ������ �������� �������� ������� ����� �� ���� ������� ��� ��������� ���������� ��� ���� �����������

0 50 100 150−4

−2

0

2

4observed

cart

pos

ition

0 50 100 150−15

−10

−5

0

5

10observed

cart

vel

ocity

0 50 100 150−2

−1.5

−1

−0.5

0

0.5

1un−observed

pend

ulum

1 a

ngle

0 50 100 150−15

−10

−5

0

5

10un−observed

pend

ulum

1 v

eloc

ity

0 50 100 150−1

−0.5

0

0.5observed

pend

ulum

2 a

ngle

time

true state noisy observationEKF estimate UKF estimate

0 50 100 150−20

−15

−10

−5

0

5

10un−observed

pend

ulum

2 v

eloc

ity

time

������ ;�,= &� �� ���� ��� ��� ���#�� � ����� ������ ���#��! '�� ����� ���� �� ��� �� �#��� ��( � ��

�������" � �� ������� � ��� ��� �� ��� ��� ������! )*+�� &,-. ��� /*" #�� /+" � �� /+0

���� ���� �" ��� = ������ �� ������� ���� ����� ��� ��� �"����� �" ��� #$% �� .$% �� ��� ������

<&

���� ��� ������� ������ ������

200 210 220 230 240 250 260 270 280 290 300−5

0

5

k

x(k)

Estimation of Mackey−Glass time series : EKF

cleannoisyEKF

200 210 220 230 240 250 260 270 280 290 300−5

0

5

k

x(k)

Estimation of Mackey−Glass time series : UKF

cleannoisyUKF

0 100 200 300 400 500 600 700 800 900 10000

0.2

0.4

0.6

0.8

1

k

norm

aliz

ed M

SE

Estimation Error : EKF vs UKF on Mackey−Glass

EKFUKF

������ ;�D= ���� ��� �� 1 �����2� �� ���������� 3��� ��� ��� � ��� ���� ��3 ����! ����� �� ��

���3� ��� ���� �� ���� ��� ������ ��� ������� �������!

-���� ����.������ ���������

�� ���� �3����� ��� #�� �� ���� �� �������� �� ������ ��� ����� ����4������ ��������� � ��������0������� ����� ������ ��� ����4������ ���� �� ��� +��� 40����4(. ������� ������ %(, &G)� ��� ����������4������ �� "��� ������� �� � ��������� ��������������

�� : ������ ������ ��

�@ ��� �;�D-�

����� ��� ����� �����������5�� � �� ��� �����3������ � �������� � ����������� ������ �������� ��� ����� ��������� ��� �������� ����� ����� ����������� ��� ���� �� �� ��� ������� ��������������

6�3� ����� 0������� ����� ��� ����� �� ��� ����� +��� 40���� ������ �� �������� � ���� ����4������ �� : �� @ ��� ��� ������������� �����4����� �������������� �� ����� � =

��� : ������ @ � � ���������

�����

���

����� :

������� � � � � ��� ������< . . .

.� � � .

���. . < .

��� �� ��

������ ��

��������@

���<.���.

����� � ��

<(

���� ��� ������� ������ ������

�� :�< . � � � .

� � � @ �� �;�;.�

�� ��� ���������� ������� ��� ���� 4���� ������ �� �� ��� ��� �������� ����� �� ������ ��� ���� #�� ���������� ����� �����5� ��� ���� ������ ������ ������� ������ ;�D ����� � ���4��������� ��� ��������� ��������� � ���� ��� �� ��� ��� #�� ���� �������� ���� ����4������ ��� � (�E961�� ��� �������� ����������� �� ��� #�� �� ������ ��������

�� �� ���� �� � ������ ������ �

8� ��� ���� ��������� ��� ������ "���� �� � ��������� ��������� ��������� ��� ����������� �3���4������ �� ��� ����� � ����� ��� ������������ ��

� �� �� ��� ������� ���� �� �� �������� ��� �������������� ��������� ��� ����� ����� ��� ������������ ���� ��� ������ ��

� ����� � �� ��� "��� ����������� ��������� ��� ������� ���� ��� ������������ ���� �� ���Q����� �������� ��������� �������������� ��� ��� "����� �� ��� +48�������� %'D <&)� 8 �������� ��������� �� ��� �������������� �� ��� ������ ���� �� ����� �� %&-)� ��� ����� ���� �� �� ��� � ������ "���� ������� �� ����

�� �������� ��� ���� ��� ���������� �F�� ���� �� ��� ����� ����� ���� ����� 8 ������ ������ "����

�� ���� ��� ������� �� ���� �� ������� � �������4���� ��������� ���� ��� ���������� �F �� �

�� �

����� ��� ������ ����� ����� ��� ��������� ��� ���� �������� ��������� ��� ��������� ������������������ ����� ��� ��� ����=

������� : ���

���� @ �� �

� ��� �;�;<�

F�� : ���%��

�� �

��F �� @ ���

����F�� )� �;�;&�

��� ��� ��������� ���� ��� �� �������� ��� ������ "����� ��� ��� �� ��� �� ��� ��� �������"���� �� ���������������� 7������ �������������� �� ��� ������� "���� �� �������� � ����� ������������ �������5�� �������4���� � �����

��� : ���� @���� � �;�;(�

�;�;'�

���� ��� ������� ��������� � ������ ��� �������5�� ��� ���� �������� ��� ��� ������� ������ 8������ ������ "���� �� ���� ��������

S�� �������� ��������� ������ �������� �#�9� �������� ��� �� ���� ��� #��� �� ���������� �������� ����� � ��������� ������� ����� �� ���� ������ ������� ���� "��� ���������� �� � �������� � ������� ��������� ����� � ������ ������ ����� �� ����������� ��� ��� ���� ������ ������ ������ ;�;� ��� ��������� ������� ����� ������ �� �� ��� ���� ��������� �� ��� #�� ������������� �� �������5����� �����

�� ���������� ����������� �� ���������� ��� ���� +��� 40���� ����4������ ������� �� ��� ���4����� ������� �� ���� �� � ������ ���� ������ ��������� ����� ������� �������������� ������ ���������� ����� ����� �������� � ���� ������������ �� ���� ���� ��� ������ ������ ��� ������� ����� ����� ����4������ ��� ���� ������ �� ��� ���� ���� ����� ������ ��� �������� �3������ �������������� ���� �������5�� ������� ����� � �9<� �� �3������ ������ �������� ���� � ��������������� ������� ����� � �9&� ��� ��� ��������� ������ �������� �#�9�� ��� ������� ���������� �E� ��� �������� �9� ���������� ������ ��� ��������� 8���� ��� ����������� ����"�� ����� ��������� �������� �� ������

<'

���� �� �������� ����������

kx

1ˆkx +1ˆk Lx − −

time series

������ ;�;= ���3 ��4# ��3 �� ��� � ��3��� ��������� �� ���!

#��$�������� -���! /��

��0����1� � � �

�9< .�&. .�;. .�&; �9& .�&. .�(< .�<-#�9 .�<. .�&' .�.G

%�� ��� &'�(( -���! /��

��0����1� � � �

�9< .�(, .�(& .�&G �9& .�(, .�&& .�&(#�9 .�&( .�&< .�<D

��� ��� ��������� ����������

1����� ���� ��������� ���������� �������� �������� � ��������� ������� �� : ��� ��� ����� ������������ �� ��� ��� �� ������ ����������� ���� �� �� � ������ ������ �� ����� ������4����5�� ��������� ��� �� �� �� ���� �� �������� ��� ���������� � ������� � ��� �����4�������������������

���� : �� @ �� �;�;,�

�� : ������� @ ��� �;�;D�

����� �� ���������� �� � ��������� ������� ���� ������� ����� ���������� �����3 ������ � ������������ ��� ��� ������� ������ �� ����������� �� � ��������� ����������� �� ��� �� ��� ������ ������� ������������ ������� ��� ������ ������ ���� ��� ��� ������� 1�������� ?���� 9������ �1?9� ������� �� %', <')� �� ��� ��������� ���� ��� �� �������� ����������� �� � ����"��46������ � �������� %(;) ���� ���� C������ &��

���� �� ������5����� ����������� ��� ��������� �������� ����� � ���� �� ������5��=

���� :

����

��� ��������� ��������� �������� �;�;;�

���� �� ��� A�����B ���������� �� �� � �������� �������� �����3 ���� �� ���� �� ������� ��� ����� ��������� ����� ��� �� ����� �3������� � ��� ����� ��� �� ��� ���������� ����� �� : �,���8����������� �� ��� �� ��� �� ������ � �������� +9 ����� ��� ����������� ���������� � %���

�� ) :

��� �� ��� ����� ���� �/���� ��� ����������� ���� ��� ������� ������������ 1����� �������

��� ������ ��� ���������� ��� ���� ����� ����� ���� �� ���������� ����� ��� ������� ������� ����� �� ������ ��

�=

� 9�� ��� �� �� �������� A"3��B �������� ����� ����� �� ���� �� A��������B ������� 5��� ��

�������� ����������

� 9�� ��� : ���

����<���� ����� ��� �.� <) �� ����� �������� �� �� ��� A���������� ������B ����"��� �� ��� 1�������� ?���� 9������ �1?9� ��������� %<')� ���� �������� ��� �� �����3�����

<,

���� �� �������� ����������

�3���������� ���� ��� ��������� �� ���� ���� ��� �� ��������� ���� ���� �� %(;)� 6��� ��������� ��� �� �������� ���� ���� ��� ����� ����� ������������

� 9�� ��� : �<� ����

��� @ �(��

��� ����� F��

���� ����� F��

���(�

� �� ����� �� � 1������4

+���� ���������� �����3������� ������ ��� ���������� ��� ����������� %(&)� ��� ������������� ��� ���������� �� ��� ������ ������ ����� ������ �� ���������� ���� ��� ������������ ������ � ������ ��

� �� ���� ����������� �� �� � �������� �����3 ����� ������� �������������� ���������� �� ��� ����������� 6��� ���� � ������� ������ �� ���� �� ���� �������

S�� �3�������� ��������� ���� ��� A1������4+����B ������ �������� ��� ������� ���� �� ������������������� ��� ������ "��� ++9 ������ ���� �3��������� �� ��� ��3� ��������� ��� A"3��B ��

�� ����������� ���� ��������� ��� ���� ������� ���� "��� ++9 ����������� ��� �������� �������������� ��� � ������� ����� �������� �� ��� ����� ������� ��� �������� ����� ��� ++9 ��5��� ��� ���������� ������ �� ����� ������� �� ������� ��� ��������� ���� �������� ��� ������������������ ��������� ��� A����������4������B ��� A"3��B ��

� ������� ��� ���� ����������� ��� ��4���� �������� �������� �� ����� ������� �� ���� ��� ��� ���������� �� �������� � �� ���� ���� ������������ ���������� ��� � ����� ������� �������� ��� ���� ������ ���� �� �� �������5��� ��������� �� ���� �����Q������� ��� ���� ���� ��� ������ ���� �������� ����� �� �������� ������������ �� ������� ��� ������� �����4�/� ������� ����� ��/����� ���������� �� ����� �� ���� �� �������������

��� #�� ���������� �� ����������� �� ��� �� ��� ��������� ����������� 7������ �� ��� �����4���������� �������� �� ������ ��� ��������� �� ��� #�� �� ��� �� �� �������� 6��� ��� ������������������� �� ����� ���������� ����������� ��� �� ���������� ������ �� �� �����3������� �� ����3������ 7������ � ����� ����� �������� �� ��� ��������� ��� #�� ������� �� ������� ����� �������� �������� ������� ������ �����3������� �� ��� �3��������� �� ��� 7������� *���� ������� �� ��� #�� ��� �� �3������ �� ������� ������� "��� ++9 ����������� ����� ��������������������� �� ��/��� �� �������� � �������� ��������� �� ��� #�� ������ ���� ������ ��� ��������4���� �� ����� ������ �� ���� ���� ��/����������� ���� ������� �� ��� ���������� �� ��� ����� ��������� �������� �� ��� ��� ��� #�� �/������� ��������� ���� ��� $������� ��� 7������ �������� ������� ��� ����� ����� ����������� ������� ��� ���� �� ������� �� ���� ��� ��/������������

9����"� ��������� ��� #�� ��������� ���������� ��� ����� �� ����� ;�'� 9�����"������� �������� ���� �������� �� ��� ����� #�� ���������� ��� ��� �����"� ���� �� ��� �����4���������� ����������� ����� ;�' �� ���� �������� ��� ������� �� ��� ��� �������� ������ F�� �� ��������� �� ��� "��������� ��� ������ �� ����� ��

F�� :

�����

����� �������� � � %��� ����) �;�-<�

������������� �� ��� ������ �������������� �� ��� #�� ���������� ��� ������ �� ��� �3������ ����������� �� � �������� �� ��� ������ �������� ��� �� ��� ������ ������ �� ����

F�� : ��� � F��� � �;�-&�

������������� �� ��� � ����� �������������� �� ����� ��� ������ �� ��� �������� ���� ��� �������A����B ��� �� ����������� ���� ������ ����� ����������� ����������� ���� �� ����������������� ������� ��� ��� "��� ������ ������� ��� ��/����� ����������� ��������������� ��� �������� ��������3���������� �� ��� �����4����� �������� �� ��������� ���������� �������� ����������� �� ������������ ��� ��������� ���������� ��� ���� �� 5��� ����� ���� ������ ��� ������ ���� �� 5����� 8� ����

<D

���� �� �������� ����������

��������5� ����=

F�� : �%�) �;�;G�

���: �%�� � F����� � F���

� ) �;�;-�

��� � �<� � � � ������ ������ ��� ����� ����� �����������=

F��� : F���� �;�G.�

����

: ����� @����� �;�G<�

������ :

�F��� F��

� @ �

����� F��

� � �

�����

��;�G&�

������ :�%� �������) �;�G(�

������ <= F�� :

�����

����� �������� �;�G'�

������ &= F�� :��� � F��� � �;�G,�

+���������� ������ ���������=

��� ��:

�����

����� %�������� � F��)%�������� � F��)

� @��� �;�GD�

���� :

�����

����� %�������� � F��

� )%�������� � F��)� �;�G;�

�� : ��������� ��

�;�GG�

F�� : F��� @����� � F��� �;�G-�

��� : ������������

��� �;�-.�

����� � :���@ � :��������� ������� ��������� �:��������� �� ��� ����� ��:������� �����

���� ��:����������� ����� ���� ��:������� �� ���������� �� ��� ;�('�

����� !2!#$ ��� � 5 � ���� ���� ���

����� ��� ������ ��� ������ ������ �� ���������� 7������ ����� �� ���� ��� "���� ���������� ��������� ���� �� ��������� �� ��� ������ �� ��� �������� ����� �� ���� �������� ��� ���������� ���� ������� ��� ������� �� ��� ����� �������� ���� ��� ������ �� ���� ����� ������� ���� ����� ������������������� �� �������� � ���� �� ����� �� ��������5����� ��� ����� �� ���� ���� ���� ���� ��� ������� ����"����� ��3��� �����"������ �� ��� ����� �� ��������5����� �������� ������� ���� ��

6��� ���� ��� ������3�� �� ��� #�� ��������� �� ����� ����� �� �� �� ��� ������ �� �������������� �� ��� ���� �� ������� � �����3 ������4���� �� ���� ���� ����� 8� ����� �� ������3�� ������� ��� ��� ��� �� �������� � ����� � ��������� ������4���� ����������� �� ����� �� 8������3 E�

<;

���� �� �������� ����������

5 10 15 20 25 30 35 4010

−3

10−2

10−1

epochs

trai

ning

set

err

or :

MS

ELearning Curves : MacKay Robot−Arm NN parameter estimation

EKFUKF

2 4 6 8 10 12 14 16 18 20

10−1

100

epochs

trai

ning

set

err

or :

MS

E

Learning Curves : Ikeda NN parameter estimation

EKFUKF

������ ;�G= ����� 1 �� ��-�#���6� ���#�� ( ��� ���� �� �� ��� ��� �� ��� ��� ��� � ��� �� ���"

7�*7�7 185" 9 � ���9 ���� ���� ���! �#����� :��� �� ���� ��� ������ ( ��� ���� �� �� ��� ��� �� ���

��� ��� � ��� �� ���" *+�;�* 185" 9-�##���1���9 ���� ���� ���!

��� ����� � � ���������� ������ �

*� ���� ��������� � ������ �� �3��������� �� ���������� ��� ����������� �� ��� #�� ������������������� ��������� ��� "��� ��� �� �3��������� ���������� �� �������� �������� ��� ������������ �������� ��� ����� �� ���������� ���� �� ��� ��/������� ������� ��� �� ��� #�� �� ������ ��� ��/����� ������� ��������� ������ ��� ���������� ������5����� �������� ��� ���� ��������������������� �� ����� ���������� �� ��� ������ �������� ��� ��� �������� A1��������N�E�����B ������5����� ��������

��&1���3 -- ��0������ �� ����.������ )�������

���#��$���' � ��&� ������� %(( (') ��� ��� )$��� ������� ���� ������ %<;) ��� ���� �� ���������������� �� ������� ������ ������ ��������� ������ ;�G ����������� ��� ��/������� �� �������� ��������� ��� �� ������ #�� ������� <�� 6��� ��� ������� ����� "��� +9 ����������� �� ��� #�������� ��������� �� ������ & ��� ��� #�� ������ �� ���� ���� ������� ;�G,� ���� ��� �������������� ��� ��� �� ��� #�� ��� �����������������M ���� ��� ���� ����� �� �� ���������� ���� ����3��������� ���� �� ���� ��� ���� �3������ �������� ������ ��� ��� #�� ���� ������ &�

������ ;�- ����������� ����������� ��/������� ����� �� ��� ������ �� ������� ����� ��������������

<G

���� �� �������� ����������

��� +��� 40���� ��� ���� ����4������ ��� ����� ��� ����� ���� ��� ����������� ��� ��� #�����/������� ��� ������� ��� ��� ���� �� ������� ��� 1������4+���� ������ �� ��� ���� �������������� ���� ��� ������� ���� �� ������������ �� ���� �3������ �� ���� ���� ������ ��������������� ��� A��������B �������� ������� ���� ���� �������� ���������� ������� ��� ��������� ��������� ������� ��� ��������� *� ������ ��4������� ���� ��� A"3��B ��� A������B ���������� ��� ��������������� ��� ��4���� ������� ���������

2 4 6 8 10 12 14 16 18 20

10−1

100

epochs

trai

ning

set

err

or :

MS

E

Learning Curves : Ikeda NN parameter estimation

fixed lambda anneal Robbins−Monro

2 4 6 8 10 12 14 16 18 2010

−4

10−2

100

epochs

trai

ning

set

err

or :

MS

E

Learning Curves : Mackey−Glass NN parameter estimation

fixed lambda anneal Robbins−Monro

������ ;�-= ,��� � ��3��� � � ���� ���� ��� ���� ��<���� ������ ��� ���� ���� ���! ����� :���

�� ���� ��� ������! �#����� 1 �����2� �� �� ���� ��� ������ )��� . � � ��� � � � � � � �� � . / �� ��

������0

���� ��0��� ������4&����

�� ��� ��3� �3����� �� �������� � �������� ������� ������"������ ������� ������ ���� ������������������ %';)� 8 �����4�� �� ����������� ������ �+?>� ���� &4<.4<.4' ����� �� ������� ����� ������������� ����� ������ ��� ������� ����� � : %�<� <) � %<� <) ���� ��� ������� ������ ����� ��@.�G �� ��� ������� ���� ������ ��� �������� ������ ��� �.�G ���������� ������ ;�<. ����������� ���������"������ ��� �������� ������ ��� ��� #�� ��� �� ��� ��� "��� ������"������ �������� ��� ����������� ����� ���� ����� ���������� <.. ������� ����� ����� �������� ��� ���� ��� ��������� ������ ����� ����������� �� � ������� ���� �� <.... ������� 8���� �� ��� ��� �������� �������������� ��� #���

<-

���� �� �������� ����������

x1

x2

True Mapping

−1 −0.5 0 0.5 1

−1

−0.5

0

0.5

1

x1

x2

NN Classification : EKF trained

−1 −0.5 0 0.5 1

−1

−0.5

0

0.5

1

x1

x2

NN Classification : UKF trained

−1 −0.5 0 0.5 1

−1

−0.5

0

0.5

1

0 50 100 150 2000.2

0.3

0.4

0.5

0.6

0.7Learning Curves on Test Set

epochs

aver

aged

RM

SE

EKFUKF

������ ;�<.= &��� � � =�9� ���� -���� �� ����� ��� ���#��! ��� �������( )� � ��� � � � � � � ���

. / �� �� ������ . 7�*+�*+�> 185 . -�##���1��� . * ����� / *++ � �� �� ����0!

&.

���� �� �������� ����������

5 10 15 20 25 30 35 4010

−5

100

iteration

mod

el M

SE

Inverted Double Pendulum : parameter estimation

EKFUKF

������ ;�<<= : ����� ���#�� ������ � � ���� ���� ���! ��� ������� )� � ��� � � � � � � � � � .

/ �� �� ������ . -�##���1���0

������ � ����� )������

1�������� �� ��� ������ �������� �������� �9������ ;�(�<� �� �������� �������� ��� � ���� �����4����� � : %��� ���������� )� ����� ��������� ������ ��� ������� �� ������ ���� ��������5�� �� <�.����� ���� ����� : %�� O�� ��� O��� ��� O��) �� ��������� ������ ;�<< ����� ��� ����� ����� +9 ��������������� ��������� ��� �� �� #��� ��� ��������� ���������� � �������� ����� ���� ��/������������ ���������� ��� ��� ����� ��� ������� �� ��������� ��� "��� ��������� ��������� ��������� �������� �����=

�� �� �� �� ����� ����� .�,. .�;, .�;, .�,. <�,.#�� ������� .�,. .�;, .�;, .�,. <�'- �� ������� .�,. .�;, .�DG .�', <�(,

�� ���� ���� ��� �� ��� ��������� �� � ������ �������� ������� ������������� �� � ����� ��������� ��� ����� ��������

�������&35� ���� '�&���

��� ��� ���� ��������� ���������� �3����� �� ���� �� � ���� ������5����� �������� ��� E������������� %'() ��� �� ������� �� �� � &4����������� ������� ����� ��� � ������4��� ��������� ��������� ������ ��� ������� 9����"���� �� ���� �� "�� ��� ������ �� �� ��� �� ���� ������5�� �����������

���� ��� : <..��� � ����� @ �<� ���

�� �;�-(�

��� ���� ������� �� �� �� : < ��� �� : <� ��� E����� �������� �� � ���� ���� ���� ������� ������ ������� ��� ����������� ����� �� ��������� ������5����� �����������

�� ����� �� ��� ��� #�� �� �� ��� ����� ��������� ���������� ��������� ���� �� �� �����4������� �� ������5� � ���4+9 ���� ��������� �� �� ���� �� ����� ��� �����4����� ��������� ����������4����� ���� %'&)=

�� : ���� @ �� �;�-'�

. : ��� @ ��� �;�-,�

&<

���� �� �������� ����������

����� ��� ������ A�����������B �� "3�� �� 5��� ��� �� �� �� ����� ���� ��������� �� ��� ������5����� ����� ��� �� ������������� ����� �� : �

�� ��� ��� +9 ���� �� ������5�� � ������� �� : ������ �����

7������ �������� ����� ����� �����4������ � ��� ���� �� ������5�� ����� � ������ ��� �� �����4������� � ������� ���������� �� ���� �������� ��� ����� �� C������ , �� ���� ���� 1�������������� ��� #�� ��������� �������� �������� ��� ��� �/������ ������ �� �� �� ��� ������� ��� ��������������� �� 5����

��� ��� �3����� �� ���� �� ��� �� : %<.��� � ��� �< � ���)� � ����������� ����� ���� ����4

��5����� ������� �� � ������� ���� �� N���������N ��������� ���������� ����� ��� ������ ����� ��� ��������5�� �� 5��� �� ��� ��� �� ������� ;�-& �S����� &� �� ��������� ��� ������ �� ��� #������������ ���� ���� ����� ��� #�� �� ����� ��� ���� ������� �� ��� ����� ������� ���� ������ ��*� ���� ��� ��� ������� ��������� � �� � ����� ����� ����� �� ���� ����� �� �� ����������� �������� 5��� +9 ��������� #���� ����� ������������� ��� ����������� �� ��� #�� ��� �� �� ��4��������������� �� ����������� �� ������ ;�<&� S������ ��� ��� ����������� �� ��� ��� "����� ������������� �� �������� �� � ������ �� ����������� ������5����� ���������� ����� K������4��������4>����� ?��������4+�������� ���� 9�� A�������B �� +8�?8E�� ��� ���� ������� �� ���� �3�������� �� ���������� ��� ���������� �� ��� #�� �� ������� ������5����� ���������

1 2 3 4 5 6 710

−40

10−20

100

1020

k

f(X

)

Function Value

EKFUKF

1 2 3 4 5 6 710

−40

10−20

100

1020

k

MS

E

Model Error

EKFUKF

������ ;�<&= -���#����9� 9� 9 �����$ ��� ���#��! ��� �������( )� � ��� � � � � � � �� � . /

�� �� ������ . ����� 0

���� ���� ��� ��� �" > ��� 3� ���� ��� �& ����� ����� �" ��� "����� �� ���� �� ��� ��� ��� ���������� �����������*�* �" ��� ��� �� ����� � ��� ���� ������ ��������� ���� ����� ����*��� � ��� ���� ���� ���?4# �� ������� ���� ����*��� �" ��� ����� �������� �� ��� ����� ���� �� ������� ����*� � � �����*�" ��� ����� ���� �������� ���

&&

���� �� �� ����������

�� ��� !�� ����������

1����� ���� ��� ���� ���������� ������� �������� �� ������������� ���������� ��� ����� ����� � ������ ����� ���������� � ���� ��� ���� ���� �� ���� ������� ;�;�� 8 ������ �� ����������� ��4�������� �3��� ��� ���� ������� ��������� $���� ��� K��� �� ������� �1��������4>���������4 ������� +�3����4��������� ��������� ��� 3���������4+�3���5����� � +� ����������� 8 ���������������� �� ����� ���������� �� ����� �� C������ , ��� D �� ���� ��3�� �� ���� ������� �� �������������� ��� ��� K��� #�� �����������4������ ��� $���� #�� ��������

�� ��� ��� ���� �������� ����� ���� %,&) � �������� �����4����� �������������� �� ���� ������ ������ ��� ��� �������� ��� ��� ��� ��� ������������� ��� ������ ��� ������ �����������8� ���� ����4���� ��� ������� �������� �� ��� ������� �� ���� �� ��� ������4"���� ��� ��� ��������������� �� ��� ������4����� �� ���� �� ��� ������4"����� �� ��� ���� ��� ��������� ���� �����4 ���������4���������� ��� ���� ���� ��� #���

�� ��� * ��� �������� ����� ���� %(D) ��� ������4����� ��� ������ ������� ��� ���������������� � ������ * ��� ����� ������= %�� �

�� )

� � ��������� �� ���� ���������� � ������� ��� �����4�������������� ��� ��� Q���� ����� ��=�

���

����

�:

���� �������

� ���

�@

�� � ����

��;�-D�

�� :�< . � � � .

� ����

�@ ��� �;�-;�

��� ������� �� �� �� ��� Q���� �����4����� �� ������� ������������ ��������� �� ��� ������ ���� �� 8���� ��� �������� �� �� ��� ��� #�� ������� �� ��� ���

��� � �� ���������� ��� ��� ���

-���� ����.������

*� ������� ������� �� ��� ����4������ �� ������� � ����� ������������ �� ��� ��� �� ��� #�� ���� ��� ��� ��� "��� ������ �� ����� ��� +��� 40����4(. ������� ������ ���� �������� ����� �961 � (�E����� ������ ����4������ ����� �������� ����� ���� �� �������������� ������ ������ ���� ������������� ������ � 0������� ������� ����� ��� ���� ��������� � �������� ����� 0������� ����� �961� (�E�� 8 �������� D4<.4< +?> ���� !�" ������ ���������� ��������� ��� � ������ ������ �� ����� ���� ��� ��� ��� "����� �� ��� +��� 40���� �������� 8 ,4(4< +?> ��� ���� ��� ��� �������������� ��� ������� ��� ����������� ����� ��������� ���������� ���� ��� ����� ���� ������� ���� ����� 6��� ���� �� �������� �� ��� ����� ���������� �3����� �� ��� �������� ������� ��� ������� ����4������ �� ��������� 8 ����� ��������� �� ����� �������� ��� ���������

3����� �������� ������ ��� ��� ��/����� ���� ��� Q���� ������ ����� ���������� ������� �������� �� ������ ;�<(� 8 "��� �������� ��� ��� +��� 40���� ������ �� ���� ����� ��� ��� K��� #������ �������� ����������� �� ��� #�� ����� ���������� ��� ������

&(

���� �� �� ����������

0 5 10 15 20 25 300.2

0.25

0.3

0.35

0.4

0.45

0.5

0.55

epoch

norm

aliz

ed M

SE

Chaotic AR neural network

Dual UKF Dual EKF Joint UKFJoint EKF

5 10 15 20 25 30 35 40 45 50 55 600

0.1

0.2

0.3

0.4

0.5

0.6

0.7

epoch

norm

aliz

ed M

SE

Mackey−Glass chaotic time seriesDual EKF Dual UKF Joint EKFJoint UKF

200 210 220 230 240 250 260 270 280 290 300−5

0

5

k

x(k)

Estimation of Mackey−Glass time series : Dual UKF

clean noisy Dual UKF

������ ;�<(= ?�� � �� � �� ��� ��� �� � ������� ��� ��� �� � ���� ��� ���������! ?�� �� �� �� ���

� �� *+ � @ ��� �������� ��� ���� ��<���� ���� � 3������! A�����B �� ��� �� �� ��� �� ���� � ���

C��� ��������! A6� ���B �� �� ��� �� ���� ��� ��� 3����� ����� � ��� �� � ��������!&'

���� �� �� ����������

/��� ���������

���� �3����� ����������� ��� ��� �� ��� Q���� #�� ��� ���������� ��� ����� �� � ���� ��� ������ � �4��� ���� ������ ;�<'�� ���� ��� ��� ��������� �� ��� #�������� �� *��������� � +�� C���������� 9���� E����� *���� ��� � ���� �� ������ ������ ���������� �� ��� ������� ����������� #� ���#� Q����� ���� ��� ������ �� � ��������� ���������� �������� ������ ;�<, �������� ��� ������������� ��� �� ��� ��� #��� 6��� ���� ��� �� ���� ��� �������� �� ��� ���� ����� ��� #�� ������� �3�������� ��� ����� ������� ����� 961 �� �����3������ <.. �E ��� ��� �������� ����������� ��� �� ���� �������� ����� �� � D. �� 961 ������ �������� �/������� ���� ��� ��� ���� � ������������� ���������� ��������� 8 "3�� ����������� �� ��� ���� ��� ��� ��������� ���������� ����� Q���� ����������� 9������� ��� ���� �� 6 ����� ������ �� #�� ����� �������5�� ��� �/��� ���������5����� �� ��� ��� ��� ������ �������� ����� ��� ����������� �� ��� �� ��� #�� ���������� ��������

1 12

1 1 1 1 1

2 22

2 2 2 2 2

0 1 0 0

2 0 0

0 0 0 1

0 0 2

x x

x x

x x

x x

ω ζ ω

ω ζ ω

⎡ ⎤ ⎡ ⎤ ⎡ ⎤⎢ ⎥ ⎢ ⎥ ⎢ ⎥− −⎢ ⎥ ⎢ ⎥ ⎢ ⎥=⎢ ⎥ ⎢ ⎥ ⎢ ⎥⎢ ⎥ ⎢ ⎥ ⎢ ⎥− −⎣ ⎦ ⎣ ⎦ ⎣ ⎦

�� �

�� �

1 (pos)y 2 (pos)y

1 (0,1)u N= 2 (0,1)u N=

������ ;�<'= 1 �� � &���� �����!

0 1 2 3 4 5 6 7 8 9 1018

18.5

19

19.5

20

ω1 (

rad/

s)

EKF UKF Actual

0 1 2 3 4 5 6 7 8 9 1050.5

51

51.5

52

52.5

53

53.5

54

ω2 (

rad/

s)

Time (s)

EKF UKF Actual

������ ;�<,= ��� � ��� ���������

&,

���� �� �� ����������

�#6 7�01� ���������

�� ���� �3����� ����� ��������� �� ��� #�������� �� *���������� Q���� ���������� �� ���� �� ���<, �������� ����� %')� ��� ���������� �������� ������� ��������� � ������ ������ ��� ������ ������������� �� ���� �� ����������� �������� ���������� �������� ����� ����� �� ���4�� ������� 8��������������� ��� ����� ����� ������ ����� �� ���� ���� *����� >�������� 8�E� 8 ������ ����� ���� ����� � ���� ��������� � C9 ���������� �� ���� �� ������� ��� ����� %<.)� 8 ���������������� ��� ���� �� ���� ��� #�� ��������� ��� �������� � ���� ������� ����� �������� ��� <G.��� ���� ��� ������ ���� � �������� ������� �� ��� ������������ �����5����� ������� ������� �� ��� ������ ��� ���������� +����������� ��������� �� ��� ������ ���� �������� ����� �&. �E 961�� ������������� �����3������ <��$ 1+9� K����� ��� ������� ��� Q���� #�� ��������� ��� <& ����� ���������������������� ��� ����� ������������ �� ���� �� ���������� ������������� �� ����� ����� ������ ����������� ���� ��� ���� A�/4����B ���� ��� ��������� ������ ���� ��� ���� ������ ��� ������������ ������������ ������� ��� ����� �� ������ ;�<D ��� ���������� �� ��� �������� ������� ��� ������������� �������� ���� ����� �� ��� ���������� ��� ���� ������ ����� ��� ������� ������� � ����������� ����� ������ �������� � ,.T ������������ ������� �� D, �������� 6��� ���� ���� ���� ���������� #�� �� ����� ������� �� ������� ��� ����� ��� ����������� �� ������ �� ������� ��� ���� ���A����4��3B ������ �� ��� ��������� ��� ��� ��������� �� ����� $�������� �������� ��� ���������� ��� 7���� �������������� ��� �� ��� ���������� ��� ��� ����������

0 20 40 60 80 100500

550

600

650

Vel

ocity

Est

imat

ion Actual

UKF

20 40 60 80 100

7600

7800

8000

Alti

tude

Est

imat

ion

50 60 70 80 90 1000

0.5

1

1.5

2x 10

5

Lift

Est

imat

ion

Time (sec)

0 20 40 60 80 100500

550

600

650

Vel

ocity

Est

imat

ion Actual

UKF (no failure)

20 40 60 80 100

7600

7800

8000

Alti

tude

Est

imat

ion

50 60 70 80 90 1000

0.5

1

1.5

2x 10

5

Lift

Est

imat

ion

Time (sec)

������ ;�<D= �*D ���� C��� ���� ��� �,��� �� � ��� ���� ��� � ���� ���� �� ��� �� �� �� ������������

#�� � ���� ����������

&D

���� �� �� ����������

������ � ����� �������

��� ��� "��� ���� ���������� �3����� �� ����� �������� ��� ������ �������� �������� ��� ���� ������ �������� ���� ��� ������ ��� � ���� ���������� ����� ��� Q���� #��� S����������� ������������ ���� ������������ �� ��� D ������� �������� ������ ��� ���� ��� ��� ��� ������4���� ���������� �������� ��������� ��������� ��� ���� �� ���� ���� ���� �� ������ ��� ���������� ����� ���9K1 ��������� ������ ;�<; ����������� ����������� �� ���� �������� ������� � ���� � ������� ������������ �� ��� ��������� ��� ������ ������� 8� ��� ����� �� ��� ���������� ���� ��� ������ ������������� ��� ������ ���� ������� � ���� �� �������� �� ���� ������� 7������ ������ ��� �������� #�� ������� ����������� ��� �������5����� �� ��� �������� ������� � ������ ������

0 0.5 1 1.5 2−1

−0.5

0

0.5

1

time (s)

angl

e es

timat

es (

rad) angle 1

angle 2

true states noisy observationsUKF estimates

0 0.5 1 1.5 20

0.5

1

1.5

2

time (s)

para

met

ers

estim

ates

cart mass

pendulum 2 length & mass

pendulum 1 length & mass

true model parametersUKF estimates

������ ;�<;= %��#�� : ����� 5����� C��� ���� ���! ���� ��� �� ��� � � � �����! '�� ��� * �

��� 7 �� ������� �� � �� ��!

&;

���� ��� ������� ������� ������

��" ��� �������� �������� ������

��� �������� ���� �� � ���������� +���� C���� ����� ������ ���� ������ ��� � �������� ���������������� ��� ����� ������������ ����� ���������� ���������� �������� ��� ���������� %G - <()� *��������� �������� �� ��� #�� ��� � 0������� ���������� �� ������� ��� ������� ��������� E� ��������������� ���� 9������ ;�&� �������� "����� ��� �� ����������� �� ��� ���� �� ��� ���������� ���4������ �� �������� ���� ���� ��������� ���40������� ����������� �� ���� ������� �� ������� � ���������� �����5�� ��� #�� �� ������� ��� ������� ��� �������� �������� "���� �����"���� ����������������� �� ��� �� ������ �� � ��� ���������� �� ���� ������� ���� ������ ��� ��� ��������������������� �������� �� ��������� �������� "������� ��� ��� �3������� ����� �� ��� #��� ����������� �� ����� �� ��� ���� � ��� ��� +���� �� ������� K����� ��� *�� �� %'-) ����� ������������ � ���� �������� ������ ��� ��������� �� �������� "����� �� ��������

/��� ����� ��������� �� ��8������ ��)����&� ���)��0

>������� "������� �� ����� �� +���� C���� ���������� ���� ���������� ���������� �������� �9�9�� ���������� ���� �� �� ������� ��������� ������� E� ����� ���������� ���� �������� ;�- ;�<. ��� ;�<<�� ���������� �����3������� ��� �������� ��������� ����� ������ � �� +���� C���� ���������� � ����� �������� ��������� ��������� ����� ���� ��� ��������� ������������ �� ���� �� ��� ��������� ���������� ����� +��� �������� ��� ��������� "������� ������ ��� �� �����3������ � ��� ������������������ ��������

���� ���� � :

<

����

�� � ������

����� ��� ������ ������� ������ M � : <� � � � � �� ��� ����� ���� ������� � ��� ��� ������� ��� K����

����� ��������� ��� ��������� ������� ������ ��� ���� � �� � �������� �� ��� ���� ��������� ������

����� � ��9�� ���

� �� C���������� �� �3���������� �� ��� ����

��0���

�:

�0������ ���

� ��� �;�-G�

�� �� �����3������ � ��� ��������� ��������

��0���

� � <

����

0������ � �;�--�

��� �3����� ������� ��� : ����� ��� ������� ++9 �������� F� : � %� ���� )� ��� ��������� �

����

��� ������� �� �� ����������� ��� ���������� ����������� �������� ��� ��� �����3������� �� �����8� � ���� �� ��"��� ��� �������� ��������� �� ��� ���� �3��������� ������ ����� � 9������� ������� "������� ��������� �� ��� � ������� ���� �� +���� C���� ���������� ����� �� ������� ����� ������� �������� ��������� ������ ��9�

� ���� �� *� ���� ��� ���� ���� ������� ���� �� ������ ��� ��������

"���� ������������ �� ����� ���������� �� ������ ������� ���� ��� ��������� ������ ��������� 7������ �� ���

���������� ���� ������ � ����� ��� �� ���������� �������� ��� ������������ �������� ����� $� +� �������� ������������ %�9�

� ���� �� ��� �3��� ���� �� ���� ������������ �� � �������� ������

����� ��� �� ������ ������ �� ����� �� ���������� ��� ��������� ��� ������� �� ���� �� ��������� ������0���� ���� �������� ������������ �� ��� ��� ��� �� ��� ��������� ������������

&G

���� ��� ������� ������� ������

��0��9

����

:

�0��9

���

��9�� ���

� �

%�9�� ���

� �%�9�

� ���� ��9

��

:

�0��9

���

����� �9�

����9���

����� �%�9

�� ���

� �%�9�

� ���� ��9

��

:

�0��9

���

&��9���

����� �

%�9�� ���

� ��9��

����� ��� ��������� &��9��� ��� ���� �� ��� ���������5�� ���������� �������

&� :����

� �9�����9

���

%�9�� ���

� �� �;�<..�

*� ��� ��� ��� �� ��� ������ �������5��� ������ ����� � �� �������

��0��9

����

:<

����� �

�0��9

���&��9

���%�9

�� ���

� ��9��

:

�0��9

���&��9

���%�9

�� ���

� ��9���

����� �9�

����9���

���

����

��

���

����

���9�

:

�0��9

���&��9

���%�9

�� ���

� ��9���

&��9���%�9

�� ���

� ��9��

:�������

��

�&��9

���0��9

����

�������

��

�&��9�

��� �

����� ��� �������� �������

�� ��� ���� ���� �� �������5� ���� ��� �3���������� ��� ���� ���� ���

�������� ������������ %������ ��

8 ���������� ������ �� ��� ���������� ������� �� �������� � �3������� ��� �������� �������������� %�9�

� ���� � : %�9���

� ������ �%�� �9���

� ���� � ����� �� ��� ����� ��� ���������� ���� ��� �������

����� �� ��� ��������� �� ������ ������������� ����������� ����� ��� ���������� ���� ��� ����������������� �� � +���� ������� ��� ���� ��� ������������ ��� ������������ ����������� ����� ��������� �� ��� ������ �� ��� ��������� ������=

&� : &������������������

%���9���� ���

� �� �;�<.<�

������� �;�<.<� �������� � ��������� �� ����������� ������ ��� ���������� ������� ����� ������������� ������ �� �������� ������������ %���9���

� ���� �� 9���� �� ��� ������ ���� ��� ��������

������������ ��� �������� ��� ��������� ���� ��� ��� ���������� ������������� �������� ��� ������ �� �� �� �������� � ����� ��� �� ������� ��� ���������� ������� ��� ���������� �������� ������������� ���� ������ �� �� �������� ��� �3���������� �� �������� � ��� ��������� ��������

��0�9�

��� � <��

���� 0��

�������&���

�������

<����

�� &����������

:

����

0��������� �&���

������� �;�<.&�

����� ��� �������5�� ���������� ������� �&���� : &

���� �

���� &

���� ��� �

������ ������� ��� �N�� ������

���Q����� ����� ���� ��� �������� ������������ %���9���� ���

� �� ���� �������� �� ����������

&-

���� ��� ������� ������� ������

��������� �� ��� �3��������� ��� �������� �� 0�9��� ��� &� �3��� ��� ��� ������� ��� �� ��� �������

�� ��� �������� ������������ �������� ��� ������� �� ��� ��������� ������������� ���� �� � ������� ��"��� ��� ��������� ������ �������� ��� �� �����3������ ���������� ���� � ��� �����4������������

���9�� ���

� � :����

�&���� �9�

� � �������� �;�<.(�

��� ��� ��������� ������� ������ �

���� ���� � :

����

�&���� �� � ����� � � �;�<.'�

�� ��� ���� �� "������� �� �� ��� ���� �� ��� ��� ����� ������ �� ��� ������ ���Q�������� �� ������� ��� ������� ��� �� ������� �� ���� � �� ������ �� ��������� �3���������� �� ��� ���� ����� �� �������� ;�-G ��� ;�--� �� �� ���� �� ����� ��� 0�9�

�� : 0���� ����� �����4���� ������������ �����3����� �� ������� ������������ ���������� ���� ������� ��� � ��� ������ �� ������������� ��� ��� ���� ��� ����� ��������� ���������� �������� ���������� ��� ���� �� �������� ������������ ������������ ���������� � ��� �� �� � ������� �������� 0������� �����3������� �� ������� ������������ ����� ��������� ������ ������� ������3 ��������� ��� �����4���������� ��������� ����� ������ ����� ��������

�����)��0 �� /�/� ���)

��� ���������� ���������� �������� �9�9� ��������� ��������� �� ��� ��� � ������� ����������= ����������� �� ��� ���������� ������� ��������� ������������� ���� ����� � ������ ����� � ��� �����4����� ��� �� ��� �������5�� ���������� ������� ����� �� < ����� ��� ��������� ������� ���� �� 5����8 ����� ������ �� ������� ��� ���� �/������� ������� ���� ��� ������ ��� ������� ����� �����4����� ������� ������ ���������� �������"����� �� ����� ���� ��������� � ���������� �� �������������� �� �� ���� �� ��������� ������� ���� ��� ���������� ������� ��� ������� ������� �������� ���������� �������� ���� �� ����� �������� � � +���� C���� +����4C���� �+C+C� �������� ����� ���������� ������ ������ ������� �/������ ��� ��������� ������������ ��� ����������

8 ��������� ������ ���������� �� ���� �������� ����� � ������ �� A��������B �� ���� ����

���� �� :

� � 9������ ��������� ������� ���� ���� �������� �� ��� ���������� ��������� ���������� ��������������� ,�)'- %<< '' 'G) �������� ��������� %<, (<) ��� ���� �������� ������� %-)�

9�������4���������� ���������� �9�1� �������� ������� ��� K���� ������ ������� ������ � �&���� �

���� �� ������ �������� ������ ������� ������ � ����� �� ����� ����� �� ������� � ��� ���������� ���� ����� ��������� <�� � ���� ��� �� ������������ � �������� �������� ���� ��� ��������

��� ������ M � : <� � � � � �� ���� ������������� � �&���� M � : <� � � � � ��� ������ ;�<G ����� � ��������� ���4

����������� �� ���� �������� ���� ��������� �/������� ���������� ��� �������� ����� �������� �� �����

��� �� �� 5������� '������� ��������� %<, (<) � ��� ���� ������� �� ���� ����� ���� ��� �� 9�1� �� ���

"��� ���� ��� ������ �� �������� ��� �������������� ��� ����� ��� !��� �������� ��� :

�� �&���

��

��� ����� �������� �� ���������� ��

� ������ �� ��� ������ ���� 9�1 �� ���� �� ������ ��� ���������

� � : � ����� ��

� ������� ���� ��� ������� &����� : �

��

��&���� � ���

�� ����� ������� ����

� ������ ��� ��� ���� ���� � � :

���� ��

� ��� ��� ����� �� ��������� ��������� � ��� �����

(.

���� ��� ������� ������� ������

sampling

Index

i

j resampled index p(i)

cdf

1

( )jtw�

1N −

������ ;�<G= -�� ���� �������" 3����#� � �� � ���� ������ � �����

� � �� ���� ��� ��� ��� 3�������

� �� � ���� ������ � ����! ��� ���� �� �� 3 ��� ����� ������#����!

������ �� �������� �� ���� �������� �� ���� ��� �� �� : ��� @��

� � ���� ��������� �� �������������� ������� ���� ���� 9�1 ��� ���� ��� ����� ������ ��������� ���� �������� ���������� �� ���� ������ �3��������� �� 9������ ;�D�& ��� ������� �� �� ���� ����� ���� ��� �����"� ������ �� ���������������� ���� ��� �����"����� �/��� ��� ����������� �� ��� �������� "������

8���� ��� ���������R���������� ���� �� ���� � �� ������ � ��������� ����������� ��������� �����3������ ��������� �� ��� ��������� ������������� 9���� ��� ��������� ���� ������ ��� ���������� �������� ������ �� ��� A"�����B ��������� ��� ��������� �� ��� �� ������ �� �������� ��� : .�������� ������ ����� ��� �� ������ � ����� ������ �� �������� ��� �3����� ���� ����� �� : � ���� ���������� ����� �� �� ���� ���� ����� �� � ������ ��������� �� �������� ��������� ��� �������������������� �� ����� �������� �� ��������� ������ ������ ����� ��� ��������� ���� ������� �/��������� ������� �� ��� �����3������� ��� ������ ���� �� �������� � ���������� � ������ +C+C ������ ���� ��������� ��� ����� ���� �� ���� �� ��� ��������� ��� ������ ����������� ��������� �� ������������ ������

� � ������ �� ��� ����� ���� ���� ��� � +���� ����� ���������� ����� ���� ������� ��������� ������������ �� ���� �������� ������� �� � ��� �� ��� ��������� ����������� ����������� ��� ��������� �� ��������� 7������ ��� ��� ��������� �� ���� �� ���� ����������� ����� �� ��������4������ K������ �� ��� +C+C ���� ��� ����� �� %'-)� ��� ��� �3��������� �� 9������ ;�D�& ������� ��� ���� ��� � +C+C ���� �� �� ����������� � 7������ ���� ������ �� ������� �� ��������

�!� �� ������� "��� � ��#������

��� ������4���� �� � ������� �������� "���� �� ��������� �� 8�������� ;�D�<� �� ������������ ������������� ��� ������ �� ��� �������� ������������ %�� �9���

� ���� � �� ��� ���� �������� ������ ������

��� ������� �������� ������������ ������ ������5�� ��� �������� �� ��� ���������� �������� �� ������ %&; (. ,,)

%���9���� ���

� � : ����9���� ���

� �� �;�<.,�

���� ��� ���� ����������� ����� ������ ����� ��� �������� ����� ������ ��� ��� ������������� 9����������� ���� �� �� ������ ����������� ��� �������� ��������� ������� ��� ���������� ��� ����� ������������������ �� ��� "��� ������� C���������� ��� ���������� ����� �� ��� ���� ������� ������ �� ��������

(<

���� ��� ������� ������� ������

.

LikelihoodPrior

������ ;�<-= :������ ��� ��� ������ �#��� ��� ��� ��� ������ � ������#����" ���3� �� �� � � ��� � ����

� ��� ����� �� ������ �� ���� ����������! ���� �� �� � � ��� ����� �� �� ��� ���������� � ���� �� ��� � ��

�� ��� � ��� �� ��� ����� ������#����" �� �� �� �� ��� ���3 ���3 � ������ ������!

������������ %< & <( <G &D)�

%���9���� ���

� � � ��������� �;�<.D�

��� �3����� �� �� �������� 0������� ������� ����� ����� �� ���� ��� ���������� ����� �� �����

��� ����� : � �� �I���� .� ��

����

�� �;�<.;�

��� �/���������� �� ���� �����3������� ������� �� ��� ����� ��� �������� ������������ �� �� ������� ��������� ������������� �� ����� �� ��� ������� ������� ��� � ��� ��������� ���� ���� �����"�������������� ������� ���� ����� ��������� ��� ����������

�1� �(� �� %(� �����&�� ������

8� ����������� �� ��� ������ �� �������� ������������ ���� ��� ������ ���������� ����� ����� ����������� ��� ������� �� ������ ��������� ��� �� ������������ � ������ ��� ��������� ������� ���������� �� ���� ��������� ����� �� ��� ���� ������ ����������� �� �9�� ������ ;�<-�� 8� �/�������������� �� ���������� ���� �� �� ��� �� �� ��������� 0������� �����3������� �� ��� ��������������� ����

%���9���� ���

� � � %� �� ���� �� �;�<.-�

����� �� ������������ � ����� � �������� �� �� �������� ��� ��������� � 0������� �������������������� ��� ���� �������� ����

%� ����� ���

� � : � �I����� ��

����

�� : <� � � � � �� �;�<<.�

���� �� �� ���� � ��� ���� ��� �� ��������� ���� ��� ��� ���� �� ������� ��� ���� ������������� �� ��� ���������� ������������ ��� ���� �������� ���� ��� �������� ���� ���� �� <� 6�3��� ������ ��� �4�� �������� ��� ���� �� ���� ���� ��� ������� ������������� *���� ����� ������ 0������� ���������� ��� �������� �������� � ������ �����3������� �� ��� ������� ������������������� ������������ ��� ��� ���� ����� �� ������� ����������� �� � ������ �� ������������ %G D)�

E ��������� ��� �� ���� ��� #�� �� ��� ���� ��������� ��������� ��� ���� ��� ������������ ��� 0������� �����3������� �� ��� ����� ������������� K������������ ��������� � ��� #�� ����

��� ������ � ������ � ���� ���� �� ������� � ������ ��)���� ����� ���������������

(&

���� ��� ������� ������� ������

������� ������ �����

�� :��� ��$ ���( � �

� ��� � �� � � � � �� �� 3 ��� �� ��� ����� ��� ��� ����� ����!

�� ��� � �� �� � � �

� :���� �� � ���� ����

� ��� � �� � � � � � " � ��� ����� � �����

���������

��

� ��� � �� � � � � � " � �� �� ��� ����� �� 3������ �� �� �� ��$�� ���� �(

����� � �

������

���������� ���

���� ��

������

������ ��

���������

��

������

� ��� � �� � � � � � " �� ��$� ��� ����� �� 3������(

������ � �

����

� ����

�����

���

� &������� ���� ���� �����

� 1�������4&������� � ���� ����� 3��� ����4��3 ����� �� 3������ �����

� " �������� ���" �� �#� �

� � �� � ���� ����� ������ ���� ������#���� ������� �� ���

���� � �

� !

� ��� � �� � � � � � " ��� ����� � �����

� � �

�� 1?1? � � ���� ������ ��

�� '�����( ��� ������ �� ��� ������� �� ��� �� � ���� �� � � #� ���� �� ������ �� ��� ���������������#���� � �����3�

������ �� �

����

��� � �

����

��� ���� � 11&� ���� ��� �� �� � �(

��� � ���� � �� �

����

�����

&��� � ������ ���� �� ��� ������ ���� � ��� #� � ���� ��� � � ��� �� ��!

��0����1� !:!#$ ��� ������ � ������ �����!

���� � ������� ������� ������� ���� ��� ���� ��������� ������������ ���� ��� ������� �������� � ��� �� ���������� �� �������� ������� ���������� ���� ��� ����� ����� ��������� ��� �� ������5�� ��������� ������� �������������� �� ��� ����� ������������ �� ���� ���� ��� ��������� ��� �� ����"���� ��� ���� ������������� ���� ���� ������� ����� ���� 0������� ������������� ���� �� C���� ��9������4� �������������� ��� ��� "���� ���� ������� ���� ����� � #�� ��� �������� ���������������������� ������ � �������� "���� �������� �� ������ ��� ��������� �������� ������ �#>��� 1��������

((

���� ��� ������� ������� ������

�� 8�������� ;�D�< ��� ��� ������� �������� "���� ��� "��� ���� �� ��� ���������� �������� ����=

� ��� � : <� � � � � � � ���� ����� � %�������������

�� �

�� �������� ���� ��� ��������� #�� ������=

� ��� � : <� � � � � � =

; ���� � ����� �� � <� ��� ���� ��� ��� ��� ��� �� �� � � ����

� ����� ����� ���� ��

������� :

�I������� I�

������ @ �

�������� I�

������ � �

��������

��;�<<<�

� ������� ��� �� �� � �� �� � �� ���� ��

� ��������� : �

�� ������� ����� ���

���

�I��������� :

�����

����� � ����

������� �;�<<&�

��������� :

�����

����� %� ����

������� � I���������)%� ����

������� � I���������)

� �;�<<(�

��������� : 1

�� ����������� ����

���

�I��������� :

�����

����� ���

������� �;�<<'�

� ��������� �� ������ ��� �������� ���� ��

������� :�����

����� % ���

������� � I���������)% ���

������� � I���������)

� �;�<<,�

����� :

�����

����� %� ���

������� � I���������)% ���

������� � I���������)

� �;�<<D�

(� : ��������������

I����� : I�

�������� @(���� � I�

��������� �;�<<;�

����� : �

�������� �(��������(

�� �;�<<G�

; ���� ����� � %�

���� �����������

�� � � � �

I����� ��

����

�8�� ����� ����� �� ��� �������� "���� ����������� ������ ����������

�!� ��" ��� ��� ���

��� ����������� �� ��� #�������� >������� ������ �� �������� �� ��� ���������� ��������� ��� "���������� �� � � ������� ������ ���������� ������� ��� ��� ������ �� � ���� ����� ������� ������������� ������� �� "������� ������������

('

���� ��� ������� ������� ������

���1���& �)������

��� ���� �3�������� � ����4������ ��� ��������� � ��� ��������� ������� �����

���� : < @ $���#' � @ (��� @ ��� �;�<<-�

����� �� �� � 0���� �!�(� &� ������ �������� �������� ��� ������� ����� ��� # : .�.' ���(� : .�, ��� ������ ����������� 8 ���4��������� ����������� �����

�� :

�(��

�� @ �� � (.

(��� � & @ �� ) (.�;�<&.�

�� ���� ���� (� : .�& ��� (� : .�,� ��� ����������� ����� �� �� ����� ���� � 0������� ������������� �.� .�....<�� 0���� ��� ��� ���� ������������ �� ��� ��/����� "����� ���� ���� �� �������� ��������� ��� ����� ����� �������� �� ��� � : < � � � D.� ��� �3�������� ��� �������� <.. ����� ���������� ��4��������5����� ��� ���� ���� 8�� �� ��� �������� "����� ���� &.. ��������� ��� ������������������� ��� #�� ���������� ���� ��� �� � : < � : . ��� : &� ����� ���������� ���������� ��� ��� ������ ����� ����� ;�< �������5�� ��� ����������� �� ��� ��/����� "������ ��� ���������� ��� ����� ��� ��������� �� ��� ����4������4����� �+9 � �� ��� ����� ���������� ������ ;�&.�������� ��� ��������� ��������� ���� � ������ ��� �� ��� ��/����� �������� "������ ��� ������������������� �� ��� ��������� �������� ���� �#>�� �� ������ ��������

���&�0 4�&��� �)����

K���������� ��� "������� ����������� ����� ����� ������� �� ���� ����� ������ ��� ���� ����������� �� �������� ����� ����� ������� ����������� ������� �3������ �� ����� %<D)� 8 ���� ������������ ��� ������ �� �� � ���� ������� �� � �����"�� ���� �� ��� ������ ��� � ����� ���������� ���������� ��� ����� �� ����� ��� ������ �� �3������� �� ���� �� ��� ����� ����� ����� ��� ���� ������� ��� ������ ������ �� ����� �������� �� �� ��� ������� ����� >�� ������� �� ��� ����� ��������� ��� ������ �� ���� ��� ������ ��� ���� �������� �� ����� ������� ��� %() E��� ��� 9������������� ��� ��������� ������� �������� ��������� ��� ������� ������� ���� ��� ��� �������

* : ��������+����������� �;�<&<�

, : ��������� @+������������ �;�<&&�

��0����1� /��

���� ����3������ ������ "���� � ��� .�(;' .�.<,#�������� ������ ������ �#��� .�&G. .�.<&>������� ������ = ������� .�'&' .�.,(>������� ������ = +C+C ���� ���� .�'<; .�.,,>������� ������ = �� �������� .�(<. .�.<D>������� ������ = �� �������� ��� +C+C ���� ���� .�(.; .�.<,>������� ������ = #�� �������� �A��������� �������� ������B� .�.;. .�..D>������� ������ = #�� �������� ��� +C+C ���� ���� .�.;' .�..G

����� ;�<= &� �� ���� ��� �������� �������! ���� ���� ���3� ��� � � �� �� �� ��� 1&� � ���� ���

� �� *++ �������� ���!

(,

���� ��� ������� ������� ������

0 10 20 30 40 50 601

2

3

4

5

6

7

8

9

Time

Filter estimates (posterior means) vs. True state

E[x

(t)]

True x PF estimate PF−EKF estimatePF−UKF estimate

������ ;�&.= 5��� �� ���� ��� ���� ��� #� ��� ��<���� ������ � ��� �������� �� �� ���� ��� ��������!

����� * ������� ��� ����� �� � ���� ������ , ��� ����� �� � ��� ������ � �� ��� ������� ����� �� ��������� ��� ���� ������� + ��� ������� ����� ����� � ��� ���� �� ������� ����� �� ��� ���������������� ������������ ��� �� ��� �� ��� ����� �

�� :�����+� @ �- @ .��&� �

.�

�� : �� � .�

����� . �� ��� �������� ��������� �� ��� ���� ������� ��� - �� ��� ���4���� �������� �������� ��������� . �� ������ ��������� ���� � ����� ������ ������ �� ���� ���� ��� ���� ������

,. �� <G. �� � %<D)� ��� ���4���� �������� ���� - �� ����� ��������� � ���������� �������� ����� ����� ���� ������� S�� �������� �� �� ����� - ��� . �� ��� ������ ������ ��� * ��� , �� ��� ������������������� � ��� � ��� ������� �� ���� ������� ������� ������ �������������� ���� ���������� ���������� ���������� ������� ���� ��� ��������� ����������� ����� � �������� ;�<&< ��� ;�<&&����� ������ �� �� �� ������� ���� �������� ���������� ������������� ��� - ��� . ��� �� ������������� ��� ������� ����� �� �� ������ �� ��� ����� �� ����� ������ ����4������ �� �����4������� 9��%(G) ��� %;) ��� ��������

8� �� �3����� ������ ;�&< ����� ��� ������� ���������� ������ �������� �� ���� ��������� ������� ������� ����� ������ ����� "�� ����� �� ���� ��� ��� ������ ��������� �� ��� E������ ��9 <..����3 ����� ������� <--' �� K������� <--'�� ������ ;�&& ����� ��� ��������� ��������� ����������� ���� ��� � �������� ���� � ����� ����� �� (&&,� �� ����� ;�& �� ������� ��� ���4����4����� �������5�� ������ ������ �� � ���� �� ������� ���� ����� ����� &-&,� ��� ������ ������ ������� �������� ���� ��� ���� <.. �� � �� ������� �� �� �� ����� ��� ���������� �� ��������� ����3�������� ��� �������� <.. ����� ���� <.. ��������� �� ���� �������� "���� ���� ���� ����� ����������M ��� �������� ���� ���������� 5����� �� ���� �3����� ���� ��� �� ��� #�� �������� ����������� ��� �������� ������������ ����� �� � �����"���� ����������� ���� ��� �������� ��������"������ ��� ���� ��������� �� ��� #�� ���� ��� �� �� ��� ���� �� �������������� ����� ��������� ���� �� ���� ������ ��/��������� ��� E��� 9������ ����������

(D

���� ����������

2900 2950 3000 3050 3100 3150 3200 3250 3300 3350 3400 3450

0.13

0.14

0.15

0.16

0.17

0.18

0.19

Impl

ied

vola

tility

dis

trib

utio

ns a

t t=

180

Strike prices

������ ;�&<= 5��# #����� ���� ��� ������ � ��� ��&��*++ ���� �*EE>�! 6������� ��� �� ������ ���� ���� ���

�� � ��� ����� 3��� ������ ����� ��� � �� ���� �� �����������" ��� �� �� �� ��� ���# #����� �� �� �� 3 ���

� ��� ��� ���������� �� � ��� ����� �� �����������! 5�������� � ���� ��� �#� ��� 3��� �� ���&������

���� � � ������ ����� )F0" ���� ����� ������ � �� )G0 � ���������$�� �� ������ )���

<)��� ��)� ��0����1� ��� -��

������� .�.;G 3������ ������ ������ � ��� .�.(;#�������� ������ ������ �#��� .�.(;

���� >������� ������ = ������� .�.(;>������� ������ = �� �������� .�..-��������� �������� ������ .�..-������� .�.(, 3������ ������ ������ � ��� .�.&(#�������� ������ ������ �#��� .�.&(

��� >������� ������ = ������� .�.&(>������� ������ = �� �������� .�..;��������� �������� ������ .�..G

����� ;�&= '������� �� � �� ��$�� ��� �� ������ � �� *++ ���! ��� ��� � � ��������� �� �#� ��� #� �����

�� � ��� ����� � ��� �����3�� � � ���������� �� ��� ������ �����!

��� #���������

��� �� ��� ���� ����� �������� �� � �������� ���� �� ��� ������� ��� ������� �������� �����4������� �� ���� ������� �� ���� ��������� �� ����������� �� ��� �� ����� ��� ��������� ������

(;

���� ����������

0 50 100 150 200 2504

6

8

10

12

14x 10

−3

Inte

rest

rat

e

0 50 100 150 200 2500.14

0.15

0.16

0.17

0.18

0.19

0.2

0.21

Vol

atili

ty

Time (days)

������ ;�&&= ���� ��� ������� � �� � �� ������!

"����� ��� #�� ��������� ��� �� ��� �����3������� ������ �� ��� �� ��� ����������� ���������� ����� �� ������ ����� �� ����������� �� � ���������� ����� �� ������3�� � ��� ����������� ����4"�� �� ��� #�� ����� ���������� ���� ������������ �� � ������ �� ����������� ������� �������������� ���������� ���� ���������� ��� ��������� �����������

����� ��� � ������ �� ����� ���������� �� ��� #��� ������ ��� ���� ��� ���������� �� ��� ������������� �� ���������� �� ������ ����� �� ������ �� ������� �� "��� ����� �� ��� ��� ���� ����������� � ���� �������� �������������� �� ��� ������� ��������� ���������� ��������� ����� �� ��� �������� ���� ��� �� ��� #��� *���� ��������� ������ ��� ��� #�� �� ������ ���� ����������� ������� �� ��� ������ ������������� ������3�� �� ����������� ��� ����� ���������� ���� ������������� �� ������� ����� �� ������ � �� ��� ��������� �� ��� ������� ��� ��������� ���������� �������������� ��� ����� �� ������ � �� ��� ������ �� ������������ 8� ������ ��������� ������4������������������ ���� 8������3 E� ��� �������� �� ������� ��� ����� �� ������3�� �� ��� ���������4���������� ����� ����������� � �������� ��������� �� ��� #�� �� ��� ���� �� ��������������� ���������� �� ��� �� �� ���� ����� ����������� �$�������� �� 7�������� ���� �� �� ����������� ��������� �� ���� �� ��������� �������� �� ���������� ����� ��� � ���� �� � N���� ��3N ����� �� ����� ����������� � ����� ��������� ��� ������������ �� ����� �� ���� �� �� �� ���� � ����� ��������������� �� ����� ������ ���� � ���������� ���� ��� ��4���������� �� ��� � ���� �� ������� ����� �������� ���������� ��������� ������� ����� � �������������� S� ��� ����� ���� ��� #�� ������ ����� ���������� ����������� ������� ��� �������� ������� ��� ��� ���������������� ����� ����������� ��� ����� ������������ �� ��� ����� ������ ��������� ���� � ������ ����������� ���� ���� ��������� � ���� ���� ������� ��� ������� ���������������

��� ������ ��� #�� ��� ����� ���������� ���� ��� �� ����� ��� ����� � ������ �� ������������8� �� ��� �� �� ���� � 0������� ���������� �� ��� ���������� ������ �� ��� ����� ������ ����4����� S���� ���� ���������� �� ����� ��� �������� ���� ����� ������������ ���� ���� �����������

(G

���� ����������

����������� ����� �� ���� ����������� 7������ ��� ������� �������� ����� �����4����� ��Q����������� � 0������� ���������� ���� ��� ���� ��� ��� #�� ��� ��� ������ �� ������� ����������� ���"������ �� ���� �3������ ��� ��� �� ������ �� ���� �������� ��� ���� ���� �����4��������� �3������� "������� ��������� ���� �� �������� "����� ���� 9������ ;�D� ������ ��������������������� ���������� ������� �� ���� ���������� �� ��� �������� �� ������ ��� ����� ����������������������� ���������� ����� � � ��� �� *���� �� ���� ��������� �� ������� ���� ������������ ��� �� ������ ����� ���������� ��� ������� ��������� ������ ������� �� ��� �����"�� �� ���������� �� ���� ��� �� ��� ���� ����������� �� ������� ��� ������ �� �������� ���� ��� �������������� ��� �����4���������� ��� ��� � ������� �/��� �� ����������� ��� ����������� ���������� ������ ���������4����������� S�� ������� ��� ������� �� ���������� ���� ����� ������� ����������� ���"�� ��� �������� �� �� ����������� ��� ������� ����� �� ����� ����������� S���� ����� ������ �������� ������� �����5��� ��� #�� ��� ���������� �� ����� ����������� �3������� �� ��� #���� ��������� ������������� ���� �� ������� � ����� ����������� ���� C������ & ��� ,� ��� ��� ����� ��� #�� ��� �������� �� ��� 3���������4+�3���5����� ��������� ���� C������ D�� C����� ������ ��� ����� �� ������� ��� ������� �� ��� �������� ������������ ���� ��� ����"� ���� ��� �� ���#���

$�%��&��'������

���� ��� ��� ��������� �� ���� � 69� ����� ������ C94..G(<.D ��� �1�4-;<&('D ��� K81>8����� ����� �((D<,4-G4C4(,<D�

$�����( $) $�����* �+ ��� �������� �����+��������

�� ���� ������� �� ���� ��� ��� ��������� �������������� �������� &�� ����� ������� �� ��� ������4���� �� ��� ��������� ���� ��� ���������� �� � ������ �������� ���� ��������� � ��������� ��������4������� ��� ��� ������� �� ���� ���� ��� �� ������ ���� ��� ��������� ��������������� ��� ���� ��������� ��� ������ �� ��� �������� ������ �� � ���� ��������� ������� ���� ��� ��������� �������� ����� �3������� �� � �����4����������� �� ��� ������ ���������� �� �� �������� ������ �� ������ 8���� ������ �� ����� �� ��� ��� ���� �� ��"��� ��� �������� �� ��� ������ ����� �� 5���� ���� ����������� ��� ������ ���� � ��������� �� ��� ���� ����� �� ��� ���������

�� �� �������� ��� ����� �������� �� ����� ��������� ����� � ���� I � � 5���4���� �����������Æ ���� ���������� �� ���� ��� �� ��� ������ �3������� �� ��� ��������� �������������� �� �����I ��

�� : �I@ � :

����

��Æ � ���

���

�U

���

�;�<&(�

�� �� ��"�� ��� �������� �� ��

��Æ� � %�Æ � ���

���)�� �;�<&'�

���� ��� �� ��� ������ �3������� �� ��� ��������� �������������� � : �� ��� �� ������� ��

� : �� : �I� @�� @<

&��� @

<

(U��� @

<

'U��� @ � � � �;�<&,�

(-

���� ����������

�&&���&� �' �1� /��

��� ���� ���� �� � �� ����� �

I� : � %�) : � %��) �;�<&D�

: �

��I� @�� @

<

&��� @

<

(U��� @

<

'U��� @ � � �

��;�<&;�

�� �� ������ ���� �� � � ���������� ������������� ������ �������� ���� ��� ���4������� ���� ��5���� 8��� ���� ���� � %ÆÆ� ) : ��� 0���� ���� ��� ���� ��� �� ������� ������� ��

I� : �I� @<

&

����������

���

@ �

�<

'U��� @

<

DU��� @ � � �

��;�<&G�

��� #� ���������� ��� ��������� ���� ���� ��� ���������� ����� ������ ����� ������� ;�((���� ����� ������ ��� ����� �

�� : I����@ ���

: I� H��

����� �� ������� ��� �� " �������� �� ��� �����3 ������ ���� ����� ���� ������� ������

�������� � :

��� 0���� ���� ����������� �� ��� ����� ������ �� ��� ����� ����� ��� ����������� �� ���� ������������ ��� ��������� �������� �� � �� ��� ������ �3������� ����� I

� : ����: �I� @���� @

<

&��

��� @<

(U��

��� @<

'U��

��� @ � � �

#���� ������� ;�(( ��� #� ��������� ���� ��

I��� :

�@ �I� @

<

&��@ �

�����

��I� @���� @

<

&��

��� @<

(U��

��� @<

'U��

��� @ � � �

: �I� @<

&��@ �

�����

����� @

<

&��

��� @<

(U��

��� @<

'U��

��� @ � � �

9���� ��� ����� ������ ��� � ���������� ����������� ������ I ��� ��� ��� ������� ��� 5���� ����������� �� ��� ��������� ������"������

I��� : �I� @<

&��@ �

�����

�<

&��

��� @<

'U��

��� @<

DU��

��� @ � � �

���� �����

<

&��@ �

�����

<

&��

��� :<

&��@ �����

������

���@ ���

��

��@

� ���

:�@

&��@ �����

<

&

������

�����

���

:<

&

����������

���

������ ������� ��������� ����������� ��@� /������� 4����� �� ������4�� 4����� A�B "� ������� �" �&����� ��� ��� ��*�� ���� �� �����������

'.

���� ����������

��� #� ��������� ���� ��� �� ������� ������"�� ��

I��� : �I� @<

&

����������

���

@<

&��@ �

�����

�<

'U��

��� @<

DU��

��� @ � � �

��;�<&-�

*��� �� ������� ��� ������� ;�<&G ��� ������� ;�<&- �� ��� ������ ��� ���� ��� ���� ������������� ��� ��� ���� ���������� � ��� #� ������ �3���� �� ��� ����� ����� ��� ���� ������ ��� ��� ���������� �� ��� ������ ��� ������ ����� ������ ��� ��������� �� ����� ������ ������ �� ��������� �� ��� ��������� ������� ��������� �� ���� �� ��� ������ ����� ����������� �� � �� ��������� �������5����� �������� ���������� ��� ��������� ���� ��

I���� : �I�� �;�<(.�

����� ��� ������ ���� ��� ���� ��������� ���� �� �� ��� "��� ������ $����� ��� #����� ����� ��%&&) ���� �� � ����4� 4���� ����� ��� ������ �� ��� ������ ����� ����� �� ��� #� �� ����������� ������� ���� ����� ��� �������5������

�&&���&� �' �1� �� ����&�

��� ���� ��������� ���������� �� ����� �

�� : ���� � I�� ��� � I�� �

��: �

����

�� I�I�� �;�<(<�

����� ��� �3��������� �� ���� ���� ��� ������������ �� �� 9����������� �������� ;�<&, ��� ;�<&;���� ������� ;�<(< ��� ��������� ���� ��� ��� ������� �� Æ ��� 5��� ��� �� � ����� �� �������� ��� ���� ��������� ���������� ��

�� : ������� �

<

'

!����������

� ����������

��"��

@�

����

����

<

�U/U���

����

����# $% &

����

� ����

����

<

�&��U�&/�U������

��

���

����# $% &

����

�;�<(&�

����� �� �� ��� $������� �����3 �� �� ��������� �� I� �� ��� �� ����� ������ � ������� ���������� ��� ��� ��������� ����� ���� ��������� ���������� ���������� � ��� #� �� ����� �

������ : ������� �

<

'

!����������

� ����������

��"��

@<

&��@ �

�����

'( ����

����

<

�U/U��

���������

��)*

# $% &����

� ����

����

<

�&��U�&/�U'��@ ��

�����

�����

������

��

�����

����

# $% &����

�;�<((�

C�������� �������� ;�<(& ��� ;�<(( �� �� ����� ���� ��� #� ����� ���������� ��� ��������� ������������������� �� ��� "��� ��� ����� ���� ������ ��� ���������� �� ��� ������ ��� ������ ����� ��������

'<

���� ����������

$����� ����� �� %&&) ��� ��� �������� ����4� 4���� ����� �� ����� ������ ����� ������� ��� ���������������� ������� ��� ��� #� ���� ��� ��� �������5�� ���� ����� ��������� ��� �� ��� ������ �������� "��� ���� ����

������� : ������� � �;�<('�

��� ���� ���������� �� ������� ��� ����� �� ��� � ��������� �� ��� #� �� �� .� �� ������������� ����� ��� ����� �� ��� ����� ������������ �� �� ���� � ��� �� ��� �� � ���45��� ��������� ������5�� ��� ����� �� ���� �� ��� ������ �� '� ����� �������� $����� ����� �� %&<) ��� �������� �� ��� ������� �� ��� ��������� ������������ �� ������5�� ��� � 0������� ���� � : &�

$�����( ,) ������ -.���/���� ��� ���������������

�� ��� �������� ������ �������������� ��� ����� ��� ���������� ���������� �� �� ���������� ����������� ��� #�� �������� ����� ��� �����3 ������4���� ���

�� : �� �� ���� ���� ���� ����� ��

�����D� ����� � C����� �������5������ �� ��� 9�����41��� #�� �914#��� �� ���� �� ����������������� �������� ��� ���� �� ���������5� �� ���� ���� ����� ��� ��������� ���� �� ������� ����� ������� ��� �����4���������� ��� ���� �������� ��������� ���������� ����� ���������� �������� ����4��"�������� �� ��� �����4������������ ������� �� ����� �� �������� ������4���� ������ "����� %',)�7������ ��� ��� ������� �����4����� ����������� �� ��������� ���������� �� ����� ��������������������� �������� ����������� ������3�� �� �� ��������� ������������

��� ������4���� ���� �� ��� #�� ���� ��� �� ����� �������� ������ ������� ������������ .'��� � ���� � %� ���$� ���� � �������� ��� ������ ����� ������� ����� �� ����! ������ �����=

� .' ��� � ���� �� ��� V1 ������������� �� �������5����� �� � �����3 � ���� �� �����

� �� : =� ����� = ���� �� ���������� � �

��� �� ����� ���������� ��� � � ����� ����� ���������� ���� �� � H� �� ��� ��������� �� ��� C����� ������ �� � : ��� ���� H� : �� ���� ���� H�� H� : ��� � *� ��� ��� ��������� �������� ����� �� ������ �V1 ������������� �� � �����3 ����� ��� H� �� ��������� ��� ������������� ������3�� ��� V1 ������������� �� ������� 6��� ���� ���������� � C����� �������5����� ������� ��� : ��� �� �����D� ���� ������ �� ���� ��� �

� %� ���$� ���� � ��������� �� � �� ��� �������� ����� ���������� C����� ������ �� � : ��� ���� ��� C����� ������ �� ��� ���4< ������ ��� ��������� � ��0��� �� ������� �� � :����������������0�� �� � �� � �����3 ��� ��� � ������ ���� ��� ������ �� � ������������������ �� ��� C����� ������ ����� ��� � ������� �� �� ���� ��������� ���������� �� +������� ��������� �� ��� ����� ��� �������

� "����� ����� �������� ��� �������� �� ��� �������� ���� � : ��� ���� ����������� �� ����������� �� ��� �������������� ����� ������� ������� � : �� ���� ��� �� ������ ������� ����� � V1 ������������� ���� �������� ������������ �� +�����N� NRN ����������

��� �������� �����"������� ��� ��� ��� ������4���� "����� ��� ����� �� ����� ;�;�< ��� �����4���������� ��� ;�;�& ��� ���������4����������� E���� �� �������� ��� � ����� �� ��� ������4�������������� ��� ��� ��� �������� ���� ��� �������� ���������������� 3���������� ������� ���������� ���������� �� ��������� �� %,. ,<)�

��4�� �C-� "� ���������� �� �� ��������� ��������

'&

���� ����������

��������5� ����=

F� : � %� ) �� : ����+� %�� � F���� � F��

� ),

�;�<(,�

��� � �<� � � � ��9���� ����� ����������� ��� ���� ������=

� ��� : %F��� F��� @ ��� F��� � ���) �;�<(D�

� ����� : �%� ��������) �;�<(;�

F�� :

�����

����� �������� �;�<(G�

��� : ��

����

����

�� ���������� � F��

� ���

�-�;�<(-�

��� : ����������!��� � ���� � F�� � �

����

"�;�<'.�

������ : �%� �����) �;�<'<�

F��� :

�����

����� ������� �;�<'&�

+���������� ������ ���������=

���� : ��

����

���� %������� � F��)

����

�-�;�<'(�

���� : ����������!���� � ��� � F�� � �

����

"�;�<''�

����� :

�����

����� %�������� � F�� )% ������� � F��� )

� �;�<',�

�� : ������������������ �;�<'D�

F� : F�� @����� � F��� �

% : ������ �;�<';�

�� : ����������+��� � % � 4<

,�;�<'G�

���������� ! !#$ &�� ���-��� ��� ��� �� ������� ���!

�8����.���� �����.���������

8� �� ��� �������� #�� ��� "���� �� ��������5�� � ����������� ��� �����3 ������4���� �� ��� ��������������� ���� ��� � C����� �������5����� � ��� ;�<(,�� 7������ ��� ���������� ��� �������C����� ������ �� ���� ���� �� ���������� ���������� �� ������� ���� ��� ����� ������� �� ��� ;�<(-��� ���������� �� ��� C����� ������ �� �� ���������� ����� � V1 ������������� �� ��� �������������3 ���������� ��� �������� ���������� ����� ������ ��� ��� �����3 ������4���� �� ��� ��������������� ����� ����������� ��� ���������� C����� ������ ��� ��������� �� ��� ;�<'. �� ��������

'(

���� ����������

����� ��� ��� 5����� ������ ����� �� �� ��������� ����� ��� ����� ������� ��� ���������� �� ��

�� ��� ;�,, ��� �� ���� ��������� ���� ���4���� �������� �� ������� �� ��� ����������� �� ��� C����� ������ ��� �� ���

�����������4����� ���������� �� ���� ;�<'( ��� ;�<''� ���� ���� �� ������ ����� � �� ��� �����4������ ���������� �� �������� �� ��� �� ��� ������ ���� �� ���������� �� ��� �������� #�� ���� ��� ;�D.� �� ��� ��� ��� ������ ������� ��� ����� �������� ��������� �� ��� ��������� �3������� �� ��� ;�D. ��������

����� : ����� � 9���� ��� �� ������ ��� ���������� ������ A���4�������������B

��� �� ���� �� ����� ��� �� ������� ������� ��� ���� ��� � �����3 ���������������� ��� ��������� ����������� ������ �� ��� C����� ������ �� ��� ����� ���������� �� ���4

������� �� ��� ;�<'G � ���� ��� � ���������� C����� ��������� �� ��� � ��� �������� ���������� ��� ������� �� % : ������ � ���� �������� ��� ��������� ������ �� �� �� ��� ;�D& ��� �� �����������

��������5� ����=

F�� : �%�) ���: ����

+�%�� � F����� � F���

� ),

�;�<'-�

��� � �<� � � � ������ ������ ��� ����� ����� �����������=

F��� : F���� �;�<,.�

���� : ������� ����� �� ���� : ����� @����� �;�<,<�

������ :�F��� F��

� @ ����� F��� � �����

��;�<,&�

������ :�%� �������) �;�<,(�

F�� :

�����

����� �������� �;�<,'�

+���������� ������ ���������=

�� : ��

����

����

������� � F��

� ���

�-�;�<,,�

�� : ����������!�� � ���� � F�� � �

����

"�;�<,D�

���� :

�����

����� %�������� � F��

� )%�������� � F��)� �;�<,;�

�� : ������������� �;�<,G�

F�� : F��� @����� � F��� �;�<,-�

% : ���� �;�<D.�

��� : ����������+���� � % � 4<

,�;�<D<�

����� ����� : �1�!�+�����

,@�

1�!�+�����

,�@ 1�!�

+�����

,�

����� ! !"$ &�� ���-��� ��� ��� � � ��������� ���!

''

���� ����������

�8����.���� ���������.���������

��� ���������4���������� ��������� ������� � ������� �������� �� ���� �� ��� �����4����������������4���� #��� 7������ �� ������ ��������� �� ������� �� ����� �� �������� � �������������� �� ��� ������ ����� ���������� ��������� 9����"���� ��� ����4������ �� ��� ����� ������������ ����� ����� � ��

��: ����� @��

��� ���� 9������ ;�' ��� ���������� �� ��������� ������� �� ���

������4���� "����� ��� �� ���� �� ������� ������� �� �� ;�<,< ����� ��� �� ��� �������= <� ���� :

������� ����� ������������� �� �� �3��������� ��������� �� ���� ����� &� �

���

: �����@����� �������� �������� �����3 ����� �� ������ �� �����3����� ��� �/���� �� ��������� � �������� ������� ��������������� ��

���� E��� ������� ����� ��� ����� ����� V1 ��� C����� ����� ������� ��������

�� ��� �����4���������� "�����

������ � ����� ����� ��� ��� ���*��� �" ���� �� �&���� 0������ ��������� �) ���*��� ���� ����

����������

9����������

�� ���� �������� 1����*� ��� �)��� � ��� �*��*����2�

',

����������

%<) K� 8���5���� 8 ���������� ���������� E� ����� �������� �� ����������� �������� )"" �� ��������� � '����/ � ��� ��� (������� � <'&�&�='<W'' <--,�

%&) � 1� E����� ��� >� +� KQ���X�� 8 ���� �������� E� ����� ��������� "���� ��� ��������� ���������� ����������� )""" 0�������� �� � &�� ����� ��� "����� ��� ������ ((�<�=((GW('( <--;�

%() �� E��� ��� +� 9������� ��� ������� �� ������� ��� ��������� ������������ 1 ����� � � �������"� � � G<=D(;WD,- <-;(�

%') 1� *� E��������� 8� 8������� +���� ��� ��� 8�88 C������� K����� C��������� >1C ���� ������ C8�

%,) $� 1� C������� C� 6� KN9��5� ��� C� >� +����� 6�������� ���������� ��� ��������� 74��"��� ������� ��� ��� �����4��������� 1������ �������� ���������= >���< ����� � �� �� �������� � ���)�������� ��� % �������� � ( ������� �� ���� �� &����� � ��� &�� ����� K� ���� E�����? +� <--D�

%D) $� �� 0� �� �������� 2������� #��� �� � � (����� (��+ �$�� >�K ������ C�������� #�������� ���������� K��������� <---�

%;) $� �� 0� �� ������� +� 6����Q�� 8� 7� 0�� ��� 8� K������ 9��������� +���� C���� ��������� ����� ������ ������ ������� (����� % ������ � <&�'�=-,,W--( &...�

%G) 8� K������ S� ���������� ����������4����� ������� ��� E� ����� "�������� ��������� 1�����C# KR�4�6� 60R�1 (<. K��������� �� ���������� C�������� #�������� <--G�

%-) 8� K����� $� �� 0� �� ������� ��� 6� $� 0������ ������������ �� ���������� +���� C������������ �� 8� K����� $ � 0 �� ������� ��� 6� $� 0����� ������� ���������� # ��� %��� #��� �� �� ��������� 9�������42����� &...�

%<.) $� >� K������ K���������� �� � 6�������� 9��������� ��� ��� +�K������ K������ �4<, �������� � ?����������� � C9 C������ ?��� +�����N� ������ K���� �� 8���������� ��� 8�����������#�������� �� *��������� <--'�

%<<) E� ����� 0�� 2 ������/ 1��$���� ��� ���� '�������� ������ 9�8+ >����������� <-G&�

%<&) Y� 0��������� ��� 9� �� 1������ ?������� ��������� � ������� � ����� ����� �� + ����4������ �� +� $� ������ 9� 8� 9���� ��� K� 8� C��� ������� &������� �� (����� )�� ���� ��� ������� ������ 334 �� �������� � ��� 3556 % ��������� +�� >���� <---�

%<() 6� $� 0����� K� $� 9������ ��� 8� �� +� 9����� 6���� �������� �� ���������R���40�������E� ����� ����� ����������� )"" �� ���������� <'.�&�=<.;W<<( 8���� <--(�

'D

��������� �� ��������� ��

%<') 9� 7� ��� &������� ������ 0�� ��� >�������47��� ��� ( ������� <--D�

%<,) �� 7������� +���� C���� "���� ����� ��� ������� ��������� ���������� 1 ����� � �����������% ������ � ��� ������� � ,-�<�=<W&( <--;�

%<D) $� C� 7���� 7��� ��/ �������/ ��� 7���� 8����������� >������� 7��� ����� ������� <--;�

%<;) �� ����� +�������4������ ��������� ����� ��� ��� ���������� �� ����� � � ���� ����� � �����7��� % ��� (.�&,;� <-;-�

%<G) +� ����� ��� 8� E���� C������ ������� � ���������� ����������� �� ����������� ������ � ��"�� ���� % �������� � % ����� 9��� � ����� ('(W(,D C�������� #� <--D�

%<-) �� ��� ��� �� J����� 0������� ������� ��� 6�������� ��������� >�������� )""" 0�������� �� � &�� ���� % ��� � ',�,�=-<.W-&; �� &...�

%&.) 8� $�5���� � �� ������� �� ������ ��� ��������� 0�� ��� 8������� >���� 6�� Z��� <-;.�

%&<) 9� $� $������ ��� 9����� #�������� ��������������� 0 ������ �� &�� ����� &...�

%&&) 9� $� $����� ��� $� �� #������� 8 0������ +����� ��� 8����3������� 6�����4��� ��������������� �� >��������� K������������� ��������� ������ 110 K���� �� ���������� 9������ #�������� �� S3���� 6�� <--D� ����=RR������������3�����RH��Q�R���R������������R������ ��5�R#���������5���

%&() 9� $� $����� ��� $� �� #������� 8 6�� 3������� �� ��� ������ ������ �� 6�������� 9 �������� �� �� � &�� �����4 0�� 33�� )��� ���� � &�� �����:8������ �������/ ������� � ���% ��� ��� <--;�

%&') 9� $� $����� $� �� #������ ��� 7� K������4*� ��� 8 ��� �������� ��� "������� ���������� ������ �� �� �������� � ��� &������ % ��� � % �������� ����� <D&GW<D(& <--,�

%&,) 1� � ������� 8 ��� �������� �� ������ "������� ��� ���������� ��������� 0����� &�#"1 ����� �2���� "���������� ����� (,W', <-D.�

%&D) 0� ��������� +���� C���� "���� ��� �������� ��� ���40������� ��������� ����� ����� �������1 ����� � % ������ ��� ��� ��������� ���������� ,=<W&, <--D�

%&;) 8� ���� $� 9� ?�� ��� *� 7� *���� 9��������� ����������� ��� E� ����� ������� ������������� 1 ����� � ��� &������ ����������� &�� ����� � G-�'&,�=&;GW&GG <--'�

%&G) 8� ?������ ��� 1� ������� 6�������� 9����� >��������� ����� 6����� 6������= >��������� ���9 ���� ���������� ��������� 1����� ?8#1G;&DD& ?�� 8����� 6������� ?�������� <-G;�

%&-) �� ?� ?����� 7����� "������ �� $��� *��� [ 9��� ���� 6�� Z�� <-GD�

%(.) $� 9� ?�� ��� 1� C���� E���� ������������� ��� ���������� ������������ 1 ����� � ��� &����������������� &�� ����� � -.�'(.�=,D;W,;D $��� <--,�

%(<) $� 9� ?�� ��� 1� C���� 9��������� +���� C���� ������� ��� � ����� � ������ 1 ����� � ���&������ ����������� &�� ����� � -(=<.(&W<.'' <--G�

%(&) ?� ?Q��� ��� �� 9P�������P��� 0�� �� ��� �������� � '�������� )��������� �� +�� >����C�������� +8 <-G(�

';

��������� �� ��������� ��

%(() K� $� C� +���� � ����=RR��������� ���������R���� R���������������� ***�

%(') K� $� C� +���� � 8 >�������� E� ����� �������� ��� E������������� 6������� (�����% ������ � '=''GW';& <--&�

%(,) +� +��� ��� ?� 0����� S���������� ��� ����� �� � �� ���������� ������� � ����� �������<-;�&G;� <-;;�

%(D) +� E� +�������� 8 �����4����� �������� �� �������� ��������� "������� ����� ��������� �������������� �� �� �������� )&�0"8 )�������� ���� &������� )����������� &�������� � ��� (�����(��+ �$� ����� <-;W&.. <--.�

%(;) 8� �� 6������ ( ������� "������ � ��� # ������ � ( ��� 0��������� �� 8��� ����� ���������� #��� ��� >�K ������ S����� 0������� ��������� &...�

%(G) +� 6����Q��� 9��������� ������� �� ������� "������� ������� ����� ����� ����� ��� ������������ ����������� �� + C +�5�� + � $����� ��� � >������ ������� &������� �� (�����)�� ���� � �� ������� ������ ������ G ����� -D.W-DD <--D�

%(-) +� 6L������ 6� �� >������ ��� S� 1���� 8������� �� K���������4���� 9���� ��������� ���6�������� 9 ������ ��������� 1����� �++41 >4<--G4<, K��������� �� +����������� +��4������ R K��������� �� 8��������� ��������� #�������� �� K����� &G ? ��� K�����8���� &...�

%'.) *� 7� >���� 9� 8� ������ *� �� 2��������� ��� E� >� ������� � (������� '������ �� % 40�� &�� � �������� % ������� C�������� #�������� >���� & ������� <--&�

%'<) 0� 2� >������� ��� ?� 8� �������� K�������� 3������ ������ ������ �������� �� �������4���� ?� ���� 6������� �� )1%(( ������ < ����� ;;<W;;; <--<�

%'&) 0� 2� >������� ��� ?� 8� �������� 3�������� ��� ����������� �� K�������� 3������������ ������ ��������� �� )%(( ������ ( ����� <G;-W<GG( <--;�

%'() 7� 7� 1��������� 8� 8�������� +����� ��� ������� ��� 0������� �� ?���� 2���� �� � ���������% ����� 1 ����� (=<;,W<G' <-D.�

%'') K� E� 1����� #���� ��� 9�1 ��������� �� �������� ��������� �������������� �� $ + E�������+ 7 K�0���� K 2 ?����� ��� 8 � + 9���� ������� 2������� ���������� ; ����� (-,W'.&C�������� +8 <-GG� S3���� #�������� >�����

%',) 8� 7� 9� �� ��� �� �������� 8 9����49���� 8������� �� 8������� 1?9 ���������� )""" �������� ������� #���<��� ����� <GWD. $�� <--'�

%'D) 1� 7� 9����� ��� K� 9� 9��/��� 8� �������� �� ���� ������ ��������� ��� ����������� �������� + ���������� 1� 0�� ������ &������� (�'�=&,(W&D' <-G&�

%';) 9� 9������ ��� ?� *�� �������� ������� �� ����������� ���� ��� �3������ ������ "����� ��&������� �� (����� )�� ���� � �� ������� ������ 3 ����� <((W<'. 9�� +���� C8 <-G-�+����� ���/����

%'G) 8� �� +� 9���� ��� 8� � 0������� E� ����� ���������� ������� �����= � ��������4���������������������� &������ ������������ 'D�&�=G'WGG <--&�

'G

��������� �� ��������� ��

%'-) 1� ��� ��� +���� $� �� 0� �� ������� 8� K����� ��� � 8 *��� ��� #�������� >������� ���������������� 1����� C# KR�4�6� 60R�1 (G. C�������� #�������� ���������� K���������C�������� ������ 8����� &...�

%,.) 1� ��� ��� +���� ��� � 8� *��� ����� ����������4���� ����� "����� ��� ������ ��������� ��0 ������ �� "�� ���� ��� ��� � &������� (����� (��+ �$� ,"�&((- E����� E������8���� &..<�

%,<) 1� ��� ��� +���� ��� � 8� *��� ��� ������4���� ��������� ����� "���� ��� ����� ������������4����������� �� 0 ������ �� )�������� ��� % �������� � &� ������/ ������/ ��������� �� ������� 9��� ?�� C�� #��� +� &..<�

%,&) � 8� *�� ��� 8� �� 6������ 6����� ���� �3������ ������ "�������= ������������ �� ����������������� ��� �������� ����� ������ ����������� �� �� �� (����� (��+ �$� � � ������ �� �������� = �$�� �� � <--;�

%,() � 8� *�� ��� 1� ��� ��� +����� ��� #�������� ������ ������ ��� 6�������� ������������ �� �������� � ��� ��� >??? � &������� ������ � � ������ �� �������/ % ������� ���� % ��� � ,&����%%- ?�� ?����� 8������ C����� S������ &...� � �

%,') � 8� *�� 1� ��� ��� +���� ��� 8� �� 6������ K��� ��������� ��� ��� #�������� ��������4������� �� 9�8� 9���� ���� ?��� ��� ��41� +P����� ������� &������� �� (����� )�� ���� ��� ������� ������ 3> ����� DDDWD;&� +�� >���� &...�

%,,) 2� 9� Y������� 2� E� 9����� ��� ?� �� 9����������� +����4C���� ���������� �� �������� ��������� ����������� ����������� &�� ��� � ��� '� �� % ��� � (D�(�=&.<,W&.&& <-;,�

'-